Python 将考拉数据帧转换为Spark数据帧是否有成本?
我知道熊猫在“引擎盖下”使用字典中存储的numpy数组工作。相比之下,考拉使用的是底层的Spark框架。这是否意味着在考拉和Pypark数据帧之间来回切换不会产生额外的成本Python 将考拉数据帧转换为Spark数据帧是否有成本?,python,performance,dataframe,pyspark,koala,Python,Performance,Dataframe,Pyspark,Koala,我知道熊猫在“引擎盖下”使用字典中存储的numpy数组工作。相比之下,考拉使用的是底层的Spark框架。这是否意味着在考拉和Pypark数据帧之间来回切换不会产生额外的成本 #convert to pyspark dataframe df.to_spark() #convert to kolas frame koalas_df = ks.DataFrame(df)
#convert to pyspark dataframe
df.to_spark()
#convert to kolas frame
koalas_df = ks.DataFrame(df)