Apache spark 如何知道执行pysaprk代码需要多长时间
有没有办法知道一个代码需要多少时间才能完成?或近似值 我在想,当你在windows中处理一个文件时,它会显示还剩多少时间,或者例如,当你下载某个文件时,它会告诉你大约需要多少时间 对于火花代码,有没有办法做到这一点?从非常简单的查询,到更复杂的代码Apache spark 如何知道执行pysaprk代码需要多长时间,apache-spark,pyspark,apache-spark-sql,Apache Spark,Pyspark,Apache Spark Sql,有没有办法知道一个代码需要多少时间才能完成?或近似值 我在想,当你在windows中处理一个文件时,它会显示还剩多少时间,或者例如,当你下载某个文件时,它会告诉你大约需要多少时间 对于火花代码,有没有办法做到这一点?从非常简单的查询,到更复杂的代码 多亏了Spark,他们自己也考虑过实施这项计划,但由于预测掉队者完成时间的不确定性,他们决定不实施。请参阅本期spark中的讨论 所以你不会从spark那里得到这些信息。相反,您必须实现自己的估算模型。谢谢,您知道我如何建立模型来预测这一点吗?
多亏了Spark,他们自己也考虑过实施这项计划,但由于预测掉队者完成时间的不确定性,他们决定不实施。请参阅本期spark中的讨论
所以你不会从spark那里得到这些信息。相反,您必须实现自己的估算模型。谢谢,您知道我如何建立模型来预测这一点吗?