Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/6.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark AWS EMR上的Livy jobs子任务_Apache Spark_Pyspark_Airflow_Amazon Emr_Livy - Fatal编程技术网
Fatal编程技术网
  • apache-spark/
  • Apache spark AWS EMR上的Livy jobs子任务

Apache spark AWS EMR上的Livy jobs子任务

apache-spark pyspark airflow

Apache spark AWS EMR上的Livy jobs子任务,apache-spark,pyspark,airflow,amazon-emr,livy,Apache Spark,Pyspark,Airflow,Amazon Emr,Livy,我们正在使用Airflow在EMR上安排作业，目前我们希望使用ApacheLivy通过Airflow提交Spark作业 我需要以下方面的更多指导： 对于Python3+pyspark和scala作业，我们应该使用哪个Airflow Livy操作符。 我看到了以下几点： 和 想知道更多关于稳定的空气流动操作员的信息，生产中使用的任何人可能都在AWS堆栈中 还有集成的分步安装指南。我建议使用 目前，它仅在Master中可用，但您可以复制粘贴代码并将其用作自定义运算符，直到我们为Airflow 1.

我们正在使用Airflow在EMR上安排作业，目前我们希望使用ApacheLivy通过Airflow提交Spark作业 我需要以下方面的更多指导： 对于Python3+pyspark和scala作业，我们应该使用哪个Airflow Livy操作符。 我看到了以下几点： 和

想知道更多关于稳定的空气流动操作员的信息，生产中使用的任何人可能都在AWS堆栈中

还有集成的分步安装指南。

我建议使用

目前，它仅在Master中可用，但您可以复制粘贴代码并将其用作自定义运算符，直到我们为Airflow 1.10.*系列备份所有新运算符。

我建议从

目前，它仅在Master中可用，但您可以复制粘贴代码并将其用作自定义运算符，直到我们为Airflow 1.10.*系列备份所有新运算符。

谢谢@kaxil！！我也在考虑-让我知道你对此的看法谢谢@kaxil！！我也在考虑——让我知道你对此的看法