Apache spark 在aws EMR中添加用于spark的python包
作为测试的一部分,我刚刚开始使用AWS EMR——我创建了一个引导文件,在我的EMR实例上使用pip安装特定的python包。我知道这是很基本的。 bash脚本包含Apache spark 在aws EMR中添加用于spark的python包,apache-spark,amazon-emr,Apache Spark,Amazon Emr,作为测试的一部分,我刚刚开始使用AWS EMR——我创建了一个引导文件,在我的EMR实例上使用pip安装特定的python包。我知道这是很基本的。 bash脚本包含 #!/bin/bash set -e pip install typing --user 然而,当我提交python脚本作为一个步骤时,我得到了以下错误 回溯(最后一次调用):文件“py calculate.py”,第行 6,在 输入import-Iterable-ImportError:没有名为type-End-of-LogTy
#!/bin/bash
set -e
pip install typing --user
然而,当我提交python脚本作为一个步骤时,我得到了以下错误
回溯(最后一次调用):文件“py calculate.py”,第行
6,在
输入import-Iterable-ImportError:没有名为type-End-of-LogType:stdout的模块
从外观上看,没有安装打字包 正如我所猜测的,没有安装打字软件包。我使用的方法是将bash脚本修改为
#! /bin/bash
sudo pip install -U typing
出于某种原因,这种方法效果更好