Amazon web services 如何在AWS EMR笔记本中加载库/maven依赖项
我正在使用AWS笔记本。我可以运行正常的基于scala的spark作业,而无需依赖第三方库。但是我想加载一些常见的库,比如typesafe配置、mysql连接器等 如何在AWS上的scala spark笔记本中添加这些库依赖项 我试着在笔记本的第一个单元格中添加这些片段,但都不起作用Amazon web services 如何在AWS EMR笔记本中加载库/maven依赖项,amazon-web-services,amazon-emr,spark-notebook,Amazon Web Services,Amazon Emr,Spark Notebook,我正在使用AWS笔记本。我可以运行正常的基于scala的spark作业,而无需依赖第三方库。但是我想加载一些常见的库,比如typesafe配置、mysql连接器等 如何在AWS上的scala spark笔记本中添加这些库依赖项 我试着在笔记本的第一个单元格中添加这些片段,但都不起作用 %%configure -f { "conf": { "spark.jars": "s3://bucket-xxx/jars/lib/config-1.3.1.ja
%%configure -f
{
"conf": {
"spark.jars": "s3://bucket-xxx/jars/lib/config-1.3.1.jar"
}
}
以及
%%configure -f
{
"conf": {"spark.jars.packages": "com.typesafe:config:1.3.1,mysql:mysql-connector-java:8.0.17"},
"jars": ["s3://bucket-xxx/jars/lib/"]
}
两人都犯了错误
控制台>:29:错误:对象ConfigFactor不是包的成员
com.typesafe.config
导入com.typesafe.config.ConfigFactor
当我尝试导入typesafe配置时
import com.typesafe.config.ConfigFactor
我还尝试在笔记本元数据中添加maven坐标作为
"customDeps": [
"com.typesafe:config:1.3.1"
]
得到
错误:对象typesafe不是包com的成员
导入com.typesafe.config.ConfigFactor
您在导入行中有一个输入错误,应该是
import com.typesafe.config.ConfigFactory
此外,Jupyter笔记本中需要此单元格
%%configure -f
{
"jars": ["s3://test/libs/config-1.3.1.jar"],
"conf": {"spark.jars.packages": "com.typesafe:config:1.3.1"}
}
我希望这是有帮助的