Warning: file_get_contents(/data/phpspider/zhask/data//catemap/1/amazon-web-services/14.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Amazon web services 如何在AWS EMR笔记本中加载库/maven依赖项_Amazon Web Services_Amazon Emr_Spark Notebook - Fatal编程技术网

Amazon web services 如何在AWS EMR笔记本中加载库/maven依赖项

Amazon web services 如何在AWS EMR笔记本中加载库/maven依赖项,amazon-web-services,amazon-emr,spark-notebook,Amazon Web Services,Amazon Emr,Spark Notebook,我正在使用AWS笔记本。我可以运行正常的基于scala的spark作业,而无需依赖第三方库。但是我想加载一些常见的库,比如typesafe配置、mysql连接器等 如何在AWS上的scala spark笔记本中添加这些库依赖项 我试着在笔记本的第一个单元格中添加这些片段,但都不起作用 %%configure -f { "conf": { "spark.jars": "s3://bucket-xxx/jars/lib/config-1.3.1.ja

我正在使用AWS笔记本。我可以运行正常的基于scala的spark作业,而无需依赖第三方库。但是我想加载一些常见的库,比如typesafe配置、mysql连接器等

如何在AWS上的scala spark笔记本中添加这些库依赖项

我试着在笔记本的第一个单元格中添加这些片段,但都不起作用

 %%configure -f
    {
        "conf": {
            "spark.jars": "s3://bucket-xxx/jars/lib/config-1.3.1.jar"
        }
    }
以及

%%configure -f
{
"conf": {"spark.jars.packages": "com.typesafe:config:1.3.1,mysql:mysql-connector-java:8.0.17"},

"jars": ["s3://bucket-xxx/jars/lib/"]

}
两人都犯了错误

控制台>:29:错误:对象ConfigFactor不是包的成员 com.typesafe.config 导入com.typesafe.config.ConfigFactor

当我尝试导入typesafe配置时

import com.typesafe.config.ConfigFactor
我还尝试在笔记本元数据中添加maven坐标作为

"customDeps": [
        "com.typesafe:config:1.3.1"
    ]
得到

错误:对象typesafe不是包com的成员 导入com.typesafe.config.ConfigFactor


您在导入行中有一个输入错误,应该是

import com.typesafe.config.ConfigFactory
此外,Jupyter笔记本中需要此单元格

%%configure -f 
{
  "jars": ["s3://test/libs/config-1.3.1.jar"],
  "conf": {"spark.jars.packages": "com.typesafe:config:1.3.1"}
}
我希望这是有帮助的