Hadoop 在Amazon Elastic MapReduce中运行自定义jar时如何访问s3n中的文件
我正在EMR集群中运行以下步骤: ./elasticmapreduce-j CLUSTERID-jars3n://mybucket/somejarHadoop 在Amazon Elastic MapReduce中运行自定义jar时如何访问s3n中的文件,hadoop,amazon-s3,amazon-ec2,Hadoop,Amazon S3,Amazon Ec2,我正在EMR集群中运行以下步骤: ./elasticmapreduce-j CLUSTERID-jars3n://mybucket/somejar --main-class SomeClass --arg -conf --arg 's3n://mybucket/configuration.xml' SomeClass是Hadoop作业,实现可运行接口。它读取configuration.xml以获取参数,但在上面的命令中,Som
--main-class SomeClass
--arg -conf --arg 's3n://mybucket/configuration.xml'
SomeClass是Hadoop作业,实现可运行接口。它读取configuration.xml以获取参数,但在上面的命令中,SomeClass无法访问“s3n://mybucket/configuration.xml”(未报告错误)。我尝试了“s3://mybucket/configuration.xml”,但它也不起作用。我确信该文件存在,因为我可以通过“hadoop fs-ls s3n://mybucket/configuration.xml”看到它。对这个问题有什么建议吗
谢谢,以下是您可以尝试的选项
./elastic-mapreduce -j JobFlowId -jar s3://your_bucket --arg "s3://your_conf_file_bucket_name" --arg "second parameter"