Apache flink 在apacheflink上运行apachebeam

Apache flink 在apacheflink上运行apachebeam,apache-flink,apache-beam,Apache Flink,Apache Beam,我想在ApacheFlink上使用ApacheBeam运行Python代码。apache beam站点用于在apache Flink上启动Python代码的命令如下: docker run --net=host apachebeam/flink1.9_job_server:latest --flink-master=localhost:8081 下面讨论在ApacheFlink上使用ApacheFail执行代码的不同方法。但我还没有看到启动它的例子 我希望这段代码在没有Docker的情况下运

我想在ApacheFlink上使用ApacheBeam运行Python代码。apache beam站点用于在apache Flink上启动Python代码的命令如下:

docker run --net=host apachebeam/flink1.9_job_server:latest --flink-master=localhost:8081
下面讨论在ApacheFlink上使用ApacheFail执行代码的不同方法。但我还没有看到启动它的例子


我希望这段代码在没有Docker的情况下运行。该代码是如何被命令的?

您可以使用光束源直接启动flink作业服务器。注意,您需要安装java

1) 克隆beam源代码:

git clone https://github.com/apache/beam.git
2) 启动作业服务器

cd beam
./gradlew -p runners/flink/1.8/job-server runShadow -PflinkMasterUrl=localhost:8081
一些有用的提示:

这不是弗林克本身!你需要把弗林克分开

flink就业服务实际上提供了一些服务:

  • 扩展服务(端口8097):此服务允许您在java sdk中存在的管道中使用ExternalTransforms。例如,在python sdk
    apache_beam.io.external.*
    中找到的转换命中了这个扩展服务
  • 工件服务(端口8098):管道在这里上载python工件(例如pickle文件等),供flink taskmanager在执行python代码时使用。据我回忆,您必须在flink taskworker和此工件服务之间共享工件暂存区域(默认为
    /tmp/beam artifact staging
  • 作业服务(端口8099):这是您提交管道的目的地。它将您的管道转换为flink的内容并提交

这是我找到的文档:。如果你正在寻找医生所说之外的方法,你可以发送电子邮件给dev@beam.apache.org我读了这一页。这就是问题所在。为了在apache flink中使用apache beam,他使用了Docker。我想找到另一种方式开始。在弗林克还有别的方法使用光束吗?对不起,我不知道有没有别的方法。但是如果有一个,dev@beam.apache.org应该知道,因为开发人员开发了关于flink上光束的解决方案