Apache flink 在apacheflink上运行apachebeam
我想在ApacheFlink上使用ApacheBeam运行Python代码。apache beam站点用于在apache Flink上启动Python代码的命令如下:Apache flink 在apacheflink上运行apachebeam,apache-flink,apache-beam,Apache Flink,Apache Beam,我想在ApacheFlink上使用ApacheBeam运行Python代码。apache beam站点用于在apache Flink上启动Python代码的命令如下: docker run --net=host apachebeam/flink1.9_job_server:latest --flink-master=localhost:8081 下面讨论在ApacheFlink上使用ApacheFail执行代码的不同方法。但我还没有看到启动它的例子 我希望这段代码在没有Docker的情况下运
docker run --net=host apachebeam/flink1.9_job_server:latest --flink-master=localhost:8081
下面讨论在ApacheFlink上使用ApacheFail执行代码的不同方法。但我还没有看到启动它的例子
我希望这段代码在没有Docker的情况下运行。该代码是如何被命令的?您可以使用光束源直接启动flink作业服务器。注意,您需要安装java 1) 克隆beam源代码:
git clone https://github.com/apache/beam.git
2) 启动作业服务器
cd beam
./gradlew -p runners/flink/1.8/job-server runShadow -PflinkMasterUrl=localhost:8081
一些有用的提示:
这不是弗林克本身!你需要把弗林克分开
flink就业服务实际上提供了一些服务:
- 扩展服务(端口8097):此服务允许您在java sdk中存在的管道中使用ExternalTransforms。例如,在python sdk
中找到的转换命中了这个扩展服务apache_beam.io.external.*
- 工件服务(端口8098):管道在这里上载python工件(例如pickle文件等),供flink taskmanager在执行python代码时使用。据我回忆,您必须在flink taskworker和此工件服务之间共享工件暂存区域(默认为
)/tmp/beam artifact staging
- 作业服务(端口8099):这是您提交管道的目的地。它将您的管道转换为flink的内容并提交