Docker 弗林克不能参加马拉松比赛
我有三个安装了docker的物理节点。我有一个装有Mesos、Marathon、Hadoop和Flink的docker容器。我为Mesos、Zookeeper和Marathon配置了主节点和从节点。我一步一步地做这些工作。 首先,在主节点中,我使用以下命令进入docker容器:Docker 弗林克不能参加马拉松比赛,docker,apache-flink,mesos,marathon,Docker,Apache Flink,Mesos,Marathon,我有三个安装了docker的物理节点。我有一个装有Mesos、Marathon、Hadoop和Flink的docker容器。我为Mesos、Zookeeper和Marathon配置了主节点和从节点。我一步一步地做这些工作。 首先,在主节点中,我使用以下命令进入docker容器: docker run -v /home/user/.ssh:/root/.ssh --privileged -p 5050:5050 -p 5051:5051 -p 5052:5052 -p 2181:2181 -p 8
docker run -v /home/user/.ssh:/root/.ssh --privileged -p 5050:5050 -p 5051:5051 -p 5052:5052 -p 2181:2181 -p 8082:8081 -p 6123:6123 -p 8080:8080 -p 50090:50090 -p 50070:50070 -p 9000:9000 -p 2888:2888 -p 3888:3888 -p 4041:4040 -p 7077:7077 -p 52222:22 -e WEAVE_CIDR=10.32.0.2/12 -e MESOS_EXECUTOR_REGISTRATION_TIMEOUT=5mins -e LIBPROCESS_IP=10.32.0.2 -e MESOS_RESOURCES=ports*:[11000-11999] -ti hadoop_marathon_mesos_flink_2 /bin/bash
然后运行Mesos和Zookeeper:
/home/zookeeper-3.4.14/bin/zkServer.sh restart
/home/mesos-1.7.2/build/bin/mesos-master.sh --ip=10.32.0.1 --hostname=10.32.0.1 --roles=marathon,flink --quorum=1 --work_dir=/var/run/mesos --log_dir=/var/log/mesos
在同一容器中跑完马拉松后:
/home/marathon-1.7.189-48bfd6000/bin/marathon --master 10.32.0.1:5050 --zk zk://10.32.0.1:2181/marathon --hostname 10.32.0.1 --webui_url 10.32.0.1:8080 --logging_level debug
最后,我运行hadoop:
/opt/hadoop/sbin/start-dfs.sh
马拉松、Mesos和Hadoop的运行没有任何问题。
我工作中最重要的部分是在马拉松中跑弗林克。我在docker容器中配置了Flink,如下所示:
env.java.home: /opt/java
jobmanager.rpc.address: 10.32.0.1
high-availability: zookeeper
high-availability.storageDir: hdfs:///flink/ha/
high-availability.zookeeper.quorum: 10.32.0.1:2181,10.32.0.2:2181
recovery.zookeeper.path.mesos-workers: /mesos-workers
在MarathonUI中,我创建了应用程序并将这个JSON文件放在上面,但失败了
{
"id": "flink",
"cmd": "/home/flink-1.7.0/bin/mesos-appmaster.sh
-Dmesos.master=10.32.0.1:5050,10.32.0.2:5050
-Dmesos.initial-tasks=1",
"cpus": 1.0,
"mem": 1024
}
Flink应用程序在Mesos UI中失败。它显示了这个错误:
I0428 06:01:39.586699 6155 exec.cpp:162]版本:1.7.2
I0428 06:01:39.596458 6154执行人cpp:236]在代理人984595ae-e811-48fb-a9f5-ca6128e1cc1a-S0上注册的执行人
I0428 06:01:39.598870 6157执行人。cpp:188]收到订阅事件
I0428 06:01:39.599761 6157执行人。cpp:192]于10.32.0.3签署的执行人
I0428 06:01:39.599963 6157执行者。cpp:188]接收到启动事件
I0428 06:01:39.601236 6157执行者。cpp:697]开始任务flink.16a7cc18-697b-11e9-928f-ce235caa831e
I0428 06:01:39.613719 6157执行器。cpp:712]在6163处分叉命令
I0428 06:01:39.787395 6157 executor.cpp:1013]命令退出,状态为1 pid:6163
I0428 06:01:40.791885 6162进程。cpp:927]停止套接字接受循环
奇怪的是,在STDout中,我看到了这段文字;尽管我在/etc/environment和flink-conf.yam中设置了JAVA_HOME
请指定JAVA_主页。在Flink config./conf/Flink-conf.yaml中或作为系统范围的JAVA_主页
你能告诉我该怎么解决这个问题吗
非常感谢。您可以在从属节点中检查Flink日志。另外,最好像这样更改JSON文件。它有助于您跟踪应用程序
{
"id": "flink",
"cmd": "/home/flink-1.7.0/bin/mesos-appmaster.sh -Djobmanager.heap.mb=1024
-Djobmanager.rpc.port=6123 -Drest.port=8081
-Dmesos.resourcemanager.tasks.mem=1024 -Dtaskmanager.heap.mb=1024
-Dtaskmanager.numberOfTaskSlots=2 -Dparallelism.default=2
-Dmesos.resourcemanager.tasks.cpus=1",
"cpus": 1.0,
"mem": 1024,
"fetch": [
{
"uri": "/home/flink-1.7.0/bin/mesos-appmaster.sh",
"executable": true
}
]
}
另外,JAVA_在每个节点、主节点和从节点中都是Flink_conf.yaml的主节点
env.java.home: /opt/java
通过添加JAVA_HOME,您不会在STDOUT中看到错误
我认为这是有用的