Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/6.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Hadoop “火花束”;循环制;纱线负荷_Hadoop_Apache Spark_Yarn_Benchmarking - Fatal编程技术网

Hadoop “火花束”;循环制;纱线负荷

Hadoop “火花束”;循环制;纱线负荷,hadoop,apache-spark,yarn,benchmarking,Hadoop,Apache Spark,Yarn,Benchmarking,我正在做一个火花工作的基准测试。在第一个阶段(仅映射和过滤),当阶段大约为50%时,所有节点上的平均负载都会减少,但在我的节点中有一些“循环”负载:将逐个使用(cf ganglia graphics:green、next blue、next橙色……) 为什么我的节点现在在同一阶段逐一使用?是因为我的内存满了还是什么 工作台具有以下特点: 采用HDFS的纱线火花1.6 10个节点,每个节点具有1.5TB、60GB RAM和16个核心 8.5TB的数据(复制1) 谢谢

我正在做一个火花工作的基准测试。在第一个阶段(仅映射和过滤),当阶段大约为50%时,所有节点上的平均负载都会减少,但在我的节点中有一些“循环”负载:将逐个使用(cf ganglia graphics:green、next blue、next橙色……)

为什么我的节点现在在同一阶段逐一使用?是因为我的内存满了还是什么

工作台具有以下特点:

  • 采用HDFS的纱线火花1.6
  • 10个节点,每个节点具有1.5TB、60GB RAM和16个核心
  • 8.5TB的数据(复制1)
谢谢