Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/6.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark 如何以编程方式获取spark executor core id_Apache Spark - Fatal编程技术网

Apache spark 如何以编程方式获取spark executor core id

Apache spark 如何以编程方式获取spark executor core id,apache-spark,Apache Spark,如何以编程方式获取spark executor core id,是否在SparkContext/SparkEnv中提供。我不希望为spark作业设置内核数,当我的代码由一个内核执行时,我希望获得该内核标识/名称。您是指当前任务运行的处理器ID?是的,我希望使用内核ID附加到字符串,这个字符串将用于创建一个具有该名称的新文件。这不是真正的Spark问题-实际上在JVM上,获取底层CPU id并不是那么容易。。。您需要使用JNI/JNA来实现这一点。

如何以编程方式获取spark executor core id,是否在SparkContext/SparkEnv中提供。我不希望为spark作业设置内核数,当我的代码由一个内核执行时,我希望获得该内核标识/名称。

您是指当前任务运行的处理器ID?是的,我希望使用内核ID附加到字符串,这个字符串将用于创建一个具有该名称的新文件。这不是真正的Spark问题-实际上在JVM上,获取底层CPU id并不是那么容易。。。您需要使用JNI/JNA来实现这一点。