Apache spark Spark作业失败:未能创建本地tmp目录

Apache spark Spark作业失败:未能创建本地tmp目录,apache-spark,yarn,Apache Spark,Yarn,我试着用纱线做一个长时间的Spark工作。经过几个小时的执行,我得到以下异常: Caused by: java.io.IOException: Failed to create local dir in /tmp Permission issue should not be there as Nodemanager and application is running as root and /tmp dir should be writable. /tmp Dir在所有节点管理器上都有足够

我试着用纱线做一个长时间的Spark工作。经过几个小时的执行,我得到以下异常:

Caused by: java.io.IOException: Failed to create local dir in /tmp

Permission issue should not be there as Nodemanager and application is running as root and /tmp dir should be writable.
/tmp Dir
在所有节点管理器上都有足够的空间

更新1:
读取完整日志后,我发现与某些执行器(读取节点)的连接丢失,然后它开始删除临时数据,并开始失败

DiskBlockObjectWriter:还原对文件/tmp/hadoop root/nm local dir/usercache/root/appcache/application_1568187536265_0302/blockmgr-b9c691dd-8f39-4962-8799-014a553505fe/3d/temp_shuffle_5807636;-917a-4f7a-b8bc-c3984b642243的部分写入时发生未捕获异常 java.io.FileNotFoundException:/tmp/hadoop root/nm local dir/usercache/root/appcache/application_1568187536265_0302/blockmgr-b9c691dd-8f39-4962-8799-014a553505fe/3d/temp_shuffle_5807636d-917a-4f7a-b8bc-c3984b642243(无此类文件或目录)

19/09/12 12:02:23错误执行者:第10.0阶段任务123.1中的异常(TID 5712)
java.io.IOException:未能在/tmp/hadoop root/nm local dir/usercache/root/appcache/application_1568187536265_0302/blockmgr-87e8c520-408b-4582-a370-5afcb06ced8f/2f中创建本地目录。

即使您以root身份运行应用程序,应用程序仍在运行,并且可能存在权限问题。请创建一个具有777权限的tmp目录,然后重试。是否可以提供完整的日志错误?我不认为这是一个错误。这是因为连接丢失还是从机丢失?请发布完整的LogThread也作为root运行,这样看起来就不会有问题了。