Warning: file_get_contents(/data/phpspider/zhask/data//catemap/0/hadoop/6.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Exception 所有地图任务都达到100%,并被卡住_Exception_Hadoop_Flush - Fatal编程技术网

Exception 所有地图任务都达到100%,并被卡住

Exception 所有地图任务都达到100%,并被卡住,exception,hadoop,flush,Exception,Hadoop,Flush,我使用Hadoop 1.2.1,并应用Scala编写Hadoop应用程序。Scala wordcount示例在我的机器上运行得非常好。然后我测试了我的程序,遇到了一个问题 地图达到100%并卡住,没有启动任何reduce任务。在查看JobTracker网页后,我发现它仍然处于映射阶段,尽管它已经处于100%的状态。然后我检查了tmp文件夹中的日志。我注意到attemp\ux中的syslog中有一个异常 日志包含以下信息: 2014-04-20 21:53:15,297 INFO org.apac

我使用Hadoop 1.2.1,并应用Scala编写Hadoop应用程序。Scala wordcount示例在我的机器上运行得非常好。然后我测试了我的程序,遇到了一个问题

地图达到100%并卡住,没有启动任何reduce任务。在查看JobTracker网页后,我发现它仍然处于映射阶段,尽管它已经处于100%的状态。然后我检查了tmp文件夹中的日志。我注意到attemp\ux中的syslog中有一个异常

日志包含以下信息:

2014-04-20 21:53:15,297 INFO org.apache.hadoop.mapred.MapTask: Starting flush of map output
2014-04-20 22:03:20,989 INFO org.apache.hadoop.mapred.Task: Communication exception: org.apache.hadoop.ipc.RemoteException: java.io.IOException: JvmValidate Failed. Ignoring request from task: attempt_201404202149_0003_m_000000_0, with JvmId: jvm_201404202149_0003_m_1601373058

    at org.apache.hadoop.mapred.TaskTracker.validateJVM(TaskTracker.java:3465)
    at org.apache.hadoop.mapred.TaskTracker.ping(TaskTracker.java:3598)
    at sun.reflect.GeneratedMethodAccessor3.invoke(Unknown Source)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:606)
    at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:587)
    at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1432)
    at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1428)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:415)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1190)
    at org.apache.hadoop.ipc.Server$Handler.run(Server.java:1426)

    at org.apache.hadoop.ipc.Client.call(Client.java:1113)
    at org.apache.hadoop.ipc.RPC$Invoker.invoke(RPC.java:229)
    at com.sun.proxy.$Proxy1.ping(Unknown Source)
    at org.apache.hadoop.mapred.Task$TaskReporter.run(Task.java:685)
    at java.lang.Thread.run(Thread.java:724)

我在搜索org.apache.hadoop.ipc.RemoteException。但是没有找到有用的信息。有人知道这里出了什么问题吗?

你能用Java试试同一个程序,然后比较结果以排除它是否与Scala实现有关吗?我用Java重写了hadoop实现,现在它可以工作了。我想scala可能有问题。