Warning: file_get_contents(/data/phpspider/zhask/data//catemap/0/hadoop/6.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Python Apache Pig-Jython UDF内存错误_Python_Hadoop_Apache Pig_Jython - Fatal编程技术网

Python Apache Pig-Jython UDF内存错误

Python Apache Pig-Jython UDF内存错误,python,hadoop,apache-pig,jython,Python,Hadoop,Apache Pig,Jython,我使用Jython在pig中编写Python UDF,但当UDF的输入量很大时(即,它超过了分配给JVM的内存),我会遇到内存问题。在Pig文档中,COUNT、MAX等函数通过使用代数接口(更重要的是使用累加器接口)克服了这一问题。累加器接口允许将来自Pig的数据分块发送到UDF,这适合我的问题。有没有人有和Jython一起这样做的例子?(或任何将输入流式传输到Python的想法)任何帮助都将不胜感激!:) Python UDF不支持此类优化接口:

我使用Jython在pig中编写Python UDF,但当UDF的输入量很大时(即,它超过了分配给JVM的内存),我会遇到内存问题。在Pig文档中,COUNT、MAX等函数通过使用代数接口(更重要的是使用累加器接口)克服了这一问题。累加器接口允许将来自Pig的数据分块发送到UDF,这适合我的问题。有没有人有和Jython一起这样做的例子?(或任何将输入流式传输到Python的想法)任何帮助都将不胜感激!:)

Python UDF不支持此类优化接口: