Hive 增加配置单元查询的堆大小

Hive 增加配置单元查询的堆大小,hive,Hive,我最近开始在配置单元上使用Unix界面或SQL工作台。 有时我会遇到一个错误,上面写着“请使用Xmx参数增加Java堆空间”。我认为这与查询的效率有关。有人能给我一些关于堆大小的上下文并帮我增加吗?配置单元中的Java堆空间被设置为默认值1024MB。这对于相对较小的数据和非密集型查询很好,但一旦开始处理较大的表和更复杂的查询,默认值就不够了。取决于您的机器上有多少RAM,我会考虑将默认值加倍或三倍,达到2048 MB或3072 MB。 您可以通过转到/etc/hive/conf目录并在那里编辑

我最近开始在配置单元上使用Unix界面或SQL工作台。

有时我会遇到一个错误,上面写着“请使用Xmx参数增加Java堆空间”。我认为这与查询的效率有关。有人能给我一些关于堆大小的上下文并帮我增加吗?

配置单元中的Java堆空间被设置为默认值1024MB。这对于相对较小的数据和非密集型查询很好,但一旦开始处理较大的表和更复杂的查询,默认值就不够了。取决于您的机器上有多少RAM,我会考虑将默认值加倍或三倍,达到2048 MB或3072 MB。 您可以通过转到/etc/hive/conf目录并在那里编辑hive-env.sh文件来实现这一点。对于您,在该文件中有一行

export HADOOP_HEAPSIZE=1024

你要做的就是把这个值改成我提到的值。如果这还不够,请继续以增量方式提供更多配置单元,直到您的查询不会失败。但是,在你这样做的时候,一定要意识到你给机器的内存是多少

增加堆大小

例如,要将堆大小增加到1GB,请将其设置为

mapred.child.java.opts=  -Xmx1024m

非常感谢你。看起来我没有覆盖或保存更改的权限。我当前的堆大小是2000。我会将其增加到4GB,您可以尝试使用“sudo vim hive env.sh”编辑该文件。另外,如果您可以将答案向上投票,并单击向上投票UI下方的小复选标记,将不胜感激:)