Warning: file_get_contents(/data/phpspider/zhask/data//catemap/9/google-cloud-platform/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Google cloud platform 谷歌云平台AI Jupyter笔记本内存错误_Google Cloud Platform_Gcp Ai Platform Notebook - Fatal编程技术网

Google cloud platform 谷歌云平台AI Jupyter笔记本内存错误

Google cloud platform 谷歌云平台AI Jupyter笔记本内存错误,google-cloud-platform,gcp-ai-platform-notebook,Google Cloud Platform,Gcp Ai Platform Notebook,我试图在谷歌云平台(AI平台)上运行情绪分析。当我尝试将数据拆分为训练时,它会显示如下所示的内存错误错误错误如下所示 MemoryError:无法分配194。对于形状为(414298,)且数据类型为的数组,从错误中可以看出VM内存不足 1-使用其他机器类型创建新笔记本。 为此,请转到AI平台>笔记本并单击新实例。选择最适合您的选项(R3.6、Python2和Python3等),然后单击弹出窗格中的高级选项。在机器配置区域中,您可以使用选择机器类型 请从n1-standard-16或n1-high

我试图在谷歌云平台(AI平台)上运行情绪分析。当我尝试将数据拆分为训练时,它会显示如下所示的内存错误错误错误如下所示


MemoryError:无法分配194。对于形状为(414298,)且数据类型为的数组,从错误中可以看出VM内存不足

1-使用其他机器类型创建新笔记本。 为此,请转到AI平台>笔记本并单击新实例。选择最适合您的选项(R3.6、Python2和Python3等),然后单击弹出窗格中的高级选项。在机器配置区域中,您可以使用选择机器类型

请从n1-standard-16或n1-highmem-8开始,如果其中任何一个有效,请跳到n1-standard-32或n1-highmem-16

使用还可以更改机器尺寸:

gcloud compute instances set-machine-type INSTANCE_NAME \
    --machine-type NEW_MACHINE_TYPE
2-更改数据类型。 如果您使用的是np.float64类型,则可以将其更改为np.float32以减小大小。因此,您可以修改该行: 结果=np.empty(self.shape,dtype=dtype) 作者: 结果=np.empty(self.shape,dtype=np.float32)


如果您不想修改代码,我建议您遵循第一个选项。

非常感谢您的回复。我的数据集中有50万行。我只有两列文本和情感分析的目标。我的本地电脑只能容纳50000行。这就是我切换到GCP的原因。但我又遇到了同样的问题。我把我的机器类型改为16个CPU和104 GB的RAM。(n1-highmem-16)。但我仍然只能容纳75000行。此外,我正在将文本列转换为X_train=train['content'].values.astype('U'),我想可能是内存错误导致的。如何减少文本的大小?有可能吗?@Nikitha JV,你能发布你的代码片段吗?train,test=train\U test\U split(数据,test\U大小=0.2,随机状态=1)X\U train=train['content'].values.astype('U')X\U test=test['content'].values.astype('U')y\U train=train['textblotargetnumerical']y\U test=test['textblotargetnumerical']您是否尝试按照@gogasca的建议在VM中启用交换?是否可以发布您的代码?请看这个:train,test=train\U test\U split(数据,test\U size=0.2,random\U state=1)X\U train=train['content'].values.astype('U')X\U test=test['content'].values.astype('U')y\U train=train['TextBlobTargetNumerical']y\U test['TextBlobTargetNumerical']请看上面的答案,在我看来,您的数组太大,无法装入RAM,需要使用分页。尝试在VM中启用交换