直接在GPU上创建Pytorch变量似乎仍然会首先在CPU上创建变量，这取决于CPU RAM的使用情况

我需要直接在GPU上创建变量，因为我的CPU ram非常有限

我在这里找到了这样做的方法

其中提到使用

torch.set\u default\u tensor\u type（'torch.cuda.FloatTensor'）

然而，当我尝试

torch.set_default_tensor_type('torch.cuda.FloatTensor')
pytorchGPUDirectCreate = torch.FloatTensor(20000000, 128).uniform_(-1, 1).cuda()

在转移到GPU RAM之前，它似乎仍然占用了大部分CPU RAM

我正在使用谷歌Colab。要在变量创建过程中查看RAM使用情况，请在运行单元后，转到运行时->管理会话

无论是否使用

torch.set_default_tensor_type（'torch.cuda.FloatTensor'）

，CPU RAM都会上升到11.34 GB，而GPU RAM保持在低位，然后GPU RAM变为9.85，CPU RAM又会下降

看来，

torch.set\u default\u tensor\u type（'torch.cuda.FloatTensor'）

没有什么区别

为了方便起见，这里有一个直接链接到任何人都可以直接运行的笔记本