Pytorch 用于Pytork照明的型号至（设备）

我目前使用Pytorch Lightning使用GPU训练我的模型

trainer = pl.Trainer( gpus=[0,1],  
        distributed_backend='ddp', 
        resume_from_checkpoint=hparams["resume_from_checkpoint"])
    
    trainer.fit(model, train_dataloader=train_loader, val_dataloaders=val_loader)

关于如何使用定义为使用GPU的培训师运行测试样本，说明也很清楚

trainer.test(test_dataloader=test_dataloader)

以及如何加载模型并以交互方式使用它

model = transformer.Model.load_from_checkpoint('/checkpoints/run_300_epoch_217.ckpt')
results = model(in_data,

我使用后者通过docker容器中的套接字与交互式系统进行接口

有没有合适的方法让这个Pytorch Lightning模型在GPU上运行？ 闪电指令说不要使用model.to（设备），但它看起来就像Pytorch一样工作。说明避免副作用的原因

我开始阅读关于ONNX的内容，但我更希望有一种简单的方法来指定GPU，因为交互式设置与cpu完美配合。

我的理解是，“删除任何.cuda（）或to.device（）调用”仅用于Lightning trainer，因为它由培训师自己处理

如果您不使用培训师，LightningModule模块基本上只是一个具有一些命名约定的常规PyTorch模型。因此，使用

model.to（device）

是如何在GPU上运行的。

我的理解是，“删除任何.cuda（）或to.device（）调用”仅用于Lightning trainer，因为它是由培训师自己处理的

如果您不使用培训师，LightningModule模块基本上只是一个具有一些命名约定的常规PyTorch模型。所以使用

model.to（device）

是如何在GPU上运行的