Neural network 如何处理模型蠕变

在机器学习中，我们不断地更新模型。但我们仍然希望找到一种方法来使用我们的旧训练模型检查点。如果使用不同的关键字参数等更改了模型类，则不会加载这些检查点

管理“模型蠕变”或模型逐渐变化的最佳方法是什么

一种方法是，我们可以将每个pytorch检查点与github提交相关联。然后加载该提交以再次运行我们的模型

---

另一种方法是，每次我们更改模型时，我们都会实现向后兼容性（可能会变得混乱）。

暂且不提：关于AI中缺少“镐和铲”的好消息：。模型爬行肯定是其中之一。你们所说的“使用”是什么意思（我想这个问题完全是关于PyTorch的模型的）？只有推理、训练、加载后动态更改模型，还有其他吗？@SzymonMaszke最终完成了以上所有工作。看看OpenAI的工作，他们讨论了几个月来持续训练一个模型。