用函数包装Pytorch模型的所有参数

用函数包装Pytorch模型的所有参数,pytorch,Pytorch,我希望能够用一个函数包装我的PyTorch模型的所有卷积参数(权重和偏差),例如softmax(权重)、sigmoid(权重)或alpha*权重等。是否有任何方法可以使用钩子等使该函数成为图的一部分 例如:假设我有一个名为net的模型,该模型具有我感兴趣的可训练参数,例如仅在卷积层中: net.modules()中模块的: 如果是转换层(模块): module.weight#这是我感兴趣的重量。 因此,替换权重值很容易: net.modules()中模块的: 如果是转换层(模块): modul

我希望能够用一个函数包装我的PyTorch模型的所有卷积参数(权重和偏差),例如softmax(权重)、sigmoid(权重)或alpha*权重等。是否有任何方法可以使用钩子等使该函数成为图的一部分

例如:假设我有一个名为net的模型,该模型具有我感兴趣的可训练参数,例如仅在卷积层中:

net.modules()中模块的
:
如果是转换层(模块):
module.weight#这是我感兴趣的重量。
因此,替换权重值很容易:

net.modules()中模块的
:
如果是转换层(模块):
module.weight.data=sigmoid(module.weight.data)

但是,我还想将sigmoid添加到图形中,以便在计算backprop时,也考虑sigmoid。

您能否提供一个示例,例如一个玩具网络,并明确显示您希望如何累积参数以获得所需的输出?您好,@swag2198。我对问题进行了编辑,添加了一个示例。让我知道这是否让问题更清楚。谢谢你能举一个例子,比如说一个玩具网络,并明确说明你想如何累积参数以获得所需的输出吗?嗨,@swag2198。我对问题进行了编辑,添加了一个示例。让我知道这是否让问题更清楚。谢谢