Neural network 网络：删除单个连接

如何删除网络中的连接？我想在输入层、单个隐藏层和输出层之间创建自定义连接。但唯一的默认设置是前馈所有到所有架构或循环架构。我想删除所有到所有连接中的特定连接，然后训练网络

提前感谢。

（这里是

theanates

的开发者。）

目前，这不可能直接用于。为了提高计算效率，前馈网络中的底层计算被实现为简单的矩阵运算，这些运算速度很快，可以在GPU上执行，有时还可以大大提高速度

但是，可以初始化层中的权重，以使某些（或许多）权重为零。为此，只需在

层

列表中传递一个字典，并包含一个

稀疏性

键：

import theanets

net = theanets.Autoencoder(
    layers=(784, dict(size=1000, sparsity=0.9), 784))

这将初始化层的权重，以便给定的权重分数为零。然而，权重在训练过程中可以更改，因此这只是一个初始化技巧

但是，您可以实现一个自定义子类，它可以做任何您喜欢的事情，只要您保持在边界之内。例如，您可以实现一种前馈层，该层使用遮罩来确保某些权重在前馈计算期间保持为零

---

有关更多详细信息，您可能想在。

快速问题Lief上询问，是否可以通过将前馈网络指定为RNN并设置hh矩阵参数以确保不存在隐藏的连接，以及指定xh矩阵参数以仅提供所需的连接来模拟具有自定义连接的前馈网络？（也许我误解了这些矩阵的性质。）这是可能的，但完全没有必要引入hh矩阵，然后将其归零。也会很慢，因为重复层使用扫描。请尝试编写组以了解详细信息：