Neural network 混合SOM(带MLP)

Neural network 混合SOM(带MLP),neural-network,artificial-intelligence,self-organizing-maps,Neural Network,Artificial Intelligence,Self Organizing Maps,有人能提供一些关于如何将自组织映射与多层感知器正确结合的信息吗 我最近读了一些关于这种技术的文章,与常规MLP相比,它在预测任务中表现得更好。因此,我想通过对输入数据进行聚类并将结果传递给MLP后端,将SOM用作降维的前端 我目前实现它的想法是用几个训练集训练SOM,并确定集群。之后,我使用与SOM集群一样多的输入单元初始化MLP。下一步是使用SOM的输出(哪个值?…BMU的权重?)作为网络的输入(SOM的输出用于集群匹配输入单元,零用于任何其他输入单元?)来训练MLP。没有单一的方法可以做到这

有人能提供一些关于如何将自组织映射与多层感知器正确结合的信息吗

我最近读了一些关于这种技术的文章,与常规MLP相比,它在预测任务中表现得更好。因此,我想通过对输入数据进行聚类并将结果传递给MLP后端,将SOM用作降维的前端


我目前实现它的想法是用几个训练集训练SOM,并确定集群。之后,我使用与SOM集群一样多的输入单元初始化MLP。下一步是使用SOM的输出(哪个值?…BMU的权重?)作为网络的输入(SOM的输出用于集群匹配输入单元,零用于任何其他输入单元?)来训练MLP。

没有单一的方法可以做到这一点。让我列举一些可能性:

  • 你描述的那个。但是,您的MLP将需要K*D输入,其中K是集群的数量,D是输入维度。没有降维
  • 与您的想法类似,但不使用权重,只需为BMU发送1,为其余集群发送0。然后您的MLP将需要K个输入
  • 与上面相同,但不是1或0,而是发送从输入向量到每个簇的距离
  • 同上,但不是距离,而是计算每个簇的高斯激活
  • 由于SOM保留拓扑,因此只发送BMU的2D坐标(可能在0和1之间进行规格化)。然后您的MLP将只需要2个输入,您就可以实现真正的极端降维

您可以在此处阅读这些想法和更多内容:。它不是将SOM的输出提供给MLP,而是将SOM提供给自身。但是,在尝试从SOM生成一些输出时,您将能够理解各种可能性。

再次感谢您的详细回答!你对这种混合动力车有经验吗?