Neural network 如何设计一个不进行输入分类的无监督神经网络?

Neural network 如何设计一个不进行输入分类的无监督神经网络?,neural-network,artificial-intelligence,traveling-salesman,Neural Network,Artificial Intelligence,Traveling Salesman,我读过很多关于针对特定输出值工作的神经网络的书,但我没有看到无监督网络针对不太具体的目标进行优化(例如,最小化成本,但我们不知道理想值是什么样子) 让我们讨论一个具体的例子: 考虑到有轻微扭曲的情况: 虽然城市之间的旅行费用是固定的,但不能再作为投入的一部分。成本可以从外部子系统按需读取,并且仅在每个历元结束时在成本函数中可用 我们没有培训数据(我们不知道理想的解决方案是什么样的) 有人能提供解决这个问题的高级设计吗?我正在寻找类似的产品 我担心的是试图最小化相对于目标成本为零的成本函数,因

我读过很多关于针对特定输出值工作的神经网络的书,但我没有看到无监督网络针对不太具体的目标进行优化(例如,最小化成本,但我们不知道理想值是什么样子)

让我们讨论一个具体的例子:

考虑到有轻微扭曲的情况:

  • 虽然城市之间的旅行费用是固定的,但不能再作为投入的一部分。成本可以从外部子系统按需读取,并且仅在每个历元结束时在成本函数中可用
  • 我们没有培训数据(我们不知道理想的解决方案是什么样的)
有人能提供解决这个问题的高级设计吗?我正在寻找类似的产品

我担心的是试图最小化相对于目标成本为零的成本函数,因为下降梯度将比已知理想解决方案时高得多。

好问题,Gili。 嗯,安最近几年确实受到了不合理的巨大“欢迎”。今天,如果某个新产品/流程/初创公司的宣传没有宣称其背后有人工智能或至少有一个神经网络,那么它就有点像流行媒体流中的气味。事实并非如此

经典的人工神经网络只不过是一个最小化器驱动的工具,它本身没有真正的智能,它只是在一粒
tanh()
/
sigmoid()
剂量的“类固醇”上遵循线性代数规则,用于附加非线性变换

你问一件事,那就是自我进化,这非常有趣 外部(延迟的事后奖励)的自适应反映需要一种方法来实现网络权重的自我实现。这是遗传启发系统(Koza等人)几十年来在进化计算系统中推广的东西

然而,最近有人认识到一些温和的尝试,试图在人工神经网络中促进某种琐碎的自我实现,增加了一个预期的(更好的“预连线”,c/f遗传启发的系统投机性多态性多个试验,具有后选择阶段,由“预定义的”最佳拟合度驱动)重新安排轴突重量和拓扑结构的过程——重新连接神经连接性(当然,在一种较低层次上/在一种更弱的效用(与非相关的)自我实现方式上——参考文献。此外,在更高的抽象层次上,马斯洛促进了需求层次)

在这一领域工作了几十年后,我敢说,人工神经网络工具(可以用“深度”(增加可能的内部状态的“表现力”(一旦在某种合理的
[PTIME,PSPACE]-
约束系统内可计算),而不是该思想的任何主要新涌现属性)或“卷积”的标签加以美化(核化变换有意模糊细节,以允许更好的数值(而非诺斯替派)“概括”)只是在代数上与一种装备精良的有限状态自动机的角色相联系,该自动机专门为寻找错误最少的答案而定制,给定一系列
[惩罚函数,到目前为止访问了部分经验经验]
--
对之前已知的到目前为止收集的
{example:answer}
对观察到的经验片段进行了预调整。

ANN的答案可以告诉一个最小的错误(通过一个愚蠢的“代数硬连线信念的外推”,它严格地期望游戏规则没有改变),根据之前的
[惩罚函数,到目前为止访问了部分经验主义]
,但从未解释过为什么,也将永远如此(不知情,这不是借口,而是一个明确接受的事实,它不能在这个方向上做任何其他事情),“迷惑”你,给出“答案”(在做它时,最好是代数固定的)在这些变化或转变为另一种模式的情况下(参考(超)混沌系统的李雅普诺夫系数,所有复杂系统本质上都是…):

  • 惩罚函数
    修改(最小化者的规则正在改变游戏!)
  • 观察到的
    体验
    (无论是看到越来越多的“正义”漂流,还是看到一个全新的
    {示例:答案}
    对的“品种”)

所以,是的,你可以重新表达一个愿景并生成进化神经网络, 但是要做到这一点,你就站在最边缘,那里没有工具,所以你首先要进入一个非常深的雪中

非常有趣,因为你定义了新的规则,但也非常苛刻,挑战了许多对手

暗示-你几乎无法使用任何“硬连线”的ANN工具包,因此,在你面前确实是一场处女雪&巨大的挑战,伙计


我个人的看法是,如果你试图用某种预制的抽象-[NeuralNetwork]-组件工厂来增强高性能进化计算工具,并且如果你的当代研究项目预算和
[PTIME,PSPACE]
-计算结构的性能封套允许——可能享受到进化驱动的适应能力增长的力量,这使得在不断增长的“知道如何保持最好的(活着)群体中的少数优秀人才能够在相当广泛的多样性中生存下来

这的确是一个巨大的挑战

(即使你会欺骗自然之母——(我们还没有找到比李尔尼更好的大师。)