Artificial intelligence 决策网络/决策林是否考虑了输入之间的关系

Artificial intelligence 决策网络/决策林是否考虑了输入之间的关系,artificial-intelligence,neural-network,decision-tree,Artificial Intelligence,Neural Network,Decision Tree,我有处理神经网络的经验,特别是反向传播性质的神经网络,我知道在传递给培训师的输入中,当引入隐藏层时,输入之间的依赖关系是结果模型知识的一部分 决策网络也是如此吗 我发现关于这些算法(ID3)等的信息有些难以找到。我已经能够找到实际的算法,但是诸如预期/最佳数据集格式和其他概述之类的信息很少 谢谢。决策树实际上很容易向其提供数据,因为它们只需要一个数据表,以及数据中的哪一列(或哪一列)是您想要预测的。对于任何特征,该数据都可以是离散的或连续的。现在有几种类型的决策树,它们对连续值和离散值有不同的支

我有处理神经网络的经验,特别是反向传播性质的神经网络,我知道在传递给培训师的输入中,当引入隐藏层时,输入之间的依赖关系是结果模型知识的一部分

决策网络也是如此吗

我发现关于这些算法(ID3)等的信息有些难以找到。我已经能够找到实际的算法,但是诸如预期/最佳数据集格式和其他概述之类的信息很少


谢谢。

决策树实际上很容易向其提供数据,因为它们只需要一个数据表,以及数据中的哪一列(或哪一列)是您想要预测的。对于任何特征,该数据都可以是离散的或连续的。现在有几种类型的决策树,它们对连续值和离散值有不同的支持。它们的工作方式也不同,因此理解每一种方法的工作原理可能会很有挑战性

根据您感兴趣的算法类型,如果您想尝试并实现该算法,在不阅读实际论文的情况下很难找到信息。我已经实现了CART算法,唯一的选择就是找到关于它的200页的原始书籍。大多数其他的治疗方法只讨论像分裂这样的想法,但没有从更高的层次讨论任何其他方面


至于他们是否考虑到事物之间的依赖性。我相信它只假设每个输入特征和预测特征之间存在依赖关系。如果输入独立于预测功能,则不能将其用作分割条件。但是,在其他输入功能之间,我认为它们必须相互独立。我必须检查这本书,以确保这是真的还是假的,但我想这是真的。

谢谢你的回答。我认为一种方法是修改算法,以获取输入值之间的关系,并将计算结果用作附加输入值。这将基本上平方输入到树中的输入数量,但可能会暴露数据点和输出之间的一些额外关联。CART算法的一个独特之处是它是一个二叉树。分裂总是分裂成两个分支。但它可以选择使用代理拆分沿多个值和多个特征拆分。您可能需要研究CART中的代理项拆分,因为它会同时拆分多个功能。对输入进行平方运算的成本会高得让人望而却步,因为CART在测试分类特性的拆分时已经有了一个O(n!)算法,必须对其进行优化。平方意味着只考虑2个特征之间的关系,如果关系在4、5或6之间呢?…我认为最终你是在试图找到特征之间的依赖关系,我认为这是使用代理分割覆盖的。在两个功能的关系中,你会发现其中一个功能的分割支配着另一个功能,但是你可以考虑第二个、第三个等功能对分割的贡献的阈值。