Machine learning 支持向量机相对于决策树和AdaBoost算法的优势

我正在研究数据的二元分类，我想知道使用支持向量机优于决策树和自适应Boosting算法的优缺点。

您可能想做的事情是，这是一个很好的软件包，您可以使用它插入数据，然后尝试使用一组不同的机器学习分类器，看看每个分类器如何在特定的集合上工作。对于机器学习的人来说，这是一条走得很好的道路

我对你的特定数据一无所知，也不知道你试图解决的分类问题，我只能告诉你关于每种方法我所知道的随机情况。这就是说，这里有一个大脑转储和一些有用的机器学习幻灯片的链接

---

使用弱基分类器委员会对样本点的班级分配进行投票。基本分类器可以是决策树、决策树、支持向量机等。。它采用迭代方法。在每次迭代中-如果委员会对特定样本的类分配达成一致且正确，那么它将变为向下加权（在下一次迭代中获得正确的结果不太重要），如果委员会不一致，那么它将变为向上加权（在下一次迭代中正确分类更重要）。Adaboost以具有良好的泛化（而不是过度拟合）而闻名

是一个有用的第一次尝试。此外，您可以将不同的核函数用于支持向量机，不仅可以得到线性决策边界，还可以得到形状更为奇特的决策边界。如果你把L1正则化放在上面（松弛变量），那么你不仅可以防止过度拟合，还可以对不可分离的数据进行分类

---

因为几乎任何人都能理解它们，所以它们很有用。它们很容易使用。使用树还意味着您还可以了解某个特定功能对于生成树的重要性。您可能想查看的是加法树（如）。

“如果委员会对特定样本的类分配达成一致意见，那么它将变为向下加权”。事实并非如此。如果委员会投票正确（与地面真相标签相比），那么它的权重就会降低。反之亦然。您有多少数据点和特征？嘈杂，稀疏？我建议从快速线性支持向量机开始。