Kernel 基于径向基函数(RBF)支持向量机的分类

Kernel 基于径向基函数(RBF)支持向量机的分类,kernel,scikit-learn,svm,Kernel,Scikit Learn,Svm,我使用sklearn.svm.SVC(kernel='rbf')对图像数据进行分类,这项工作做得很好。线性支持向量机通过在两类之间放置一个超平面对数据进行分类。在rbf支持向量机的情况下,平面将是无限维的。对于任何测试点,我们都可以使用predict来检查它属于哪个测试点。在线性情况下,我们可以通过得到超平面的方程手动得到预测。在rbf-SVM的情况下,我们如何做到这一点。在rbf-SVM的情况下,准确预测是如何工作的。首先 无论何时分类,我们都应考虑: 分类器可以学习高维特征空间,而无需 实

我使用sklearn.svm.SVC(kernel='rbf')对图像数据进行分类,这项工作做得很好。线性支持向量机通过在两类之间放置一个超平面对数据进行分类。在rbf支持向量机的情况下,平面将是无限维的。对于任何测试点,我们都可以使用predict来检查它属于哪个测试点。在线性情况下,我们可以通过得到超平面的方程手动得到预测。在rbf-SVM的情况下,我们如何做到这一点。在rbf-SVM的情况下,准确预测是如何工作的。

首先

无论何时分类,我们都应考虑:

  • 分类器可以学习高维特征空间,而无需 实际上必须把这些点映射到高维空间
  • 数据在高维空间中可以线性分离,但在原始特征空间中不能线性分离
  • 由于对偶形式的标量积,核可以用于SVM,但也可以用于其他地方——它们与SVM形式无关
  • 内核也适用于不是向量的对象
例如,我会放一些用过的果仁。

对于具有高斯核的SVM分类器,我们将有如下内容:

正如你注意到的,支持向量被替换,因此我们可以根据结果来改变它,例如,考虑两个特征和它们的着色点:

设置我们得到的一些值:

现在

现在,当无限开始发挥作用时会发生什么:

然后:

那么adaBoost如何处理数据集呢

如果您愿意,您可以测试由Ian Nabney开发的NETLAB ML Matlab软件

这里有更多支持向量机的来源

  • Christopher M.Bishop,“模式识别和机器学习”,Springer(2006),ISBN 0-38-731073-8
  • 黑斯蒂,蒂布什拉尼,弗里德曼,“统计学习的要素”,第二版,斯普林格,2009年。Pdf可在线获取
  • Ian H.Witten和Eibe Frank,“数据挖掘:实用机器学习工具和技术”,第二版,2005年
  • David MacKay,“信息理论、推理和学习算法”,在线免费提供
  • 汤姆·米切尔,“机器学习”,麦格劳·希尔,1997年

我建议您选择一本书,例如《统计学习的要素》,该书详细解释了内核支持向量机。