本页使用了标题或全文手工转换

支持向量机

维基百科,自由的百科全书
跳到导航 跳到搜索

机器学习中,支持向量机英语:support vector machine,常简称為SVM,又名支持向量网络[1])是在分类迴歸分析中分析数据的監督式學習模型与相关的学习算法。给定一组训练实例,每个训练实例被标记为属于两个类别中的一个或另一个,SVM训练算法建立一个将新的实例分配给两个类别之一的模型,使其成为非概率二元英语binary classifier线性分类器。SVM模型是将实例表示为空间中的点,这样映射就使得单独类别的实例被尽可能宽的明显的间隔分开。然后,将新的实例映射到同一空间,并基于它们落在间隔的哪一侧来预测所属类别。

除了进行线性分类之外,SVM还可以使用所谓的核技巧英语kernel trick有效地进行非线性分类,将其输入隐式映射到高维特征空间中。

当数据未被标记时,不能进行监督式学习,需要用非監督式學習,它会尝试找出数据到簇的自然聚类,并将新数据映射到这些已形成的簇。将支持向量机改进的聚类算法被称为支持向量聚类[2],当数据未被标记或者仅一些数据被标记时,支持向量聚类经常在工业应用中用作分类步骤的预处理。

动机[编辑]

H1 不能把类别分开。H2 可以,但只有很小的间隔。H3 以最大间隔将它们分开。

分类数据机器学习中的一项常见任务。 假设某些给定的数据点各自属于两个类之一,而目标是确定新数据点将在哪个类中。对于支持向量机来说,数据点被视为 维向量,而我们想知道是否可以用 超平面来分开这些点。这就是所谓的线性分类器。可能有许多超平面可以把数据分类。最佳超平面的一个合理选择是以最大间隔把两个类分开的超平面。因此,我们要选择能够让到每边最近的数据点的距离最大化的超平面。如果存在这样的超平面,则称为最大间隔超平面,而其定义的线性分类器被称为最大间隔分类器英语margin classifier,或者叫做最佳稳定性感知器[來源請求]

定义[编辑]

更正式地来说,支持向量机在高维或无限维空间中构造超平面或超平面集合,其可以用于分类、回归或其他任务。直觀來說,分類邊界距離最近的訓練資料點越遠越好,因為這樣可以缩小分類器的泛化誤差

核机器

尽管原始问题可能是在有限维空间中陈述的,但用于区分的集合在该空间中往往线性不可分英语Linear separability。为此,有人提出将原有限维空间映射到维数高得多的空间中,在该空间中进行分离可能会更容易。为了保持计算负荷合理,人们选择适合该问题的核函数英语Positive-definite kernel 来定义SVM方案使用的映射,以确保用原始空间中的变量可以很容易计算点积[3] 高维空间中的超平面定义为与该空间中的某向量的点积是常数的点的集合。定义超平面的向量可以选择在数据基中出现的特征向量 的图像的参数 的线性组合。通过选择超平面,被映射到超平面上的特征空间中的点集 由以下关系定义: 注意,如果随着 逐渐远离 变小,则求和中的每一项都是在衡量测试点 与对应的数据基点 的接近程度。这样,上述内核的总和可以用于衡量每个测试点相对于待分离的集合中的数据点的相对接近度。

应用[编辑]

  • 用于文本和超文本的分类,在归纳和直推方法中都可以显著减少所需要的有类标的样本数。
  • 用于图像分类。实验结果显示:在经过三到四轮相关反馈之后,比起传统的查询优化方案,支持向量机能够取得明显更高的搜索准确度。这同样也适用于图像分割系统,比如使用Vapnik所建议的使用特权方法的修改版本SVM的那些图像分割系统。[4][5]
  • 用于手写字体识别。
  • 用于医学中分类蛋白质,超过90%的化合物能够被正确分类。基于支持向量机权重的置换测试已被建议作为一种机制,用于解释的支持向量机模型。[6][7] 支持向量机权重也被用来解释过去的SVM模型。[8] 为识别模型用于进行预测的特征而对支持向量机模型做出事后解释是在生物科学中具有特殊意义的相对较新的研究领域。

历史[编辑]

原始SVM算法是由弗拉基米尔·万普尼克亞歷克塞·澤范蘭傑斯于1963年发明的。1992年,Bernhard E. Boser、Isabelle M. Guyon和弗拉基米尔·万普尼克提出了一种通过将核技巧应用于最大间隔超平面来创建非线性分类器的方法。[9] 当前标准的前身(软间隔)由Corinna Cortes和Vapnik于1993年提出,并于1995年发表。[1]

线性SVM[编辑]

我们考虑以下形式的 点测试集:

其中 是 1 或者 −1,表明点 所属的类。 中每个都是一个 向量。我们要求将 的点集 的点集分开的 “最大间隔超平面”,使得超平面与最近的点 之间的距离最大化。

任何超平面都可以写作满足下面方程的点集

设样本属于两个类,用该样本训练SVM得到的最大间隔超平面。在边缘上的样本点称为支持向量。

其中 (不必是归一化的)是该法向量。参数 决定从原点沿法向量 到超平面的偏移量。

硬间隔[编辑]

如果这些训练数据是线性可分的,可以选择分离两类数据的两个平行超平面,使得它们之间的距离尽可能大。在这两个超平面范围内的区域称为“间隔”,最大间隔超平面是位于它们正中间的超平面。这些超平面可以由方程:

或是

来表示。通过几何不难得到这两个超平面之间的距离是 ,因此要使两平面间的距离最大,我们需要最小化 。同时为了使得样本数据点都在超平面的间隔区以外,我们需要保证对于所有的 满足其中的一个条件:

或是

这些约束表明每个数据点都必须位于间隔的正确一侧。

这两个式子可以写作:

可以用这个式子一起来得到优化问题:

“在 条件下,最小化 ,对于 "

这个问题的解 决定了我们的分类器

此几何描述的一个显而易见却重要的结果是,最大间隔超平面完全是由最靠近它的那些 确定的。这些 叫做支持向量

软间隔[编辑]

为了将SVM扩展到数据线性不可分的情况,我们引入铰链损失函数,

当约束条件 (1) 满足时(也就是如果 位于边距的正确一侧)此函数为零。对于间隔的错误一侧的数据,该函数的值与距间隔的距离成正比。 然后我们希望最小化

其中参数 用来权衡增加间隔大小与确保 位于间隔的正确一侧之间的关系。因此,对于足够小的 值,如果输入数据是可以线性分类的,则软间隔SVM与硬间隔SVM将表现相同,但即使不可线性分类,仍能学习出可行的分类规则。

非线性分类[编辑]

核机器

万普尼克在1963年提出的原始最大间隔超平面算法构造了一个线性分类器。而1992年,Bernhard E. BoserIsabelle M. Guyon弗拉基米尔·万普尼克提出了一种通过将核技巧英语kernel trick(最初由Aizerman et al.[10]提出)应用于最大边界超平面来创建非线性分类器的方法。[11] 所得到的算法形式上类似,除了把点积换成了非线性函数。这就允许算法在变换后的特征空间中拟合最大间隔超平面。该变换可以是非线性的,而变换空间是高维的;虽然分类器是变换后的特征空间中的超平面,但它在原始输入空间中可以是非线性的。

值得注意的是,更高维的特征空间增加了支持向量机的泛化误差,但给定足够多的样本,算法仍能表现良好。[12]

常见的核函数包括:

  • 齊次多項式
  • 非齐次多项式英语Polynomial kernel
  • 高斯径向基函数,其中 。有时参数化表示
  • 双曲正切,其中一些(而非所有)

由等式 ,核函数与变换 有关。变换空间中也有 w 值,。与 w 的点积也要用核技巧来计算,即

计算SVM分类器[编辑]

计算(软间隔)SVM分类器等同于使下面表达式最小化

如上所述,由于我们关注的是软间隔分类器, 选择足够小的值就能得到线性可分类输入数据的硬间隔分类器。下面会详细介绍将(2)简化为二次规划问题的经典方法。之后会讨论一些最近才出现的方法,如次梯度下降法和坐标下降法。

原型[编辑]

最小化(2)可以用下面的方式改写为目标函数可微的约束优化问题。

对所有 我们引入变量 。注意到 是满足 的最小非负数。

因此,我们可以将优化问题叙述如下

这就叫做原型问题。

对偶型[编辑]

通过求解上述问题的拉格朗日对偶英语Duality (optimization),得到简化的问题

这就叫做对偶问题。由于对偶最小化问题是受线性约束的 的二次函数,所以它可以通过二次规划算法高效地解出。 这里,变量 定义为满足

.

此外,当 恰好在间隔的正确一侧时 ,且当 位于间隔的边界时 。因此, 可以写为支持向量的线性组合。 可以通过在间隔的边界上找到一个 并求解

得到偏移量 。(注意由于 因而 。)

核技巧[编辑]

假设我们要学习与变换后数据点 的线性分类规则对应的非线性分类规则。此外,我们有一个满足 的核函数

我们知道变换空间中的分类向量 满足

其中 可以通过求解优化问题

得到。与前面一样,可以使用二次规划来求解系数 。同样,我们可以找到让 的索引 ,使得 位于变换空间中间隔的边界上,然后求解

最后,可以通过计算下式来分类新点

现代方法[编辑]

用于找到SVM分类器的最近的算法包括次梯度下降和坐标下降。当处理大的稀疏数据集时,这两种技术已经被证明有着显著的优点——当存在许多训练实例时次梯度法是特别有效的,并且当特征空间的维度高时,坐标下降特别有效。

次梯度下降[编辑]

SVM的次梯度下降算法直接用表达式

注意 凸函数。因此,可以采用传统的梯度下降(或SGD英语Stochastic gradient descent)方法,其中不是在函数梯度的方向上前进,而是在从函数的次梯度中选出的向量的方向上前进。该方法的优点在于,对于某些实现,迭代次数不随着数据点的数量 而增加或减少。[13]

坐标下降[编辑]

SVM的坐标下降算法基于对偶问题

对所有 进行迭代,使系数 的方向与 一致。然后,将所得的系数向量 投影到满足给定约束的最接近的系数向量。(通常使用欧氏距离。)然后重复该过程,直到获得接近最佳的系数向量。所得的算法在实践中运行非常快,尽管已经证明的性能保证很少。[14]

性质[编辑]

SVM属于广义线性分类器的一族,并且可以解释为感知器的延伸。它们也可以被认为是吉洪诺夫正则化的特例。它们有一个特别的性质,就是可以同时最小化经验误差和最大化几何边缘区; 因此它们也被称为最大间隔分类器

Meyer、Leisch和Hornik对SVM与其他分类器进行了比较。[15]

参数选择[编辑]

SVM的有效性取决于核函数、核参数和软间隔参数 C 的选择。 通常会选只有一个参数 的高斯核。C 的最佳组合通常通过在 C 为指数增长序列下网格搜索英语grid search来选取,例如 ; 。通常情况下,使用交叉驗證来检查参数选择的每一个组合,并选择具有最佳交叉验证精度的参数。或者,最近在贝叶斯优化中的工作可以用于选择C和γ,通常需要评估比网格搜索少得多的参数组合。或者,贝叶斯优化英语Bayesian optimization的最近进展可以用于选择 C,通常需要计算的参数组合比网格搜索少得多。然后,使用所选择的参数在整个训练集上训练用于测试和分类新数据的最终模型。[16]

问题[编辑]

SVM的潜在缺点包括以下方面:

  • 需要对输入数据进行完全标记
  • 未校准类成员概率
  • SVM仅直接适用于两类任务。因此,必须应用将多类任务减少到几个二元问题的算法;请参阅多类SVM一节。
  • 解出的模型的参数很难理解。

延伸[编辑]

  • 支持向量聚類:支持向量聚類是一種建立在核函數上的類似方法,同適用於非監督學習和數據挖掘。它被認為是數據科學中的一種基本方法。
  • 轉導支持向量機
  • 多元分類支持向量機:SVM算法最初是為二值分類問題設計的,實現多分類的主要方法是將一個多分類問題轉化為多個二分類問題。常見方法包括“一對多法”和“一對一法”,一對多法是將某個類別的樣本歸為一類,其他剩餘的樣本歸為另一類,這樣k個類別的樣本就構造出了k個二分類SVM;一對一法則是在任意兩類樣本之間設計一個SVM。
  • 支持向量回歸
  • 結構化支持向量機:支持向量機可以被推廣為結構化的支持向量機,推廣後標籤空間是結構化的並且可能具有無限的大小。

实现[编辑]

最大间隔超平面的参数是通过求解优化得到的。有几种专门的算法可用于快速解决由SVM产生的QP问题,它们主要依靠启发式算法将问题分解成更小、更易于处理的子问题。

另一种方法是使用内点法英语interior point method,其使用类似牛顿法的迭代找到卡羅需-庫恩-塔克條件下原型和对偶型的解。[17] 这种方法不是去解决一系列分解问题,而是直接完全解决该问题。为了避免求解核矩阵很大的线性系统,在核技巧中经常使用矩阵的低秩近似。

另一个常见的方法是普莱特的序列最小优化算法(SMO),它把问题分成了若干个可以解析求解的二维子问题,这样就可以避免使用数值优化算法和矩阵存储。[18]

线性支持向量机的特殊情况可以通过用于优化其类似问题邏輯迴歸的同类算法更高效求解;这类算法包括次梯度下降法(如PEGASOS[19])和坐标下降法(如LIBLINEAR[20])。LIBLINEAR有一些引人注目的训练时间上的特性。每次收敛迭代花费在读取训练数据上的时间是线性的,而且这些迭代还具有Q-线性收敛英语Rate of convergence特性,使得算法非常快。

一般的核SVM也可以用次梯度下降法(P-packSVM[21])更快求解,在允许并行化时求解速度尤其快。

许多机器学习工具包都可以使用核SVM,有LIBSVM英语LIBSVMMATLABSAS、SVMlight、kernlabscikit-learn英语scikit-learnShogun英语Shogun (toolbox)WekaSharkJKernelMachines、OpenCV等。

参见[编辑]

参考文献[编辑]

引用[编辑]

  1. 1.0 1.1 Cortes, C.; Vapnik, V. Support-vector networks. Machine Learning英语Machine Learning (journal). 1995, 20 (3): 273–297. doi:10.1007/BF00994018. 
  2. Ben-Hur, Asa, Horn, David, Siegelmann, Hava, and Vapnik, Vladimir; "Support vector clustering" (2001) Journal of Machine Learning Research, 2: 125–137.
  3. *Press, William H.; Teukolsky, Saul A.; Vetterling, William T.; Flannery, B. P. Section 16.5. Support Vector Machines. Numerical Recipes: The Art of Scientific Computing 3rd. New York: Cambridge University Press. 2007. ISBN 978-0-521-88068-8. 
  4. Vapnik, V.: Invited Speaker. IPMU Information Processing and Management 2014)
  5. Barghout, Lauren. "Spatial-Taxon Information Granules as Used in Iterative Fuzzy-Decision-Making for Image Segmentation." Granular Computing and Decision-Making. Springer International Publishing, 2015. 285-318.
  6. Bilwaj Gaonkar, Christos Davatzikos Analytic estimation of statistical significance maps for support vector machine based multi-variate image analysis and classification
  7. R. Cuingnet, C. Rosso, M. Chupin, S. Lehéricy, D. Dormont, H. Benali, Y. Samson and O. Colliot, Spatial regularization of SVM for the detection of diffusion alterations associated with stroke outcome, Medical Image Analysis, 2011, 15 (5): 729–737
  8. Statnikov, A., Hardin, D., & Aliferis, C. (2006). Using SVM weight-based methods to identify causally relevant and non-causally relevant variables. sign, 1, 4.
  9. Boser, B. E.; Guyon, I. M.; Vapnik, V. N. A training algorithm for optimal margin classifiers. Proceedings of the fifth annual workshop on Computational learning theory – COLT '92. 1992: 144. ISBN 089791497X. doi:10.1145/130385.130401. 
  10. Aizerman, Mark A.; Braverman, Emmanuel M. & Rozonoer, Lev I. Theoretical foundations of the potential function method in pattern recognition learning. Automation and Remote Control. 1964, 25: 821–837. 
  11. Boser, B. E.; Guyon, I. M.; Vapnik, V. N. A training algorithm for optimal margin classifiers. Proceedings of the fifth annual workshop on Computational learning theory – COLT '92. 1992: 144. ISBN 089791497X. doi:10.1145/130385.130401. 
  12. Jin, Chi; Wang, Liwei. Dimensionality dependent PAC-Bayes margin bound. Advances in Neural Information Processing Systems. 2012. 
  13. Shalev-Shwartz, Shai; Singer, Yoram; Srebro, Nathan; Cotter, Andrew. Pegasos: primal estimated sub-gradient solver for SVM. Mathematical Programming. 2010-10-16, 127 (1): 3–30. ISSN 0025-5610. doi:10.1007/s10107-010-0420-4. 
  14. Hsieh, Cho-Jui; Chang, Kai-Wei; Lin, Chih-Jen; Keerthi, S. Sathiya; Sundararajan, S. A Dual Coordinate Descent Method for Large-scale Linear SVM. Proceedings of the 25th International Conference on Machine Learning. ICML '08 (New York, NY, USA: ACM). 2008-01-01: 408–415. ISBN 978-1-60558-205-4. doi:10.1145/1390156.1390208. 
  15. Meyer, D.; Leisch, F.; Hornik, K. The support vector machine under test. Neurocomputing. 2003, 55: 169. doi:10.1016/S0925-2312(03)00431-4. 
  16. Hsu, Chih-Wei; Chang, Chih-Chung & Lin, Chih-Jen. A Practical Guide to Support Vector Classification (PDF) (Technical report). Department of Computer Science and Information Engineering, National Taiwan University. 2003. 
  17. Ferris, M. C.; Munson, T. S. Interior-Point Methods for Massive Support Vector Machines. SIAM Journal on Optimization. 2002, 13 (3): 783. doi:10.1137/S1052623400374379. 
  18. John C. Platt. Sequential Minimal Optimization: A Fast Algorithm for Training Support Vector Machines (PDF). NIPS. 1998. 
  19. Shai Shalev-Shwartz; Yoram Singer; Nathan Srebro. Pegasos: Primal Estimated sub-GrAdient SOlver for SVM (PDF). ICML. 2007. 
  20. R.-E. Fan; K.-W. Chang; C.-J. Hsieh; X.-R. Wang; C.-J. Lin. LIBLINEAR: A library for large linear classification. Journal of Machine Learning Research英语Journal of Machine Learning Research. 2008, 9: 1871–1874. 
  21. Zeyuan Allen Zhu; 等. P-packSVM: Parallel Primal grAdient desCent Kernel SVM (PDF). ICDM. 2009. 

来源[编辑]

外部链接[编辑]