【直观详解】支持向量机SVM

【阅读时间】

    13min - 19min

【内容简介】

     详解解读什么是支持向量机，如何解支持向量以及涉及的拉普拉斯乘子法，还有核方法的解读。

1

什么是 支持向量机-SVM

支持向量机-SVM(Support Vector Machine)从本质来说是一种：用一条线（方程）分类两种事物。

有了直观的感知，在定义这一节在做一些深入的思考，分解名词（Support Vector Machine）并尝试解释：

公式中每一个符号的含义在后文有说明

2

 如何求解支持向量机

对于我们需要求解的这个超平面（直线）来说，我们知道

• 它离两边一样远（待分类的两个部分的样本点）

• 最近的距离就是到支持向量中的点的距离

根据这两点，抽象SVM的直接表达（Directly Representation）

其实这个公式是一点也不抽象，需要更进一步的用符号来表达。

我们知道在准确描述世界运行的规律这件事上，数学比文字要准确并且无歧义的多，文字（例子）直观啰嗦，数学（公式）准确简介。

         硬间隔         

SVM支持向量机

注：公式中加粗或者带有向量箭头的都表达一个向量

注：s.t. ：subject to 表示约束条件，表达的意思等价于：为了使得所有样本数据都在间隔区（两条虚线）以外。

为了解(3)式，需要用到拉格朗日乘子法（Method of lagrange multiplier），它是用来求解在约束条件目标函数的极值的。

注：以下解算过程中很多地方推导过程只写必要过程及结论

转自：机器学习算法与自然语言处理

完整内容请点击“阅读原文”