文档介绍:支持向量机Support Vector Machine
陈方
主要内容
线性可分SVM
线性不可分SVM
线性近似可分SVM
SVM的应用
实验
线性可分SVM
病人编号
年龄[x]1
胆固醇水平[x]2
有心脏病y
1
60
165
Y=-1
2
57
150
Y=-1
:
:
:
:
10
70
190
Y=1
线性可分SVM
线性可分:一个线性函数可以将样本完全正确分开
线性函数:(点、直线、平面)统称超平面
(两类)分类标准:
线性可分SVM
最大分类间隔
取目标函数为
线性可分SVM
寻找最宽边界问题可以表示成一个约束优化问题:
线性可分SVM
Lagrange函数
原始函数
对偶函数为
Lagrange乘子
线性可分SVM
借助Lagrange方法求解,只涉及到之间的点积运算
线性可分SVM
线性可分SVM
因此分类函数为:
所有非 Supporting Vector 所对应的系数α都是等于零的
⋅表示向量内积,是之后使用 Kernel 进行非线性推广的基本前提