線性分類問題
點到超平面的距離
1.點(x1, y1)到直線 Ax + By + C = 0 的距離:
圖片.png
忽略正負號,分子寫成矩陣形式,分母寫為范數:
圖片.png
再寫成n維:
圖片.png
由此得到SVM目標函數(求所有的最小距離的最大值):
圖片.png
支持向量機名字的來歷:
圖片.png
圈中的五角星點(實際上是多維向量),位于過渡帶上,支撐了分割超平面,因此稱為支持向量(support vector),由支撐向量做的機器,就叫做支持向量機(support vector machine)~~
推導目標函數
圖片.png
這就是最大間隔分離超平面,使用幾何的方法推導出來的