〇、說明
最近在學習機器學習方面的算法知識，這里盡量以通俗易懂的方式將其整理一下，一方面以備自己查閱，另一方面如果可以方便他人則更好。
凸優化主要學習《凸優化》(Stephen Boyd等著，王書寧等譯)[1]這本書。學習過程中，對其內容的理解時有困惑，也參考一些其他書籍資料。筆者盡量將這部分知識整理地簡潔明了，成此系列筆記。
如有錯誤疏漏，煩請指出。如要轉載，請聯系筆者，hpfhepf@gmail.com。
一、什么是凸優化
不嚴格的說，凸優化就是在標準優化問題的范疇內，要求目標函數和約束函數是凸函數的一類優化問題。
二、重要性
“凸優化在數學規劃領域具有非常重要的地位。”
“一旦將一個實際問題表述為凸優化問題，大體上意味著相應問題已經得到徹底解決，這是非凸的優化問題所不具有的性質。”
——《<凸優化>譯者序》
凸優化之所以如此重要，是因為：
1、其應用非常廣泛，機器學習中很多優化問題都要通過凸優化來求解；
2、在非凸優化中，凸優化同樣起到重要的作用，很多非凸優化問題，可以轉化為凸優化問題來解決；
3、如上引用所述，凸優化問題可以看作是具有成熟求解方法的問題，而其他優化問題則未必。
三、凸優化知識體系
凸集，定義目標函數和約束函數的定義域。
凸函數，定義優化相關函數的凸性限制。
凸優化，中心內容的標準描述。
凸優化問題求解，核心內容。相關算法，梯度下降法、牛頓法、內點法等。
對偶問題，將一般優化問題轉化為凸優化問題的有效手段，求解凸優化問題的有效方法。
四、標準優化問題
五、凸優化問題
附錄
A、參考
[1]、《凸優化》，Stephen Boyd等著，王書寧等譯
B、相關目錄
凸優化(一)——概述
C、時間線
2016-02-15 第一次發布
2016-08-07 修改文章名，重新整理完善
