模式識別是工程領域的,機器學習是計算機領域的, 但是他們也是一體兩面的,他們一起在過去十年得到了堅實的發展,尤其是貝葉斯方法從學術界發展到主流,圖模型作為一個基本框架出現,用于描述和應用概率模型,并且通過一系列近似推斷算法,比如變量貝葉斯和期望傳播算法,貝葉斯方法也得到了更大的發展。
本書,主要是深入理解模式識別和機器學習,和介紹最新的一些近況發現。 受眾群是沒有模式識別和機器學習經驗的研究生和博士一年級學生,研究人員和實踐人員。要有一些多變量微積分的知識和線性代數的知識,熟悉概率的話也是有幫助的, 當然本書自身也帶有一些概率方面的知識。
本書范圍很廣,所以沒有辦法提供完備的參考書目,而且更沒有打算追根溯源歷史的資料,本書的目標是,提供更多的更廣的細節,因為這個原因,參考科目很多都是最近的新的資料,而不是一些最原始的資料。
第一章
1.1介紹了一個多項式曲線擬合的例子,1.2介紹了一下概率論知識,比如,概率密度期望方差,貝葉斯概率,高斯分布,貝葉斯曲線擬合。介紹了概率論里面的知識之后再次討論剛才的多項式曲線擬合的例子。1.3介紹了模型選擇。1.4曲線維度。1.5介紹了決策論的一些知識,比如最小化分類錯誤率,最小化期望損失,拒絕選項,推斷和決策,回測損失函數。1.6信息論相對熵。
第二章
概率分布
2.1二分類變量:beta分布
2.2多分類變量dirichlet分布
2.3高斯分布
條件高斯分布,邊緣高斯分布
貝葉斯理論高斯變量,高斯最大似然估計
序列預測 高斯貝葉斯推斷
混合高斯分布
2.4指數家族
2.5非參數方法
第三章 回歸線性模型
3.1信息偏置函數模型3.2偏置變量解耦3.3貝葉斯線性回歸
3.4貝葉斯模型比較
3.6固定偏置函數的局限
第四章 分類線性模型
4.1差分函數 ?感知器算法
4.2概率生成模型
4.3概率差分模型
4.5貝葉斯邏輯回歸
第五章 神經網絡