概率圖模型（probabilistic graphical model，PGM）是一類算法的統稱，是圖靈獎獲得者Pearl開發出來的用圖來表示變量概率依賴關系的理論，用途甚廣，作用巨大。我們之前已經梳理了很多種模型，有線性模型，有基于樹的模型等等，現在又來了個概率圖模型，想要理解它，我們要搞清楚兩個問題：
- 概率圖模型是什么：
根據概念，概率圖模型是用圖來表示變量概率依賴關系的理論，結合概率論與圖論的知識，利用圖來表示與模型有關的變量的聯合概率分布。
- 結合問題1，概率圖模型與其他模型的本質區別是什么：
首先我們回想下以前講過的模型，如線性模型、樹模型、SVM等，他們都致力于解決根據當前數據點的特征
，來預測
，即計算
，每個不同的數據點之間是獨立的，那么對于數據點不獨立的問題怎么處理呢？所謂不獨立，即存在依賴關系，依賴關系可以用圖來表示，這就形成了概率圖模型，這也就是概率圖模型與其他模型的本質區別。
- 有哪些常用的概率圖模型：
圖由節點和邊構成，記作，
表示隨機變量，
表示變量的依賴關系，圖分為有向圖和無向圖，有向圖適合單向依賴，無向圖適合互相依賴。如下圖所示，有向圖模型和無向圖模型又分別分為了很多種模型，接下來我們重點關注隱馬爾可夫模型（HMM）和條件隨機場（CRF）。
