機器學習算法與Python實踐這個系列主要是參考《機器學習實戰》這本書。因為自己想學習Python，然后也想對一些機器學習算法加深下了解，所以就想通過Python來實現幾個比較常用的機器學習算法。恰好遇見這本同樣定位的書籍，所以就參考這本書的過程來學習了。

這節學習的是邏輯回歸（Logistic Regression），也算進入了比較正統的機器學習算法。啥叫正統呢？我概念里面機器學習算法一般是這樣一個步驟：

1）對于一個問題，我們用數學語言來描述它，然后建立一個模型，例如回歸模型或者分類模型等來描述這個問題；

2）通過最大似然、最大后驗概率或者最小化分類誤差等等建立模型的代價函數，也就是一個最優化問題。找到最優化問題的解，也就是能擬合我們的數據的最好的模型參數；

3）然后我們需要求解這個代價函數，找到最優解。這求解也就分很多種情況了：

? ? ? ? ? ? a）如果這個優化函數存在解析解。例如我們求最值一般是對代價函數求導，找到導數為0的點，也就是最大值或者最小值的地方了。如果代價函數能簡單求導，并且求導后為0的式子存在解析解，那么我們就可以直接得到最優的參數了。

? ? ? ? ? ? b）如果式子很難求導，例如函數里面存在隱含的變量或者變量相互間存在耦合，也就互相依賴的情況。或者求導后式子得不到解釋解，例如未知參數的個數大于已知方程組的個數等。這時候我們就需要借助迭代算法來一步一步找到最有解了。迭代是個很神奇的東西，它將遠大的目標（也就是找到最優的解，例如爬上山頂）記在心上，然后給自己定個短期目標（也就是每走一步，就離遠大的目標更近一點），腳踏實地，心無旁貸，像個蝸牛一樣，一步一步往上爬，支撐它的唯一信念是：只要我每一步都爬高一點，那么積跬步，肯定能達到自己人生的巔峰，盡享山登絕頂我為峰的豪邁與忘我。

另外需要考慮的情況是，如果代價函數是凸函數，那么就存在全局最優解，方圓五百里就只有一個山峰，那命中注定了，它就是你要找的唯一了。但如果是非凸的，那么就會有很多局部最優的解，有一望無際的山峰，人的視野是偉大的也是渺小的，你不知道哪個山峰才是最高的，可能你會被命運作弄，很無辜的陷入一個局部最優里面，坐井觀天，以為自己找到的就是最好的。沒想到山外有山，人外有人，光芒總在未知的遠處默默綻放。但也許命運眷戀善良的你，帶給你的總是最好的歸宿。也有很多不信命的人，覺得人定勝天的人，誓要找到最好的，否則不會罷休，永不向命運妥協，除非自己有一天累了，倒下了，也要靠剩下的一口氣，邁出一口氣能支撐的路程。好悲涼啊……哈哈。

呃，不知道扯那去了，也不知道自己說的有沒有錯，有錯的話請大家不吝指正。那下面就進入正題吧。正如上面所述，邏輯回歸就是這樣的一個過程：面對一個回歸或者分類問題，建立代價函數，然后通過優化方法迭代求解出最優的模型參數，然后測試驗證我們這個求解的模型的好壞，冥冥人海，滾滾紅塵，我們是否找到了最適合的那個她。

一、邏輯回歸（LogisticRegression）

Logistic regression （邏輯回歸）是當前業界比較常用的機器學習方法，用于估計某種事物的可能性。之前在經典之作《數學之美》中也看到了它用于廣告預測，也就是根據某廣告被用戶點擊的可能性，把最可能被用戶點擊的廣告擺在用戶能看到的地方，然后叫他“你點我啊！”用戶點了，你就有錢收了。這就是為什么我們的電腦現在廣告泛濫的原因了。

還有類似的某用戶購買某商品的可能性，某病人患有某種疾病的可能性啊等等。這個世界是隨機的（當然了，人為的確定性系統除外，但也有可能有噪聲或產生錯誤的結果，只是這個錯誤發生的可能性太小了，小到千萬年不遇，小到忽略不計而已），所以萬物的發生都可以用可能性或者幾率（Odds）來表達。“幾率”指的是某事物發生的可能性與不發生的可能性的比值。

Logistic regression可以用來回歸，也可以用來分類，主要是二分類。還記得上幾節講的支持向量機SVM嗎？它就是個二分類的例如，它可以將兩個不同類別的樣本給分開，思想是找到最能區分它們的那個分類超平面。但當你給一個新的樣本給它，它能夠給你的只有一個答案，你這個樣本是正類還是負類。例如你問SVM，某個女生是否喜歡你，它只會回答你喜歡或者不喜歡。這對我們來說，顯得太粗魯了，要不希望，要不絕望，這都不利于身心健康。那如果它可以告訴我，她很喜歡、有一點喜歡、不怎么喜歡或者一點都不喜歡，你想都不用想了等等，告訴你她有49%的幾率喜歡你，總比直接說她不喜歡你，來得溫柔。而且還提供了額外的信息，她來到你的身邊你有多少希望，你得再努力多少倍，知己知彼百戰百勝，哈哈。Logistic regression就是這么溫柔的，它給我們提供的就是你的這個樣本屬于正類的可能性是多少。

還得來點數學。（更多的理解，請參閱參考文獻）假設我們的樣本是{x, y}，y是0或者1，表示正類或者負類，x是我們的m維的樣本特征向量。那么這個樣本x屬于正類，也就是y=1的“概率”可以通過下面的邏輯函數來表示：

這里θ是模型參數，也就是回歸系數，σ是sigmoid函數。實際上這個函數是由下面的對數幾率（也就是x屬于正類的可能性和負類的可能性的比值的對數）變換得到的：

換句話說，y也就是我們關系的變量，例如她喜不喜歡你，與多個自變量（因素）有關，例如你人品怎樣、車子是兩個輪的還是四個輪的、長得勝過潘安還是和犀利哥有得一拼、有千尺豪宅還是三寸茅廬等等，我們把這些因素表示為x1, x2,…, xm。那這個女的怎樣考量這些因素呢？最快的方式就是把這些因素的得分都加起來，最后得到的和越大，就表示越喜歡。但每個人心里其實都有一桿稱，每個人考慮的因素不同，蘿卜青菜，各有所愛嘛。例如這個女生更看中你的人品，人品的權值是0.6，不看重你有沒有錢，沒錢了一起努力奮斗，那么有沒有錢的權值是0.001等等。我們將這些對應x1, x2,…, xm的權值叫做回歸系數，表達為θ1, θ2,…, θm。他們的加權和就是你的總得分了。請選擇你的心儀男生，非誠勿擾！哈哈。

? ? ? ? ? 所以說上面的logistic回歸就是一個線性分類模型，它與線性回歸的不同點在于：為了將線性回歸輸出的很大范圍的數，例如從負無窮到正無窮，壓縮到0和1之間，這樣的輸出值表達為“可能性”才能說服廣大民眾。當然了，把大值壓縮到這個范圍還有個很好的好處，就是可以消除特別冒尖的變量的影響（不知道理解的是否正確）。而實現這個偉大的功能其實就只需要平凡一舉，也就是在輸出加一個logistic函數。另外，對于二分類來說，可以簡單的認為：如果樣本x屬于正類的概率大于0.5，那么就判定它是正類，否則就是負類。實際上，SVM的類概率就是樣本到邊界的距離，這個活實際上就讓logistic regression給干了。

? ? ? ? ? ? 所以說，LogisticRegression 就是一個被logistic方程歸一化后的線性回歸，僅此而已。

好了，關于LR的八卦就聊到這。歸入到正統的機器學習框架下，模型選好了，只是模型的參數θ還是未知的，我們需要用我們收集到的數據來訓練求解得到它。那我們下一步要做的事情就是建立代價函數了。

? ? ? ? ? ?LogisticRegression最基本的學習算法是最大似然。啥叫最大似然，可以看看我的另一篇博文“從最大似然到EM算法淺解”。

? ? ? ? ? ?假設我們有n個獨立的訓練樣本{(x1, y1) ,(x2, y2),…, (xn, yn)}，y={0, 1}。那每一個觀察到的樣本(xi, yi)出現的概率是：

? ? ? ? ? ? ?上面為什么是這樣呢？當y=1的時候，后面那一項是不是沒有了，那就只剩下x屬于1類的概率，當y=0的時候，第一項是不是沒有了，那就只剩下后面那個x屬于0的概率（1減去x屬于1的概率）。所以不管y是0還是1，上面得到的數，都是(x, y)出現的概率。那我們的整個樣本集，也就是n個獨立的樣本出現的似然函數為（因為每個樣本都是獨立的，所以n個樣本出現的概率就是他們各自出現的概率相乘）：

? ? ? ? ? ?那最大似然法就是求模型中使得似然函數最大的系數取值θ*。這個最大似然就是我們的代價函數（cost function）了。

? ? ? ? ? ?OK，那代價函數有了，我們下一步要做的就是優化求解了。我們先嘗試對上面的代價函數求導，看導數為0的時候可不可以解出來，也就是有沒有解析解，有這個解的時候，就皆大歡喜了，一步到位。如果沒有就需要通過迭代了，耗時耗力。

? ? ? ? ? ?我們先變換下L(θ)：取自然對數，然后化簡（不要看到一堆公式就害怕哦，很簡單的哦，只需要耐心一點點，自己動手推推就知道了。注：有xi的時候，表示它是第i個樣本，下面沒有做區分了，相信你的眼睛是雪亮的），得到：

這時候，用L(θ)對θ求導，得到：

然后我們令該導數為0，你會很失望的發現，它無法解析求解。不信你就去嘗試一下。所以沒辦法了，只能借助高大上的迭代來搞定了。這里選用了經典的梯度下降算法。

二、優化求解

2.1、梯度下降(gradient descent)

Gradient descent 又叫 steepest descent，是利用一階的梯度信息找到函數局部最優解的一種方法，也是機器學習里面最簡單最常用的一種優化方法。它的思想很簡單，和我開篇說的那樣，要找最小值，我只需要每一步都往下走（也就是每一步都可以讓代價函數小一點），然后不斷的走，那肯定能走到最小值的地方，例如下圖所示：

但，我同時也需要更快的到達最小值啊，怎么辦呢？我們需要每一步都找下坡最快的地方，也就是每一步我走某個方向，都比走其他方法，要離最小值更近。而這個下坡最快的方向，就是梯度的負方向了。

對logistic Regression來說，梯度下降算法新鮮出爐，如下：

? ? ? ? ? 其中，參數α叫學習率，就是每一步走多遠，這個參數蠻關鍵的。如果設置的太多，那么很容易就在最優值附加徘徊，因為你步伐太大了。例如要從廣州到上海，但是你的一步的距離就是廣州到北京那么遠，沒有半步的說法，自己能邁那么大步，是幸運呢？還是不幸呢？事物總有兩面性嘛，它帶來的好處是能很快的從遠離最優值的地方回到最優值附近，只是在最優值附近的時候，它有心無力了。但如果設置的太小，那收斂速度就太慢了，向蝸牛一樣，雖然會落在最優的點，但是這速度如果是猴年馬月，我們也沒這耐心啊。所以有的改進就是在這個學習率這個地方下刀子的。我開始迭代是，學習率大，慢慢的接近最優值的時候，我的學習率變小就可以了。所謂采兩者之精華啊！這個優化具體見2.3 。

梯度下降算法的偽代碼如下：

################################################

初始化回歸系數為1

重復下面步驟直到收斂{

? ? ? ? ?計算整個數據集的梯度

? ? ? ? ?使用alpha x gradient來更新回歸系數

}

返回回歸系數值

################################################

注：因為本文中是求解的Logit回歸的代價函數是似然函數，需要最大化似然函數。所以我們要用的是梯度上升算法。但因為其和梯度下降的原理是一樣的，只是一個是找最大值，一個是找最小值。找最大值的方向就是梯度的方向，最小值的方向就是梯度的負方向。不影響我們的說明，所以當時自己就忘了改過來了，謝謝評論下面@wxltt的指出。另外，最大似然可以通過取負對數，轉化為求最小值。代碼里面的注釋也是有誤的，寫的代碼是梯度上升，注銷成了梯度下降，對大家造成的不便，希望大家海涵。

2.2、隨機梯度下降SGD (stochastic gradient descent)

梯度下降算法在每次更新回歸系數的時候都需要遍歷整個數據集（計算整個數據集的回歸誤差），該方法對小數據集尚可。但當遇到有數十億樣本和成千上萬的特征時，就有點力不從心了，它的計算復雜度太高。改進的方法是一次僅用一個樣本點（的回歸誤差）來更新回歸系數。這個方法叫隨機梯度下降算法。由于可以在新的樣本到來的時候對分類器進行增量的更新（假設我們已經在數據庫A上訓練好一個分類器h了，那新來一個樣本x。對非增量學習算法來說，我們需要把x和數據庫A混在一起，組成新的數據庫B，再重新訓練新的分類器。但對增量學習算法，我們只需要用新樣本x來更新已有分類器h的參數即可），所以它屬于在線學習算法。與在線學習相對應，一次處理整個數據集的叫“批處理”。

隨機梯度下降算法的偽代碼如下：

################################################

初始化回歸系數為1

重復下面步驟直到收斂{

? ? ? ? 對數據集中每個樣本

? ? ? ? ? ? ? ? 計算該樣本的梯度

? ? ? ? ? ? ? ? 使用alpha xgradient來更新回歸系數

}

返回回歸系數值

################################################

2.3、改進的隨機梯度下降

評價一個優化算法的優劣主要是看它是否收斂，也就是說參數是否達到穩定值，是否還會不斷的變化？收斂速度是否快？

上圖展示了隨機梯度下降算法在200次迭代中（請先看第三和第四節再回來看這里。我們的數據庫有100個二維樣本，每個樣本都對系數調整一次，所以共有200*100=20000次調整）三個回歸系數的變化過程。其中系數X2經過50次迭代就達到了穩定值。但系數X1和X0到100次迭代后穩定。而且可恨的是系數X1和X2還在很調皮的周期波動，迭代次數很大了，心還停不下來。產生這個現象的原因是存在一些無法正確分類的樣本點，也就是我們的數據集并非線性可分，但我們的logistic regression是線性分類模型，對非線性可分情況無能為力。然而我們的優化程序并沒能意識到這些不正常的樣本點，還一視同仁的對待，調整系數去減少對這些樣本的分類誤差，從而導致了在每次迭代時引發系數的劇烈改變。對我們來說，我們期待算法能避免來回波動，從而快速穩定和收斂到某個值。

對隨機梯度下降算法，我們做兩處改進來避免上述的波動問題：

1）在每次迭代時，調整更新步長alpha的值。隨著迭代的進行，alpha越來越小，這會緩解系數的高頻波動（也就是每次迭代系數改變得太大，跳的跨度太大）。當然了，為了避免alpha隨著迭代不斷減小到接近于0（這時候，系數幾乎沒有調整，那么迭代也沒有意義了），我們約束alpha一定大于一個稍微大點的常數項，具體見代碼。

2）每次迭代，改變樣本的優化順序。也就是隨機選擇樣本來更新回歸系數。這樣做可以減少周期性的波動，因為樣本順序的改變，使得每次迭代不再形成周期性。

改進的隨機梯度下降算法的偽代碼如下：

################################################

初始化回歸系數為1

重復下面步驟直到收斂{

? ? ? ? ?對隨機遍歷的數據集中的每個樣本

? ? ? ? ? ? ? ? ? 隨著迭代的逐漸進行，減小alpha的值

? ? ? ? ? ? ? ? ? 計算該樣本的梯度

? ? ? ? ? ? ? ? ? 使用alpha x gradient來更新回歸系數

}

返回回歸系數值

################################################

比較原始的隨機梯度下降和改進后的梯度下降，可以看到兩點不同：

1）系數不再出現周期性波動。2）系數可以很快的穩定下來，也就是快速收斂。這里只迭代了20次就收斂了。而上面的隨機梯度下降需要迭代200次才能穩定。

三、Python實現

我使用的Python是2.7.5版本的。附加的庫有Numpy和Matplotlib。具體的安裝和配置見前面的博文。在代碼中已經有了比較詳細的注釋了。不知道有沒有錯誤的地方，如果有，還望大家指正（每次的運行結果都有可能不同）。里面我寫了個可視化結果的函數，但只能在二維的數據上面使用。直接貼代碼：

logRegression.py

四、測試結果

測試代碼：

test_logRegression.py

訓練結果：

(a)梯度下降算法迭代500次。(b)隨機梯度下降算法迭代200次。(c)改進的隨機梯度下降算法迭代20次。(d)改進的隨機梯度下降算法迭代200次。