發簡信
IP屬地：青海
-
接下來的一些想法
這一篇寫給自己，想把這個博客好好寫下去。 之前機器學習系列會繼續寫下去， 后面打算寫一些推薦系統相關的內容，接下來是EM算法，以及EM的應用例子...
-
機器學習14 XGBoost
這一篇開始介紹XGBoost。 和GBDT不同， XGBoost不僅僅使用了一階梯度， 還使用了二階梯度。同時增加了正則化。 第m步的損失函數：...
-
機器學習13 GBDT
這一篇開始講GBDT(梯度提升決策樹)， 根據上一篇可知，該模型每次學習的是損失函數的負梯度。所以基模型是回歸樹（因為每次都在擬合一個確定的值，...
-
機器學習10 Bagging and Boosting
這一篇， 我們希望提升模型的性能， 除了更多的數據，更好的EDA等，集成學習可以從模型的角度提升模型的學習性能，即將基模型組合成一個大模型。 在...
-
機器學習12 提升樹模型與梯度提升
這一篇繼續boosting，介紹一下提升樹算法， 提升樹以決策樹為基模型， 依然是加法模型，優化算法是前向分步算法。 針對分類問題， 決策樹是二...
-
機器學習11 AdaBoost 與 前向分步算法
這一篇開始介紹Boosting，我們先介紹Boosting中的第一個模型， AdaBoost, 二分類學習模型 AdaBoost的基本原理，是每...
-
機器學習09 模型性能，選擇與泛化能力到現在為止， 我們介紹了一些分類回歸的模型， 當然還有許許多多的模型沒有介紹， 同時我們到現在還沒有對數據有過任何的加工，真實情況下，數據是需要...
-
機器學習07 SVM
這一講要開始講SVM(Support Vector Machine)了，在深度學習流行以前，SVM占據著很重要的位置，它的理論推導是非常優美的。...
-
機器學習08 決策樹模型
前面若干篇幅， 主要講了線性分類器， 這一節開始， 我們會著重介紹決策樹模型， 從http://www.lxweimin.com/p/14165...