?在“易圖秒懂の人工智能誕生”、 “易圖秒懂の符號主義誕生” 和 “易圖秒懂の連接主義誕生”，我們看到人工智能的發展經歷了符號主義和連接主義的壯大的洗禮。 其實它還有另外一個方向：經驗主義， 也經歷了爆發成長，這就是機器學習。其實深度學習是連接主義+經驗主義融合的一個產物。
但是， 機器學習在深度學習崛起之前， 基本上不愿意稱自己是做人工智能的。往往形成一個鄙視鏈：做機器學習的看不起做人工智能的， 做統計的看不起做機器學習的， 做概率/數學的看不起做統計的。 深度學習的大爆發， 讓一切看起來變得和諧了。 誰都愿意稱自己是做人工智能的。 贊贊的~~~
前言
前面講過，人工智能的發展歸根到底都可以看成兩個大學的影響：哥廷根大學和劍橋大學（參考“易圖秒懂の人工智能誕生"）。如果再仔細看下圖，不是還有一個萊布尼茨么？ 對的， 除了哲學思想， 微積分創立， 肯定只要有數學分析就有他的影響。
既然， 機器學習是人工智能的一個分支， 那么可不可以說，機器學習歸根到底也是哥廷根大學和劍橋大學的影響。 也是可以的！為什么這么說呢？等后面，我們慢慢道來。
另外， 在神經網絡被搞物理的人在默默發展的時候， 尤其能量函數的提出，為Hopfield網絡的發展奠定了基礎， 提到了收斂性的證明。 講到了Lyapunov，其實他就和萊布尼茨關系巨大。 這又是怎么關聯的呢？
一圖抵千言
來自劍橋大學的影響
劍橋大學除了哲學， 邏輯，數學有著深刻的影響力， 還有生物學， 從劍橋走出了達爾文，達爾文影響了統計的誕生。當然還有文學，徐志摩， 林徽因~
統計學的誕生，對機器學習的發展影響巨大， 大到有時候機器學習也被統計的人稱為統計學習。 對于統計歷史，”Lasso簡史“里面有詳細的說明。 這里稍微圖譜一下。 妒忌表兄達爾文的高爾頓建立了實驗室，后來成為倫敦大學院的統計系， 系里跑出一個老師， 創立了美國第一個統計系--伯克利大學統計系。
在”機器學習背后的男人們“里面，我們提到， 達爾文還影響了另外一波人。 劍橋校友Mike的老板實現了McCarthy發明的LISP語言的第一個通用編譯器。 而這個Mike的學生，Leslie 奠定機器學習基礎的理論--PAC學習。
有了PAC學習之后， 是不是就可以了呢？
PAC學習之后，較為容易地就有了經驗風險最小理論， 但是還需要NFL定理（別名：沒有免費的午餐No Free Lunch定理）。 看過周志華大神的西瓜書的人，一定好奇， 為啥一上來就講這個NFL定理？其實這個定理決定了， 框架搭好了， 根據目標不同， 優化便有差異。 而這個優化的基礎是誰奠基的呢？
來自萊布尼茲的影響
彼得堡學派，幾乎奠定了優化的大部分理論基礎， 直到Vapnik大神奠基了支持向量機， 提出了Margin理論。 開啟了后面一切的牛B模式。 而這個彼得堡學派， 某種意義上是受到了伯努利家族的影響， 而伯努利兄弟之所以這么厲害的原因之一，也是他們有了個好朋友叫萊布尼茲。 怎么聯系起來的呢？請大家移步去看我之前的文章”機器學習背后的男人們“，里面有更為詳細的解釋。
這樣看來， 劍橋大學校友影響力下迸發了PAC學習，萊布尼茨影響下推進了彼得堡學派做優化，那么哥廷根大學影響了什么呢？
來自哥廷根大學的影響
又是克萊因的徒孫Lefschetz，我們現在提到Lefschetz第三個學生， 前面有發現KKT條件的Tucker， Tucker的學生Minsky和另外一個學生McCarthy創立人工智能。第三個學生 Tukey發明了Jackknife方法， 他的一位華人學生鐘開萊在斯坦福大學任教，將Jackknife的影響帶到了斯坦福大學， 鐘開萊的同事Efron受Jackknife影響， 發明了Bootstrap方法。 從此，開啟了斯坦福大學統計學“沖上云霄”模式， 參考”Lasso簡史“。
有了伯克利大學統計系和斯坦福大學的統計系影響， 基本奠定了機器學習的大廈。
小結
這里，借著人工智能的源頭東風，來講述這股風是怎么吹出機器學習的。 下次將繼續講述機器學習發展中的人物的傳承關系和聯系。
相關話題：
