如何入門AI?
一、有計算機和數(shù)學(xué)基礎(chǔ),可以通過各種資源自學(xué),不一定要讀博
1、編程,從pathon開始,讀別人寫的代碼,Github上寫很好的代碼
2、數(shù)學(xué),概率論、微積分,線性代數(shù)
3、課程,吳恩達系列,CS231n
3、論文,讀一定量的論文,不要太多
二、實踐中學(xué)習(xí)
1、堅持編程
2、開始一個項目
三、重要的理念
1、相信直覺
2、不被工具化:必須接觸到最底層,知道一切程序背后的原理,不要隨便抽象化,你必須充分了解全部,了解整個流程,例如自己寫庫,實現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)
3、經(jīng)驗之談:
不要一開始就用TensorFlow之類的東西,一旦你自己寫出了最底層的代碼之后,你可以用,因為你知道所有背后的原理,這樣你就很放心,盡量從基本原理入手獲取認識,真的很有幫助
自己動手編程,現(xiàn)在有太多插件可用,但是使用者根本不了解自己在做什么或者只停留在粗淺了解的程度,一旦出現(xiàn)問題,使用者很難解決也不知道原因,所以大家要親自實踐,即便效率不高,只要知道是怎么回事就好,這很有幫助,盡量親自動手
如果可以的話,盡量從基本原理入手獲取認識,真的很有幫助
多閱讀,多看看別人的代碼,自己動手編寫代碼,多做實驗,要真正理解自己做的每一件事
視頻地址:有些網(wǎng)頁是圖片,以下親測可看
https://study.163.com/topics/deepLearning/?utm_source=baidu&utm_medium=cpc&utm_campaign=affiliate&utm_term=DeepLearning06&utm_content=SEM
附:大神觀點
1、Geoffrey Hinton【強烈推薦,看英文字幕,有些神韻的地方翻譯很難傳神】
發(fā)明最多深度學(xué)習(xí)理念的人,堅持做自己相信的事情
入門建議:多讀論文但別讀太多,對有創(chuàng)意的人,發(fā)現(xiàn)錯誤點,然后想這樣才能做對,當(dāng)人們發(fā)對你時要堅持自我,永遠不要停止編程。
And I have a very good principle for helping people keep at it,whinch is either your intuitions are good or they’re not.
If your intuitions are good ,? you should follow them and you'll eventually be successful.
If your intuitions are not good ,it doesn't matter what you do.
Inspiring advice, might as well go for it.
【我試著翻譯一下】相信直覺,如果正確那就應(yīng)該行動最后會取得成功,如果錯誤,那你做什么都沒有意義。
2、Pieter-Abbeel
自學(xué)能力+有經(jīng)驗的人來推動你成功
3、Ian Goodfellow【推薦】
線性代數(shù)和概率論非常重要
必須掌握基本數(shù)學(xué),這是算法的基礎(chǔ)
其中一種獲得機會注意的方式是:在Github上寫很好的代碼
寫文章并發(fā)表到arXiv手上也是可以的
一邊閱讀那本書,同時開始一個項目,總之要選擇某種方式將機器學(xué)習(xí)應(yīng)用到你興趣的領(lǐng)域
4、Ruslan Salakhutdinov
應(yīng)該實際了解深度學(xué)習(xí)的底層
要求學(xué)生:實際編寫卷積神經(jīng)網(wǎng)絡(luò)的反向傳播算法
好處,很難,但是做過你就真正了解這些系統(tǒng)背后的運作原理以及如何在GPU上高效實現(xiàn)它們
5、Andrej Karpathy【推薦】
教授CS231n課程,一直講到最后的技術(shù)實現(xiàn),所以你必須接觸到最底層,知道一切程序背后的原理,不要隨便抽象化,你必須充分了解全棧,了解整個流程
當(dāng)我這樣學(xué),學(xué)到的東西最多,就是你自己從零開始去實現(xiàn),就是這部分學(xué)習(xí)性價比最高
自己寫庫,Javascript寫的,可以實現(xiàn)卷積神經(jīng)網(wǎng)絡(luò),那是我學(xué)習(xí)后向傳播的方法
我一直建議別人,不要一開始就用TensorFlow之類的東西,一旦你自己寫出了最底層的代碼之后,你可以用,因為你知道所有背后的原理,這樣你就很放心
6、林元慶
國家深度學(xué)習(xí)實驗室——中國的旗艦,百度擁有這個實驗室
更好的數(shù)據(jù),更好的算法,更好的產(chǎn)品——正向循環(huán)
7、Yoshua Bengio【強烈推薦】
不是讓系統(tǒng)實現(xiàn)什么功能,而是回到最本源的原理,如何讓電腦來觀察世界,與世界互動,發(fā)現(xiàn)世界
研究深度學(xué)習(xí)和應(yīng)用深度學(xué)習(xí)需要的東西不一樣,但無論哪種情況都要時間
需要大量閱讀,自己動手編程,現(xiàn)在有太多插件可用,但是使用者根本不了解自己在做什么或者只停留在粗淺了解的程度,一旦出現(xiàn)問題,使用者很難解決也不知道原因,所以大家要親自實踐,即便效率不高,只要知道是怎么回事就好,這很有幫助,盡量親自動手
如果可以的話,盡量從基本原理入手獲取認識,真的很有幫助
多閱讀,多看看別人的代碼,自己動手編寫代碼,多做實驗,要真正理解自己做的每一件事
多問問自己,我為什么要這么做,人們?yōu)槭裁匆@么做,也許書中就能找到答案,所以要多讀書
【他是ICLR的創(chuàng)始人之一,所以有軟廣的成分】
【親測有效】http://www.iclr.cc/doku.php?id=iclr2018:previousyears?
ICLR大會論文集可以說是優(yōu)秀論文最集中的所在
當(dāng)然NIPS ICML和其他大會也有非常優(yōu)秀的論文
如果你想閱讀大量優(yōu)秀論文,去看看最近幾年的ICLR大會論文集就好,你會對這個領(lǐng)域有一個良好的認識
不需要攻讀五年博士也可以精通深度學(xué)習(xí)
概率、代數(shù)和最優(yōu)化、微積分
直覺很重要