神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)資源推介

2016-04-22我們愛智慧

前言:本文是推薦給在校CS專業(yè)學(xué)生的資源推介,參考網(wǎng)絡(luò)文獻(xiàn)整理。謝謝大家的分享!

1、第一次接觸

深入淺出地介紹神經(jīng)網(wǎng)絡(luò)

https://www.zhihu.com/question/22553761#answer-33473096

吳軍《數(shù)學(xué)之美》關(guān)于神經(jīng)網(wǎng)絡(luò),講得比較清楚。高大上的神經(jīng)網(wǎng)絡(luò),其實(shí)也就是數(shù)據(jù)結(jié)構(gòu)的圖,這樣來理解就比較平易近人。有一種難,是我們覺得這很難。如果我們將某種事物標(biāo)記為“難”,那么我們真的會(huì)覺得這很難。其實(shí),真正有用有趣的事物,往往并不難。

李飛飛: 我們怎么教計(jì)算機(jī)理解圖片?

http://www.ted.com/talks/fei_fei_li_how_we_re_teaching_computers_to_understand_pictures?language=zh-cn#t-17202

下一個(gè)“AlphaGo”會(huì)出現(xiàn)在疾病診斷領(lǐng)域嗎?

http://v.qq.com/iframe/player.html?vid=k01489ruyqn&300&NaN&auto=0

目前的機(jī)器學(xué)習(xí)確實(shí)有很大的突破,在某種程度上復(fù)制了人類的學(xué)習(xí)能力,可以做很多事情。

2、深入學(xué)習(xí)

斯坦福大學(xué)公開課 :機(jī)器學(xué)習(xí)課程

http://open.163.com/special/opencourse/machinelearning.html

3、Deep Learning 經(jīng)典閱讀材料

闡述Deep learning主要思想的三篇文章:

Hinton, G. E., Osindero, S. and Teh, Y., A fast learning algorithm for deep belief netsNeural Computation 18:1527-1554, 2006

Yoshua Bengio, Pascal Lamblin, Dan Popovici and Hugo Larochelle, Greedy Layer-Wise Training of Deep Networks, in J. Platt et al. (Eds), Advances in Neural Information Processing Systems 19 (NIPS 2006), pp. 153-160, MIT Press, 2007

Marc’Aurelio Ranzato, Christopher Poultney, Sumit Chopra and Yann LeCun Efficient Learning of Sparse Representations with an Energy-Based Model, in J. Platt et al. (Eds), Advances in Neural Information Processing Systems (NIPS 2006), MIT Press, 2007

4. Deep Learning工具

首先你最好要有個(gè)能支持cuda的GPU,否則純CPU是很慢的,尤其是處理圖像的問題。

Theano(基于Python), http://deeplearning.net/tutorial/系列教材就是基于Theano工具的。在這個(gè)網(wǎng)站可以看到無數(shù)的深度學(xué)習(xí)相關(guān)工作鏈接,足夠慢慢擴(kuò)展到深度學(xué)習(xí)的所有前沿研究和工具了。

Torch (https://github.com/torch/torch7/wiki/Cheatsheet),基于lua編程語言(類matlab)。用的人非常多,因此很多常見模塊的實(shí)現(xiàn)都很全面。

DeepLearnToolbox (https://github.com/rasmusbergpalm/DeepLearnToolbox),基于matlab。代碼邏輯清楚,適合跟著代碼學(xué)習(xí)深度學(xué)習(xí)的每個(gè)細(xì)節(jié)。

Caffe (http://caffe.berkeleyvision.org/),純c++,科學(xué)研究中很多學(xué)者常用的工具,文檔也很齊全。做物體檢測相關(guān)任務(wù)的話,非常推薦!

Cuda-convnet2 (https://code.google.com/p/cuda-convnet2/),效率高,支持單機(jī)多卡。ImageNet2012年冠軍Alex的作品!做簡單的分類、回歸問題推薦!不支持RNN。

Cxxnet (https://github.com/dmlc/cxxnet),純c++。優(yōu)點(diǎn):支持多機(jī)多卡訓(xùn)練,適合公司級(jí)的部署。

主要參考:張德兵:深度學(xué)習(xí)史上最全總結(jié)。

“我們愛智慧”微信公眾號(hào)新鮮出爐,歡迎微信搜索關(guān)注“我們愛智慧”或者“WeLoveWisdom”公眾號(hào),或者長按下方的二維碼。東西方經(jīng)典,快樂與智慧,健康與養(yǎng)生,計(jì)算與智能,一起來學(xué)習(xí)和分享那些引領(lǐng)我們和世界走向更美好的事物……

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

推薦閱讀更多精彩內(nèi)容