書籍筆記《終極算法》

機(jī)器學(xué)習(xí)領(lǐng)域存在不同思想的學(xué)派,主要學(xué)派包括符號學(xué)派、聯(lián)結(jié)學(xué)派、進(jìn)化學(xué)派、貝葉斯學(xué)派、類推學(xué)派。

  • 對于符號學(xué)派來說,所有的信息都可以簡化為操作符號,就像數(shù)學(xué)家那樣,為了解方程,會用其他表達(dá)式來代替本來的表達(dá)式。符號學(xué)者明白你不能從零開始學(xué)習(xí):除了數(shù)據(jù),你還需要一些原始的知識。他們已經(jīng)弄明白,如何把先前存在的知識并入學(xué)習(xí)中,如何結(jié)合動態(tài)的知識來解決新問題。他們的主算法是逆向演繹,逆向演繹致力于弄明白,為了使演繹進(jìn)展順利,哪些知識被省略了,然后弄明白是什么讓主算法變得越來越綜合。
  • 對于聯(lián)結(jié)學(xué)派來說,學(xué)習(xí)就是大腦所做的事情,因此我們要做的就是對大腦進(jìn)行逆向演繹。大腦通過調(diào)整神經(jīng)元之間連接的強(qiáng)度來進(jìn)行學(xué)習(xí),關(guān)鍵問題是找到哪些連接導(dǎo)致了誤差,以及如何糾正這些誤差。聯(lián)結(jié)學(xué)派的主算法是反向傳播學(xué)習(xí)算法,該算法將系統(tǒng)的輸出與想要的結(jié)果相比較,然后連續(xù)一層一層地改變神經(jīng)元之間的連接,目的是為了使輸出的東西接近想要的東西。
  • 進(jìn)化學(xué)派認(rèn)為,所有形式的學(xué)習(xí)都源自于自然選擇。如果自然選擇造就我們,那么它就可以造就一切,我們要做的,就是在計算機(jī)上對它進(jìn)行模仿。進(jìn)化主義解決的關(guān)鍵問題是學(xué)習(xí)結(jié)構(gòu):不只是像反向傳播那樣調(diào)整參數(shù),它還創(chuàng)造大腦,用來對參數(shù)進(jìn)行微調(diào)。進(jìn)化學(xué)派的主算法是基因編程,和自然使有機(jī)體交配和進(jìn)化那樣,基因編程也對計算機(jī)程序進(jìn)行配對和提升。
  • 貝葉斯學(xué)派最關(guān)注的問題是不確定性。所有掌握的知識都有不確定性,而且學(xué)習(xí)知識的過程也是一種不確定的推理形式。那么問題就變成,在不破壞信息的情況下,如何處理嘈雜、不完整甚至自相矛盾的信息。解決的辦法就是運(yùn)用概率推理,而主算法就是貝葉斯定理及其衍生定理。貝葉斯定理告訴我們,如何將新的證據(jù)并入我們的信仰中,而概率推理算法盡可能有效地做到這一點(diǎn)。
  • 對于類推學(xué)派來說,學(xué)習(xí)的關(guān)鍵就是要在不同場景中認(rèn)識到相似性,然后由此推導(dǎo)出其他相似性。如果兩個病人有相似的癥狀,那么也許他們患有相同的疾病。問題的關(guān)鍵是,如何判斷兩個事物的相似程度。類推學(xué)派的主算法是支持向量機(jī),主算法找出要記憶的經(jīng)歷,以及弄明白如何將這些經(jīng)歷結(jié)合起來,用來做新的預(yù)測。
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

推薦閱讀更多精彩內(nèi)容

  • 作者:張江 制造出能夠像人類一樣思考的機(jī)器是科學(xué)家們最偉大的夢想之一。用智慧的大腦解讀智慧必將成為科學(xué)發(fā)展的終極。...
    圖靈教育閱讀 3,145評論 7 44
  • 前言: 10月24日開始,集智AI學(xué)園陸續(xù)推送“人工智能簡史”系列文章,講述人工智能從孕育、誕生到坎坷成長的百年歷...
    Jake_張江閱讀 2,230評論 0 2
  • 鄭文盼 16020150021 【嵌牛導(dǎo)讀】1956年達(dá)特茅斯會議之后,人工智能迎來井噴發(fā)展,許多數(shù)學(xué)定理被計...
    吹不散的煙火閱讀 1,157評論 0 0
  • 寶貝給我看一片文章,主標(biāo)題:傻人有傻福的星座 分標(biāo)題1:金牛座傻的呆萌,呆萌惹人愛(寶貝是金牛座) 分標(biāo)題2:射手...
    森林馬鹿閱讀 556評論 0 0
  • 在 BIEE 的邏輯層可以配置多個物理表源,這樣可以通過一個邏輯表訪問到不同粒度的物理事實表。比如說,可以創(chuàng)建一個...
    DreamOver閱讀 917評論 0 0