Asilomar 人工智能會議定下的23條準(zhǔn)則
第一，研究的目的并不僅僅是創(chuàng)造智能，而應(yīng)該產(chǎn)生造福人類的智能。
第二，研究的資助不僅要投資于開發(fā)，還要投資于相應(yīng)的研究項目，才能保證人工智能研究順利發(fā)展。
第三，科學(xué)和政策相連接，科學(xué)家和政策制定者要互相溝通、充分理解。
第四，在人工智能研究領(lǐng)域要鼓勵合作，不鼓勵產(chǎn)生軍備競賽，不能為了超越對手而研究。
第五，強(qiáng)調(diào)團(tuán)隊合作和協(xié)同，避免互相競爭。
第六，人工智能系統(tǒng)開發(fā)必須保證安全性。
第七，失敗過程透明，向第三方公開人工智能失誤的原因。
第八，判斷透明，人要了解人工智能內(nèi)部發(fā)展，從而自主決定何時接管人工智能，掌控人工智能。
第九，充分評估道德風(fēng)險，要對所建立的人工智能系統(tǒng)全面負(fù)責(zé)。
第十，人工智能系統(tǒng)的價值觀判斷應(yīng)與人類一致。
第十一，人類價值優(yōu)先。
第十二，尊重個人隱私。
第十三，強(qiáng)調(diào)自由和隱私，數(shù)據(jù)屬于人。
第十四，共享利益，人工智能應(yīng)盡可能造福更多人。
第十五，共享繁榮，人工智能給經(jīng)濟(jì)帶來的繁榮也應(yīng)造福全社會。
第十六，人類控制，人工智能要被人完全掌控。
第十七，不能利用人工智能顛覆現(xiàn)有系統(tǒng)或利用人工智能轉(zhuǎn)變社會行為。
第十八，禁止人工智能軍備競賽。
第十九，對人工智能未來能力要有充分的關(guān)注與評估，不能對它的潛力設(shè)限。
第二十，對人工智能要給予同等重要的關(guān)注，提供同等重要的資源。
第二十一，分配相關(guān)資源、提供相關(guān)努力，將風(fēng)險置于可控范圍之內(nèi)。
第二十二，充分關(guān)注重復(fù)性的自我改進(jìn)，防止指數(shù)級增長帶來預(yù)想不到的結(jié)果。
第二十三，共同利益，人工智能（尤其超級人工智能）要符合所有人類的道德價值觀，符合人類共同利益。
心得
今天的AI準(zhǔn)則讓我想起了阿西莫夫筆下的"The Three Laws"，又被稱為"Asimov's Laws"。
1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.
翻譯成中文即“三法則”
1. 機(jī)器人不得傷害人類，或袖手旁觀，讓一個人受到傷害。
2. 機(jī)器人必須遵守人類的命令，除非該命令與第一法則沖突。
3. 機(jī)器人必須保護(hù)自身的存在，只要這種保護(hù)不與第一或第二個法則沖突。
不得不佩服當(dāng)年阿西莫夫只用短短的三條法則就概括了機(jī)器人的行為準(zhǔn)則。今天的科學(xué)界們制定的人工智能準(zhǔn)則也開啟了一個人機(jī)共存時代的新紀(jì)元。
我向往有一天，身邊能有像Intersteller里CASE那樣的AI機(jī)器人，陪我探索未知的宇宙。
