讀AI未來進行式筆記08自主57

讀AI未來進行式筆記08自主57.png

1. 自主57

1.1. 自主57被視為繼火藥、核57之后的“第三次zhan箏革命”

1.2. 雖然地雷和導彈揭開了早期簡單自主57的序幕，但運用了AI技術的真正的自主57才是正片

1.2.1. AI自主57讓整個sha戮過程：搜尋目標、進入zhan斗、抹sha生命，完全無須人類參與

1.3. 今天，一個有經驗的業余機器人愛好者就能以不到1000美元的成本制造出這樣的無人機，元件能夠在線購買，技術算法可以從開源社區下載

1.3.1. 從側面反映了AI和機器人技術正在逐漸走向普及，價格也越來越親民

1.4. 如果我們不審慎思考自主57可能帶來的各種問題，一味推動技術的發展，人類的zhan箏進程將會加速，這不但會造成更大的傷亡，而且可能導致災難性的zhan箏升級，甚至爆發核zhan箏

1.5. 自主57是最有悖于人類道德觀、對人類延續存在威脅的AI應用，我們需要讓該領域內的專家和各國首腦共同參與到對自主57未來發展的討論中去，權衡不同解決辦法的利弊，找到一種能夠阻止自主57肆意擴散、避免人類走向滅亡的最佳方法

1.6. 由于AI缺乏人類的常識和跨領域推理能力，所以無論人類如何訓練一個自主57系統，它都無法充分理解其自身的行動所帶來的后果

2. 好的一面

2.1. 如果由機器人來取代人類的zhan士，那么自主57可以挽救仕賓的生命

2.2. 一支負責的jun隊可以用自主57來引導仕賓（無論是人類還是機器人）只攻擊敵方zhan斗人員，以免傷害無辜的友jun、兒童和平民

2.2.1. 類似于L2/L3級別自動駕駛車輛幫助人類駕駛員避免犯錯

2.3. 還可以用于對付暗sha者、罪犯、kongB分子

3. 負面影響

3.1. 倫理和道德上的爭議

3.1.1. 幾乎所有倫理制度和宗教信仰都把奪走一個人的生命視為一種極具爭議性的行為，如果不經過嚴肅的審判，沒有任何人可以擁有這樣的權力

3.2. 降低了sha人的成本

3.3. 還涉及責任人的界定，我們需要知道誰應該為自主57的失誤負責

3.3.1. 如果責任無法明確，幕后黑手就有從國際人道主義法律中逃脫的機會

3.3.2. 直接降低了zhan箏的門檻

3.4. 不僅能夠對某個人執行暗sha任務，還能夠針對任何群體進行烕絕式圖sha

3.4.1. 通過面部或姿態識別技術、移動設備或物聯網信號追蹤技術來實現

4. 最大威脅

4.1. 從歷史上英德海junjun備競賽到美蘇核jun備競賽，一直以來，各個國家都在爭奪jun事霸權，并將jun事置于優先發展的zhan略地位

4.2. 自主57的成本相對較低，直接降低了參賽門檻

4.2.1. 讓一些擁有強大技術的小國有了加入jun備競賽的機會

4.3. 核57也是一種威脅人類生存的57，但它一直以來都受到很好的約束，甚至在幾個大國擁有核57后，全球zhan箏大大減少了

4.4. 對于自主57來說，核威懾理論和確保互毀原則并不適用，因為自主57發動的突襲是很難被追蹤到的

4.5. 自主57攻擊可能快速引發連鎖反應，并逐步升級，甚至導致核zhan箏

4.5.1. 首先發動突襲的甚至可能并不是一個國家，而是kongB分子或無正腐組織，這更增加了自主57的風險

5. 如何解決自主57帶來的危機

5.1. 人工介入

5.1.1. 至少確保每一個影響生命的決策都由人類做出

5.1.2. 在很大程度上，自主57的威力源于機器在沒有人工介入的情況下所具備的速度和精度

5.1.2.1. 任何想在這場jun備競賽中取勝的國家，可能都無法接受這種大幅度削弱技術能力的人工介入

5.1.3. 這種方案執行起來非常難，漏洞也很容易被發現

5.2. 頒布相應的禁令

5.2.1. 禁止致命性自主57宣言

5.2.1.1. 主要障礙是鵝螺絲、米國和腐國的反對

5.3. 對自主57加以管控

5.3.1. 對其加以管控意味著必須保留人類對使用57系統的決定權

5.3.1.1. 這同樣也是一件復雜的事情，因為在通常情況下，寬泛的技術規范很難在短期內取得明顯成效

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明：文章內容（如有圖片或視頻亦包括在內）由作者上傳并發布，文章內容僅代表作者本人觀點，簡書系信息發布平臺，僅提供信息存儲服務。
  • 人面猴
    序言：七十年代末，一起剝皮案震驚了整個濱河市，隨后出現的幾起案子，更是在濱河造成了極大的恐慌，老刑警劉巖，帶你破解...
    沈念sama閱讀 228,333評論 6贊 531
  • 死咒
    序言：濱河連續發生了三起死亡事件，死亡現場離奇詭異，居然都是意外死亡，警方通過查閱死者的電腦和手機，發現死者居然都...
    沈念sama閱讀 98,491評論 3贊 416
  • 救了他兩次的神仙讓他今天三更去死
    文/潘曉璐 我一進店門，熙熙樓的掌柜王于貴愁眉苦臉地迎上來，“玉大人，你說我怎么就攤上這事。” “怎么了？”我有些...
    開封第一講書人閱讀 176,263評論 0贊 374
  • 道士緝兇錄：失蹤的賣姜人
    文/不壞的土叔 我叫張陵，是天一觀的道長。 經常有香客問我，道長，這世上最難降的妖魔是什么？ 我笑而不...
    開封第一講書人閱讀 62,946評論 1贊 309
  • ?港島之戀（遺憾婚禮）
    正文 為了忘掉前任，我火速辦了婚禮，結果婚禮上，老公的妹妹穿的比我還像新娘。我一直安慰自己，他們只是感情好，可當我...
    茶點故事閱讀 71,708評論 6贊 410
  • 惡毒庶女頂嫁案：這布局不是一般人想出來的
    文/花漫 我一把揭開白布。 她就那樣靜靜地躺著，像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上，一...
    開封第一講書人閱讀 55,186評論 1贊 324
  • 城市分裂傳說
    那天，我揣著相機與錄音，去河邊找鬼。 笑死，一個胖子當著我的面吹牛，可吹牛的內容都是我干的。 我是一名探鬼主播，決...
    沈念sama閱讀 43,255評論 3贊 441
  • 雙鴛鴦連環套：你想象不到人心有多黑
    文/蒼蘭香墨 我猛地睜開眼，長吁一口氣：“原來是場噩夢啊……” “哼！你這毒婦竟也來了？” 一聲冷哼從身側響起，我...
    開封第一講書人閱讀 42,409評論 0贊 288
  • 萬榮殺人案實錄
    序言：老撾萬榮一對情侶失蹤，失蹤者是張志新（化名）和其女友劉穎，沒想到半個月后，有當地人在樹林里發現了一具尸體，經...
    沈念sama閱讀 48,939評論 1贊 335
  • ?護林員之死
    正文 獨居荒郊野嶺守林人離奇死亡，尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,774評論 3贊 354
  • ?白月光啟示錄
    正文 我和宋清朗相戀三年，在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,976評論 1贊 369
  • 活死人
    序言：一個原本活蹦亂跳的男人離奇死亡，死狀恐怖，靈堂內的尸體忽然破棺而出，到底是詐尸還是另有隱情，我是刑警寧澤，帶...
    沈念sama閱讀 38,518評論 5贊 359
  • ?日本核電站爆炸內幕
    正文 年R本政府宣布，位于F島的核電站，受9級特大地震影響，放射性物質發生泄漏。R本人自食惡果不足惜，卻給世界環境...
    茶點故事閱讀 44,209評論 3贊 347
  • 男人毒藥：我在死后第九天來索命
    文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧，春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,641評論 0贊 26
  • 一樁弒父案，背后竟有這般陰謀
    文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至，卻和暖如春，著一層夾襖步出監牢的瞬間，已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,872評論 1贊 286
  • 情欲美人皮
    我被黑心中介騙來泰國打工， 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留，地道東北人。 一個月前我還...
    沈念sama閱讀 51,650評論 3贊 391
  • 代替公主和親
    正文 我出身青樓，卻偏偏與公主長得像，于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子，可洞房花燭夜當晚...
    茶點故事閱讀 47,958評論 2贊 373

推薦閱讀更多精彩內容