近日，一份由專注于AI領域的公司Gladstone AI撰寫的報告披露了人工智能技術對人類的潛在威脅，警告最先進的AI系統可能會對人類物種構成滅絕級的威脅。這份報告基于對200多人的采訪得出，采訪對象包括來自領先AI公司的高管、網絡安全研究人員、大規模殺傷性武器專家和政府內部的國家安全官員。美國國務院一名官員向CNN證實，其所在機構委托撰寫了這份報告，但報告不代表美國政府的觀點。

1. 人工智能技術的雙重面向

人工智能技術的發展持續激發投資者和公眾的熱情，它帶來了巨大的經濟變革力量，有望攻克疾病、推動科研進步，并解決之前看似無法攻克的難題。然而，隨著AI技術的不斷進步，其背后潛藏的風險也在逐漸顯現出來。

2. 最嚴峻情況下的AI威脅

根據Gladstone AI的報告，在最嚴峻的情況下，尖端AI系統可能對人類種族構成“滅絕級威脅”。這一結論是基于對超過200位業界權威人士的深入訪談得出的，包括頂尖AI企業高管、網絡安全研究專家、大規模殺傷性武器專家及政府內部的國家安全官員。

Gladstone AI預測，AI和通用人工智能（AGI）技術的崛起或將如同核武器誕生那樣顛覆全球安全格局。報告還警示存在AI引發軍備競賽、沖突，以及“與大規模殺傷性武器相當的致命事故”的可能性。

3. 美國政府對AI風險的認識

美國國務院一名官員向CNN確認，國務院確實委托編制此份報告，旨在持續評估AI技術如何與維護美國國內外利益的戰略目標相適應。白宮新聞發言人羅賓·帕特森表示，美國總統拜登關于AI的行政命令是“全球任何政府為抓住AI的潛力和管控AI的風險所采取的最重要行動”，美國將繼續與國際伙伴合作，并敦促國會通過兩黨立法來管控風險。

4. 首當其沖的風險：AI系統被軍事化

Gladstone AI在報告中指出，首當其沖的風險在于，最高級的AI系統可能被軍事化，造成無法逆轉的損害。在激烈的市場競爭驅使下，企業急于推進AI技術研發，卻可能因此犧牲安全性，使得最尖端的AI系統存在被盜取并轉為針對美國的“武器化”風險。

Gladstone AI聯合創始人兼首席執行官（CEO）杰雷米?哈里斯12日告訴CNN，AI技術可以幫助人類治愈疾病，實現科學上的發現，并克服我們曾認為不可逾越的挑戰。但它也可能帶來嚴重的風險，包括災難性的風險。越來越多的證據表明，超過一定的能力閾值。

5. 第二大風險：AI實驗室失去對系統的掌控

報告還披露了另一個風險，即AI實驗室內部存在著一種擔憂，即在未來某一刻，它們可能對自身正在研發的系統失去掌控，進而給全球安全帶來“極具破壞性的后果”。

6. AI和通用人工智能（AGI）技術的崛起

Gladstone AI預測，AI和通用人工智能（AGI）技術的崛起或將如同核武器誕生那樣顛覆全球安全格局。報告還警示存在AI引發軍備競賽、沖突，以及“大規模殺傷性武器級別意外事故”的可能性。

7. 采取激進新舉措應對AI威脅

為了應對這一嚴峻威脅，Gladstone AI建議采取一系列激進的新舉措，包括建立全新的AI管理機構、實施針對AI模型訓練所需計算資源的“應急”監管措施及限制。

8. 行業內重量級人物的警告

除了Gladstone AI的報告外，行業內也有許多重量級人物對AI技術的風險發出過警告。被譽為“AI之父”的杰弗里·欣頓在去年離開谷歌職位后，對參與開發的技術發出預警，認為在接下來的三十年內，AI導致人類滅絕的概率約為10%。

9. 商業領袖關注AI風險

盡管商業領袖們在不斷加大投資AI領域的力度，但他們也越來越關注這類風險。根據去年耶魯大學CEO峰會上的一項調查，受訪的42%的CEO認為，AI技術在5至10年內有可能對人類社會造成毀滅性打擊。

10.國際社會對AI技術的關注和行動

除了美國政府，國際社會也越來越關注AI技術的風險。在2019年，歐盟發布了《人工智能倫理指南》，旨在促進AI技術的可信任和可解釋性。在2021年，聯合國教科文組織（UNESCO）通過了《關于人工智能的推薦》，呼吁各國加強對AI技術的監管和風險管理。

本文來自微信公眾號“AI潮流圈”