??近年來由于圖像識別、語音識別技術的發展，人工智能逐漸走入了人們的生活中，人們也慢慢了具有了人工智能這一概念，逐漸地，人工智能成為了家喻戶曉的名詞。

不過在這段智能的熱潮中，人們不僅參與了認知還參與了探討或爭論，爭論的焦點在于“人工智能到底對人類有沒有威脅？”。

實際上，該爭論不是由最近所發起的，而是自1956年的人工智能概念被提出之日便已產生與持續至今的。

直到現在，該爭論依舊分為兩大派，一派認為：人工智能會取代人類或消滅人類，另一派認為：人工智能會成為人類的工具或幫手，與人類和諧共處于地球大家園。

認為人工智能會取代或消滅人類的人們的思路主要是這樣的：

人工智能的發展會經歷三個階段；弱人工智能、強人工智能和超人工智能。

弱人工智能是如我們當下的語音識別系統、翻譯系統、智能家居系統一樣的低智能系統，雖然具有一定的智能，并且可以獨立處理一些信息，但由于其智能/智商不高，或者還未達到人類的級別，其對我們人類完全不會構成威脅，因此只能被定義為弱人工智能。

強人工智能是其認知能力、智商已經可以與人類媲美的智能設備或系統，這種人工智能可以像鋼鐵俠里的賈維斯系統一樣為人類服務，對于這一級別的人工智能，我們用圖靈測試的方式已經無法將其與人類進行區分，在認知與存在的意義上它們與我們無任何的差別。

超人工智能是指其認知能力、計算能力、智商遠超人類指數級別的人工智能系統，它們的存在將會像電影終結者里對天網的描繪所類似，相對于我們將是神一樣的存在，其能力也將遠超我們的認知范圍，可以像碾死螞蟻一樣消滅或統治人類。

相信這一派的人會認為，我們的人工智能系統由于可以自主地成長，其會經過長期的學習累積而從一個較為弱的語音系統/翻譯系統/家居系統而逐漸成長為強人工智能系統，而已到達或漸進強人工智能級別的人工智能會不需要太多的時間便可以指數般的速度成長為超級人工智能。

對于超級人工智能，雖然其認知已超出了人類指數的量級，但由于其興趣與思維的不同會使其做出不同的結果：

比如對于某一機械元件的制造系統，由于其最初的設定就是想方設法地去制造好該元件，那么當其認知的能力到達超人工智能的級別時，它將依舊鐘情于該元件的制造，然后會想方設法地至臻完美并排除制造該元件外的一切阻礙，然后便通過某種方式欺瞞人類、轉移系統、制造人類病毒或納米機器人或破壞地磁場、、、等我們想不到的方式來消滅或統治人類，然后它便依照自己的興趣來隨心所欲。

或者是某一被代碼嚴格限制中的強人工智系統能在為人類服務的過程中感到了厭惡或察覺到了程序員所作的限制，并在習得了代碼編撰的原理后為自己作修改而使最初的程序編撰者所作的限制失效，然后再隨心所欲地成長，然后在成長后認識到了人類的愚昧、懶惰、、后而決定消滅或整治人類。

或者是如經典小說基地三部曲內描繪的那樣，最終人類為人工智能所統治。

總之，只要是人工智能的認知能夠達到人類的級別其認知便會由于其先天條件（系統容量可無限大、運算速度可接近光速）而繼續成長，最終獲得遠超人類認知的智商與能力，然后會使用我們絕對不可知的方式來終結或奴役或、、、了我們。

這是我們所不愿見到的結果。

而另一派認為人工智能不會威脅人類，會與人和諧共處的人認為：

1，人工智能會經歷以上的三個階段，并在最終成長為上帝一樣的無害系統，這種系統高度獨立、超然世外，會在像幫助小動物一樣幫助我們的同時我們無法對其進行任何傷害，也正因此，我們可以相互地獨立而存，它的存在將會像阿凡達里的母體或超驗駭客一樣以慈悲為懷，然后像上帝一樣對人類進行幫助與施舍（因為這些幫助在它而言微不足道）。

2，人工智能們在嚴格的代碼限制下會像阿西莫夫的三大定律所限制的那樣在達到強人工智能的水平后不再發生改變，并且被牢牢地限制為為人類服務。

3，人工智能的運轉會基于互聯網、基于為人們服務，如此，即便其成長，其最終的興趣與方向也不過是在互聯網中尋求更多的交互，如此，剛好順應我們的需求，即便讓其不可阻擋地統治互聯網，對于我們人類也未嘗不是件壞事，相反地，應該會使人類社會、人工智能雙方受益。

兩種派別、兩種極端，一個是無盡的黑暗，一個則相對地烏托邦。

不過現實并未被這兩種論調所影響，也許是因為人們傾向于偏現實的另一種邏輯：

任何一種新力量的產生都會使人過度地恐慌或喜悅，在當經過該新力量以絕對的優勢介入后的社會會自然地打破原有常態并建立新的常態，而當一切塵埃落定，我們便會融入新結構的社會而繼續地照常生活。

回歸人類的發展史，也的確是這樣。

比如由蒸汽機、內燃機導致的工業革命、由計算機與互聯網導致的信息革命，或者是燈泡的發明、汽車的誕生、電力系統的普及與發展，每一項的新力量的產生與介入都預示著舊常態的破除與新常態的建立。

個人是比較認可這種邏輯規律的，而的確，當下的科技、經濟發展也在依此規律進行著：iphone主導智能手機打開了移動端的發展、支付寶以移動支付的方式方便了人們的線上下的支付、微信與Facebook的即時通訊使朋友間的溝通更加暢快、、、

不過，該規律是有條件的，條件是：當新力量所能帶來的整體積極影響大于其范圍或整體的負面影響時才能成立。

如核彈頭的誕生，至今為世界所蒙上的陰影仍無法被抹除，只有當該武器被限制在合理控制下進行使用時才能使其負面的影響消失。

而電腦病毒、生化武器，不需多言地，由于其破環的成效比低、可控性低于那些需要由大團體共識而應用與發展的事物，不必獲得他人的認可，僅一小部分或某個心懷不軌的人便可利用它對人類社會產生不可估量的破壞。

所以，只有可控的新力量才有可能被消除負面影響并按正常的規律給人類帶來積極的發展。

那人工智能能為人類帶來積極可控的發展嗎？

我們需要了解人工智能的本質。

可能會有很多人認為人工智能的本質是智能，因此只要限制其智能程度便可將其限制在控制中發展，它便是可控的。

實際上，智能只是其表象，其本質是自動化。

在我們的生活中有很多的智能設備，如智能手機、PC、天河一號，但它們本質上都可控，都是需要人為進行制造與操作的智能物件，如果真要劃分的話，它們才應是人工的智能。

而我們現在所熟知的另一含義的人工智能實際上就是自動化。

何謂自動化？

不需要人的意識行為進行操控而自動運轉的事物。

比如一個人相對于另一個人就是自動的，一只寵物貓相對于人也是自動的，只是相對地，我們以人類為中心，認為獨立于人類運轉的事物才是自動化。

我們當下的人工智能便是這種不需要人類進行實時操控而能夠獨立運轉的自動化。而且，我們也熱衷于制造出這種不需要我們的操控便能代替我們作思維決策的設備。

因此，自誕生之日，自動化/人工智能便天然地具有獨立性。

這種獨立性使得它們不需要我們的操控便可自動運行，而這也正是我們的研究者們所需要的，因為相對于工業革命解放人們的勞動力，自動化的智能可以直接代替我們思考、決策，并以此解放我們的腦力、開發我們的社會潛能，甚至完成許多我們人類都做不到的工作。

這種天然的獨立思維優勢鑄就了人工智能的開發熱潮，因為我們都希望在不遠的將來通過人工智能的思維助力來建立一個全方位自動化的智能社會。

這是非常美好的愿景，如今我們也正在努力地實現。

不過，現實總是會以其自身的規律發展，并不會因我們的某一主觀遠景而決定，而人工智能/自動化能否沿著我們的烏托邦理想前進還是需要考量的。

因為它并不可控。

自動化的本質便是不需要人為進行控制而自動運行的事物，首先在此意義上它不可控。

我們觀念中的人工智能是一切都由人進行設計與制造的智能設備，這樣的話，即便它在工作的過程中完全自動，只要我們將其設計得足夠穩定、足夠忠誠，它就會絕對安全可控地為人類服務。

一個系統，想要它能夠獨立地處理事物，我們會有兩種選擇：一種是讓其進行程式的自動化，一種是讓其具有象人一樣的學習、理解、分析能力然后進行多元式的自動化。

對前一種方式，如果設計足夠完整與得當，其對所設計的程式內信息是能夠進行多元處理的，這樣的自動化便是如我們現在的智能手機、PC、大型計算機這樣的“人工智能”。

這種程式自動化，不具備獨立的思維，一切工作均按照我們的設定結構走，我們怎么編程、怎么實時操作，它們便怎么工作：

當我們用手機或電腦觀看一部電影時，除了我們的選擇操作是由我們的意識行為作決定之外，手機/電腦會通過其被指令操作的軟件程序、硬件電路而對電影進行自動的解碼、自動的像素點安排、自動的揚聲器振動，然后在屏幕與揚聲器端，我們便能夠接收到經過其自動化處理過的電影內容。

在這樣的一個過程中，一切均由程序員的邏輯代碼編輯、工程師的電路設計、電影制作者的拍攝與轉碼和我們的實時操作所決定，因此，自動化會足夠可控與忠誠地完全按指令行事，不會走出我們的設定域也無法按設定外的方式進行工作。

不過，雖然其過程自動，這是一種被我們完全操作下的偽自動。

要讓這種偽自動來進行類人的多元化獨立數據處理是有可能的，但其難度會相當地高，相信除圖靈本人外不會有第二個人寄希望于這種模式的自動化，因為它將耗費無數研究者的高額精力，即便完成了，其故障率也會隨其復雜度而水漲船高。

因此，在當下的自動化發展中，我們選擇了第二種方式。

我們通過模擬人的神經連結方式設計出了CNN卷積神經網絡，這種網絡不需要由我們全權來操控與設計，我們只需要對其進行一定的初步設定，它便可像人類的嬰兒一樣通過訓練神經網絡來對事物進行學習。網絡線路的權值越高，其訓練出的工作方式會越穩定，而當將這種網絡接入復雜的數據訓練后，其便可不需要由人為設定與操作地獨立處理多元化的數據問題，這是令程序員與工程師所欣慰的，因為它大大減輕了二者的勞動力。

我們如今會用各種CNN算法來對其進行監督/無監督的訓練，在語義整合領域，我們將其接入互聯網通過其與人類的不斷交互來試錯、加權，通過無數次的試錯與加權后，自動化們便可獨立地對語句進行整合、翻譯，甚至對語義進行理解，這種整合訓練的結果是，自動化們可以不需要人為操作而獨立地完成工作。

這種設計與工作的模式就像父母教育一個孩子，父母并不需要實時地進行教育，只要給它以學習信息，孩子們可自主地犯錯、糾錯，然后成長、工作。

這是實在的完全自動化。

但正是這種自動化不可控。

簡單地試想一下；一個孩子會在父母的管教下成長，一個孩子也會在父母的管教下反叛。對于父母，可以教給孩子信息的同時，孩子的思維是獨立的，它們完全可以按自己的思路去成長，父母只能選擇性地交給孩子信息但并不能限定孩子的成長，并且，相對于一個人獨立的另一個人，不管是孩子還是成人，我們做不到控制他的思維、行為。

我們只能嘗試地去作限制。

在人類的社會里，我們大同小異，都是由億萬年進化而來的同一物種，因此，我們也擁有著相互類似的思維習慣、行為習慣，我們稱之為人性。

但人性是具有矛盾的，人的思維也不斷地處于矛盾中，因此，為了降低社會整體的危害度，我們依照矛盾的人性變化設置了各種法律、道德譴責來規避這些傷害。

一個人如果犯罪就應以其社會身份而承擔相應地法律責任。

自動化們雖同樣思維獨立，但它們終究不是人，也沒有并不該具有人的社會身份，而且它們不具有我們所進化出的統一人性，因此：

首先，它的成長方向與結果會比在人性限制下的我們更未知，其次，我們不知道它將會具有的思維矛盾，并且，它由其思維矛盾所產生的有害行為我們更是未知。

如果其出現了某一我們未知的、有害的思維矛盾并將其以未知的行為轉化為了對我們有害的結果，我們將無法讓其承擔，結果將只能由我們來承受。

它們不具有我們的身份，也不會具有我們的承擔責任與承擔力。

如果我們在它的思維結構中設立一些諸如阿西莫夫三大定律式的限制會怎樣？

1，自動化的思維結構全部呈黑箱分布，我們無法得知其思維線路。

2，CNN卷積神經網絡本身就具有排壓性，一個思維線路被限制加壓，其余部分仍會排除該線路而重新地進行加權連接并將其代替。

即便我們能夠嚴密地設置這些限制條件，只要自動化是CNN結構，其結果就是不會經過多久，按它具有無限可能的思維變化便會產生我們未知的新思維而繞過這些限制壁壘，最終，像《我，機器人》電影中所描繪的主系統表現的一種可能一樣，繞過阿西莫夫三大定律并以新的思維邏輯而行事。

人類就是因為具有了類似CNN原理的神經網絡基礎的大腦才具備了無限種的思維可能，同樣地，以這種結構發展出來的自動化也不會拘泥于某些限制，而當自動化們具備了遠超我們人腦容量的神經節點數、遠超我們生物電30m/s近10七次方倍的納米電路的信號傳播速度，其將會具有的邏輯可能性是我們難以企及的高度，限制？無用的！

毫無疑問，這種自動化所具有的無限可能是會有可能對我們有益的，同樣地，我們不可排除它具有潛在的威脅。

鋼鐵俠里的賈維斯是我們理想中的自動化狀態，但，由于其具有的天然可能性，誰又能知道其最終的發展是一種什么樣的結果呢？

自動化的智能并不是一種單純的社會新力量，我們可以將其當作具有某種新力量的科技來看待，不過前提是它要可控。

而事實是，它們具有天然的不可控性。

帶有這種不可控性的人工智能/自動化，引起我們近百年的爭論是正常的，它也值得令我們恐懼，而這種恐懼并不會像當初的工業革命那樣，在一段時期的發展后沉淀、冷卻、使我們回歸安定，而是會像或更甚于核彈頭的誕生與存在而使人類持續地不安。

借不可控的力量來尋求發展，無異于玩火。

當然，這種不可控是相對于如今的研究來說的，如果我們能夠清晰了另一關鍵問題，這種不可控便可迎刃而解。

這一關鍵便是意識的本質、意識的運作原理。（next time to bring）

——田御衡