電腦與人的圍棋大戰(zhàn)
攝影／曾靉。
這幾天如果有關(guān)注科技新聞的人，大概都不會(huì)錯(cuò)過(guò)AlphaGo這套人工智慧系統(tǒng)與世界棋王李世乭的世紀(jì)對(duì)弈。
就在我寫這篇文章的當(dāng)下，AlphaGo已然連續(xù)贏得兩場(chǎng)勝利。而在比賽開(kāi)始之前，不僅棋王認(rèn)為AlphaGo還不是非常成熟的棋士，也有許多評(píng)論家認(rèn)為，AlphaGo雖然一月時(shí)已擊敗歐洲棋王，但要贏過(guò)李世乭恐怕還不是時(shí)候。
兩天之內(nèi)，眾多人類們被打臉了。震天作響的巴掌聲中，有些人開(kāi)始憂慮人工智慧征服人類的那一天真的要到來(lái)了，也有些人開(kāi)始「正面思考」，相信這不失為好事，因?yàn)檫@代表著科技將更進(jìn)步，而人類的生活將更好──只要我們不喪失斗志。
威脅潛伏：人工智慧
關(guān)于人工智慧將帶來(lái)的挑戰(zhàn)，已經(jīng)不是新鮮事。在之前的文章中，我也曾指出，WEF創(chuàng)辦人兼執(zhí)行主席Klaus Schwab在宣告第四次工業(yè)革命即將到來(lái)時(shí)，也將人工智慧的發(fā)展視為最大的挑戰(zhàn)。
更不用說(shuō)英國(guó)物理學(xué)大師霍金曾警告，人工智慧終將發(fā)展出自我意識(shí)。而我們無(wú)法預(yù)料這個(gè)能夠獨(dú)立思考、又能持續(xù)進(jìn)化的人工智慧，在超越人類的同時(shí)是否也會(huì)帶來(lái)滅亡。
因此，在這些「警世預(yù)言」中，AlphaGo的勝利在某些人看來(lái)，等同于宣告著人類正走向這條前途堪慮的道路。也就是說(shuō)，過(guò)去我們也許會(huì)認(rèn)為，人工智慧最多只是扮演輔助性的角色，但AlphaGo的勝利顯然說(shuō)明了人工智慧不僅能「思考」、學(xué)習(xí)，甚至在複雜的對(duì)奕中還能贏過(guò)人類。
那麼，會(huì)不會(huì)有一天，就像「天網(wǎng)」一樣，人類將被判定是具威脅性的物種而需要?dú)纾炕蛘呦馮esla創(chuàng)辦人馬斯克的「垃圾郵件滅世論」那樣，在神邏輯下終結(jié)人類的命運(yùn)？
圖說(shuō)：「天網(wǎng)」為電影《魔鬼終結(jié)者》中挑戰(zhàn)人類的人工智慧，原本是政府研發(fā)的國(guó)防電腦系統(tǒng)，卻發(fā)展出自己的智慧、判定人類是威脅他們的物種。圖片來(lái)自電影劇照。
雖然好萊塢電影不斷上演著類似的情節(jié)，但如今要說(shuō)人工智慧真能發(fā)展到滅世的地步，確實(shí)悲觀的太早了一點(diǎn)（吧？）。但是，我們因此就可以樂(lè)觀地認(rèn)為，還有大把時(shí)間讓我們好好想想，要如何「控制」人工智慧嗎？我認(rèn)為，在「正面思考」中也存在幾點(diǎn)令人憂心的謬誤。
樂(lè)觀的謬誤一：科技終究只是工具
第一個(gè)樂(lè)觀的謬誤源自于人類根深蒂固的「主宰者」思維：科技終究只是工具。這樣的想法又可以分作兩個(gè)層次。
首先，我們經(jīng)常認(rèn)為科技就是讓我們能夠達(dá)到目的的物質(zhì)性手段。例如，印刷術(shù)可以讓我們快速生產(chǎn)、印製書(shū)籍；電視可以讓影音資訊同步在各地放送；而電腦、手機(jī)這類數(shù)位、多媒體科技更是有各式各樣的功能，滿足人類的需求。
然而，一如傳播學(xué)者麥克魯漢所說(shuō)的，認(rèn)為各種科技物只是中性、用以達(dá)成目的的工具的人，根本就是「白日夢(mèng)游者」：以為自己清醒，卻從未從夢(mèng)中醒來(lái)。換言之，他們從未認(rèn)識(shí)到科技物真正施加于人的效果。
圖說(shuō)：傳播學(xué)者麥克魯漢。照片來(lái)自Len Edgerly via flickr, cc license
知名科技評(píng)論作家Nicholas Carr在《網(wǎng)路讓我們變笨？》一書(shū)中，正是以麥克魯漢的觀點(diǎn)為基礎(chǔ)，指出了網(wǎng)際網(wǎng)路如何不只是「工具」，而是正在改變?nèi)藗兊拇竽X與思維模式。
當(dāng)我們將科技單純地視為是工具時(shí)，就會(huì)跟著產(chǎn)生第二個(gè)層次的問(wèn)題：相信人類總是科技的主宰者。
一如一些樂(lè)觀者所認(rèn)為的，雖然人工智慧可能顯露出比人類更快、更好的智力、機(jī)器人可能已具備比人更有效、有力的生產(chǎn)能力，那都沒(méi)有關(guān)系。因?yàn)檫@些人工智慧、機(jī)器人終究是為我們?nèi)祟惙?wù)、為我們創(chuàng)造價(jià)值。
然而，樂(lè)觀者也許沒(méi)有看見(jiàn)的是，隨著工業(yè)革命至今的現(xiàn)代社會(huì)發(fā)展已顯示出：人類根本無(wú)力于成為他所以為的那個(gè)主宰者。科技的失控、反撲在一次又一次的生態(tài)浩劫與危機(jī)中顯現(xiàn)。
圖說(shuō)：科技社會(huì)學(xué)家Donna Haraway。照片來(lái)自Rusten Hogness分享于wikipedia, cc by 3.0
因此，就像科技社會(huì)學(xué)家Donna Haraway所說(shuō)的，我們?nèi)祟惼鋵?shí)沒(méi)有自己以為的那種「充分的理性」，可以算計(jì)出為了進(jìn)步、發(fā)展而可犧牲的「成本」。同樣地，風(fēng)險(xiǎn)社會(huì)學(xué)家Ulrich Beck在車諾比核爆后也早已指出，風(fēng)險(xiǎn)的不確定性早已侵蝕了人類過(guò)去引以為傲的「理性」。
樂(lè)觀的謬誤二：科技將帶給人們富足
除了樂(lè)觀地認(rèn)為我們可以控制、主宰人工智慧外，另一種正面思考則是認(rèn)為：人工智慧的發(fā)展是好事，因?yàn)樗鼘⒋蠓釙N產(chǎn)能，讓人類社會(huì)更加富足。
換言之，這類樂(lè)觀的觀點(diǎn)認(rèn)為，雖然乍看起來(lái)，人工智慧與機(jī)器人將會(huì)搶走人類的工作，但也無(wú)須擔(dān)心，因?yàn)樗鼈兿鄬?duì)地也會(huì)帶來(lái)更多的產(chǎn)能，因此人們即便不工作也不愁吃穿。唯一需要擔(dān)心的是，人類會(huì)不會(huì)因此活得太廢、失去生活的意義。
從某種角度來(lái)看，這類樂(lè)觀并沒(méi)有錯(cuò)。一方面，當(dāng)生產(chǎn)全面人工智慧化、機(jī)器人化，可能達(dá)到的產(chǎn)能與效率絕對(duì)可能供給全人類所需。同時(shí)，另一方面，在這樣的生活狀態(tài)下，我們的確需要憂慮的反而是人的心理問(wèn)題。
但問(wèn)題是，先不說(shuō)類似的觀點(diǎn)聽(tīng)起來(lái)很耳熟，工業(yè)革命發(fā)生時(shí)，也有人預(yù)言過(guò)機(jī)器化的生產(chǎn)將可以解除全人類的貧窮問(wèn)題。甚至今天，全球浪費(fèi)掉的食物都足以喂飽所有人好幾次了。但人類社會(huì)真的「都已」富足了嗎？
恐怕更接近事實(shí)的情況是如《紐約時(shí)報(bào)》這篇評(píng)論所說(shuō)的：在未來(lái)，也許只有天龍人可以享受得到科技進(jìn)步的果實(shí)。
換言之，我們不是不能正面思考人工智慧將帶來(lái)的美好未來(lái)，問(wèn)題在于，我們有認(rèn)真想過(guò)這些科技是「為誰(shuí)發(fā)展」的嗎？是誰(shuí)掌握著這些人工智慧、這些高科技？是誰(shuí)能夠決定由這些高科技所生產(chǎn)出來(lái)的利益的分配？
倘若上述這些問(wèn)題的答案都是：資本家、資本家、資本家，那麼我們又如何能期待資本家轉(zhuǎn)性不再追求利潤(rùn)的累積（即便因此會(huì)更大量浪費(fèi)物資），轉(zhuǎn)而愿意養(yǎng)活在他們看來(lái)很廢的「魯蛇」呢？也許不是不可能，但卻未免過(guò)于樂(lè)觀。
AlphaGo已經(jīng)贏了兩場(chǎng)，我不知道當(dāng)這篇文章刊出來(lái)時(shí)，世界棋王會(huì)是被直落三，還是能夠扳回局面。但我知道，人類若當(dāng)真要開(kāi)始反省人工智慧發(fā)展可能帶來(lái)的后果，我們不僅不能過(guò)度悲觀、恐慌，也得要避免重蹈「失控的正面思考」的覆轍。
