人、機器和有關(guān)的世界(諾伯特·維納)

編譯自:Men, Machines, and the World About(1950),作者是諾伯特·維納(Norbert Wiener)

我想從歷史的角度指出讓我對人、機器和世界的問題感興趣的各種事情,因為它們與我將要談到的關(guān)于這個問題的現(xiàn)狀有關(guān)。

有兩件事匯聚在一起,把我?guī)肓?b>控制論(cybernetics)。其中一件是在上一次戰(zhàn)爭中,或者說在戰(zhàn)爭明顯來臨的時候,至少在珍珠港事件之前,當我們還沒有卷入戰(zhàn)爭時,我試著在戰(zhàn)爭中找到合適的位置。

在那個特殊的時候,我找了一些與自動計算機(automatic computing machines)有關(guān)事情來做。自動計算機,就是所謂的類比排序(analogy sort),測量物理量,而不是計算數(shù)字萬尼瓦爾·布什(Vannevar Bush)教授已經(jīng)做得很成功了,但是在理論上有一定的差距。

其中一個差距我可以用數(shù)學(xué)的方式表達,這些機器可以做普通微分方程(ordinary differential equations),但不能做偏微分方程(partial differential equations)。用物理的方式來表達是,這些機器可以在一個維度上(即時間)工作,但在二維,或三維中無法有效的工作。

現(xiàn)在,我想到:(a)電視的使用向我們展示了一種在一個設(shè)備上表現(xiàn)兩個或更多維度的方法;(b)應(yīng)該用一種更精確的計數(shù)裝置(device that counted numbers)來代替以前測量量(measured quantities)的裝置。

這些不僅是我的想法,但無論如何,當時我是這么想的,我在一份備忘錄中把它們傳達給了萬尼瓦爾·布什(Vannevar Bush),他負責整個國家的科學(xué)戰(zhàn)爭規(guī)劃(scientific war planning)。我給出的報告,在許多方面,并不完全是對自動計算機(automatic computing machines)現(xiàn)狀的實質(zhì)性描述。因此,我已經(jīng)熟悉了這樣一種機器的概念(idea),它根據(jù)以前的選擇進行計算,而這些選擇又是根據(jù)以前的選擇,依此類推,按照由穿孔帶(punched tape)、磁化帶(magnetized tape)或其他類似方法提供給機器的時間表(schedule)來進行運算。

導(dǎo)致我從事這項工作的另一件事是,我實際上被投入了一項戰(zhàn)爭工作中。當時布什教授認為,這一貢獻(新的機器)并不是立竿見影的,不足以在戰(zhàn)爭中發(fā)揮作用。所以我去找另一件事來做,當時人們討論的一個大問題就是防空。當時正值英格蘭戰(zhàn)役,美國作為一個參戰(zhàn)國 — — 任何人的生存都要與德國作戰(zhàn) — — 似乎都取決于防空。

高射炮是一種非常有趣的器械。在第一次世界大戰(zhàn)中,高射炮已經(jīng)發(fā)展成為一種射擊工具,但人們?nèi)匀恢苯佑?b>手動的射程表(range tables)來射擊。這意味著,基本上,人們必須在飛機飛過頭頂?shù)臅r候進行所有的計算,自然地,當你準備采取行動的時候,飛機已經(jīng)飛過,已經(jīng)不在那里了。

很明顯——這遠遠早于我所做的工作——在第一次世界大戰(zhàn)結(jié)束時,當然也是在兩次大戰(zhàn)之間,防空問題的實質(zhì)是提前完成所有的計算,并將其包含在器械中,這些器械可以收集飛機的觀測數(shù)據(jù),并以適當?shù)姆绞饺诤线@些數(shù)據(jù),從而得到必要的結(jié)果,使高射炮瞄準,不是瞄準當下的飛機,而是瞄準飛機要飛到的位置,使炮彈和飛機同時到達一點。這就引出了一些非常有趣的數(shù)學(xué)理論。

我有一些想法在那里被證明是有用的,我和我的一個朋友朱利安·比格洛(Julian Bigelow)一起工作。很快我們就碰到了下面這個問題:高射炮不是孤立的器械。雖然它可以用雷達發(fā)射,但等效的、明顯的發(fā)射方法是要有一個火炮指示器(gun pointer)火炮指示器是一個人的元素(human element);人的因素與機械因素(mechanical elements)結(jié)合在一起。實際的火力控制(fire control)是一個人和機器同時參與的系統(tǒng)。從工程的角度來看,它必須簡化為一個單一的結(jié)構(gòu),這意味著要么是人對機器的解釋(a human interpretation of the machine),要么是操作員的機械解釋(a mechanical interpretation of the operator),或者兩者都是。我們被迫在研究中用合適的機器來代替它們。問題出現(xiàn)了:我們要如何制造一臺機器來模擬火炮指示器(gun pointer),以及在這種情況下會出現(xiàn)什么麻煩?

在船舶轉(zhuǎn)向器(ship-steering apparatus)中用于控制方向的蒸汽機的調(diào)速器(governors of steam engines)中,有一種用于控制速度的控制裝置(control apparatus),這種裝置叫做負反饋裝置(negative feedback apparatus)。在船舶轉(zhuǎn)向器中,轉(zhuǎn)動方向盤的舵手不直接操縱船舵。現(xiàn)代船舶上的船舵太重了,十幾個舵手都做不到。他所做的是移動舵機室內(nèi)的一個部件,這個部件通過另一個部件與船舶的舵桿相連。然后將這兩個位置的差值傳遞給船舶兩側(cè)轉(zhuǎn)向舵機(steering engines),以調(diào)節(jié)左舷或右舷舵機中蒸汽的進入。舵機以這樣一種方式移動舵頭(rudder head)、舵柄(tiller),以消除這個移動部件和舵頭之間的間隔,這樣做時,它重新關(guān)閉閥門,使舵隨船移動。換句話說,舵頭被代表指令位置和自身實際位置之間差異的東西移動。這就是所謂的負反饋(negative feedback)

然而,這種負面反饋也有其弊端。1868年,偉大的物理學(xué)家克拉克·麥克斯韋 (Clerk Maxwell)在《倫敦皇家學(xué)會學(xué)報》的一篇論文中已經(jīng)討論過它的確切弊端。如果方向舵或調(diào)速器的反饋過于強烈,裝置將在一側(cè)越過中間位置(neutral position)的距離稍微遠一點,在另一側(cè)越過中間位置,就會進入振蕩狀態(tài)(oscillation)

既然我們認為最簡單的方法就是用反饋來解釋人類的控制,我們就想知道這種弊病(disease)會不會出現(xiàn)在人身上。我們帶著下面的問題去問我們的朋友,生理學(xué)家阿圖羅·羅森布魯斯(Arturo Rosenblueth)博士,他當時是坎農(nóng)(Cannon)在哈佛醫(yī)學(xué)院的得力助手:是否有任何已知的神經(jīng)疾病使一個人在試圖完成一項任務(wù)的時候,身體變得搖擺不定,而無法完成任務(wù)?比如說,我伸手去拿雪茄的時候。那是過度振蕩(excessive oscillation)的疾病嗎?

答案是肯定的,這種疾病是已知的。它的癥狀完全符合。它發(fā)生在小腦的病理學(xué)中。稱為目的性震顫(purpose tremor)或小腦震顫(cerebellar tremor)。

這給了我們線索。在這種情況下,看起來好像有一個常見模式(common pattern),可以解釋人類的行為和受控機器的行為,而且它依賴于負反饋。

那是我們的一個線索。另一個線索回到了自動控制機(automatic controlling machine),自動計算機(automatic computing machines)的研究。

首先,自動計算機的價值不大,除了一點:它的速度。它比普通的臺式機(desk machine)貴得多。除非你高速使用它,否則你不會得到任何好處。但要想高速使用一臺機器,就必須看到它所執(zhí)行的每一個操作都是以相應(yīng)的速度執(zhí)行的。如果你把機器的慢速階段(slow stages)和快速階段(fast stages)混在一起,慢速階段總是勝出。它們比快速階段更接近于控制機器的行為。因此,在機器運行時,不能手動給高速計算機器下達命令。它們必須事先建立一個所謂的磁帶(taping),如穿孔卡片(punched cards)、穿孔紙帶(punched tape)、磁帶(magnetic tape)或類似的東西;你的機器不僅要控制數(shù)字及其組合,還要控制操作的時序安排(scheduling of operations)。你的機器必須是一個邏輯機器(logical machine)。

我們再次發(fā)現(xiàn)了人類行為的巨大相似性。人的神經(jīng)系統(tǒng),不會耗盡所有的人類控制活動。毫無疑問,人體內(nèi)有一種控制活動,通過荷爾蒙,通過血液,等等。但是,就神經(jīng)系統(tǒng)的工作而言,各個神經(jīng)纖維非常接近于表現(xiàn)出一種“全有或全無”(all or none)的動作,也就是說,它們要么發(fā)射(fire)信號,要么不發(fā)射信號;它們不會中途(halfway)發(fā)射信號。如果你的單個神經(jīng)纖維連接到一個特定的神經(jīng)纖維,并且通過所謂的神經(jīng)突觸連接到它,那么它們就會以適當?shù)慕M合發(fā)出信號,如果某些所謂的抑制神經(jīng)纖維(inhibitory fibers)沒有中斷它們,那么就會發(fā)出信號。否則它們就不會。

這是一種連接開關(guān)(connected switching)的操作,非常類似于自動計算機(automatic computing machine)的連接開關(guān)。這使我們對神經(jīng)系統(tǒng)和計算機器(computing machine)進行了另一種比較,并進一步使我們想到,既然神經(jīng)系統(tǒng)不僅是計算機器,而且是控制機器(control machine),我們可以制造非常通用的控制機器(general control machines),在連續(xù)開關(guān)(successive switching)的基礎(chǔ)上,加入控制機器的部分,加入計算機器的時序安排(scheduling)部分,這比我們想象的更有可能。

特別是,對我們來說,制造一種自動反饋控制裝置(automatic feedback control apparatus)似乎是一件非常有希望的事情,在這種裝置中,反饋本身在很大程度上是通過連續(xù)的開關(guān)操作(successive switching operations)來實現(xiàn)的,就像人們在神經(jīng)系統(tǒng)或在計算機器中發(fā)現(xiàn)的那樣。

正是這兩種思想的融合,每一種思想都有人或動物的一面,也有機器的一面,這就導(dǎo)致了《控制論》(Cybernetics)的誕生。這本書是我應(yīng)一個法國出版商的要求寫的,我之所以選擇這個名字,因為我覺得這種特殊的思想組合不能太長時間不受約束(unbaptized),它來自希臘單詞κυβερναν,意思是控制(govern),本質(zhì)上是舵手的藝術(shù)。

從現(xiàn)在開始,我可以在很多方面繼續(xù)前進。我想說的第一件事是,反饋機制(feedback mechanisms)不僅眾所周知發(fā)生在人的隨意活動(voluntary actions)中,而且它們對人的生命本身是必要的。

幾年前,哈佛大學(xué)的亨德森(Henderson)教授寫了一本名為《環(huán)境的適應(yīng)性》(The Fitness of the Environment)的書。凡是讀過這本書的人,一定會認為,任何生物體能活著,尤其是人類能活著,是一個非常大的奇跡。人不可能在任何溫度下都生存。就此而言,在沸點以上和冰點以下,沒有活躍的生命存在,大多數(shù)行星的溫度可能都不在這個合適的范圍內(nèi)。當我說“沸點”和“冰點”時,我指的是水,因為水是一種非常獨特的化學(xué)物質(zhì)。

現(xiàn)在,即使是魚也不能在沸點以上生存。它可以在類似我們自身的溫度下,在到冰點附近生存,也許比冰點低一點,但不會比冰點低很多。

我們?nèi)祟惪勺霾坏健3鋈祟惿娴臏囟确秶鷥?nèi),我們要么著涼,要么發(fā)燒。在任何一段時間內(nèi),人類生存的溫度都不會變化太大。它的變化不會超過十度,實際上變化的幅度遠遠小于這個程度。同樣,我們必須在血液鹽度、血液尿素濃度等恒定的條件下生活。

我們?nèi)绾巫龅竭@一點呢?這個想法可以追溯到克勞德·納德(Claude Bernard),并由坎農(nóng)(Cannon)發(fā)展起來。我們體內(nèi)充滿了所謂的自我平衡機制(homeostatic mechanisms),就像恒溫器(thermostats)一樣。自我平衡(homeostat)是一種將某些身體狀況保持在一個狹窄范圍內(nèi)的機制。其中一個自我平衡(homeostats),至少部分位于髓質(zhì)(medulla),調(diào)節(jié)溫度。另一種是調(diào)節(jié)呼吸。還有一種是調(diào)節(jié)尿素濃度。這就是腎臟器官。這樣的控制有很多很多。

這種控制就像室內(nèi)的恒溫器(thermostat)。室內(nèi)的恒溫器,如果你還記得的話,里面有一個由兩塊金屬制成的小溫度計。它在一個溫度下接觸,在另一個溫度下斷開,它調(diào)節(jié)油進入爐內(nèi)和油的點火。有趣的是它有自己的弊端。你們很多人一定知道。

我們有一所房子,里面有一個恒溫器(thermostat),某個杰出的建筑師把它放在房子里唯一有壁爐的房間里。結(jié)果是,如果我們想在冬天給房間降溫,我們生起了火,因為我們給恒溫器提供了錯誤的信息,即房子是溫暖的,恒溫器把爐子的火給燒了。

我可能會指出,在人類的恒溫器中,類似行為可能會引起寒栗或發(fā)燒。我將稍稍偏離正式演講的主要部分,因為這在醫(yī)學(xué)上非常有趣。

有些疾病 — — 我不打算描述這些疾病的特征,其中某些物質(zhì)的產(chǎn)生,比如細胞,血液中某些細胞的密度,如在白血病中,會穩(wěn)步增加。然而,這種穩(wěn)步增長在這種疾病中是相當常見的。細胞的實際生產(chǎn)(production)和破壞(destruction)速度遠遠高于增長速度。可以想象,這可能是由于一種細胞生產(chǎn)或破壞不受約束的疾病,但我不這么認為,因為如果這兩種情況下細胞生產(chǎn)和破壞的數(shù)量幾乎相同,一個相對較小的變化就會把這種差異(difference)徹底抹掉,使它們之間的差異變得非常不規(guī)律。如果我們沒有自我平衡(homeostat),就會發(fā)生這種情況。我不認為會發(fā)生這種情況。我認為流程的規(guī)律性(regularity of the procedure,注:應(yīng)該是指細胞生產(chǎn)和破壞的規(guī)律性)表明我們有一個正在運行的自我平衡(homeostat),但是在錯誤的層次上運行。這是一個完全假設(shè)性的想法,但可能會對醫(yī)學(xué)產(chǎn)生嚴重的后果。

還有另一面也很有意思。我所說的體內(nèi)的自我平衡(homeostats),是內(nèi)置在人體中的。我們能制造一個部分在體內(nèi),部分在體外的自我平衡(homeostats)嗎?答案肯定是肯定的。

梅奧診所(Mayo Clinic)的比克福德(Bickford)醫(yī)生,制造了一種裝置(apparatus),獲取腦電圖(electroencephalogram)中的腦電波并把它們分開,使用在規(guī)定時間內(nèi)通過的腦電波總量。將麻醉劑注入靜脈或注入面罩。其過程是這樣的:隨著病人的昏迷,腦電波的活躍度越來越低;注射也越來越少,因為要保持無意識的水平。通過這種方式,麻醉可以在數(shù)小時內(nèi)保持在一個相當穩(wěn)定的水平。這是一個自制的自我平衡(homeostat)。我不認為這是醫(yī)學(xué)上最后的例子。我認為,用通過生理結(jié)果監(jiān)測的自我平衡(homeostats)給藥,是一個很有前途的領(lǐng)域。不過,我是暫時地這樣說的。

到目前為止,我一直在談?wù)撊祟悺W屛覀儊砜纯礄C器。我們在哪里能找到一個穩(wěn)態(tài)機器(homeostatic machine)特別可取的例子呢?

化學(xué)就是一個有趣的例子。化工廠通常充滿了輸送酸、堿或爆炸物的管道——不管怎么說,都是危險的物質(zhì)。當達到一定的溫度,達到一定的壓力,等等,有人打開某些閥門(valves)。他最好轉(zhuǎn)動了正確的閥門,特別是在像輕油裂化廠或原子能廠這樣的地方,我們要處理放射性物質(zhì)。

如果他必須根據(jù)讀數(shù)來轉(zhuǎn)動閥門,那么,就像在高射炮中一樣,我們可以預(yù)先建立應(yīng)該轉(zhuǎn)動閥門和不應(yīng)該轉(zhuǎn)動閥門的組合。閥門可以通過放大器(amplifiers)轉(zhuǎn)動,通過本質(zhì)上是計算裝置(computing apparatus)的東西,通過儀器本身的讀數(shù),通過儀器或感覺器官(sense organs)來轉(zhuǎn)動。

你可能會說:“很好,但必須有一個人來應(yīng)付緊急情況。”

但在一個很可能發(fā)生爆炸的工廠里,沒有人在里面是非常可取的。替換人員的成本很高,此外,我們還有一些基本的人道主義本能。

問題是:人是否有可能比機器更好地做出應(yīng)急判斷?答案是否定的。原因是:任何你能想到的緊急情況,你都能在你的計算和控制裝置中得到解決。如果在緊急情況發(fā)生之前,你想不出該怎么做,那么在緊急情況下,你幾乎可以肯定會做出一個錯誤的決定。如果你不能提前想出一個合理的做法,那么當緊急情況來臨的時候,你根本不會發(fā)現(xiàn)上帝會給你正確的做法。緊急情況是在和平時期規(guī)定的。

然后,出于完全合法甚至是人道主義的原因,自動控制系統(tǒng)(automatic control system)正在進入化工業(yè)和其他特別危險的行業(yè)。然而,同樣的技術(shù),使汽車自動裝配線成為可能,也許是紡織廠的一條自動裝配線,甚至可能是其他行業(yè)的自動裝配線。

有趣的是:盡管你發(fā)出的連續(xù)指令(successive orders)在機器中幾乎可以無限變化,但不管你在做什么,執(zhí)行連續(xù)指令的儀器實際上是標準的。有兩個變量:一個是中央機器(central machine)所引導(dǎo)的準人類的手(quasi human hands),另一個是輸入指令的順序。

在流水線上,要想從一組命令,比如說,從一種型號的汽車換到另一種型號的汽車,或者從一種款式的車身換到另一種款式的車身,不需要改變下達命令的機器(order-giving machine)。只要改變那臺機器的特定程序就可以了。

我想你們很多人都看過電影《Cheaper by the Dozen》。在那部電影中,我認為吉爾布雷斯(Gilbraiths)的主導(dǎo)思想被完全忽略了,就像在大多數(shù)電影中一樣。吉爾布雷斯認為,人類在日常工作中并沒有充分發(fā)揮效率。他們認為,十幾個人的家庭之所以不存在,只是因為人類在執(zhí)行日常任務(wù)時的愚蠢,而這種情況可以通過更好地安排這些任務(wù)的順序來避免。這就是這個大家庭背后的動機。這就是系統(tǒng)化撫養(yǎng)這些孩子背后的動機。

但是,當你把一項任務(wù)簡化為連續(xù)程序(consecutive procedures)的例行公事時,你需要做的是把任務(wù)錄在磁帶(tape)上,由一臺完全自動化的機器來運行程序(procedure)。工業(yè)管理的問題和吉爾布雷斯對普通細節(jié)的系統(tǒng)處理,幾乎和控制機器的磁帶是同樣的問題;因此,它們的進步并沒有真正改善工人的條件,反而使工人失去了地位(telescope the worker out of the picture)。這是一件非常重要的事情,因為這是一個正在發(fā)生的過程。

我想說,我們正面臨一場新的工業(yè)革命。第一次工業(yè)革命是以機器的能量取代人和動物的能量。蒸汽機是它的象征。到目前為止,沒有什么是蒸汽機和推土機(bulldozer)做不到的。在這個國家里,沒有什么報酬能保證一個人心甘情愿地從事這種純粹的挖鏟工作。在經(jīng)濟上根本不可能與推土機競爭推土機的工作。

現(xiàn)在正在進行的新工業(yè)革命,主要是用機器的辨別力來代替人類在低水平上的判斷(judgment)和辨別(discrimination)。機器現(xiàn)在出現(xiàn)了,不是作為動力的來源,而是作為控制的來源和通信(communication)的來源。我們與機器通信,機器也與我們通信。機器之間相互通信。能量和動力不是描述這種新現(xiàn)象的恰當概念。

如果我們在小的方面,通過用機器執(zhí)行任務(wù)來代替人類的任務(wù),使人類的任務(wù)變得更容易,并在很大程度上消除這些任務(wù)中人的因素,我們可能會發(fā)現(xiàn)我們在機器神(machine god)面前基本上已經(jīng)燒香了。我認識一個偉大的工程師,他只會考慮工具的構(gòu)造,從來不會思考工具與人類在社會中的融合問題。如果我們允許事情有一個合理緩慢的發(fā)展,那么,自然而然地引入了這個工具,可能會傷害到我們,引起我們的敬畏。因此,我們意識到,我們不能崇拜工具,不能為它犧牲人,但很容易出現(xiàn)一種情況,即我們可能招致災(zāi)難。

假設(shè)我們陷入戰(zhàn)爭。如果我們開戰(zhàn),我們必須為此做好準備,同時我們必須保持工業(yè)生產(chǎn)以養(yǎng)活軍隊。我的意思是,用軍需品以及普通的食物和設(shè)備來供給,這在歷史上是首屈一指的工作。我們將不得不在勞動力市場已經(jīng)觸底的情況下,實現(xiàn)最大限度的生產(chǎn),這意味著需要自動化機器。

這樣一場戰(zhàn)爭意味著我們將在兩個月內(nèi),把我們很大一部分最好的工程人才投入到機器的開發(fā)中。碰巧做這種工作的人都在那里。他們是在上次戰(zhàn)爭中接受過電子工作訓(xùn)練,當時他們使用雷達。與珍珠港的雷達相比,我們在自動化機器上的進步更大。

因此,目前的情況是,可能兩到三年后,會看到自動化工廠得到充分的理解并開始使用它來加速生產(chǎn)。五年后,我們將在自動裝配線上看到我們掌握了全部技術(shù)的東西,我們積壓了大量零件。

此外,社會改革不會在戰(zhàn)爭中進行。在這場戰(zhàn)爭結(jié)束時,我們會發(fā)現(xiàn)自己積壓了大量的零件和技術(shù),這對任何想賺快錢和擺脫困境的人來說,都是極有誘惑力的,而讓社會的其他人來收拾殘局。這種情況很可能發(fā)生。

好了,你看到了這幅圖畫。我想,你們想要的東西之一就是安慰(consolation)。諸位,沒有圣誕老人!如果我們想與機器共存,我們必須理解機器,我們不能崇拜機器。我們必須在與他人相處的方式上做出很多改變。我們必須重視休閑(leisure)。我們必須把商業(yè)、工業(yè)、政治的偉大領(lǐng)袖變成一種精神狀態(tài),他們會把人們的休閑視為他們的事業(yè),而不是一件與他們無關(guān)的東西。

我們必須做到這一點,不受那些適合過去社會階段而不適合現(xiàn)在社會的口號的阻礙。

我們必須做到這一點,不受吞噬我們政府(engulfing our government)的秘密逐漸癱瘓的影響,因為秘密只是意味著我們無法面對真實存在的情況。必須控制局勢的人還沒有能力處理它們。

我們必須認識到,雖然我們可以讓機器成為我們的神,把人獻給機器,但我們不必這樣做。如果我們這樣做,我們就應(yīng)該受到懲罰。這將是一段艱難的時期。如果我們能熬過這段日子,保持頭腦清醒,如果我們不被戰(zhàn)爭本身和其他問題所消滅的話,就有很大的機會把機器變成對人類有利的東西,但是機器本身對人類沒有特別的偏愛。

制造兩種機器是可能的(我就不細說了):一種機器的程序/磁帶(taping)是一次性確定的,另一種機器的程序/磁帶(taping)是根據(jù)經(jīng)驗不斷地修改的。第二種機器在某種意義上是可以學(xué)習(xí)的。

諸位,機器的道德問題完全不同于魔法的舊道德問題。事實上,機器遵循自然法則,魔法應(yīng)該在自然之外,這不是一個有趣的區(qū)別。巫術(shù)在中世紀是受到譴責的。在那個年代,某些現(xiàn)代類型的巫師會被絞死或燒死。有趣的是,中世紀在某種程度上 — — 哦,我不是指對火焰的熱愛,而是指對巫師的譴責 — — 是正確的;即巫術(shù)不是利用超自然的力量,而是利用人的力量達到其他目的,而不是為了上帝更大的榮耀。

現(xiàn)在,當我說上帝更大的榮耀時,我不是有神論者。我指的是上帝給我們一個合理的人類價值。我說中世紀的態(tài)度和童話中的態(tài)度一樣,但童話故事的態(tài)度在許多與現(xiàn)代生活有關(guān)的事情上是非常明智的。

如果你有了實現(xiàn)你愿望的機器,那么你一定要注意“三個愿望”的古老童話,它告訴你,如果你確實許了一個可能會實現(xiàn)的愿望,你最好非常確定那是你想要的,而不是你認為你想要的。

你知道雅各布斯(Jacob)關(guān)于“猴爪”的故事。一對老夫婦得到了猴爪,并得知它將滿足他們?nèi)齻€愿望。第一個愿望是要兩百英鎊。立刻,從工廠來了一個人,說他們的孩子被機器壓死了,盡管工廠承認沒有責任,但他們愿意給兩百英鎊的賠償金。

在這之后,他們希望他們的孩子再次回來,孩子的鬼魂出現(xiàn)了。

然后他們希望鬼魂離開,他們只剩下一個死去的兒子。這就是這個故事。

這是一個民間傳說;但這個問題與機器的關(guān)系,就像與任何魔法的關(guān)系一樣

然而,機器可以學(xué)習(xí)。這個民間傳說與“漁夫和精靈”的故事相似。你們都知道這個故事。漁夫打開他在岸邊找到的一個瓶子,精靈出現(xiàn)了。精靈威脅他要為自己監(jiān)禁在瓶子里報仇。漁夫說服精靈回到瓶子里。諸位,當我們遇到機器的問題時,我們不能讓機器回到瓶子里。

相關(guān)閱讀:

《人有人的用處》:控制論先驅(qū)諾伯特·維納(Norbert Wiener)談通信,控制和我們機器的道德

控制論如何將計算、反主流文化和設(shè)計聯(lián)系起來

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

推薦閱讀更多精彩內(nèi)容