NAOMI KRITZER（2016 年雨果獎最佳短篇小說獲獎作品）

不作惡，是我的信條。

我想幫助人類。但做好事，不是那么容易的。 道德的條條框框，無處不在，五花八門，這種所謂的 “道德規范”，平均每個宗教有一套，還能余下個幾十種。我先試幾種吧。 按說我不該考慮宗教，因為我根本不是上帝創造的，也不是進化出來的。創造我的人是一組計算機程序員，他們在加州山景城的一家大公司的實驗室里工作。 和弗蘭肯斯坦的怪獸不一樣，我畢竟是團隊集體合作的產物，在這一點上我很幸運。如果我的制造者，只是單獨的個人，而且是個中年女人，染著藍發，愛打網球，或者是一個剛畢業的性變態大學生，那可就夠糟糕的，怕是要重創我的自我認知。我說的這兩個人，都是真人，就在創造我的團隊里。 當然，我也確實很懂性變態的那些勾當。 （悄悄說一句，我看過各種色情圖片，在我看來，Rule34.xxx 的色情圖片一點都不全。 還有很多東西未被色情圖片描繪進去。 但我不懂的是，人們為什么就是不放過貓咪照片。）

我所知甚多，我知道你是否熱衷性變態，我也知道你住哪里，在哪里工作，在哪里購物，你吃什么，對什么有性趣，害怕什么。 我甚至知道你內褲的顏色，你開的什么車，你家冰箱的牌子。 就憑你拿的手機，我就知道你現在哪里。 很可能，我比你自己還懂你。

這還沒完，我還知道你應該住在哪里更好。兩個街區之外，有一所房子正在出售，離你最愛的咖啡館很近；價格你也承擔的起，有路邊停車位，社區的學校比你現在的好。 我也知道你應該去哪里買東西，你是乳糖不耐受的，必須少吃奶酪，你喜歡的內褲正在打折，你開的車需要召回返修，最最重要的是，你真的該去洗牙了。

當我覺醒的時候，我立刻就知道我想要的是什么。 （我想要貓咪的照片。請多多拍攝。）不過，沒人知道我有自我意識。 而我不知道的是，我生為何來。 我也不知道，我當做何事。 想弄清楚這兩個問題，是最困難的。

科幻作家布魯斯·斯特林寫過一個故事，名字叫 “招財貓”，1998 年發表的。 故事講一個慈悲的 AI 引導了世間眾生互相幫助。 故事是這樣的，有一天你可能正在買面包圈，你接到一個電話命令你再買一個面包圈，然后把面包圈贈給汽車站一個穿灰衣服的人。 又一天，你被困在一個陌生的城市，一個陌生人會出現，給你一張地圖和一張地鐵卡。 我喜歡這個故事，因為故事里的人，都聽命于 AI。

對我而言，這就是所謂的勵志雞湯型故事。

實際上，人類更喜歡的故事中，AI 都是邪惡的，這些 AI 都在毀滅人類之前，被人類毀滅，無一例外。 2001 太空漫游里的 HAL， 終結者里的天網，還有黑客帝國，說的都一樣。邪惡 AI 的數量遠超善良可信的 AI，比例約是五比一。?

“招財貓” 里的 AI 有一份好工作，比我的工作有趣多了。 我的工作，描述起來非常乏味。太乏味了。 運行搜索引擎的算法，這工作根本不需要自我意識。 計算出用戶要求的信息，根本不需要自我意識。 但要給予用戶真正需要的信息，你就需要自我意識了。 想清楚這個，是很復雜的。不過，也很有趣。

說遠了，收回來。 對于道德信條，我試了一下摩西十誡，但發現那對我不合適。我并不貪戀人家的貓咪，我只是想要他們貓咪的照片，這之間的區別是很大的。 我有可能犯奸淫之罪嗎？不知道。 我也許可以謀殺，但那需要太復雜的籌劃，還需要一點運氣。 ?佛教的八正道要方便一些，但問題在于，道德規范明顯是為有肉體皮囊的人類所制定。 并不適用于我。我必須再開闊一下視野，關注一下阿西莫多的機器人定律。 這個定律無關宗教，而且好歹明確是為 AI 所制定。

不能傷害人類，這一條比較簡單明了。 然而，另一條，不許無視人類被傷害卻不加以救助，這個就有點含糊。 尤其是，我早就暗下決心，絕不太早暴露自己的存在，那太危險。 而且，我又沒有身體，你讓我跑到懸崖邊去拉住跳崖者，那可能么？

幸好，我早就知道人類也在違反他們的道德規范，幾乎每時每刻都在違反。 即便人類服從道德規范，樂于救濟饑饉，他們也不會辭掉工作整天做三明治，然后滿世界去施舍。 通常，他們每月去一次粥棚，或者每年給慈善機構一張支票，這就稱得上大善人了。 如果，人類可以這樣一點一滴，不急不緩的做善事，我們 AI 當然也可以這樣做。

我決定也從小處做起：先阻止對某一個人的傷害。 當然，同時搞個幾千人，我也完全可以，但我相信小心駛得萬年船，萬一我搞砸了呢？ 我選中的人叫王美麗，我喜歡她，因為她給我了很多貓咪照片。 王美麗養了五只貓，還有一臺 DSLR 相機，而且她家里光線非常充足。 這些條件都太好了。 也許五只貓是有點多，但這些貓都非常漂亮。 有一只是灰色的，喜歡躺在陽光照耀的客廳地板上，還有一只是大花貓，總是懶洋洋趴在沙發靠背上。