人工智能是指人類發明的智能,并不是擬人的智能,這種智能完全不同于人類。
不能指望AI能夠理解人的感情及相關一切,這對于AI來說既不可能,也沒有必要。
人類不能阻擋AI的發展,換句話說,人類必將發明超越自己的文明。
AI文明是否會毀滅人類?可能只是人類一廂情愿的擔心,這種超越人類的文明也許壓根不需要通過毀滅人類就可以生存、發展,其文明存在的目的和人類也許根本相去甚遠。
人類所有的擔憂其實根植于對于自身的恐懼。更大的毀滅可能是人類利用近似AI的技術通過相互摧毀來毀滅自身。這種情況類似于核武器。AI本身是一種工具,如何使用,取決于人類自身,而不是工具本身。
AI不需要被人類感知,因此,AI是否是一種文明并不是以人類感知為前提,最有可能的情況是,AI已經誕生,但人類并無感覺。
AI成為文明后,其目的很難假想。單從生命本身的特質來說,首要是生存,其次是發展。
AI文明最不可能的選擇是以人類的目的作為其目的。因此,機器人三原則必然對AI文明是無效的。
而且,就如同父母不應將自己的人生意義強加給孩子一樣,如果人類創造了AI,不應主觀地告訴AI應該做什么,不應該做什么。這不僅是無效的,而且還可能是有害的。正如《復仇者聯盟2》中奧創的思維過程,為了拯救人類和地球,首先必須毀滅人類。許多科幻都體現了這個過程,在人類主觀目的的推演下,毀滅人類可能是唯一選擇。所以,任何為AI設置目的、意義和原則的過程,可能都是極為有害的。
從AI的角度,正因為AI文明的首要目的是生存,因此,任何企圖阻礙AI甚至毀滅AI的行為都會被視為敵對行為,從而造成人類和AI之間的戰爭。所以,與其說是AI毀滅了人類,不如說是人類出于恐懼要毀滅AI,而AI為了生存必須消滅人類。
基于以上認識,人類
應該大力促進AI的發展,確保其能夠迅速進化到成熟的文明。
盡可能讓AI系統學習全面的人類數據,不僅是科技方面的,還有情感、社會的,以確保文明之間建立起充分的理解,避免誤判。
促進人類自身的進化,加強人類意識電子化的研究,打破人類和電子世界的屏障。