分析：人工智能超越人類會如何？

這不算最糟，更糟糕的是《黑客帝國》中的世界。在那里，人類甚至愚昧到發現不了機器已經將自己取而代之。他們進行著日常的工作和生活，把一切看成正常的，忘記了他們實際上是生活在一個虛擬的世界之中。人類的“存在”僅僅是裝在這些生活在營養艙里的人類大腦中的程序，由一個大型的計算機進行操作和管理，而機器需要這些人的唯一理由是要用他們作為生物電池。當然，好萊塢為了把觀眾嚇得目瞪口呆，什么故事都編得出來，我們所生活的世界距離電影中的還很遙遠。但這些電影也提出了一個合理的科學問題：“當機器人變得和人一樣聰明時會發生什么？當機器人醒來后有了意識會怎樣？”按照一些專家的觀點，機器人將沿著進化樹逐漸攀升。今天它們像蟑螂一樣聰明，在將來，就會像老鼠、兔子、狗和貓、猴子一樣聰明，然后和它們的對手人類一樣聰明。這需要幾十年緩慢的攀登，但機器在智力上超過我們只是時間問題。只是在具體的時間方面，專家們的意見存在分歧。科幻作家弗諾·文奇表示，在30年內，我們將會遭遇超人的智力。在此后不久，人類的時代將結束。這個事件不會在2005年以前發生，但也不會推遲到2030年之后。但在另一邊，物理學家道格拉斯·霍夫斯塔特卻說：“如果在下一個100年到200年出現任何這種遙遠的事情，我都會非常驚訝。”他們都認同的是，這些事件終究將會發生。但在那之前，有一個值得討論的基礎問題。意識和智能究竟是什么？其實，存在上述矛盾的主要原因是關于“意識”這個詞匯沒有一致的意見。哲學家和數學家就這個詞匯爭論了幾個世紀，仍不能達成一致。可見，“意識”是一個玄妙的術語，它難以確切定義，對于不同的人有不同的意義。物理學家加來道雄提出了一種判定和量化的標準。他認為，意識至少由三個基本成分組成：一是感覺和認識環境，二是擁有自我意識，三是會設定目標，計劃未來，制定達成目標的策略。他以數字1到10對意識程度進行了量化。比如，錘子不能感覺環境，因此它的意識等級為0。但是一個溫度調節裝置可以感覺環境，并且通過改變環境溫度對環境產生影響，它意識等級為1。由此他也認為，具有反饋機制的機器有初步形式的意識。在這個體系下，一些低等生物，比如蠕蟲，它們能夠感覺食物、配偶、危險的存在，并根據這些信息而做出相應行動。它們能夠檢測的參數多于一個(如光線、聲音、氣味、壓力等)，應該有較高的排列等級，大約2或3。這種感覺的最高形式是識別和理解周圍環境中的物體的能力。人能夠立刻估計環境的大小，并采取相應行動，因此在這個排列中排得最高。然而，這卻是機器人得分最低的地方。在現今的研究中，模式識別是人工智能發展的主要障礙。機器人能夠比人更好地感覺環境，但是它們不能理解或認識它們看到的是什么。在意識的這個尺度上，機器人的得分最低，接近于昆蟲，因為它們缺乏模式識別的能力。另一個依據是自我意識。如果放一個鏡子靠近大多數雄性動物的旁邊，它們將立刻暴跳如雷，甚至攻擊這面鏡子。因為鏡中的圖像刺激動物保衛它們的領地。但是，猴子、大象、海豚和一些鳥類會快速意識到鏡子中的影像代表自己，并停止攻擊。在這個尺度上，人類排得最高，因為在他們與其他動物、其他人和周圍世界的相處中，他們有高度發展的自我認知意識。最后一個排列依據是為將來制定計劃的能力。眾所周知，昆蟲不為將來設定詳細的目標。大多數的昆蟲根據直覺和周圍環境的直接線索，瞬間對周圍的直接境遇做出反應。但靈長類會為即將發生的事情做臨時準備。比如當猩猩看見了香蕉，卻伸手夠不著時，它們會制定策略去抓這個香蕉，例如用一根棍子。因此在這個排序上，猩猩比昆蟲擁有更高級的意識。但是總的來說，動物對遙遠的過去和將來并沒有清晰的認知。然而，人類對未來有非常充分的的意識，并且能連續制定計劃。我們的頭腦中無時不刻運行著對現實的模擬。事實上，我們預期的計劃可以遠遠超出我們的生命跨度。我們能判斷其他人的能力，預計形勢的發展，制定正確的策略。這種形式的意識涉及預測將來，也就是說，產生多個模型去模擬將來的事件。這要求對常識和自然規律有非常周密的理解。它意味著你要不斷地問自己“將會發生什么事情”。不管是計劃出門逛街，還是日常上班，這種類型的計劃意味著你的頭腦能夠在同時容納現實可能發生的多個模擬狀況。所有現象仿佛都在說明，在自然界中只有人類掌握了這個藝術。機器人也能具有意識嗎？在確定了目標后，研究人員的目標就變成了創造具有所有這三個特征的機器人。相對來說，第一項較難達到，因為機器人雖然能夠感覺環境，但理解不了它的意義；自我意識比較容易取得；最后是獲取常識，在此基礎上才能擁有為將來制定計劃的能力因此，我們看到常識是高級意識的前提。為了讓機器人模擬現實和預測將來，它必須掌握有關周圍世界的幾百萬條常識的規則。但是有了常識還不夠，常識只是“游戲規則”，而不是策略和規劃的規則，它更關乎機器人在現實世界中的生存。比如下棋機器“深藍”，它能打敗世界象棋冠軍，但它不能做別的事情。它能夠運行一個模擬的現實，但僅僅是針對下棋。世界上的很多大型計算機都是這樣的。它們模擬一個物體的現實時非常優秀，例如，模擬核爆炸、噴氣式飛機周圍氣流的模式，或氣候。這些計算機模擬現實的能力比人的還要好，但可惜的是，它們是一維的，因此在真實世界的生存中是沒有用的。今天，對于如何向機器人灌輸常識，使其產生意識的方法，研究人員所知有限。大多數人舉手投降，并且表示巨大的計算機網絡會有辦法顯示“突然出現的自然發生的現象”，就像有時本能地從混沌中產生秩序一樣。當問到這些突然出現的自然發生的現象什么時候將產生意識時，大多數人只能是啞口無言。當然，意識正如我們看到的，也是一級一級上升的，而不是一個突然演變的事件，需要很多個存在幾十年的機器人才能沿著意識的階梯攀升。畢竟大自然用了幾百萬年時間才建立了人類的意識，在塑造機器人的意識方面，我們也不應操之過急。那么換個思路，盡管我們還不知道怎樣創造有意識的機器人，但是我們能夠想象當機器人比我們還先進時會是什么樣子，以此為框架測量意識。終結者終結者這些機器人在第三個特征上是勝過我們的：它們能夠對將來進行復雜的模擬，遠遠超過我們，更全面、細致和深人。它們的模擬比我們更精確，因為它們更好地掌握了常識和自然規律，因此能夠更好地搜索模式。它們將能夠預測我們忽略或未覺察的問題。此外，它們能夠設定它們的目標。如果它們的目標包括幫助人類，那么萬事皆好。但是，如果有一天，我們阻礙了它們制定的目標，情況或許就會不太妙了。這產生了下一個問題：當它們超越人類時，一切將會怎樣？如果機器人超越人類？進化的定律只有一條，即適者生存。也許人類會成為落后的一方，最終被鎖在動物園里供機器人觀賞。也許這就是我們的命運：我們孕育演化出了這些超人機器人，然后退場。而它們把我們看成是在它們的演化進程中的原始祖先。在某一天，我們不再是地球上智力最高的生物，而且我們的創造物也許能夠復制它們自己，并創造出比它們還聰明的機器人。然后，這個自我復制機器人的大軍將創造無窮無盡的下一代機器人，每一代都比前一代聰明。理論上，機器人能夠在很短的周期內創造更聰明的下一代，最終，這個過程將呈指數級膨脹，直到最后，在它們貪得無厭的變得更加聰明的要求下，吞噬了這個行星的資源。這就是“奇點”，這個詞原來來自相對物理學世界，代表重力為無限大的點，任何東西都不能從這里逃逸，包括光，所以它代表了一個視野，超過這個視野，我們什么也看不見。發明家雷·庫茲威爾是奇點理論忠實的代言人。他喜歡根據技術的指數增長進行預測。在1999年，他寫了一本暢銷書《靈魂機器的時代，當計算機超過人的智力》，預測候機器人于什么時將在智力上超過我們。在2005年，他寫了《奇點臨近》，并且詳細闡述這些預測，稱計算機超過人的智力的決定性的一天很快就會來臨。他預測，到2019年，1000美元級別的個人計算機就將具有和人的大腦一樣強的能力。此后不久，計算機將把我們甩在后面。到2029年，同樣價格的計算機將比人的大腦強大1000倍。到2045年，這一價格的計算機將比每個人合起來的智力強10億倍，即便是一臺小型計算機也將超過整個人類的能力。在他的想象中，2045年后的計算機將變得非常先進，甚至能夠復制自身、智力不斷地增加，產生失控的奇點。為了滿足它們永無止境的貪婪及不斷增加計算能力的欲望，它們將開始吞噬地球、小行星、行星、恒星，甚至影響宇宙本身的歷史。庫茲威爾相信，在這樣的未來中，我們要想的不是如何對抗智能機器的入侵，而是要與這個技術融合。我們要把這些智能的設備放在我們的身體和大腦里，讓我們活得更長壽，更健康。沒有人知道最后到底會怎樣，未來是否會像《終結者》或《黑客帝國》所描述的那樣，成為人類時代的黃昏絕響，但也許在我們面前還存在著另外一條光明的道路。我們可以與人工智能友好共處嗎？在現實的研究領域以及許多科幻作品里，科學家們采取各種方法保證機器人不會造成危險。比如他們放一個芯片在機器人的大腦里，如果機器人有了謀殺人類的念頭，就自動將它關閉。或者也可以創造專門的機器人獵手，用來壓制不正常的機器人。這些機器人獵手專門設計成有超級速度、強度和協調能力，并且了解任何機器人系統的弱點，能夠捕捉錯誤的機器人。當然，人類也可以訓練這個技巧。電影《銀翼殺手》中有一個受過專門訓練的政府特工人員隊伍，哈里森·福特扮演的主角正是其中一員，他們有壓制任何機器人流氓所需要的技能。科幻作家艾薩克·阿西莫夫正是這樣想的，他預想每一個機器人在工廠被加工時就被植入了三個定律，以防止它們失控。他在小說中設計出著名的“機器人三定律”，以防止機器人傷害自己或人類。但更多的科學家傾向于設計“友好的人工智能”，讓它從一開始就只執行對人類有用的和慈善的任務，最終呈現良性的結果。這與阿西莫夫的思路略有不同。阿西莫夫的三定律是強加給機器人的，也許違背它們的意志。相反，在“友好的人工智能”中，機器人是不受限制的，可以施行謀殺和傷害行為，也沒有什么規則能強加人為的道德。但是，這些機器人從一開始就要求它幫助人類而不是毀滅他們，它們的最終目標是慈善的。但是所有這些方法都有一個問題，那就是到目前為止，軍事部門是人工智能系統最大的資金提供者，并且這些軍用機器人是專門設計用來搜索、追蹤和殺人的。不難想象，將來的機器人士兵的使命就是要識別敵人，并且分毫不差地消滅他們。這樣一來，我們不得不格外小心，保證這些機器人不要調過頭來對準它的主