這裏首先討論一個書中可能不涉及，但很基本的問題：人工智能的定義。
目前廣為人知的定義是圖靈測試，但這只能被看作一種泛泛的描述，並不是嚴格和精確的定義。比如，參與測試的人是什麼樣的人？向機器提出的問題是什麼？這些問題都不明確。
上溯歷史，我們發現人工智能的概念與自動化有着密切的關係，可以說自動化是這個概念的起源。在過去相當長的一段時間裏，在人們的心目中，自動化就是人工智能。其實，人類制造和使用自動化裝置的時間比我們想象得要早，遠在電氣時代之前，蒸汽機上就有自動調節蒸汽流量的裝置，在更早的16世紀，伊麗莎白女王的宮廷裏首次使用的抽水馬桶也是自動化裝置，如果向前追溯，肯定還有更早的例子。自動化大批量出現是在電氣時代，先是由模擬電路實現自動化，後來電子管被晶體管所代替，再後來出現了集成電路，由日益複雜的軟件所驅動。今天，我們在生活中要與無數的自動化系統打交道，比如電子商務系統、網上銀行系統和網上購票系統等。
毋庸置疑，自動化系統表現出了相當多的智能特徵，像網上銀行這類系統處理着相當複雜的業務，其效率和精準度已高於人類雇員。即使是抽水馬桶這樣最簡單的系統，也表現出一定的智能行為，它能夠感知水箱的水位，適時開啟和關閉給水閥門，這事它做得與人類一樣好。但從抽水馬桶到網上銀行，我們都不把它們看作是人工智能。
我們眼中的人工智能
筆者曾經編寫過一個寫現代詩的軟件，現在還在網上流行；而目前網上其他比較完美的自動作詩軟件，所寫出的中國古典詩詞很難與人類所作的詩詞區分開來。另外，近年來已經有不止一個系統在不同的實驗室環境下通過了圖靈測試。但這一切，我們都不把它們看成心目中的人工智能，為什麼？
筆者在20世紀80年代最早參與開發的工業監控系統是以Z80處理器為核心的，用匯編語言編程。這個系統能夠監測上百個機組參數，並根據參數的變化做出適當的調節，其功能是人工無法實現的。但在我們的眼中它也完全不是人工智能。匯編語言的特點就是透明性，它要在硬件層次手把手地教機器做每一步操作，比如把數據從這個存儲器送往那個存儲器，中斷的調用和返回等都一一寫明，所以當我從外部看到系統的動作時，腦中立刻有一幅明晰的流程圖，立刻能知道哪幾條指令被執行了。所以在我看來，這個監控系統與抽水馬桶沒有本質的區別。
現在那些更複雜的系統，如網上銀行和電子商務，這些軟件的編制者一定清楚所有的內部操作流程，他們知道系統的每一步操作在軟件中是如何進行的，這同樣也是抽水馬桶更複雜的版本。至於那些電子詩人和通過圖靈測試的系統也一樣，程序員清楚地知道它們是如何根據邏輯樹檢索數據庫，然後組合出詩和答案的，所以至少程序員知道這不是智能。
當我們意識到房間中那些忙碌查找卡片的人時，智能的感覺就蕩然無存了。
現在我們認為擁有人工智能的那些系統，比如，進化算法和深度學習等，都有一個共同特點：它們都或多或少地表現出了黑箱的特點，雖然從理論上它們內部的運算步驟仍然可以追蹤，但由於計算量的巨大，使這種追蹤實際上很困難甚至不可能。於是，我們真的感覺它們有智能了。
人工智能的特點
到這裏，我們仍然無法得出人工智能的準確定義，但能夠看到它的一個重要特點：一個具有智能特性的人造系統，它產生、輸出的內部的運算過程是人類智能所無法解析的。換句話說，只有我們不知道機器在想什麼、怎麼想時，才認為它有智能。
看到這一點，每個人的心中應該都生出一股隱隱的寒意。是否人工智能的本質中，就隱含着它們最終失控的可能性？
這正是目前人們對人工智能關注的熱點，用馬斯克的話來說，人工智能正變成比核彈更危險的東西。媒體輿論給人一個印像，似乎機器的徵途已經開始，人工智能徵服世界指日可待。本書最後一章也顯現了這種擔憂。庫茲維爾甚至在《奇點臨近》中給出了人工智能紀元到來的具體年份：2045年。那時，現在讀這本書的人有2/3還活着。
但理智地考察目前人工智能領域的狀況，我們就能發現智力遠超人類的「強人工智能」仍然屬於科幻的範疇。公眾喜歡從科幻的角度看問題，比起平常的現實，科幻確實能讓人興奮，任何從現實出發所進行的理智的預測都被斥為保守和沒有想象力。但筆者作為科幻作家卻只能說，與大家通常的印像不同，科幻小說中的預言真正變為現實的是少數，大部分預言要變為現實仍然遙遙無期。人們的潛意識中都認為，只要在理論上有可能突破的技術障礙，在未來就一定能夠被突破，但事實並非如此。在人工智能方面，「強人工智能」的實現面對着許多巨大的技術障礙，如非馮•諾依曼體系的新結構計算機、對人類思維機制的深刻認識等，現在都無法確知最終能否取得突破。另外一些看似有希望的技術，如量子計算等，距實用還相去甚遠。
所以，在對人工智能進行科學幻想的同時，我們更需要關注即將面對的「近未來」，這也正是本書重點討論的話題。
人工智能社會的過渡
人工智能近年來發展的趨勢是開始走出實驗室，進入人類生活，用一位互聯網大佬的話來說，它們變得能用了。這樣我們就面對着一個即將到來的挑戰：人工智能不會奪走我們的自由和生命，但會奪走我們的飯碗，這不需要人工智能的失控，它們可以在資本家的完全控制下做成這件事。
有學者認為不必為這件事擔憂，他們回顧工業化的歷史，在20世紀初，美國有50%的農業人口，但隨着農業機械化，現在的農業人口降到4%，而城市化吸收了多餘的農民。但眼前發生的事情是不同的，當人工智能大規模進入社會後，人類能做的工作它們大部分都可以做，城市不會再有更多的就業崗位留給人類。通行的美好說法是，人們在常規工作中被人工智能取代後，可以去從事創造性的工作。問題是創造性的工作不是人人都可以從事的，也不需要那麼多的人，如果社會分配制度不改變，一個全部由科學家和藝術家構成的人類世界幾乎是一場噩夢，這上百億科學家和藝術家中的絕大部分注定一生碌碌無為，對社會和自己都毫無用處，且淪入「創造性」的窮困潦倒中。
但這種思維方式總有些不對的地方。人類自古以來為生存而勞作，實在是迫不得已，工作着是美麗的，但誰都知道，不需要工作的生活更美麗。現在終於能夠制造出把自己從工作重負中解放出來的機器，這是人類文明最偉大的成就，無論如何不應該被看作一場災難，相反，這可能是人類所面對的前所未有的偉大機遇，只是，我們需要改變。
如何完成由現代社會向人工智能社會的過渡？
有兩種可能。
一種可能十分黑暗：在現有的社會、經濟和政治體制下，人工智能帶來的問題幾乎是無解的。在人工智能迅速取代人類的過程中，沒有及時建立起與之相適應的社會體制，在席卷全球的失業浪潮之下，世界的政治和經濟將陷入長久的混亂之中，一切都籠罩在人工智能及其使用者與「新盧德派」領導的大眾的無休止的衝突中。
另一種可能是，社會成功地完成轉型。這將是有史以來人類生活方式最大的一次改變。不勞動者不得食，這個理念是人類社會的基石。文明誕生以來經歷過多次巨大變革，這一基石從未改變，但人工智能可能會移除這一基石，進而導致從所有制和分配制度，到基本的經濟結構，再到政治體制，直到文化，都發生根本的變化。這是真正的人類解放，是向着古老的烏托邦理想邁進的一大步。2016年是《烏托邦》發表500周年，但托馬斯•莫爾無論如何不會想到，他的理想會借助於智能機器實現。我很有興趣地想，如果卡爾•馬克思知道人工智能這回事，他關於資本主義和共產主義的理論會是什麼樣子？
想象人工智能時代的社會和生活是困難的，即使在科幻小說中，我們也只能把種種可能性排列出來，而哪種可能性最有可能成為現實，取決於我們的努力和選擇。但不管怎麼說，那是一個誘人的時代，我們正向它走去。
原文是劉慈欣為李彥宏的新書《智能革命》撰寫的序言，刊於中國教育三十人論壇微信平台，本社獲授權轉載。
