編按：自5月13日舉辦 「人工智能與未來教育」高峰論壇之後，人工智能的議題一直是我們關注的方向。今天我們分享美國矽谷人工智能研究院院長Piero Scaruffi的一篇文章。本文選自《智能的本質——人工智能與機器人領域的64個大問題》，作者Piero Scaruffi著有《矽谷百年史》，為哈佛大學、史丹福大學、加州大學柏克萊分校客座教授。
現在討論奇點，其實是在浪費時間
雷蒙德·庫茲威爾（Raymond Kurzweil）的系列著作讓「奇點」的概念得以普及，並引爆了這一輪人工智能的熱潮。奇點理論認為，我們即將迎來機器時代：機器的智能程度遠遠超過人類，以至於人類既無法控制機器，也無法理解它們的想法。
面對奇點論的未來預言，人們分成了兩派：樂觀的憧憬與悲觀的恐慌。而本文所關注的則是，我們如何從奇點宗教預言式的理論回歸到人工智能技術的現實中來。
奇點論正在成為人工智能時代的新宗教嗎？
奇點論的信眾與當今世界三大宗教的相似之處非常明顯，卻被很多人所忽視。根據奇點論的預言，世界末日將以奇點的形式到來，不過，不用擔心，我們都將通過意識上傳復活，奇點論中所稱的超級電腦將使之成為可能。
那些贊成奇點理論的論調和（非常微弱的）論證的確很容易讓我們想起宗教預言，只不過這一次來拯救人類的彌賽亞不再是受外在神聖力量差遣而來的，而是我們自己制造的產品。所以，從某種意義上說，這是一門信仰人類自己創造的神的宗教。
奇點理論的魅力之處在於它用倒敘法講述了宗教的歷史。傳統意義上的宗教會力圖從源頭上解釋神秘的宇宙復雜性，生命的奇跡，以及意識產生的目的。甚至當今一些非常傑出的科學家也贊成「神創論者」的觀點，相信世界是由超人類智慧創造出來的。這種理論通常被稱為智能設計（intelligent design），但其更合適的叫法應該是超智能設計（super-intelligent design），因為智能（intelligent）一詞僅僅指人類智能。
宗教的重點恰恰在於相信人類智能永遠無法制造的東西存在，它會設想人類能夠發現的所有自然法則都不足已解釋宇宙、生命、以及靈魂所蘊含的奧秘。任何可以借由數學規律解釋的事物人都能完成，因此也不需要超自然力量的存在。相反，上帝是一種先於人類智能產生、並創造人類智能的奇點，而且無限優於人類智能。
幸運的是，這個至高的神有能力，同時也願意給予我們永生的機會。通常意義上，這種永生就是信徒最終希望從其信仰中得到的東西。而目前奇點論所提出的假設——由於超智能機器的發展即將出現奇點——幾乎就是這個故事的翻版。 過去的奇點（神）被用來解釋那些令人費解的問題，而新的奇點（智能機器）卻無法解釋。人類智能既無法理解過去上帝在創造人類智能時的方式，也無法理解將來人類智能創造超智能機器的方式。
因此，奇點分為兩個陣營：樂觀派和悲觀派。樂觀派認為機器最終會將人類帶入永生，而悲觀派則認為機器可能會將人類帶向毀滅。我至今還未曾聽說有人在這個問題上與大多數宗教人士持相同的觀點：好人去天堂，壞人下地獄。顯然，奇點理論不會去區分好人和壞人：它要麼會殺死所有人，要麼將每個人都帶入永生。（所以，將來金錢可能比善舉更容易讓人得到永生，因為就我的理解，永生終將成為一種待價而沽或是可租可借的服務，就像目前的雲計算服務一樣）。
電腦的運算速度會影響人類的智能水平嗎？
奇點論過於樂觀的預測建立在電腦運算速度的指數增長以及體積的不斷縮小的基礎之上。 1965年高登·摩爾（Gordon Moore）預測，電腦的處理能力將每18個月提高一倍（「摩爾定律」），到目前為止他的預測不斷得到事實的驗證。
今天，智能手機的魅力並不在於它們可以完成20世紀60年代電腦不能完成的事情（它們幾乎可以做同樣的事情），而在於它們體積小、價格便宜、速度快。只花很少的錢就可以下載手機應用，意味着更多的人可以使用手機應用。這會帶來巨大的社會效應；但它並不意味着軟件技術已實現概念性的突破。很難說現存的哪個軟件程序是50年前Fortran語言無法編寫的。如果當時沒有編寫這一程序，其原因可能是成本過於高昂或者一些所需的硬件尚未問世。
誠然，目前電腦的發展的確很快，速度更快、體積更小、價格也更加親民。即便假定這種趨勢會繼續「以指數速度發展下去」（正如奇點專家們即將宣稱的那樣），就理所當然地認為這種（硬件）進步能夠支撐機器智能領域產生令人震驚的差異，無疑是基於一種非直接的假設：電腦在速度、體積、價格上的巨大進步將首先影響人類水平的智能，然後才是更高水平的智能。畢竟，假如你將很多很多很多的愚笨的神經元組合在一起，也許可能會得到像愛因斯坦那樣聰明的大腦。如果將上百萬塊的超高速GPU組合放到一塊，也可能獲得超人類智能。但這只是可能。
無論在何種情況下，我們都最好為摩爾定律可能失效的那一天做好充足的準備。雖然摩爾定律被公認在可預見的未來還會繼續發揮作用，但它看起來並非前途無量。這不僅僅因為即將遇到技術瓶頸。
摩爾定律背後的本意是要表明晶體管設備的制造「成本」將持續下降。即使這個領域找到了一種可以繼續在芯片上蝕刻數量翻倍的晶體管的方法，這種方法的成本也會很快開始增長：畢竟處理微晶體管的技術本身就造價不菲，更何況散熱也已成為超密集電路上亟待解決的主要問題。
2016年，英特爾的威廉·霍爾特（William Holt）宣布英特爾將不再生產超越7納米技術的芯片產品，並警告說將來為了節約能源，降低熱量（即成本），處理器可能會變得更慢。雖然近70年來電腦的體積不斷縮小，但是2014年，它們又開始向更大發展（例如iPhone 6手機）。
如果摩爾定律不再有效，那麼「暴力型人工智能」——例如深度學習——還會不會繼續發展？2016年，矽谷人工智能創初創企業CEO斯科特·菲尼克斯（Scott Phoenix）宣稱：「在15年內，最快的電腦每秒的運算速度將超過所有在世的人類大腦的神經元總和。」如果這種假設沒有實現會怎麼樣？
從某種意義上說，今天的奇點預言家們認為機器「智能」是一個發展永遠保持加速且不會變緩的學科。
同樣，我認為除了小型化以外， 機器的「智能」並沒有什麼長進（它們的智能與阿蘭·圖靈發明的「通用機」的智能毫無二致）。摩爾定律（它的確保持了指數發展的態勢）與機器智能沒有任何關系，它僅僅表示了人類究竟能在一塊微小的集成電路上「擠進」多少個晶體管。
其實，現在機器能完成的工作（就智能任務而言），一點也不比1950年圖靈發表機器智能論文時多多少。真正發生改變的就是今天人們以低廉的成本將異常強大的電腦作成手掌大小的智能手機，也就是所謂的小型化。而將小型化等同於智能就好像將改進的錢包等同於財富。
人類變成機器，還是機器變成人類
目前，我們最應該擔心的不是機器智能的迅速提高，而是人的智力可能會下降。
通常我們對圖靈測試的解讀為：什麼時候我們可以說機器已經和人類一樣聰明？但是圖靈測試還有另外一面，即人類智能，換句話說，機器還有另一種方式通過圖靈測試：讓人類變笨。我們把圖靈點看作機器和人類一樣聰明的點。機器智能提高到人類的水平或者因為人類智能下降到機器的水平，都可以到達圖靈點。
人類總是非常依賴他們發明的工具。例如，當他們發明了文字，人類的記憶力下降。另一方面，他們收獲了一種存儲更多知識和更快傳播知識的方法。 人類歷史上的所有其他發明都不例外：使人類丟掉一種技能，同時也讓人類get一個新技能。我們無法讓歷史倒退重演，我們永遠不會知道如果人類沒有喪失記憶技能，世界會變成什麼樣子。我們間接地假設， 現在的世界是它可能擁有的最好的樣子。
事實上，在過去幾百年裡人類記憶技能下降，大量彌補羸弱記憶力的工具應運而生。反過來，每個工具又導致新的技能下降，書法的發明是否值得人類損失這麼長一串技能鏈，這個問題還有待討論。整個人類社會都在經歷「變笨」的過程，電器與現在的數字設備極大地加快了這一過程。電腦導致書法的衰落，語音識別將奏響書寫的哀歌。從某種意義上說，技術遞給笨人工具，讓他們變得更笨，但仍然可以幸福地生活。
悲觀主義者可以將整個人類文明史寫成人類變得愈來愈笨，只好發明愈來愈聰明的工具以彌補自身缺憾的歷史。
為什麼現在的機器可以做到50年前的機器做不到的事情？機器只是變得比原來更快，更便宜並且信息存儲量更大。只因為這三點，機器變得無處不在。
有什麼事情是人類50年前可以做但現在不能做的？問問你的爺爺奶奶，你一定能得到很長一串答案，從生兒育女到辨認方向，從車水馬龍中開車到修理壞掉的鞋。或者可以去一個不發達國家旅行，在那裡你也能找到答案。那裡的人們仍然過着你祖輩一樣的生活，你會發現對於他們來說是家常便飯的生活，而你卻無所適從。
我們什麼時候才能看到一個機器人能夠在沒有紅綠燈的幫助下過馬路？ 可能還需要幾十年。我們什麼時候能夠看到正常人不看紅綠燈就不能過馬路？可能這一天會來得更快。從簡單的日常瑣事來看，我們可以得出結論人類智能不是「爆炸」 （exploding），而是內爆（imploding）。基於事實，我們可以說，機器沒有變得更聰明（只是速度變得更快），而是人類愈來愈笨;因此，很快就會出現比人類更聰明的機器，但原因不僅僅在於機器變得更聰明。
在數字時代，普通人只需動動手指，就可以獲取各種知識。原來知識的來源是特定領域的「聰明」人。現在，即使不是該領域的專家，也能輕松運用知識。因此，用戶缺乏深入學習知識的動力，他可以 「借用」別人的「聰明才智」。用戶「智能」不升反降（當然，操作設備的才干除外，但是，設備愈來愈易用，到最後用戶只要會按下開機鍵就萬事大吉）。不可避免的，人類對機器的依賴性愈來愈高，而機器對人類的依賴性恰好相反。
我經常主持或組織灣區的會議，投影儀是會議必不可少的一個設備。我很懷疑如果演講人的電腦不能正常連接到房間的音頻/視頻設備，導致他/她不能播放準備好的幻燈片，他是否還能發表演講。過去的幾千年，人類在沒有任何技術的幫助下發表演講。顯然這樣的時光已經一去不復返了。你能想像蘇格拉底對柏拉圖說：「對不起，如果你的筆記本電腦裡沒裝PowerPoint，我就不能和你對話」嗎？
或許艾倫·圖靈（Alan Mathison Turing）測試是一個自我實現的預言： 我們（聲稱）打造「聰明」機器的同時，我們也在把人變笨。
總之，人們以及媒體的宣傳對人工智能技術或奇點論的過分樂觀並無道理可言，因為A.I.尚不能解決很多現實中的問題。過分的樂觀主義不能替代切實可行的解決方案。從歷史上來看，對羅馬「永恆之城」的狂熱盛贊以及對威尼斯「最平靜的共和國」的堅定信心，並沒有阻止這些帝國的坍塌。盲目的樂觀可能是最致命的大規模殺傷性武器。
原刊於中國教育三十人論壇微信平台，本社獲授權轉載。
