近幾個月，人工智能（AI），或者通俗稱之為機械人突然被炒得十分紅火。人們對機械人的想像，也從殺滅人類的「終結者」（terminator） ，轉變為殺滅人類工作的服務者。
人類對機械人的想像
對人類的命運想像，也從絕種，轉變為無關重要。這兩者，我也分不出哪種更痛苦：試想沒有了工作，人人無所事事，除了通過虛擬體驗獲得滿足之外，就是通過藥物進入虛幻世界。人類的存在，大不了只是良好意願的機械人包養起來的寵物，個人的生命還有什麼意義？
要達上述到這個地步，人工智能要具備三個條件：自我修復和升級、自我繁殖、自動協調和分工。
今天的機械人，都達不到以上三點要求，雖然自我修復和升級、自我繁殖應該比較容易解決。
但是所有機械人，甚至由不同機械人組成的AI系統，只能都是為發揮某種功能而設計。比方說，AlphaGo在下圍棋能力高強，但要它跳繩，它就幹不了。這是因為人類這AI創造者，天生就是問題解決者（problem solver），我們只懂得以這模式來創造各種機械人。
AI一定要發展到有一個有自由意志的智能中心，能隨時協調不同的AI系統做各種不同的工作，解決千變萬化的問題，才能全面取代通才的人類。
在此之前，只有人類才能扮演智能中心的全部角色，雖然嚴格地說，人類做得很低效率。而人類也會長期把某些功能，牢牢掌握在自己手上，繼續做地球的主宰。
要是這樣，人類當前要面對AI最大的威脅，就是我們已經把武器AI化。我們已經製造了不少機械人，它們的唯一功能就是打仗、殺人。
因此，當前要務，是國際社會要就這問題達成協議，禁止AI武器化，禁止開發和製造無人武器，因為這已違反了Isaac Asimov機械人三定律的第一條了。
機械人是終結者？
我們試想像以下場景：於不久的將來，5G和物聯網十分發達，一家大廈的控制中心可以控制大廈內的門窗、燈光、空調、電梯等局部和全部開關。
這個控制中心完全有能力把大廈內某人關起來，一片漆黑，呼天不應，直至死亡。
問題是控制中心自己會不會這樣做？沒有外來的指示，它自己沒有動機這樣做，而這外來的指示，只可能來自人類。
即便是我們上文談到的AI武器，也是人類在編程上設計它以殺人為任務。
結論是機械人不會殺人，只有人才會殺人（電影《未來戰士》的原芯片也是人類發明的）。機械人三定律是人類定的，人類也一定能否決它。
不過其實人類也不是輕易殺人的，通常只在兩情況之下才蓄意殺人：一是憤怒或情緒失控；二是當生存和繁衍空間受威脅。
到AI具備自我意識時，它的生存和繁衍只需要能源，其他資源，理論上它都可以製造和創造。而能源在不久的將來將會是源源不絕的，因而AI除了為人類服務之外，對人類的生存和繁衍不構成任何威脅，人類對AI也不會構成威脅。
充其量是在憤怒或情緒失控之下，個別人類會傷害了個別機械人，而犯這錯誤的人，相信一定會有人類的法律去制裁他，不致惡化成為了對AI的生存和繁衍構成威脅。
除了出現意外情況，AI失控（瘋了）而損害人類之外（因為在設計中，已經植入多重安全措施，AI瘋了，並且損害人類的機率應該比人類瘋了更低），我們暫時可以安全地假定，人類和AI，是可以和平共處的。
