「要錢定要命？」 AI科研者的抉擇

適逢ChatGPT面世一年之際，OpenAI迎來公司高層的人士變動，震撼全球人工智能業界，成為城中熱話。從教育角度看，筆者認為事件是一個極佳的科研管理（Technology Research Management）課程教案，很值得科研人員從中學習，了解研究過程中管理層所經常面對的基礎與應用研發投資相關問題。

雖然OpenAI人事風波已暫告一段落，但筆者認為公司內部仍存在莫大的隱憂。假如公司只為盡快恢復以往日常運作而回聘CEO阿爾特曼（Sam Altman）的話，這僅治標而不治本，內部潛伏的「計時炸彈」會隨時被引爆，損失將會更加慘重。

歸根究柢，OpenAI問題的核心，在於管理層成員之間對公司使命存在不同的價值觀。

22日，OpenAI宣布Sam Altman回歸，擔任首席執行官。（Shutterstock）

OpenAI初衷創造安全通用AI

OpenAI是一間成立於2015年的非營利公司，其使命是創造「安全的通用人工智能，造福全人類」。這使命反映出OpenAI的初衷是設立一所社會企業（簡稱「社企」，Social Enterprise），以「非營利」商業模型提供「造福人類」的人工智能產品和服務。

就此，筆者認為大眾若要洞悉OpenAI內部爭拗的箇中原因，先要了解公司使命中的兩個核心要素：

（1）研發前沿的「安全的通用人工智能」技術：OpenAI由多位科技界大牛於2015年創辦，當時他們都有個共識，認為人工智能會對人類造成安全的威脅。理由很簡單，人工智能系統的目標是模仿人類的智慧和能力，為此AI工程師透過深度機器學習，從海量數據中獲取人類的知識和經驗，作為仿真「人」的大腦。

「近朱者赤，近墨者黑」，這樣的學習過程潛在不少風險，參考英國知名作家狄更斯（Charles Dickens）名著《孤雛淚》（Oliver Twist），故事中小童被「惡人」教唆，培訓成為小偷；而且倘若他不幸地未能逃出生天，那小童長大後更難免會變成大賊。

在人工智能研發方面，ChatGPT的成長（持續訓練）亦面對類似的風險，倘若「培訓員」居心不良的話，那麼長大（訓練）後的ChatGPT也可能是一個十惡不赦的「虛擬大魔頭」，危害人間。

另外，在人工智能世界中「數據為王」（Data is King）是公認的規律，原因是數據的質量決定機器學習，以至所產生的AI虛擬人的效能，但海量數據卻並非隨手可得之物，只有大型企業才能負擔得起。

「通用人工智能」要求研發出來的AI技術，並不能只針對單一應用及文化而設。例如AlphaGO只是圍棋機器人，而並不擅長下象棋；又例如建基於西方數據的ChatGPT，應用於東方世界必然「水土不服」。可是若然訓練數據是由巨擘提供的話，人工智能的「大腦」（包括其中的應用和文化知識）便會聚焦在某些領域，影響技術的通用性。

倘若「培訓員」居心不良的話，那麼長大（訓練）後的ChatGPT也可能是一個十惡不赦的「虛擬大魔頭」。（Shutterstock）

引入投資疑不惜放緩安全考慮

再者，這情況亦自然地構成「窮者愈窮，富者愈富」的社會不均現象，窒礙人工智能的普及化；最終，先進人工智能技術都會成為巨擘的專利，導致未來的數碼世界出現更嚴重的貧富懸殊的社會問題。

（2）營運一間「造福人類」的「非營利」公司：OpenAI公司的聯合創始人都是人工智能專家，並富有創業經驗，當中包括是次風波的兩位主角，包括現任的首席執行官阿爾特曼及剛離職的前首席科學官蘇茨克維（Ilya Sutskever）。他們對OpenAI的科研發展方向各持己見，所以構成引發今次公司大地震的導火綫。

OpenAI營運開支龐大，例如當前每天的ChatGPT操作費用約70萬美元，更有媒體估計基於現在的運作模式，OpenAI將會於2024年底破產。

面對龐大開支的問題，董事會改變公司的非營利策略，於2019年成立OpenAI LP分公司，引入投資者，推行營利業務。阿爾特曼是集資高手，這任務很自然就落在他身上。他銳意把OpenAI研究（例如近期傳出的Q*項目）成果盡快推出市場，吸引投資，為此他甚至乎不惜放緩AI安全的考慮。

此舉與公司理念背道而馳，尤其是與董事會成員、科學家出身的ChatGPT設計師蘇茨克維在安全要求上產生嚴重對立，因此董事會突然於11月17日解僱阿爾特曼，揭開這場「宮鬥劇」的序幕。

阿爾特曼集資效率非常高，他於2019年引入微軟在OpenAI LP提供了10億美元的投資，並於2023年1月向公司再提供第二筆金額高達100億美元的多年投資。不過在商業世界是沒有免費午餐的，投資者必然對OpenAI有一定的要求，會設法影響OpenAI的研究方向，來滿足自己的商業需求。