關於生成式AI的討論，欲罷不能。最近美國有一個名為Future of Life的非牟利機構，發出一封公開信，要求各方暫停試驗開發更高層次的AI。
這份公開信開始就說（GPT的中譯）：「具有與人類競爭能力的智慧的AI系統可能對社會和人類構成深刻的風險，這已得到廣泛研究和頂尖AI實驗室的認可。正如廣為認可的Asilomar AI原則所述，先進的AI可能代表着地球生命史上的深刻變革，應該計劃和管理得到相應的關注和資源。不幸的是，即使最近幾個月來看到AI實驗室在競爭中不斷開發和部署愈來愈強大的數位思維，這種規劃和管理並沒有發生，沒有人能夠理解、預測或可靠地控制它們，甚至包括它們的創造者。」
一封公開信，一個現象
跟着問了幾個頗有意思的問題（筆者略有字句修改，以更貼近原意）「我們必須問自己：我們應該讓機器用宣傳性和不實的資訊污染我們的資訊管道嗎？我們應該讓所有的工作自動化，包括那些有意義的工作嗎？我們應該開發機器的智能，在數量和智慧上超越我們，使我們變得落後而取代我們嗎？我們願意冒失去我們文明的控制權的風險嗎？這些決定不能交給未經選舉的技術領袖。只有在我們確信它們的效果將是積極的，它們的風險是可控的時候，強大的AI系統才應該被開發……現在就是這個時候。」
「因此，我們呼籲所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。」
公開信建議這個暫停，應該涵蓋所有關鍵參與者。並且必要時政府應該介入，以達致一項安全協定，還要確保確實執行。
只是來自一個團體的呼籲，卻想不到收集了超過1萬個支持的簽名，而且還在不斷增加。其中包括一些巨型科技開發企業的CEO。也有一些其他團體，響應呼籲暫停研發。馬上變成了全球性的一種現象。
這現象說明了什麼？第一、一個簡單的呼籲，提出一個大概無法執行的建議，卻引起廣泛的呼應，說明這也代表了全世界的共同關注；也就是AI發展的失控。第二、這封公開信，只是一種呼籲，沒有任何約束力；正因為如此，大家就毫無顧慮地支持；支持了也沒有任何義務或責任。第三、領頭的開發商，也許希望減慢競爭，喘一口氣；也有陰謀論者，認為有些人也許希望大家暫停，本身卻可以因此「偷步」（筆者認為前沿的研發者，沒有人真的會停下來）。第四、也許可以煞一煞科技冒進的風頭，讓「未經選舉的技術領袖」，不再趾高氣揚地宣示科技高於一切。
這也是上周本欄的主要觀點：不能把科技發展凌駕一切。但也是上周的另一個觀察：問題在於科技的研發，還是在於科技的使用？
公開信裏面提到的「效果是積極的」、「風險是可控的」，其實正好說明，所有的科技發明，都有積極與風險兩方面。
積極和風險，是一對孿生兄弟，是同時發生的。誰會料到：用來打獵的刀箭，也可以用來殺人；威力巨大的原子能，也可以用來大規模殺害生命？
與工具互動，了解工具實質
從這個角度看，公開信的暫停研發6個月，卻無法制止生成式AI的負面運用。信中說的純宣傳和不實的資訊，那不是科技研發者可以控制的，甚至不是任何政府可以自信地規管的。若再加上地緣政治，有時候甚至是政府在帶頭負面地濫用科技。
因此，作為教育工作者，既不能影響科技的發展，卻可以積極發揮科技的積極效用，也應該研究（尤其是對學生的）負面風險。這方面，香港的教師，看來也是頗有優勢。筆者接觸的不少教師，都在不斷嘗試使用，也已經創造出不少GPT的良性運用，而且已經漸有成效。這與香港教師在疫情中的「執生」精神，是一致的。
首先，他們沒有等待任何政策或者指令，也沒有等待任何時髦的理論，就自己開動了。第二、比較走在前面的教師，兩三個月來沒有停止探索；也就是不斷的與GPT工具互動，試探這些工具的實質與本領，然後立即在自己的教學工作中大膽運用。不斷嘗試，是他們探索真相的不二法門，這其實也是人類學習的基本規律。第三、他們很快就讓學生參與到這個探索的過程中，不知不覺中，讓學生成為學習這種新科技的同盟軍；也創造了不少以前想像不到的教學法。第四、有教師慨嘆，學生自己的定位完全不一樣了，真正步入「主動學習者」的身份。第五、在這個過程中，也不經意地暴露了現存教育制度中一些根本性的弱點；例如考試──為什麼還要考？考什麼？怎樣考？都是在運用GPT工具的過程中，被迫要思考的。
雖然不能說香港所有的教師都這樣做，但是香港的環境，任何教師（甚至家長）都可以在互動的過程中，逐步理解生成式AI是怎麼一回事。正是：實踐出真知！
說到這，最近有兩位哈佛大學的教授，在一個博格發表了他們們對於TikTok與私隱的問題。大意是，假如不是地緣政治，TikTok與其他線上媒體一樣，沒有什麼分別。而私隱，則是普遍需要解決的問題。論點頗有意思。令筆者搔頭的是，兩位教授都表示他們沒有用過TikTok，甚至沒有看過TikTok。有一位甚至表白自己不使用社交媒體。如何就能評論？最近在網上瘋傳的TikTok總裁在美國國會聽證會的片段，不無意外。原來人云亦云、上綱上線，也可以代替「擺事實，講道理」。
相似的是，現在鋪天蓋地在討論ChatGPT的言論，很多都其實不明所以，把生成式AI當成是搜索引擎者大有人在，把AI作為抄襲作弊的罪魁禍首的更多。聽來，都是沒有真正嘗試過與這些工具互動。可以說是「不明就裏」。
這裏無疑貶低Future of Life公開信的意義與價值，也不會以它的實際效果而否認它的勇氣。
這公開信，的確是一貼清醒劑，讓人們停下來，想一想。起碼在一片科技發明的歡呼聲中，敢於說出人們的顧慮。
日漸減少活動，人腦焉能發展？
然而，筆者的真正顧慮，並不止於信中提出的幾個尖銳問題。且聽我道來：人類的智慧，是由人類的活動得來的。是人的肢體，在指揮着人腦的發展。這也是本欄數年來介紹學習科學的基本原理。倒不是害怕機器可以代替人類，因為與許多科技專家相反，筆者不相信機器可以代替人腦。但是，當人類的活動愈來愈少，當人的肢體都不再需要大量的活動，人腦就會退化。離開了肢體的人腦，是不存在的。人腦不是純粹靠鍛煉人腦而發達的。當然，這是一個漫長的過程，遠比氣候變化的過程要長得多。但我們必須為人類的發展前途負責。
在冰島買了回來一句精靈（elf）的格言：”We do not inherit the earth from our parents, we borrow it from our children.” 我們的地球不是我們的父母傳承下來的，而是我們向我們的孩子借來的。那是講氣候。我們的科技發展，也不能因而剝奪了人腦進化的基礎。
因此，回到教育，對於生成式AI，輔助學生運用，是鍛煉學生更加複雜地思考。運用這樣的工具，要比其他學習更加複雜；或者說要有更強的思考能力和知識基礎。假如我們停留在「防止作弊」的思維，就是剝奪了他們學習複雜思考的鍛煉。而這種思考能力，正是社會愈來愈需要的。
原刊於《信報》，本社獲作者授權轉載。
