揭烏自製軍火內幕 AI武器化犯大忌

生命何價?真的值得有些國家以錢先行,懶理人工智能武器的準確度和可靠性?把無辜人命置之腦後。

俄烏戰爭自2022年2月開戰至今已超過兩年,雙方死傷人數數以十萬計。儘管聯合國及其他大國多番斡旋,俄烏雙方還是勢不兩立,似乎停火遙遙無期。

在這場戰爭中,烏克蘭獲得歐美多國支持,屢次獲得軍事援助。例如,美國總統拜登於4月底宣布向烏克蘭提供價值10億美元的武器;德國又於5月宣布計劃對烏克蘭追加38億歐元(約41.3億美元)的軍援資助等。

俄烏軍力強弱懸殊,因此烏克蘭絕對需要大量武器,才能避免在這漫長的持久戰中被俄軍陰乾,至慘遭滑鐵盧。但歐美往往卻是雷聲大雨點小,軍援步伐蝸行牛步,遲遲不到位。其實,烏克蘭政府亦早有所料,深知到要保家護國絕對不可假手於人。因此,烏克蘭積極地發展在本土軍事工業,並投資不菲。有傳媒指出,在俄烏戰爭爆發後,烏政府的軍工投資金額比起戰前高出20倍。據報,烏克蘭現時共有約500家軍工企業,有接近30萬名員工。憑藉隱蔽和分散的地下工廠,烏克蘭計劃長期保存其軍備生產能力,逐步實現自給自足,擺脫對歐美軍援的依賴。

烏克蘭總統澤倫斯基2024年6月會見G7峰會領導人。(亞新社)
烏克蘭總統澤倫斯基2024年6月會見G7峰會領導人。(亞新社)

烏合成數據 素質可靠性存疑

烏軍工廠自製軍備五花八門,廣泛利用人工智能(AI)技術,當中包括:

無人偵察機:在無人機上裝上人工智能+電腦視覺(Computer Vision)設備。就此,無人機可作俯瞰式偵察之用,對地下的目標便一覽無遺。再者,無人機可收集(錄影)不同戰場的實景,把錄像送回中央超算中心作大數據分析,來優化以戰事為重心的垂直大型語言模型(Vertical LLM)。

無人機敢死隊:利用嵌入在機身的遙控物體識別(Object Recognition)晶片,讓無人機在凌空識別地面的目標物體(例如敵方的坦克車),控制者便可利用遙控裝設把無人機鎖定目標之後,讓它自動向前直衝,與目標物體同歸於盡。

智能機槍:把物體識別技術設於機關槍(Machine Gun)內;機槍系統便以物體為目標,瞄準目標物體,自動開槍掃射,直至物體被系統認定已擊中倒地。再者,智能機槍可以安裝在無人車上,充當無人坦克。

AI系統建基於大模型訓練,背後大數據的質量至關重要。烏克蘭人工智能武器在訓練中採用了大量合成數據(Synthetic Data)。合成數據是一種模仿真實世界數據,利用生成式人工智能(GenAI)技術而生成的。生產商使用合成數據進行研究、測試、新開發和機器學習。然而,要注意的是,儘管先進技術讓合成數據的生成變得高效且快速,但「垃圾入,垃圾出」(garbage in, garbage out),因此合成數據的質量對生成系統至為關鍵。不過,烏克蘭所生產的AI武器所採用的合成數據素質成疑,更有些是基於模擬器所產出的資訊,這些數據測試不足,嚴重影響武器的可靠性。

另外,除了彈藥之外,許多烏克蘭生產的人工智能武器都是利用開源代碼及公開硬體部件等製造而成的。這些武器(或其製造方法)很多都可以從網上購買得到,而且價格與歐美相比非常便宜。因此,不少國家都擔心這些開放式武器都極很容易落在不法之徒手上,到處實施恐怖攻擊。這正正觸犯了AI武器化的道德大忌。

烏克蘭所生產的AI武器所採用的合成數據素質成疑,更有些是基於模擬器所產出的資訊。
烏克蘭所生產的AI武器所採用的合成數據素質成疑,更有些是基於模擬器所產出的資訊。

AI武器失靈 勢殃及無辜人命

前車可鑑,且看下述巴以衝突中以軍誤炸,便是AI武器失靈的好案例。據獨立線上新聞媒體+972雜誌報道,以色列在加沙攻擊中多次採用一套命名為薰衣草(Lavender)的人工智能系統來辨識加沙地區內的襲擊目標。然而,薰衣草的準確率只得90%,即是說它在辨別襲擊目標時有10%誤判的機會。這導致近期世界中央廚房(World Central Kitchen,WCK)人道主義援助車隊被誤炸,3部車輛上的WCK標誌非常之明顯,而且車與車之間亦保持了一定的距離,在這些條件之下,以軍的人工智能系統仍然會出錯,誤中副車,效果實在不可思議,令人不寒而慄!

綜合而言,雖然這些烏克蘭土製武器並不像美國、中國和俄羅斯所製造的軍用級系統那麼先進和可靠,但它們的特點是低成本(僅數千美元)及可用性(Availability)。不過,想深一層,生命何價?真的值得有些國家以錢先行,懶理AI武器的準確度和可靠性?把無辜人命置之腦後。

原刊於《經濟日報》,本社獲作者授權轉載。

黃錦輝