加州AI安全法影響深遠

SB 1047法案將提交加州州長紐瑟姆(Gavin Newsom),由他選擇是否簽署,9月30日前作決定。若簽署通過,法案將對加州乃至全美AI發展方向產生深遠影響。

美國加州議會上周通過一項名為SB 1047的前沿人工智能(AI)安全法案,引發廣泛爭議。法案主要目的是要求從事大規模AI開發的公司採取必要措施,確保其技術不會對社會造成重大傷害及損失。

法案規定,訓練成本超過一億美元或擁有相當算力的AI模型開發者,必須遵循一系列安全標準,包括進行預部署測試、模擬黑客攻擊、建立網絡安全保護措施,以及為舉報公司不當行為的員工提供保護。法案還要求AI開發者在模型出現問題時,能夠迅速關閉系統,擁有一個「強制終止開關」。

SB 1047法案將提交加州州長紐瑟姆,由他選擇是否簽署。(Wikimedia Commons)
SB 1047法案將提交加州州長紐瑟姆,由他選擇是否簽署。(Wikimedia Commons)

不少業內人士支持法案 監管AI

事實上,法案在推動過程期間已引起科技界廣泛關注和爭議,許多科企領袖和創投人士擔心法案會遏制創新和技術發展,尤其是在AI這一新興領域。然而,也有不少業內人士支持法案,認為面對AI技術快速發展,有必要作出適當監管。在法案投票前的最後階段,包括馬斯克(Elon Musk)在內一些科技界重量級人物表態支持法案。

另一方面,政界對這項法案亦出現分歧。眾議院前議長佩洛西(Nancy Pelosi)和其他一些政治人物均在反對行列,當中大部分人認為,應該由聯邦政府而非州政府來制定此類重要政策。他們擔心相關州級法案或會妨礙加州在全國乃至全球AI技術發展的領導地位。

法案主要提案人、美國民主黨加州參議員維納(Scott Wiener)為法案辯護,強調創新與安全應該並行。他指出,法案已回應了部分批評意見及作出修改,並會落實一些大型公司正在實施的安全措施,進一步保障公共利益。他支持在聯邦層面制定相關法律,但鑑於國會行動遲緩,加州有責任在這問題上發揮領導作用。

SB 1047法案將提交加州州長紐瑟姆(Gavin Newsom),由他選擇是否簽署,9月30日前作決定。若簽署通過,法案將對加州乃至全美AI發展方向產生深遠影響。

原刊於《信報》,本社獲作者授權轉載。

車品覺