自由財經

韓英合辦全球第2屆AI峰會 16家企業簽署安全承諾

2024/05/21 21:38

韓英兩國合辦全球第2屆AI峰會,加強施壓科技業管控風險。(路透資料照)

〔編譯陳成良/綜合報導〕由南韓與英國共同主辦的辦第2屆全球人工智慧(AI)峰會,21日在首爾展開兩天會議。會前包括谷歌母公司Alphabet、Meta、微軟、OpenAI以及來自中國、南韓和阿拉伯聯合大公國的公司在內,共16家AI相關企業承諾將致力於安全發展這項技術。

去年11月,英國召開首屆全球AI安全峰會,有近30個國家的官方代表,以及超過800個學術研究機構、企業和公民組織與會。這次英韓合辦線上峰會,規模較小,下一場實體峰會則由法國主辦,明年召開。

根據英國科學創新暨科技部(DSIT)資料,峰會尚未正式展開,已有16家AI科技企業簽署安全承諾。要點包括不得發展或部署未充分緩解安全風險的AI模型或系統、建立可供問責的安全管理架構,並向大眾揭露企業對前沿AI科技安全的應處策略。簽署企業包括OpenAI、亞馬遜、谷歌、Meta、xAI、微軟、IBM、三星電子、Anthropic、Inflection AI、Mistral AI、Cohere、G42、Naver、智譜AI、阿聯酋科技創新研究院等。

DSIT指出,這16家企業涵蓋AI兩大強權:美國和中國。企業將各自發布AI安全框架,說明如何測算前沿AI模型的安全風險,包括防範惡意濫用風險,並設定安全風險的最高容忍極限及確保風險不超過此預設門檻。在極端情況下,若企業採取補救措施後仍無法將AI模型或系統的安全風險保持在門檻以下,則不得繼續發展或部署該模型或系統。

另一方面,歐盟21日准了去年12月達成的政治協議,具有里程碑意義的「人工智慧法案(AI Act)」將在下個月開始生效,為這個廣泛用於商業和日常生活的技術,設定潛在的全球標準。該法案對高風險的AI系統制定嚴格的透明度義務,對一般A慧模型的透明度要求則較低。法案限制政府在公共場所使用即時生物監控時,只能限於某些犯罪案件、防恐行動和對重罪嫌犯所進行的搜查。

新法案將於2026年正式適用,但在法律生效6個月內,對社會評分、預測性警務和無目標收集面部圖像等AI應用的禁令將開始實施。對於一般用途AI模型的義務將在12個月後適用,而嵌入受管制產品的AI系統的規則,則在36個月後適用。違規罰款從750萬歐元(約2.6億元台幣)或營業額的1.5%起至35000萬歐元(約12.2億元台幣)或全球營業額的7%,具體視違規類型而定。