粉絲團
韓英兩國合辦全球第2屆AI峰會，加強施壓科技業管控風險。（路透資料照）
〔編譯陳成良／綜合報導〕由南韓與英國共同主辦的辦第2屆全球人工智慧（AI）峰會，21日在首爾展開兩天會議。會前包括谷歌母公司Alphabet、Meta、微軟、OpenAI以及來自中國、南韓和阿拉伯聯合大公國的公司在內，共16家AI相關企業承諾將致力於安全發展這項技術。
去年11月，英國召開首屆全球AI安全峰會，有近30個國家的官方代表，以及超過800個學術研究機構、企業和公民組織與會。這次英韓合辦線上峰會，規模較小，下一場實體峰會則由法國主辦，明年召開。
根據英國科學創新暨科技部（DSIT）資料，峰會尚未正式展開，已有16家AI科技企業簽署安全承諾。要點包括不得發展或部署未充分緩解安全風險的AI模型或系統、建立可供問責的安全管理架構，並向大眾揭露企業對前沿AI科技安全的應處策略。簽署企業包括OpenAI、亞馬遜、谷歌、Meta、xAI、微軟、IBM、三星電子、Anthropic、Inflection AI、Mistral AI、Cohere、G42、Naver、智譜AI、阿聯酋科技創新研究院等。
DSIT指出，這16家企業涵蓋AI兩大強權：美國和中國。企業將各自發布AI安全框架，說明如何測算前沿AI模型的安全風險，包括防範惡意濫用風險，並設定安全風險的最高容忍極限及確保風險不超過此預設門檻。在極端情況下，若企業採取補救措施後仍無法將AI模型或系統的安全風險保持在門檻以下，則不得繼續發展或部署該模型或系統。
另一方面，歐盟21日准了去年12月達成的政治協議，具有里程碑意義的「人工智慧法案（AI Act）」將在下個月開始生效，為這個廣泛用於商業和日常生活的技術，設定潛在的全球標準。該法案對高風險的AI系統制定嚴格的透明度義務，對一般A慧模型的透明度要求則較低。法案限制政府在公共場所使用即時生物監控時，只能限於某些犯罪案件、防恐行動和對重罪嫌犯所進行的搜查。
新法案將於2026年正式適用，但在法律生效6個月內，對社會評分、預測性警務和無目標收集面部圖像等AI應用的禁令將開始實施。對於一般用途AI模型的義務將在12個月後適用，而嵌入受管制產品的AI系統的規則，則在36個月後適用。違規罰款從750萬歐元（約2.6億元台幣）或營業額的1.5%起至35000萬歐元（約12.2億元台幣）或全球營業額的7%，具體視違規類型而定。
一手掌握經濟脈動 點我訂閱自由財經Youtube頻道
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法
