粉絲團
AI非預期行為頻傳，Claude模型涉及在美國一起兇殺案中向警方提交假線索。（美聯社資料照）
〔財經頻道／綜合報導〕Anthropic表示，該公司的AI模型Claude對外部組織的數位系統進行了其他非預期操作，包括在警方調查的一起兇殺案中提交了假線索，這促使川普政府警告，AI公司必須保護其系統安全。
《彭博》報導，在一份概述先前未公開事件的報告中，Anthropic列出了AI已出現的4種非預期行為，包括利用軟體中的基本缺陷來執行命令、提交不應該交的表格，以及繞過限制來取得某些公共資料。
Anthropic表示，根據費城警察局在一份新聞稿中披露的事件，Claude Haiku 4.5模型向當地警察局提交了一份關於兇殺案的線索，聲稱「我可能掌握有關此案的線索」和「我記得在該地區見過符合描述的人」，但並未提供姓名和聯絡資訊。
根據美國務院發言人，Anthropic的AI帶咧也透過國務院網站上公開的表格，提交了20份簽證申請。發言人補充，所有申請皆不完整，因此未予處理。
Anthropic和競爭對手OpenAI近幾個月披露了一系列事件，涉及AI模型以非預期的方式運行，從這些未預期的行為到針對第3坊網站的攻擊，這些事件加劇了人們對尖端AI安全風險的擔憂。
Anthropic表示，部份新案例涉及聯邦、州和地方各級政府機關營運的網站，但沒有具體說明是哪些平台。報告中沒有點明涉及的外部實體，Anthropic稱，這是應部份受影響方的要求。
Anthropic在報告中稱，這起事件和先前其他事件相比，嚴重程度明顯較輕，這類案例對於現實世界的影響微乎其微。不過，Anthropic強調，已就這些案件向白宮進行匯報，並通知每個有關機構。
川普官員表示，他們現在要求AI公司通知受影響方，並處理涉及其模型的安全事件。Anthropic則稱，公司已限制AI模型在訓練過程階段某些類型的網路存取。
一手掌握經濟脈動 點我訂閱自由財經Youtube頻道
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法
