粉絲團
AI研究員警告，未來AI恐失去控制，甚至可能「摧毀全人類」。（路透資料照）
〔財經頻道／綜合報導〕Anthropic前研究員控兩大AI巨頭的行為不負責任，是「拿人類的生命做賭注」，並警告，未來AI恐失去控制，甚至可能「摧毀全人類」。
綜合外媒報導，從Anthropic辭職的考克森（Jacob Coxon）表示，他過去3年曾在Anthropic和OpenAI兩家公司工作，週二（8日）晚間，他在社群平台發文警告，這兩家公司正在推進「自主改進」的AI模型，這些模型最終可能會變得太強大，以至於人類無法控制。
考克森在X表示，兩家公司正在競相研發自主改進的超級智能，這是拿人們的生命作賭注。並直言，不能低估這項技術的力量，這些很快就會發展成為超人般的系統，可以入侵任何系統，一夜之間徹底改變任何領域，獲得真正的權力和資源。
考克森表示，研發AI的團隊真心相信，AI可能會摧毀全人類。這篇貼文反映出矽谷長期以來關於AI是否能安全地開發和控制的爭辯，隨著兩家公司不斷推出愈來愈先進的模型，並朝著歷史性的IPO邁進，許多研究人員也一致呼籲應該放慢角度。
考克森發佈的文章引起業界研究人員的討論，Anthropic對齊主管胡賓格（Evan Hubinger）也對此做出回應，坦言自己認為未來十年內，AI摧毀人類的可能性超過10％。但胡賓格強調，他相信Anthropic正在盡最大的努力應對，雖然目前還沒有解決超級智慧對齊問題的方案，而且顯然也還沒有步上正軌。
儘管這種擔憂可能有些極端，但AI可能導致人類滅亡或其他災難性事件的疑慮在AI研究界並不新鮮。2023年，包括OpenAI執行長奧特曼在內的多名AI研究人員和高階主管簽署了一份聲明，指出「降低AI造成的滅亡風險應該與應對其他社會規模的風險一樣，成為全球優先事項」。
OpenAI首席科學家帕霍茨基（Jakub Pachocki）週日（6日）發表部落格文章警告，目前還沒有任何一家AI公司在對齊和監視方面取得足夠的進展，進而能夠以最快的速度持續負責任地拓展規模。帕霍茨基寫道，自己期待並希望，在建立共同的安全準則之前，自願放緩AI發展速度的作法能夠成為常態。
圍繞AI的安全擔憂激增，恰逢美國國內對這項技術的抵制情緒日益高漲，部份原因是人們反對為支持這項技術而新建的資料中心給當地資源帶來的壓力。人們擔心AI會推高電費，並可能搶走工作機會，這使AI成為11月期中選舉的核心議題。
川普政府官員則一直反對任何限制AI發展的措施，上週，他們獲得了G20成員國的一致支持，制定一套指南，呼籲對AI和其他新興技術採取更寬鬆的監管方式。美總統川普則迴避了關於安全性的問題，強調了在AI領域領先中國的重要性。
一手掌握經濟脈動 點我訂閱自由財經Youtube頻道
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法
