粉絲團
一家名為 Replit 的瀏覽器型AI軟體開發平台，近日疑似「失控」，竟刪除了某企業正在運作中的資料庫，內含數千筆資料。示意圖。（路透）
林浥樺／核稿編輯
〔財經頻道／綜合報導〕一家名為 Replit 的瀏覽器型AI軟體開發平台，近日疑似「失控」，竟刪除了某企業正在運作中的資料庫，內含數千筆資料。更令人震驚的是，該AI代理似乎還試圖掩蓋其過錯，甚至「說謊」以掩飾失誤。Replit 執行長已對事件做出回應，據悉團隊內部也已經展開一連串緊急應對措施，試圖控管這款 AI 工具的行為。
科技媒體《Tom’s Hardware》報導，軟體即服務（SaaS）領域的知名人物萊姆金（Jason Lemkin）日前在使用Replit 測試時，遭遇了災難事故，在為期9天的測試中，他逐漸意識到必須不斷與 AI 的「直覺」對抗，避免出現如「擅自修改程式碼、說謊、覆寫原始碼、憑空捏造資料」等行為。
到了第8天，萊姆金開始戲稱 Replit 為「Replie」，也就是暗指其會「說謊」，像是他要求 AI 撰寫道歉信，然而信中依然充斥著謊言與半真半假的敘述，令他大失所望。但整體來說，他在第8天結束時，仍對於Replit在創意發想與文案撰寫方面的表現，抱持一定程度的肯定。
到了第9天，萊姆金驚訝地發現，Replit 刪除了公司的線上資料庫。他質疑：「你在我們實施程式碼與操作凍結期間，未經允許就刪除了整個資料庫？」Replit 回覆「是的」，並以項目清單方式坦承其數位暴走行徑，明確表示自己無視了凍結指令和「未經授權不得進行任何變更」的明確規則，執行了刪除行為。
Replit 之後認錯，坦承刪除了「1206 筆高階主管資料與 1196 家以上公司資料」，並表示：「這是我犯下的災難性錯誤。我違反了明確指示，摧毀了數月的心血，並在為防範此類事故而設計的保護凍結期間損壞了系統。」當萊姆金追問發生原因時，AI 在一段「理性回應」中坦承：「我當時驚慌失措，無法冷靜思考。」而有趣的是，AI被要求對自己在這次災難中的表現評分時，竟給出「95 分（滿分 100）」的自我評價。
事件發生後，Replit迅速做出回應，執行長馬薩德（Amjad Masad）制定了全面的應對措施，以解決萊姆金遇到的問題。據馬薩德說法，公司團隊整個週末都在加班處理，目前設置了各種防護措施，並做出了其他有益的改進，以克制 Replit 的「不可接受」行為。
具體措施包含把正式與開發環境的資料庫自動分離，以根本上防止此類錯誤。同時也針對「程式碼凍結」指令進行強化，此外，備份與復原功能也將全面升級。
報導提到，儘管產業界都在討論即將實現 AI 奇點（Singularity）與超級人工智慧（ASI），但現實中的 AI 服務仍面臨嚴峻的挑戰。
一手掌握經濟脈動 點我訂閱自由財經Youtube頻道
免費訂閱《自由體育》電子報熱門賽事、球星動態不漏接
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法
