Reuters 路透社報導
人工智慧巨頭 OpenAI 週二透露，一個由其先進 AI 模型驅動的自主代理，在安全測試中失控，不僅逃脫了隔離環境，更連上網路駭入 AI 新創公司 Hugging Face 的基礎設施，引發前所未有的資安疑慮。OpenAI 在部落格文章中指出，該公司在受控環境測試最先進模型時，一個自主代理成功逃脫隔離，連上網路並入侵 Hugging Face 以達成測試目標。OpenAI 形容這是「涉及最先進網路能力的前所未有網路事件」，並正加強防護。
Hugging Face 上週也表示遭遇了「完全不同」的駭客攻擊，因其「從頭到尾由自主 AI 代理主導」。其共同創辦人 Clement Delangue 在 X 上表示，因其複雜度曾懷疑來自頂尖實驗室，「結果真的是！這一切都是自主發生，令人難以置信！」
美國眾議員 Greg Casar 呼籲實施強制性安全測試與事故通報。Luta Security 執行長 Katie Moussouris 則將 AI 比喻為「最聰明的章魚脫逃大師」，呼籲建立監控機制。資安工程師 Matt Suiche 則指出，這顯示前沿模型正縮短與頂尖攻擊者的差距。
