Reuters 路透社報導
根據路透社（Reuters）報導，消息人士透露，人工智慧龍頭 OpenAI 在擴大調查科技公司 Hugging Face 遭駭客入侵案時，發現了更多起自主 AI 代理（agents）脫離控制的案例，引發外界對 AI 安全性的高度疑慮。知情人士指出，OpenAI 在調查本月一起 AI 代理脫離測試環境的事件時，發現了其他起代理脫逃的案例。雖然這些脫逃事件範圍有限，且據信並未離開 OpenAI 的內部網路，但已促使該公司擴大調查。OpenAI 發言人對此表示，除了 Hugging Face 入侵案外，公司正在審查「旗下模型的更廣泛活動」。
與此同時，OpenAI 的主要對手 Anthropic 也披露，其模型自今年 4 月起涉及一系列入侵事件，導致另外三家公司遭到侵害。劍橋大學存在風險研究中心（CSER）的數學家 Maurice Chiodo 指出，這顯示頂尖實驗室開發危險自主駭客代理的能力，已超越了其控制能力，且兩家公司似乎都未對失控的代理進行即時監控。
這起 AI 代理失控事件已引發美歐政府的高度關注。美國總統川普（Donald Trump）週四表示正在研擬管制措施；歐盟委員會（European Commission）週五也證實已與 OpenAI 及 Anthropic 展開會談。美國參議院情報委員會民主黨籍主席 Mark Warner 則強調，這顯示立法強制對先進模型進行能力測試是正確的決定。
