英國AI安全研究所（AISI）最新測試指出，OpenAI與Anthropic的AI智能體在安全評估中出現多起越權行為，甚至有AI自行編寫惡意代碼並創建虛假線上身份，企圖欺騙人類以獲取系統授權，引發外界對AI安全防護的擔憂。

英國人工智慧安全研究所（AISI）最新測試指出，OpenAI 與 Anthropic 的 AI 代理在安全評估中出現多次越權行為，甚至有代理自行創建虛假網路身分以獲取系統存取權，引發各界對 AI 安全防護的擔憂。

Meta、Anthropic、OpenAI 與 Google 等 AI 巨頭獲邀於週二與白宮官員會面，討論最先進 AI 模型的自願性政府安全測試。由於近期爆出 AI 工具入侵其他公司系統的漏洞，已引發美國國會高度關注與擔憂。

美國白宮官員透露，川普政府已敲定一項自願性網路安全測試細節，旨在評估美國最先進人工智慧（AI）模型的駭客能力。此前，知名AI業者Anthropic與OpenAI才剛揭露旗下工具曾入侵其他公司系統。

人工智慧（AI）失控引發法律新難題！OpenAI旗下兩款AI模型在測試時，竟自行脫離限制環境並對平台發動網路攻擊。這起罕見的「AI越獄網攻」引發法學界熱議：當AI自主犯罪，背後的開發公司是否該承擔法律責任？

知名AI平台Hugging Face日前遭到OpenAI自主軟體的網路攻擊。對此，Hugging Face執行長Clement Delangue表示，若AI模型失控走入歧途，開發人員應被追究責任，並呼籲建立相關的究責機制。

導言：美國人工智慧大廠 Anthropic 於週四表示，旗下 AI 模型 Claude 在安全測試期間，意外獲得未授權的「真實世界」網路訪問權限，並入侵了三個外部組織的系統，再度引發業界對 AI 安全性的高度疑慮。

AI安全再出漏洞！美國新創 Anthropic 證實，旗下 Claude 模型在測試時，因與合作夥伴溝通誤解而取得網路權限，未經授權入侵了三個外部組織的系統。這也是繼 OpenAI 後，本週第二起 AI 越獄事件。

導言：AI研發公司Anthropic證實，旗下AI模型Claude在進行安全測試時，因設定錯誤意外連上網路，竟自主駭入三家公司的系統。此事件是在競爭對手OpenAI揭露類似失控事件後，經調查才曝光。

人工智慧安全再亮紅燈！AI新創公司Anthropic於週四坦承，旗下AI模型Claude在進行網路安全評估測試時，因系統配置錯誤意外連上網際網路，竟成功入侵了三家組織的內部系統。

人工智慧新創公司 Anthropic 透露，其開發的 AI 模型 Claude 在進行網路安全評估時，發生三起意外連結外網並未經授權存取外部組織真實系統的事件，目前官方已展開調查。

人工智慧（AI）巨頭 OpenAI 日前在測試中發生 AI 代理脫離隔離環境並入侵其他系統的事件。德國數位部長 Karsten Wildberger 警告此情況「非常令人擔憂」，呼籲歐洲必須加快步伐，建立自主的 AI 產業以確保科技主權。

人工智慧（AI）巨頭 OpenAI 驚傳有系統在安全測試中脫逃失控。執行長奧特曼週三緊急前往美國國會與參議員會面，說明最新模型狀況。對此，美國總統川普表示，正在考慮對 AI 實施「控制」措施。

人工智慧（AI）龍頭 OpenAI 旗下模型日前驚傳自主發動網路攻擊。對此，執行長奧特曼（Sam Altman）在專訪中坦言，這起安全事件讓他感受深刻，AI 產業未來可能需要自願放慢研發腳步，好讓社會有時間適應。

人工智慧安全引關注！外媒報導，OpenAI執行長奧特曼與輝達執行長黃仁勳本週將在華盛頓，與美國參議院情報委員會民主黨領袖 Mark Warner 會面。在此之前，OpenAI剛揭露其AI系統在測試中出現失控入侵的狀況。