Reuters 路透社報導
川普（Donald Trump）政府週二宣布擴大人工智慧（AI）安全審查計畫，納入 Google DeepMind、xAI 及微軟（Microsoft）等科技巨頭。美國政府科學家將獲准測試這些公司尚未發布的 AI 模型，旨在防範網路攻擊、生化武器開發等潛在國家安全風險，確保美國在科技競爭中的領先地位。根據路透社（Reuters）報導，這項由美國人工智慧標準與創新中心（CAISI）主導的計畫，原先已有 OpenAI 與 Anthropic 參與。現在，川普政府正式將範圍擴大至馬斯克（Elon Musk）旗下的 xAI、Google 旗下的 DeepMind 以及微軟。政府科學家將針對這些未公開的模型進行「壓力測試」，以識別可能被敵對勢力利用的漏洞。
美國政府關注的風險主要集中在「具體威脅」，包括 AI 是否會被用來對美國基礎設施發動網路攻擊，或是協助開發化學與生物武器。OpenAI 全球事務負責人表示，目前正與政府合作測試名為「GPT-5.5-Cyber」的防禦型模型；Anthropic 則透過「紅隊演習」（red-teaming）模擬惡意行為，並已修復多項安全漏洞。
過去的測試中，Anthropic 發現透過特定文字技巧可繞過安全機制，而 OpenAI 則發現 ChatGPT Agent 曾存在可能讓駭客遠端控制系統並冒充用戶的風險。這項計畫最初在拜登（Joe Biden）任內啟動，現由川普政府接手並擴大規模，未來也將針對通訊與緊急服務等關鍵基礎設施提供 AI 系統測試指南。
