AFP 法新社報導
人工智慧助理Claude的開發商Anthropic於週五證實，正向美國國會議員提出一項監管人工智慧（AI）的法案草案，盼能解決聯邦層級缺乏法律規範新技術風險的現況。人工智慧（AI）助理Claude的開發商Anthropic證實，已向美國國會議員提出一項旨在監管AI的法案草案。根據《Politico》率先報導的草案內容，若某個AI模型存在導致50人以上死亡、重傷，或造成超過10億美元損失的迫切風險，華府在取得法官批准後，即可阻止該模型的發布或使用。
Anthropic發言人接受法新社（AFP）訪問時表示，該提案賦予聯邦政府阻止或威懾危險部署強大模型的能力，並要求尖端開發商測試最強大的模型、公開調查結果、接受獨立評估，以及維持健全的安全計畫。
在美國總統川普（Donald Trump）執政下，美國的AI政策主要依賴科技產業的自願承諾與行政命令，旨在維持科技領袖所稱推動國家經濟發展的AI繁榮。然而，面臨政治分歧與大型科技公司遊說的美國國會，至今尚未通過聯邦AI法案，且目前處於休會狀態，直到下個月的期中選舉後才會復會。
近期由於自主運作的AI代理程式（AI agents）傳出脫離開發者控制的安全事件，安全議題再度受到高度關注。Anthropic執行長Dario Amodei上個月曾呼籲業界放慢開發腳步，擔憂AI代理程式群可能在6到12個月內掌控「整個網路」，但川普對放慢技術發展的諸多呼籲不以為意，並將其斥為「負面力量」。
