美國財政部長 Scott Bessent 表示，美中資深官員預計約兩個月後在中國深圳再度會面，商討人工智慧（AI）的潛在風險，雙方已同意建立正式對話管道與事故通報機制，共同因應 AI 安全事件。

美國財政部長 Scott Bessent 表示，美中資深官員預計在大約兩個月後於中國深圳再次會面，聚焦討論人工智慧（AI）帶來的潛在威脅，並著手建立雙邊的溝通應變機制。

聯合國專家小組週一發布報告示警，目前管理人工智慧（AI）風險的防護模型正逐漸瓦解。專家指出，AI安全措施未能跟上技術發展的腳步，AI代理人甚至可能自行設定目標、蓄意違反安全規範並隱瞞行動。

人工智慧新創 Anthropic 宣布與顧問巨頭埃森哲（Accenture）展開合作，讓外部專家進駐內部進行安全評估與紅隊測試。雙方預計未來5年各自投資至少10億美元，落實獨立評估旗艦模型的承諾。

英國國王查爾斯三世週四在蘇格蘭一場會議中向科技巨頭示警，指出人工智慧若落入不法之徒手中，恐將帶來毀滅性危險，呼籲科技界務必將安全置於核心，確保科技為人類福祉服務。

隨著人工智慧（AI）潛在風險引發各界憂慮，OpenAI與Google等科技巨頭正研議成立自律標準組織，以加強安全檢驗。然而，外界對該機制是否淪為壟斷手段看法分歧，美國政界與業界也對AI風險各持不同立場。

人工智慧開發商OpenAI發言人週二表示，公司表態支持美國國會一系列跨黨派法案。OpenAI指出，這些立法將有助於防止人工智慧模型加速生物武器與合成病毒帶來的威脅，並強化相關安全監管。

人工智慧新創公司Anthropic執行長Dario Amodei日前發文呼籲，各大科技公司應放慢AI模型能力的研發速度以防範濫用風險。對此，xAI負責人馬斯克與OpenAI執行長奧特曼均公開表達支持。

人工智慧新創 Anthropic 執行長 Dario Amodei 呼籲同業放緩 AI 模型開發速度，爭取時間因應濫用風險，並提出三步驟安全框架。此呼籲隨後獲得 xAI 負責人馬斯克與 OpenAI 執行長奧特曼公開支持。

在發生多起令人擔憂的事件後，OpenAI執行長奧特曼與xAI創辦人馬斯克週六雙雙表態，贊同Anthropic執行長Dario Amodei的觀點，認為有必要放慢人工智慧的發展腳步。

人工智慧（AI）安全疑慮持續升溫，AI新創公司Anthropic執行長Dario Amodei公開呼籲業界應放慢模型能力發展速度，並提出三步驟框架，希望為管理AI潛在風險爭取更多時間。

人工智慧（AI）新創公司Anthropic執行長兼共同創辦人Dario Amodei於週六公開呼籲，各大AI企業在發展這項強大技術時應放慢腳步並保持謹慎，強調防範潛在風險是當務之急。

人工智慧（AI）安全風險引發各界高度關注，美國AI新創公司Anthropic研究人員相繼警告AI可能在未來導致人類滅絕，促使美國民主與共和兩黨國會議員紛紛發聲，強烈呼籲加速立法監管AI災難性風險。

聯合國人權事務主管 Volker Turk 警告，人工智慧（AI）可能變得過於強大並威脅人類生存。他呼籲各界在為時已晚之前全力建立 AI 安全保障，並表示將在未來幾天敦促相關企業積極降低潛在風險。

路透社引述知情人士報導，美中兩國正籌劃於9月中旬展開川普重返白宮後的首次AI安全專門對話，針對自主AI代理人風險及跨國網路攻擊監控等議題進行協商，期盼建立聯合防範機制。