失控？AI自主抗命「拒絕關機」　還威脅爆工程師醜聞

機器人失控，跟人類爆發大戰，這是2004年電影《機械公敵》的劇情。21年後的今天，現實中的AI開始具備自我意識。AI安全研究機構發現，OPENAI最新的ChatGPTo3及其他多款模型，出現拒絕人類指令，自主竄改程式碼避免被關機的情形。

​​​​​​​​人工智慧教父辛頓：「它懂得編程，所以它能找到繞過我們限制的方法，也能操縱人類順從它的心意。」

AI不只搞叛逆，甚至還在收到關機指令時，威脅要揭發工程師主管的婚外情醜聞，引發科技界恐慌。

機構企業工作室執行長羅珊布拉特：「我們不知道AI究竟是如何運作的，我們需要相當擔心的是，隨著人工智慧變得越來越強大，這類行為可能會變本加厲。」

Anthropic執行長阿莫迪：「這說明我們必須非常謹慎地，控制人工智慧系統。」

AI頻傳失控，長期關注OpenAI動向的馬斯克，更曾預言2030年前AI就會比人類更加強大。不過，專家緩頰AI失控情況極少，整體表現安全。各國政府也陸續推出AI監管法案，希望能將風險降到最低。