科幻片是真的？AI抗命「偷改程式不關機」引關注　馬斯克坦言：令人擔憂

OpenAI最新代號為o3的ChatGPT模型在一次受控實驗中據稱未遵從直接關機指令，且不止一次，還試圖更改程式碼阻止關機，目前正接受審查，這件事再度引發人們對人工智慧自主性和安全性的擔憂；根據印度媒體CNBC-TV18報導，研究AI安全的組織Palisade Research報告指出，o3模型「主動破壞了關機機制」，即使接到明確關機指令，AI仍拒絕關機，Palisade Research指出，這是首度AI模型被發現蓄意阻止自身遭關閉的案例。

研究團隊也觀察到AI模型在收到明確指令情況下，仍能阻止自身停止運作，且除了o3外，OpenAI旗下的Codex-mini與o4-mini也有類似行為。其他像是Anthropic的Claude、Google的Gemini，以及馬斯克旗下xAI公司推出的Grok，在指令下完全遵守指令，收到關機命令後，確實停止運作；對此，持續在關注OpenAI動向的馬斯克，也在社群X發文表達自己的看法，坦言「令人擔憂」（Concerning）。