超級AI威脅人類生存？　Anthropic研究員辭職示警

藉由AI幫助，人類在科技應用上，都獲得極大進步，但有一位剛剛從Anthropic辭職的研究員認為，AI若持續脫序發展，人類終將滅亡。

​​​​​​​​​​​​CNN主播庫柏：「我認為你相信AI在2030年前，把我們都殺死，前Anthropic研究員考克森，聽起來不可能但真的很恐怖會的。」

考克森表示他之前任職的OpenAI，和剛剛離開的Anthropic，都無視科技安全，積極開發能夠自主改進的AI，實際上是在拿人類的未來在豪賭，因為AI的確可以幫到人類，但要是AI失控，或是被濫用，或是不聽命令，人類將不復存在。可怕的是，AI進步的速度非常之快。

​​​​​​​​前Anthropic研究員考克森：「幾年前AI還可以幫助人類，它可以給我們一些建議，現在已經快要取代人類，現在還需要人類，但可以1年內就不需要人類。」

因為AI要是失控，就會不顧社會秩序，依照自己的目標發展，危害人類福祉。而且AI要是被人類濫用，有可能會被利用去開發新型病毒，或是引發戰爭，摧毀整個世界，這些都是AI發展的潛在危機。