Grok遭濫用生成女性、兒少不雅影像　英國對X啟動調查

X旗下的聊天機器人Grok，原本是AI高科技和社群平台結合的酷炫功能，沒想到竟被有心人士利用，用戶只要利用簡單的文字指令，就能生成女性和兒童不雅照，在網路上流竄，不僅可以假造情色內容，涉及兒童的部分，還使孩童成為性剝削的被害者。

英國已經要求X說明，要英國用戶如何自保，但沒明確指出期限是什麼時候。X僅將Grok功能，限定為付費者才能使用，因此會留下帳號的信用卡資料，一旦有不雅照流出，就可以追到散布者。但英國首相施凱爾表示，X這項做法絕對不是解決辦法之道。至於印度和法國，也正對Grok加強審查，東南亞的馬來西亞和印尼，甚至暫停Grok的使用，避免更多人受害。