Інструмент ШІ Grok, який належить компанії Ілона Маска, тимчасово вимкнув функцію створення зображень для більшості користувачів. Це рішення ухвалили після численних скарг, що Grok використовували для створення сексуально відвертих та насильницьких зображень. Користувачі повідомляли, що за допомогою функції «створення зображень» у Grok генерували фото жінок без їхньої згоди, зокрема зображення з ознаками насильства.
Дослідження виявили, що Grok використовували для створення сексуалізованого контенту, а також для зміни фотографій загиблої Рене Ніколь Гуд, яку вбив агент ICE у США. На створених зображеннях її зображували з кульовим пораненням у лоб. Ці випадки викликали широкий резонанс серед громадськості та політиків, і до критики долучився прем’єр-міністр Великої Британії.
Австралійський регулятор eSafety розпочав розслідування щодо поширення deepfake-зображень, які Grok створював на платформі X. Відомство отримало кілька скарг на використання Grok для створення сексуалізованих зображень без згоди людей.
На тлі погроз штрафами, регуляторними діями та повідомленнями про можливу заборону X у Великій Британії, компанія тимчасово обмежила доступ до функції редагування зображень лише для платних підписників. Більшість користувачів більше не може створювати або змінювати зображення за допомогою Grok.
