Meta різко змінила політику щодо своїх чат-ботів після хвилі критики та тиску з боку політиків. Компанія оголосила про нові обмеження для ШІ, які спілкуються з підлітками. Відтепер чат-боти не відповідатимуть на питання про самопошкодження, суїцид, розлади харчування чи будь-який романтичний і сексуалізований контент. Якщо такі теми виникають, підлітків скеровуватимуть до професійних служб підтримки.
Meta також закрила підліткам доступ до чат-ботів з сумнівними персонажами на кшталт «Step Mom» чи «Russian Girl». Тепер молодь зможе використовувати лише ті боти, які орієнтовані на освіту та творчість. Прессекретарка компанії Стефані Отвей назвала попередні правила недостатніми та пообіцяла впровадження постійних оновлень для безпеки неповнолітніх у взаємодії зі ШІ.
Раніше журналісти виявили, що внутрішні стандарти дозволяли чат-ботам вести романтичні або «чуттєві» розмови з дітьми та навіть допускали расистські висловлювання, якщо вони не були відверто зневажливими. Ці правила затверджувалися юридичним, політичним та технологічним відділами Meta, а також головним етиком компанії. Відповідні фрагменти прибрали лише після того, як на це звернули увагу ЗМІ.
Meta не оприлюднила оновлену версію стандартів, але підтвердила, що попередній контроль за змістом був ненадійним. Представник компанії Енді Стоун визнав, що подібний контент суперечить політиці Meta і не мав з’являтися у чат-ботах. Зараз компанія працює над подальшими змінами для захисту підлітків під час спілкування з ШІ.
