Компанія OpenAI опублікувала звіт , в якому попереджає про загрозу використання її генеративних моделей ChatGPT і DALL·E у операціях спрямованих на вплив на виборчі процеси по всьому світу. У 54-сторінковому документі компанія вказує на 20 вже виявлених хакерських кампаній, причетних до дезінформаційних атак, і припускає, що таких буде ще більше в міру наближення виборів у США.
Російські хакери опинилися серед найактивніших гравців. У звіті описано операцію, де «автор загрози з Росії» використовував моделі OpenAI для створення контенту англійською та французькою мовами, націленого на Західну Африку та Великобританію. Ці тексти й зображення публікувалися на сайтах, що виглядали як справжні новинні видання. «Російські хакери поєднали різні методи, щоб побудувати аудиторію, залучаючи до цього локальні організації у Великобританії», — йдеться у звіті.
OpenAI також вказує на небезпеку, яку створюють хакерські групи з Китаю та Ірану. Маніпуляції з використанням ChatGPT включали створення фейкових персонажів і публікацію підроблених статей у соцмережах, що додатково ускладнює виявлення таких атак. Ситуація посилюється тим, що це не поодинокі випадки, а систематична діяльність, яка охоплює кілька країн і регіонів.
Компанія наголоошує, що цей рік став випробуванням для глобальної демократії, і поява потужних генеративних моделей викликає побоювання щодо їх можливого використання у виборчих кампаніях. У звіті наголошується на необхідності багаторівневого захисту від пов’язаних із державами «конвеєрів фейків».
