Генеральний директор OpenAI Сем Альтман попередив користувачів про обережність під час використання нового агента ChatGPT. Цей агент — перша система компанії, який може виконувати багатокрокові завдання самостійно. Він має розширений набір функцій, розбиває запити на окремі етапи, використовує зовнішні інструменти і діє без втручання людини.
Альтман наголошує, що не варто застосовувати агента для важливих справ або обробки особистої інформації. Попри численні захисні механізми, система залишається експериментальною. Він зазначив, що у разі надання агенту широких дозволів, наприклад, доступу до електронної пошти, існує ризик несанкціонованих дій або витоку даних через шкідливі повідомлення.
Дослідники неодноразово демонстрували, що агенти ШІ можуть бути вразливими до маніпуляцій через прості підказки. Це може призвести до небажаного розкриття приватної інформації або виконання некоректних дій. Альтман рекомендує обмежувати доступ агента лише тими правами, які необхідні для конкретного завдання, щоб зменшити ризики для безпеки та конфіденційності користувачів.
OpenAI планує вдосконалювати захист агента, спираючись на відгуки користувачів і реальні ситуації. Компанія підкреслює, що відповідальність за використання агента та можливі наслідки покладається на користувача. Перед застосуванням нової функції користувачам радять уважно ознайомитися з її можливостями та ризиками.
