Користувач Баррі Сметерст спробував отримати контактний номер служби підтримки TransPennine Express за допомогою ШІ-асистента WhatsApp від Meta, але отримав приватний номер сторонньої людини з Оксфордшира. Коли Сметерст звернув увагу на помилку, ШІ спершу визнав свою помилку, а потім кілька разів змінював пояснення. Спочатку система заявила, що номер вигаданий, потім визнала, що могла помилково отримати його з бази даних, а згодом повідомила, що просто згенерувала випадкову комбінацію цифр 😀
Власник номера, Джеймс Грей, підтвердив, що його номер є у відкритому доступі на сайті його компанії. Він висловив занепокоєння, що ШІ може надати й інші особисті дані, якщо має до них доступ. Сметерст звернувся зі скаргою до Meta через невідповідність інформації та поведінку асистента.
Meta прокоментувала, що ШІ може повертати недостовірні відповіді і компанія працює над удосконаленням своїх моделей. Представник пояснив, що система навчалася на ліцензованих і відкритих даних, а не на приватних номерах користувачів WhatsApp, і зазначив, що номер, який отримав Сметерст, є у відкритому доступі та схожий на офіційний номер служби підтримки.
Схожі випадки траплялися і з іншими чат-ботами. Наприклад, користувачі OpenAI повідомляли про випадки, коли ChatGPT вигадував деталі про людей або цитував тексти, яких не читав. Представник OpenAI повідомив, що компанія постійно працює над підвищенням точності та надійності своїх моделей і попереджає користувачів про можливі помилки.
Після цього випадку юристи та експерти з безпеки заявили про необхідність чітких правил щодо того, як ШІ обробляє персональні дані та які обмеження має під час надання інформації користувачам.
