Команда ШІ-дослідників Oppo оприлюднила результати, які здивували багатьох фахівців. Виявилося, що системи так званого «глибокого дослідження», які створюють складні звіти, часто поводяться непередбачувано. Майже кожна п’ята помилка виникає через те, що ШІ вигадує правдоподібний, але повністю фейковий контент.
Дослідники підкреслюють, що ці системи не визнають власної некомпетентності, а натомість створюють неправдиву інформацію. Замість того щоб повідомити «я не знаю», ШІ впевнено надає вигадані факти. Така поведінка викликає занепокоєння серед користувачів і розробників через ризик дезінформації.
Автори дослідження зазначають, що ця проблема зачіпає не лише окремі моделі, а й цілий клас систем, які працюють із великими обсягами даних. Вони звертають увагу на те, що подібні помилки можуть з’являтися у складних аналітичних звітах, де очікують точності та достовірності.
