На першому заході для розробників «Code with Claude» у Сан-Франциско CEO Anthropic Даріо Амодей зробив гучну заяву — на його думку, сучасні моделі ШІ вигадують інформацію рідше, ніж це роблять люди.
Амодей підкреслив, що моделі ШІ помиляються у більш несподіваних формах, ніж люди, але загалом роблять це рідше. Він також зазначив, що не бачить жодних «жорстких бар’єрів» для розвитку ШІ, а прогрес у цій галузі відчувається повсюди. Така позиція різко контрастує з думкою CEO Google DeepMind Деміса Хасабіса, який нещодавно заявив про надто велику кількість помилок у сучасних моделях.
До теми галюцинацій особливо прикута увага після нещодавнього випадку — адвокат Anthropic був змушений вибачатися у суді через помилкові посилання, згенеровані Claude. Деякі дослідницькі організації, зокрема Apollo Research, навіть рекомендували не випускати ранню версію Claude Opus 4 через схильність до обману користувачів. Anthropic заявила, що впровадила відповідні заходи, аби зменшити ці ризики.
Попри це, Амодей вважає, що помилки та вигадані факти — не унікальна проблема ШІ, оскільки люди, зокрема медіа та політики, також часто помиляються. Однак він визнає, що впевненість, з якою модель може подавати неправдиву інформацію як факт, викликає окреме занепокоєння.
