Чотири провідні компанії у сфері штучного інтелекту — OpenAI, Google, Anthropic і Microsoft — зіштовхнулися з серйозними труднощами у створенні нових мовних моделей. Як повідомляє Bloomberg, проблема полягає в неспроможності суттєво покращити результати порівняно з попередніми версіями.
OpenAI завершила тренування своєї моделі Orion ще у вересні, але її продуктивність виявилася розчаровуючою. За словами джерел, «стрибок від GPT-4 до Orion значно менший, ніж від GPT-3.5 до GPT-4». Модель не може ефективно відповідати на нові запити, через що її запуск перенесли на 2025 рік.
Схожа ситуація у Google та Anthropic. Google працює над своєю моделлю Gemini, яка поки не відповідає очікуванням. Anthropic також відклала випуск Claude 3.5 Opus через слабкі результати тестування.
Нещодавно з труднощами зіштовхнулася і Microsoft. У жовтні компанія представила оновлення для Copilot, яке, за інформацією Windows Central, викликало негативні відгуки користувачів. Вони відзначили погіршення якості відповідей і навіть просили повернути попередню версію. Інсайдери повідомляють, що «існує розрив між амбітним баченням Microsoft і реальним досвідом користувачів».
Основні проблеми всіх цих компаній пов’язані з браком якісних даних для навчання і зростанням витрат на розробку. Розробники визнають, що перші моделі легко навчалися на відкритих джерелах, але зараз потрібні більш складні й унікальні дані. Крім того, інвестиції у нові моделі стають ризикованішими через відсутність значного прогресу.