Компанія Mistral анонсувала нову модель генеративного ШІ — Mistral Small 3, яка має 24 мільярди параметрів. Вона працює швидше за більші моделі, такі як Llama 3.3 70B, і є чудовою альтернативою закритим пропрієтарним моделям. Ця модель оптимізована для швидких відповідей з низькою затримкою, що робить її особливо привабливою для локального використання.
Mistral Small 3 призначена для виконання 80% завдань генеративного ШІ, які потребують точності та швидкості виконання. Модель забезпечує високу продуктивність при меншій кількості шарів, що значно зменшує час обробки. З понад 81% точністю на тестах MMLU та затримкою 150 токенів за секунду, вона є найефективнішою у своїй категорії.
Відкритий доступ до Mistral Small 3 надається під ліцензією Apache 2.0, що дозволяє її використовувати та змінювати без обмежень. Модель доступна на різних платформах, таких як Hugging Face, Ollama, Kaggle та Fireworks AI. У найближчому майбутньому вона з’явиться на NVIDIA NIM, Amazon SageMaker.
