Mistral открыла веса Large 4: модель для кода можно запускать на своих серверах

Mistral выпустила веса Large 4 на триллион параметров. Разбираем результаты тестов, требования к оборудованию, цены API и ограничения лицензии для облачных провайдеров.

Mistral опубликовала веса Large 4, также известной как Le Chonk. Модель можно скачать, развернуть на собственной инфраструктуре и дообучить. Перед выпуском разработчики провели ещё три недели обучения с подкреплением после предварительной версии.

Large 4 принимает текст и изображения, генерирует текст и поддерживает контекст до миллиона токенов. Компания делает основной упор на программирование и киберзащиту. Для предоставления доступа к модели как облачному сервису лицензия предусматривает отдельное соглашение с Mistral.

В модели триллион параметров, но на каждый токен работает только часть

Large 4 построена по архитектуре Mixture of Experts — смеси экспертов. Вместо одной общей сети на каждом шаге подключается небольшая группа специализированных блоков. В карточке модели указаны около триллиона параметров, 128 выбираемых экспертов и один общий.

Для каждого токена маршрутизатор выбирает четыре эксперта, а общий работает постоянно. Активная часть составляет около 49 млрд параметров; с учётом входных и выходных слоёв — примерно 52 млрд. При размещении модели всё равно требуется хранить веса остальных экспертов.

Модель поддерживает вызов инструментов и ответы по JSON-схеме. Для рассуждений предусмотрены три уровня: низкий, средний и высокий. По умолчанию включён высокий. Как уточняет Hugging Face, полностью отключить рассуждения нельзя: значение none также приводит к высокому уровню.

После дообучения Large 4 решает больше задач с меньшим расходом токенов

В анонсе Mistral привела результаты обновлённой модели. Компания сравнивает её с предварительной версией и другими моделями, отдельно учитывая число токенов, потраченных на решение задачи.

Среди опубликованных результатов:

  • Terminal-Bench 4.0 — 41%, на 13 процентных пунктов выше предварительной версии; число выходных токенов сократилось на 30%;
  • Artificial Analysis Coding Agent Index — 48%, примерно на уровне GLM-5.3, при среднем расходе токенов на задачу на 47% ниже;
  • FrontierCode 2.0 от Cognition — 19,7%. Этот закрытый тест оценивает качество изменений и то, принял бы их сопровождающий репозитория.

Для задач киберзащиты Mistral указала 51% в Artificial Analysis Cyber Index. Он проверяет поиск уязвимостей, их воспроизведение и исправление с сохранением работоспособности программы.

В отдельном подтесте на воспроизведение реальной уязвимости и подготовку исправления Hugging Face сообщает о результате 82%. Это показатель конкретного задания внутри оценки, а 51% — значение общего индекса.

Даже сжатые веса занимают сотни гигабайт

Для скачивания доступны две официальные версии: FP8 и NVFP4. Различие связано с форматом хранения чисел: более компактное представление сокращает объём весов и требования к памяти.

В инструкции vLLM указаны следующие размеры и проверенные конфигурации:

  • FP8 — около 1,06 ТБ; среди проверенных систем — два узла по восемь NVIDIA H200;
  • NVFP4 — около 610 ГБ; запуск проверен, в частности, на восьми B200 и четырёх GPU GB300 в одном серверном модуле.

Это размер весов. При обработке запросов дополнительная память расходуется на рабочие данные, включая кеш контекста. Чем длиннее запросы и больше одновременных сессий, тем выше требования.

Веса заявляют поддержку 1 048 576 позиций контекста. Авторы рецепта vLLM отдельно отмечают, что проверили свою конфигурацию до 256 тысяч токенов. В инструкции также указан специальный Docker-образ для Large 4: на момент её публикации поддержка модели ещё не вошла в обычные релизы и nightly-пакеты vLLM.

Лицензия разрешает коммерческое использование, но выделяет облачных провайдеров

Large 4 распространяется под Mistral Ecosystem Open-Weight License — модифицированной лицензией MIT. Она разрешает использовать модель, изменять её, дообучать и встраивать в коммерческие продукты с соблюдением условий.

Отдельное требование касается компаний, которые ведут бизнес Model-as-a-Service. Согласно тексту лицензии, если сама компания или её аффилированная организация предоставляет такой сервис, для коммерческого использования модели и производных версий требуется соглашение с Mistral.

Под Model-as-a-Service понимается доступ третьей стороны к модели для генерации или дообучения, при котором клиент существенно управляет входными данными, параметрами или обучающей выборкой. В лицензии отдельно исключены внутреннее использование и конечные продукты, где возможности модели встроены в конкретные функции.

Пользоваться Large 4 можно и через API Mistral. В анонсе от 29 октября указаны цены за миллион токенов: $0,70 за входные, $0,07 за входные из кеша и $2,10 за выходные.

От предварительной версии до открытых весов прошло 23 дня

Mistral представила Large 4 в публичном превью 6 октября 2026 года. Тогда модель предлагали попробовать через API, а публикацию весов обещали до конца месяца.

Скачиваемая версия вышла 29 октября. По объяснению компании, три дополнительные недели обучения с подкреплением использовали для улучшения программирования, работы с инструментами и других задач. Поэтому опубликованные веса сопровождаются новыми результатами тестов.

В карточке Large 4 Mistral указывает, что обучала модель с нуля на 3800 ускорителях NVIDIA Grace Blackwell в собственных европейских дата-центрах. Теперь организации могут развернуть её у себя и обрабатывать внутренние документы, код и изображения на выбранной ими инфраструктуре.

Источники