Mistral открыла веса Large 4: модель для кода можно запускать на своих серверах
Mistral выпустила веса Large 4 на триллион параметров. Разбираем результаты тестов, требования к оборудованию, цены API и ограничения лицензии для облачных провайдеров.
Mistral опубликовала веса Large 4, также известной как Le Chonk. Модель можно скачать, развернуть на собственной инфраструктуре и дообучить. Перед выпуском разработчики провели ещё три недели обучения с подкреплением после предварительной версии.
Large 4 принимает текст и изображения, генерирует текст и поддерживает контекст до миллиона токенов. Компания делает основной упор на программирование и киберзащиту. Для предоставления доступа к модели как облачному сервису лицензия предусматривает отдельное соглашение с Mistral.
В модели триллион параметров, но на каждый токен работает только часть
Large 4 построена по архитектуре Mixture of Experts — смеси экспертов. Вместо одной общей сети на каждом шаге подключается небольшая группа специализированных блоков. В карточке модели указаны около триллиона параметров, 128 выбираемых экспертов и один общий.
Для каждого токена маршрутизатор выбирает четыре эксперта, а общий работает постоянно. Активная часть составляет около 49 млрд параметров; с учётом входных и выходных слоёв — примерно 52 млрд. При размещении модели всё равно требуется хранить веса остальных экспертов.
Модель поддерживает вызов инструментов и ответы по JSON-схеме. Для рассуждений предусмотрены три уровня: низкий, средний и высокий. По умолчанию включён высокий. Как уточняет Hugging Face, полностью отключить рассуждения нельзя: значение none также приводит к высокому уровню.
После дообучения Large 4 решает больше задач с меньшим расходом токенов
В анонсе Mistral привела результаты обновлённой модели. Компания сравнивает её с предварительной версией и другими моделями, отдельно учитывая число токенов, потраченных на решение задачи.
Среди опубликованных результатов:
- Terminal-Bench 4.0 — 41%, на 13 процентных пунктов выше предварительной версии; число выходных токенов сократилось на 30%;
- Artificial Analysis Coding Agent Index — 48%, примерно на уровне GLM-5.3, при среднем расходе токенов на задачу на 47% ниже;
- FrontierCode 2.0 от Cognition — 19,7%. Этот закрытый тест оценивает качество изменений и то, принял бы их сопровождающий репозитория.
Для задач киберзащиты Mistral указала 51% в Artificial Analysis Cyber Index. Он проверяет поиск уязвимостей, их воспроизведение и исправление с сохранением работоспособности программы.
В отдельном подтесте на воспроизведение реальной уязвимости и подготовку исправления Hugging Face сообщает о результате 82%. Это показатель конкретного задания внутри оценки, а 51% — значение общего индекса.
Даже сжатые веса занимают сотни гигабайт
Для скачивания доступны две официальные версии: FP8 и NVFP4. Различие связано с форматом хранения чисел: более компактное представление сокращает объём весов и требования к памяти.
В инструкции vLLM указаны следующие размеры и проверенные конфигурации:
- FP8 — около 1,06 ТБ; среди проверенных систем — два узла по восемь NVIDIA H200;
- NVFP4 — около 610 ГБ; запуск проверен, в частности, на восьми B200 и четырёх GPU GB300 в одном серверном модуле.
Это размер весов. При обработке запросов дополнительная память расходуется на рабочие данные, включая кеш контекста. Чем длиннее запросы и больше одновременных сессий, тем выше требования.
Веса заявляют поддержку 1 048 576 позиций контекста. Авторы рецепта vLLM отдельно отмечают, что проверили свою конфигурацию до 256 тысяч токенов. В инструкции также указан специальный Docker-образ для Large 4: на момент её публикации поддержка модели ещё не вошла в обычные релизы и nightly-пакеты vLLM.
Лицензия разрешает коммерческое использование, но выделяет облачных провайдеров
Large 4 распространяется под Mistral Ecosystem Open-Weight License — модифицированной лицензией MIT. Она разрешает использовать модель, изменять её, дообучать и встраивать в коммерческие продукты с соблюдением условий.
Отдельное требование касается компаний, которые ведут бизнес Model-as-a-Service. Согласно тексту лицензии, если сама компания или её аффилированная организация предоставляет такой сервис, для коммерческого использования модели и производных версий требуется соглашение с Mistral.
Под Model-as-a-Service понимается доступ третьей стороны к модели для генерации или дообучения, при котором клиент существенно управляет входными данными, параметрами или обучающей выборкой. В лицензии отдельно исключены внутреннее использование и конечные продукты, где возможности модели встроены в конкретные функции.
Пользоваться Large 4 можно и через API Mistral. В анонсе от 29 октября указаны цены за миллион токенов: $0,70 за входные, $0,07 за входные из кеша и $2,10 за выходные.
От предварительной версии до открытых весов прошло 23 дня
Mistral представила Large 4 в публичном превью 6 октября 2026 года. Тогда модель предлагали попробовать через API, а публикацию весов обещали до конца месяца.
Скачиваемая версия вышла 29 октября. По объяснению компании, три дополнительные недели обучения с подкреплением использовали для улучшения программирования, работы с инструментами и других задач. Поэтому опубликованные веса сопровождаются новыми результатами тестов.
В карточке Large 4 Mistral указывает, что обучала модель с нуля на 3800 ускорителях NVIDIA Grace Blackwell в собственных европейских дата-центрах. Теперь организации могут развернуть её у себя и обрабатывать внутренние документы, код и изображения на выбранной ими инфраструктуре.
Источники
- https://mistral.ai/news/mistral-large-4-oss/
- https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B
- https://huggingface.co/blog/mistral-large4
- https://recipes.vllm.ai/mistralai/Mistral-Large-4-1T-A52B
- https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B/blob/main/LICENSE
- https://mistral.ai/news/mistral-large-4/