🆕 DBRX – прорыв в сфере открытых языковых моделей от Databricks

Компания Databricks анонсировала выпуск DBRX – открытой языковой модели нового поколения, которая превосходит существующие аналоги по многим ключевым параметрам.

DBRX устанавливает новый уровень качества для открытых языковых моделей

  • Превосходит GPT-3.5 и конкурирует с Gemini 1.0 Pro в стандартных тестах.
  • Лидирует в тестах на MMLU, HumanEval и GSM8K.
  • Опережает специализированные модели вроде CodeLLaMA-70B в написании кода.
DBRX превосходит известные модели в тестах MMLU, HumanEval и GSM8K. Источник: databricks.com
🤖✍️ Библиотека нейротекста
Все самое полезное про ИИ-помощников вроде ChatGPT, Gemini, Bing и других вы найдете на нашем телеграм-канале «Библиотека нейротекста»

Прорыв в производительности обучения и вывода благодаря архитектуре MoE

  • Вывод до 2-х раз быстрее чем у LLaMA2-70B.
  • На 60% компактнее Grok-1.
  • Генерация текста до 150 токенов/сек на пользователя на Mosaic AI Model Serving.
  • Обучение MoE моделей в 2 раза эффективнее с точки зрения FLOP при том же качестве.
Сравнительная таблица DBRX Instruct и закрытых LLM. Источник: databricks.com

Databricks открывает доступ к DBRX для сообщества и корпоративных клиентов

  • Веса базовой (DBRX Base) и дообученной (DBRX Instruct) моделей доступны на Hugging Face.
  • Заказчики Databricks могут использовать DBRX через API и дообучать собственные модели.
  • DBRX уже интегрируется в продукты Databricks на базе GenAI, показывая результаты на уровне GPT-4.

Новость по теме

Источники

ЛУЧШИЕ СТАТЬИ ПО ТЕМЕ

miroslavmirm
03 апреля 2024

🆕📱Octopus v2: прорыв в языковых моделях для периферийных устройств

Octopus v2 – новая модель языка для периферийных устройств, превосходящая G...
alexey.m
05 ноября 2026

Revolut посадила 2000 инженеров на GLM за $0,30 за миллион токенов, а Gartner отдаёт открытым моделям 90% агентных шагов

Давид Абитбол из Revolut рассказал, как банк под надзором ЕС перевёл инжене...
miroslavmirm
27 марта 2024

🤖✍️ Как работают языковые модели (LLM): простое объяснение через аналогию с кулинарией

Языковые модели (LLM) – это сложные системы искусственного интеллекта, спос...