28 марта 2024

🆕 DBRX – прорыв в сфере открытых языковых моделей от Databricks

Пишу об IT и на Python. kungurov.net
Компания Databricks анонсировала выпуск DBRX – открытой языковой модели нового поколения, которая превосходит существующие аналоги по многим ключевым параметрам.
🆕 DBRX – прорыв в сфере открытых языковых моделей от Databricks

DBRX устанавливает новый уровень качества для открытых языковых моделей

  • Превосходит GPT-3.5 и конкурирует с Gemini 1.0 Pro в стандартных тестах.
  • Лидирует в тестах на MMLU, HumanEval и GSM8K.
  • Опережает специализированные модели вроде CodeLLaMA-70B в написании кода.
DBRX превосходит известные модели в тестах MMLU, HumanEval и GSM8K. Источник: <a href="https://www.databricks.com/blog/introducing-dbrx-new-state-art-open-llm" target="_blank" rel="noopener noreferrer nofollow">databricks.com</a>
DBRX превосходит известные модели в тестах MMLU, HumanEval и GSM8K. Источник: databricks.com
🤖✍️ Библиотека нейротекста
Все самое полезное про ИИ-помощников вроде ChatGPT, Gemini, Bing и других вы найдете на нашем телеграм-канале «Библиотека нейротекста»

Прорыв в производительности обучения и вывода благодаря архитектуре MoE

  • Вывод до 2-х раз быстрее чем у LLaMA2-70B.
  • На 60% компактнее Grok-1.
  • Генерация текста до 150 токенов/сек на пользователя на Mosaic AI Model Serving.
  • Обучение MoE моделей в 2 раза эффективнее с точки зрения FLOP при том же качестве.
Сравнительная таблица DBRX Instruct и закрытых LLM. Источник: <a href="https://www.databricks.com/blog/introducing-dbrx-new-state-art-open-llm" target="_blank" rel="noopener noreferrer nofollow">databricks.com</a>
Сравнительная таблица DBRX Instruct и закрытых LLM. Источник: databricks.com

Databricks открывает доступ к DBRX для сообщества и корпоративных клиентов

  • Веса базовой (DBRX Base) и дообученной (DBRX Instruct) моделей доступны на Hugging Face.
  • Заказчики Databricks могут использовать DBRX через API и дообучать собственные модели.
  • DBRX уже интегрируется в продукты Databricks на базе GenAI, показывая результаты на уровне GPT-4.

Новость по теме

Источники

МЕРОПРИЯТИЯ

Комментарии

ВАКАНСИИ

Добавить вакансию
Go-разработчик
по итогам собеседования

ЛУЧШИЕ СТАТЬИ ПО ТЕМЕ