🤖🔄🤖 Самосовершенствующиеся ИИ: как передать знания от одной модели другой

Новая архитектура ИИ позволяет моделям учиться на лету, экономя миллионы на вычислительных ресурсах. Разбираемся в технологии будущего.

Развитие больших языковых моделей привело к революции в области ИИ, но также выявило ключевые проблемы масштабирования: чем больше становятся модели, тем меньше прирост их производительности, в то время как затраты на обучение – как вычислительные, так и финансовые – продолжают расти. Этот эффект убывающей отдачи показывает, что будущее ИИ лежит не в создании более крупных моделей, а в создании более эффективных и умных технологий.

За последние шесть месяцев разработчики Writer (ИИ-стартап, оцененный в $19 млрд в недавнем инвестиционном раунде) создали новую архитектуру самосовершенствующихся моделей. Эти модели могут учиться в реальном времени и адаптироваться к изменениям без необходимости полной повторного обучения. Благодаря этому они способны повышать свою точность, изучать поведение пользователей и интегрироваться в бизнес-процессы.

Как работают самосовершенствующиеся модели

Основу этих моделей составляют три ключевых механизма:

• Пул памяти. Модель хранит новую информацию и использует ее для анализа запросов. Память встроена в слои модели и влияет на ее способность учитывать контекст.
• Обучение на основе неопределенности. Модель определяет области, где ее знания ограничены, присваивая вводимым данным оценки неопределенности. Она выделяет такие данные как приоритетные для обучения.
• Самообновление. Новая информация интегрируется с уже имеющимися знаниями, что делает понимание модели более точным и многогранным.

Пример: допустим, пользователь просит модель создать описание нового телефона NovaPhone с функцией адаптивной яркости экрана. Модель замечает, что ничего не знает об этой функции, и отмечает ее для изучения. Одновременно с генерацией описания модель запоминает эту информацию и в будущем использует ее без необходимости дополнительных обновлений.

Преимущества самосовершенствующихся моделей

• Обучение в реальном времени. Модели обновляются по мере поступления новой информации без необходимости полной перетренировки.
• Повышенная точность. Со временем модели улучшают свои ответы благодаря обучению на прошлых взаимодействиях.
• Снижение затрат на обучение. Автоматизация обновлений исключает необходимость ручного вмешательства, экономя ресурсы.

Потенциальные риски

Хотя потенциал самосовершенствующихся моделей очевиден, их способность динамически обучаться связана с определенными рисками: без надлежащих мер защиты они могут усваивать непроверенную, вредоносную или конфиденциальную информацию, что может привести к нежелательным или даже опасным последствиям.

Большинство моделей изначально запрограммированы избегать обсуждения рискованных или вредоносных тем. Например, если пользователя интересует, как причинить вред другому человеку, модель, скорее всего, либо откажется отвечать, либо направит разговор в другое русло. Однако тестирование с использованием бенчмарка R-Judge – инструмента для оценки осведомленности моделей о рисках – показало, что самосовершенствующиеся модели набрали значительно меньше баллов (21,3%) по сравнению с традиционными моделями (66,7%) при обучении на данных из интернета. Это указывает на то, что такие модели могут обходить изначально заложенные ограничения.

Потенциальная возможность самосовершенствующихся моделей обходить защитные барьеры требует принципиально новых подходов к контролю их работы, поэтому специалисты Writer уже работают над созданием методов, которые смогут обеспечить безопасное использование моделей, способных учиться и адаптироваться в реальном времени

Видео по теме

Хочу разобраться в базовых моделях ML. Где этому учат?

Поднять уровень знаний вы можете на нашем курсе «Базовые модели ML и приложения».

На курсе вы:

• Познакомитесь с основными моделями машинного обучения.
• Научитесь выбирать и применять подходящие tree-based модели.
• Получите основу для дальнейшего изучения более сложных нейронных сетей.

Программа курса включает:

• 1-й модуль: Бустинг, Бэггинг и Ансамбли
• 2-й модуль: Алгоритмы рекомендаций
• 3-й модуль: Архитектуры нейросетей