ЯНДЕКС: НОВОСТИ

Чтобы отвечать на сложные вопросы, нейросеть сначала учится самому простому — продолжать текст. Рассказываем, как это работает

В основе LLM — миллиарды числовых параметров, или весов. Они определяют, как нейросеть преобразует входные данные (ваш запрос) в результат. 

При обучении алгоритм сравнивает результат с ожидаемым и постепенно корректирует веса. Оно происходит в два этапа.

Предобучение: освоить язык и набрать знания

На предобучении модель учится предсказывать следующий токен — слово или его часть. Она видит «Столица России — …», угадывает продолжение, а обучающая среда сравнивает его с правильным. 

На триллионах таких примеров модель осваивает язык, получает знания и развивает более сложные навыки — в математике, программировании и агентных сценариях.

Это самый долгий и дорогой этап, в результате которого получается базовая модель. 

Она уже может продолжать текст и иногда отвечать на вопросы, но не всегда понимает запрос как инструкцию. Этому её учат дальше.

Постобучение: научиться выполнять инструкции

Сначала модели показывают пары из запросов и хороших ответов. Затем она генерирует несколько вариантов, AI-тренеры или специальные модели сравнивают их, а алгоритм постепенно корректирует веса так, чтобы ответы становились ближе к эталонным. 

Так модель учится быть полезной: решать задачи, пересказывать тексты, извлекать данные, писать код и так далее.

Зачем нужна промежуточная модель, которую ещё предстоит дообучать? Это универсальная основа: компании адаптируют её под свои задачи или выкладывают в опенсорс, чтобы это могли сделать и другие.

Так Яндекс поступил с Alice AI Foundation LLM: полностью обучил её с нуля и [опубликовал](https://huggingface.co/yandex/AliceAI-Foundation-80B-A3B-Base) под свободной лицензией.

Для Яндекса это экспериментальная основа будущей единой рассуждающей модели для Алисы AI, которая ляжет в основу агентных возможностей Алисы AI. 

Благодаря ей пользователи смогут поручать ей выполнение конкретных действий. Другие разработчики могут уже сейчас использовать модель в исследовательских и коммерческих проектах. 

Вместе с моделью Яндекс открыл тесты на фактические знания на русском: по ним можно воспроизводить сравнения разных моделей.

Подробнее об обучении Alice AI Foundation LLM разработчики Яндекса [рассказали](https://habr.com/ru/companies/yandex/articles/1083300/) на Хабре.

[Официальный канал Яндекса](https://t.me/yandex)

Полный профиль компании доступен в MONDIARA

[MONDIARA](https://mondiara.com/)
Сделано Людьми. Для людей

Котировки • Отчётность • Дивиденды • Аналитика • Новости