SLEEP от Google: как модель переносит новые сведения из контекста в параметры

27 октября 2026 года Google Research рассказала о SLEEP — исследовательском подходе к непрерывному обучению языковых моделей. Система периодически прекращает принимать новые данные и обучается на уже полученной информации. Авторы предлагают за счёт этого закреплять новые знания, сохраняя больше прежних возможностей.

У октябрьской новости есть предыстория. Статья Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories появилась на arXiv 2 июня 2026 года; обновлённая версия вышла 10 июля того же года. В примечании авторы указывают, что версия работы доступна на OpenReview с сентября 2025-го. Исследование выполнили Ali Behrouz, Farnoosh Hashemi, Adel Javanmard и Vahab Mirrokni. Публикация Google знакомит широкую аудиторию с уже существовавшей работой; пользовательский сервис с объявленными условиями доступа в ней не представлен.

Языковая модель может использовать документ, который ей передали вместе с вопросом. Пока текст доступен в контексте — входной последовательности, на которую модель опирается при ответе, — содержащиеся в нём сведения могут влиять на результат. Сам по себе такой ответ обычно не меняет численные параметры модели. Поэтому следующая независимая беседа не получает автоматически всё, что было сообщено в предыдущей.

Последовательное обучение на новых данных способно ухудшить результаты на прежних задачах. Исследователи называют это катастрофическим забыванием: измеряемое качество резко падает после обновления параметров. Для SLEEP существенна связка двух требований — приобретать новые возможности и сохранять уже проверенные.

В основе SLEEP лежат более ранний подход Nested Learning и архитектура Hope. В этой архитектуре память модели описывается через компоненты с разной частотой обновления. Одни части меняются часто и быстро приспосабливаются к поступающим данным; другие получают обновления реже. Частота здесь относится к изменению параметров при обучении. Она не обозначает скорость генерации текста, частоту процессора или время хранения отдельного файла.

SLEEP добавляет к этой организации периодический перенос знаний между компонентами. В активной фазе система получает входные данные и выполняет задачи. В отдельной фазе закрепления она использует уже накопленное состояние для обучения более устойчивых компонентов. В таком цикле необходимо различать получение ответа и вычисления, которые изменяют саму модель.

Для закрепления сведений авторы используют смесь экспертов, или MoE. Это нейросетевой блок из нескольких вычислительных модулей; специальный механизм маршрутизации выбирает, какие из них задействовать. При переносе знаний система активирует дополнительного эксперта малого ранга — компактный набор обучаемых матриц. Обучаются только новые параметры, а ранее закреплённые во время этого переноса остаются неизменными. Подробная последовательность описана в разделе 3 исследования.

Термин «расширение» требует уточнения. В математическом описании число доступных параметров растёт. В реализации их можно выделить заранее и до нужного момента исключать из вычислений и обновлений. Авторы рассматривают этот способ, чтобы избежать постоянного изменения размеров массивов данных в программе. В обоих случаях сохранение новых сведений использует дополнительную параметрическую ёмкость. Бесконечная память при неизменном объёме ресурсов из этого устройства не следует.

Перенос выполняется через дистилляцию: одна версия модели задаёт обучающий сигнал другой. В SLEEP исходная версия содержит временно приобретённые сведения, а расширенная версия получает дополнительные параметры для их закрепления. Исследователи называют такую процедуру Knowledge Seeding. Речь идёт о двух вычислительных состояниях модели; участия человека в каждой такой операции не требуется.

Обучение сочетает два сигнала. Первый сравнивает вероятности следующих токенов — фрагментов текста — у обеих версий на последовательностях, которые генерирует обучаемая версия. Второй предлагает продолжить начало текста исходной модели и оценивает сходство продолжения с её ответом. Учитываются смысл и буквальная близость последовательностей. После закрепления низкоранговые параметры более быстро меняющегося компонента сбрасываются, освобождая его для следующего цикла. Содержание сохраняется в изменённых численных параметрах, которые также называют весами; отдельная дословная копия исходного контекста этой процедурой не создаётся.

На стадии Dreaming модель создаёт учебные примеры, отбирает полезные и обучается на них. В описании алгоритма за этим стоит последовательность проверяемых операций, включая дополнительные обновления параметров и измерение результата.

При генерации синтетических примеров маршрутизатор MoE дополнительно выбирает случайного эксперта. Затем система отбирает часть примеров по сигналу, связанному с градиентом: он показывает, как конкретный пример изменял бы обучаемые параметры. Некоторое количество случайных примеров сохраняется для разнообразия. Для выбранного примера создаётся отдельное состояние модели, выполняется дообучение, после чего оценивается качество на целевой задаче. Улучшение становится сигналом вознаграждения для процедуры генерации.

Поэтому «сама учится» здесь имеет точный, ограниченный смысл. Исследователи заранее определяют архитектуру, способ отбора, правило обновления и критерий успешности. Система автоматизирует создание и проверку учебных данных внутри этих условий. Возможность самостоятельно установить достоверность любого нового утверждения таким экспериментом не проверялась. Синтетический пример остаётся результатом генерации модели, а его полезность оценивается выбранной задачей.

Один из экспериментов SLEEP использует BABILong. Авторы этого теста размещают сведения, необходимые для решения задач, среди большого объёма постороннего естественного текста. Проверяется способность связать распределённые факты, сделать вывод, посчитать элементы или выполнить другую заданную операцию. Длина последовательности может расти за счёт окружающего текста.

Исследователи SLEEP сообщают о почти идеальном результате Hope на длине до 10 млн токенов. В экспериментах с длинным контекстом и последовательным обучением они проверяли закрепление сведений без стадии Dreaming. Однако приложение B.2 содержит решающее условие: небольшие модели в этом сравнении дообучали по официальному протоколу BABILong. Там же авторы отмечают существенное падение результатов всех небольших моделей без дообучения. Сравнение с крупными моделями, проверяемыми без такого обучения, объединяет разные режимы подготовки.

Число 10 млн описывает объём входной последовательности конкретного теста. Оно не измеряет количество произвольных документов, которые модель сможет безошибочно воспроизвести после долгой эксплуатации. Проверка правильного ответа на заложенный вопрос также отличается от проверки сохранности каждого предложения. Величина измеряется в токенах; их число зависит от языка и способа разбиения текста, поэтому универсального пересчёта в слова нет.

В языковом эксперименте система последовательно знакомится с материалами по маньчжурскому и каламангскому языкам, а затем переводит фразы на английский. Авторы сравнивают обучение каждому языку отдельно с последовательным освоением обоих. Дополнительные стадии закрепления помогают Hope сохранить больше первоначального результата; вариант с тремя стадиями приближается к результату раздельного обучения. Авторы проверили последовательное освоение двух языков; сохранение качества на более длинной серии обновлений остаётся открытым вопросом. Условия приведены в разделе 4.1.

В математических тестах та же работа приводит результаты Qwen3-8B: после SLEEP — 79,2 на AIME-24, 69,0 на AIME-25 и 46,1 на HMMT-25. Исходная версия, обученная следовать инструкциям, получает соответственно 73,8, 68,1 и 42,4. Таблица помечена average@16: показатели усредняются по 16 генерациям. Такой результат нельзя напрямую переносить на вероятность правильного ответа в обычном чате с иными вопросами и настройками. Это измерения авторов на выбранных заданиях и настройках, без независимого воспроизведения в рамках этой статьи.

Отдельное обучение имеет цену. В приложении об эффективности исследователи пишут, что при одинаковом числе шагов обычное дообучение на готовых примерах с правильными ответами, SFT, в четыре раза эффективнее их метода. При достижении одинакового качества на AIME-24, AIME-25 и HMMT-25 обычное SFT, по их измерениям, требует соответственно в 4,3, 3,6 и 4,8 раза больше времени. Эти два сравнения отвечают на разные вопросы: затраты при фиксированном числе шагов и время достижения заданного результата. Единого обещания ускорения для любой задачи в работе нет.

В этих материалах не описана доступная пользователю функция SLEEP, которая позволяла бы включить постоянное обучение своего чата. Показан исследовательский цикл с заданными правилами, дополнительными параметрами и отдельными вычислениями. Самый содержательный его результат — сохранение нужной для задач информации после переноса в веса. Насколько долго такой цикл выдержит накопление новых, противоречащих друг другу и ошибочных сведений, приведённые эксперименты не устанавливают.