GPT-6 Astra: контекст на миллион токенов и доплата за длинный запрос

OpenAI выпустила GPT-6 Astra 3 сентября. Модель получила контекст на 1 050 000 токенов. Контекст — весь объём информации в одном запросе, включая место для ответа; токен примерно соответствует фрагменту слова. Точное число токенов зависит от текста и языка.

Такой объём позволяет передать договор вместе с приложениями, перепиской и прежними редакциями. Однако максимальный размер запроса и порог цены у Astra различаются: доплата начинается задолго до заполнения контекста.

В карточке модели OpenAI базовая ставка составляет $10 за миллион входных и $50 за миллион выходных токенов. При входе длиннее 272 тысяч ставки за вход и кэш удваиваются, а за выход увеличиваются в полтора раза. Доплата относится ко всему запросу, а не только к тексту сверх порога.

Например, 500 тысяч входных токенов без кэша обойдутся в $10. Ещё 20 тысяч выходных токенов — в $1,50. Итого $11,50 по стандартному тарифу, без дополнительных инструментов. Это расчёт заданного объёма; сколько токенов уйдёт на конкретное задание, заранее из него не следует.

В исходном договоре и дополнительном соглашении могут быть указаны разные сроки оплаты. Если программа поиска передала модели только пункт первоначального договора, изменения в её запросе вообще не будет. Загрузка связанных документов целиком позволяет модели увидеть обе версии.

Это объясняет пользу большого контекста при сравнении документов. Но для вопроса об одном договоре не обязательно загружать архив всех клиентов: достаточно самого договора и относящихся к нему соглашений. Поисковая программа должна учитывать эти связи, иначе вместе с лишним текстом она отбросит нужное изменение.

OpenAI указывает отдельные ставки для кэша — сохранённого текста, который можно использовать повторно. Базовое чтение стоит $1 за миллион токенов, а для запроса длиннее 272 тысяч — $2. Запись стоит соответственно $12,50 и $25 за миллион.

Кэш особенно заметен в работе с одним большим набором документов: текст остаётся прежним, а вопросы меняются. За повторно использованную часть входа применяется ставка чтения, за новый текст — обычная входная ставка. Ответ каждый раз генерируется и оплачивается заново.

Для тех же 500 тысяч токенов чтение полностью сохранённого входа составит $1 вместо $10 за новый вход. Стоимость 20 тысяч выходных токенов останется $1,50. В этом сравнении не учтены первоначальная запись в кэш, новый текст вопроса и инструменты. Скидка на чтение не убирает надбавку за длинный запрос: его размер всё ещё превышает 272 тысячи токенов.