slava-rollouts / docs /INTERVENTION_READINESS.md
AlexKarachun's picture
Upload docs/INTERVENTION_READINESS.md with huggingface_hub
b2287cc verified
|
Raw History Blame Contribute Delete
10.8 kB

Во что целимся: требования вмешательств к коду прогонов

Документ отвечает на один вопрос: что нельзя сломать в прогонщиках сегодня, чтобы завтра стали возможны вмешательства из task.md. Он не пересказывает task.md (там научная постановка) и не описывает текущее состояние прогонов (это docs/WORKLOG.md) — он переводит цель в требования к архитектуре кода.

Создан 30.08.2026 по просьбе пользователя после того, как выяснилось: прогонщики оценивались по критерию «можно ли читать активации», а решающий критерий другой — можно ли их подменять и синхронизировать два прогона.

Куда всё идёт

Гипотеза работы (task.md): при дообучении VLM в робополитику модель сохраняет понимание неанглийской инструкции, но теряет каузальную связь между этим пониманием и генерацией действия. Доли успеха, которые мы сейчас меряем, этого не различают — они одинаковы и когда семантика стёрта, и когда она есть, но не читается головой действий.

Поэтому прогоны — не конечный продукт, а подложка под пять технологий вмешательства. Прогонщик, годный только для подсчёта SR, придётся переписывать.

Пять технологий и что каждая требует от кода

технология что делает с моделью требование к прогонщику
Layerwise probing (task.md п.5) только читает активации доступ к модулю в своём процессе; привязка активации к шагу/оси/сцене
Pointing-vs-action (п.4) читает, но задаёт модели ДРУГОЙ вопрос возможность вызвать VLM-голову отдельно от головы действий, на том же кадре
Каузальный патчинг (п.6) пишет активации синхронный прогон ДВУХ моделей по одной сцене; подмена на конкретном слое/шаге
Attention ablations («возможно ещё») пишет маски внимания то же плюс гранулярность до головы
Repair 1a/1b (п.7) правит веса до прогона ничего особенного: обычный прогон изменённого чекпойнта

Строки упорядочены по возрастанию требований. Probing — самое лёгкое, и по нему нельзя судить о готовности к остальному.

Решающее требование: детерминированная пара прогонов

Патчинг — это не «прогон с хуком», а два прогона, которые обязаны идти по одной траектории, пока мы не вмешались: донор (например, английская инструкция) отдаёт активации, реципиент (русская) принимает их на том же шаге той же сцены. Отсюда три жёстких требования, которые легко сломать по неосторожности:

  1. Начальное состояние задаётся явно и воспроизводимо. У нас это уже есть и это надо беречь: init_state_id на LIBERO, episode_id на bridge. Любая правка, вносящая недетерминированный сброс, ломает всю фазу 4.
  2. Цикл эпизода должен быть наш, пошаговый. Прогонщик, отдающий управление чужому rollout(), не может остановиться на шаге k, взять активацию из другого процесса и продолжить. Это главный разделитель (см. таблицу ниже).
  3. Стохастика головы должна быть управляемой. У потоковых голов (pi0.5, SmolVLA, GreenVLA) действие сэмплируется; без фиксированного сида донор и реципиент разойдутся сами по себе, и эффект патчинга будет неотличим от шума. Сейчас мы сид не фиксируем — это долг, который придётся отдать.

Готовность по клеткам

клетка модуль в процессе цикл наш вердикт
GreenVLA R1/R2 да да, целиком годна для всего, включая патчинг
SpatialVLA да да, целиком годна для всего
базовый OpenVLA да да, целиком годна; действия — токены, output_hidden_states особенно удобен
OpenVLA-OFT да нет, авторский run_episode probing да; патчинг — переписать цикл
pi0.5 / SmolVLA да нет, rollout() lerobot probing через хуки; патчинг — переписать цикл
StarVLA (обе) нет, вебсокет да блокер: править их server_policy.py либо поднимать модель в процессе

Два способа снять активации — выбирать по типу головы

Уточнение пользователя 30.08: предпочитать то, что удобнее в конкретном случае.

  • Голова генерирует токены → output_hidden_states=True вместе с return_dict_in_generate=True. Хуки не нужны. Так у базового OpenVLA и OFT; у SpatialVLA predict_action — обёртка над генерацией, надо проверить, пробрасывает ли их trust_remote_code-код аргумент дальше. У базового OpenVLA действия сами являются токенами, поэтому представления приезжают ровно на шагах принятия решения — самая удобная форма из всех.
  • Потоковая голова (интегрирование, select_action) → generate не вызывается вовсе, флага на верхнем уровне нет. Либо хук, либо явный вызов вложенного VLM-бэкбона. Так у pi0.5, SmolVLA, GreenVLA.

Почему GreenVLA — основная клетка, а не одна из

task.md называет каузальную пару прямо: Qwen3-VL ↔ GreenVLA, база против её же робоварианта. Плюс четыре публичные стадии curriculum'а (Qwen3-VL base → Qwen3-VL-action → R0 → R1-bridge → R2-bridge) — редкий случай, когда доступна вся траектория дообучения, а не только концы. Плюс pointing-vs-action объявлена уникальной для неё.

Отсюда практическое следствие, которое стоило полтора месяца. До 30.08 эта клетка давала 25% успеха из-за проприоцепции в чужих системах координат. На таком уровне патчинг был бы бессмыслен: изменение действия от вмешательства утонуло бы в шуме сломанного входа. После поправки — 84.4% против авторских 72.9%. Починка GreenVLA была не уборкой хвостов, а разблокировкой основного метода работы.

Что это меняет в решениях сегодня

  • Правя прогонщик, не выносить цикл эпизода в чужой код ради краткости — сэкономленные строки придётся вернуть с процентами.
  • Новые модели заводить по образцу GreenVLA/SpatialVLA (свой пошаговый цикл), а не по образцу lerobot-обёртки.
  • Клиент-серверную схему не заводить нигде, кроме случаев, когда её навязывают авторы (StarVLA); там сразу считать, что клетка вне фазы 4, пока не переделана.
  • Фиксация сидов у потоковых голов — записать в долг и отдать до фазы 4.
  • Хранение активаций: сырые состояния 7B по всем токенам и шагам дают гигабайты на эпизод. Нужен пулинг (среднее по токенам инструкции + последний токен) и float16; на сервере разметки не держать, только HF.
  • У pi0.5 probing вести при выключенной компиляции: хуки и torch.compile уживаются плохо. Мы её и так выключаем флагом --compile-model off.

Чего этот документ НЕ решает

Порядок фаз (он в task.md и TODO.md), выбор слоёв и слотов для зондов, формат хранения активаций. Всё это решается, когда фаза начнётся; здесь только то, что нужно знать сейчас, чтобы её не заблокировать.