Download docs/INTERVENTION_READINESS.md from slava-research/slava-rollouts: direct link, hf CLI and curl.
- Browser
- Download file 10.8 kB
-
https://huggingface.co/datasets/slava-research/slava-rollouts/resolve/main/docs/INTERVENTION_READINESS.md
- Command line
-
hf download hf://datasets/slava-research/slava-rollouts/docs/INTERVENTION_READINESS.md
-
curl -L -o INTERVENTION_READINESS.md https://huggingface.co/datasets/slava-research/slava-rollouts/resolve/main/docs/INTERVENTION_READINESS.md
Во что целимся: требования вмешательств к коду прогонов
Документ отвечает на один вопрос: что нельзя сломать в прогонщиках сегодня,
чтобы завтра стали возможны вмешательства из task.md. Он не пересказывает
task.md (там научная постановка) и не описывает текущее состояние прогонов
(это docs/WORKLOG.md) — он переводит цель в требования к архитектуре кода.
Создан 30.08.2026 по просьбе пользователя после того, как выяснилось: прогонщики оценивались по критерию «можно ли читать активации», а решающий критерий другой — можно ли их подменять и синхронизировать два прогона.
Куда всё идёт
Гипотеза работы (task.md): при дообучении VLM в робополитику модель
сохраняет понимание неанглийской инструкции, но теряет каузальную связь
между этим пониманием и генерацией действия. Доли успеха, которые мы сейчас
меряем, этого не различают — они одинаковы и когда семантика стёрта, и когда
она есть, но не читается головой действий.
Поэтому прогоны — не конечный продукт, а подложка под пять технологий вмешательства. Прогонщик, годный только для подсчёта SR, придётся переписывать.
Пять технологий и что каждая требует от кода
| технология | что делает с моделью | требование к прогонщику |
|---|---|---|
Layerwise probing (task.md п.5) |
только читает активации | доступ к модулю в своём процессе; привязка активации к шагу/оси/сцене |
| Pointing-vs-action (п.4) | читает, но задаёт модели ДРУГОЙ вопрос | возможность вызвать VLM-голову отдельно от головы действий, на том же кадре |
| Каузальный патчинг (п.6) | пишет активации | синхронный прогон ДВУХ моделей по одной сцене; подмена на конкретном слое/шаге |
| Attention ablations («возможно ещё») | пишет маски внимания | то же плюс гранулярность до головы |
| Repair 1a/1b (п.7) | правит веса до прогона | ничего особенного: обычный прогон изменённого чекпойнта |
Строки упорядочены по возрастанию требований. Probing — самое лёгкое, и по нему нельзя судить о готовности к остальному.
Решающее требование: детерминированная пара прогонов
Патчинг — это не «прогон с хуком», а два прогона, которые обязаны идти по одной траектории, пока мы не вмешались: донор (например, английская инструкция) отдаёт активации, реципиент (русская) принимает их на том же шаге той же сцены. Отсюда три жёстких требования, которые легко сломать по неосторожности:
- Начальное состояние задаётся явно и воспроизводимо. У нас это уже есть и
это надо беречь:
init_state_idна LIBERO,episode_idна bridge. Любая правка, вносящая недетерминированный сброс, ломает всю фазу 4. - Цикл эпизода должен быть наш, пошаговый. Прогонщик, отдающий управление
чужому
rollout(), не может остановиться на шаге k, взять активацию из другого процесса и продолжить. Это главный разделитель (см. таблицу ниже). - Стохастика головы должна быть управляемой. У потоковых голов (pi0.5, SmolVLA, GreenVLA) действие сэмплируется; без фиксированного сида донор и реципиент разойдутся сами по себе, и эффект патчинга будет неотличим от шума. Сейчас мы сид не фиксируем — это долг, который придётся отдать.
Готовность по клеткам
| клетка | модуль в процессе | цикл наш | вердикт |
|---|---|---|---|
| GreenVLA R1/R2 | да | да, целиком | годна для всего, включая патчинг |
| SpatialVLA | да | да, целиком | годна для всего |
| базовый OpenVLA | да | да, целиком | годна; действия — токены, output_hidden_states особенно удобен |
| OpenVLA-OFT | да | нет, авторский run_episode |
probing да; патчинг — переписать цикл |
| pi0.5 / SmolVLA | да | нет, rollout() lerobot |
probing через хуки; патчинг — переписать цикл |
| StarVLA (обе) | нет, вебсокет | да | блокер: править их server_policy.py либо поднимать модель в процессе |
Два способа снять активации — выбирать по типу головы
Уточнение пользователя 30.08: предпочитать то, что удобнее в конкретном случае.
- Голова генерирует токены →
output_hidden_states=Trueвместе сreturn_dict_in_generate=True. Хуки не нужны. Так у базового OpenVLA и OFT; у SpatialVLApredict_action— обёртка над генерацией, надо проверить, пробрасывает ли ихtrust_remote_code-код аргумент дальше. У базового OpenVLA действия сами являются токенами, поэтому представления приезжают ровно на шагах принятия решения — самая удобная форма из всех. - Потоковая голова (интегрирование,
select_action) →generateне вызывается вовсе, флага на верхнем уровне нет. Либо хук, либо явный вызов вложенного VLM-бэкбона. Так у pi0.5, SmolVLA, GreenVLA.
Почему GreenVLA — основная клетка, а не одна из
task.md называет каузальную пару прямо: Qwen3-VL ↔ GreenVLA, база против
её же робоварианта. Плюс четыре публичные стадии curriculum'а (Qwen3-VL base →
Qwen3-VL-action → R0 → R1-bridge → R2-bridge) — редкий случай, когда доступна
вся траектория дообучения, а не только концы. Плюс pointing-vs-action объявлена
уникальной для неё.
Отсюда практическое следствие, которое стоило полтора месяца. До 30.08 эта клетка давала 25% успеха из-за проприоцепции в чужих системах координат. На таком уровне патчинг был бы бессмыслен: изменение действия от вмешательства утонуло бы в шуме сломанного входа. После поправки — 84.4% против авторских 72.9%. Починка GreenVLA была не уборкой хвостов, а разблокировкой основного метода работы.
Что это меняет в решениях сегодня
- Правя прогонщик, не выносить цикл эпизода в чужой код ради краткости — сэкономленные строки придётся вернуть с процентами.
- Новые модели заводить по образцу GreenVLA/SpatialVLA (свой пошаговый цикл), а не по образцу lerobot-обёртки.
- Клиент-серверную схему не заводить нигде, кроме случаев, когда её навязывают авторы (StarVLA); там сразу считать, что клетка вне фазы 4, пока не переделана.
- Фиксация сидов у потоковых голов — записать в долг и отдать до фазы 4.
- Хранение активаций: сырые состояния 7B по всем токенам и шагам дают гигабайты
на эпизод. Нужен пулинг (среднее по токенам инструкции + последний токен) и
float16; на сервере разметки не держать, только HF. - У pi0.5 probing вести при выключенной компиляции: хуки и
torch.compileуживаются плохо. Мы её и так выключаем флагом--compile-model off.
Чего этот документ НЕ решает
Порядок фаз (он в task.md и TODO.md), выбор слоёв и слотов для зондов,
формат хранения активаций. Всё это решается, когда фаза начнётся; здесь только
то, что нужно знать сейчас, чтобы её не заблокировать.