slava-rollouts / docs /INTERVENTION_READINESS.md
AlexKarachun's picture
Upload docs/INTERVENTION_READINESS.md with huggingface_hub
b2287cc verified
|
Raw History Blame Contribute Delete
10.8 kB
# Во что целимся: требования вмешательств к коду прогонов
Документ отвечает на один вопрос: **что нельзя сломать в прогонщиках сегодня,
чтобы завтра стали возможны вмешательства из `task.md`.** Он не пересказывает
`task.md` (там научная постановка) и не описывает текущее состояние прогонов
(это `docs/WORKLOG.md`) — он переводит цель в требования к архитектуре кода.
Создан 30.08.2026 по просьбе пользователя после того, как выяснилось: прогонщики
оценивались по критерию «можно ли читать активации», а решающий критерий
другой — **можно ли их подменять и синхронизировать два прогона**.
## Куда всё идёт
Гипотеза работы (`task.md`): при дообучении VLM в робополитику модель
**сохраняет** понимание неанглийской инструкции, но **теряет каузальную связь**
между этим пониманием и генерацией действия. Доли успеха, которые мы сейчас
меряем, этого не различают — они одинаковы и когда семантика стёрта, и когда
она есть, но не читается головой действий.
Поэтому прогоны — не конечный продукт, а **подложка** под пять технологий
вмешательства. Прогонщик, годный только для подсчёта SR, придётся переписывать.
## Пять технологий и что каждая требует от кода
| технология | что делает с моделью | требование к прогонщику |
| --- | --- | --- |
| **Layerwise probing** (`task.md` п.5) | только читает активации | доступ к модулю в своём процессе; привязка активации к шагу/оси/сцене |
| **Pointing-vs-action** (п.4) | читает, но задаёт модели ДРУГОЙ вопрос | возможность вызвать VLM-голову отдельно от головы действий, на том же кадре |
| **Каузальный патчинг** (п.6) | **пишет** активации | синхронный прогон ДВУХ моделей по одной сцене; подмена на конкретном слое/шаге |
| **Attention ablations** («возможно ещё») | пишет маски внимания | то же плюс гранулярность до головы |
| **Repair 1a/1b** (п.7) | правит веса до прогона | ничего особенного: обычный прогон изменённого чекпойнта |
Строки упорядочены по возрастанию требований. **Probing — самое лёгкое, и по
нему нельзя судить о готовности к остальному.**
## Решающее требование: детерминированная пара прогонов
Патчинг — это не «прогон с хуком», а **два прогона, которые обязаны идти по
одной траектории**, пока мы не вмешались: донор (например, английская
инструкция) отдаёт активации, реципиент (русская) принимает их на том же шаге
той же сцены. Отсюда три жёстких требования, которые легко сломать по
неосторожности:
1. **Начальное состояние задаётся явно и воспроизводимо.** У нас это уже есть и
это надо беречь: `init_state_id` на LIBERO, `episode_id` на bridge. Любая
правка, вносящая недетерминированный сброс, ломает всю фазу 4.
2. **Цикл эпизода должен быть наш, пошаговый.** Прогонщик, отдающий управление
чужому `rollout()`, не может остановиться на шаге k, взять активацию из
другого процесса и продолжить. Это главный разделитель (см. таблицу ниже).
3. **Стохастика головы должна быть управляемой.** У потоковых голов (pi0.5,
SmolVLA, GreenVLA) действие сэмплируется; без фиксированного сида донор и
реципиент разойдутся сами по себе, и эффект патчинга будет неотличим от шума.
Сейчас мы сид не фиксируем — **это долг, который придётся отдать.**
## Готовность по клеткам
| клетка | модуль в процессе | цикл наш | вердикт |
| --- | --- | --- | --- |
| **GreenVLA R1/R2** | да | **да, целиком** | **годна для всего, включая патчинг** |
| **SpatialVLA** | да | **да, целиком** | годна для всего |
| базовый OpenVLA | да | **да, целиком** | годна; действия — токены, `output_hidden_states` особенно удобен |
| OpenVLA-OFT | да | нет, авторский `run_episode` | probing да; патчинг — переписать цикл |
| pi0.5 / SmolVLA | да | нет, `rollout()` lerobot | probing через хуки; патчинг — переписать цикл |
| **StarVLA (обе)** | **нет, вебсокет** | да | **блокер:** править их `server_policy.py` либо поднимать модель в процессе |
## Два способа снять активации — выбирать по типу головы
Уточнение пользователя 30.08: предпочитать то, что удобнее в конкретном случае.
- **Голова генерирует токены** → `output_hidden_states=True` вместе с
`return_dict_in_generate=True`. Хуки не нужны. Так у базового OpenVLA и OFT;
у SpatialVLA `predict_action` — обёртка над генерацией, надо проверить,
пробрасывает ли их `trust_remote_code`-код аргумент дальше.
У базового OpenVLA действия **сами являются токенами**, поэтому представления
приезжают ровно на шагах принятия решения — самая удобная форма из всех.
- **Потоковая голова** (интегрирование, `select_action`) → `generate` не
вызывается вовсе, флага на верхнем уровне нет. Либо хук, либо явный вызов
вложенного VLM-бэкбона. Так у pi0.5, SmolVLA, GreenVLA.
## Почему GreenVLA — основная клетка, а не одна из
`task.md` называет каузальную пару прямо: **Qwen3-VL ↔ GreenVLA**, база против
её же робоварианта. Плюс четыре публичные стадии curriculum'а (Qwen3-VL base →
Qwen3-VL-action → R0 → R1-bridge → R2-bridge) — редкий случай, когда доступна
вся траектория дообучения, а не только концы. Плюс pointing-vs-action объявлена
уникальной для неё.
**Отсюда практическое следствие, которое стоило полтора месяца.** До 30.08 эта
клетка давала 25% успеха из-за проприоцепции в чужих системах координат. На
таком уровне патчинг был бы бессмыслен: изменение действия от вмешательства
утонуло бы в шуме сломанного входа. После поправки — 84.4% против авторских
72.9%. **Починка GreenVLA была не уборкой хвостов, а разблокировкой основного
метода работы.**
## Что это меняет в решениях сегодня
- Правя прогонщик, **не выносить цикл эпизода в чужой код ради краткости** —
сэкономленные строки придётся вернуть с процентами.
- Новые модели заводить по образцу GreenVLA/SpatialVLA (свой пошаговый цикл),
а не по образцу lerobot-обёртки.
- Клиент-серверную схему не заводить нигде, кроме случаев, когда её навязывают
авторы (StarVLA); там сразу считать, что клетка вне фазы 4, пока не переделана.
- **Фиксация сидов** у потоковых голов — записать в долг и отдать до фазы 4.
- Хранение активаций: сырые состояния 7B по всем токенам и шагам дают гигабайты
на эпизод. Нужен пулинг (среднее по токенам инструкции + последний токен) и
`float16`; на сервере разметки не держать, только HF.
- У pi0.5 probing вести при выключенной компиляции: хуки и `torch.compile`
уживаются плохо. Мы её и так выключаем флагом `--compile-model off`.
## Чего этот документ НЕ решает
Порядок фаз (он в `task.md` и `TODO.md`), выбор слоёв и слотов для зондов,
формат хранения активаций. Всё это решается, когда фаза начнётся; здесь только
то, что нужно знать **сейчас**, чтобы её не заблокировать.