|
Download docs/INTERVENTION_READINESS.md from slava-research/slava-rollouts: direct link, hf CLI and curl.
- Browser
- Download file 10.8 kB
-
https://huggingface.co/datasets/slava-research/slava-rollouts/resolve/main/docs/INTERVENTION_READINESS.md
- Command line
-
hf download hf://datasets/slava-research/slava-rollouts/docs/INTERVENTION_READINESS.md
-
curl -L -o INTERVENTION_READINESS.md https://huggingface.co/datasets/slava-research/slava-rollouts/resolve/main/docs/INTERVENTION_READINESS.md
10.8 kB
| # Во что целимся: требования вмешательств к коду прогонов | |
| Документ отвечает на один вопрос: **что нельзя сломать в прогонщиках сегодня, | |
| чтобы завтра стали возможны вмешательства из `task.md`.** Он не пересказывает | |
| `task.md` (там научная постановка) и не описывает текущее состояние прогонов | |
| (это `docs/WORKLOG.md`) — он переводит цель в требования к архитектуре кода. | |
| Создан 30.08.2026 по просьбе пользователя после того, как выяснилось: прогонщики | |
| оценивались по критерию «можно ли читать активации», а решающий критерий | |
| другой — **можно ли их подменять и синхронизировать два прогона**. | |
| ## Куда всё идёт | |
| Гипотеза работы (`task.md`): при дообучении VLM в робополитику модель | |
| **сохраняет** понимание неанглийской инструкции, но **теряет каузальную связь** | |
| между этим пониманием и генерацией действия. Доли успеха, которые мы сейчас | |
| меряем, этого не различают — они одинаковы и когда семантика стёрта, и когда | |
| она есть, но не читается головой действий. | |
| Поэтому прогоны — не конечный продукт, а **подложка** под пять технологий | |
| вмешательства. Прогонщик, годный только для подсчёта SR, придётся переписывать. | |
| ## Пять технологий и что каждая требует от кода | |
| | технология | что делает с моделью | требование к прогонщику | | |
| | --- | --- | --- | | |
| | **Layerwise probing** (`task.md` п.5) | только читает активации | доступ к модулю в своём процессе; привязка активации к шагу/оси/сцене | | |
| | **Pointing-vs-action** (п.4) | читает, но задаёт модели ДРУГОЙ вопрос | возможность вызвать VLM-голову отдельно от головы действий, на том же кадре | | |
| | **Каузальный патчинг** (п.6) | **пишет** активации | синхронный прогон ДВУХ моделей по одной сцене; подмена на конкретном слое/шаге | | |
| | **Attention ablations** («возможно ещё») | пишет маски внимания | то же плюс гранулярность до головы | | |
| | **Repair 1a/1b** (п.7) | правит веса до прогона | ничего особенного: обычный прогон изменённого чекпойнта | | |
| Строки упорядочены по возрастанию требований. **Probing — самое лёгкое, и по | |
| нему нельзя судить о готовности к остальному.** | |
| ## Решающее требование: детерминированная пара прогонов | |
| Патчинг — это не «прогон с хуком», а **два прогона, которые обязаны идти по | |
| одной траектории**, пока мы не вмешались: донор (например, английская | |
| инструкция) отдаёт активации, реципиент (русская) принимает их на том же шаге | |
| той же сцены. Отсюда три жёстких требования, которые легко сломать по | |
| неосторожности: | |
| 1. **Начальное состояние задаётся явно и воспроизводимо.** У нас это уже есть и | |
| это надо беречь: `init_state_id` на LIBERO, `episode_id` на bridge. Любая | |
| правка, вносящая недетерминированный сброс, ломает всю фазу 4. | |
| 2. **Цикл эпизода должен быть наш, пошаговый.** Прогонщик, отдающий управление | |
| чужому `rollout()`, не может остановиться на шаге k, взять активацию из | |
| другого процесса и продолжить. Это главный разделитель (см. таблицу ниже). | |
| 3. **Стохастика головы должна быть управляемой.** У потоковых голов (pi0.5, | |
| SmolVLA, GreenVLA) действие сэмплируется; без фиксированного сида донор и | |
| реципиент разойдутся сами по себе, и эффект патчинга будет неотличим от шума. | |
| Сейчас мы сид не фиксируем — **это долг, который придётся отдать.** | |
| ## Готовность по клеткам | |
| | клетка | модуль в процессе | цикл наш | вердикт | | |
| | --- | --- | --- | --- | | |
| | **GreenVLA R1/R2** | да | **да, целиком** | **годна для всего, включая патчинг** | | |
| | **SpatialVLA** | да | **да, целиком** | годна для всего | | |
| | базовый OpenVLA | да | **да, целиком** | годна; действия — токены, `output_hidden_states` особенно удобен | | |
| | OpenVLA-OFT | да | нет, авторский `run_episode` | probing да; патчинг — переписать цикл | | |
| | pi0.5 / SmolVLA | да | нет, `rollout()` lerobot | probing через хуки; патчинг — переписать цикл | | |
| | **StarVLA (обе)** | **нет, вебсокет** | да | **блокер:** править их `server_policy.py` либо поднимать модель в процессе | | |
| ## Два способа снять активации — выбирать по типу головы | |
| Уточнение пользователя 30.08: предпочитать то, что удобнее в конкретном случае. | |
| - **Голова генерирует токены** → `output_hidden_states=True` вместе с | |
| `return_dict_in_generate=True`. Хуки не нужны. Так у базового OpenVLA и OFT; | |
| у SpatialVLA `predict_action` — обёртка над генерацией, надо проверить, | |
| пробрасывает ли их `trust_remote_code`-код аргумент дальше. | |
| У базового OpenVLA действия **сами являются токенами**, поэтому представления | |
| приезжают ровно на шагах принятия решения — самая удобная форма из всех. | |
| - **Потоковая голова** (интегрирование, `select_action`) → `generate` не | |
| вызывается вовсе, флага на верхнем уровне нет. Либо хук, либо явный вызов | |
| вложенного VLM-бэкбона. Так у pi0.5, SmolVLA, GreenVLA. | |
| ## Почему GreenVLA — основная клетка, а не одна из | |
| `task.md` называет каузальную пару прямо: **Qwen3-VL ↔ GreenVLA**, база против | |
| её же робоварианта. Плюс четыре публичные стадии curriculum'а (Qwen3-VL base → | |
| Qwen3-VL-action → R0 → R1-bridge → R2-bridge) — редкий случай, когда доступна | |
| вся траектория дообучения, а не только концы. Плюс pointing-vs-action объявлена | |
| уникальной для неё. | |
| **Отсюда практическое следствие, которое стоило полтора месяца.** До 30.08 эта | |
| клетка давала 25% успеха из-за проприоцепции в чужих системах координат. На | |
| таком уровне патчинг был бы бессмыслен: изменение действия от вмешательства | |
| утонуло бы в шуме сломанного входа. После поправки — 84.4% против авторских | |
| 72.9%. **Починка GreenVLA была не уборкой хвостов, а разблокировкой основного | |
| метода работы.** | |
| ## Что это меняет в решениях сегодня | |
| - Правя прогонщик, **не выносить цикл эпизода в чужой код ради краткости** — | |
| сэкономленные строки придётся вернуть с процентами. | |
| - Новые модели заводить по образцу GreenVLA/SpatialVLA (свой пошаговый цикл), | |
| а не по образцу lerobot-обёртки. | |
| - Клиент-серверную схему не заводить нигде, кроме случаев, когда её навязывают | |
| авторы (StarVLA); там сразу считать, что клетка вне фазы 4, пока не переделана. | |
| - **Фиксация сидов** у потоковых голов — записать в долг и отдать до фазы 4. | |
| - Хранение активаций: сырые состояния 7B по всем токенам и шагам дают гигабайты | |
| на эпизод. Нужен пулинг (среднее по токенам инструкции + последний токен) и | |
| `float16`; на сервере разметки не держать, только HF. | |
| - У pi0.5 probing вести при выключенной компиляции: хуки и `torch.compile` | |
| уживаются плохо. Мы её и так выключаем флагом `--compile-model off`. | |
| ## Чего этот документ НЕ решает | |
| Порядок фаз (он в `task.md` и `TODO.md`), выбор слоёв и слотов для зондов, | |
| формат хранения активаций. Всё это решается, когда фаза начнётся; здесь только | |
| то, что нужно знать **сейчас**, чтобы её не заблокировать. | |