# Во что целимся: требования вмешательств к коду прогонов Документ отвечает на один вопрос: **что нельзя сломать в прогонщиках сегодня, чтобы завтра стали возможны вмешательства из `task.md`.** Он не пересказывает `task.md` (там научная постановка) и не описывает текущее состояние прогонов (это `docs/WORKLOG.md`) — он переводит цель в требования к архитектуре кода. Создан 30.08.2026 по просьбе пользователя после того, как выяснилось: прогонщики оценивались по критерию «можно ли читать активации», а решающий критерий другой — **можно ли их подменять и синхронизировать два прогона**. ## Куда всё идёт Гипотеза работы (`task.md`): при дообучении VLM в робополитику модель **сохраняет** понимание неанглийской инструкции, но **теряет каузальную связь** между этим пониманием и генерацией действия. Доли успеха, которые мы сейчас меряем, этого не различают — они одинаковы и когда семантика стёрта, и когда она есть, но не читается головой действий. Поэтому прогоны — не конечный продукт, а **подложка** под пять технологий вмешательства. Прогонщик, годный только для подсчёта SR, придётся переписывать. ## Пять технологий и что каждая требует от кода | технология | что делает с моделью | требование к прогонщику | | --- | --- | --- | | **Layerwise probing** (`task.md` п.5) | только читает активации | доступ к модулю в своём процессе; привязка активации к шагу/оси/сцене | | **Pointing-vs-action** (п.4) | читает, но задаёт модели ДРУГОЙ вопрос | возможность вызвать VLM-голову отдельно от головы действий, на том же кадре | | **Каузальный патчинг** (п.6) | **пишет** активации | синхронный прогон ДВУХ моделей по одной сцене; подмена на конкретном слое/шаге | | **Attention ablations** («возможно ещё») | пишет маски внимания | то же плюс гранулярность до головы | | **Repair 1a/1b** (п.7) | правит веса до прогона | ничего особенного: обычный прогон изменённого чекпойнта | Строки упорядочены по возрастанию требований. **Probing — самое лёгкое, и по нему нельзя судить о готовности к остальному.** ## Решающее требование: детерминированная пара прогонов Патчинг — это не «прогон с хуком», а **два прогона, которые обязаны идти по одной траектории**, пока мы не вмешались: донор (например, английская инструкция) отдаёт активации, реципиент (русская) принимает их на том же шаге той же сцены. Отсюда три жёстких требования, которые легко сломать по неосторожности: 1. **Начальное состояние задаётся явно и воспроизводимо.** У нас это уже есть и это надо беречь: `init_state_id` на LIBERO, `episode_id` на bridge. Любая правка, вносящая недетерминированный сброс, ломает всю фазу 4. 2. **Цикл эпизода должен быть наш, пошаговый.** Прогонщик, отдающий управление чужому `rollout()`, не может остановиться на шаге k, взять активацию из другого процесса и продолжить. Это главный разделитель (см. таблицу ниже). 3. **Стохастика головы должна быть управляемой.** У потоковых голов (pi0.5, SmolVLA, GreenVLA) действие сэмплируется; без фиксированного сида донор и реципиент разойдутся сами по себе, и эффект патчинга будет неотличим от шума. Сейчас мы сид не фиксируем — **это долг, который придётся отдать.** ## Готовность по клеткам | клетка | модуль в процессе | цикл наш | вердикт | | --- | --- | --- | --- | | **GreenVLA R1/R2** | да | **да, целиком** | **годна для всего, включая патчинг** | | **SpatialVLA** | да | **да, целиком** | годна для всего | | базовый OpenVLA | да | **да, целиком** | годна; действия — токены, `output_hidden_states` особенно удобен | | OpenVLA-OFT | да | нет, авторский `run_episode` | probing да; патчинг — переписать цикл | | pi0.5 / SmolVLA | да | нет, `rollout()` lerobot | probing через хуки; патчинг — переписать цикл | | **StarVLA (обе)** | **нет, вебсокет** | да | **блокер:** править их `server_policy.py` либо поднимать модель в процессе | ## Два способа снять активации — выбирать по типу головы Уточнение пользователя 30.08: предпочитать то, что удобнее в конкретном случае. - **Голова генерирует токены** → `output_hidden_states=True` вместе с `return_dict_in_generate=True`. Хуки не нужны. Так у базового OpenVLA и OFT; у SpatialVLA `predict_action` — обёртка над генерацией, надо проверить, пробрасывает ли их `trust_remote_code`-код аргумент дальше. У базового OpenVLA действия **сами являются токенами**, поэтому представления приезжают ровно на шагах принятия решения — самая удобная форма из всех. - **Потоковая голова** (интегрирование, `select_action`) → `generate` не вызывается вовсе, флага на верхнем уровне нет. Либо хук, либо явный вызов вложенного VLM-бэкбона. Так у pi0.5, SmolVLA, GreenVLA. ## Почему GreenVLA — основная клетка, а не одна из `task.md` называет каузальную пару прямо: **Qwen3-VL ↔ GreenVLA**, база против её же робоварианта. Плюс четыре публичные стадии curriculum'а (Qwen3-VL base → Qwen3-VL-action → R0 → R1-bridge → R2-bridge) — редкий случай, когда доступна вся траектория дообучения, а не только концы. Плюс pointing-vs-action объявлена уникальной для неё. **Отсюда практическое следствие, которое стоило полтора месяца.** До 30.08 эта клетка давала 25% успеха из-за проприоцепции в чужих системах координат. На таком уровне патчинг был бы бессмыслен: изменение действия от вмешательства утонуло бы в шуме сломанного входа. После поправки — 84.4% против авторских 72.9%. **Починка GreenVLA была не уборкой хвостов, а разблокировкой основного метода работы.** ## Что это меняет в решениях сегодня - Правя прогонщик, **не выносить цикл эпизода в чужой код ради краткости** — сэкономленные строки придётся вернуть с процентами. - Новые модели заводить по образцу GreenVLA/SpatialVLA (свой пошаговый цикл), а не по образцу lerobot-обёртки. - Клиент-серверную схему не заводить нигде, кроме случаев, когда её навязывают авторы (StarVLA); там сразу считать, что клетка вне фазы 4, пока не переделана. - **Фиксация сидов** у потоковых голов — записать в долг и отдать до фазы 4. - Хранение активаций: сырые состояния 7B по всем токенам и шагам дают гигабайты на эпизод. Нужен пулинг (среднее по токенам инструкции + последний токен) и `float16`; на сервере разметки не держать, только HF. - У pi0.5 probing вести при выключенной компиляции: хуки и `torch.compile` уживаются плохо. Мы её и так выключаем флагом `--compile-model off`. ## Чего этот документ НЕ решает Порядок фаз (он в `task.md` и `TODO.md`), выбор слоёв и слотов для зондов, формат хранения активаций. Всё это решается, когда фаза начнётся; здесь только то, что нужно знать **сейчас**, чтобы её не заблокировать.