#!/usr/bin/env python3 """Прогон клетки «SpatialVLA × SimplerEnv/bridge». Инференс — строго по авторскому примеру из их README: processor = AutoProcessor.from_pretrained(ckpt, trust_remote_code=True) model = AutoModel.from_pretrained(ckpt, trust_remote_code=True, torch_dtype=torch.bfloat16).eval().cuda() inputs = processor(images=[image], text=prompt, return_tensors="pt") out = model.predict_action(inputs) # входы переносит их код, не наш actions = processor.decode_actions(out, unnorm_key="bridge_orig/1.0.0") `decode_actions` отдаёт словарь с `actions` формы (4, 7): чанк из четырёх действий по семь чисел. **Проприоцепция не подаётся вовсе** — модель принимает только кадр и текст. Значит ловушки с системой координат состояния, которая стоила GreenVLA почти всего SR, здесь нет по построению. Два преобразования на стыке, и они выведены из ИХ ЖЕ обучающего кода (`data/oxe/transforms.py::bridge_orig_dataset_transform`): действие там — шесть непрерывных чисел плюс `binarize_gripper_actions` на последнем. Набор `bridge_orig` тот же, что у GreenVLA, поэтому и соглашения те же: 1. **Поворот — углы Эйлера**, а контроллер WidowX ждёт вектор ось-угол (`Rotation.from_rotvec`). Переводим `euler2axangle`, как это делает эталонная обёртка SimplerEnv для этого робота. 2. **Гриппер приходит в диапазоне [0,1]**, среда ждёт [-1,1] и решительной команды. Бинаризуем: `2*(g > 0.5) - 1`. Оба отключаются флагами, чтобы мерить вклад, а не верить на слово. **Оговорка:** абсолютный уровень bridge-клеток у нас занижен у всех моделей (см. `docs/WORKLOG.md`, запись про расхождение LIBERO 4/4 и bridge 0/3). Корректно сравнивать оси внутри модели, а не проценты с авторскими числами. """ from __future__ import annotations import argparse import json import os import time from pathlib import Path BRIDGE_TASKS = ["widowx_spoon_on_towel", "widowx_carrot_on_plate", "widowx_stack_cube", "widowx_put_eggplant_in_basket"] def _set_max_steps(env, n): """Поднять лимит шагов во ВСЕЙ цепочке обёрток. Одного счётчика в нашем цикле мало: gymnasium-обёртка TimeLimit сама вернёт truncated на своём пределе. Авторы StarVLA гоняли bridge с max_episode_steps=120 (их лог прогона), а среда по умолчанию отводит 60 на три задачи из четырёх. """ if not n: return e, guard = env, 0 while e is not None and guard < 25: if hasattr(e, "_max_episode_steps"): try: e._max_episode_steps = n except Exception: pass sp = getattr(e, "spec", None) if sp is not None and getattr(sp, "max_episode_steps", None) is not None: try: sp.max_episode_steps = n except Exception: pass e = getattr(e, "env", None) guard += 1 def _plain(v): """numpy-типы из episode_stats не сериализуются в JSON — приводим к простым. Ошибка проявляется только при записи дампа, то есть после первого эпизода, и роняет прогон целиком (30.08.2026: `Object of type bool_ is not JSON serializable`). """ try: import numpy as np if isinstance(v, (np.bool_, np.integer, np.floating)): return v.item() if isinstance(v, np.ndarray): return v.tolist() except Exception: pass if isinstance(v, dict): return {str(k): _plain(x) for k, x in v.items()} if isinstance(v, (list, tuple)): return [_plain(x) for x in v] return v def parse_args() -> argparse.Namespace: ap = argparse.ArgumentParser(description=__doc__, formatter_class=argparse.RawDescriptionHelpFormatter) ap.add_argument("--manifest", type=Path, default=None) ap.add_argument("--out", required=True, type=Path) ap.add_argument("--policy", default="IPEC-COMMUNITY/spatialvla-4b-224-sft-bridge") ap.add_argument("--model-key", default="spatialvla") ap.add_argument("--unnorm-key", default="bridge_orig/1.0.0") ap.add_argument("--success-mode", default="latch", choices=["latch","terminal"], help="latch — выход по первому мгновенному успеху (ЗАВЫШАЕТ " "долю); terminal — как официальный цикл SimplerEnv: " "env-terminated игнорируется, успех берётся с последнего " "шага. Пишет оба числа: success_ever и success_terminal") ap.add_argument("--max-steps", type=int, default=0, help="лимит шагов эпизода; 0 — как задаёт среда. " "Авторы StarVLA для bridge использовали 120") ap.add_argument("--shard", default="0/1") ap.add_argument("--threads", type=int, default=8) ap.add_argument("--limit", type=int, default=None) ap.add_argument("--episodes-per-task", type=int, default=3) ap.add_argument("--action-horizon", type=int, default=1, help="сколько действий чанка исполнять открыто") ap.add_argument("--euler-to-axangle", default="on", choices=["on", "off"]) ap.add_argument("--binarize-gripper", default="on", choices=["on", "off"]) return ap.parse_args() def main() -> None: args = parse_args() os.environ.setdefault("MUJOCO_GL", "egl") if args.threads > 0: for v in ("OMP_NUM_THREADS", "MKL_NUM_THREADS", "OPENBLAS_NUM_THREADS", "NUMEXPR_NUM_THREADS", "VECLIB_MAXIMUM_THREADS"): os.environ[v] = str(args.threads) out = args.out if args.out.is_absolute() else args.out.resolve() manifest = args.manifest if manifest is not None and not manifest.is_absolute(): manifest = manifest.resolve() import numpy as np import torch import simpler_env from PIL import Image from simpler_env.utils.env.observation_utils import get_image_from_maniskill2_obs_dict from transforms3d.euler import euler2axangle from transformers import AutoModel, AutoProcessor if args.threads > 0: torch.set_num_threads(args.threads) t0 = time.time() print(f"загрузка политики {args.policy}", flush=True) proc = AutoProcessor.from_pretrained(args.policy, trust_remote_code=True) model = AutoModel.from_pretrained(args.policy, trust_remote_code=True, torch_dtype=torch.bfloat16).eval().cuda() print(f"политика загружена за {time.time() - t0:.0f} с", flush=True) def to_env_action(a: np.ndarray) -> np.ndarray: a = np.asarray(a, dtype=np.float64).copy() if args.euler_to_axangle == "on": axis, angle = euler2axangle(a[3], a[4], a[5]) a[3:6] = axis * angle if args.binarize_gripper == "on": a[6] = 2.0 * (a[6] > 0.5) - 1.0 return a rows: list[dict] = [] if manifest: rows = [json.loads(l) for l in manifest.open(encoding="utf-8") if l.strip()] else: for t in BRIDGE_TASKS: for ep in range(args.episodes_per_task): rows.append({"task_uid": f"native__{t}__ep{ep:03d}", "suite": "simpler_bridge", "task_name": t, "episode_id": ep, "instruction_axis": "native", "instruction_text": None}) i, n = (int(x) for x in args.shard.split("/")) rows = [r for k, r in enumerate(rows) if k % n == i] if args.limit: rows = rows[: args.limit] done = set() if out.exists(): for line in out.open(encoding="utf-8"): try: rec = json.loads(line) except Exception: continue done.add((rec["task_uid"], rec.get("instruction_axis"))) rows = [r for r in rows if (r["task_uid"], r.get("instruction_axis")) not in done] print(f"эпизодов к прогону: {len(rows)}", flush=True) out.parent.mkdir(parents=True, exist_ok=True) written = 0 for row in rows: task = row.get("task_name") or "" if not task.startswith("widowx_"): task = row.get("gym_env_name") or task env = simpler_env.make(task) reset_kw = {} if row.get("episode_id") is not None: reset_kw = {"options": {"obj_init_options": {"episode_id": int(row["episode_id"])}}} obs, info = env.reset(**reset_kw) native = env.get_language_instruction() prompt = row.get("instruction_text") or native _set_max_steps(env, args.max_steps) max_steps = args.max_steps or getattr( getattr(env, "spec", None), "max_episode_steps", None) or 120 t, success = 0, False success_ever = success_terminal = False ep_stats = {} t_ep = time.time() with torch.no_grad(): while t < max_steps: img = Image.fromarray(get_image_from_maniskill2_obs_dict(env, obs)).convert("RGB") inputs = proc(images=[img], text=prompt, return_tensors="pt") gen = model.predict_action(inputs) chunk = np.asarray(proc.decode_actions( gen, unnorm_key=args.unnorm_key)["actions"]).reshape(-1, 7) for a in chunk[: args.action_horizon]: obs, reward, terminated, truncated, info = env.step(to_env_action(a)) ep_stats = _plain(dict(info.get("episode_stats", ep_stats) or ep_stats)) t += 1 now = bool(info.get("success", False)) success_ever = success_ever or now success_terminal = now if args.success_mode == "latch": success = now if success or terminated or truncated or t >= max_steps: break elif truncated or t >= max_steps: # env-terminated НЕ прерывает: официальный цикл # (maniskill2_evaluator.py:109) крутится до лимита и # берёт успех с последнего шага. break if args.success_mode == "latch" and (success or terminated or truncated): break if args.success_mode == "terminal" and truncated: break seconds = time.time() - t_ep line = { "task_uid": row["task_uid"], "suite": row.get("suite", "simpler_bridge"), "task_name": row.get("task_name"), "gym_env_name": task, "episode_id": row.get("episode_id"), "init_state_id": row.get("init_state_id"), "commit": row.get("commit"), "instruction_axis": row["instruction_axis"], "instruction_text": prompt, "native_instruction": native, "image": (row.get("images") or {}).get("agentview_rgb"), "success_predicates": row.get("success_predicates"), "success": (success_terminal if args.success_mode=="terminal" else success), "success_source": "env", "episode_stats": ep_stats, "success_mode": args.success_mode, "success_ever": success_ever, "success_terminal": success_terminal, "max_steps_used": max_steps, "seconds": round(seconds, 2), "steps": t, "model": args.model_key, "policy_path": args.policy, "unnorm_key": args.unnorm_key, "action_horizon": args.action_horizon, "fixes": {"euler_to_axangle": args.euler_to_axangle, "binarize_gripper": args.binarize_gripper}, } with out.open("a", encoding="utf-8") as fh: fh.write(json.dumps(line, ensure_ascii=False) + "\n") fh.flush() written += 1 print(f"[{written}/{len(rows)}] {row['task_uid']} success={success} " f"{t} шагов {seconds:.0f}s", flush=True) env.close() print(f"готово: {written} эпизодов в {out}", flush=True) if __name__ == "__main__": main()