Datasets:

slava-research
/

slava-rollouts

#!/usr/bin/env python3
"""Прогон клетки «SpatialVLA × SimplerEnv/bridge».
Инференс — строго по авторскому примеру из их README:
    processor = AutoProcessor.from_pretrained(ckpt, trust_remote_code=True)
    model = AutoModel.from_pretrained(ckpt, trust_remote_code=True,
                                      torch_dtype=torch.bfloat16).eval().cuda()
    inputs = processor(images=[image], text=prompt, return_tensors="pt")
    out = model.predict_action(inputs)      # входы переносит их код, не наш
    actions = processor.decode_actions(out, unnorm_key="bridge_orig/1.0.0")
`decode_actions` отдаёт словарь с `actions` формы (4, 7): чанк из четырёх
действий по семь чисел.
**Проприоцепция не подаётся вовсе** — модель принимает только кадр и текст.
Значит ловушки с системой координат состояния, которая стоила GreenVLA почти
всего SR, здесь нет по построению.
Два преобразования на стыке, и они выведены из ИХ ЖЕ обучающего кода
(`data/oxe/transforms.py::bridge_orig_dataset_transform`): действие там —
шесть непрерывных чисел плюс `binarize_gripper_actions` на последнем. Набор
`bridge_orig` тот же, что у GreenVLA, поэтому и соглашения те же:
1. **Поворот — углы Эйлера**, а контроллер WidowX ждёт вектор ось-угол
   (`Rotation.from_rotvec`). Переводим `euler2axangle`, как это делает
   эталонная обёртка SimplerEnv для этого робота.
2. **Гриппер приходит в диапазоне [0,1]**, среда ждёт [-1,1] и решительной
   команды. Бинаризуем: `2*(g > 0.5) - 1`.
Оба отключаются флагами, чтобы мерить вклад, а не верить на слово.
**Оговорка:** абсолютный уровень bridge-клеток у нас занижен у всех моделей
(см. `docs/WORKLOG.md`, запись про расхождение LIBERO 4/4 и bridge 0/3).
Корректно сравнивать оси внутри модели, а не проценты с авторскими числами.
"""
from __future__ import annotations

import argparse
import json
import os
import time
from pathlib import Path

BRIDGE_TASKS = ["widowx_spoon_on_towel", "widowx_carrot_on_plate",
                "widowx_stack_cube", "widowx_put_eggplant_in_basket"]



def _set_max_steps(env, n):
    """Поднять лимит шагов во ВСЕЙ цепочке обёрток.
    Одного счётчика в нашем цикле мало: gymnasium-обёртка TimeLimit сама вернёт
    truncated на своём пределе. Авторы StarVLA гоняли bridge с
    max_episode_steps=120 (их лог прогона), а среда по умолчанию отводит 60 на
    три задачи из четырёх.
    """
    if not n:
        return
    e, guard = env, 0
    while e is not None and guard < 25:
        if hasattr(e, "_max_episode_steps"):
            try:
                e._max_episode_steps = n
            except Exception:
                pass
        sp = getattr(e, "spec", None)
        if sp is not None and getattr(sp, "max_episode_steps", None) is not None:
            try:
                sp.max_episode_steps = n
            except Exception:
                pass
        e = getattr(e, "env", None)
        guard += 1



def _plain(v):
    """numpy-типы из episode_stats не сериализуются в JSON — приводим к простым.
    Ошибка проявляется только при записи дампа, то есть после первого эпизода,
    и роняет прогон целиком (30.08.2026: `Object of type bool_ is not JSON
    serializable`).
    """
    try:
        import numpy as np
        if isinstance(v, (np.bool_, np.integer, np.floating)):
            return v.item()
        if isinstance(v, np.ndarray):
            return v.tolist()
    except Exception:
        pass
    if isinstance(v, dict):
        return {str(k): _plain(x) for k, x in v.items()}
    if isinstance(v, (list, tuple)):
        return [_plain(x) for x in v]
    return v


def parse_args() -> argparse.Namespace:
    ap = argparse.ArgumentParser(description=__doc__,
                                 formatter_class=argparse.RawDescriptionHelpFormatter)
    ap.add_argument("--manifest", type=Path, default=None)
    ap.add_argument("--out", required=True, type=Path)
    ap.add_argument("--policy", default="IPEC-COMMUNITY/spatialvla-4b-224-sft-bridge")
    ap.add_argument("--model-key", default="spatialvla")
    ap.add_argument("--unnorm-key", default="bridge_orig/1.0.0")
    ap.add_argument("--success-mode", default="latch", choices=["latch","terminal"],
                    help="latch — выход по первому мгновенному успеху (ЗАВЫШАЕТ "
                         "долю); terminal — как официальный цикл SimplerEnv: "
                         "env-terminated игнорируется, успех берётся с последнего "
                         "шага. Пишет оба числа: success_ever и success_terminal")
    ap.add_argument("--max-steps", type=int, default=0,
                    help="лимит шагов эпизода; 0 — как задаёт среда. "
                         "Авторы StarVLA для bridge использовали 120")
    ap.add_argument("--shard", default="0/1")
    ap.add_argument("--threads", type=int, default=8)
    ap.add_argument("--limit", type=int, default=None)
    ap.add_argument("--episodes-per-task", type=int, default=3)
    ap.add_argument("--action-horizon", type=int, default=1,
                    help="сколько действий чанка исполнять открыто")
    ap.add_argument("--euler-to-axangle", default="on", choices=["on", "off"])
    ap.add_argument("--binarize-gripper", default="on", choices=["on", "off"])
    return ap.parse_args()


def main() -> None:
    args = parse_args()
    os.environ.setdefault("MUJOCO_GL", "egl")
    if args.threads > 0:
        for v in ("OMP_NUM_THREADS", "MKL_NUM_THREADS", "OPENBLAS_NUM_THREADS",
                  "NUMEXPR_NUM_THREADS", "VECLIB_MAXIMUM_THREADS"):
            os.environ[v] = str(args.threads)

    out = args.out if args.out.is_absolute() else args.out.resolve()
    manifest = args.manifest
    if manifest is not None and not manifest.is_absolute():
        manifest = manifest.resolve()

    import numpy as np
    import torch
    import simpler_env
    from PIL import Image
    from simpler_env.utils.env.observation_utils import get_image_from_maniskill2_obs_dict
    from transforms3d.euler import euler2axangle
    from transformers import AutoModel, AutoProcessor

    if args.threads > 0:
        torch.set_num_threads(args.threads)

    t0 = time.time()
    print(f"загрузка политики {args.policy}", flush=True)
    proc = AutoProcessor.from_pretrained(args.policy, trust_remote_code=True)
    model = AutoModel.from_pretrained(args.policy, trust_remote_code=True,
                                      torch_dtype=torch.bfloat16).eval().cuda()
    print(f"политика загружена за {time.time() - t0:.0f} с", flush=True)

    def to_env_action(a: np.ndarray) -> np.ndarray:
        a = np.asarray(a, dtype=np.float64).copy()
        if args.euler_to_axangle == "on":
            axis, angle = euler2axangle(a[3], a[4], a[5])
            a[3:6] = axis * angle
        if args.binarize_gripper == "on":
            a[6] = 2.0 * (a[6] > 0.5) - 1.0
        return a

    rows: list[dict] = []
    if manifest:
        rows = [json.loads(l) for l in manifest.open(encoding="utf-8") if l.strip()]
    else:
        for t in BRIDGE_TASKS:
            for ep in range(args.episodes_per_task):
                rows.append({"task_uid": f"native__{t}__ep{ep:03d}", "suite": "simpler_bridge",
                             "task_name": t, "episode_id": ep,
                             "instruction_axis": "native", "instruction_text": None})
    i, n = (int(x) for x in args.shard.split("/"))
    rows = [r for k, r in enumerate(rows) if k % n == i]
    if args.limit:
        rows = rows[: args.limit]
    done = set()
    if out.exists():
        for line in out.open(encoding="utf-8"):
            try:
                rec = json.loads(line)
            except Exception:
                continue
            done.add((rec["task_uid"], rec.get("instruction_axis")))
    rows = [r for r in rows
            if (r["task_uid"], r.get("instruction_axis")) not in done]
    print(f"эпизодов к прогону: {len(rows)}", flush=True)
    out.parent.mkdir(parents=True, exist_ok=True)

    written = 0
    for row in rows:
        task = row.get("task_name") or ""
        if not task.startswith("widowx_"):
            task = row.get("gym_env_name") or task
        env = simpler_env.make(task)
        reset_kw = {}
        if row.get("episode_id") is not None:
            reset_kw = {"options": {"obj_init_options": {"episode_id": int(row["episode_id"])}}}
        obs, info = env.reset(**reset_kw)
        native = env.get_language_instruction()
        prompt = row.get("instruction_text") or native

        _set_max_steps(env, args.max_steps)
        max_steps = args.max_steps or getattr(
            getattr(env, "spec", None), "max_episode_steps", None) or 120
        t, success = 0, False
        success_ever = success_terminal = False
        ep_stats = {}
        t_ep = time.time()
        with torch.no_grad():
            while t < max_steps:
                img = Image.fromarray(get_image_from_maniskill2_obs_dict(env, obs)).convert("RGB")
                inputs = proc(images=[img], text=prompt, return_tensors="pt")
                gen = model.predict_action(inputs)
                chunk = np.asarray(proc.decode_actions(
                    gen, unnorm_key=args.unnorm_key)["actions"]).reshape(-1, 7)
                for a in chunk[: args.action_horizon]:
                    obs, reward, terminated, truncated, info = env.step(to_env_action(a))
                    ep_stats = _plain(dict(info.get("episode_stats", ep_stats) or ep_stats))
                    t += 1
                    now = bool(info.get("success", False))
                    success_ever = success_ever or now
                    success_terminal = now
                    if args.success_mode == "latch":
                        success = now
                        if success or terminated or truncated or t >= max_steps:
                            break
                    elif truncated or t >= max_steps:
                        # env-terminated НЕ прерывает: официальный цикл
                        # (maniskill2_evaluator.py:109) крутится до лимита и
                        # берёт успех с последнего шага.
                        break
                if args.success_mode == "latch" and (success or terminated or truncated):
                    break
                if args.success_mode == "terminal" and truncated:
                    break
        seconds = time.time() - t_ep

        line = {
            "task_uid": row["task_uid"], "suite": row.get("suite", "simpler_bridge"),
            "task_name": row.get("task_name"), "gym_env_name": task,
            "episode_id": row.get("episode_id"), "init_state_id": row.get("init_state_id"),
            "commit": row.get("commit"),
            "instruction_axis": row["instruction_axis"],
            "instruction_text": prompt, "native_instruction": native,
            "image": (row.get("images") or {}).get("agentview_rgb"),
            "success_predicates": row.get("success_predicates"),
            "success": (success_terminal if args.success_mode=="terminal" else success),
            "success_source": "env", "episode_stats": ep_stats, "success_mode": args.success_mode,
            "success_ever": success_ever, "success_terminal": success_terminal,
            "max_steps_used": max_steps, "seconds": round(seconds, 2), "steps": t,
            "model": args.model_key, "policy_path": args.policy,
            "unnorm_key": args.unnorm_key,
            "action_horizon": args.action_horizon,
            "fixes": {"euler_to_axangle": args.euler_to_axangle,
                      "binarize_gripper": args.binarize_gripper},
        }
        with out.open("a", encoding="utf-8") as fh:
            fh.write(json.dumps(line, ensure_ascii=False) + "\n")
            fh.flush()
        written += 1
        print(f"[{written}/{len(rows)}] {row['task_uid']} success={success} "
              f"{t} шагов {seconds:.0f}s", flush=True)
        env.close()

    print(f"готово: {written} эпизодов в {out}", flush=True)


if __name__ == "__main__":
    main()

	#!/usr/bin/env python3
	"""Прогон клетки «SpatialVLA × SimplerEnv/bridge».

	Инференс — строго по авторскому примеру из их README:

	processor = AutoProcessor.from_pretrained(ckpt, trust_remote_code=True)
	model = AutoModel.from_pretrained(ckpt, trust_remote_code=True,
	torch_dtype=torch.bfloat16).eval().cuda()
	inputs = processor(images=[image], text=prompt, return_tensors="pt")
	out = model.predict_action(inputs) # входы переносит их код, не наш
	actions = processor.decode_actions(out, unnorm_key="bridge_orig/1.0.0")

	`decode_actions` отдаёт словарь с `actions` формы (4, 7): чанк из четырёх
	действий по семь чисел.

	Проприоцепция не подаётся вовсе — модель принимает только кадр и текст.
	Значит ловушки с системой координат состояния, которая стоила GreenVLA почти
	всего SR, здесь нет по построению.

	Два преобразования на стыке, и они выведены из ИХ ЖЕ обучающего кода
	(`data/oxe/transforms.py::bridge_orig_dataset_transform`): действие там —
	шесть непрерывных чисел плюс `binarize_gripper_actions` на последнем. Набор
	`bridge_orig` тот же, что у GreenVLA, поэтому и соглашения те же:

	1. Поворот — углы Эйлера, а контроллер WidowX ждёт вектор ось-угол
	(`Rotation.from_rotvec`). Переводим `euler2axangle`, как это делает
	эталонная обёртка SimplerEnv для этого робота.
	2. Гриппер приходит в диапазоне [0,1], среда ждёт [-1,1] и решительной
	команды. Бинаризуем: `2*(g > 0.5) - 1`.

	Оба отключаются флагами, чтобы мерить вклад, а не верить на слово.

	Оговорка: абсолютный уровень bridge-клеток у нас занижен у всех моделей
	(см. `docs/WORKLOG.md`, запись про расхождение LIBERO 4/4 и bridge 0/3).
	Корректно сравнивать оси внутри модели, а не проценты с авторскими числами.
	"""
	from __future__ import annotations

	import argparse
	import json
	import os
	import time
	from pathlib import Path

	BRIDGE_TASKS = ["widowx_spoon_on_towel", "widowx_carrot_on_plate",
	"widowx_stack_cube", "widowx_put_eggplant_in_basket"]



	def _set_max_steps(env, n):
	"""Поднять лимит шагов во ВСЕЙ цепочке обёрток.

	Одного счётчика в нашем цикле мало: gymnasium-обёртка TimeLimit сама вернёт
	truncated на своём пределе. Авторы StarVLA гоняли bridge с
	max_episode_steps=120 (их лог прогона), а среда по умолчанию отводит 60 на
	три задачи из четырёх.
	"""
	if not n:
	return
	e, guard = env, 0
	while e is not None and guard < 25:
	if hasattr(e, "_max_episode_steps"):
	try:
	e._max_episode_steps = n
	except Exception:
	pass
	sp = getattr(e, "spec", None)
	if sp is not None and getattr(sp, "max_episode_steps", None) is not None:
	try:
	sp.max_episode_steps = n
	except Exception:
	pass
	e = getattr(e, "env", None)
	guard += 1



	def _plain(v):
	"""numpy-типы из episode_stats не сериализуются в JSON — приводим к простым.

	Ошибка проявляется только при записи дампа, то есть после первого эпизода,
	и роняет прогон целиком (30.08.2026: `Object of type bool_ is not JSON
	serializable`).
	"""
	try:
	import numpy as np
	if isinstance(v, (np.bool_, np.integer, np.floating)):
	return v.item()
	if isinstance(v, np.ndarray):
	return v.tolist()
	except Exception:
	pass
	if isinstance(v, dict):
	return {str(k): _plain(x) for k, x in v.items()}
	if isinstance(v, (list, tuple)):
	return [_plain(x) for x in v]
	return v


	def parse_args() -> argparse.Namespace:
	ap = argparse.ArgumentParser(description=__doc__,
	formatter_class=argparse.RawDescriptionHelpFormatter)
	ap.add_argument("--manifest", type=Path, default=None)
	ap.add_argument("--out", required=True, type=Path)
	ap.add_argument("--policy", default="IPEC-COMMUNITY/spatialvla-4b-224-sft-bridge")
	ap.add_argument("--model-key", default="spatialvla")
	ap.add_argument("--unnorm-key", default="bridge_orig/1.0.0")
	ap.add_argument("--success-mode", default="latch", choices=["latch","terminal"],
	help="latch — выход по первому мгновенному успеху (ЗАВЫШАЕТ "
	"долю); terminal — как официальный цикл SimplerEnv: "
	"env-terminated игнорируется, успех берётся с последнего "
	"шага. Пишет оба числа: success_ever и success_terminal")
	ap.add_argument("--max-steps", type=int, default=0,
	help="лимит шагов эпизода; 0 — как задаёт среда. "
	"Авторы StarVLA для bridge использовали 120")
	ap.add_argument("--shard", default="0/1")
	ap.add_argument("--threads", type=int, default=8)
	ap.add_argument("--limit", type=int, default=None)
	ap.add_argument("--episodes-per-task", type=int, default=3)
	ap.add_argument("--action-horizon", type=int, default=1,
	help="сколько действий чанка исполнять открыто")
	ap.add_argument("--euler-to-axangle", default="on", choices=["on", "off"])
	ap.add_argument("--binarize-gripper", default="on", choices=["on", "off"])
	return ap.parse_args()


	def main() -> None:
	args = parse_args()
	os.environ.setdefault("MUJOCO_GL", "egl")
	if args.threads > 0:
	for v in ("OMP_NUM_THREADS", "MKL_NUM_THREADS", "OPENBLAS_NUM_THREADS",
	"NUMEXPR_NUM_THREADS", "VECLIB_MAXIMUM_THREADS"):
	os.environ[v] = str(args.threads)

	out = args.out if args.out.is_absolute() else args.out.resolve()
	manifest = args.manifest
	if manifest is not None and not manifest.is_absolute():
	manifest = manifest.resolve()

	import numpy as np
	import torch
	import simpler_env
	from PIL import Image
	from simpler_env.utils.env.observation_utils import get_image_from_maniskill2_obs_dict
	from transforms3d.euler import euler2axangle
	from transformers import AutoModel, AutoProcessor

	if args.threads > 0:
	torch.set_num_threads(args.threads)

	t0 = time.time()
	print(f"загрузка политики {args.policy}", flush=True)
	proc = AutoProcessor.from_pretrained(args.policy, trust_remote_code=True)
	model = AutoModel.from_pretrained(args.policy, trust_remote_code=True,
	torch_dtype=torch.bfloat16).eval().cuda()
	print(f"политика загружена за {time.time() - t0:.0f} с", flush=True)

	def to_env_action(a: np.ndarray) -> np.ndarray:
	a = np.asarray(a, dtype=np.float64).copy()
	if args.euler_to_axangle == "on":
	axis, angle = euler2axangle(a[3], a[4], a[5])
	a[3:6] = axis * angle
	if args.binarize_gripper == "on":
	a[6] = 2.0 * (a[6] > 0.5) - 1.0
	return a

	rows: list[dict] = []
	if manifest:
	rows = [json.loads(l) for l in manifest.open(encoding="utf-8") if l.strip()]
	else:
	for t in BRIDGE_TASKS:
	for ep in range(args.episodes_per_task):
	rows.append({"task_uid": f"native__{t}__ep{ep:03d}", "suite": "simpler_bridge",
	"task_name": t, "episode_id": ep,
	"instruction_axis": "native", "instruction_text": None})
	i, n = (int(x) for x in args.shard.split("/"))
	rows = [r for k, r in enumerate(rows) if k % n == i]
	if args.limit:
	rows = rows[: args.limit]
	done = set()
	if out.exists():
	for line in out.open(encoding="utf-8"):
	try:
	rec = json.loads(line)
	except Exception:
	continue
	done.add((rec["task_uid"], rec.get("instruction_axis")))
	rows = [r for r in rows
	if (r["task_uid"], r.get("instruction_axis")) not in done]
	print(f"эпизодов к прогону: {len(rows)}", flush=True)
	out.parent.mkdir(parents=True, exist_ok=True)

	written = 0
	for row in rows:
	task = row.get("task_name") or ""
	if not task.startswith("widowx_"):
	task = row.get("gym_env_name") or task
	env = simpler_env.make(task)
	reset_kw = {}
	if row.get("episode_id") is not None:
	reset_kw = {"options": {"obj_init_options": {"episode_id": int(row["episode_id"])}}}
	obs, info = env.reset(**reset_kw)
	native = env.get_language_instruction()
	prompt = row.get("instruction_text") or native

	_set_max_steps(env, args.max_steps)
	max_steps = args.max_steps or getattr(
	getattr(env, "spec", None), "max_episode_steps", None) or 120
	t, success = 0, False
	success_ever = success_terminal = False
	ep_stats = {}
	t_ep = time.time()
	with torch.no_grad():
	while t < max_steps:
	img = Image.fromarray(get_image_from_maniskill2_obs_dict(env, obs)).convert("RGB")
	inputs = proc(images=[img], text=prompt, return_tensors="pt")
	gen = model.predict_action(inputs)
	chunk = np.asarray(proc.decode_actions(
	gen, unnorm_key=args.unnorm_key)["actions"]).reshape(-1, 7)
	for a in chunk[: args.action_horizon]:
	obs, reward, terminated, truncated, info = env.step(to_env_action(a))
	ep_stats = _plain(dict(info.get("episode_stats", ep_stats) or ep_stats))
	t += 1
	now = bool(info.get("success", False))
	success_ever = success_ever or now
	success_terminal = now
	if args.success_mode == "latch":
	success = now
	if success or terminated or truncated or t >= max_steps:
	break
	elif truncated or t >= max_steps:
	# env-terminated НЕ прерывает: официальный цикл
	# (maniskill2_evaluator.py:109) крутится до лимита и
	# берёт успех с последнего шага.
	break
	if args.success_mode == "latch" and (success or terminated or truncated):
	break
	if args.success_mode == "terminal" and truncated:
	break
	seconds = time.time() - t_ep

	line = {
	"task_uid": row["task_uid"], "suite": row.get("suite", "simpler_bridge"),
	"task_name": row.get("task_name"), "gym_env_name": task,
	"episode_id": row.get("episode_id"), "init_state_id": row.get("init_state_id"),
	"commit": row.get("commit"),
	"instruction_axis": row["instruction_axis"],
	"instruction_text": prompt, "native_instruction": native,
	"image": (row.get("images") or {}).get("agentview_rgb"),
	"success_predicates": row.get("success_predicates"),
	"success": (success_terminal if args.success_mode=="terminal" else success),
	"success_source": "env", "episode_stats": ep_stats, "success_mode": args.success_mode,
	"success_ever": success_ever, "success_terminal": success_terminal,
	"max_steps_used": max_steps, "seconds": round(seconds, 2), "steps": t,
	"model": args.model_key, "policy_path": args.policy,
	"unnorm_key": args.unnorm_key,
	"action_horizon": args.action_horizon,
	"fixes": {"euler_to_axangle": args.euler_to_axangle,
	"binarize_gripper": args.binarize_gripper},
	}
	with out.open("a", encoding="utf-8") as fh:
	fh.write(json.dumps(line, ensure_ascii=False) + "\n")
	fh.flush()
	written += 1
	print(f"[{written}/{len(rows)}] {row['task_uid']} success={success} "
	f"{t} шагов {seconds:.0f}s", flush=True)
	env.close()

	print(f"готово: {written} эпизодов в {out}", flush=True)


	if __name__ == "__main__":
	main()