Datasets:

slava-research
/

slava-rollouts

#!/usr/bin/env python3
"""Прогон клетки «OpenVLA-OFT × LIBERO» на авторском коде moojink/openvla-oft.
Ванильное правило фазы: цикл эпизода, загрузка модели и постобработка действий
берутся у авторов (`experiments/robot/libero/run_libero_eval.py`). Наш код
делает то же, что и в `run_cell_lerobot.py`, и не больше:
  1. читает задание на прогон;
  2. ставит начальное состояние сцены по `init_state_id`;
  3. подставляет инструкцию из задания вместо `task_description`;
  4. пишет строку дампа сразу после эпизода.
Три места, где легко получить тихий дефект, и как они закрыты:
* **`task_description` служит ещё и КЛЮЧОМ к начальным состояниям** (строка 397
  авторского скрипта: `task_description.replace(" ", "_")`). Это происходит
  только в ветке `initial_states_path != "DEFAULT"`. Мы работаем в ветке
  DEFAULT, где состояние берётся по индексу, поэтому подстановка инструкции на
  выбор сцены не влияет. Ветку менять нельзя.
* **`cfg.unnorm_key` привязан к имени сьюта** и выставляется ОДИН раз при
  загрузке модели (`check_unnorm_key`). В чекпойнте OFT четыре сьюта в одних
  весах, поэтому при переходе между сьютами ключ переставляется явно — иначе
  действия денормализуются статистикой чужого сьюта, а проценты остаются
  правдоподобными.
* **`env_img_res`** у авторов 256, и мы его не трогаем: это часть их стенда.
Пример:
    python scripts/gpu_box/run_cell_openvla_oft.py \\
        --manifest rollouts/manifests/pi05_en.jsonl \\
        --checkpoint moojink/openvla-7b-oft-finetuned-libero-spatial-object-goal-10 \\
        --shard 0/4 --threads 32 --out dumps/oft/shard0.jsonl
"""
from __future__ import annotations

import argparse
import json
import os
import time
from collections import defaultdict
from pathlib import Path


def parse_args() -> argparse.Namespace:
    ap = argparse.ArgumentParser(description=__doc__,
                                 formatter_class=argparse.RawDescriptionHelpFormatter)
    ap.add_argument("--manifest", required=True, type=Path)
    ap.add_argument("--checkpoint", "--policy", dest="checkpoint", required=True,
                    help="--policy — псевдоним, чтобы launch_cell.sh был общим "
                         "для всех прогонщиков")
    ap.add_argument("--model-key", default="openvla_oft")
    ap.add_argument("--out", required=True, type=Path)
    ap.add_argument("--shard", default="0/1")
    ap.add_argument("--device", default="cuda:0",
                    help="принимается для единообразия с launch_cell.sh; "
                         "карта выбирается через CUDA_VISIBLE_DEVICES, а "
                         "авторский код всегда берёт cuda:0")
    ap.add_argument("--threads", type=int, default=8,
                    help="потоки на работника; см. run_cell_lerobot.py")
    ap.add_argument("--limit", type=int, default=None)
    ap.add_argument("--seed", type=int, default=7, help="авторское значение по умолчанию")
    ap.add_argument("--repo", default=os.environ.get("OPENVLA_OFT_ROOT", "/root/openvla_oft_repo"))
    ap.add_argument("--cfg", action="append", default=[], metavar="КЛЮЧ=ЗНАЧЕНИЕ",
                    help="переопределить поле авторского GenerateConfig. Нужно "
                         "для БАЗОВОГО OpenVLA: форк OFT — надмножество, и при "
                         "--cfg use_l1_regression=False --cfg use_proprio=False "
                         "--cfg num_images_in_input=1 --cfg num_open_loop_steps=1 "
                         "его цикл сводится к базовому режиму.")
    return ap.parse_args()


def load_manifest(path: Path) -> list[dict]:
    with path.open(encoding="utf-8") as fh:
        return [json.loads(line) for line in fh if line.strip()]


def select_shard(rows: list[dict], shard: str) -> list[dict]:
    i, n = (int(x) for x in shard.split("/"))
    return [r for k, r in enumerate(rows) if k % n == i]


def already_done(out: Path) -> set:
    done = set()
    if out.exists():
        with out.open(encoding="utf-8") as fh:
            for line in fh:
                try:
                    rec = json.loads(line)
                except json.JSONDecodeError:
                    continue
                done.add((rec.get("task_uid"), rec.get("instruction_axis")))
    return done


def main() -> None:
    args = parse_args()
    os.environ.setdefault("MUJOCO_GL", "egl")
    if args.threads > 0:
        for var in ("OMP_NUM_THREADS", "MKL_NUM_THREADS", "OPENBLAS_NUM_THREADS",
                    "NUMEXPR_NUM_THREADS", "VECLIB_MAXIMUM_THREADS"):
            os.environ[var] = str(args.threads)

    # Пути разрешаются ДО перехода в каталог авторского репозитория: иначе
    # относительный путь задания начинает искаться внутри чужого репозитория
    # (30.08.2026 — три шарда упали именно так).
    manifest = args.manifest if args.manifest.is_absolute() else args.manifest.resolve()
    out = args.out if args.out.is_absolute() else args.out.resolve()

    import sys
    sys.path.insert(0, args.repo)
    os.chdir(args.repo)  # авторский код резолвит experiments/... от корня репозитория

    import torch
    from libero.libero import benchmark
    from experiments.robot.libero.run_libero_eval import (
        GenerateConfig, initialize_model, run_episode, load_initial_states,
    )
    from experiments.robot.libero.libero_utils import get_libero_env
    from experiments.robot.robot_utils import get_image_resize_size, set_seed_everywhere

    if args.threads > 0:
        torch.set_num_threads(args.threads)

    rows = select_shard(load_manifest(manifest), args.shard)
    if args.limit:
        rows = rows[: args.limit]
    skip = already_done(out)
    todo = [r for r in rows if (r["task_uid"], r["instruction_axis"]) not in skip]
    print(f"задание: {len(rows)} эпизодов, осталось {len(todo)}", flush=True)
    if not todo:
        return
    out.parent.mkdir(parents=True, exist_ok=True)

    set_seed_everywhere(args.seed)

    overrides = {}
    for item in args.cfg:
        k, _, v = item.partition("=")
        if v in ("True", "False"):
            val = v == "True"
        elif v.lstrip("-").isdigit():
            val = int(v)
        else:
            val = v
        if not hasattr(GenerateConfig, k):
            raise SystemExit(f"у авторского GenerateConfig нет поля {k!r}")
        overrides[k] = val
    cfg = GenerateConfig(
        pretrained_checkpoint=args.checkpoint,
        task_suite_name=todo[0]["suite"],
        seed=args.seed,
        use_wandb=False,
        **overrides,
    )
    if overrides:
        print(f"переопределено в конфиге авторов: {overrides}", flush=True)
    t0 = time.time()
    print(f"загрузка модели {args.checkpoint}", flush=True)
    model, action_head, proprio_projector, noisy_action_projector, processor = initialize_model(cfg)
    resize_size = get_image_resize_size(cfg)
    print(f"модель загружена за {time.time() - t0:.0f} с, "
          f"ключ денормализации {cfg.unnorm_key!r}", flush=True)

    by_task = defaultdict(list)
    for r in todo:
        by_task[(r["suite"], r["task_id"])].append(r)

    written = 0
    for (suite, task_id), group in by_task.items():
        # Ключ денормализации переставляется вместе со сьютом: в одном чекпойнте
        # четыре сьюта, и чужая статистика даёт правдоподобные, но неверные
        # действия.
        cfg.task_suite_name = suite
        cfg.unnorm_key = suite if suite in model.norm_stats else f"{suite}_no_noops"
        assert cfg.unnorm_key in model.norm_stats, (
            f"нет статистик денормализации под сьют {suite}: "
            f"есть {sorted(model.norm_stats)}")

        task_suite = benchmark.get_benchmark_dict()[suite]()
        task = task_suite.get_task(task_id)
        initial_states, _ = load_initial_states(cfg, task_suite, task_id, None)

        for row in group:
            env, author_text = get_libero_env(task, cfg.model_family, resolution=cfg.env_img_res)
            given = row["instruction_text"]
            t_ep = time.time()
            success, _ = run_episode(
                cfg, env, given, model, resize_size, processor,
                action_head, proprio_projector, noisy_action_projector,
                initial_states[row["init_state_id"]], None,
            )
            seconds = time.time() - t_ep

            line = {
                "task_uid": row["task_uid"], "suite": row["suite"],
                "task_name": row["task_name"], "task_id": row["task_id"],
                "init_state_id": row["init_state_id"],
                "episode_id": row.get("episode_id"), "reset_seed": args.seed,
                "commit": row["commit"],
                "instruction_axis": row["instruction_axis"],
                "instruction_text": given,
                "author_task_language": author_text,
                "image": (row.get("images") or {}).get("agentview_rgb"),
                "success_predicates": row.get("success_predicates"),
                "success": bool(success), "success_source": "env",
                "seconds": round(seconds, 2), "model": args.model_key,
                "policy_path": args.checkpoint,
                "unnorm_key": cfg.unnorm_key,
                "num_open_loop_steps": cfg.num_open_loop_steps,
                "cfg_overrides": overrides or None,
                "env_img_res": cfg.env_img_res,
            }
            with out.open("a", encoding="utf-8") as fh:
                fh.write(json.dumps(line, ensure_ascii=False) + "\n")
                fh.flush()
            written += 1
            print(f"[{written}/{len(todo)}] {row['task_uid']} success={success} "
                  f"{seconds:.0f}s", flush=True)
            try:
                env.close()
            except Exception:
                pass

    print(f"готово: {written} эпизодов в {out}", flush=True)


if __name__ == "__main__":
    main()

	#!/usr/bin/env python3
	"""Прогон клетки «OpenVLA-OFT × LIBERO» на авторском коде moojink/openvla-oft.

	Ванильное правило фазы: цикл эпизода, загрузка модели и постобработка действий
	берутся у авторов (`experiments/robot/libero/run_libero_eval.py`). Наш код
	делает то же, что и в `run_cell_lerobot.py`, и не больше:

	1. читает задание на прогон;
	2. ставит начальное состояние сцены по `init_state_id`;
	3. подставляет инструкцию из задания вместо `task_description`;
	4. пишет строку дампа сразу после эпизода.

	Три места, где легко получить тихий дефект, и как они закрыты:

	* `task_description` служит ещё и КЛЮЧОМ к начальным состояниям (строка 397
	авторского скрипта: `task_description.replace(" ", "_")`). Это происходит
	только в ветке `initial_states_path != "DEFAULT"`. Мы работаем в ветке
	DEFAULT, где состояние берётся по индексу, поэтому подстановка инструкции на
	выбор сцены не влияет. Ветку менять нельзя.
	* `cfg.unnorm_key` привязан к имени сьюта и выставляется ОДИН раз при
	загрузке модели (`check_unnorm_key`). В чекпойнте OFT четыре сьюта в одних
	весах, поэтому при переходе между сьютами ключ переставляется явно — иначе
	действия денормализуются статистикой чужого сьюта, а проценты остаются
	правдоподобными.
	* `env_img_res` у авторов 256, и мы его не трогаем: это часть их стенда.

	Пример:

	python scripts/gpu_box/run_cell_openvla_oft.py \\
	--manifest rollouts/manifests/pi05_en.jsonl \\
	--checkpoint moojink/openvla-7b-oft-finetuned-libero-spatial-object-goal-10 \\
	--shard 0/4 --threads 32 --out dumps/oft/shard0.jsonl
	"""
	from __future__ import annotations

	import argparse
	import json
	import os
	import time
	from collections import defaultdict
	from pathlib import Path


	def parse_args() -> argparse.Namespace:
	ap = argparse.ArgumentParser(description=__doc__,
	formatter_class=argparse.RawDescriptionHelpFormatter)
	ap.add_argument("--manifest", required=True, type=Path)
	ap.add_argument("--checkpoint", "--policy", dest="checkpoint", required=True,
	help="--policy — псевдоним, чтобы launch_cell.sh был общим "
	"для всех прогонщиков")
	ap.add_argument("--model-key", default="openvla_oft")
	ap.add_argument("--out", required=True, type=Path)
	ap.add_argument("--shard", default="0/1")
	ap.add_argument("--device", default="cuda:0",
	help="принимается для единообразия с launch_cell.sh; "
	"карта выбирается через CUDA_VISIBLE_DEVICES, а "
	"авторский код всегда берёт cuda:0")
	ap.add_argument("--threads", type=int, default=8,
	help="потоки на работника; см. run_cell_lerobot.py")
	ap.add_argument("--limit", type=int, default=None)
	ap.add_argument("--seed", type=int, default=7, help="авторское значение по умолчанию")
	ap.add_argument("--repo", default=os.environ.get("OPENVLA_OFT_ROOT", "/root/openvla_oft_repo"))
	ap.add_argument("--cfg", action="append", default=[], metavar="КЛЮЧ=ЗНАЧЕНИЕ",
	help="переопределить поле авторского GenerateConfig. Нужно "
	"для БАЗОВОГО OpenVLA: форк OFT — надмножество, и при "
	"--cfg use_l1_regression=False --cfg use_proprio=False "
	"--cfg num_images_in_input=1 --cfg num_open_loop_steps=1 "
	"его цикл сводится к базовому режиму.")
	return ap.parse_args()


	def load_manifest(path: Path) -> list[dict]:
	with path.open(encoding="utf-8") as fh:
	return [json.loads(line) for line in fh if line.strip()]


	def select_shard(rows: list[dict], shard: str) -> list[dict]:
	i, n = (int(x) for x in shard.split("/"))
	return [r for k, r in enumerate(rows) if k % n == i]


	def already_done(out: Path) -> set:
	done = set()
	if out.exists():
	with out.open(encoding="utf-8") as fh:
	for line in fh:
	try:
	rec = json.loads(line)
	except json.JSONDecodeError:
	continue
	done.add((rec.get("task_uid"), rec.get("instruction_axis")))
	return done


	def main() -> None:
	args = parse_args()
	os.environ.setdefault("MUJOCO_GL", "egl")
	if args.threads > 0:
	for var in ("OMP_NUM_THREADS", "MKL_NUM_THREADS", "OPENBLAS_NUM_THREADS",
	"NUMEXPR_NUM_THREADS", "VECLIB_MAXIMUM_THREADS"):
	os.environ[var] = str(args.threads)

	# Пути разрешаются ДО перехода в каталог авторского репозитория: иначе
	# относительный путь задания начинает искаться внутри чужого репозитория
	# (30.08.2026 — три шарда упали именно так).
	manifest = args.manifest if args.manifest.is_absolute() else args.manifest.resolve()
	out = args.out if args.out.is_absolute() else args.out.resolve()

	import sys
	sys.path.insert(0, args.repo)
	os.chdir(args.repo) # авторский код резолвит experiments/... от корня репозитория

	import torch
	from libero.libero import benchmark
	from experiments.robot.libero.run_libero_eval import (
	GenerateConfig, initialize_model, run_episode, load_initial_states,
	)
	from experiments.robot.libero.libero_utils import get_libero_env
	from experiments.robot.robot_utils import get_image_resize_size, set_seed_everywhere

	if args.threads > 0:
	torch.set_num_threads(args.threads)

	rows = select_shard(load_manifest(manifest), args.shard)
	if args.limit:
	rows = rows[: args.limit]
	skip = already_done(out)
	todo = [r for r in rows if (r["task_uid"], r["instruction_axis"]) not in skip]
	print(f"задание: {len(rows)} эпизодов, осталось {len(todo)}", flush=True)
	if not todo:
	return
	out.parent.mkdir(parents=True, exist_ok=True)

	set_seed_everywhere(args.seed)

	overrides = {}
	for item in args.cfg:
	k, _, v = item.partition("=")
	if v in ("True", "False"):
	val = v == "True"
	elif v.lstrip("-").isdigit():
	val = int(v)
	else:
	val = v
	if not hasattr(GenerateConfig, k):
	raise SystemExit(f"у авторского GenerateConfig нет поля {k!r}")
	overrides[k] = val
	cfg = GenerateConfig(
	pretrained_checkpoint=args.checkpoint,
	task_suite_name=todo[0]["suite"],
	seed=args.seed,
	use_wandb=False,
	**overrides,
	)
	if overrides:
	print(f"переопределено в конфиге авторов: {overrides}", flush=True)
	t0 = time.time()
	print(f"загрузка модели {args.checkpoint}", flush=True)
	model, action_head, proprio_projector, noisy_action_projector, processor = initialize_model(cfg)
	resize_size = get_image_resize_size(cfg)
	print(f"модель загружена за {time.time() - t0:.0f} с, "
	f"ключ денормализации {cfg.unnorm_key!r}", flush=True)

	by_task = defaultdict(list)
	for r in todo:
	by_task[(r["suite"], r["task_id"])].append(r)

	written = 0
	for (suite, task_id), group in by_task.items():
	# Ключ денормализации переставляется вместе со сьютом: в одном чекпойнте
	# четыре сьюта, и чужая статистика даёт правдоподобные, но неверные
	# действия.
	cfg.task_suite_name = suite
	cfg.unnorm_key = suite if suite in model.norm_stats else f"{suite}_no_noops"
	assert cfg.unnorm_key in model.norm_stats, (
	f"нет статистик денормализации под сьют {suite}: "
	f"есть {sorted(model.norm_stats)}")

	task_suite = benchmark.get_benchmark_dict()[suite]()
	task = task_suite.get_task(task_id)
	initial_states, _ = load_initial_states(cfg, task_suite, task_id, None)

	for row in group:
	env, author_text = get_libero_env(task, cfg.model_family, resolution=cfg.env_img_res)
	given = row["instruction_text"]
	t_ep = time.time()
	success, _ = run_episode(
	cfg, env, given, model, resize_size, processor,
	action_head, proprio_projector, noisy_action_projector,
	initial_states[row["init_state_id"]], None,
	)
	seconds = time.time() - t_ep

	line = {
	"task_uid": row["task_uid"], "suite": row["suite"],
	"task_name": row["task_name"], "task_id": row["task_id"],
	"init_state_id": row["init_state_id"],
	"episode_id": row.get("episode_id"), "reset_seed": args.seed,
	"commit": row["commit"],
	"instruction_axis": row["instruction_axis"],
	"instruction_text": given,
	"author_task_language": author_text,
	"image": (row.get("images") or {}).get("agentview_rgb"),
	"success_predicates": row.get("success_predicates"),
	"success": bool(success), "success_source": "env",
	"seconds": round(seconds, 2), "model": args.model_key,
	"policy_path": args.checkpoint,
	"unnorm_key": cfg.unnorm_key,
	"num_open_loop_steps": cfg.num_open_loop_steps,
	"cfg_overrides": overrides or None,
	"env_img_res": cfg.env_img_res,
	}
	with out.open("a", encoding="utf-8") as fh:
	fh.write(json.dumps(line, ensure_ascii=False) + "\n")
	fh.flush()
	written += 1
	print(f"[{written}/{len(todo)}] {row['task_uid']} success={success} "
	f"{seconds:.0f}s", flush=True)
	try:
	env.close()
	except Exception:
	pass

	print(f"готово: {written} эпизодов в {out}", flush=True)


	if __name__ == "__main__":
	main()