Datasets:

slava-research
/

slava-rollouts

#!/usr/bin/env python3
"""Прогон клетки «базовый OpenVLA × LIBERO» на коде репозитория openvla/openvla.
Отдельный прогонщик, а не флаг к OFT-версии: форк OFT для базовых чекпойнтов
не годится — его модельный код зовёт `set_num_images_in_input`, которого у
базовых весов нет (проверено 30.08.2026). У базового репозитория и цикл другой:
он не вынесен в функцию, а лежит внутри `eval_libero`, поэтому цикл здесь
воспроизведён построчно по их исходнику, а все шаги — их же помощниками:
    get_model, get_processor, get_image_resize_size, get_libero_env,
    get_libero_image, get_libero_dummy_action, quat2axisangle, get_action,
    normalize_gripper_action(binarize=True), invert_gripper_action
Наше — только выбор сцены (`init_state_id` из задания), подстановка инструкции
и запись дампа. Успех берётся из `done`, как у авторов.
Важные детали их протокола, которые нельзя потерять:
* **`num_steps_wait=10`** холостых шагов в начале эпизода: симулятор роняет
  предметы, и им надо дать упасть. Без этого модель видит сцену в падении.
* **`resolution=256`** у среды — их значение, не менять.
* **Горизонт эпизода зависит от сьюта**: 220 / 280 / 300 / 520.
* Гриппер: сначала `normalize_gripper_action(binarize=True)`, затем
  `invert_gripper_action` — у OpenVLA загрузчик данных переворачивает знак.
"""
from __future__ import annotations

import argparse
import json
import os
import time
from collections import defaultdict
from pathlib import Path

MAX_STEPS = {"libero_spatial": 220, "libero_object": 280,
             "libero_goal": 300, "libero_10": 520, "libero_90": 400}


def parse_args() -> argparse.Namespace:
    ap = argparse.ArgumentParser(description=__doc__,
                                 formatter_class=argparse.RawDescriptionHelpFormatter)
    ap.add_argument("--manifest", required=True, type=Path)
    ap.add_argument("--policy", "--checkpoint", dest="checkpoint", required=True)
    ap.add_argument("--model-key", default="openvla")
    ap.add_argument("--out", required=True, type=Path)
    ap.add_argument("--device", default="cuda:0")
    ap.add_argument("--shard", default="0/1")
    ap.add_argument("--threads", type=int, default=8)
    ap.add_argument("--limit", type=int, default=None)
    ap.add_argument("--seed", type=int, default=7)
    ap.add_argument("--repo", default="/root/openvla_repo")
    return ap.parse_args()


def main() -> None:
    args = parse_args()
    os.environ.setdefault("MUJOCO_GL", "egl")
    if args.threads > 0:
        for v in ("OMP_NUM_THREADS", "MKL_NUM_THREADS", "OPENBLAS_NUM_THREADS",
                  "NUMEXPR_NUM_THREADS", "VECLIB_MAXIMUM_THREADS"):
            os.environ[v] = str(args.threads)

    manifest = args.manifest if args.manifest.is_absolute() else args.manifest.resolve()
    out = args.out if args.out.is_absolute() else args.out.resolve()

    import sys
    sys.path.insert(0, args.repo)
    os.chdir(args.repo)

    import numpy as np
    import torch
    from libero.libero import benchmark
    from experiments.robot.libero.libero_utils import (
        get_libero_dummy_action, get_libero_env, get_libero_image, quat2axisangle)
    # В базовом репозитории get_processor лежит в openvla_utils, а не в
    # robot_utils (в форке OFT — наоборот): импортируем как их же скрипт.
    from experiments.robot.openvla_utils import get_processor
    from experiments.robot.robot_utils import (
        get_action, get_image_resize_size, get_model,
        invert_gripper_action, normalize_gripper_action, set_seed_everywhere)

    if args.threads > 0:
        torch.set_num_threads(args.threads)

    rows = [json.loads(l) for l in manifest.open(encoding="utf-8") if l.strip()]
    i, n = (int(x) for x in args.shard.split("/"))
    rows = [r for k, r in enumerate(rows) if k % n == i]
    if args.limit:
        rows = rows[: args.limit]
    done_keys = set()
    if out.exists():
        for line in out.open(encoding="utf-8"):
            try:
                rec = json.loads(line)
                done_keys.add((rec["task_uid"], rec["instruction_axis"]))
            except Exception:
                pass
    todo = [r for r in rows if (r["task_uid"], r["instruction_axis"]) not in done_keys]
    print(f"задание: {len(rows)} эпизодов, осталось {len(todo)}", flush=True)
    if not todo:
        return
    out.parent.mkdir(parents=True, exist_ok=True)

    set_seed_everywhere(args.seed)

    from experiments.robot.libero.run_libero_eval import GenerateConfig
    cfg = GenerateConfig(pretrained_checkpoint=args.checkpoint,
                         task_suite_name=todo[0]["suite"], seed=args.seed,
                         use_wandb=False)
    t0 = time.time()
    print(f"загрузка модели {args.checkpoint}", flush=True)
    model = get_model(cfg)
    processor = get_processor(cfg) if cfg.model_family == "openvla" else None
    resize_size = get_image_resize_size(cfg)
    print(f"модель загружена за {time.time() - t0:.0f} с", flush=True)

    by_task = defaultdict(list)
    for r in todo:
        by_task[(r["suite"], r["task_id"])].append(r)

    written = 0
    for (suite, task_id), group in by_task.items():
        # Ключ денормализации авторский скрипт ставит сам (строки 101-112):
        # он равен имени сьюта, а если такого ключа в весах нет — берётся
        # вариант с суффиксом `_no_noops`. Поле в конфиге не объявлено, оно
        # присваивается на лету, поэтому повторяем это дословно.
        cfg.task_suite_name = suite
        cfg.unnorm_key = suite
        if (cfg.unnorm_key not in model.norm_stats
                and f"{cfg.unnorm_key}_no_noops" in model.norm_stats):
            cfg.unnorm_key = f"{cfg.unnorm_key}_no_noops"
        assert cfg.unnorm_key in model.norm_stats, (
            f"нет статистик денормализации под {suite}: "
            f"есть {sorted(model.norm_stats)}")
        task_suite = benchmark.get_benchmark_dict()[suite]()
        task = task_suite.get_task(task_id)
        initial_states = task_suite.get_task_init_states(task_id)
        env, author_text = get_libero_env(task, cfg.model_family, resolution=256)
        max_steps = MAX_STEPS[suite]

        for row in group:
            env.reset()
            obs = env.set_init_state(initial_states[row["init_state_id"]])
            given = row["instruction_text"]
            t, success = 0, False
            t_ep = time.time()
            while t < max_steps + cfg.num_steps_wait:
                if t < cfg.num_steps_wait:
                    obs, reward, done, info = env.step(get_libero_dummy_action(cfg.model_family))
                    t += 1
                    continue
                img = get_libero_image(obs, resize_size)
                observation = {
                    "full_image": img,
                    "state": np.concatenate((obs["robot0_eef_pos"],
                                             quat2axisangle(obs["robot0_eef_quat"]),
                                             obs["robot0_gripper_qpos"])),
                }
                action = get_action(cfg, model, observation, given, processor=processor)
                action = normalize_gripper_action(action, binarize=True)
                if cfg.model_family == "openvla":
                    action = invert_gripper_action(action)
                obs, reward, done, info = env.step(action.tolist())
                if done:
                    success = True
                    break
                t += 1
            seconds = time.time() - t_ep

            line = {
                "task_uid": row["task_uid"], "suite": suite,
                "task_name": row["task_name"], "task_id": task_id,
                "init_state_id": row["init_state_id"],
                "episode_id": row.get("episode_id"), "reset_seed": args.seed,
                "commit": row["commit"],
                "instruction_axis": row["instruction_axis"],
                "instruction_text": given, "author_task_language": author_text,
                "image": (row.get("images") or {}).get("agentview_rgb"),
                "success_predicates": row.get("success_predicates"),
                "success": success, "success_source": "env",
                "seconds": round(seconds, 2), "steps": t,
                "model": args.model_key, "policy_path": args.checkpoint,
                "env_img_res": 256, "num_steps_wait": cfg.num_steps_wait,
            }
            with out.open("a", encoding="utf-8") as fh:
                fh.write(json.dumps(line, ensure_ascii=False) + "\n")
                fh.flush()
            written += 1
            print(f"[{written}/{len(todo)}] {row['task_uid']} success={success} "
                  f"{seconds:.0f}s", flush=True)
        env.close()

    print(f"готово: {written} эпизодов в {out}", flush=True)


if __name__ == "__main__":
    main()

	#!/usr/bin/env python3
	"""Прогон клетки «базовый OpenVLA × LIBERO» на коде репозитория openvla/openvla.

	Отдельный прогонщик, а не флаг к OFT-версии: форк OFT для базовых чекпойнтов
	не годится — его модельный код зовёт `set_num_images_in_input`, которого у
	базовых весов нет (проверено 30.08.2026). У базового репозитория и цикл другой:
	он не вынесен в функцию, а лежит внутри `eval_libero`, поэтому цикл здесь
	воспроизведён построчно по их исходнику, а все шаги — их же помощниками:

	get_model, get_processor, get_image_resize_size, get_libero_env,
	get_libero_image, get_libero_dummy_action, quat2axisangle, get_action,
	normalize_gripper_action(binarize=True), invert_gripper_action

	Наше — только выбор сцены (`init_state_id` из задания), подстановка инструкции
	и запись дампа. Успех берётся из `done`, как у авторов.

	Важные детали их протокола, которые нельзя потерять:
	* `num_steps_wait=10` холостых шагов в начале эпизода: симулятор роняет
	предметы, и им надо дать упасть. Без этого модель видит сцену в падении.
	* `resolution=256` у среды — их значение, не менять.
	* Горизонт эпизода зависит от сьюта: 220 / 280 / 300 / 520.
	* Гриппер: сначала `normalize_gripper_action(binarize=True)`, затем
	`invert_gripper_action` — у OpenVLA загрузчик данных переворачивает знак.
	"""
	from __future__ import annotations

	import argparse
	import json
	import os
	import time
	from collections import defaultdict
	from pathlib import Path

	MAX_STEPS = {"libero_spatial": 220, "libero_object": 280,
	"libero_goal": 300, "libero_10": 520, "libero_90": 400}


	def parse_args() -> argparse.Namespace:
	ap = argparse.ArgumentParser(description=__doc__,
	formatter_class=argparse.RawDescriptionHelpFormatter)
	ap.add_argument("--manifest", required=True, type=Path)
	ap.add_argument("--policy", "--checkpoint", dest="checkpoint", required=True)
	ap.add_argument("--model-key", default="openvla")
	ap.add_argument("--out", required=True, type=Path)
	ap.add_argument("--device", default="cuda:0")
	ap.add_argument("--shard", default="0/1")
	ap.add_argument("--threads", type=int, default=8)
	ap.add_argument("--limit", type=int, default=None)
	ap.add_argument("--seed", type=int, default=7)
	ap.add_argument("--repo", default="/root/openvla_repo")
	return ap.parse_args()


	def main() -> None:
	args = parse_args()
	os.environ.setdefault("MUJOCO_GL", "egl")
	if args.threads > 0:
	for v in ("OMP_NUM_THREADS", "MKL_NUM_THREADS", "OPENBLAS_NUM_THREADS",
	"NUMEXPR_NUM_THREADS", "VECLIB_MAXIMUM_THREADS"):
	os.environ[v] = str(args.threads)

	manifest = args.manifest if args.manifest.is_absolute() else args.manifest.resolve()
	out = args.out if args.out.is_absolute() else args.out.resolve()

	import sys
	sys.path.insert(0, args.repo)
	os.chdir(args.repo)

	import numpy as np
	import torch
	from libero.libero import benchmark
	from experiments.robot.libero.libero_utils import (
	get_libero_dummy_action, get_libero_env, get_libero_image, quat2axisangle)
	# В базовом репозитории get_processor лежит в openvla_utils, а не в
	# robot_utils (в форке OFT — наоборот): импортируем как их же скрипт.
	from experiments.robot.openvla_utils import get_processor
	from experiments.robot.robot_utils import (
	get_action, get_image_resize_size, get_model,
	invert_gripper_action, normalize_gripper_action, set_seed_everywhere)

	if args.threads > 0:
	torch.set_num_threads(args.threads)

	rows = [json.loads(l) for l in manifest.open(encoding="utf-8") if l.strip()]
	i, n = (int(x) for x in args.shard.split("/"))
	rows = [r for k, r in enumerate(rows) if k % n == i]
	if args.limit:
	rows = rows[: args.limit]
	done_keys = set()
	if out.exists():
	for line in out.open(encoding="utf-8"):
	try:
	rec = json.loads(line)
	done_keys.add((rec["task_uid"], rec["instruction_axis"]))
	except Exception:
	pass
	todo = [r for r in rows if (r["task_uid"], r["instruction_axis"]) not in done_keys]
	print(f"задание: {len(rows)} эпизодов, осталось {len(todo)}", flush=True)
	if not todo:
	return
	out.parent.mkdir(parents=True, exist_ok=True)

	set_seed_everywhere(args.seed)

	from experiments.robot.libero.run_libero_eval import GenerateConfig
	cfg = GenerateConfig(pretrained_checkpoint=args.checkpoint,
	task_suite_name=todo[0]["suite"], seed=args.seed,
	use_wandb=False)
	t0 = time.time()
	print(f"загрузка модели {args.checkpoint}", flush=True)
	model = get_model(cfg)
	processor = get_processor(cfg) if cfg.model_family == "openvla" else None
	resize_size = get_image_resize_size(cfg)
	print(f"модель загружена за {time.time() - t0:.0f} с", flush=True)

	by_task = defaultdict(list)
	for r in todo:
	by_task[(r["suite"], r["task_id"])].append(r)

	written = 0
	for (suite, task_id), group in by_task.items():
	# Ключ денормализации авторский скрипт ставит сам (строки 101-112):
	# он равен имени сьюта, а если такого ключа в весах нет — берётся
	# вариант с суффиксом `_no_noops`. Поле в конфиге не объявлено, оно
	# присваивается на лету, поэтому повторяем это дословно.
	cfg.task_suite_name = suite
	cfg.unnorm_key = suite
	if (cfg.unnorm_key not in model.norm_stats
	and f"{cfg.unnorm_key}_no_noops" in model.norm_stats):
	cfg.unnorm_key = f"{cfg.unnorm_key}_no_noops"
	assert cfg.unnorm_key in model.norm_stats, (
	f"нет статистик денормализации под {suite}: "
	f"есть {sorted(model.norm_stats)}")
	task_suite = benchmark.get_benchmark_dict()[suite]()
	task = task_suite.get_task(task_id)
	initial_states = task_suite.get_task_init_states(task_id)
	env, author_text = get_libero_env(task, cfg.model_family, resolution=256)
	max_steps = MAX_STEPS[suite]

	for row in group:
	env.reset()
	obs = env.set_init_state(initial_states[row["init_state_id"]])
	given = row["instruction_text"]
	t, success = 0, False
	t_ep = time.time()
	while t < max_steps + cfg.num_steps_wait:
	if t < cfg.num_steps_wait:
	obs, reward, done, info = env.step(get_libero_dummy_action(cfg.model_family))
	t += 1
	continue
	img = get_libero_image(obs, resize_size)
	observation = {
	"full_image": img,
	"state": np.concatenate((obs["robot0_eef_pos"],
	quat2axisangle(obs["robot0_eef_quat"]),
	obs["robot0_gripper_qpos"])),
	}
	action = get_action(cfg, model, observation, given, processor=processor)
	action = normalize_gripper_action(action, binarize=True)
	if cfg.model_family == "openvla":
	action = invert_gripper_action(action)
	obs, reward, done, info = env.step(action.tolist())
	if done:
	success = True
	break
	t += 1
	seconds = time.time() - t_ep

	line = {
	"task_uid": row["task_uid"], "suite": suite,
	"task_name": row["task_name"], "task_id": task_id,
	"init_state_id": row["init_state_id"],
	"episode_id": row.get("episode_id"), "reset_seed": args.seed,
	"commit": row["commit"],
	"instruction_axis": row["instruction_axis"],
	"instruction_text": given, "author_task_language": author_text,
	"image": (row.get("images") or {}).get("agentview_rgb"),
	"success_predicates": row.get("success_predicates"),
	"success": success, "success_source": "env",
	"seconds": round(seconds, 2), "steps": t,
	"model": args.model_key, "policy_path": args.checkpoint,
	"env_img_res": 256, "num_steps_wait": cfg.num_steps_wait,
	}
	with out.open("a", encoding="utf-8") as fh:
	fh.write(json.dumps(line, ensure_ascii=False) + "\n")
	fh.flush()
	written += 1
	print(f"[{written}/{len(todo)}] {row['task_uid']} success={success} "
	f"{seconds:.0f}s", flush=True)
	env.close()

	print(f"готово: {written} эпизодов в {out}", flush=True)


	if __name__ == "__main__":
	main()