arc3-testset-envs / README.md
Shadowell's picture
Upload HyperARC dataset
903f31b verified
|
Raw History Blame Contribute Delete
7.09 kB
metadata
annotations_creators:
  - machine-generated
language_creators:
  - machine-generated
language:
  - zh
  - en
license: other
task_categories:
  - reinforcement-learning
  - robotics
tags:
  - arc-agi
  - arc3
  - reasoning
  - game-engine
  - benchmark
size_categories:
  - 1K<n<10K

ARC-AGI-3 自建正式测试集

这里是 ts01 到 ts200 的正式 arcengine 测试游戏,共 200 个游戏、2000 个关卡。每关都有真实状态、step、render、终局判定和固定 64×64 观察帧,可由官方 arc_agi.Arcade 直接发现和运行。

分段 代号 游戏数 关卡数 审查素材 生成器
主测试集 ts01–ts100 100 1000 前 10 个游戏附矩阵、标准解逐步帧和图片 testset.py + testset_extended.py
盲测扩展 ts101–ts200 100 1000 无(纯评测,防解法泄漏) testset_blind200.py

这批数据是 HyperARC 自建测试集,不是 Kaggle 官方公开游戏,也不应冒充隐藏评测数据。正式环境使用与 25 个公开游戏一致的 ARCBaseGame 生命周期和本地加载布局。求解器只会收到当前画面、合法动作、关卡进度和终局状态;中文机制名、目标矩阵、标准解和逐步答案帧都不会通过环境接口传给它。

机制覆盖

主测试集(ts01–ts100)

代号范围 机制族 游戏数 关卡数
ts01–ts05 空间变换与几何 5 50
ts06–ts10 因果状态机与按钮逻辑 5 50
ts11–ts15 重力、物理与动态传播 5 50
ts16–ts20 拓扑与连通性 5 50
ts21–ts25 资源约束与规划 5 50
ts26–ts30 构造合成与物流编排 5 50
ts31–ts35 约束满足与排布 5 50
ts36–ts40 隐藏信息与记忆 5 50
ts41–ts45 符号语言与语义解码 5 50
ts46–ts50 模式归纳与序列演化 5 50
ts51–ts55 规则切换与上下文依赖 5 50
ts56–ts60 多主体协作与轻对抗 5 50
ts61–ts65 计数度量与数量守恒 5 50
ts66–ts70 坐标系与相对参照 5 50
ts71–ts75 局部规则与自动机生长 5 50
ts76–ts80 排序、调度与优先级 5 50
ts81–ts85 工具使用与可供性发现 5 50
ts86–ts90 错误修复与可逆推理 5 50
ts91–ts95 层级抽象与宏动作 5 50
ts96–ts100 泛化扰动与鲁棒识别 5 50

盲测扩展(ts101–ts200)

20 个机制族,每族 5 个游戏变体,每游戏 10 关。机制实现为程序化规则,不提供标准解和审查帧:

代号范围 机制族 游戏数 关卡数
ts101–ts105 量子相位与传送门 5 50
ts106–ts110 流体动力学与浮力 5 50
ts111–ts115 组合逻辑与布尔门 5 50
ts116–ts120 拓扑编织与绳结 5 50
ts121–ts125 自适应迷宫与滑动墙 5 50
ts126–ts130 颜色混合与光谱合成 5 50
ts131–ts135 多体引力与轨道控制 5 50
ts136–ts140 时序因果与延迟触发 5 50
ts141–ts145 资源平衡与能量守恒 5 50
ts146–ts150 高级推箱与联动机械 5 50
ts151–ts155 对称破缺与晶格修复 5 50
ts156–ts160 记忆配对与隐式密码 5 50
ts161–ts165 生命游戏变体与细胞群 5 50
ts166–ts170 多智能体合作与驱赶 5 50
ts171–ts175 局部代数与置换群 5 50
ts176–ts180 动态阻抗与电流寻路 5 50
ts181–ts185 几何折纸与空间投影 5 50
ts186–ts190 温度相变与状态跃迁 5 50
ts191–ts195 弹性碰撞与动量传递 5 50
ts196–ts200 终极自适应复合谜题 5 50

主测试集全部游戏名称和逐项机制说明见 docs/arc3-testset-game-designs.md。

文件结构

data/arc3_testset/
├── manifest.json                 # 全部 200 个游戏的环境索引和 16 色颜色表
├── environment_files/            # 官方 Arcade 可扫描的正式环境根目录(ts01-ts200)
│   ├── ts01/204acc91/
│   │   ├── metadata.json          # 环境版本和正式加载信息
│   │   └── ts01.py                # ARCBaseGame 游戏入口
│   └── ts101/ebea0102/            # 盲测扩展游戏结构相同
└── games/                         # ts01-ts10 的生成、审查和答案校验素材
    └── ts01/
        ├── game.json             # 游戏规则和 10 关索引
        ├── overview.png          # 10 关总览
        ├── levels/01.json        # 一关的矩阵和完整标准解轨迹
        └── images/01.png         # 左侧初始帧,右侧目标帧

games/ 中前 10 个游戏的每份审查关卡文件包含:

  • 游戏代号、名称、分类和机制说明。
  • 颜色编号与对象含义。
  • 可用动作编号和中文动作名。
  • 64×64 初始帧矩阵与目标帧矩阵。
  • 标准解动作序列。
  • 从初始状态到目标状态的全部 64×64 逐步帧。

所有画面先在 16×16 逻辑网格上设计,再将每个逻辑格放大为 4×4 像素,因此最终观察帧固定为 64×64。颜色值限定在 0 到 15。

games/ 内的答案资料用于生成和审查,不应作为求解器输入。正式访问时只把 environment_files/ 配置为 ENVIRONMENTS_DIR。

直接运行现有求解器

.arc3_local/.venv/bin/python scripts/run_arc3_eval.py \
  --environments-dir data/arc3_testset/environment_files \
  --actions 20000 \
  --agent hyperarc

图片总览

总览图按两行五列排列 10 个关卡。每个小图内部,左侧是初始帧,右侧是目标帧,中间灰线用于分隔。

镜门工坊

光线投影

传送器配对

相位门阵

重新生成

PYTHONPATH=src python3 scripts/build_arc3_testset.py

生成逻辑位于 src/hyperarc/arc3/testset.py、src/hyperarc/arc3/testset_extended.py 和 src/hyperarc/arc3/testset_blind200.py。scripts/build_arc3_testset.py 一条命令重新生成全部 200 个正式环境(2000 个运行时关卡)、manifest 和前 10 个游戏的 100 份审查矩阵与 110 张图片。生成器按关卡内容哈希写入 <game_id>/<version>/ 版本目录,并自动清理不再由当前代码产出的旧版本目录,因此重跑是幂等的。正式环境版本号会随关卡内容哈希变化。

专项验证:

PYTHONPATH=src .arc3_local/.venv/bin/python -m pytest \
  tests/test_arc3_synthetic_testset.py \
  tests/test_arc3_testset_arcade.py -q