Download README.md from Shadowell/arc3-testset-envs: direct link, hf CLI and curl.
- Browser
- Download file 7.09 kB
-
https://huggingface.co/datasets/Shadowell/arc3-testset-envs/resolve/main/README.md
- Command line
-
hf download hf://datasets/Shadowell/arc3-testset-envs/README.md
-
curl -L -o README.md https://huggingface.co/datasets/Shadowell/arc3-testset-envs/resolve/main/README.md
annotations_creators:
- machine-generated
language_creators:
- machine-generated
language:
- zh
- en
license: other
task_categories:
- reinforcement-learning
- robotics
tags:
- arc-agi
- arc3
- reasoning
- game-engine
- benchmark
size_categories:
- 1K<n<10K
ARC-AGI-3 自建正式测试集
这里是 ts01 到 ts200 的正式 arcengine 测试游戏,共 200 个游戏、2000 个关卡。每关都有真实状态、step、render、终局判定和固定 64×64 观察帧,可由官方 arc_agi.Arcade 直接发现和运行。
| 分段 | 代号 | 游戏数 | 关卡数 | 审查素材 | 生成器 |
|---|---|---|---|---|---|
| 主测试集 | ts01–ts100 |
100 | 1000 | 前 10 个游戏附矩阵、标准解逐步帧和图片 | testset.py + testset_extended.py |
| 盲测扩展 | ts101–ts200 |
100 | 1000 | 无(纯评测,防解法泄漏) | testset_blind200.py |
这批数据是 HyperARC 自建测试集,不是 Kaggle 官方公开游戏,也不应冒充隐藏评测数据。正式环境使用与 25 个公开游戏一致的 ARCBaseGame 生命周期和本地加载布局。求解器只会收到当前画面、合法动作、关卡进度和终局状态;中文机制名、目标矩阵、标准解和逐步答案帧都不会通过环境接口传给它。
机制覆盖
主测试集(ts01–ts100)
| 代号范围 | 机制族 | 游戏数 | 关卡数 |
|---|---|---|---|
ts01–ts05 |
空间变换与几何 | 5 | 50 |
ts06–ts10 |
因果状态机与按钮逻辑 | 5 | 50 |
ts11–ts15 |
重力、物理与动态传播 | 5 | 50 |
ts16–ts20 |
拓扑与连通性 | 5 | 50 |
ts21–ts25 |
资源约束与规划 | 5 | 50 |
ts26–ts30 |
构造合成与物流编排 | 5 | 50 |
ts31–ts35 |
约束满足与排布 | 5 | 50 |
ts36–ts40 |
隐藏信息与记忆 | 5 | 50 |
ts41–ts45 |
符号语言与语义解码 | 5 | 50 |
ts46–ts50 |
模式归纳与序列演化 | 5 | 50 |
ts51–ts55 |
规则切换与上下文依赖 | 5 | 50 |
ts56–ts60 |
多主体协作与轻对抗 | 5 | 50 |
ts61–ts65 |
计数度量与数量守恒 | 5 | 50 |
ts66–ts70 |
坐标系与相对参照 | 5 | 50 |
ts71–ts75 |
局部规则与自动机生长 | 5 | 50 |
ts76–ts80 |
排序、调度与优先级 | 5 | 50 |
ts81–ts85 |
工具使用与可供性发现 | 5 | 50 |
ts86–ts90 |
错误修复与可逆推理 | 5 | 50 |
ts91–ts95 |
层级抽象与宏动作 | 5 | 50 |
ts96–ts100 |
泛化扰动与鲁棒识别 | 5 | 50 |
盲测扩展(ts101–ts200)
20 个机制族,每族 5 个游戏变体,每游戏 10 关。机制实现为程序化规则,不提供标准解和审查帧:
| 代号范围 | 机制族 | 游戏数 | 关卡数 |
|---|---|---|---|
ts101–ts105 |
量子相位与传送门 | 5 | 50 |
ts106–ts110 |
流体动力学与浮力 | 5 | 50 |
ts111–ts115 |
组合逻辑与布尔门 | 5 | 50 |
ts116–ts120 |
拓扑编织与绳结 | 5 | 50 |
ts121–ts125 |
自适应迷宫与滑动墙 | 5 | 50 |
ts126–ts130 |
颜色混合与光谱合成 | 5 | 50 |
ts131–ts135 |
多体引力与轨道控制 | 5 | 50 |
ts136–ts140 |
时序因果与延迟触发 | 5 | 50 |
ts141–ts145 |
资源平衡与能量守恒 | 5 | 50 |
ts146–ts150 |
高级推箱与联动机械 | 5 | 50 |
ts151–ts155 |
对称破缺与晶格修复 | 5 | 50 |
ts156–ts160 |
记忆配对与隐式密码 | 5 | 50 |
ts161–ts165 |
生命游戏变体与细胞群 | 5 | 50 |
ts166–ts170 |
多智能体合作与驱赶 | 5 | 50 |
ts171–ts175 |
局部代数与置换群 | 5 | 50 |
ts176–ts180 |
动态阻抗与电流寻路 | 5 | 50 |
ts181–ts185 |
几何折纸与空间投影 | 5 | 50 |
ts186–ts190 |
温度相变与状态跃迁 | 5 | 50 |
ts191–ts195 |
弹性碰撞与动量传递 | 5 | 50 |
ts196–ts200 |
终极自适应复合谜题 | 5 | 50 |
主测试集全部游戏名称和逐项机制说明见 docs/arc3-testset-game-designs.md。
文件结构
data/arc3_testset/
├── manifest.json # 全部 200 个游戏的环境索引和 16 色颜色表
├── environment_files/ # 官方 Arcade 可扫描的正式环境根目录(ts01-ts200)
│ ├── ts01/204acc91/
│ │ ├── metadata.json # 环境版本和正式加载信息
│ │ └── ts01.py # ARCBaseGame 游戏入口
│ └── ts101/ebea0102/ # 盲测扩展游戏结构相同
└── games/ # ts01-ts10 的生成、审查和答案校验素材
└── ts01/
├── game.json # 游戏规则和 10 关索引
├── overview.png # 10 关总览
├── levels/01.json # 一关的矩阵和完整标准解轨迹
└── images/01.png # 左侧初始帧,右侧目标帧
games/ 中前 10 个游戏的每份审查关卡文件包含:
- 游戏代号、名称、分类和机制说明。
- 颜色编号与对象含义。
- 可用动作编号和中文动作名。
- 64×64 初始帧矩阵与目标帧矩阵。
- 标准解动作序列。
- 从初始状态到目标状态的全部 64×64 逐步帧。
所有画面先在 16×16 逻辑网格上设计,再将每个逻辑格放大为 4×4 像素,因此最终观察帧固定为 64×64。颜色值限定在 0 到 15。
games/ 内的答案资料用于生成和审查,不应作为求解器输入。正式访问时只把 environment_files/ 配置为 ENVIRONMENTS_DIR。
直接运行现有求解器
.arc3_local/.venv/bin/python scripts/run_arc3_eval.py \
--environments-dir data/arc3_testset/environment_files \
--actions 20000 \
--agent hyperarc
图片总览
总览图按两行五列排列 10 个关卡。每个小图内部,左侧是初始帧,右侧是目标帧,中间灰线用于分隔。
重新生成
PYTHONPATH=src python3 scripts/build_arc3_testset.py
生成逻辑位于 src/hyperarc/arc3/testset.py、src/hyperarc/arc3/testset_extended.py 和 src/hyperarc/arc3/testset_blind200.py。scripts/build_arc3_testset.py 一条命令重新生成全部 200 个正式环境(2000 个运行时关卡)、manifest 和前 10 个游戏的 100 份审查矩阵与 110 张图片。生成器按关卡内容哈希写入 <game_id>/<version>/ 版本目录,并自动清理不再由当前代码产出的旧版本目录,因此重跑是幂等的。正式环境版本号会随关卡内容哈希变化。
专项验证:
PYTHONPATH=src .arc3_local/.venv/bin/python -m pytest \
tests/test_arc3_synthetic_testset.py \
tests/test_arc3_testset_arcade.py -q



