arc3-testset-envs / README.md
Shadowell's picture
Upload HyperARC dataset
903f31b verified
|
Raw History Blame Contribute Delete
7.09 kB
---
annotations_creators:
- machine-generated
language_creators:
- machine-generated
language:
- zh
- en
license: other
task_categories:
- reinforcement-learning
- robotics
tags:
- arc-agi
- arc3
- reasoning
- game-engine
- benchmark
size_categories:
- 1K<n<10K
---
# ARC-AGI-3 自建正式测试集
这里是 `ts01` 到 `ts200` 的正式 `arcengine` 测试游戏,共 200 个游戏、2000 个关卡。每关都有真实状态、`step`、`render`、终局判定和固定 64×64 观察帧,可由官方 `arc_agi.Arcade` 直接发现和运行。
| 分段 | 代号 | 游戏数 | 关卡数 | 审查素材 | 生成器 |
| --- | --- | ---: | ---: | --- | --- |
| 主测试集 | `ts01`–`ts100` | 100 | 1000 | 前 10 个游戏附矩阵、标准解逐步帧和图片 | `testset.py` + `testset_extended.py` |
| 盲测扩展 | `ts101`–`ts200` | 100 | 1000 | 无(纯评测,防解法泄漏) | `testset_blind200.py` |
这批数据是 HyperARC 自建测试集,不是 Kaggle 官方公开游戏,也不应冒充隐藏评测数据。正式环境使用与 25 个公开游戏一致的 `ARCBaseGame` 生命周期和本地加载布局。求解器只会收到当前画面、合法动作、关卡进度和终局状态;中文机制名、目标矩阵、标准解和逐步答案帧都不会通过环境接口传给它。
## 机制覆盖
### 主测试集(`ts01`–`ts100`)
| 代号范围 | 机制族 | 游戏数 | 关卡数 |
| --- | --- | --- | ---: |
| `ts01`–`ts05` | 空间变换与几何 | 5 | 50 |
| `ts06`–`ts10` | 因果状态机与按钮逻辑 | 5 | 50 |
| `ts11`–`ts15` | 重力、物理与动态传播 | 5 | 50 |
| `ts16`–`ts20` | 拓扑与连通性 | 5 | 50 |
| `ts21`–`ts25` | 资源约束与规划 | 5 | 50 |
| `ts26`–`ts30` | 构造合成与物流编排 | 5 | 50 |
| `ts31`–`ts35` | 约束满足与排布 | 5 | 50 |
| `ts36`–`ts40` | 隐藏信息与记忆 | 5 | 50 |
| `ts41`–`ts45` | 符号语言与语义解码 | 5 | 50 |
| `ts46`–`ts50` | 模式归纳与序列演化 | 5 | 50 |
| `ts51`–`ts55` | 规则切换与上下文依赖 | 5 | 50 |
| `ts56`–`ts60` | 多主体协作与轻对抗 | 5 | 50 |
| `ts61`–`ts65` | 计数度量与数量守恒 | 5 | 50 |
| `ts66`–`ts70` | 坐标系与相对参照 | 5 | 50 |
| `ts71`–`ts75` | 局部规则与自动机生长 | 5 | 50 |
| `ts76`–`ts80` | 排序、调度与优先级 | 5 | 50 |
| `ts81`–`ts85` | 工具使用与可供性发现 | 5 | 50 |
| `ts86`–`ts90` | 错误修复与可逆推理 | 5 | 50 |
| `ts91`–`ts95` | 层级抽象与宏动作 | 5 | 50 |
| `ts96`–`ts100` | 泛化扰动与鲁棒识别 | 5 | 50 |
### 盲测扩展(`ts101`–`ts200`)
20 个机制族,每族 5 个游戏变体,每游戏 10 关。机制实现为程序化规则,不提供标准解和审查帧:
| 代号范围 | 机制族 | 游戏数 | 关卡数 |
| --- | --- | --- | ---: |
| `ts101`–`ts105` | 量子相位与传送门 | 5 | 50 |
| `ts106`–`ts110` | 流体动力学与浮力 | 5 | 50 |
| `ts111`–`ts115` | 组合逻辑与布尔门 | 5 | 50 |
| `ts116`–`ts120` | 拓扑编织与绳结 | 5 | 50 |
| `ts121`–`ts125` | 自适应迷宫与滑动墙 | 5 | 50 |
| `ts126`–`ts130` | 颜色混合与光谱合成 | 5 | 50 |
| `ts131`–`ts135` | 多体引力与轨道控制 | 5 | 50 |
| `ts136`–`ts140` | 时序因果与延迟触发 | 5 | 50 |
| `ts141`–`ts145` | 资源平衡与能量守恒 | 5 | 50 |
| `ts146`–`ts150` | 高级推箱与联动机械 | 5 | 50 |
| `ts151`–`ts155` | 对称破缺与晶格修复 | 5 | 50 |
| `ts156`–`ts160` | 记忆配对与隐式密码 | 5 | 50 |
| `ts161`–`ts165` | 生命游戏变体与细胞群 | 5 | 50 |
| `ts166`–`ts170` | 多智能体合作与驱赶 | 5 | 50 |
| `ts171`–`ts175` | 局部代数与置换群 | 5 | 50 |
| `ts176`–`ts180` | 动态阻抗与电流寻路 | 5 | 50 |
| `ts181`–`ts185` | 几何折纸与空间投影 | 5 | 50 |
| `ts186`–`ts190` | 温度相变与状态跃迁 | 5 | 50 |
| `ts191`–`ts195` | 弹性碰撞与动量传递 | 5 | 50 |
| `ts196`–`ts200` | 终极自适应复合谜题 | 5 | 50 |
主测试集全部游戏名称和逐项机制说明见 [`docs/arc3-testset-game-designs.md`](../../docs/arc3-testset-game-designs.md)。
## 文件结构
```text
data/arc3_testset/
├── manifest.json # 全部 200 个游戏的环境索引和 16 色颜色表
├── environment_files/ # 官方 Arcade 可扫描的正式环境根目录(ts01-ts200)
│ ├── ts01/204acc91/
│ │ ├── metadata.json # 环境版本和正式加载信息
│ │ └── ts01.py # ARCBaseGame 游戏入口
│ └── ts101/ebea0102/ # 盲测扩展游戏结构相同
└── games/ # ts01-ts10 的生成、审查和答案校验素材
└── ts01/
├── game.json # 游戏规则和 10 关索引
├── overview.png # 10 关总览
├── levels/01.json # 一关的矩阵和完整标准解轨迹
└── images/01.png # 左侧初始帧,右侧目标帧
```
`games/` 中前 10 个游戏的每份审查关卡文件包含:
- 游戏代号、名称、分类和机制说明。
- 颜色编号与对象含义。
- 可用动作编号和中文动作名。
- 64×64 初始帧矩阵与目标帧矩阵。
- 标准解动作序列。
- 从初始状态到目标状态的全部 64×64 逐步帧。
所有画面先在 16×16 逻辑网格上设计,再将每个逻辑格放大为 4×4 像素,因此最终观察帧固定为 64×64。颜色值限定在 `0` 到 `15`。
`games/` 内的答案资料用于生成和审查,不应作为求解器输入。正式访问时只把 `environment_files/` 配置为 `ENVIRONMENTS_DIR`。
## 直接运行现有求解器
```bash
.arc3_local/.venv/bin/python scripts/run_arc3_eval.py \
--environments-dir data/arc3_testset/environment_files \
--actions 20000 \
--agent hyperarc
```
## 图片总览
总览图按两行五列排列 10 个关卡。每个小图内部,左侧是初始帧,右侧是目标帧,中间灰线用于分隔。
![镜门工坊](games/ts01/overview.png)
![光线投影](games/ts05/overview.png)
![传送器配对](games/ts07/overview.png)
![相位门阵](games/ts10/overview.png)
## 重新生成
```bash
PYTHONPATH=src python3 scripts/build_arc3_testset.py
```
生成逻辑位于 `src/hyperarc/arc3/testset.py`、`src/hyperarc/arc3/testset_extended.py` 和 `src/hyperarc/arc3/testset_blind200.py`。`scripts/build_arc3_testset.py` 一条命令重新生成全部 200 个正式环境(2000 个运行时关卡)、manifest 和前 10 个游戏的 100 份审查矩阵与 110 张图片。生成器按关卡内容哈希写入 `<game_id>/<version>/` 版本目录,并自动清理不再由当前代码产出的旧版本目录,因此重跑是幂等的。正式环境版本号会随关卡内容哈希变化。
专项验证:
```bash
PYTHONPATH=src .arc3_local/.venv/bin/python -m pytest \
tests/test_arc3_synthetic_testset.py \
tests/test_arc3_testset_arcade.py -q
```