|
Download README.md from Shadowell/arc3-testset-envs: direct link, hf CLI and curl.
- Browser
- Download file 7.09 kB
-
https://huggingface.co/datasets/Shadowell/arc3-testset-envs/resolve/main/README.md
- Command line
-
hf download hf://datasets/Shadowell/arc3-testset-envs/README.md
-
curl -L -o README.md https://huggingface.co/datasets/Shadowell/arc3-testset-envs/resolve/main/README.md
7.09 kB
| annotations_creators: | |
| - machine-generated | |
| language_creators: | |
| - machine-generated | |
| language: | |
| - zh | |
| - en | |
| license: other | |
| task_categories: | |
| - reinforcement-learning | |
| - robotics | |
| tags: | |
| - arc-agi | |
| - arc3 | |
| - reasoning | |
| - game-engine | |
| - benchmark | |
| size_categories: | |
| - 1K<n<10K | |
| # ARC-AGI-3 自建正式测试集 | |
| 这里是 `ts01` 到 `ts200` 的正式 `arcengine` 测试游戏,共 200 个游戏、2000 个关卡。每关都有真实状态、`step`、`render`、终局判定和固定 64×64 观察帧,可由官方 `arc_agi.Arcade` 直接发现和运行。 | |
| | 分段 | 代号 | 游戏数 | 关卡数 | 审查素材 | 生成器 | | |
| | --- | --- | ---: | ---: | --- | --- | | |
| | 主测试集 | `ts01`–`ts100` | 100 | 1000 | 前 10 个游戏附矩阵、标准解逐步帧和图片 | `testset.py` + `testset_extended.py` | | |
| | 盲测扩展 | `ts101`–`ts200` | 100 | 1000 | 无(纯评测,防解法泄漏) | `testset_blind200.py` | | |
| 这批数据是 HyperARC 自建测试集,不是 Kaggle 官方公开游戏,也不应冒充隐藏评测数据。正式环境使用与 25 个公开游戏一致的 `ARCBaseGame` 生命周期和本地加载布局。求解器只会收到当前画面、合法动作、关卡进度和终局状态;中文机制名、目标矩阵、标准解和逐步答案帧都不会通过环境接口传给它。 | |
| ## 机制覆盖 | |
| ### 主测试集(`ts01`–`ts100`) | |
| | 代号范围 | 机制族 | 游戏数 | 关卡数 | | |
| | --- | --- | --- | ---: | | |
| | `ts01`–`ts05` | 空间变换与几何 | 5 | 50 | | |
| | `ts06`–`ts10` | 因果状态机与按钮逻辑 | 5 | 50 | | |
| | `ts11`–`ts15` | 重力、物理与动态传播 | 5 | 50 | | |
| | `ts16`–`ts20` | 拓扑与连通性 | 5 | 50 | | |
| | `ts21`–`ts25` | 资源约束与规划 | 5 | 50 | | |
| | `ts26`–`ts30` | 构造合成与物流编排 | 5 | 50 | | |
| | `ts31`–`ts35` | 约束满足与排布 | 5 | 50 | | |
| | `ts36`–`ts40` | 隐藏信息与记忆 | 5 | 50 | | |
| | `ts41`–`ts45` | 符号语言与语义解码 | 5 | 50 | | |
| | `ts46`–`ts50` | 模式归纳与序列演化 | 5 | 50 | | |
| | `ts51`–`ts55` | 规则切换与上下文依赖 | 5 | 50 | | |
| | `ts56`–`ts60` | 多主体协作与轻对抗 | 5 | 50 | | |
| | `ts61`–`ts65` | 计数度量与数量守恒 | 5 | 50 | | |
| | `ts66`–`ts70` | 坐标系与相对参照 | 5 | 50 | | |
| | `ts71`–`ts75` | 局部规则与自动机生长 | 5 | 50 | | |
| | `ts76`–`ts80` | 排序、调度与优先级 | 5 | 50 | | |
| | `ts81`–`ts85` | 工具使用与可供性发现 | 5 | 50 | | |
| | `ts86`–`ts90` | 错误修复与可逆推理 | 5 | 50 | | |
| | `ts91`–`ts95` | 层级抽象与宏动作 | 5 | 50 | | |
| | `ts96`–`ts100` | 泛化扰动与鲁棒识别 | 5 | 50 | | |
| ### 盲测扩展(`ts101`–`ts200`) | |
| 20 个机制族,每族 5 个游戏变体,每游戏 10 关。机制实现为程序化规则,不提供标准解和审查帧: | |
| | 代号范围 | 机制族 | 游戏数 | 关卡数 | | |
| | --- | --- | --- | ---: | | |
| | `ts101`–`ts105` | 量子相位与传送门 | 5 | 50 | | |
| | `ts106`–`ts110` | 流体动力学与浮力 | 5 | 50 | | |
| | `ts111`–`ts115` | 组合逻辑与布尔门 | 5 | 50 | | |
| | `ts116`–`ts120` | 拓扑编织与绳结 | 5 | 50 | | |
| | `ts121`–`ts125` | 自适应迷宫与滑动墙 | 5 | 50 | | |
| | `ts126`–`ts130` | 颜色混合与光谱合成 | 5 | 50 | | |
| | `ts131`–`ts135` | 多体引力与轨道控制 | 5 | 50 | | |
| | `ts136`–`ts140` | 时序因果与延迟触发 | 5 | 50 | | |
| | `ts141`–`ts145` | 资源平衡与能量守恒 | 5 | 50 | | |
| | `ts146`–`ts150` | 高级推箱与联动机械 | 5 | 50 | | |
| | `ts151`–`ts155` | 对称破缺与晶格修复 | 5 | 50 | | |
| | `ts156`–`ts160` | 记忆配对与隐式密码 | 5 | 50 | | |
| | `ts161`–`ts165` | 生命游戏变体与细胞群 | 5 | 50 | | |
| | `ts166`–`ts170` | 多智能体合作与驱赶 | 5 | 50 | | |
| | `ts171`–`ts175` | 局部代数与置换群 | 5 | 50 | | |
| | `ts176`–`ts180` | 动态阻抗与电流寻路 | 5 | 50 | | |
| | `ts181`–`ts185` | 几何折纸与空间投影 | 5 | 50 | | |
| | `ts186`–`ts190` | 温度相变与状态跃迁 | 5 | 50 | | |
| | `ts191`–`ts195` | 弹性碰撞与动量传递 | 5 | 50 | | |
| | `ts196`–`ts200` | 终极自适应复合谜题 | 5 | 50 | | |
| 主测试集全部游戏名称和逐项机制说明见 [`docs/arc3-testset-game-designs.md`](../../docs/arc3-testset-game-designs.md)。 | |
| ## 文件结构 | |
| ```text | |
| data/arc3_testset/ | |
| ├── manifest.json # 全部 200 个游戏的环境索引和 16 色颜色表 | |
| ├── environment_files/ # 官方 Arcade 可扫描的正式环境根目录(ts01-ts200) | |
| │ ├── ts01/204acc91/ | |
| │ │ ├── metadata.json # 环境版本和正式加载信息 | |
| │ │ └── ts01.py # ARCBaseGame 游戏入口 | |
| │ └── ts101/ebea0102/ # 盲测扩展游戏结构相同 | |
| └── games/ # ts01-ts10 的生成、审查和答案校验素材 | |
| └── ts01/ | |
| ├── game.json # 游戏规则和 10 关索引 | |
| ├── overview.png # 10 关总览 | |
| ├── levels/01.json # 一关的矩阵和完整标准解轨迹 | |
| └── images/01.png # 左侧初始帧,右侧目标帧 | |
| ``` | |
| `games/` 中前 10 个游戏的每份审查关卡文件包含: | |
| - 游戏代号、名称、分类和机制说明。 | |
| - 颜色编号与对象含义。 | |
| - 可用动作编号和中文动作名。 | |
| - 64×64 初始帧矩阵与目标帧矩阵。 | |
| - 标准解动作序列。 | |
| - 从初始状态到目标状态的全部 64×64 逐步帧。 | |
| 所有画面先在 16×16 逻辑网格上设计,再将每个逻辑格放大为 4×4 像素,因此最终观察帧固定为 64×64。颜色值限定在 `0` 到 `15`。 | |
| `games/` 内的答案资料用于生成和审查,不应作为求解器输入。正式访问时只把 `environment_files/` 配置为 `ENVIRONMENTS_DIR`。 | |
| ## 直接运行现有求解器 | |
| ```bash | |
| .arc3_local/.venv/bin/python scripts/run_arc3_eval.py \ | |
| --environments-dir data/arc3_testset/environment_files \ | |
| --actions 20000 \ | |
| --agent hyperarc | |
| ``` | |
| ## 图片总览 | |
| 总览图按两行五列排列 10 个关卡。每个小图内部,左侧是初始帧,右侧是目标帧,中间灰线用于分隔。 | |
|  | |
|  | |
|  | |
|  | |
| ## 重新生成 | |
| ```bash | |
| PYTHONPATH=src python3 scripts/build_arc3_testset.py | |
| ``` | |
| 生成逻辑位于 `src/hyperarc/arc3/testset.py`、`src/hyperarc/arc3/testset_extended.py` 和 `src/hyperarc/arc3/testset_blind200.py`。`scripts/build_arc3_testset.py` 一条命令重新生成全部 200 个正式环境(2000 个运行时关卡)、manifest 和前 10 个游戏的 100 份审查矩阵与 110 张图片。生成器按关卡内容哈希写入 `<game_id>/<version>/` 版本目录,并自动清理不再由当前代码产出的旧版本目录,因此重跑是幂等的。正式环境版本号会随关卡内容哈希变化。 | |
| 专项验证: | |
| ```bash | |
| PYTHONPATH=src .arc3_local/.venv/bin/python -m pytest \ | |
| tests/test_arc3_synthetic_testset.py \ | |
| tests/test_arc3_testset_arcade.py -q | |
| ``` | |