Buckets:
| # CORAL Example Tasks — SFT Pipeline Compliance Audit | |
| **审计日期:** 2026-07-15 | |
| **审计方式:** 逐个任务读取 task.yaml、seed/ 代码、eval/grader.py 或 grader/ 代码、pyproject.toml、workspace.setup | |
| **总计:** 37 tasks | **可用:** 27 | **不可用:** 10 | |
| > 排除目录: `frontier_cs_research/`, `frontier_eng/`, `frontier_smith/`(子任务过多) | |
| --- | |
| ## 可用任务 (26) | |
| ### math/ (17) — 全部 legacy grader | |
| 所有 math/ 子任务结构一致: task.yaml + seed/ (initial_program.py + pyproject.toml) + eval/grader.py。依赖 numpy>=1.24.0 + scipy>=1.10.0(matmul 加 jax/optax,uncertainty_ineq 加 sympy,均为 pip-installable)。workspace.setup: "uv sync"。任务描述为纯数学优化问题,无 GPU/Docker 提及。Grader 代码在 subprocess 中运行 solution,纯 Python + numpy/scipy,完全 CPU-only。 | |
| | # | 任务 | 路径 | 简介 | | |
| |---|------|------|------| | |
| | 1 | Circle Packing | `math/circle_packing/` | 26圆 packed into 单位正方形,最大化半径和 | | |
| | 2 | Circle Packing Rect | `math/circle_packing_rect/` | 21圆 packed into 矩形,最大化半径和 | | |
| | 3 | Erdos Min Overlap | `math/erdos_min_overlap/` | 最小化 C5 overlap integral 的阶梯函数 | | |
| | 4 | First Autocorr Ineq | `math/first_autocorr_ineq/` | 最小化 [0,0.5] 上第一自相关不等式 C1 常数 | | |
| | 5 | Heilbronn Convex 13 | `math/heilbronn_convex_13/` | 2D 中13点,最大化 min triangle area / convex hull area | | |
| | 6 | Heilbronn Convex 14 | `math/heilbronn_convex_14/` | 2D 中14点,最大化 min triangle area / convex hull area | | |
| | 7 | Heilbronn Triangle | `math/heilbronn_triangle/` | 等边三角形内11点,最大化最小三角形面积 | | |
| | 8 | Hexagon Packing 11 | `math/hexagon_packing_11/` | 11单位正六边形 packed (SAT 验证) | | |
| | 9 | Hexagon Packing 12 | `math/hexagon_packing_12/` | 12单位正六边形 packed (SAT 验证) | | |
| | 10 | Matmul | `math/matmul/` | (2,4,5) 矩阵乘法张量低秩分解 (deps: jax, optax) | | |
| | 11 | Max Min Dist 2D | `math/minimizing_max_min_dist_2d/` | 2D 中16点,最大化 (min_dist/max_dist)^2 | | |
| | 12 | Max Min Dist 3D | `math/minimizing_max_min_dist_3d/` | 3D 中14点,最大化 (min_dist/max_dist)^2 | | |
| | 13 | Second Autocorr Ineq | `math/second_autocorr_ineq/` | 最大化第二自相关不等式 C2 常数 | | |
| | 14 | Signal Processing | `math/signal_processing/` | 自适应信号处理,最小化多目标代价 (5种信号) | | |
| | 15 | Sums Diffs Finite Sets | `math/sums_diffs_finite_sets/` | 有限整数集最大化 C6 下界 | | |
| | 16 | Third Autocorr Ineq | `math/third_autocorr_ineq/` | 最小化 C3 常数 (f 可为负) | | |
| | 17 | Uncertainty Ineq | `math/uncertainty_ineq/` | Hermite 多项式系数最小化 C4 bound (deps: sympy) | | |
| ### ADRS (5) | |
| | # | 任务 | 路径 | 简介 | | |
| |---|------|------|------| | |
| | 18 | Cloudcast | `ADRS/cloudcast/` | 多云广播优化 — 最小化跨 AWS/Azure/GCP 数据传输成本。Seed 用 `networkx`+`pandas`。已补 `pyproject.toml` + `workspace.setup: "uv sync"`。 | | |
| | 19 | EPLB | `ADRS/eplb/` | MoE 专家并行负载均衡算法。Seed 用 `torch`(纯 CPU)。已补 `pyproject.toml` + `workspace.setup`,`expert-load.json`(234MB) 已下载。 | | |
| | 20 | LLM-SQL | `ADRS/llm_sql/` | DataFrame 列重排序最大化 prefix cache 命中率。Seed 用 `pandas`+`networkx`。已补 `pyproject.toml` + `workspace.setup`,5 个 CSV 已下载。 | | |
| | 21 | Prism | `ADRS/prism/` | LLM 模型在 GPU 集群上的 placement 算法,最小化 max KV cache pressure。Seed 纯 stdlib,无外部 pip 依赖。 | | |
| | 22 | Txn Scheduling | `ADRS/txn_scheduling/` | 事务调度 makespan 最小化。Seed 纯 stdlib + 本地文件,无外部 pip 依赖。 | | |
| ### 顶层任务 (5) | |
| | # | 任务 | 路径 | 简介 | | |
| |---|------|------|------| | |
| | 23 | Circle Packing | `circle_packing/` | 26圆 packed into 单位正方形。Seed imports `numpy`;`workspace.setup: ["uv pip install numpy scipy"]`,依赖已声明。Grader subprocess 纯 numpy 约束检查。任务描述纯优化(simulated annealing, L-BFGS-B 等),CPU-only。`run.session: docker` 不影响 `coral collect-trajectories`(pipeline 自行管理 session)。 | | |
| | 24 | DNA Design | `dna_design/` | 200bp HepG2 特异性 DNA enhancer 序列设计。Static packaged grader(`dna_design_grader.grader:Grader`),无 GPU 时 fallback 到 GC-content proxy 评分。`workspace.setup: ["uv pip install numpy"]`。Seed 纯 stdlib + random。 | | |
| | 25 | Drug Design | `drug_design/` | 抗 K. pneumoniae 小分子抗生素设计 (SMILES)。Static packaged grader(`drug_design_grader.grader:Grader`),RDKit-only fallback。`workspace.setup: ["uv pip install rdkit numpy"]`。Seed imports `rdkit`(try/except fallback)。 | | |
| | 26 | Erdos | `erdos/` | Erdős minimum overlap — step function h 最小化 C5。Static packaged grader(`erdos_grader.grader:Grader`),pyproject.toml + `workspace.setup: "uv sync"` 齐全。Seed deps: numpy, scipy, jax, optax(均 pip-installable)。 | | |
| | 27 | Kernel Builder | `kernel_builder/` | VLIW SIMD kernel 优化(tree traversal),最小化 cycle count。Seed 纯 Python + stdlib(`dataclasses`),无外部 pip 依赖。Grader subprocess 加载 frozen_problem.py simulator,纯 Python。`run.session: docker` 不影响 `coral collect-trajectories`。 | | |
| --- | |
| ## 不可用任务 (10) | |
| ### GPU 硬依赖 (2) | |
| | 任务 | 路径 | 原因 | | |
| |------|------|------| | |
| | dlomix-pfly | `dlomix-pfly/` | **Grader 配置 `gpu_pool: [0, 1, 3]`** — grader 为每个 eval 子进程 flock 一块 RTX 6000 Ada GPU 并设置 `CUDA_VISIBLE_DEVICES`。**seed/pyproject.toml 依赖 PyTorch CUDA build** (`torch` from `download.pytorch.org/whl/cu128`)。**任务描述明确要求 "Use PyTorch on GPU"**,并警告 "CPU-only classifiers as the main model" 会超时。GPU 从 grader/env/描述三个维度都是硬依赖。 | | |
| | kernel_engineering | `kernel_engineering/trimul/` | **任务 tips 明确写 "Triton 3.3.0 on H100"**,要求使用 `/usr/bin/python3`(host Python 才有 torch/triton,venv Python 没有)。Grader 在 subprocess 中调 host Python 跑 Triton kernel benchmark。GPU (H100) + Triton 从 grader/描述/环境三个维度都是硬依赖。无顶层 task.yaml,task.yaml 在 `trimul/` 子目录下。 | | |
| ### 任务本质需要 GPU + 依赖声明缺失 (4) | |
| > 这些任务的 grader 代码本身仅用 sklearn/pandas/numpy(CPU-only),**但任务本质是 ML/DL 问题**:mnist 的 tips 提到 "Good CNNs score 0.99+"、"reshape for CNNs";spaceship_titanic 的 tips 提到 "Top Kaggle scores exceed 0.82";stanford_covid_vaccine 的 tips 提到 "Winning Kaggle approaches used GRU/LSTM/Transformer models"。**三者任务描述均写 "GPU 0 is a H200 available for use"**。agent 为取得 competitive score 必然写 GPU 代码(如 CNN、Transformer、XGBoost GPU),在 CPU-only 环境中会失败。此外三者均无 `pyproject.toml` 且无 `workspace.setup`,seed 代码 import 的 numpy/pandas/sklearn 无安装途径。 | |
| | 任务 | 路径 | 原因 | | |
| |------|------|------| | |
| | mnist | `mnist/` | 任务描述: "GPU 0 is a H200 available for use" + tips 引导 CNN。Seed imports `numpy`, `sklearn`(无 pyproject.toml / workspace.setup)。 | | |
| | spaceship_titanic | `spaceship_titanic/` | 任务描述: "GPU 0 is a H200 available for use"。Seed imports `pandas`, `numpy`, `sklearn`(无 pyproject.toml / workspace.setup)。 | | |
| | stanford_covid_vaccine | `stanford_covid_vaccine/` | 任务描述: "GPU 0 is a H200 available for use" + tips 引导 GRU/LSTM/Transformer。Seed imports `pandas`, `numpy`, `sklearn`(无 pyproject.toml / workspace.setup)。 | | |
| ### 动态 Grader (LLM-as-Judge) + 无 seed/ (3) | |
| | 任务 | 路径 | 原因 | | |
| |------|------|------| | |
| | apex-eggshell-skull | `apex-eggshell-skull/` | (1) **动态 grader**: `apex_judge.grader:Grader`,`dynamic_rubric: true`,spawn Claude Code agent judge,persistent rubric state 存 `.coral/private/rubrics/`,后续 reward 随评判历史改变 — 不同 tree branch 无法独立评分;(2) **无 `seed/`**,`workspace.repo_path: ./examples/apex-eggshell-skull/repo` 目录不存在。 | | |
| | apex-frontier-bu | `apex-frontier-bu/` | (1) **动态 grader**: 同 apex-eggshell-skull 的 `apex_judge.grader:Grader`,`dynamic_rubric: true`;(2) **无独立 `grader/`**,`setup: "uv pip install -e ../apex-eggshell-skull/grader"` 依赖兄弟任务;(3) **无 `seed/`**,`repo_path` 指向不存在的 `repo/`。 | | |
| | race-japan-elderly | `race-japan-elderly/` | (1) **动态 grader**: `race_japan_grader.grader:Grader`,spawn Claude Code agent judge 按 25 个 rubric criteria 评分 — LLM-as-judge 非确定性评分;(2) **无 `seed/`**,`repo_path` 指向不存在的 `repo/`。 | | |
| ### Docker 硬依赖 (2) | |
| | 任务 | 路径 | 原因 | | |
| |------|------|------| | |
| | swebench-verified | `swebench-verified/` | **Grader 代码调用 `harbor run -d swebench-verified@1.0`**,harbor 内部启动 Docker 容器运行 SWE-bench 测试。无 Docker 则 grader 直接 fail(grader 代码中有 `_find_harbor_cmd()` 检查)。 | | |
| | terminal-bench | `terminal-bench/` | **Grader 代码调用 `harbor run -d terminal-bench@2.0`**,harbor 内部启动 Docker 容器。同 swebench-verified 模式。 | | |
| --- | |
| ## 汇总 | |
| | 类别 | 数量 | 任务 | | |
| |------|------|------| | |
| | **立即可用** | **27** | math/* (17), ADRS/cloudcast, ADRS/eplb, ADRS/llm_sql, ADRS/prism, ADRS/txn_scheduling, circle_packing, dna_design, drug_design, erdos, kernel_builder | | |
| | GPU 硬依赖 | 2 | dlomix-pfly, kernel_engineering | | |
| | 任务本质 GPU + 缺依赖声明 | 3 | mnist, spaceship_titanic, stanford_covid_vaccine | | |
| | 动态 grader + 无 seed | 3 | apex-eggshell-skull, apex-frontier-bu, race-japan-elderly | | |
| | Docker 硬依赖 (harbor) | 2 | swebench-verified, terminal-bench | | |
| ### 判断依据 | |
| 每个任务的结论基于四个维度交叉验证: | |
| | 维度 | 检查内容 | | |
| |------|----------| | |
| | **Grader 代码** | 是否 import torch/triton?是否调 harbor/docker?是否 spawn LLM judge?subprocess 脚本用什么包? | | |
| | **任务描述 (task.yaml)** | 是否提及 GPU/Docker?tips 是否引导 DL 方法? | | |
| | **Seed 代码** | import 了哪些包?是否有 CUDA/torch 依赖? | | |
| | **环境配置** | pyproject.toml 声明了什么依赖?workspace.setup 安装了哪些包?`run.session` 是什么?grader args 是否有 `gpu_pool`? | | |
Xet Storage Details
- Size:
- 10.4 kB
- Xet hash:
- eb5cff700005387b7e691aef7401773fb1b9c7749383ed0a6d79fcefc4dbc16f
·
Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.