Datasets:
CodecPilot Compression-Decision Dataset
用于同格式图片压缩参数预测的原图和编码候选实测结果。给定图像,在所选质量门槛达标的候选中选择体积较小的参数。 This dataset contains input images and measured same-format compression candidates. It contains no trained models and does not store every candidate's encoded output image.
当前正式标注:五个完整数据库
布局版本 v0.7,完整合并发布日期 2026-10-01。原标注与正式增量已按格式合并。
| 格式 | 图片文件数 | 候选组数/张 | 实测结果数 | 状态 |
|---|---|---|---|---|
| PNG | 8,832 | 42 | 370,944 | 完整 |
| JPEG | 18,742 | 48 | 899,616 | 完整 |
| WebP | 15,000 | 45 | 675,000 | 完整 |
| JXL | 15,000 | 47 | 705,000 | 完整 |
| AVIF | 15,000 | 49 | 735,000 | 完整 |
| 合计 | 72,574 | — | 3,385,560 | 全部完成 |
每条结果是一张图片采用一组编码参数后的实测记录。五个数据库可以分别下载;每个数据库包含该格式的全部当前正式候选。SQLite 是训练的权威数据源。小型身份导出、旧 JSONL 和备份不增加样本数。
从这里开始
| 需要什么 | 入口 |
|---|---|
| 五个正式数据库 | annotations/README.md |
| 原图 TAR 与成员索引 | images/ |
| 查找图片所在分片 | indexes/image-locations.parquet |
| 逐图候选覆盖 | indexes/annotation-coverage.parquet |
| 下载与读取 | docs/getting-started.md |
| 字段和关联方式 | docs/data-schema.md |
| 合并与校验报告 | reports/releases/v0.7/validation.json |
原图与覆盖范围
- 86,626 个物理路径,57 个原图 TAR 分片;SHA-256 身份共 86,333 个。
- 当前正式五格式集合覆盖 72,574 个图片身份;每张图片的全部当前正式候选均已完成。
- 另外 13,759 个身份位于正式集合之外,可能有历史试验标注。其中包含有意保留的 12,000 张 DiffusionDB 研究输入。
- 现代格式的 45,000 个输入来自 15,000 个同源像素组。训练/验证/测试划分应按同源组隔离,使用 image-groups 索引。
- 原图分片和图片位置索引复用既有内容,本次合并没有重新上传图片。
目录
annotations/
png/labels.sqlite3
jpeg/labels.sqlite3
webp/labels.sqlite3
jxl/labels.sqlite3
avif/labels.sqlite3
images/ 原图 TAR 分片
indexes/ 身份、位置、覆盖和同源分组索引
configs/ 原始编码空间及质量策略配置
provenance/annotations/ 历史混合库及旧派生导出
experiments/modern-formats/ 历史 Pilot/Validation
reports/releases/v0.7/ 当前完整发布校验
docs/ 使用、字段、许可和迁移说明
各格式目录还包含 manifest.json、recipes.json、image-identities.jsonl、checksums.sha256 和说明。完整逐图参数定义以数据库中的 candidates.definition_json 为准。
校验与使用边界
五个数据库均通过完整 SQLite integrity check、外键检查、SHA 身份唯一性、逐图候选覆盖、统一参数网格、结果尺寸和字节检查,以及全部源实测字段逐条比对。源候选 ID、质量数值、输出哈希和耗时保持原值;历史筛选候选不进入当前正式网格。
原图通过 images.sha256 与图片位置索引关联。数据库路径为 SHA 身份;服务器路径和 worker 租约/错误状态已移除,已有来源、许可、分类和同源组信息保留。
质量指标保留原来的实现和记录方式。现代格式中 1,789,177 条结果显式记录 fast-ssim2@0.8.2-simd-legacy-srgb0.4.1,325,823 条旧结果未记录后端字段;不同历史后端需要结合逐条定义使用。局部质量指标只存在于实际测量过的候选。见 指标与策略。
本次合并没有重新计算三档策略选择。历史 policy-decisions.jsonl 只代表当时的候选网格;请从完整库的实测结果按所需质量门槛重新选择。候选完成不等于所有候选都通过质量门槛,也不代表人工质量认可。
历史混合库在 provenance/annotations/;Pilot/Validation 可能与正式集合重叠,均不再叠加到当前计数。
许可和访问
本数据集采用审核访问。图片保留各来源许可,合并不改变或扩张授权。部分来源具有 review、research 或逐图许可限制,不能推断统一商用许可。参见 LICENSE 和 来源与许可。
- Downloads last month
- 817