You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

CodecPilot Compression-Decision Dataset

用于同格式图片压缩参数预测的原图和编码候选实测结果。给定图像,在所选质量门槛达标的候选中选择体积较小的参数。 This dataset contains input images and measured same-format compression candidates. It contains no trained models and does not store every candidate's encoded output image.

当前正式标注:五个完整数据库

布局版本 v0.7,完整合并发布日期 2026-10-01。原标注与正式增量已按格式合并。

格式 图片文件数 候选组数/张 实测结果数 状态
PNG 8,832 42 370,944 完整
JPEG 18,742 48 899,616 完整
WebP 15,000 45 675,000 完整
JXL 15,000 47 705,000 完整
AVIF 15,000 49 735,000 完整
合计 72,574 — 3,385,560 全部完成

每条结果是一张图片采用一组编码参数后的实测记录。五个数据库可以分别下载;每个数据库包含该格式的全部当前正式候选。SQLite 是训练的权威数据源。小型身份导出、旧 JSONL 和备份不增加样本数。

从这里开始

需要什么 入口
五个正式数据库 annotations/README.md
原图 TAR 与成员索引 images/
查找图片所在分片 indexes/image-locations.parquet
逐图候选覆盖 indexes/annotation-coverage.parquet
下载与读取 docs/getting-started.md
字段和关联方式 docs/data-schema.md
合并与校验报告 reports/releases/v0.7/validation.json

原图与覆盖范围

  • 86,626 个物理路径,57 个原图 TAR 分片;SHA-256 身份共 86,333 个。
  • 当前正式五格式集合覆盖 72,574 个图片身份;每张图片的全部当前正式候选均已完成。
  • 另外 13,759 个身份位于正式集合之外,可能有历史试验标注。其中包含有意保留的 12,000 张 DiffusionDB 研究输入。
  • 现代格式的 45,000 个输入来自 15,000 个同源像素组。训练/验证/测试划分应按同源组隔离,使用 image-groups 索引。
  • 原图分片和图片位置索引复用既有内容,本次合并没有重新上传图片。

目录

annotations/
  png/labels.sqlite3
  jpeg/labels.sqlite3
  webp/labels.sqlite3
  jxl/labels.sqlite3
  avif/labels.sqlite3
images/                       原图 TAR 分片
indexes/                      身份、位置、覆盖和同源分组索引
configs/                      原始编码空间及质量策略配置
provenance/annotations/        历史混合库及旧派生导出
experiments/modern-formats/    历史 Pilot/Validation
reports/releases/v0.7/        当前完整发布校验
docs/                         使用、字段、许可和迁移说明

各格式目录还包含 manifest.json、recipes.json、image-identities.jsonl、checksums.sha256 和说明。完整逐图参数定义以数据库中的 candidates.definition_json 为准。

校验与使用边界

五个数据库均通过完整 SQLite integrity check、外键检查、SHA 身份唯一性、逐图候选覆盖、统一参数网格、结果尺寸和字节检查,以及全部源实测字段逐条比对。源候选 ID、质量数值、输出哈希和耗时保持原值;历史筛选候选不进入当前正式网格。

原图通过 images.sha256 与图片位置索引关联。数据库路径为 SHA 身份;服务器路径和 worker 租约/错误状态已移除,已有来源、许可、分类和同源组信息保留。

质量指标保留原来的实现和记录方式。现代格式中 1,789,177 条结果显式记录 fast-ssim2@0.8.2-simd-legacy-srgb0.4.1,325,823 条旧结果未记录后端字段;不同历史后端需要结合逐条定义使用。局部质量指标只存在于实际测量过的候选。见 指标与策略。

本次合并没有重新计算三档策略选择。历史 policy-decisions.jsonl 只代表当时的候选网格;请从完整库的实测结果按所需质量门槛重新选择。候选完成不等于所有候选都通过质量门槛,也不代表人工质量认可。

历史混合库在 provenance/annotations/;Pilot/Validation 可能与正式集合重叠,均不再叠加到当前计数。

许可和访问

本数据集采用审核访问。图片保留各来源许可,合并不改变或扩张授权。部分来源具有 review、research 或逐图许可限制,不能推断统一商用许可。参见 LICENSE 和 来源与许可。

原始发布说明保留在 历史数据卡;路径迁移见 迁移表。

Downloads last month
817