winriseff's picture winrisef's picture
Duplicate from winrisef/codecpilot-compression-decision-dataset
004498b
|
Raw History Blame Contribute Delete
5.79 kB
metadata
pretty_name: CodecPilot Compression-Decision Dataset
language:
  - zh
  - en
tags:
  - image-compression
  - image-optimization
  - jpeg
  - png
  - webp
  - avif
  - jpeg-xl
  - parameter-prediction
license: other
size_categories:
  - 10K<n<100K

CodecPilot Compression-Decision Dataset

用于同格式图片压缩参数预测的原图和编码候选实测结果。给定图像,在所选质量门槛达标的候选中选择体积较小的参数。 This dataset contains input images and measured same-format compression candidates. It contains no trained models and does not store every candidate's encoded output image.

当前正式标注:五个完整数据库

布局版本 v0.7,完整合并发布日期 2026-10-01。原标注与正式增量已按格式合并。

格式 图片文件数 候选组数/张 实测结果数 状态
PNG 8,832 42 370,944 完整
JPEG 18,742 48 899,616 完整
WebP 15,000 45 675,000 完整
JXL 15,000 47 705,000 完整
AVIF 15,000 49 735,000 完整
合计 72,574 — 3,385,560 全部完成

每条结果是一张图片采用一组编码参数后的实测记录。五个数据库可以分别下载;每个数据库包含该格式的全部当前正式候选。SQLite 是训练的权威数据源。小型身份导出、旧 JSONL 和备份不增加样本数。

从这里开始

需要什么 入口
五个正式数据库 annotations/README.md
原图 TAR 与成员索引 images/
查找图片所在分片 indexes/image-locations.parquet
逐图候选覆盖 indexes/annotation-coverage.parquet
下载与读取 docs/getting-started.md
字段和关联方式 docs/data-schema.md
合并与校验报告 reports/releases/v0.7/validation.json

原图与覆盖范围

  • 86,626 个物理路径,57 个原图 TAR 分片;SHA-256 身份共 86,333 个。
  • 当前正式五格式集合覆盖 72,574 个图片身份;每张图片的全部当前正式候选均已完成。
  • 另外 13,759 个身份位于正式集合之外,可能有历史试验标注。其中包含有意保留的 12,000 张 DiffusionDB 研究输入。
  • 现代格式的 45,000 个输入来自 15,000 个同源像素组。训练/验证/测试划分应按同源组隔离,使用 image-groups 索引。
  • 原图分片和图片位置索引复用既有内容,本次合并没有重新上传图片。

目录

annotations/
  png/labels.sqlite3
  jpeg/labels.sqlite3
  webp/labels.sqlite3
  jxl/labels.sqlite3
  avif/labels.sqlite3
images/                       原图 TAR 分片
indexes/                      身份、位置、覆盖和同源分组索引
configs/                      原始编码空间及质量策略配置
provenance/                   来源、采集 Parquet 与历史说明
experiments/modern-formats/    历史 Pilot/Validation
reports/releases/v0.7/        当前完整发布校验
docs/                         使用、字段、许可和迁移说明

各格式目录还包含 manifest.json、recipes.json、checksums.sha256 和说明。完整逐图参数定义以数据库中的 candidates.definition_json 为准。

校验与使用边界

五个数据库均通过完整 SQLite integrity check、外键检查、SHA 身份唯一性、逐图候选覆盖、统一参数网格、结果尺寸和字节检查,以及全部源实测字段逐条比对。源候选 ID、质量数值、输出哈希和耗时保持原值;历史筛选候选不进入当前正式网格。

原图通过 images.sha256 与图片位置索引关联。数据库路径为 SHA 身份;服务器路径和 worker 租约/错误状态已移除,已有来源、许可、分类和同源组信息保留。

质量指标保留原来的实现和记录方式。现代格式中 1,789,177 条结果显式记录 fast-ssim2@0.8.2-simd-legacy-srgb0.4.1,325,823 条旧结果未记录后端字段;不同历史后端需要结合逐条定义使用。局部质量指标只存在于实际测量过的候选。见 指标与策略。

本次合并没有重新计算三档策略选择。历史 policy-decisions.jsonl 只代表当时的候选网格;请从完整库的实测结果按所需质量门槛重新选择。候选完成不等于所有候选都通过质量门槛,也不代表人工质量认可。

历史混合库及旧导出、五格式身份 JSONL 和两份采集 manifest JSONL 已从当前树移除;对应正式 SQLite、采集 Parquet、图片和索引保留不变。历史文件可从 清理前提交 读取;未清除 Git/LFS 历史。Pilot/Validation 保留,且不叠加到当前正式计数。

许可和访问

本数据集采用审核访问。图片保留各来源许可,合并不改变或扩张授权。部分来源具有 review、research 或逐图许可限制,不能推断统一商用许可。参见 LICENSE 和 来源与许可。

原始发布说明保留在 历史数据卡;路径迁移见 迁移表。