Datasets:
|
Download README.md from winriseff/codecpilot-compression-decision-dataset: direct link, hf CLI and curl.
- Browser
- Download file 5.79 kB
-
https://huggingface.co/datasets/winriseff/codecpilot-compression-decision-dataset/resolve/main/README.md
- Command line
-
hf download hf://datasets/winriseff/codecpilot-compression-decision-dataset/README.md
-
curl -L -H "Authorization: Bearer $HF_TOKEN" -o README.md https://huggingface.co/datasets/winriseff/codecpilot-compression-decision-dataset/resolve/main/README.md
5.79 kB
| pretty_name: CodecPilot Compression-Decision Dataset | |
| language: | |
| - zh | |
| - en | |
| tags: | |
| - image-compression | |
| - image-optimization | |
| - jpeg | |
| - png | |
| - webp | |
| - avif | |
| - jpeg-xl | |
| - parameter-prediction | |
| license: other | |
| size_categories: | |
| - 10K<n<100K | |
| # CodecPilot Compression-Decision Dataset | |
| 用于同格式图片压缩参数预测的原图和编码候选实测结果。给定图像,在所选质量门槛达标的候选中选择体积较小的参数。 | |
| This dataset contains input images and measured same-format compression candidates. It contains no trained models and does not store every candidate's encoded output image. | |
| ## 当前正式标注:五个完整数据库 | |
| 布局版本 **v0.7**,完整合并发布日期 **2026-10-01**。原标注与正式增量已按格式合并。 | |
| | 格式 | 图片文件数 | 候选组数/张 | 实测结果数 | 状态 | | |
| |---|---:|---:|---:|---| | |
| | [PNG](annotations/png/README.md) | 8,832 | 42 | 370,944 | 完整 | | |
| | [JPEG](annotations/jpeg/README.md) | 18,742 | 48 | 899,616 | 完整 | | |
| | [WebP](annotations/webp/README.md) | 15,000 | 45 | 675,000 | 完整 | | |
| | [JXL](annotations/jxl/README.md) | 15,000 | 47 | 705,000 | 完整 | | |
| | [AVIF](annotations/avif/README.md) | 15,000 | 49 | 735,000 | 完整 | | |
| | **合计** | **72,574** | — | **3,385,560** | **全部完成** | | |
| 每条结果是一张图片采用一组编码参数后的实测记录。五个数据库可以分别下载;每个数据库包含该格式的全部当前正式候选。SQLite 是训练的权威数据源。小型身份导出、旧 JSONL 和备份不增加样本数。 | |
| ## 从这里开始 | |
| | 需要什么 | 入口 | | |
| |---|---| | |
| | 五个正式数据库 | [annotations/README.md](annotations/README.md) | | |
| | 原图 TAR 与成员索引 | [images/](images/) | | |
| | 查找图片所在分片 | [indexes/image-locations.parquet](indexes/image-locations.parquet) | | |
| | 逐图候选覆盖 | [indexes/annotation-coverage.parquet](indexes/annotation-coverage.parquet) | | |
| | 下载与读取 | [docs/getting-started.md](docs/getting-started.md) | | |
| | 字段和关联方式 | [docs/data-schema.md](docs/data-schema.md) | | |
| | 合并与校验报告 | [reports/releases/v0.7/validation.json](reports/releases/v0.7/validation.json) | | |
| ## 原图与覆盖范围 | |
| - 86,626 个物理路径,57 个原图 TAR 分片;SHA-256 身份共 86,333 个。 | |
| - 当前正式五格式集合覆盖 72,574 个图片身份;每张图片的全部当前正式候选均已完成。 | |
| - 另外 13,759 个身份位于正式集合之外,可能有历史试验标注。其中包含有意保留的 12,000 张 DiffusionDB 研究输入。 | |
| - 现代格式的 45,000 个输入来自 15,000 个同源像素组。训练/验证/测试划分应按同源组隔离,使用 [image-groups 索引](indexes/image-groups.parquet)。 | |
| - 原图分片和图片位置索引复用既有内容,本次合并没有重新上传图片。 | |
| ## 目录 | |
| ```text | |
| annotations/ | |
| png/labels.sqlite3 | |
| jpeg/labels.sqlite3 | |
| webp/labels.sqlite3 | |
| jxl/labels.sqlite3 | |
| avif/labels.sqlite3 | |
| images/ 原图 TAR 分片 | |
| indexes/ 身份、位置、覆盖和同源分组索引 | |
| configs/ 原始编码空间及质量策略配置 | |
| provenance/ 来源、采集 Parquet 与历史说明 | |
| experiments/modern-formats/ 历史 Pilot/Validation | |
| reports/releases/v0.7/ 当前完整发布校验 | |
| docs/ 使用、字段、许可和迁移说明 | |
| ``` | |
| 各格式目录还包含 `manifest.json`、`recipes.json`、`checksums.sha256` 和说明。完整逐图参数定义以数据库中的 `candidates.definition_json` 为准。 | |
| ## 校验与使用边界 | |
| 五个数据库均通过完整 SQLite integrity check、外键检查、SHA 身份唯一性、逐图候选覆盖、统一参数网格、结果尺寸和字节检查,以及全部源实测字段逐条比对。源候选 ID、质量数值、输出哈希和耗时保持原值;历史筛选候选不进入当前正式网格。 | |
| 原图通过 `images.sha256` 与图片位置索引关联。数据库路径为 SHA 身份;服务器路径和 worker 租约/错误状态已移除,已有来源、许可、分类和同源组信息保留。 | |
| 质量指标保留原来的实现和记录方式。现代格式中 1,789,177 条结果显式记录 `fast-ssim2@0.8.2-simd-legacy-srgb0.4.1`,325,823 条旧结果未记录后端字段;不同历史后端需要结合逐条定义使用。局部质量指标只存在于实际测量过的候选。见 [指标与策略](docs/metrics-and-policies.md)。 | |
| 本次合并没有重新计算三档策略选择。历史 `policy-decisions.jsonl` 只代表当时的候选网格;请从完整库的实测结果按所需质量门槛重新选择。候选完成不等于所有候选都通过质量门槛,也不代表人工质量认可。 | |
| 历史混合库及旧导出、五格式身份 JSONL 和两份采集 manifest JSONL 已从当前树移除;对应正式 SQLite、采集 Parquet、图片和索引保留不变。历史文件可从 [清理前提交](https://huggingface.co/datasets/winrisef/codecpilot-compression-decision-dataset/tree/9e374676204acfbb0db61ec92ccd9361052f57b1) 读取;未清除 Git/LFS 历史。Pilot/Validation 保留,且不叠加到当前正式计数。 | |
| ## 许可和访问 | |
| 本数据集采用审核访问。图片保留各来源许可,合并不改变或扩张授权。部分来源具有 review、research 或逐图许可限制,不能推断统一商用许可。参见 [LICENSE](LICENSE) 和 [来源与许可](docs/provenance-and-licenses.md)。 | |
| 原始发布说明保留在 [历史数据卡](provenance/snapshots/source-dataset-card.md);路径迁移见 [迁移表](docs/migration-map.csv)。 | |