globalsquiddatabase/squid_dataset

Global Squid Database：公开数据区

本仓库是 公开 Dataset。其中只保存允许公开访问或公开归因的数据、参考资料和代理变量；需要登录、仅限内部使用或许可尚未确认的数据，必须放在独立的私有仓库 globalsquiddatabase/squid_dataset_restricted，不得提交到这里。

请勿在代码、Notebook、README、Issue 或数据文件中写入 Hugging Face Token、API Key 或其他 Secret。读取本公开仓库不需要 Token；程序应固定到通过验收的 40 位提交 SHA，不能依赖会变化的 main。

数据语义

不同来源不能直接混为“真实柔鱼捕捞量”：

• 报告型渔业统计：FAO、SPRFMO、阿根廷官方卸载量和 CCAMLR Statistical Bulletin。它们仍可能包含保密汇总、NEI 分类项、统计修订或上游缺口。
• 重建数据：Sea Around Us 是模型重建和空间分配结果，不是逐船直接观测。
• 活动代理变量：Global Fishing Watch 船舶活动和 VIIRS 灯光船检测不能证明物种或捕捞量。
• 背景资料：现有 WCPFC 文件是金枪鱼等渔业的聚合捕捞/努力量背景数据，不能标注为柔鱼观测。
• 资源评估和论文附件：RAM Legacy、论文补充材料的统计口径以各自原始文档为准。

v2 标准化区

v2/ommastrephidae/ 保存按来源原生最细粒度标准化的 CSV.gz，并明确保留原始单位、原始分类标签、转换规则、访问级别和来源版本。不会使用插值、补零或按比例拆分来制造上游没有发布的精度。

配套文件：

• v2/ommastrephidae/metadata/manifest_v2.json：文件 SHA-256、行数、覆盖期、原生粒度、许可和质量状态；
• v2/ommastrephidae/metadata/manifest_records.csv：供 Agent 和更新器读取的表格清单；
• v2/ommastrephidae/metadata/quality_report.json：逐产品校验和单位转换；
• v2/ommastrephidae/metadata/gaps.json：上游缺失、受限和排除项；
• v2/ommastrephidae/reference/：FAO ASFIS 柔鱼科代码表、来源注册表和许可说明。

截至 2026-08-01，本次 v2 候选包括 FAO Capture 2026.1、阿根廷 MAGyP 月度卸载、阿根廷 CIAM 年度汇总、CCAMLR Statistical Bulletin Vol. 37，以及秘鲁 Piura 按 ODbL 公开的 273 条 exact Pota 记录。泛称 Calamar 因无法确认柔鱼科分类而排除。

许可与引用

本仓库是混合来源集合，因此仓库级 license: other 不会覆盖各资产的原始许可。使用或再分发前必须读取 manifest 和来源注册表中的逐产品条款，并保留来源、版本和引用：

• FAO 统计数据库及 ASFIS：CC BY 4.0，并受 FAO Statistical Database Terms 约束；
• 阿根廷 Datos Argentina / SAGyP 与 CIAM：CC BY 4.0；
• CCAMLR Statistical Bulletin 聚合数据：public domain，需标注 CCAMLR 来源；
• Piura DIREPRO/GORE Piura：ODbL；必须署名官方来源，候选数据库继续按 ODbL 相同方式共享。官方页面：https://www.datosabiertos.gob.pe/dataset/volumen-de-desembarque-mensual-de-recursos-hidrobiol%C3%B3gicos-por-puerto-y-por-especie-en-la；
• Sea Around Us 与 Global Fishing Watch 公共产品：包含非商业使用限制，必须与可商业再分发产品分区；
• VIIRS VBD：开放 FINAL 产品与付费 CURRENT/NRT 产品条款不同，不能互相套用；
• OBIS、论文附件等混合来源：逐贡献数据集或逐文件核验。

安全读取示例

from huggingface_hub import hf_hub_download

path = hf_hub_download(
    repo_id="globalsquiddatabase/squid_dataset",
    repo_type="dataset",
    revision="通过验收的40位提交SHA",
    filename="v2/ommastrephidae/metadata/manifest_records.csv",
    token=False,
)
print(path)

hf_hub_download 会使用本地缓存，并不代表“零磁盘占用”。大型 ZIP、GeoTIFF 和分区 CSV 应按需读取，避免把整个 143 GB 仓库或整幅全球栅格载入内存。

兼容与历史资产

首次 v2 迁移不会删除或改名原有 112 个资产。旧目录继续用于兼容，但其名称不等于科学语义或许可结论；新 Agent 优先读取通过 SHA、契约版本和行数校验的 manifest 记录。