EntropyDrop
Unify meat labeling and save reviewed five-class annotations
399e40b
|
Raw History Blame Contribute Delete
20.8 kB

DDJ 最佳结果标注

Perfect 皮肤的 meat 标注

进入“已标注”,在“标注类型”选择“Perfect · 待标 meat”,点击“标注 meat”。 优先使用当前修复后的 {id}_perfect.png;没有修复图时,使用 perfect/best 指向的原候选。

  • 3D 左键直接拖拽旋转,点击切换选中,滚轮缩放;UV 图保留点击和拖动涂选。
  • Ctrl+点击按相连颜色泛洪,颜色容差可调;再次点击高亮格取消。支持擦除、撤销/重做和 Ctrl/Cmd+Z。
  • 选中的格子在 3D 与 UV 中以绿色呼吸高亮。可关闭呼吸,系统减少动态效果时默认静态高亮。
  • 可切换内层+外层、仅内层、仅外层,以及正面、背面、侧面、头顶和底部视角。被遮挡区域也可直接在 UV 上选择。
  • meat 包括脸、眼睛、嘴巴、裸露身体和手脚;头发、胡须、眉毛、眼镜、帽子、皇冠、衣服、鞋和饰品不选。内层也可能是非 meat,外层也可能是 meat。
  • “保存 meat”写入当前标签;“保存并标注下一张”继续当前模型/搜索范围内未完成 meat 的 perfect 条目。已保存的标签可从“Perfect · 已标 meat”重新打开。
  • 关闭未保存的编辑会提示;两个页面同时编辑时,后保存的旧页面会被拒绝覆盖。

输出保存到皮肤所在目录:

文件 含义
{id}_meat.png 64×64、8 位灰度 PNG。255(白)= meat,0(黑)= 未选中的有效皮肤格,即非 meat。
{id}_meat.json 标签定义、所用皮肤文件及 SHA-256、掩膜 SHA-256、选格数量、完成状态和保存时间。

无效 UV 空白区和原皮肤透明格也写为 0,但不是训练负样本:训练读取器必须同时使用原皮肤 alpha 和 classic/slim UV 布局排除它们。这里的白色 255 表示 meat;若训练代码用 0/1/255-ignore,应先转换白色为 1,再将无效格设为 ignore。

没有 _meat.png 表示尚未标注,不等于全图非 meat;用户明确保存的全黑掩膜表示此皮肤没有选中 meat。保存不会修改皮肤颜色、alpha、best 或 perfect 标注。

若 perfect 皮肤的文件/内容变化,旧 meat 显示为待重新标注,不会静默套用。每次覆盖旧 meat 文件前,会将旧 PNG 和 JSON 归档到同目录 .meat_history/{id}/{version}/;扫描器忽略此历史目录。

后端新增 GET /api/meat?key=... 与 POST /api/meat。PNG 由服务端根据选中索引生成;服务端验证 perfect 状态、有效 UV 格、图像哈希及标注版本。可用 python3 -m unittest discover -p "test_*.py" 与 node test_meat_geometry.mjs 验证保存和坐标映射。


一个局域网内使用的小工具,递归读取 SKING_DDJ_Dataset 的 source 与同目录、同编号的多个 result。所有模型统一使用 模型名/ID前3字符/ 分目录,也兼容旧的平铺和单字符目录。前端使用 React + Vite;static/ 包含生产构建和本地 3D 依赖,运行只需 Python 3.10+ 标准库,无需 CDN 或 Node。修改前端源码时需要 Node.js 22+。

python3 app.py --root /home/ds/llms/SKING_DDJ_Dataset --host 192.168.0.111 --port 8765

浏览器打开 http://192.168.0.111:8765。默认只显示有 result 的待标注条目;“全部”包含没有结果的 source 和 source_err 样例。支持 PNG/JPG/JPEG/WebP。

  • 左侧同时显示 source 原图和 edited 中间图;点击任意图片可放大。缺少 edited 时显示提示。
  • 右侧并排显示各版本 3D 皮肤与 UV 贴图。拖动、滚轮和视角按钮会同步各版本;可查看头部、背面、隐藏外层或只看 UV。
  • 点击“选为最佳”或按数字键 1–9,自动保存并进入下一项。
  • 每个版本下方依次提供“选为最佳”“选为最佳(完美)”“修复并选为最佳(完美)”。
  • 完美选择同时写入 {id}_best.txt 和 {id}_perfect.txt,两者都记录当前 result 文件名。
  • 修复按钮打开从 entropydrop_frontend 移植的皮肤编辑器:左键绘制、右键旋转,支持外层、取色、橡皮擦、撤销/重做、色相/饱和度/亮度/对比度、K-Means 减色和模型转换。编辑对象需为 64×64 或 64×32 皮肤。
  • 提交修复时保存 64×64 {id}_perfect.png,并将原 result 文件名写入 _best.txt、_perfect.txt;原 result 图片不变。取消弹窗不保存。重新打开同一完美版本的编辑器会继续编辑已保存的修复图。
  • 所有 result 都不好时,点击“结果都不满意”;如果问题出在 edited 中间图,点击“edited 不满意”。两种标记都会保存并进入下一项。
  • “暂时忽略”(S)不写文件,只在本次页面内暂时跳过。下次打开或刷新页面,未标注条目仍可选择。
  • “上一个”(←)可回看刚才的条目。“已标注”包含已选最佳和已标记不满意的条目;“不满意”单独查看后者。可以重选、修改不满意原因或撤销。
  • “已标注”内可按完美、最佳(含完美)、仅最佳(无完美)、结果都不满意、edited 不满意筛选,并与模型和编号搜索组合使用。
  • 模型筛选及进度跨该模型下的全部前缀目录汇总;下拉框不会逐个列出前缀。条目仍显示实际目录,标注写回图片旁。
  • “刷新目录”重新扫描新增/删除的图片;如果原最佳图片已删除,条目会恢复为待标注。

文件结构

工具代码与数据图片分开存放;--root 可指定数据集根目录、单个模型目录或单个前缀目录,标注文件始终写回对应图片所在目录。请保留仓库根目录的 dataset_layout.py,它提供读取和写入共用的目录规则。

SKING_DDJ_Dataset/
├── dataset_layout.py          # 共用的三字符前缀规则与旧布局识别
├── best_annotator/
│   ├── app.py                 # Python HTTP 服务、扫描、标注保存与冲突检查
│   ├── index.html             # Vite 构建入口
│   ├── package.json           # 前端依赖与开发/构建/测试命令
│   ├── package-lock.json      # 固定依赖版本,配合 npm ci
│   ├── vite.config.js         # 构建输出与开发 API 代理
│   ├── src/
│   │   ├── main.jsx           # React 标注页、筛选和编辑弹窗
│   │   ├── viewers.js         # 候选皮肤 3D 预览与视角同步
│   │   ├── style.css          # 标注页及弹窗布局
│   │   ├── editor.css         # 编辑器 Tailwind 样式入口
│   │   └── editor/
│   │       ├── SkinEditor.tsx # 绘制、取色、调色、撤销/重做和提交
│   │       ├── icons.ts       # 本地图标集合
│   │       ├── components/   # MC.tsx 模型与 utils.ts 皮肤工具
│   │       └── utils/        # skin2dRenderer.ts 二维渲染工具
│   ├── public/vendor/        # 随构建复制的 skinview3d 与许可证
│   ├── static/               # Python 实际提供的生产构建;勿手工修改
│   │   ├── index.html
│   │   ├── assets/           # 带内容哈希的 JS/CSS,构建时重新生成
│   │   └── vendor/
│   ├── test_app.py           # 原有标注与 HTTP 接口测试
│   ├── test_perfect.py       # 完美、修复图片和写入失败回滚测试
│   └── test_ui.cjs           # React 界面流程测试
└── entropydrop_website_generations/
    └── SKING_DDJ_v61/
        └── ABC/
            ├── ABC_source.png
            ├── ABC_edited.png
            ├── ABC_result.png
            ├── ABC_result_v104.png
            ├── ABC_author.json
            ├── ABC_best.txt       # 选中时生成
            ├── ABC_perfect.txt    # 完美标注时生成
            └── ABC_perfect.png    # 只有提交修复后才生成

以上数据示例表示“已修复并选为最佳(完美)”。不同目录中的同名 ID 分别作为独立条目,候选与标注不会跨目录关联。条目以 _source 或 _source_err 图片为入口;只有 result 而没有 source 的文件不会单独形成标注条目。普通 source/edited 与对应 _err 文件同时存在时,优先使用普通文件。

前缀按 ID 的前三个字符原样截取,保留数字与大小写;不足三个字符时使用整个 ID。例如 2L4DPU434KNC82YY 位于 SKING_DDJ_v61/2L4/。source、edited、result、作者 JSON、提示词、偏好标注及修复图都留在同一前缀目录。

数据文件 用途与内容
{id}_source.<ext> / {id}_source_err.<ext> 原图;ext 支持 png、jpg、jpeg、webp。
{id}_edited.<ext> / {id}_edited_err.<ext> 可选中间图,同时作为编辑弹窗参考图;不是手工修复后的皮肤。
{id}_result.<ext> / {id}_result_{version}.<ext> 原版及各版本候选;_result_err 也作为候选识别。
{id}_best.txt UTF-8 单行原候选文件名,末尾换行;无目录前缀。
{id}_perfect.txt 完美标注,格式同 best,内容必须与 best 一致。
{id}_perfect.png 从选中的候选修复得到的 64×64 PNG;保留原候选,不加入 result 候选列表。
{id}_all_rejected.txt 单行 result_unsatisfied 或 edited_unsatisfied,末尾换行。
{id}_author.json / {id}_prompt.txt / *.uv_review.json 数据集中的作者、提示词及审计附加文件;标注工具不修改。

各标注状态对应的文件

下表描述通过工具保存后的状态,“—”表示该文件不存在:

状态 _best.txt _perfect.txt _perfect.png _all_rejected.txt
未标注 / 撤销后 — — — —
普通最佳 原候选文件名 — — —
直接选为完美 原候选文件名 同 best — —
修复后选为完美 原候选文件名 同 best 修复后的皮肤 —
结果都不满意 — — — result_unsatisfied
edited 不满意 — — — edited_unsatisfied

例如修复 ABC_result_v104.png 后,ABC_best.txt 和 ABC_perfect.txt 都写入 ABC_result_v104.png,而不是 ABC_perfect.png。读取最终皮肤时,先确认完美标注与有效的 best 一致且没有不满意冲突:若同时存在修复图,使用 ABC_perfect.png;否则读取 best 指向的原候选。仅看到 _perfect.png 文件不能证明条目有有效完美标注。

“暂时忽略”不改变任何文件,也不清除已有标注。没有标注文件只表示未作决定,不等于不满意。每个 ID 只保留当前一份修复图;再次提交会替换它。

标注格式

在对应图片的同一目录写入 UTF-8 文件 {id}_best.txt,内容只有选中的 result 文件名和换行,例如:

14CN7VTM7MBVWXV6_result_v104.png

不满意时在图片的同一目录写入 {id}_all_rejected.txt,内容为以下其中一种,加一个换行:

按钮 文件内容
结果都不满意 result_unsatisfied
edited 不满意 edited_unsatisfied

最佳结果与不满意标记互斥:改选最佳会移除旧的 _all_rejected.txt;标记不满意会移除旧的 _best.txt。撤销会清除该条目的标注。“暂时忽略”始终不写文件。

普通最佳、不满意和撤销会移除该条目旧的 _perfect.txt、_perfect.png;直接选择完美会移除旧修复图。修复仅写入独立的 _perfect.png。保存会验证 source 和对应图片仍存在,以临时文件 + 原子替换写入,并同时检查最佳/不满意/完美标注及修复图的版本,拒绝覆盖另一页面的新决定。多文件写入过程中出现 I/O 错误会尝试恢复此前文件;这不是跨进程或断电事务,建议单个服务实例管理目录。缺少 edited 时无法标记 edited 不满意,缺少 result 时无法标记结果都不满意。数据以磁盘文件为准,重启服务后仍有效。

如果外部编辑导致最佳与不满意标记同时存在,工具会提示重新选择,避免把冲突记录当作已完成。

部署启动时的后台进程号和日志位于本目录 server.pid、server.log。重新启动前应先结束原进程,或使用另一个端口。

前端开发

在 best_annotator 目录执行:

npm ci
npm run build

构建结果输出至 static/,随后按上方命令启动或重启 Python 服务。开发热更新可在 Python 服务使用 8765 端口时另开终端运行 npm run dev,Vite 会代理 /api 和 /media。

src/main.jsx 是 React 标注页面;src/editor/ 是本地独立移植的编辑器和 Minecraft 模型组件,移除了原站的登录、收藏上传等业务依赖。编辑器按需加载。

检查

python3 -m unittest discover -p "test_*.py"

测试使用临时数据,不写真实数据集的标注。

界面流程另有 test_ui.cjs,使用本地已有的 jsdom,通过真实 Python HTTP 处理器在临时目录验证两种不满意标记、跳转、重选、撤销和并发页面,无需开启端口:

npm ci
npm test

3D 组件:skinview3d 3.4.2,MIT 许可证,见 static/vendor/skinview3d-LICENSE。

Meat 交互更新(2026-10-29)

  • 3D 直接左键拖拽旋转;移动超过 5px 视为旋转,不产生标注。右键也可旋转。
  • 默认点击未高亮格选为 meat,再次点击高亮格取消;另有独立擦除模式。
  • Ctrl+点击在同一部件、同一层上按相连颜色泛洪,支持跨立方体面的真实接缝。不会跨身体部件、图层或透明格。
  • 颜色容差范围 0–100%,默认 12%;采用相对起始格的 RGB 均方根距离,0% 仅选相同颜色,避免渐变链无限扩张。
  • Ctrl+点击已选格会批量取消相连相近颜色;一次泛洪是一条撤销记录。
  • UV 图保留左键连续涂选;按下时确定本笔选择或擦除,经过同一个格子不会反复翻转。Ctrl 泛洪也可在 UV 图使用。
  • 保存格式和人工标签不变;原数据与 .meat_history 均保留。

验证:node test_meat_selection.mjs 覆盖 classic/slim、跨面接缝、部件/层隔离、透明障碍、固定起点容差和拖拽判定。

Meat 模型预选与手动更新

在 perfect 皮肤的 meat 编辑器中点击「模型预选」,使用 ds 上当前模型更新裸露皮肤预选,保留已有其他细分类。当前类别以呼吸网格边框显示,格子内部保留皮肤原色;可以撤销、手动点选或 Ctrl 泛洪修正;只有点击「保存分类」才写入人工标签。退出未保存编辑不会把预测变成训练数据。

页面顶部的「训练并更新预选模型」由使用者主动点击,保存标注不会自动训练。训练读取本机当前已保存的完整标签(不要求先 commit/push),冻结标签及皮肤快照,按近重复皮肤分组留一验证,训练完并核验后原子切换预选模型。期间旧模型仍可用;失败保留旧模型及错误状态,不覆盖历史训练。

当前模型只验证了标准手臂和二值 alpha;纤细手臂、半透明皮肤仍可人工标注,但暂不加入预选训练。无标签、过期标签、历史备份不当作非 meat 标签。已保存的全黑 mask 是完整负例。预选辅助来源随人工保存记录到 metadata。

meat_model_config.json 是本机配置(不提交凭据);参考 meat_model_config.example.json。本机后端通过固定 SSH JSON 命令调用 /home/ds/llms/github/mc_meat/model_service.py,不开放新的 ds HTTP 端口。状态查询不加载模型;DINO 特征提取仅在任务进程运行期间占用显存,分类头训练使用 CPU。/.meat_model 保存本机任务绑定,ds service_runtime 保存独立任务、快照、日志、模型和旧版本。

部署前运行:python -m unittest discover -p 'test_*.py'、npm test、node test_meat_selection.mjs、node test_meat_geometry.mjs、npm run build。

ds 局域网部署

地址:http://192.168.0.111:8765/。该实例直接读写 ds 的 /home/ds/llms/SKING_DDJ_Dataset;本机 localhost:8765 若仍运行,使用的是本机数据目录,两者标签不会自动同步。局域网协作时统一使用 ds 地址。

meat_model_config.json 以示例文件为基础,增加 "transport": "local",复用 ds 已安装的 mc_meat 环境和 service_runtime/production。该配置文件不纳入版本控制。服务不因启动、刷新或保存标签而自动训练。

安装用户服务(ds 用户):

mkdir -p ~/.config/systemd/user
cp deploy/ddj-annotator.service ~/.config/systemd/user/
systemctl --user daemon-reload
systemctl --user enable --now ddj-annotator.service
systemctl --user status ddj-annotator.service
journalctl --user -u ddj-annotator.service -n 50

首次迁移需先停止占用相同地址端口的旧标注进程,随后由 systemd 管理。模板仅绑定 ds 的局域网地址,其他机器需修改绑定地址和绝对路径。ds 已启用用户 lingering,服务可在退出 SSH 后继续运行并随机器启动。HTTP 服务重启不会终止已发起的独立模型任务。

Meat 正交遮挡排除

Meat 标注、预选和训练统一使用 same-part-face-orthographic-full-opaque-v1。按每个部件的六个面法线做正交投影,考虑头部外壳总增厚 1、其他部件 0.5 的实际矩形覆盖;只排除被同部件完全不透明外层完整覆盖的内层格。部分露出、半透明遮挡和因其他肢体姿势造成的遮挡不算完全覆盖。

2026-10-31 确认:仅按各面的正对正交方向判断,斜视时露出不改变排除结果。Meat 编辑器默认正面正交视图;六个面按钮沿准确面法线设置相机,顶/底视图使用独立 up 向量,避免倾斜。拖动仍可自由旋转,点击按钮可回正;斜视仅作参考。此 UI 修正不改变已保存标签、遮挡规则、训练输入或模型。node test_meat_camera.mjs 使用真实相机与 OrbitControls 校验六个预设的平行射线及无深度视差。

{id}_meat.png 改为 64×64 RGBA:白色为 meat、黑色为非 meat、透明为忽略。原始 perfect/result 皮肤保持原样;标注视图及特征输入将忽略格的 RGBA 清零。训练快照另存 visible_skin.png 供核验。旧训练缓存必须保留,新的可见性版本重新提取特征。

迁移命令:python3 migrate_meat_visibility.py --root /path/to/DDJ --report /path/to/report.json 先只读预检;添加 --apply 后转换当前有效标注,并在 .meat_history/<id>/visibility-* 备份旧 PNG/JSON。运行迁移时暂停标注服务写入,完成后重启;历史版本不重写。迁移可重复执行,已转换数据跳过。

统一皮肤分类(2026-11-01)

编辑器只保留一个标注模式,每个有效 UV 格只能有一个类别:1 裸露皮肤、2 眼睛、3 嘴巴、5 眉毛、6 胡子;0 表示未选。旧 meat 二分类中尚无细分类的正例在打开时默认显示为裸露皮肤,已有眼睛等细标签优先保留。读取不会改写历史文件。

选择某类时,3D 和 UV 只高亮当前类别的呼吸网格边框。点击其他类别的格子直接改类,再点当前类别取消;Ctrl 泛洪支持跨类别替换,取消/擦除只影响当前类别。切换类别不改数据,撤销/重做恢复完整分类图。模型预选只更新裸露皮肤,保留已有眼睛、嘴巴、眉毛和胡子。

统一接口 GET/POST /api/meat-labels;一次“保存分类”同时写 {id}_semantic.png/json 与兼容的 {id}_meat.png/json。二分类由类别自动汇总:1/2/3 为 meat,5/6 和 0 为非 meat。无须先编辑二分类;原 PNG 类别编号和正交遮挡规则保持不变。保存检查皮肤、二分类和细分类三个版本,锁内写入;旧文件归档在 .meat_history,失败恢复全部四个原文件。

“训练并更新预选模型”仍由人工启动;保存不会自动训练。未指定细类的有效格只参与二分类,助手补标的来源和权重保留。编辑器支持标准/纤细手臂,当前预选训练只验证 classic 与二值 alpha。

验证:python -m unittest test_unified_meat test_semantics test_meat_model test_meat test_visibility,以及 node test_unified_meat.mjs、node test_meat_selection.mjs、node test_meat_geometry.mjs、npm run build。