EVALUATION.md

PaddleOCR-VL-1.6：crop / fullpage 基座评测

基座权重 /autodl-fs/data/PaddleOCR-VL-1.6；自定义模型用完整 merged 权重目录替换。两个任务分别报告，不合并计算指标。以下命令供当前工程环境运行；上传的入口脚本是审阅快照，依赖当前工程其他模块、评分库和本地模型，不能仅下载单文件就独立运行。

统一入口（推荐）

evaluation_scripts/evaluate_checkpoint.py将两类评测放在一个入口中，默认先crop再fullpage，分别切换正确的Python环境，并把两类汇总写进一个results.json。仍分别使用项目canonical评分和官方整页评分。

python /autodl-fs/data/povl_v5/experiments/curriculum_20261030/evaluate_checkpoint.py \
  --model /autodl-fs/data/PaddleOCR-VL-1.6 --tag unified_base --track both

--track crop或--track fullpage只运行对应类型；--dry-run只检查命令，不写文件、不启动GPU。自定义ckpt替换--model并使用新的--tag。汇总：/autodl-tmp/table_evaluation/<tag>/results.json；运行日志在同目录的crop.log和fullpage.log。GPU繁忙时crop会退出，不中断现有训练；稍后使用相同命令继续。

当前完成情况

• fullpage：2864页、4037个GT表格，已完成。OmniDocBench1.5/1.6、Real5五种退化、CC-OCR全部四个已发布表格识别子任务共300张。
• crop：原184074条有历史基座结果；当前176810条/64shards有5384条GT修补，旧结果没有GT哈希。因此JSON在historical_evaluation保留历史分数，当前teds/teds_s为null，直到新版本正式结果完成。不能把历史覆盖数写成当前GT评测完成数。
• 导出JSON不会重新推理，也不会启动/中断训练。新干净SFT控制器已安排SFT完成后评测当前crop基座。

Crop入口

实际脚本 /autodl-fs/data/povl_v5/src/eval_mix.py；直接识别表格crop，项目canonical TEDS评分，空文本GT只算TEDS-S。输出在 povl_v5/eval/runs/<tag>/scores.jsonl 和 summary.json。

cd /autodl-fs/data/povl_v5
env -u POVL_RUN_DIR \
  PYTHONPATH=/root/autodl-tmp/vllm_local/site-packages:/root/autodl-tmp/venv_train/lib/python3.12/site-packages:/autodl-fs/data/vllm_env/lib/python3.12/site-packages \
  POVL_VLLM=/root/autodl-tmp/vllm_local/bin/vllm POVL_PARALLEL_ENGINE_BOOT=1 \
  TOKENIZERS_PARALLELISM=false OMP_NUM_THREADS=4 MKL_NUM_THREADS=4 \
  /root/autodl-tmp/venv_train/bin/python src/eval_mix.py \
    --model /autodl-fs/data/PaddleOCR-VL-1.6 --tag base_current_crop_manual \
    --packs /autodl-tmp/official_table_pages_20261031/hf_sync/canonical_rebalanced \
    --gpus 0 1 2 3 --per-gpu 3 --conc-per-worker 16 \
    --score-workers 12 --score-batch 64 --max-tokens 16384

Fullpage入口

实际脚本 /autodl-fs/data/povl_v5/experiments/curriculum_20261030/whole_page_eval.py。使用PaddleOCRVL v1.6库解析整页，PP-DocLayoutV3提取多个表格，按官方规则匹配/评分。只读输入图片；Parquet已有预测列不会喂给模型。一图多表保留官方匹配，不按数组位置对齐。

env -u PYTHONPATH -u POVL_RUN_DIR \
  /root/autodl-tmp/venv_paddleocrvl_eval/bin/python \
  /autodl-fs/data/povl_v5/experiments/curriculum_20261030/whole_page_eval.py \
  --model /autodl-fs/data/PaddleOCR-VL-1.6 --tag original_base

original_base复用已完成的基座结果；新模型必须使用新的tag，不能混用缓存。输出根目录 /autodl-tmp/official_table_pages_20261031/<tag>/，官方汇总为SUMMARY.json。

两类均4卡×每卡3个vLLM实例，共12实例；GPU推理与CPU评分并行。当前GPU正在训练，避免同时手动启动这些GPU命令。

环境

Python/packages详情见同目录ENVIRONMENTS_AND_CONFIGS.md，完整包清单见environments/。该MD是此前环境配置快照；本文件补充当前评测范围和状态。 Crop客户端Python3.12.3，Transformers5.19.0；vLLM0.32.0、PyTorch2.13.0+cu130。 整页库Python3.12.3、PaddleOCR3.7、PaddleX3.7.2、PaddleGPU3.2.1（CUDA12.6）；官方评分独立Python3.10.22环境。