b1intern/morning-tea-transfer

当前交付：27B image＋video 混合 SFT，LR=1e-5

使用本版本继续复现：releases/27b_mixed_lr1e5_clean338_20260918。

本交付冻结了最后一次训练的数据版本、行序、训练缓存、Swift/模板/thyme 源码、运行环境和超参数。原四机任务在 106/453 步时因 worker 释放中断，尚未到第一次保存；没有可恢复的第 106 步权重。本入口从原始 Qwen3.5-27B重新训练，保存第 2、3 个 epoch。

不包含 27B base model，也不包含旧 SFT checkpoint。 朋友需自行准备原始 Qwen3.5-27B；校验器核对配置、tokenizer/processor、索引及全部分片 SHA256。不能用 9B、FP8、Qwen3.5-27B-Base 或已经 SFT 的权重替代。

数据版本和配比

项目	固定数量
Image 原始训练行	46,103
Image 沿用原规则后的训练行	46,084
Video 训练行	13,499
实际训练行合计	59,583
固定验证行	5,207：image 5,142＋video 65
Packing 后 train / validation	9,687 / 202

实际训练样本行配比为 **image 77.3442% / video 22.6558%**。没有新增重采样、memory 加权、随机验证划分或其他批次。完整输入 token 的 video 占比约 52.6420%，这不是监督 token 占比。

Video 只使用以下清洗后的完整文件：

/mnt/bn/xiaohe-research-nfs/mlx/users/qianshanwei/playground/video_reflection_pilot_20260912/reflection_completion_v3_20260913/data_repair_20260916/releases/video_text_clean338_v1/merged_train.parquet

对应交付包中的 input_snapshot/11_video_train.parquet，13,499 行，SHA256：

a14b8188a2dbca8bc6b857b700ca273470748a056ce6a3180a05f2ae823abbd5

固定的 65 行 video 验证集为 input_snapshot/12_video_validation.parquet，SHA256：

d35f34e91083813632e43f510828c48ec0460c8d54dd652b55134cda88ec18f3

Image 为原先保留的十个训练来源，顺序不变：

冻结文件	原来源
00_image_train.parquet	v6.0_step_annotation/success_steps_naive_modelhub_swift/success_steps_naive_modelhub_swift_error_as_keep_train.parquet
01_image_train.parquet	v6.0_step_annotation/review_gt_wrong_model_correct_swift/review_gt_wrong_model_correct_swift_error_as_keep_train.parquet
02_image_train.parquet	v6.0_step_annotation/success_step_training_points_swift/success_step_training_points_swift_error_as_keep_train.parquet
03_image_train.parquet	v6.0_step_annotation/naive_model_hub_review_gt_wrong_model_correct_swift/naive_model_hub_review_gt_wrong_model_correct_swift_error_as_keep_train.parquet
04_image_train.parquet	v6.0_step_annotation/success_step_training_points_swift_naive_modelhub/success_step_training_points_swift_naive_modelhub_error_as_keep_train.parquet
05_image_train.parquet	v6.0_step_annotation/review_aggregate.decision__gemini_is_right_swift/review_aggregate.decision__gemini_is_right_swift_error_as_keep_train.parquet
06_image_train.parquet	v0_ori/finevision_swift/sft_final_easy40000_mediumall_hardall_structured_cleaned_v3/datasets/drivelm/train.parquet
07_image_train.parquet	v0_ori/finevision_swift/sft_final_easy40000_mediumall_hardall_structured_cleaned_v3/datasets/spatialsense/train.parquet
08_image_train.parquet	v5.0_4000case/swift_data/reflection_train_naive_modelhub_stitched_swift.parquet
09_image_train.parquet	v5.0_2wcases/swift_data/reflection_train_naive_modelhub_stitched_swift.parquet

上表原来源均以 /mnt/bn/xiaohe-research-nfs/traing_data/all_jsonls/ 为前缀。Image 验证为 input_snapshot/10_image_validation.parquet，沿用原 vlmeval_7bench_suite.parquet。每个文件的完整原路径、行数及 SHA256 以解压后的 provenance/input_manifest.json 为准。SenseNova-SI、Innovator-VL 两个早已丢失且明确同意省略的来源没有补入。

训练只加载冻结的 cache/exported/train 和 cache/exported/val；不要再将 input_snapshot/*.parquet 追加进去，否则会重复训练。原始 Parquet 用于溯源和核验。现有缓存保存原始训练行与长度，不保存模型 hidden states；训练仍实际读取图像/帧并做视觉编码。

固定训练设置

参数	值
初始化	原始 Qwen3.5-27B
机器	4 台，每台 8 张 H20
并行	TP=4、PP=1、DP=8
Batch	GBS=64、microbatch=1、梯度累积 8
学习率	1e-5；min LR=1e-6、cosine、warmup=0.05
优化器	Adam β=(0.9,0.95)、eps=1e-8、weight decay=0.1、clip grad=1
训练范围	full LLM；vision tower 和 aligner 冻结
精度/重算	BF16、FlashAttention、full/uniform/1 recompute
模板/loss	qwen3_5_video_agent / thyme
Packing	true；窗口 32,768
Epoch / 更新	3 epochs / 453 步
验证	第 151、302、453 步
保存	第 302、453 步，HF＋native optimizer/RNG/scheduler
Seed / data seed	42 / 42

这里 GBS=64 指每次更新使用 64 条 packing 后序列，不是 64 个原始 QA 或完整轨迹。

Image 单样本 admission 仍为 20,480，MAX_PIXELS=1003520、IMAGE_MAX_TOKEN_NUM=980 保持原样。Video 使用 32,768 窗口、每帧最多 128 visual tokens，不套用 image 的 20K 过滤；332 条超过 20K 的 video 训练行全部保留。

messages、tools、memory 清理后的当前可见媒体和 thyme loss labels 不改。视频帧即使放在 images 字段中，仍是 video。媒体适配器只解析存储路径，不会把已清理的历史图片重新累加进上下文。

精确参数以 portable/training_contract.json 和正式启动后的 args.json 校验结果为准；不要直接使用归档中历史 baseline 默认值、旧 worker ID/IP 或旧 scheduler 的启动脚本。

下载和恢复

仓库目前启用了 Hugging Face 的访问申请机制（gated=auto）。请先用朋友自己的账号获得访问权限，并在当前终端设置具有读取权限的 HF_TOKEN；不要把 token 写进脚本、README 或训练配置。

在每个节点的本地 NVMe 上准备独立下载环境。REV 使用本次交付提供的完整 HF commit；若未指定 revision，恢复脚本会首次解析一次 main 并写入本地 restore_lock.json，之后继续使用同一个 commit。消融或复现应明确固定交付 commit。

python3 -m venv /local_nvme/morning_tea_downloader
/local_nvme/morning_tea_downloader/bin/pip install huggingface_hub hf_xet zstandard

export HF_XET_HIGH_PERFORMANCE=1
export HF_XET_CACHE=/local_nvme/morning_tea_download_cache/xet
export REV='75bebc12b10663f450898f914f11c42a5de4d110'
export RELEASE=releases/27b_mixed_lr1e5_clean338_20260918

/local_nvme/morning_tea_downloader/bin/hf download b1intern/morning-tea-transfer \
  "$RELEASE/download_release.py" --repo-type dataset --revision "$REV" \
  --local-dir /local_nvme/morning_tea_bootstrap

/local_nvme/morning_tea_downloader/bin/python \
  "/local_nvme/morning_tea_bootstrap/$RELEASE/download_release.py" \
  --revision "$REV" \
  --bundle /local_nvme/morning_tea_sft \
  --download-cache /local_nvme/morning_tea_download_cache \
  --runtime-root /tmp

先查看下载计划可给恢复命令加 --plan-only。中断后重跑同一条命令；恢复脚本固定 commit，核验压缩包大小/SHA，已完成分包默认跳过解压。恢复后若手动删过文件，可加 --reextract 补齐；与已有内容冲突会明确停止。

释放包由同一份 release_manifest.json 串联：

• sft_bundle.tar.zst：当前完整 image/video Parquet、native 缓存、实际源码、配置、媒体映射及核验工具，解压到 BUNDLE_ROOT/。
• 六份既有 morning_tea_sft_images_000.tar.zst–005.tar.zst：复用原 image 媒体，解压到 BUNDLE_ROOT/media/，得到 media/sft/images/...，无需重传。
• 新 media/additional_media_*.tar.zst：此次 video 等新增媒体，解压到 BUNDLE_ROOT/。
• environment/sft_runtime.tar.zst：冻结训练 runtime，解压到 /tmp/，得到 /tmp/qwen35_swift_megatron_sft_v1。

请同时预留压缩下载缓存和全部展开内容的空间；以 --plan-only 与 release manifest 给出的实际体积为准。恢复工具不下载 base model，也不会启动训练。

校验并启动四机训练

归档是 Python venv，并非独立容器；宿主还需匹配 Linux x86_64、CPython 3.11 标准库/libpython、NVIDIA driver 和系统动态库。校验器会先运行只读导入与链接检查，依赖缺失会明确报错；不会自行安装或改变冻结环境。

每个节点使用相同路径布局，环境基线为 Python 3.11、PyTorch 2.7.1/CUDA 12.6、Transformers 5.2.0、Megatron-Core 0.16.1、FlashAttention 2.8.3、Transformer Engine 2.12.0、ms-swift 4.1.0.dev0；使用交付的实际 swift_src/ 源码，不用同名 pip 包代替定制 thyme 代码。

export BUNDLE_ROOT=/local_nvme/morning_tea_sft
export ENV_DIR=/tmp/qwen35_swift_megatron_sft_v1
export BASE_MODEL=/models/Qwen3.5-27B
export LOCAL_SCRATCH=/local_nvme/morning_tea_scratch
source "$BUNDLE_ROOT/portable/environment.sh"

CUDA_VISIBLE_DEVICES='' "$ENV_DIR/bin/python" "$BUNDLE_ROOT/portable/verify_bundle.py" \
  --bundle "$BUNDLE_ROOT" --base-model "$BASE_MODEL" \
  --swift-source "$SWIFT_SRC_DIR" --runtime "$ENV_DIR" --hash-media

这一步核验代码/数据/媒体/base model SHA、完整缓存内容和行序、图像/video 长度限制及原 Swift packing 索引；不启动训练、不将模型加载到 GPU。

四个节点分别使用 NODE_RANK=0/1/2/3，其余设置相同：

export NNODES=4 NPROC_PER_NODE=8
export NODE_RANK=0             # 其余三台分别改为 1、2、3
export MASTER_ADDR='rank0可路由IP'
export MASTER_PORT=29500
export OUTPUT_DIR=/shared/checkpoints/mixed27b_lr1e5_new
export CUDA_VISIBLE_DEVICES=0,1,2,3,4,5,6,7

bash "$BUNDLE_ROOT/portable/launch.sh" --dry-run
# 四台 dry-run 核对后，每台只启动一次：
bash "$BUNDLE_ROOT/portable/launch.sh"

OUTPUT_DIR 使用新的共享目录。入口的 one-shot claim、编译缓存和状态判断放在节点本地；不会因 NFS 状态文件读取失败而杀训练。网络默认 Socket NCCL、eth0、IB/NVLS disabled；网卡名不同只调整 NCCL_SOCKET_IFNAME / GLOO_SOCKET_IFNAME。IPv6 网络按解压后的 portable/README.md 设置每台自己的 SFT_GLOO_IPV6_ADDR。

正式训练生成 args.json 后再核对实际参数：

"$ENV_DIR/bin/python" "$BUNDLE_ROOT/portable/check_training_args.py" "$OUTPUT_DIR/args.json"

确认日志中的总更新为453、eval间隔151、save间隔302。完整结束应有 checkpoint-302、checkpoint-453 及四个 portable_exit_node*.json 的 returncode=0；仅存在 checkpoint 目录不代表权重导出完整。模型效果另行评测。

仓库历史文件

六个原 image 媒体分包和 filelists/images_*.list 保留复用。旧 checkpoint-255、旧 metadata/recipe 和旧归档生成入口已经由本次交付替代；本地原始代码、数据和 checkpoint 不在仓库清理范围内。thyme-video-eval-20260914.tar.gz 单独保留，但不属于本次 SFT 训练输入。

以后增加数据应发布新的 release 和冻结清单，不修改这个 release 的输入或沿用旧缓存冒充同一实验。