Commit History
-
text context: the 6 Qwen3-0.6B layers the adapter uses (2,9,14,18,23,27), not 3
- train_micro.py / pipeline_micro.py / one_sample_train: TEXT_SLICES -> [2,9,14,18,23,27] (6144 dims, the same stack the v14 text adapter consumes) and txtlayers=len(TEXT_SLICES) so TextFusion matches the context instead of defaulting to 3 - pipeline_micro.build_pipeline: assert the checkpoint's txtlayers equals the pipeline's slots — the mismatch used to be silent - train_micro.py: import concatenate_datasets (load_any_dataset crashed on --ds-path with several chunks)7b1dc93
-
adapter v6 (180M): общие модули схемы, пример с klein, README, PNG в LFS
- v6: 6144->8192->8192->7680 + ln-per-layer, дообучен с v5 (1 эпоха на 64 450 капшенах, lr 1e-4 const) -> val 24.96% (v5: 25.43%); чекпоинты .pt и .safetensors - adapter_lib.py / klein_condition.py: схема адаптера и подмена ТЕ в пайплайне klein в одном месте (раньше класс был скопирован в train/test «схемы обязаны совпадать») - example_klein.py: минимальный пример генерации klein через наш ТЕ + адаптер - export_safetensors.py: .pt -> .safetensors с метаданными схемы и self-check - train_adapter.py: --val-captions (фиксированный val), --log-every, import json, чекпоинт каждую эпоху (.last.pt — только локально, в гит не кладём), --resume - README под v6: запуск, дообучение, использование с klein, что переносится и что нет - transformer/ -> transformer.zip; .ipynb_checkpoints убраны; *.png и *.last.pt в LFS/.gitignore3fe68bd -
Upload folder using huggingface_hub
Verified signature105ed5d