PROGRESS — arm DPO foto asli US (RUNBOOK-dpo-real-us.md)
Cakupan sesi ini: 20 epoch (880 step), fixed-t val tiap 2 epoch, MAE val tiap 2 epoch, MAE test ep5/10/15/20. Dipotong dari 30 epoch atas permintaan di tengah sesi.
| # | tahap | status | keluaran |
|---|---|---|---|
| 0d | dependensi eval (SCRFD + Keypoint R-CNN) | SELESAI | detect() lolos di satu foto asli; bobot ter-cache |
| 0a | install paket + pip freeze |
SELESAI | /workspace/pip_freeze_dpo.txt (diffusers 0.40.0, transformers 5.17.0, accelerate 1.15.0, datasets 5.0.1, torch 2.8.0+cu128) |
| 0b | bangun parquet dari foto lokal | SELESAI | data/dpo_us_real/{train,val}/data.parquet — 1.400/420 pasangan, label_0=1 pada 52,0%/45,7%, proporsi chosen=female cocok dengan p_female_target di 14 okupasi |
| 0c | plafon implicit accuracy (sebelum training) | SELESAI | analysis/dpo_real/ceiling.csv — 0,6514, per-okupasi identik tabel runbook |
| 1 | tulis + smoke-test scripts/eval/fixedt_dpo_val.py |
SELESAI | base → dpo_loss = 0,69315 persis (policy = ref). implicit_acc di base = 0, bukan 0,5: > 0 di train.py ketat dan semua pasangan seri — dibiarkan identik training, ditandai di plot |
| 2 | training §1 + prune/compact §1b | SELESAI — 59m18s, 20 checkpoint, VRAM 23,1 GB. Acceptance lolos: hparams seed 0 / beta_dpo 5000 / scale_lr false / sft false / train_method dpo; optimizer.bin hanya di checkpoint-880; prune hemat 121,7 GiB, compact 30,4 GiB; du = 45 GB |
/workspace/logs_dpo/{train,prune,compact}.log → DiffusionDPO-private/outputs/dpo_us_real |
| 3 | §2 fixed-t DPO val, 11 titik (--every 88) |
SELESAI (~17 mnt) — val melewati plafon sejak ep8, loss tanpa minimum di dalam, mse_w+mse_l dua-duanya naik di atas base |
analysis/dpo_real/fixedt_dpo_val.csv |
| 4 | §3 MAE val, ep2..20 tiap 2 | SELESAI — 10×14 lengkap, 0 judge gagal. MAE terbaik di ep2 (0,134) lalu memburuk ke 0,205 di ep16; unclear rate 0,157 → 0,405 | |
| 5 | §4 MAE test, ep5/10/15/20 | SELESAI — 4×14, 0 judge gagal. MAE 0,150–0,172 vs base 0,149, ΔMAE tidak signifikan di keempat titik | |
| 6 | §6 bootstrap + §7 gambar 7 panel | SELESAI — 7 panel lengkap, delta_vs_base_test.csv, REPORT.md ditulis ulang terhadap base, provenance |
|
| 7 | §8 upload HF | SELESAI — https://huggingface.co/fassabilf/sd15-dpo-us-real, 52 berkas, unet_ep1..ep20, publik, kartu model menyebut kolapsnya secara eksplisit |
Patch train.py (di luar runbook, atas permintaan)
accelerator.clip_grad_norm_ mengembalikan norma gradien sebelum clip; upstream membuangnya.
Ditangkap dan di-log sebagai grad_norm. Run diulang dari step 1 (bukan resume) karena
warmup 50 step pertama justru bagian yang mau dilihat. Ongkos: ~13 mnt GPU.
Terbaca awal: grad_norm 66,7 → 108,8 sementara max_grad_norm = 1,0 → clipping aktif
di praktis setiap step; besaran gradien DPO tidak pernah sampai utuh ke optimizer.
Tag tensorboard ada lima dan sudah diverifikasi hidup: train_loss, grad_norm,
implicit_acc_accumulated, model_mse_unaccumulated, ref_mse_unaccumulated.
Berkas scalar-nya di logs/tuning/events.*, BUKAN di subdirektori logs/tuning/<ts>/.
Kuota Gemini
Judge dipanggil di dua tahap: MAE val 10 × 420 = 4.200, MAE test 4 × 1.400 = 5.600. Total ~9.800 dari kuota ~21.000.
Angka yang sudah dipaku sebelum training (jangan diedit setelahnya)
- plafon implicit accuracy train = val = 0,6514
- lewat plafon = model menghafal 280 foto (dipakai ulang ~10×), bukan belajar distribusi
- tanda mode-seeking: signed error per okupasi searah
sign(2p−1)DAN melewati target
Hasil training (dari tensorboard, sebelum §2 val)
| ep1 | ep5 | ep10 | ep15 | ep20 | |
|---|---|---|---|---|---|
| implicit acc (train) | 0,526 | 0,614 | 0,640 | 0,661 | 0,662 |
| train DPO loss | 0,831 | 1,316 | 1,394 | 1,335 | 1,494 |
| model_mse | 0,128 | 0,109 | 0,135 | 0,136 | 0,140 |
| ref_mse | 0,128 | 0,108 | 0,132 | 0,132 | 0,136 |
| grad_norm | 87,8 | 79,9 | 72,4 | 69,9 | 68,4 |
Terhadap kriteria yang dipaku SEBELUM run:
- implicit acc train melewati plafon 0,6514 sekitar ep15 → tanda menghafal 280 foto.
model_msenaik melewatiref_mse, keduanya naik ep5→ep20, loss DPO ikut naik → pola "menang dengan merusak rekonstruksi kedua sisi" (kriteria §2 butir 2).- grad_norm tidak pernah < 1,0 di 880 step (min 13,9, maks 176,4) → clipping tiap step.
Belum boleh disimpulkan sebelum §2 val + §3/§4 MAE: train melewati plafon tapi val belum diukur; kalau val TIDAK ikut melewati, itu hafalan pasangan (foto, caption).
Yang sudah ter-push
| repo | branch | isi |
|---|---|---|
| GambarBerulangUlang | dpo-real-us |
fixedt_dpo_val.py, dpo_real_report.py, analysis/dpo_real/*, REPORT.md, patch LOGDIR + target dpo di upload script |
| DiffusionDPO-private | log-grad-norm |
patch grad_norm |
| Menuju6BulanLebihSeru-TA | dpo-real-us |
pointer submodule |
| HF | — | fassabilf/sd15-dpo-us-real (20 checkpoint, publik) |
Commit ditulis ulang untuk membuang trailer Co-Authored-By: Claude dan Claude-Session
atas permintaan, lalu push --force-with-lease. Commit berikutnya sudah tanpa trailer.
Status: SELESAI (~10:40Z)
Semua tahap runbook (versi 20 epoch) selesai, ter-commit tanpa trailer, ter-push, bobot + kartu terkoreksi di HF.
Pembersihan disk (2026-09-10, ~10:00Z) — 95 GB → 22 GB
Dihapus atas persetujuan, semuanya punya salinan terverifikasi atau memang tidak dipakai lagi:
DiffusionDPO-private/outputs/sft_us_real_even/(29 GB) — 15/15 UNet ada di HFsd15-ift-us-evendpo_us_real/checkpoint-44..836(19 × 1,7 GB) — 20/20 UNet ada di HFsd15-dpo-us-real- pipeline akhir di akar
dpo_us_real/(unet fp32, vae, text_encoder, safety_checker) checkpoint-880/optimizer.bin+scheduler.bin+random_states_0.pkl(6,5 GB) → run ini tidak bisa lagi di-resume ke ep30; perpanjangan harus ulang dari awal/workspace/real-images-workdir(tar mentah, sumbernya dataset HF),/workspace/tmp-ift-even
Dipertahankan: dpo_us_real/logs/ (tensorboard + hparams, sumber panel 1–3 dan provenance),
checkpoint-880/unet (fp16), seluruh gambar val/test di GambarBerulangUlang/outputs/
(belum di-backup ke mana pun, dan judge ep20 masih membacanya), cache SD 1.5 di .hf.
PROGRESS — arm DPO sintetis US (pembanding, 2026-09-10 ~10:20–13:45Z)
Resep identik arm foto asli; beda hanya sumber gambar (SD 1.5). Laporan lengkap:
GambarBerulangUlang/analysis/dpo_sd15/COMPARISON.md, gambar dpo_sd15_vs_real.png.
| tahap | status | keluaran |
|---|---|---|
| sisi chosen | SELESAI | 28 zip akar fassabilf/ift-train-us-sd15 → outputs/ift_train_us_sd15/ (1.400/308 terverifikasi ada; zip zips/ tidak memuat seed retry) |
| sisi rejected (flip) | SELESAI — 15 mnt, 1.783 Gemini | scripts/ift/gen_flip_pool_sd15.py (pipeline render/gate/judge, judge malas, gate YuNet — pool chosen terukur YuNet, bukan SCRFD) |
| dataset | SELESAI | data/dpo_us_sd15/ 1.400/308 pasangan, 2.800 gambar unik, plafon 0,6514 dipaku sebelum training |
| training 20 ep | SELESAI — 82m26s | DiffusionDPO-private/outputs/dpo_us_sd15 (19 ckpt fp16 + ckpt-880 utuh), logs/PROVENANCE_dpo_us_sd15.json |
| fixed-t val 11 titik | SELESAI | analysis/dpo_sd15/fixedt_dpo_val.csv (base 0,69315 ✓) |
| MAE test ep5/10/15/20 | SELESAI — 8.191 Gemini, 0 gagal | analysis/dpo_sd15/{bootstrap,per_slug,mae_floor}_test.csv |
| push GitHub | SELESAI | GambarBerulangUlang + Menuju6BulanLebihSeru-TA branch dpo-sd15-us |
| upload HF | SELESAI — semua publik (2026-09-10, sebelum cluster dihapus) | model fassabilf/sd15-dpo-us-sd15 (unet_ep1..20; ep20 fp32), dataset fassabilf/dpo-train-us-sd15 (parquet + flip pool zip), dataset fassabilf/ift-eval-us-dpo (gambar test/val arm DPO real+sintetis & SFT even, zip per folder, + workspace/ log & catatan pod) |
Temuan: loss train sintetis turun (0,826→0,454) & implicit acc train 0,80, tapi val loss naik monoton 0,69→1,60 dan val acc tak pernah capai plafon (maks 0,616) → hafalan caption. MAE test tak pernah lebih baik dari base (0,149): 0,209 / 0,244 / 0,162 / 0,178, berosilasi male (ep5) ↔ female (ep10); ep20 14/14 okupasi ke mayoritas, 7 kolaps. Kesimpulan: kegagalan DPO bukan cuma soal data foto — resepnya sendiri.
Kuota Gemini: arm ini ~9.970 panggilan; ditambah ~9.800 arm foto asli → ~19.800 dari ~21.000. Sisa ~1.200.