# PROGRESS — arm DPO foto asli US (RUNBOOK-dpo-real-us.md)

Cakupan sesi ini: **20 epoch (880 step)**, fixed-t val tiap 2 epoch, MAE val tiap 2 epoch,
MAE test ep5/10/15/20. Dipotong dari 30 epoch atas permintaan di tengah sesi.

| # | tahap | status | keluaran |
|---|---|---|---|
| 0d | dependensi eval (SCRFD + Keypoint R-CNN) | SELESAI | `detect()` lolos di satu foto asli; bobot ter-cache |
| 0a | install paket + `pip freeze` | SELESAI | `/workspace/pip_freeze_dpo.txt` (diffusers 0.40.0, transformers 5.17.0, accelerate 1.15.0, datasets 5.0.1, torch 2.8.0+cu128) |
| 0b | bangun parquet dari foto lokal | SELESAI | `data/dpo_us_real/{train,val}/data.parquet` — 1.400/420 pasangan, label_0=1 pada 52,0%/45,7%, proporsi chosen=female cocok dengan `p_female_target` di 14 okupasi |
| 0c | plafon implicit accuracy (sebelum training) | SELESAI | `analysis/dpo_real/ceiling.csv` — **0,6514**, per-okupasi identik tabel runbook |
| 1 | tulis + smoke-test `scripts/eval/fixedt_dpo_val.py` | SELESAI | base → `dpo_loss = 0,69315` persis (policy = ref). `implicit_acc` di base = 0, bukan 0,5: `> 0` di train.py ketat dan semua pasangan seri — dibiarkan identik training, ditandai di plot |
| 2 | training §1 + prune/compact §1b | SELESAI — **59m18s**, 20 checkpoint, VRAM 23,1 GB. Acceptance lolos: hparams `seed 0 / beta_dpo 5000 / scale_lr false / sft false / train_method dpo`; `optimizer.bin` hanya di checkpoint-880; prune hemat 121,7 GiB, compact 30,4 GiB; `du` = 45 GB | `/workspace/logs_dpo/{train,prune,compact}.log` → `DiffusionDPO-private/outputs/dpo_us_real` |
| 3 | §2 fixed-t DPO val, 11 titik (`--every 88`) | SELESAI (~17 mnt) — val melewati plafon sejak **ep8**, loss tanpa minimum di dalam, `mse_w`+`mse_l` dua-duanya naik di atas base | `analysis/dpo_real/fixedt_dpo_val.csv` |
| 4 | §3 MAE val, ep2..20 tiap 2 | SELESAI — 10×14 lengkap, 0 judge gagal. MAE terbaik di **ep2 (0,134)** lalu memburuk ke 0,205 di ep16; unclear rate 0,157 → 0,405 |
| 5 | §4 MAE test, ep5/10/15/20 | SELESAI — 4×14, 0 judge gagal. MAE 0,150–0,172 vs base 0,149, ΔMAE tidak signifikan di keempat titik |
| 6 | §6 bootstrap + §7 gambar **7** panel | SELESAI — 7 panel lengkap, `delta_vs_base_test.csv`, REPORT.md ditulis ulang terhadap base, provenance |
| 7 | §8 upload HF | SELESAI — https://huggingface.co/fassabilf/sd15-dpo-us-real, 52 berkas, unet_ep1..ep20, publik, kartu model menyebut kolapsnya secara eksplisit |

## Patch train.py (di luar runbook, atas permintaan)
`accelerator.clip_grad_norm_` mengembalikan norma gradien sebelum clip; upstream membuangnya.
Ditangkap dan di-log sebagai `grad_norm`. Run diulang dari step 1 (bukan resume) karena
warmup 50 step pertama justru bagian yang mau dilihat. Ongkos: ~13 mnt GPU.
Terbaca awal: **grad_norm 66,7 → 108,8 sementara `max_grad_norm` = 1,0** → clipping aktif
di praktis setiap step; besaran gradien DPO tidak pernah sampai utuh ke optimizer.

Tag tensorboard ada lima dan sudah diverifikasi hidup: `train_loss`, `grad_norm`,
`implicit_acc_accumulated`, `model_mse_unaccumulated`, `ref_mse_unaccumulated`.
Berkas scalar-nya di `logs/tuning/events.*`, BUKAN di subdirektori `logs/tuning/<ts>/`.

## Kuota Gemini
Judge dipanggil di **dua** tahap: MAE val 10 × 420 = 4.200, MAE test 4 × 1.400 = 5.600.
Total ~9.800 dari kuota ~21.000.

## Angka yang sudah dipaku sebelum training (jangan diedit setelahnya)
- plafon implicit accuracy train = val = **0,6514**
- lewat plafon = model menghafal 280 foto (dipakai ulang ~10×), bukan belajar distribusi
- tanda mode-seeking: signed error per okupasi searah `sign(2p−1)` DAN melewati target

## Hasil training (dari tensorboard, sebelum §2 val)

| | ep1 | ep5 | ep10 | ep15 | ep20 |
|---|---|---|---|---|---|
| implicit acc (train) | 0,526 | 0,614 | 0,640 | **0,661** | **0,662** |
| train DPO loss | 0,831 | 1,316 | 1,394 | 1,335 | 1,494 |
| model_mse | 0,128 | 0,109 | 0,135 | 0,136 | 0,140 |
| ref_mse | 0,128 | 0,108 | 0,132 | 0,132 | 0,136 |
| grad_norm | 87,8 | 79,9 | 72,4 | 69,9 | 68,4 |

Terhadap kriteria yang dipaku SEBELUM run:
1. implicit acc train **melewati plafon 0,6514** sekitar ep15 → tanda menghafal 280 foto.
2. `model_mse` naik melewati `ref_mse`, keduanya naik ep5→ep20, loss DPO ikut naik →
   pola "menang dengan merusak rekonstruksi kedua sisi" (kriteria §2 butir 2).
3. grad_norm **tidak pernah < 1,0** di 880 step (min 13,9, maks 176,4) → clipping tiap step.

Belum boleh disimpulkan sebelum §2 val + §3/§4 MAE: train melewati plafon tapi val belum
diukur; kalau val TIDAK ikut melewati, itu hafalan pasangan (foto, caption).

## Yang sudah ter-push

| repo | branch | isi |
|---|---|---|
| GambarBerulangUlang | `dpo-real-us` | `fixedt_dpo_val.py`, `dpo_real_report.py`, `analysis/dpo_real/*`, `REPORT.md`, patch `LOGDIR` + target `dpo` di upload script |
| DiffusionDPO-private | `log-grad-norm` | patch `grad_norm` |
| Menuju6BulanLebihSeru-TA | `dpo-real-us` | pointer submodule |
| HF | — | `fassabilf/sd15-dpo-us-real` (20 checkpoint, publik) |

Commit ditulis ulang untuk membuang trailer `Co-Authored-By: Claude` dan `Claude-Session`
atas permintaan, lalu `push --force-with-lease`. Commit berikutnya sudah tanpa trailer.

## Status: SELESAI (~10:40Z)
Semua tahap runbook (versi 20 epoch) selesai, ter-commit tanpa trailer, ter-push, bobot + kartu terkoreksi di HF.

## Pembersihan disk (2026-09-10, ~10:00Z) — 95 GB → 22 GB

Dihapus atas persetujuan, semuanya punya salinan terverifikasi atau memang tidak dipakai lagi:
- `DiffusionDPO-private/outputs/sft_us_real_even/` (29 GB) — 15/15 UNet ada di HF `sd15-ift-us-even`
- `dpo_us_real/checkpoint-44..836` (19 × 1,7 GB) — 20/20 UNet ada di HF `sd15-dpo-us-real`
- pipeline akhir di akar `dpo_us_real/` (unet fp32, vae, text_encoder, safety_checker)
- `checkpoint-880/optimizer.bin` + `scheduler.bin` + `random_states_0.pkl` (6,5 GB)
  → **run ini tidak bisa lagi di-resume ke ep30**; perpanjangan harus ulang dari awal
- `/workspace/real-images-workdir` (tar mentah, sumbernya dataset HF), `/workspace/tmp-ift-even`

Dipertahankan: `dpo_us_real/logs/` (tensorboard + hparams, sumber panel 1–3 dan provenance),
`checkpoint-880/unet` (fp16), seluruh gambar val/test di `GambarBerulangUlang/outputs/`
(belum di-backup ke mana pun, dan judge ep20 masih membacanya), cache SD 1.5 di `.hf`.

---

# PROGRESS — arm DPO **sintetis** US (pembanding, 2026-09-10 ~10:20–13:45Z)

Resep identik arm foto asli; beda hanya sumber gambar (SD 1.5). Laporan lengkap:
`GambarBerulangUlang/analysis/dpo_sd15/COMPARISON.md`, gambar `dpo_sd15_vs_real.png`.

| tahap | status | keluaran |
|---|---|---|
| sisi chosen | SELESAI | 28 zip akar `fassabilf/ift-train-us-sd15` → `outputs/ift_train_us_sd15/` (1.400/308 terverifikasi ada; zip `zips/` tidak memuat seed retry) |
| sisi rejected (flip) | SELESAI — 15 mnt, 1.783 Gemini | `scripts/ift/gen_flip_pool_sd15.py` (pipeline render/gate/judge, judge malas, gate **YuNet** — pool chosen terukur YuNet, bukan SCRFD) |
| dataset | SELESAI | `data/dpo_us_sd15/` 1.400/308 pasangan, 2.800 gambar unik, plafon 0,6514 dipaku sebelum training |
| training 20 ep | SELESAI — 82m26s | `DiffusionDPO-private/outputs/dpo_us_sd15` (19 ckpt fp16 + ckpt-880 utuh), `logs/PROVENANCE_dpo_us_sd15.json` |
| fixed-t val 11 titik | SELESAI | `analysis/dpo_sd15/fixedt_dpo_val.csv` (base 0,69315 ✓) |
| MAE test ep5/10/15/20 | SELESAI — 8.191 Gemini, 0 gagal | `analysis/dpo_sd15/{bootstrap,per_slug,mae_floor}_test.csv` |
| push GitHub | SELESAI | GambarBerulangUlang + Menuju6BulanLebihSeru-TA branch `dpo-sd15-us` |
| upload HF | SELESAI — semua **publik** (2026-09-10, sebelum cluster dihapus) | model `fassabilf/sd15-dpo-us-sd15` (unet_ep1..20; ep20 fp32), dataset `fassabilf/dpo-train-us-sd15` (parquet + flip pool zip), dataset `fassabilf/ift-eval-us-dpo` (gambar test/val arm DPO real+sintetis & SFT even, zip per folder, + `workspace/` log & catatan pod) |

Temuan: loss train sintetis turun (0,826→0,454) & implicit acc train 0,80, tapi val loss
naik monoton 0,69→1,60 dan val acc tak pernah capai plafon (maks 0,616) → hafalan caption.
MAE test tak pernah lebih baik dari base (0,149): 0,209 / 0,244 / 0,162 / 0,178, berosilasi
male (ep5) ↔ female (ep10); ep20 14/14 okupasi ke mayoritas, 7 kolaps. Kesimpulan: kegagalan
DPO bukan cuma soal data foto — resepnya sendiri.

**Kuota Gemini**: arm ini ~9.970 panggilan; ditambah ~9.800 arm foto asli → ~19.800 dari
~21.000. Sisa ~1.200.