Download docs/STATE.md from backseollgi/Cerberus: direct link, hf CLI and curl.
- Browser
- Download file 7.47 kB
-
https://huggingface.co/backseollgi/Cerberus/resolve/main/docs/STATE.md
- Command line
-
hf download hf://backseollgi/Cerberus/docs/STATE.md
-
curl -L -o STATE.md https://huggingface.co/backseollgi/Cerberus/resolve/main/docs/STATE.md
ํ์ฌ ์ํ โ ์ธ์ ์ด ๋๊ฒจ๋ ์ฌ๊ธฐ๋ถํฐ ์ฝ์ผ๋ฉด ์ด์ด๊ฐ ์ ์๋ค
๋ง์ง๋ง ๊ฐฑ์ 2026-08-18. ๊ธด ์์ ์ ๋ค๋ฅธ ๋ฌธ์์ ์๋ค. ์ฌ๊ธฐ๋ ์ง๊ธ ๋ฌด์์ด ๋๊ณ ์๊ณ ๋ค์์ด ๋ฌด์์ธ๊ฐ๋ง ๋๋ค.
โถ ํ์ฌ โ ์จ์ด๋ธ 2 ์งํ ์ค (2026-08-21 15:53)
์จ์ด๋ธ 1 ์์ฃผ. duplicateยทflow_reinit ๊ฐ 40/40 ์ ๋ง์ณค๊ณ ์ฒดํฌํฌ์ธํธ๊ฐ ๊ฑด๊ฐํ๋ค
(๋น์ ํ ํ๋ผ๋ฏธํฐ 0/231, ์์ค ๋จ์กฐ ํ๊ฐ).
โ
zero 40/40
โ
duplicate 40/40 oriloss 1.2402 โ 1.0682
โ
flow_reinit 40/40 oriloss 1.2567 โ 0.7255
๐ flow 17/40 (GPU 0)
๐ random_mask 21/40 (GPU 1)
์ฃผ์ โ ์์ง ํด์ํ์ง ๋ง ๊ฒ. flow_reinit ์ ์ต์ข
์์ค์ด duplicate ๋ณด๋ค ๋ฎ์ง๋ง, ์ด๋
ํ์ต ์์ค์ด๋ฉฐ ํ๋ฅ ์ฑ๋ฅ์ด ์๋๋ค. ํ์ ์ held-out ํ๊ฐ์ compare_arms.py ์ ํด๋ฆฝ ๋จ์ ์
๋ถํธ์คํธ๋ฉ์ผ๋ก๋ง ํ๋ค(experiment-roadmap.md ยง0 ์ S1/S2/S3).
๋จ์ 42 epoch รท 2 GPU ร 1.6h โ 1.4์ผ, ์๋ฃ ์์ 8์ 23์ผ.
์ฌ๊ฐ ๋ช ๋ น:
cd $CERBERUS_ROOT/hawk && ARM_GPUS="0 1" bash scripts/run_arms_parallel.sh
๐ ๋ํ ๊ธฐ๋ก์ด ์ด์ ์์๋๋ค (2026-08-18)
~/.claude ๋ ์ปจํ
์ด๋์ ํจ๊ป ์ฌ๋ผ์ง๋ฏ๋ก claude --resume ๋ชฉ๋ก๋ ์ฌ๋ผ์ก๋ค. ์ ๋ณธ์
seoik/claude_state/ ์ ๋๊ณ scripts/claude_state_sync.sh ๋ก ์ธ ๊ฒน ๋ณด์กดํ๋ค โ ๋ถํ
์
--restore, 5๋ถ ์ฃผ๊ธฐ ๋ฐ๋ชฌ --save, ์ ์ ์ข
๋ฃ ์ SessionEnd ํ
. ๋ถํธ์คํธ๋ฉ 1.5 ๋จ๊ณ๊ฐ
์๋ ์ฒ๋ฆฌํ๋ฏ๋ก ์ ์ปจํ
์ด๋์์ claude --continue ๋ก ๋ฐ๋ก ์ด์ด๊ฐ ์ ์๋ค.
๋ถํธ์คํธ๋ฉ์ ๋จผ์ ๋๋ฆฐ ๋ค์ claude ๋ฅผ ๋์์ผ ํ๋ค (๋ชฉ๋ก์ ์คํ ์์ ์ ์ฝํ๋ค).
๊ณผ๊ฑฐ ์ธ์
5๊ฐ๊ฐ ์ด๊ด๋ผ ์ค์ ์ฌ๊ฐ๊น์ง ๊ฒ์ฆ๋๋ค.
โ ์ปจํ ์ด๋ ๋ฉ๋ชจ๋ฆฌ ์ ํ์ด ๋ชจ๋ ๋ฏธ์คํฐ๋ฆฌ ์ฌ๋ง์ ์์ธ์ด์๋ค
/sys/fs/cgroup/memory.max 240 GB (๊ตฌ ์ปจํ
์ด๋) โ 739 GB (2026-08-18 ์ ์ปจํ
์ด๋)
/sys/fs/cgroup/memory.events oom_kill 6 โ 0
free ๋ ํธ์คํธ 2TB ๋ฅผ ๋ณด์ฌ์ค๋ค โ ์์ง ๋ง๊ณ ํญ์ cgroup ๊ฐ์ ๋ณผ ๊ฒ.
๊ตฌ ์ปจํ
์ด๋์์๋ DataLoader worker ๊ฐ OOM kill โ rank ์ฌ๋ง โ NCCL watchdog SIGABRT ๊ฐ
์ฝ 5 epoch(6.6์๊ฐ)๋ง๋ค ๋ฐ์ํ๋ค. ์ ์ปจํ
์ด๋๋ ์ฌ์ ๊ฐ 3๋ฐฐ๋ผ ์ฌ๋ฐ ๊ฐ๋ฅ์ฑ์ด ๋ฎ์ง๋ง,
num_workers 4 ์ ์ฌ์๋ ์ํ 12 ๋ ๊ทธ๋๋ก ๋๋ค(๋ง์ง๋ง ์ปค์ง๋ค).
์ฌ๊ฐ๋ ์ ์ ์๋ํ๋ฏ๋ก ์งํ๋ถ์ ์์ง ์๋๋ค. random_mask v1 ์ค๋จ, ํ๊ฐ 2๊ฑด ์คํจ,
flow v2 ์ ์ฃผ๊ธฐ์ ์ฌ๋ง์ด ์ ๋ถ ์ด๊ฒ์ด์๋ค.
ํ์ธ: cat /sys/fs/cgroup/memory.events
ํ์ธ: bash scripts/run_ablation_v2.sh --check
๊ฐ์ค์น ํ์ธ: grep -m1 REPR_LOSS_WEIGHT $CERBERUS_ROOT/runs/abl2_flow/train.log
์ด๋ฏธ ๋์จ ์ค์ธก (์ฒซ ๊ฒฐ๊ณผ)
flow v1 arm ์ ์ดํ ์ /ํ ๋น๊ต โ ํํ ์์ค์ด ํ์ฑํ๋๋ฉด ์ฑ๋ฅ์ด ๋จ์ด์ง๋ค.
| ep27 (์ดํ ์ ) | ep39 (์ดํ ํ) | |
|---|---|---|
| Scene-word Recall | 0.4085 | 0.3208 |
| BLEU-1 | 0.3259 | 0.2866 |
ฮ = +0.0920, 95% CI [+0.0564, +0.1276], n = 424 โ ๊ตฌ๊ฐ์ด 0 ์ ํฌํจํ์ง ์๋๋ค.
์๊ณ ๋ฐ์: Appendix A.2. ์ด๊ฒ์ด t = 0 ์ฌ์คํ์ ์ค์ฆ ๊ทผ๊ฑฐ๋ค.
๊ฒฐ๊ณผ: experiments/out/eval_flow_ep{27,39}.json
์ค๊ณ ๊ฒฐ์ โ ์๋ณธ๊ณผ์ ์์ฐ ์ผ์น๋ ํ์๊ฐ ์๋๋ค (2026-08-17)
์๋ณธ HAWK ์ effective batchยท์ํ ์์ฐ์ ๋ง์ถ๋ ๊ฒ์ ์๊ตฌ์ฌํญ์ด ์๋๋ค. ํ์ํ ๊ฒ์
arm ๋ผ๋ฆฌ ์๋ก ๊ฐ์ ์กฐ๊ฑด๋ฟ์ด๋ค. GPU ๊ตฌ์ฑ ๋ณ๊ฒฝ์ ๊ฒํ ํ ๋ "์๋ณธ๊ณผ ๋ฌ๋ผ์ง๋ค"๋ฅผ ๋ฐ๋
๊ทผ๊ฑฐ๋ก ์ฐ์ง ๋ง ๊ฒ (๋ฃจํธ CLAUDE.md ยง5 ์ํ ํญ๋ชฉ ์ฐธ์กฐ).
์ ์ฌ์คํํ๋๊ฐ (v1 ์คํจ ์์ฝ)
| arm | v1 ๊ฒฐ๊ณผ |
|---|---|
| flow | 40/40 ์์ฃผ. ๋จ epoch 28 ์ ํํ ์์ค์ด ์ ๋ฅ์ ์ดํ, ๋ง์ง๋ง 12 epoch ์ด ๋ค๋ฅธ arm ๊ณผ ๋ค๋ฅธ ์คํจ ๋ชฉ์ ํจ์ |
| random_mask | epoch 5 ์์ DataLoader worker OOM kill. ๋ฌ๋๊ฐ ๊ฐ์ง ๋ชปํ๊ณ ๋ค์ arm ์ผ๋ก ์งํ |
| duplicate | epoch 16 ์์ ๋ฐ์ฐ โ ํ๋ผ๋ฏธํฐ 193/231 ๋น์ ํ, ํ๋ณต ๋ถ๊ฐ. ๋ง์ง๋ง ์ ์์ ckpt_15 |
| zero | ๋ฏธ์์ |
| flow_reinit | ๋ฏธ์์ |
์
๋ค ์์ธ์ด ๊ฐ๋ค โ L_simยทL_dis ๊ฐ cos = ยฑ1 ์ ๋ฅ์ ์ ๊ฐํ ์๋ค๊ฐ ์ฅ๊ธฐ ํ์ต์์
์ดํํ๊ณ , ์ดํ ์์ ์ด arm ๋ง๋ค ๋ค๋ฅด๋ฉฐ, ์ด๋ค arm ์์๋ ํ์ต์ ์ฃฝ์ธ๋ค. ๋
ผ๋ฌธ์ ๋ ํญ์
๊ธฐ์ฌ๋ก ์ฃผ์ฅํ์ง ์์ผ๋ฏ๋ก(Appendix A) 0 ์ผ๋ก ๋๋ ๋ฐ ์๋ ๊ฒ์ด ์๋ค.
v1 ๊ฒฐ๊ณผ๋ ์ง์ฐ์ง ์๋๋ค โ ์ดํ ํ์ ์์ฒด๊ฐ Appendix A.1 ์ ๊ทผ๊ฑฐ๋ค.
๋๋๋ฉด ํ ์ผ
# arm ๋ณ ํ๊ฐ (์ ์ ์
๋ ฅ ๋ชจ๋๋ run ์ config.yaml ์์ ์๋ ๊ฒ์ถ)
for a in flow zero random_mask duplicate flow_reinit; do
CUBLAS_WORKSPACE_CONFIG=:4096:8 $CERBERUS_PY scripts/evaluate.py \
--ckpt $CERBERUS_ROOT/runs/abl2_$a/main/checkpoint_39.pth \
--anno $CERBERUS_ROOT/hawk_anomaly/Annotation/All_Mix/all_videos_heldout.local.json \
--out experiments/out/eval_abl2_$a.json
done
# ํต๊ณ ๋น๊ต (์ ๋ถํธ์คํธ๋ฉ + Holm + ๋๋ฉ์ธ๋ณ)
$CERBERUS_PY scripts/compare_arms.py $(for a in flow zero random_mask duplicate flow_reinit; do
echo --eval experiments/out/eval_abl2_$a.json; done) --out experiments/out/arm_comparison.json
๊ฒฐ๊ณผ๊ฐ ๋์ค๋ฉด ํ์ ํ๋ ๊ฒ
experiment-roadmap.md ยง0 ์ S1/S2/S3 ์ฌ๋ค๋ฆฌ์ ยง6 ์ ๊ฒฐ๊ณผ๋ณ ๋์์ ๊ทธ๋๋ก ๋ฐ๋ฅธ๋ค.
์ฃผ ์ข
์ ์ ๋๋ฉ์ธ๋ณ ๊ฐ์ด๋ค(ํ๋ง์ DoTA 62.8% ํธ์ค).
๋ฏธํด๊ฒฐ (Loop 3 must-fix ์ค ๋จ์ ๊ฒ)
| ๋ด์ฉ |
|---|
| โ | Stage-1 ์ฌํ์ต ์ฌ๋ถ (์ ๋ ฌ ๊ฒฐํจ ๊ทผ๋ณธ ํด๊ฒฐ + C3 ์ฆ๊ฑฐ ํ๋ณด๋ฅผ ํ ๋ฒ์) โ GPU ์์ฐ ๊ฒฐ์ | | โ | C3 ์ฆ๊ฑฐ ๊ฒฝ๋ก: Appendix F(์์ค ํญ ๋์ ์ ์ )๋ฅผ ์คํํ ์ง, C3 ๋ฅผ ๊ธฐ์ฌ์์ ๋ด๋ฆด์ง |
Loop 3 ์ดํ ์๋ฃํ ๊ฒ
- ๊ฐ์ค ํ์ ์ ๊ฑฐ โ H1~H7 โ ๋ฐ๊ฒฌ ์์ . ์ฌ์ฌ์๊ฐ ์ฐพ์ ๋ชจ์ 3๊ฑด ๋๋ฐ ํด์
- ๋ฒค์น๋งํฌ "์ฌ์ฌ์ฉ ๊ฐ๋ฅ" ์ฃผ์ฅ ์ฒ ํ โ ๋ผ๋ฒจ์ LLM ์์ฑ + ์ฌ๋ 1์ธ 80๊ฑด ๊ฒ์ฆ. ๊ทธ ๊ท๋ชจ๋ก ๋ ๋ฆฝ ๋ฒค์น๋งํฌ๋ฅผ ์ฃผ์ฅํ๋ฉด ์ ์ ํผํผํ ๊ฒ๋ค๊น์ง ์ ๋ขฐ๋ฅผ ์๋๋ค. ๋ ๋ฒ์งธ ์ฃผ์์๋ ๋ถํ์ํด์ง
- Scene-word Recall ํธํฅ 3์ข ๋ณด์ (๊ฒฐ๊ณผ ์ ๋๊ฒฐ) โ ํ์ ์ดํ, ๋์์ด 15๊ตฐ, ์์ฑ ์์ถฉ ๋ฌดํจํ. ํฉ์ฑ 6์ผ์ด์ค ๊ฒ์ฆ
- ๋ผ๋ฒจ ์คํค๋ง 4๋ฒ์ฃผ๋ก ํต์ผ,
context_criticalโcausal - ๋ถ๋ก A.1ยทA.2 ์์น ์ ์ (Appendix I ๋ค์ ์์์), ์์ (A.1) โ (B.1)
- [54]/[55]/[57] ๊ธฐ์ ์ ์ โ Barlow Twins โ VICReg, RESOUND ์ ์์ธก ๋ถ๊ฐ๋ฅ์ฑ์ด ์๋๋ผ ์ต์ํ
์ต๊ทผ์ ๊ณ ์น ๊ฒ (๋๋๋ฆฌ์ง ๋ง ๊ฒ)
- ์์ฑ ๋น๊ฒฐ์ ๋ก โ
do_sample=False๋ง์ผ๋ก ๋ถ์กฑํ๋ค. ๊ฐ์ ์ฒดํฌํฌ์ธํธยท๊ฐ์ ํด๋ฆฝ์์ 3/3 ๋ค๋ฅธ ์ถ๋ ฅ, ํ๋๋4 4 4 4 โฆํดํ.enforce_determinism()์ถ๊ฐ ํ 3/3 ๋์ผ. ํ๊ฐ๋ ๋ฐ๋์CUBLAS_WORKSPACE_CONFIG=:4096:8๊ณผ ํจ๊ป ์คํํ ๊ฒ. - ์ถ๋ก ๊ฒฝ๋ก๊ฐ arm ์ค์ ์ ๋ฌด์ โ
load_streams_aligned๊ฐ ํญ์flow๋ก ๊ณ ์ ๋ผ ์์๋ค. ์ด์ run ์config.yaml์์ ์๋ ๊ฒ์ถํ๋ค. - ์ ๋ต ์ค๋ช ์ค์ผ โ UCF-Crime 10.8% ๊ฐ LLM ๊ฑฐ๋ถ ์๋ต. ํ๊ฐ์์๋ง ์ ์ธ(ํ์ต์ ํต์ ์ ์ง).
- Stage-1 ์ ๋ ฌ ๊ฒฐํจ ๊ณต๊ฐ โ
checkpoint_106์ ์ ๋ ฌ ์์ ์ปค๋ฐ๋ณด๋ค 10์๊ฐ ์์ ๋ค. ยง4.1 ์ ๊ณต๊ฐํ๊ณ Appendix A ์ ์ ์ ๋ก ๋ฌ์๋ค.