Archive 4 checkpoints (1-4)

paper-releases/pbisc-diffusion/updates/20261013T144247Z-f01-trunk4x-campaign-launch/diffusion/dataset/server_1/model8/plans/f01_trunk4x_complete_20261013/PLAN.md

@@ -0,0 +1,74 @@
+# 현재 논문 대표 PBISC와 동일한 6k panel로 trunk ×4 재학습
+
+2026-10-13 사용자 지시: gene context를 현재 ×1 checkpoint와 정확히 일치시켜 새로 pretraining하고, 논문 비교용 데이터를 준비한다. server_2 우선, 사용 중이면 server_1.
+
+## 고정할 것과 바꿀 것
+
+기준은 `f01_6k_1x_seed20260627/checkpoint_epoch_016.pt` (SHA `8c7cd0e83e2bc19fe03dfcbc084919a1e2f61be8cc8bc12f4caf543dfda91633`)다.
+
+- **정확히 동일:** 6,000 gene ID와 순서, gene-selection manifest, 측정 mask 규칙, 33,141,380개 train cells, corpus split, conditioner, K recipe/top-up, batch256, worker4, prefetch32, seed20260627, bf16, lr0.0002, EMA0.999, gradient clipping5, 16 schedule parts, loss와 DDIM readout.
+- **변경:** trunk `[1024,1024,512,256]` → `[4096,4096,2048,1024]`.
+- **유지:** conditioner/context 폭512, time embedding128. Gene panel과 context-encoder 폭은 서로 다른 개념이다.
+- Run ID/출력 경로와 CUDA allocator 상한8→24GiB는 운영상 변경이다. Host의98G/102G ML 제한은 높이지 않는다.
+- 구 panel의 trunk×4 checkpoint를 warm start하지 않는다. 새 seed-controlled pretraining이다. 이전 Sepsis pilot은 별도 보존한다.
+- 새 모델은 약240M parameters다. Downstream r16은 rank를 맞추며, adapter parameter 수까지 같다는 주장은 하지 않는다.
+
+`CONTRACT.json`은 config 차이4개와 모든 주요 input/code hash를 기록한다. 5개 paired cohort의 저장된6k gene ID/order 일치와65개 기존 training-condition hash 일치를 확인했다.
+
+## 실행 위치와 저장소
+
+조사 시 두 서버 모두 사용 중이었다. 사용자 fallback에 따라 **server_1의 shared GPU lock에 대기 등록**했다. 기존 작업을 종료하지 않는다.
+
+- Controller: `pbisc-f01-trunk4x-campaign-v2-20261013.service`
+- GPU 실행: `ml-run` → 별도 `ml.slice` 작업. Guard active, swap0, OOMPolicy kill, OOMScoreAdjust+500. Pretraining job의 CPU memory high/max는64/72GiB, CUDA allocator는24GiB, trainer system-available floor는32GiB다.
+- 먼저 worst-K **128-step profile**을 통과해야 본학습한다. OOM/guard/훈련 오류는 로그를 보존하고 중지하며 자동 재시작하지 않는다.
+- 출력은 `payload/`에 연결된 NAS에 직접 쓴다. server_2의 기존 인증된 NAS mount를 경유하며, local/remote read-back SHA와 약3.56TiB 여유를 확인했다. 예상 payload 예산은1TiB다. 기존 원본을 삭제하지 않는다.
+- 체크포인트는 매 part 보존한다. E16을 primary로 미리 고정하며, downstream 성능을 보고 checkpoint를 고르지 않는다. Dataset fingerprint, recipe/pool hash, emitted target order 및 총195,639,930 target occurrences가 기준×1과 맞아야 다음 단계로 간다.
+
+## 실험 행렬
+
+| 단계 | 새 작업 | 비교/재사용 | Figure |
+|---|---|---|---|
+| 사전학습 | Profile128 + full16 parts 1회 | 현재×1의 동일 gene/context/stream contract | 1–2 |
+| SLE | 기존과 같은5 sampling seeds;42 donors | ×1/scSemi 생성·annotation 재사용;1006/2279 평가축 구분 | 2 |
+| Strict healthy | 5/10/20/40 total paired ×5 outer folds =20 LoRA | 추가 validation 없음, fixed3000, r16; 기존×1 동일 unit | 3 |
+| Strict disease | 4 cohorts ×5 support draws =20 LoRA | 정확히5 samples/support, fixed3000; 기존×1/scSemi/deconv 재사용 | 4–5 |
+| Historical CV | 5 cohorts ×5 folds =25 r16 LoRA | 원래 train/inner-val/test 유지 | 3–4 |
+| Healthy modes | r4/r64/fullFT ×5 folds =15 | 원래 learning rate·early stopping·validation 접근 유지 | 3 |
+| Legacy five-donor | 5 cohorts ×5 draws =25 route 중20개 새 adaptation | Sepsis5개는 strict와 동일하여 adapter와 generation 모두 재사용 | Supplementary/6 |
+| Input controls | raw/refcal10개 + strict paired calibration40개 | 새 backbone 출력이므로 새 생성; 기존 calibration fit 재사용 | 3–4 |
+| Bulk-only | Sepsis/Imperial 각5draw, 기존 row-parts/seed/readout 유지 | 해당 legacy five-donor adapter 연결; 기존×1 결과 재사용 | 6 |
+
+**새 적응학습 총100회, paired route105개.** Sepsis5개 중복은 tensor-equivalent condition/seed까지 확인한 `GENERATION_REUSE_PROOF.json`으로 제외한다. 105번 새 학습하거나 같은 세포를 다시 생성하지 않는다. Source records와 전체 명령 입력은 `MATRIX.json`, `baseline_records/`에 고정했다.
+
+## 평가와 산출물
+
+1. 같은6k gene axis의 기존 scorer와 frozen1006-gene annotator를 사용한다. 이전 pilot의4258-gene 교집합 평가는 이번 primary에 사용하지 않는다.
+2. Precision/coverage, composition L1, donor expression r, cell-type logFC r, partial r, DEG, CAT/RBO와 추가 realism 지표를 계산한다. 질환 strict에는 donor-aware DEG를 별도로 계산한다.
+3. 같은 환자의 여러 visit/draw를 유지하는 paired donor bootstrap CI를 만든다. Support draw를 독립 환자 반복으로 간주하지 않는다.
+4. CV는5개 fold의 held-out 출력을 합친 뒤 pooled reference로 다시 평가한다. Fold P/C 평균을 pooled P/C로 바꾸어 표기하지 않는다.
+5. ×1 baseline의 test IDs, reference hash, contrast, gene exclusions가 다르면 비교를 보류하고 필요한 CPU rescore만 기록한다. Baseline 모델을 새로 학습하지 않는다.
+6. 생성 NPZ와 receipt, per-cell labels, per-donor metrics, donor-aware DEG, rare marker caches, bulk-only all6k cell-type pseudobulk/markers, pooled CV, 비교 CSV/PNG/PDF/SVG, checkpoint/입력/코드 hash를 보존한다.
+7. 기존 manuscript와154-page master는 자동 덮어쓰지 않는다. 새 결과 bundle을 검토한 뒤 figure별로 반영한다.
+
+## 완료와 연구적 판정의 구분
+
+- Profile/16-part completion, input stream equality, 모든 예정 generation/score receipts가 있어야 새 모델 데이터가 준비됐다고 한다. 실패·missing·not-estimable은 그대로 남긴다.
+- Figure5의 정확한 원 논문 population identity는 fine-cluster labels와 연령/감염 부위/steroid timing 검증이 필요하다. 새 marker cache만으로 재현 성공이라고 쓰지 않는다.
+- Figure6는 bulk-only 데이터와 paired calibration 결과를 먼저 준비한다. Imperial HLA-II endpoint의 정확한 sample-time clinical contrast와 paired-reference 검증은 판정 gate로 남긴다. Generating cells와 published-finding reproduction은 다른 완료 상태다.
+- 기존2k/3k/15k gene ablation은×1 family의 근거다. 이번6k×4 run으로 다른 gene-panel×4 실험까지 완료됐다고 바꾸지 않는다.
+- K4000, training-seed 추가, 새로운 disease-state 탐색은 자동 확장하지 않는다. 특히 K1000 adapter를 K4000-adapted baseline으로 바꾸어 표기하지 않는다.
+
+## 진행 확인과 실패 시 처리
+
+- `STATUS.json`: controller
+- `PRETRAIN_STATUS.json`, `profile.log`, `train.log`: actual pretraining stage
+- `payload/pretrain/.../RUN_STATUS.json`, `history.json`, `ALLCELL_DATA_CONTRACT.json`: 실제 학습 진도/coverage
+- `DOWNSTREAM_STATUS.json`, `payload/runtime/receipts/`: 후속 작업
+- `RESULTS_STATUS.json`, `PENDING_EVIDENCE.json`: 데이터 완료와 해석상 gate
+
+먼저 실패 로그와 guard/memory evidence를 확인한다. Resume는 원 run의 latest checkpoint와 고정 config를 사용하는 수동 복구로 제한한다. 기존 파일을 지우거나 새로운 seed로 실패를 덮지 않는다. 최종 아카이브 공간이 부족하면 NAS 원본을 보존한 채 archive pending으로 보고한다.
+
+실행 시간은128-step profile과 첫 실제 part의 측정값으로 추정한다. 본학습과100개 adaptation/생성까지 포함하므로 수일 단위가 될 수 있으며, 검증되지 않은 완료 시각은 약속하지 않는다.
+
+기존 corpus 내부 biological donor27명의 split 교차는 이번 비교에서 바꾸지 않는다. 같은 데이터 사용 경계를 유지한 width 비교이며, 외부 benchmark 누출을 새로 입증하거나 해소했다는 주장은 하지 않는다.

paper-releases/pbisc-diffusion/updates/20261013T144247Z-f01-trunk4x-campaign-launch/diffusion/dataset/server_1/model8/plans/f01_trunk4x_complete_20261013/PREFLIGHT.json

@@ -0,0 +1,9 @@
+{
+  "status": "PASS",
+  "cuda_initialized": false,
+  "all_input_and_config_hashes_match": true,
+  "exact_gene_panels_all5": true,
+  "nas_readback_passed": true,
+  "fresh_output_directories": true,
+  "runtime_profile_gate": "128 steps before full pretraining"
+}

paper-releases/pbisc-diffusion/updates/20261013T144247Z-f01-trunk4x-campaign-launch/diffusion/dataset/server_1/model8/plans/f01_trunk4x_complete_20261013/PROFILE_GENE_PROOF.json

@@ -0,0 +1,8 @@
+{
+  "actual_gpu_profile_gene_ids_match": true,
+  "actual_gpu_profile_gene_positions_match": true,
+  "parameters": 239955168,
+  "model_genes": 6000,
+  "condition_dim": 18006,
+  "cuda_peak_allocated_gib": 5.497453689575195
+}

paper-releases/pbisc-diffusion/updates/20261013T144247Z-f01-trunk4x-campaign-launch/diffusion/dataset/server_1/model8/plans/f01_trunk4x_complete_20261013/REUSE_AUDIT.json

@@ -0,0 +1,26 @@
+{
+  "matching_preexisting_runs": [],
+  "trunk4x_configs_checked": [
+    {
+      "path": "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/runs/s0_6k_allK_topup16_seed20260627_arch4x_ctx512_v1_profile/effective_config.json",
+      "gene_positions_sha256": "08f1074a2c37066b129925f8372d8c86ffd35d8e04067a8951a81be4b34e9c1f"
+    },
+    {
+      "path": "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/runs/s0_6k_allK_topup16_seed20260627_arch4x_ctx512_v1/effective_config.json",
+      "gene_positions_sha256": "08f1074a2c37066b129925f8372d8c86ffd35d8e04067a8951a81be4b34e9c1f"
+    },
+    {
+      "path": "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/runs/s0_6k_allK_topup16_seed20260627_arch4x_v1/effective_config.json",
+      "gene_positions_sha256": "08f1074a2c37066b129925f8372d8c86ffd35d8e04067a8951a81be4b34e9c1f"
+    },
+    {
+      "path": "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/runs/s0_6k_allK_topup16_seed20260627_arch4x_v1_profile/effective_config.json",
+      "gene_positions_sha256": "08f1074a2c37066b129925f8372d8c86ffd35d8e04067a8951a81be4b34e9c1f"
+    }
+  ],
+  "remote_f01_inventory": "2k1x,3k1x,6k1x,p15k1x; onlys0legacyarch4x runs",
+  "legacy_trunk_not_equivalent": "different6k gene panel;4258gene intersection only",
+  "reason_for_new_pretraining": "Fix exactcurrentf01 gene context while changing trunkwidth",
+  "duplicate_adapters_avoided": 5,
+  "duplicate_generations_avoided": 5
+}