Datasets:

junidude14
/

PBISC-data

+# PBISC-Diffusion — Nature Communications 초안
+기존 BIBM 원고의 bulk-to-single-cell 연구 골조를 Model 8의 실제 diffusion 구현과 검증된 결과로 다시 작성한 **영문 첫 초안**입니다. 본문, Methods, Supplementary Information, 참고문헌, 그림 및 그림의 수치 원자료를 포함합니다. 저자 정보와 공개 저장소 식별자 등은 저자 확인 항목으로 표시되어 있으므로, 이 패키지가 곧바로 제출 최종본이라는 뜻은 아닙니다.
+## 연결된 GitHub와 Overleaf 업데이트
+**2026-09-16 편집 상태:** 이전 대화를 전달하지 않은 reviewer의 검토를 거쳐 본문, Methods, 보충자료, 그림·표 캡션을 쉬운 영어로 다시 썼습니다. 필수 용어는 처음 나올 때 뜻을 설명합니다. [검토 기록](editorial/clean_sheet_review_20260916.md)과 [수치·수식 보존 검사](editorial/plain_english_preservation.json)를 남겼습니다. 검토 단계에서는 GitHub push와 Overleaf 동기화를 보류했습니다. 이후 사용자 요청에 따라 이 수정본을 GitHub에 반영하며, Overleaf 갱신은 아래의 별도 pull 단계가 필요합니다. 검토 기록의 동기화 상태는 검토가 끝난 시점의 기록입니다.
+이 원고의 GitHub 저장소는 [junidude/PBISC-diffusion-overleaf](https://github.com/junidude/PBISC-diffusion-overleaf)이며, Overleaf에서 내보낸 `Initial Overleaf Import` 이력을 그대로 유지합니다. 서버의 현재 원고 폴더가 이 저장소의 Git 작업 폴더입니다.
+```bash
+cd /home/sj_server_1/PBISC/paper-release-20260928/manuscript
+git switch main
+git pull --ff-only origin main
+```
+서버에서 수정한 내용은 커밋하여 GitHub의 `main`에 반영합니다. 공동 작업은 변경 브랜치에서 검토 후 PR로 합치는 방식을 사용합니다. 이후 웹 Overleaf의 **Integrations → GitHub → Pull GitHub changes into Overleaf**를 실행하면 갱신됩니다. **GitHub에 push하는 것만으로 Overleaf가 자동 갱신되지는 않습니다.** [공식 동기화 안내](https://docs.overleaf.com/integrations-and-add-ons/git-integration-and-github-synchronization/github-synchronization)
+반대로 웹 Overleaf에서 수정했다면, 먼저 같은 메뉴의 **Push Overleaf changes to GitHub**를 실행하고 서버에서 `git pull --ff-only`로 가져옵니다. `pull`이 충돌이나 이력 분기를 알리면 강제로 덮어쓰지 않고 두 변경을 확인해 병합합니다.
+이 연결에는 GitHub 인증을 사용하며, 별도의 Overleaf Git 토큰은 필요하지 않습니다. 이 서버에서 확인한 것은 GitHub의 접근·파일·이력이며, Overleaf 웹 프로젝트의 동기화 버튼을 원격으로 실행한 것은 아닙니다.
+Overleaf가 가져오기 과정에서 두 템플릿의 줄바꿈을 LF로 바꾼 사실을 확인했습니다. 검증기는 `.cls`/`.bst`의 검증된 줄바꿈 정규화만 허용하며, 원자료 28개 파일의 해시는 계속 바이트 단위로 검사합니다. 원래 배포 파일 해시와 최초 ZIP 빌드 기록은 보존합니다. 연결 시 검증 기록은 [editorial/github_integration_verification.json](editorial/github_integration_verification.json)에 있습니다.
+## 새 Overleaf 프로젝트를 ZIP으로 열기
+1. `overleaf_upload.zip`을 내려받습니다. Overleaf에서 **New Project → Upload Project**로 ZIP을 그대로 업로드합니다.
+2. 프로젝트 설정의 **Main document를 `main.tex`**, **Compiler를 pdfLaTeX**로 지정하고 Recompile을 실행합니다.
+3. 보충자료는 Main document를 **`supplementary.tex`**로 바꿔 별도로 컴파일합니다. 보충자료는 상세 수식과 추가 그림·표를 포함하는 독립 문서입니다.
+공식 Springer Nature `sn-jnl.cls`와 Nature 인용 스타일 `sn-nature.bst`가 함께 들어 있습니다. 문서 컴파일에 shell escape, 서버의 원래 절대경로, 모델 체크포인트 또는 GPU가 필요하지 않습니다. 출처 기록의 `original_path`는 추적용 정보이며 LaTeX 입력 경로가 아닙니다. 그림은 이미 PDF로 준비되어 있으므로 Overleaf에서 Python을 실행할 필요도 없습니다.
+## 파일 안내
+| 파일/폴더 | 내용 |
+|---|---|
+| [main.tex](main.tex), [main.pdf](main.pdf) | 본문과 컴파일된 확인용 PDF |
+| [supplementary.tex](supplementary.tex), [supplementary.pdf](supplementary.pdf) | 상세 수식·설정·추가 DEG 비교·paired calibration 민감도 분석 |
+| [authors.tex](authors.tex) | 저자·소속 입력 위치 |
+| [sections/](sections/) | Abstract, Introduction, Results, Discussion, Methods 및 선언문 |
+| [references.bib](references.bib) | 검증한 문헌의 BibTeX |
+| [figures/](figures/) | 아키텍처 도식과 실제 결과 그림의 PDF/PNG. Figure 1은 편집 가능한 [figures/fig01_architecture.svg](figures/fig01_architecture.svg)가 원본이고, 대체된 이전 후보는 [figures/drafts/archive/](figures/drafts/archive/)에 보관 |
+| [source_data/](source_data/) | 그림 수치, 고정된 분석 표, 원본 SHA-256, 학습/평가 manifest 및 기존 검증 기록 |
+| [scripts/](scripts/) | 그림 재생성과 패키지 점검 코드 |
+| [editorial/submission_readiness.md](editorial/submission_readiness.md) | 현재 주장 범위와 투고 전 보완할 실험·메타데이터 |
+| [editorial/results_evidence.md](editorial/results_evidence.md) | 결과 문장·그림과 원자료의 연결 |
+`editorial/`은 공동저자 검토용 기록입니다. 저널에 첨부할 최종 Source Data, Reporting Summary, 데이터/코드 공개 파일은 투고 시 별도로 확정해야 합니다. 템플릿 출처와 파일 해시는 [editorial/TEMPLATE_SOURCE.json](editorial/TEMPLATE_SOURCE.json)에 기록했습니다.
+## 이 초안의 결과 범위
+Figs. 1–5는 **2026-09-10 검증 완료된 고정 스냅샷**을 유지합니다. 소아 SLE 44명에서 2K E1/E2/E3, 6K E1, 11,589-gene E1을 비교하고, 별도로 고정된 K=1,000 bulk의 생성 seed 실험을 보고합니다. E1은 16개 recipe schedule slot 중 하나이며 전체 훈련 세포를 한 번씩 본 epoch라는 뜻이 아닙니다. 패널 간 직접 비교는 동일 노출의 E1끼리, 2K E1–E3는 추가 학습의 변화로 구분했습니다.
+**Fig. 6과 Supplementary Figs. S3–S5는 2026-09-16의 실제 bulk calibration 실험**입니다. ImMicro 건강인 107명과 Randolph 89명의 ex vivo NI/IAV 측정에서, 매번 정확히 10명·10쌍으로 보정하고 나머지 donor의 실제 PBISC-Diffusion condition과 pseudobulk condition을 비교했습니다. 주 실험은 100개 calibration 선택, frozen 2K E3 EMA, 전체 3G+6 입력과 512차원 embedding을 사용합니다. 추가 pair 수, 실험 pool/day 분리, 다른 고정 checkpoint 분석도 포함합니다. 수치 원자료는 [source_data/calibration/](source_data/calibration/), 근거 연결은 [editorial/results_evidence.md](editorial/results_evidence.md)에 있습니다.
+결과는 **부분적인 condition 정렬**입니다. Ridge affine은 평균 오차를 줄였지만, ImMicro에서는 단순 배수 보정이 donor 구분을 더 잘 보존했고 Randolph에서는 배수＋잔차 offset이 오차와 구분 모두에서 더 좋았습니다. 10쌍이 condition 동등성이나 실제 bulk에서 생성한 세포의 정확성을 보장한다고 주장하지 않습니다. Calibration에는 코호트 scRNA가 필요하며, 나머지 donor의 입력 변환에는 그 donor의 bulk만 사용합니다. 고정 depth로 비교했으므로 원래의 물리적 raw count나 donor별 sequencing depth를 복원한 실험도 아닙니다.
+보정 계수는 **로그 변환 전의 정규화된 발현 공간**에서 적합하고, 그 결과를 고정된 PBISC 경로에 넣어 condition에서 평가했습니다. 한 보정 profile에서 유전자 특징과 파생 통계가 함께 계산된다는 점이 이 경로를 사용하는 이유입니다. Ratio＋offset은 이번 10쌍·주 checkpoint 비교가 지지하는 실용적 후보이며, 모든 조건에서의 최적 방법으로 확정하지 않습니다. **동일한 10쌍에서 condition 공간의 직접 보정과 비교하지 않았으므로, 그 방식보다 우수하다는 주장은 하지 않습니다.**
+이전 offset draft와 배포 ZIP은 활성 원고에서 제외하고, 원고 밖의 `../archived-analyses/offset_validation_superseded_20260916/`에 보존했습니다. 원 데이터 레이크의 분석 및 검증 기록은 그대로 남아 있습니다. 기존 VAE 결과를 diffusion 결과로 옮기지 않았고, Figs. 1–5의 SLE 결과도 교체하지 않았습니다. 이후 학습이 진행되어 새 checkpoint가 생겨도 원고 수치가 자동으로 갱신되지는 않습니다. 실제 bulk에서의 생성 세포 검증, pSS, ImmuNexUT 검증은 추가 과제입니다.
+## 로컬에서 다시 빌드하기
+TeX Live와 `latexmk`가 설치된 환경에서 패키지 최상위 폴더를 작업 디렉터리로 사용합니다.
+```bash
+latexmk -pdf -interaction=nonstopmode -halt-on-error main.tex
+latexmk -pdf -interaction=nonstopmode -halt-on-error supplementary.tex
+```
+Tectonic이 있는 환경에서는 다음과 같이 빌드할 수도 있습니다. 최초 실행에는 TeX 패키지 다운로드가 필요할 수 있습니다.
+```bash
+tectonic --keep-logs main.tex
+tectonic --keep-logs supplementary.tex
+```
+그림 재생성은 `scripts/build_figure1_architecture.py`(Figure 1, `cairosvg` 필요)와 `scripts/build_results_figures.py`(결과 그림, matplotlib)를 사용합니다. Figure 1은 SVG 원본을 PDF/PNG로 렌더링만 하므로 SVG를 직접 편집한 뒤 이 스크립트를 다시 실행하면 됩니다. 결과 그림은 포함된 CSV를 읽고, UMAP 그림은 저장된 좌표를 사용합니다. 이는 모델 재학습이나 전체 통계 분석 재실행이 아닙니다. 패키지의 입력·참고문헌·수치 파일 점검은 `scripts/validate_package.py`를 참조하십시오.
+원고 형식은 [Nature Communications Article 안내](https://www.nature.com/ncomms/submit/article)를 기준으로 구성했습니다. 공식 템플릿 사용과 컴파일 성공은 투고 요건 충족이나 게재 가능성의 판정을 대신하지 않습니다.
+문서 빌드에는 Tectonic 0.17.0을 사용할 수 있습니다. 최신 정적 패키지 검사와 ZIP 빌드 결과는 `editorial/package_validation.json`, `editorial/build_verification.json`에서 확인합니다. 현재 원고는 본문 그림 6개와 보충 그림 5개를 포함합니다. 이전 5-figure 판본의 페이지 수와 단어 수는 현재 문서의 규모로 재사용하지 않습니다. 저널 홈페이지 원문 HTML 캐시는 업로드 ZIP에서 제외했습니다.

paper-releases/pbisc-diffusion/updates/20260929T062828Z-manuscript-relocation/diffusion/dataset/server_1/manuscript/editorial/RELOCATION_20260929.json ADDED Viewed

	@@ -0,0 +1,44 @@

+{
+ "schema": "pbisc-diffusion.manuscript-relocation.v1",
+ "moved_utc": "2026-09-29T06:27:32+00:00",
+ "requested_by": "user, 2026-09-29 (move the manuscript with its Git history into paper-release-20260928 and remove the original)",
+ "method": "same-filesystem rename (mv -T --no-clobber); no copy, no re-clone",
+ "moves": [
+  {
+   "from": "/home/sj_server_1/PBISC/immun-pbmc-fm/bulk2sc-paper/nature-communications-overleaf",
+   "to": "/home/sj_server_1/PBISC/paper-release-20260928/manuscript",
+   "files": 691,
+   "inventory_sha256_before": "ad55608034d96834e4bd5fa29571511df79de25b875bd35929161a8e7a38a439",
+   "inventory_sha256_after": "ad55608034d96834e4bd5fa29571511df79de25b875bd35929161a8e7a38a439",
+   "includes": ".git (all objects, refs, branches main and chore/connect-overleaf-github)"
+  },
+  {
+   "from": "/home/sj_server_1/PBISC/immun-pbmc-fm/bulk2sc-paper/archived-analyses",
+   "to": "/home/sj_server_1/PBISC/paper-release-20260928/archived-analyses",
+   "files": 79,
+   "inventory_sha256_before": "89b47d025a014aa6564ff0296242c138c2438332e83db87fd9b402dba6767a36",
+   "inventory_sha256_after": "89b47d025a014aa6564ff0296242c138c2438332e83db87fd9b402dba6767a36",
+   "note": "superseded drafts of this manuscript; kept as the manuscript's sibling so its ../archived-analyses/ references stay valid"
+  }
+ ],
+ "verification": {
+  "per_file_sha256_identical": true,
+  "directory_tree_identical": true,
+  "git_fsck_full": "clean (one pre-existing dangling blob)",
+  "git_refs": [
+   "484b33e41d04a515380e4dddbfd6bb2db236775a",
+   "484b33e41d04a515380e4dddbfd6bb2db236775a",
+   "2f41a2e3430e44064d1ddc1648dbc6ea5e4f64ff"
+  ],
+  "git_status_identical": true,
+  "origin": "https://github.com/junidude/PBISC-diffusion-overleaf.git",
+  "main_vs_origin_main": "in sync at move time"
+ },
+ "path_updates_after_move": [
+  "README.md working-copy path",
+  "scripts/cohort_calibration/package_analysis.py: PAPER derived from the script location",
+  "editorial/narrative_evidence.md: absolute path to the BIBM English draft that stayed in bulk2sc-paper",
+  "AGENTS.md (untracked): policy path ../maintenance/POLICY.md"
+ ],
+ "not_rewritten": "generated provenance records (e.g. source_data/calibration/plot_sources/FIGURE_MANIFEST.json) keep the paths at the time they were written"
+}

paper-releases/pbisc-diffusion/updates/20260929T062828Z-manuscript-relocation/diffusion/dataset/server_1/manuscript/editorial/narrative_evidence.md ADDED Viewed

	@@ -0,0 +1,63 @@

+# Narrative and evidence boundary
+This note records the claim scope of `sections/introduction.tex` and `sections/discussion.tex`. The draft is an English Nature Communications-oriented development of the retrospective PBMC bulk-to-cell motivation in `/home/sj_server_1/PBISC/immun-pbmc-fm/bulk2sc-paper/english-draft/paper-bibm`, using Model 8 diffusion evidence. It does not transfer VAE results into the diffusion manuscript.
+## Contribution framing
+Working contribution: **measurement-aware, direct gene-space value–support diffusion conditioned on PBMC bulk, depth and assay information, evaluated for gene coverage and distinct forms of ensemble fidelity.** The working name is supplied by the `\method` macro so it can be changed centrally. Upstream Sparse Data Diffusion receives explicit credit. Direct gene-space generation is a design choice; the text does not claim the first diffusion model, a new denoiser architecture, a first reference-free method, or state-of-the-art accuracy.
+The intended application uses no target-cohort single-cell profiles as generator inputs at inference. This must not be shortened to “uses no single-cell references”: training uses single-cell data, evaluation constructs pseudobulks from single-cell data, and post-generation annotation uses reference-derived classifiers. The model samples plausible cells and does not recover unique original cells. Outputs are expression profiles with count-scale continuous values, not guaranteed integer UMI observations.
+## Primary local sources read
+All paths below are relative to `/home/sj_server_1/PBISC/immun-pbmc-fm/`.
+| Source | Role in narrative |
+|---|---|
+| `bulk2sc-paper/english-draft/paper-bibm/main.tex` | Confirms active BIBM inputs and anonymous author block. |
+| `bulk2sc-paper/english-draft/paper-bibm/sections/1_introduction.tex` | Retrospective PBMC motivation; post-generation regrouping and donor analysis; non-identifiability. |
+| `bulk2sc-paper/english-draft/paper-bibm/sections/7_discussion.tex` | Interpreting generated cells as hypotheses; donor as biological unit; clinical validation logic. |
+| `model_8_sparse_data_diffusion/README.md` | Measurement three-state contract, direct gene-space generation, independent cell sampling, current panel definitions, current training plan. |
+| `model_8_sparse_data_diffusion/plans/paper_eval_after_2k_e3_20260910/FINAL_COMPARISON_KO.md` | Verified five-checkpoint SLE interim metrics and limits. |
+| `model_8_sparse_data_diffusion/plans/paper_eval_after_2k_e3_20260910/RESULTS_KO.md` | Exact E1 metrics, matched exposure and real-space evaluation details. |
+| `model_8_sparse_data_diffusion/plans/proportion_preservation_20260910/RESULTS_KO.md` | Four frozen checkpoints, one K=1,000 condition, ten generation seeds and ideal sampling baseline. |
+| `model_8_sparse_data_diffusion/analysis/proportion_k1000_20260910_analysis_v1/analysis-report.md` | Numerical K/N/seed summaries. |
+| `model_8_sparse_data_diffusion/analysis/proportion_k1000_20260910_analysis_v1/stats-appendix.md` | Nested N prefixes, generation-seed SD scope, no population or training-seed CI. |
+| `model_8_sparse_data_diffusion/plans/gene_panel_scaling_20260908/selection_audit/SELECTION_AUDIT_KO.md` | 11,589 support criterion, 99.09% positive-event coverage, limitations of sampled support. |
+| `model_8_sparse_data_diffusion/plans/gene_panel_scaling_20260908/pilot_analysis/final_v1/final_report.md` | 20,097-gene 128-update feasibility, not final quality comparison. |
+## Numerical claims used in Discussion
+| Draft claim | Source evidence | Interpretation limit |
+|---|---|---|
+| SLE evaluated intersection grows 1,945 → 11,352 genes. | `FINAL_COMPARISON_KO.md`, additional gene range. | Evaluation availability, not number of accurately recovered genes. |
+| 6K E1 highest geometric F1; broad E1 high precision and lower coverage. | E1 F1 0.834725 / 0.857427 / 0.759582; broad coverage 0.635653, precision 0.943537. | Fixed common real-reference SVD, one current seed, early exposure. |
+| Broad panel covers ~99.1% sampled positive detection events. | Selection audit: 99.09%. | Fixed 32,768 training occurrences, not whole-corpus cell coverage or biological information. |
+| 2K E1→E3 disease-effect correlation 0.436→0.689; RMSE 0.1216→0.1017. | Four eligible cell-type macro summaries in final report. | Welch normalized-expression mean differences, not log2 fold changes; types are not independent replicates. |
+| K1000 TVD E1 panels 0.111/0.133/0.148 versus ideal 0.023. | Original-label TVD means 0.1113/0.1333/0.1480; 10,000-multinomial ideal mean 0.02317. | One previously inspected condition, classifier-inferred generated labels; no training-seed variation. |
+| 2K E3 individual bulk count-total ratios ~0.50–1.63. | Final report: 0.503809–1.630331; mean 1.001463. | Measured common-gene count-scale comparison, no hard bulk conservation. |
+## Claims deliberately excluded
+- “11.6K is the natural sweet spot” or “20K is too large”: unsupported. The 20K pilot completed successfully; full quality comparison is pending.
+- “Larger context improves performance”: input width, output width, parameter count and computation change together, and early common-gene results do not improve monotonically.
+- “Diffusion prevents rank collapse”: neither UMAP coverage nor these endpoint metrics prove a rank mechanism.
+- “The generated cell types automatically match exact proportions”: disproved as a general guarantee by the K1000 case and not imposed by the sampler.
+- “Bulk mass is conserved”: sampler does not impose per-bulk mass constraints; observed per-donor errors remain.
+- “All training cells have been seen”: planned schedule coverage is not completed coverage. The draft reports specific frozen checkpoints.
+- VAE-era 31-million training-cell counts, ImmuNexUT recovery counts (including 108/56/31), pSS results, Behçet programs, paired clinical bulk validation and VAE-vs-baseline superiority are not diffusion results.
+- The current donor-pseudobulk benchmark is not literal replication of the old exact cell membership/scANVI pipeline and not an untouched final clinical test.
+## Clinical extension preserved as work to complete
+The BIBM argument motivates independent clinical bulk/scRNA-seq validation, cross-assay calibration, donor-level pseudobulk testing and a sorted-expression check. The new Discussion preserves these as future validation needs. It does not state that these experiments have been performed for Model 8. Matched VAE, BayesPrism, CIBERSORTx and scSemiProfiler comparisons also remain evidence gaps.
+## Snapshot and metadata
+The manuscript results snapshot is the verified 2026-09-10 SLE and K1000 evaluation. The README read on 2026-09-11 records a later round-robin training plan; prose should not claim training remains paused. New checkpoints require a new evidence review before replacing reported values.
+The supplied BIBM active `main.tex` uses “Anonymous Authors” and “Paper under double-blind review”. No named author or affiliation was inferred from that block. Author, affiliation, contributions, funding and disclosure metadata require explicit supplied content.
+## Citation handling
+The section files use the coordinating agent's provisional, centrally verified keys: `avilacobos2020benchmarking`, `newman2019cibersortx`, `chu2022bayesprism`, `wang2024scsemiprofiler`, `lopez2018scvi`, `li2024scdiffusion`, `ostheimer2025sparse`, `ho2020ddpm`, `song2021ddim`, `nehar2020mapping`, and `ota2021immunexut`. The Sparse Data Diffusion key was corrected on the coordinating agent's evidence to Ostheimer et al., arXiv:2502.02448. This agent did not fabricate BibTeX or assert bibliographic verification; the coordinating agent owns the reference ledger and final key resolution.