junidude14 commited on
Commit
7a37764
·
verified ·
1 Parent(s): 0426b30

Archive 4 checkpoints (1-4)

Browse files
paper-releases/pbisc-diffusion/updates/20260930T065633Z-summary-deck-scsemi-final/diffusion/dataset/server_1/model8/plans/paired_finetune_intradataset_20260927/scores/immicro/fewshot_n5/draw1_scsemi5/README.md ADDED
@@ -0,0 +1,60 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # score_ft.py output: immicro, 102 scored donors
2
+
3
+ Arms: scsemi5. Every arm is scored on the same donors against the same observed reference.
4
+
5
+ ## Inputs and fixed contracts
6
+ - Observed reference: `/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/scoring_cache/immicro/reference.npz` (sha c5e2547be3ec), built from datadir:/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/data/immicro;
7
+ observed cells sum exactly to the features pseudobulk of every donor. Observed labels: /home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/utility_studies_final6k_20260925/immicro/labels/observed_immicro/labels.parquet.
8
+ - Generated cells: `generated_counts` read out once with Poisson(seed 20260916) over the **whole NPZ in row order**
9
+ (`poisson_readout.poisson_integerise`), then the scored donors' rows. These integer counts are used for labels, embedding,
10
+ depth and the contrast. Pseudobulk uses the summed `generated_counts` (rates), as `score_generated.py`.
11
+ - Labels: frozen f01common scANVI (`predict_scanvi.py`, CPU, zero query epochs), six-type gate ['T cell', 'B cell', 'Monocyte', 'NK cell', 'DC', 'Other']; query genes =
12
+ the 1,006-gene annotation list minus genes the dataset's sc assay did not measure in every sample (1004 genes).
13
+ - Scoring genes: 6k panel genes measured by both assays in every sample of the dataset (5508 genes).
14
+
15
+ ## Definitions
16
+ 1. **Composition**: fraction of each donor's cells per six-type label (all generated cells; all observed QC cells).
17
+ `comp_l1` = sum over the six labels of |generated - observed| (immicro_common.l1). `comp_l1_obs_loo_null` = L1 of the
18
+ donor's observed composition to the mean of the *other scored donors'* observed compositions. `composition_top1` =
19
+ fraction of donors whose generated composition is closest (L1) to their own observed composition.
20
+ 2. **Pseudobulk**: `pb_r` = Pearson r of CPM-log1p(summed generated_counts) vs CPM-log1p(observed pseudobulk) on the scoring
21
+ genes (evaluate_realbulk.cpm_log1p / paired_r). `pb_top1` = the donor's generated pseudobulk is closest (Pearson) to its own
22
+ observed pseudobulk among the 102 scored donors (immicro_common.retrieval = evaluate_realbulk.top1 arithmetic).
23
+ 3. **Precision / coverage / density** (stage_b_embed.py functions): per-cell CP10K over the scoring genes + log1p; PCA-50
24
+ (randomized, random_state 20260925) and k = 10 real-real k-NN balls fitted on **R1 of the scored donors only**.
25
+ Reference rule (independent of fold and arm): per donor, cells in canonical order (library_id+barcode), one
26
+ permutation from `default_rng([20260925, uint64(sha256(donor)[:8])])`; R1 = first n, R2 = next n,
27
+ n = min(150, n_cells // 2) (15300 R1 cells here). Generated query: per donor n cells (the donor's R1 size),
28
+ without replacement, `default_rng([20260926, same key])`. Precision = fraction of generated cells inside any R1 ball
29
+ (Kynkaanniemi 2019); coverage = fraction of R1 cells whose ball holds a generated cell; density = Naeem 2020.
30
+ Per-donor precision = that donor's generated cells; per-donor coverage = that donor's R1 cells (the pooled values are
31
+ their n-weighted means; plain means when every donor has 150 reference cells). R2 (held-out real cells of the same donors) is the
32
+ perfect-generator control: precision 0.9651, coverage 0.9998.
33
+ **Depth matched**: stage_b_embed depth matching run pairwise (R1 vs this arm): per donor and within-donor rank of detected
34
+ genes, both cells are thinned by UMI sampling without replacement to the smaller detected-gene count; PCA kept from
35
+ un-thinned R1, radii recomputed on thinned R1; fresh rng(20260929) per arm. R2 control: precision
36
+ 0.9637, coverage 0.9999.
37
+ 4. **Monocyte %** = 100 x Monocyte fraction (all cells) per donor; **median UMI per cell** = median over cells of the
38
+ Poisson-read (generated) / observed counts summed over the scoring genes (per donor, and pooled).
39
+ 5. **Group contrast** (T, B, Monocyte, NK): not computed (dataset immicro has no group contrast (use --groups-csv / --case-groups)).
40
+ Genes per type = scoring genes detected (count > 0) in >= 1 % of the scored donors' observed
41
+ cells of that type. Primary statistic `mean_cp10k`: per-cell CP10K over the scoring genes; per donor the mean over its
42
+ cells of the type (donors with >= 1 such cell); group mean = mean over the group's donors (donor-balanced);
43
+ logFC = log2(case mean + 1) - log2(control mean + 1). Secondary `pseudobulk_log1p_cpm`: the SLE benchmark evaluator's
44
+ statistic (donor x type summed counts, log1p CPM over the scoring genes, mean case - mean control;
45
+ evaluate_generated_vs_truth.group_log_fold_change). Both are computed on the generated cells (their frozen labels) and on
46
+ the observed cells; `r_generated` = Pearson r of the two logFC vectors. Broadcast baseline `r_broadcast`: the same
47
+ observed vector against the logFC of the input bulk (condition NPZ `bulk_counts` of the arm, scoring genes, per-donor
48
+ CP10K resp. log1p CPM, group means). `partial_r_generated_given_broadcast`: r of the OLS residuals of observed and
49
+ generated logFC on the bulk logFC (residual_specificity.py).
50
+ 6. **Top-50 DEG overlap** (contrast.csv rows `statistic = welch_top50_deg`; summary `deg_top50`): not computed (contrast off).
51
+
52
+ ## Files
53
+ - `per_donor.csv`: one row per arm x donor (all per-donor quantities above).
54
+ - `summary.json`: per arm the donor means / pooled values, provenance (NPZ sha, receipt check, generation metadata,
55
+ Poisson nnz of the whole NPZ, annotation contract), and the reference block (PCA, R2 control).
56
+ - `contrast.csv`: per arm x cell type x statistic (`mean_cp10k`, `pseudobulk_log1p_cpm`: logFC r; `welch_top50_deg`:
57
+ top-50 DEG overlap, T / B / Monocyte / NK / DC; columns of the other kind are empty).
58
+ - `arms/<arm>/labels/` (predict_scanvi.py labels + manifest), `arms/<arm>/generated_cells.parquet` (NPZ row, donor, label,
59
+ UMI on the scoring genes, P/C subsample flag), `arms/<arm>/deg_top50_lists.csv` (observed, generated and broadcast
60
+ top-50 gene lists, Ensembl ids, rank order).
paper-releases/pbisc-diffusion/updates/20260930T065633Z-summary-deck-scsemi-final/diffusion/dataset/server_1/model8/plans/paired_finetune_intradataset_20260927/scores/immicro/fewshot_n5/draw1_scsemi5/per_donor.csv ADDED
@@ -0,0 +1,103 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ arm,donor,group,n_generated_cells,n_observed_cells,n_reference_cells,gen_T cell,obs_T cell,gen_B cell,obs_B cell,gen_Monocyte,obs_Monocyte,gen_NK cell,obs_NK cell,gen_DC,obs_DC,gen_Other,obs_Other,comp_l1,comp_l1_obs_loo_null,pb_r,pb_own_rank,pb_top1,precision,coverage,precision_depth_matched,coverage_depth_matched,mono_pct_gen,mono_pct_obs,median_umi_gen,median_umi_obs
2
+ scsemi5,HS1,DB1,1500,4384,150,0.6753333333333333,0.6332116788321168,0.096,0.05862226277372263,0.09466666666666666,0.13822992700729927,0.09333333333333334,0.14393248175182483,0.038,0.018476277372262775,0.0026666666666666666,0.007527372262773723,0.19804622871046226,0.1102517604502908,0.6986904694817819,8,False,0.44,0.06,0.76,0.41333333333333333,9.466666666666667,13.822992700729927,1991.0,1738.0
3
+ scsemi5,HS2,DB2,1500,5144,150,0.666,0.661353032659409,0.104,0.05909797822706065,0.09466666666666666,0.1386080870917574,0.08933333333333333,0.11372472783825817,0.043333333333333335,0.02041213063763608,0.0026666666666666666,0.006804043545878694,0.1449403836184552,0.09273512880769899,0.6840514259782416,23,False,0.38666666666666666,0.13333333333333333,0.7466666666666667,0.38,9.466666666666667,13.860808709175739,1991.5,1429.0
4
+ scsemi5,HS3,DB3,1500,4617,150,0.658,0.6484730344379467,0.1,0.06952566601689408,0.10266666666666667,0.17782109594975093,0.09733333333333333,0.07060862031622266,0.036,0.028589993502274202,0.006,0.004981589776911414,0.15030885856616857,0.054647021218341606,0.7009343427635641,18,False,0.54,0.03333333333333333,0.7933333333333333,0.3466666666666667,10.266666666666667,17.782109594975093,1991.0,2186.0
5
+ scsemi5,HS4,DB4,1500,4167,150,0.5846666666666667,0.54307655387569,0.082,0.04535637149028078,0.19866666666666666,0.2371010319174466,0.06466666666666666,0.14254859611231102,0.06533333333333333,0.02423806095512359,0.004666666666666667,0.007679385649148068,0.23865802735781136,0.25441134933810433,0.6584897260984065,64,False,0.44,0.04,0.84,0.34,19.866666666666667,23.71010319174466,1992.0,2111.0
6
+ scsemi5,HS6,DB3,1500,4222,150,0.7026666666666667,0.4836570345807674,0.050666666666666665,0.037423022264329704,0.17266666666666666,0.3147797252486973,0.04733333333333333,0.13003315963998105,0.02266666666666667,0.024869729985788725,0.004,0.009237328280435813,0.4645065529764725,0.3904508065485819,0.7428345462970287,6,False,0.5266666666666666,0.02666666666666667,0.6866666666666666,0.44666666666666666,17.266666666666666,31.47797252486973,1995.0,2457.5
7
+ scsemi5,HS7,DB1,1500,4271,150,0.6453333333333333,0.7035822992273473,0.10333333333333333,0.03839850152189183,0.11066666666666666,0.13135097166939827,0.10066666666666667,0.09740107703114025,0.03866666666666667,0.02130648560056193,0.0013333333333333333,0.0079606649496605,0.1711212050261454,0.14739548902135075,0.6965121710708204,16,False,0.56,0.06666666666666667,0.7866666666666666,0.4266666666666667,11.066666666666666,13.135097166939827,1989.0,1748.0
8
+ scsemi5,HS8,DB1,1500,3652,150,0.6573333333333333,0.6251369112814896,0.10133333333333333,0.06489594742606791,0.10666666666666667,0.15553121577217963,0.10733333333333334,0.11829134720700986,0.02266666666666667,0.028477546549835708,0.004666666666666667,0.007667031763417305,0.13726761591821826,0.06999206589109834,0.717249099411444,3,False,0.5066666666666667,0.04666666666666667,0.84,0.42,10.666666666666668,15.553121577217963,1991.0,1817.0
9
+ scsemi5,HS9,DB3,1500,3942,150,0.6666666666666666,0.6958396752917301,0.094,0.028665651953323185,0.1,0.18670725520040587,0.104,0.049974632166412986,0.03133333333333333,0.03373921867072552,0.004,0.0050735667174023336,0.23871943176052765,0.17866695345269296,0.6909450263023649,3,False,0.5266666666666666,0.04666666666666667,0.8733333333333333,0.5133333333333333,10.0,18.670725520040587,1992.0,2389.0
10
+ scsemi5,HS10,DB4,1500,4115,150,0.6406666666666667,0.5244228432563791,0.086,0.18347509113001215,0.06,0.13001215066828675,0.025333333333333333,0.13754556500607534,0.178,0.021385176184690158,0.01,0.0031591737545565005,0.5593989469420818,0.31199220351954854,0.5976468424704723,80,False,0.5466666666666666,0.0,0.9866666666666667,0.18666666666666668,6.0,13.001215066828674,1992.0,2063.0
11
+ scsemi5,HS11,DB6,1500,2886,150,0.6566666666666666,0.6056826056826057,0.05733333333333333,0.061330561330561334,0.15733333333333333,0.24358974358974358,0.054,0.04054054054054054,0.07266666666666667,0.04573804573804574,0.002,0.0031185031185031187,0.1827442827442827,0.20317935142746835,0.652868633832617,34,False,0.5733333333333334,0.04,0.82,0.20666666666666667,15.733333333333333,24.358974358974358,1993.0,2216.5
12
+ scsemi5,HS12,DB2,1500,5035,150,0.6686666666666666,0.6798411122144985,0.08933333333333333,0.06971201588877855,0.11466666666666667,0.1529294935451837,0.09866666666666667,0.064746772591857,0.02266666666666667,0.025223435948361468,0.006,0.007547169811320755,0.10708242303872889,0.09087325301070366,0.7388844770310047,20,False,0.34,0.02666666666666667,0.7666666666666667,0.26,11.466666666666667,15.29294935451837,1991.0,1550.0
13
+ scsemi5,HS14,DB3,1500,4235,150,0.6566666666666666,0.6517119244391971,0.10133333333333333,0.06517119244391972,0.11866666666666667,0.20306965761511217,0.09533333333333334,0.04250295159386069,0.023333333333333334,0.0332939787485242,0.004666666666666667,0.004250295159386069,0.18872727272727274,0.12168715122055718,0.7322121231438837,20,False,0.5666666666666667,0.03333333333333333,0.8266666666666667,0.4,11.866666666666667,20.30696576151122,1990.5,2164.0
14
+ scsemi5,HS15,DB4,1500,4592,150,0.5986666666666667,0.46972996515679444,0.086,0.04638501742160279,0.21533333333333332,0.37282229965156793,0.06133333333333333,0.08776132404181185,0.03133333333333333,0.0195993031358885,0.007333333333333333,0.0037020905923344947,0.3678339140534263,0.41809249839464463,0.6849155692695378,52,False,0.56,0.03333333333333333,0.8133333333333334,0.25333333333333335,21.53333333333333,37.282229965156795,1992.0,2302.0
15
+ scsemi5,HS17,DB6,1500,1753,150,0.67,0.7221905305191101,0.07666666666666666,0.07529948659440959,0.14933333333333335,0.14432401597261837,0.008,0.03194523673702225,0.09066666666666667,0.02053622361665716,0.005333333333333333,0.005704506560182544,0.15301388096596305,0.16801815047938512,0.63127262757239,59,False,0.42,0.04666666666666667,0.92,0.11333333333333333,14.933333333333335,14.432401597261837,1993.0,2194.0
16
+ scsemi5,HS18,DB4,1500,3348,150,0.746,0.6633811230585425,0.03333333333333333,0.05734767025089606,0.12066666666666667,0.18309438470728792,0.002,0.07198327359617682,0.07133333333333333,0.016129032258064516,0.02666666666666667,0.008064516129032258,0.31285065710872156,0.08887637533141964,0.5681742008512641,60,False,0.5466666666666666,0.02666666666666667,1.0,0.3333333333333333,12.066666666666666,18.309438470728793,1991.0,2108.0
17
+ scsemi5,HS19,DB5,1500,4133,150,0.6406666666666667,0.5971449310428261,0.086,0.1454149528187757,0.154,0.14686668279699977,0.025333333333333333,0.09145898862811518,0.092,0.014275344785869828,0.002,0.004839099927413501,0.2567594160819421,0.14203250256315128,0.609409779860619,98,False,0.41333333333333333,0.02,0.9333333333333333,0.12666666666666668,15.4,14.686668279699976,1991.0,1955.0
18
+ scsemi5,HS20,DB7,1500,1366,150,0.702,0.7657393850658858,0.09933333333333333,0.09882869692532943,0.06733333333333333,0.08345534407027819,0.056666666666666664,0.029282576866764276,0.06866666666666667,0.015373352855051245,0.006,0.007320644216691069,0.16236408003904346,0.30676683678609423,0.620474161903025,73,False,0.5866666666666667,0.013333333333333334,0.9133333333333333,0.22,6.7333333333333325,8.345534407027818,1991.0,2271.0
19
+ scsemi5,HS21,DB1,1500,4748,150,0.7286666666666667,0.5945661331086773,0.04933333333333333,0.06887110362257792,0.15066666666666667,0.1941870261162595,0.03666666666666667,0.11141533277169334,0.03,0.02401010951979781,0.004666666666666667,0.0069502948609941025,0.28018084807638305,0.10291749271911381,0.698010574625292,28,False,0.5,0.05333333333333334,0.7066666666666667,0.4666666666666667,15.066666666666666,19.41870261162595,1992.0,1849.5
20
+ scsemi5,HS23,DB6,1500,1680,150,0.632,0.5630952380952381,0.054,0.0994047619047619,0.19266666666666668,0.2386904761904762,0.08066666666666666,0.06904761904761905,0.037333333333333336,0.025,0.0033333333333333335,0.004761904761904762,0.1857142857142857,0.20008978798746868,0.6815432562122181,40,False,0.58,0.02666666666666667,0.8333333333333334,0.17333333333333334,19.26666666666667,23.86904761904762,1990.0,2296.0
21
+ scsemi5,HS24,DB6,1500,1670,150,0.64,0.5365269461077844,0.054,0.07005988023952096,0.18066666666666667,0.17664670658682635,0.06733333333333333,0.19401197604790418,0.056,0.017964071856287425,0.002,0.004790419161676647,0.291057884231537,0.22940166956570648,0.6523815931254294,48,False,0.43333333333333335,0.03333333333333333,0.78,0.32,18.066666666666666,17.664670658682635,1992.0,2073.5
22
+ scsemi5,HS25,DB6,1500,1800,150,0.7233333333333334,0.4872222222222222,0.04533333333333334,0.095,0.17733333333333334,0.30333333333333334,0.036,0.08444444444444445,0.016,0.026111111111111113,0.002,0.0038888888888888888,0.47222222222222227,0.3240030364551728,0.7131920090509187,25,False,0.5866666666666667,0.05333333333333334,0.7066666666666667,0.18666666666666668,17.733333333333334,30.333333333333336,1989.0,2173.0
23
+ scsemi5,HS26,DB2,1500,3606,150,0.6693333333333333,0.651414309484193,0.08933333333333333,0.054076539101497505,0.09466666666666666,0.16167498613422074,0.10066666666666667,0.09678313921242374,0.044,0.02689961175818081,0.002,0.009151414309484194,0.14831946755407655,0.051244565336373685,0.6823734423519338,5,False,0.4533333333333333,0.08,0.84,0.36666666666666664,9.466666666666667,16.167498613422072,1993.0,1454.5
24
+ scsemi5,HS27,DB2,1500,4030,150,0.67,0.6540942928039702,0.102,0.11464019851116625,0.09533333333333334,0.1196029776674938,0.08666666666666667,0.0890818858560794,0.04533333333333334,0.015632754342431762,0.0006666666666666666,0.006947890818858561,0.09121257237386271,0.11244907251799638,0.6751455415766099,1,True,0.4666666666666667,0.10666666666666667,0.7866666666666666,0.52,9.533333333333333,11.96029776674938,1993.0,1575.5
25
+ scsemi5,HS28,DB5,1500,4446,150,0.6233333333333333,0.594017094017094,0.06333333333333334,0.12010796221322537,0.17466666666666666,0.1545209176788124,0.07333333333333333,0.11156095366621682,0.062,0.015744489428699954,0.0033333333333333335,0.004048582995951417,0.19143499775078718,0.13151938161503707,0.6622416911311136,83,False,0.48,0.006666666666666667,0.6733333333333333,0.18,17.466666666666665,15.45209176788124,1995.0,1941.5
26
+ scsemi5,HS29,DB5,1500,4285,150,0.646,0.6550758459743291,0.052,0.03663943990665111,0.172,0.19883313885647608,0.056,0.0823803967327888,0.07066666666666667,0.022870478413068846,0.0033333333333333335,0.004200700116686115,0.12631349669389347,0.09894820309521238,0.6501541759117093,69,False,0.38,0.006666666666666667,0.7866666666666666,0.22,17.2,19.883313885647606,1989.0,2230.0
27
+ scsemi5,HS30,DB3,1500,6447,150,0.644,0.5667752442996743,0.05733333333333333,0.08127811385140375,0.19,0.26477431363424847,0.06133333333333333,0.049325267566309915,0.043333333333333335,0.03489995346672871,0.004,0.002947107181634869,0.19743818830463777,0.23615768049100477,0.6858673046037251,7,False,0.47333333333333333,0.02666666666666667,0.8533333333333334,0.5133333333333333,19.0,26.47743136342485,1992.0,2410.0
28
+ scsemi5,HS31,DB3,1500,4830,150,0.642,0.5956521739130435,0.05733333333333333,0.07039337474120083,0.15733333333333333,0.21884057971014492,0.06866666666666667,0.08385093167701864,0.07066666666666667,0.02546583850931677,0.004,0.005797101449275362,0.18309730848861283,0.11260769218333512,0.6895319129827233,6,False,0.4,0.02,0.8333333333333334,0.3333333333333333,15.733333333333333,21.884057971014492,1992.0,2217.5
29
+ scsemi5,HS32,DB6,1500,1818,150,0.6386666666666667,0.7128712871287128,0.06066666666666667,0.07535753575357536,0.15866666666666668,0.13036303630363036,0.05266666666666667,0.06050605060506051,0.088,0.019251925192519254,0.0013333333333333333,0.0016501650165016502,0.19410341034103404,0.1491368001007944,0.6519422887178831,45,False,0.5,0.04,0.8266666666666667,0.2866666666666667,15.866666666666667,13.036303630363037,1994.0,2078.5
30
+ scsemi5,HS34,DB5,1500,4363,150,0.6553333333333333,0.7073114829245931,0.051333333333333335,0.04859041943616777,0.16,0.16983726793490717,0.05333333333333334,0.0550080220032088,0.07266666666666667,0.013981205592482237,0.007333333333333333,0.005271602108640843,0.1269802123920849,0.14588792853930949,0.6085722732621903,77,False,0.4533333333333333,0.013333333333333334,0.9066666666666666,0.26,16.0,16.983726793490717,1994.0,2176.0
31
+ scsemi5,HS35,DB7,1500,1658,150,0.672,0.6363088057901085,0.052,0.08443908323281062,0.108,0.1513872135102533,0.04,0.097708082026538,0.12266666666666666,0.024728588661037394,0.005333333333333333,0.005428226779252111,0.2672585444310415,0.035171334315221285,0.6246525026158399,61,False,0.4066666666666667,0.006666666666666667,0.92,0.14666666666666667,10.8,15.13872135102533,1990.0,2204.0
32
+ scsemi5,HS36,DB5,1500,4213,150,0.66,0.5829575124614289,0.05533333333333333,0.10064087348682649,0.16533333333333333,0.14573937811535723,0.05733333333333333,0.15286019463565156,0.06,0.015428435793971042,0.002,0.0023736055067647755,0.28241601392515236,0.17561600594750562,0.640054925378252,86,False,0.4066666666666667,0.006666666666666667,0.7333333333333333,0.28,16.53333333333333,14.573937811535723,1992.0,2180.0
33
+ scsemi5,HS37,DB6,1500,2127,150,0.7133333333333334,0.5763986835919135,0.051333333333333335,0.14997649271274094,0.17333333333333334,0.18288669487541137,0.035333333333333335,0.06535025858015985,0.02266666666666667,0.021626704278326282,0.004,0.0037611659614480487,0.2764268923366244,0.18529780218735445,0.7212606320686366,53,False,0.5933333333333334,0.03333333333333333,0.7266666666666667,0.19333333333333333,17.333333333333336,18.28866948754114,1993.0,2099.0
34
+ scsemi5,HS38,DB2,1500,3952,150,0.7086666666666667,0.4534412955465587,0.04533333333333334,0.06022267206477733,0.16533333333333333,0.27631578947368424,0.05466666666666667,0.16776315789473684,0.025333333333333333,0.03365384615384615,0.0006666666666666666,0.00860323886639676,0.5104507422402159,0.40542983826825774,0.7520670498476151,5,False,0.5666666666666667,0.12,0.7466666666666667,0.34,16.53333333333333,27.631578947368425,1990.0,1448.0
35
+ scsemi5,HS39,DB6,1500,2056,150,0.6173333333333333,0.6731517509727627,0.056,0.04571984435797665,0.196,0.17607003891050585,0.06933333333333333,0.08025291828793775,0.05466666666666667,0.02091439688715953,0.006666666666666667,0.0038910505836575876,0.13347600518806757,0.08948099745860374,0.6527588449380057,38,False,0.6066666666666667,0.03333333333333333,0.76,0.3333333333333333,19.6,17.607003891050585,1989.0,2023.0
36
+ scsemi5,HS40,DB2,1500,3867,150,0.7213333333333334,0.6938194983191104,0.03,0.045771916214119475,0.11733333333333333,0.15490043961727437,0.05466666666666667,0.07525213343677269,0.07066666666666667,0.026377036462373934,0.006,0.003878975950349108,0.14784897853633316,0.11753948273249303,0.6994212363933567,36,False,0.7,0.05333333333333334,0.7666666666666667,0.36666666666666664,11.733333333333333,15.490043961727437,1992.0,1477.0
37
+ scsemi5,HS41,DB7,1500,1392,150,0.652,0.6458333333333334,0.112,0.15589080459770116,0.10733333333333334,0.14152298850574713,0.09066666666666667,0.035201149425287355,0.034,0.014367816091954023,0.004,0.007183908045977011,0.1625287356321839,0.17955833414151467,0.6789867020820494,71,False,0.43333333333333335,0.0,0.78,0.2866666666666667,10.733333333333334,14.152298850574713,1992.0,2276.0
38
+ scsemi5,HS42,DB1,1500,4312,150,0.6666666666666666,0.700139146567718,0.05266666666666667,0.034786641929499075,0.158,0.18320964749536178,0.042666666666666665,0.04336734693877551,0.07333333333333333,0.029684601113172542,0.006666666666666667,0.008812615955473098,0.12305751391465684,0.17855037195207374,0.6384829796098407,7,False,0.5466666666666666,0.07333333333333333,0.9333333333333333,0.38,15.8,18.320964749536177,1994.0,1957.5
39
+ scsemi5,HS43,DB5,1500,4357,150,0.6546666666666666,0.6584806059215056,0.098,0.071149873766353,0.09266666666666666,0.13839798026164793,0.11466666666666667,0.11223318797337617,0.034666666666666665,0.017443194858847832,0.005333333333333333,0.0022951572182694515,0.09909050569964045,0.08152436150951388,0.6522920752666985,81,False,0.5666666666666667,0.006666666666666667,0.82,0.20666666666666667,9.266666666666666,13.839798026164793,1990.0,2180.0
40
+ scsemi5,HS44,DB5,1500,3849,150,0.6606666666666666,0.719147830605352,0.056666666666666664,0.06832943621719927,0.142,0.15146791374382956,0.056666666666666664,0.03715250714471291,0.08066666666666666,0.019225772928033256,0.0033333333333333335,0.004676539360872954,0.16191010652117438,0.16169207764044316,0.6319258724266295,95,False,0.5133333333333333,0.02,0.7133333333333334,0.12666666666666668,14.2,15.146791374382957,1994.0,1852.0
41
+ scsemi5,HS45,DB7,1500,1980,150,0.658,0.6646464646464646,0.06133333333333333,0.08333333333333333,0.148,0.1191919191919192,0.05466666666666667,0.10606060606060606,0.074,0.022727272727272728,0.004,0.00404040404040404,0.16016161616161606,0.09774241114997942,0.6394124093914353,64,False,0.5066666666666667,0.02,0.8466666666666667,0.22666666666666666,14.799999999999999,11.91919191919192,1993.0,2373.5
42
+ scsemi5,HS46,DB1,1500,4117,150,0.652,0.6315278115132378,0.09333333333333334,0.060480932717998544,0.11866666666666667,0.13990769978139422,0.10133333333333333,0.13577847947534613,0.032,0.028175856205975226,0.0026666666666666666,0.004129220306048093,0.11429746579224359,0.1005637712976996,0.6775074033308345,31,False,0.4533333333333333,0.05333333333333334,0.6933333333333334,0.5066666666666667,11.866666666666667,13.990769978139422,1991.0,1777.0
43
+ scsemi5,HS47,DB3,1500,4401,150,0.6986666666666667,0.609634174051352,0.09466666666666666,0.13542376732560782,0.04533333333333334,0.09702340377187003,0.086,0.12315382867530107,0.074,0.029993183367416496,0.0013333333333333333,0.004771642808452625,0.2660786184957964,0.2001791084872967,0.6476115438976147,9,False,0.4,0.04,0.92,0.4266666666666667,4.533333333333333,9.702340377187003,1992.0,2179.0
44
+ scsemi5,HS48,DB5,1500,3855,150,0.6646666666666666,0.7058365758754864,0.10133333333333333,0.09909208819714656,0.07266666666666667,0.0840466926070039,0.09066666666666667,0.0874189364461738,0.06533333333333333,0.019974059662775615,0.005333333333333333,0.0036316472114137485,0.10509987029831397,0.1828671724060452,0.6456197908932844,88,False,0.47333333333333333,0.013333333333333334,0.8333333333333334,0.32,7.2666666666666675,8.40466926070039,1993.0,1918.0
45
+ scsemi5,HS49,DB3,1500,3893,150,0.6693333333333333,0.6773696378114564,0.08533333333333333,0.027228358592345236,0.09933333333333333,0.1857179553043925,0.07466666666666667,0.07346519393783714,0.06466666666666666,0.03056768558951965,0.006666666666666667,0.005651168764449011,0.18884185289836455,0.13302491663495286,0.6593139950016216,13,False,0.44,0.02666666666666667,0.8066666666666666,0.4,9.933333333333334,18.57179553043925,1990.5,2103.0
46
+ scsemi5,HS50,DB5,1500,4299,150,0.684,0.6882996045591998,0.11133333333333334,0.08211211909746452,0.08066666666666666,0.11979530123284485,0.07466666666666667,0.09211444521981857,0.044,0.013258897418004187,0.005333333333333333,0.004419632472668062,0.12175203535705974,0.11488197576938627,0.6181180044101361,95,False,0.5,0.013333333333333334,0.8866666666666667,0.16666666666666666,8.066666666666666,11.979530123284485,1991.0,2077.0
47
+ scsemi5,HS51,DB3,1500,3803,150,0.6986666666666667,0.7068104128319748,0.112,0.09019195372074677,0.06666666666666667,0.10544307125953195,0.07266666666666667,0.06731527741256903,0.04533333333333334,0.02576912963449908,0.004666666666666667,0.004470155140678412,0.09384030151634677,0.17263539036388595,0.6847123910130224,8,False,0.4066666666666667,0.02666666666666667,0.8066666666666666,0.5533333333333333,6.666666666666667,10.544307125953194,1990.0,2114.0
48
+ scsemi5,HS52,DB1,1500,4286,150,0.6606666666666666,0.7473168455436304,0.10333333333333333,0.04316378908072795,0.10933333333333334,0.12085860942603827,0.09466666666666666,0.06276248250116659,0.03,0.017498833411105925,0.002,0.008399440037330844,0.2091497900139991,0.22420671369800266,0.6915851843703393,45,False,0.46,0.09333333333333334,0.7666666666666667,0.3,10.933333333333334,12.085860942603826,1992.0,1848.5
49
+ scsemi5,HS53,DB7,1500,1544,150,0.698,0.7506476683937824,0.09466666666666666,0.10233160621761658,0.10666666666666667,0.08290155440414508,0.068,0.040803108808290155,0.03,0.01878238341968912,0.0026666666666666666,0.0045336787564766836,0.1243592400690847,0.27991989072196855,0.6555381755551378,83,False,0.4866666666666667,0.02,0.8133333333333334,0.29333333333333333,10.666666666666668,8.290155440414509,1991.0,2239.5
50
+ scsemi5,HS54,DB3,1500,5391,150,0.7213333333333334,0.7853830458171026,0.09933333333333333,0.06362455945093674,0.074,0.0849564088295307,0.04733333333333333,0.037655351511778894,0.05466666666666667,0.02485624188462252,0.0033333333333333335,0.003524392506028566,0.15039436097199035,0.29940801338327633,0.6440220222473139,18,False,0.4533333333333333,0.02,0.94,0.37333333333333335,7.3999999999999995,8.49564088295307,1993.0,2188.0
51
+ scsemi5,HS55,DB1,1500,4574,150,0.6893333333333334,0.6228683865325755,0.08333333333333333,0.04241364232619152,0.09133333333333334,0.22431132487975514,0.07466666666666667,0.08439003060778312,0.037333333333333336,0.019676432006996064,0.024,0.006340183646698732,0.2854027109750765,0.11958925123886174,0.6376798913124996,10,False,0.6533333333333333,0.05333333333333334,0.9533333333333334,0.3933333333333333,9.133333333333333,22.431132487975514,1992.0,1849.0
52
+ scsemi5,HS56,DB1,1500,4121,150,0.6646666666666666,0.6112594030575104,0.09733333333333333,0.04707595243872846,0.09,0.13977190002426595,0.09666666666666666,0.16743508857073525,0.05,0.028391167192429023,0.0013333333333333333,0.006066488716330988,0.2505469546226643,0.16584544279885485,0.6544349078989998,14,False,0.44,0.05333333333333334,0.8133333333333334,0.44,9.0,13.977190002426596,1991.0,1751.0
53
+ scsemi5,HS57,DB2,1500,3932,150,0.678,0.6584435401831129,0.08666666666666667,0.03128179043743642,0.09533333333333334,0.18972533062054933,0.09533333333333334,0.08214649033570702,0.04,0.030010172939979655,0.004666666666666667,0.00839267548321465,0.19623601220752804,0.10730328731253655,0.6590150248685653,1,True,0.5466666666666666,0.07333333333333333,0.8866666666666667,0.5266666666666666,9.533333333333333,18.972533062054932,1991.0,1676.5
54
+ scsemi5,HS59,DB4,1500,4268,150,0.712,0.5796626054358013,0.05533333333333333,0.06115276476101218,0.16466666666666666,0.21860356138706655,0.04,0.11879100281162137,0.025333333333333333,0.016166822867853797,0.0026666666666666666,0.005623242736644799,0.2830078100593565,0.16222617237869702,0.6514336972615314,86,False,0.6266666666666667,0.02,0.7066666666666667,0.26,16.466666666666665,21.860356138706656,1992.0,2091.5
55
+ scsemi5,HS60,DB6,1500,2659,150,0.7013333333333334,0.6288078224896577,0.028,0.04061677322301617,0.11333333333333333,0.16058668672433246,0.082,0.14328694998119593,0.07066666666666667,0.020308386611508085,0.004666666666666667,0.006393380970289583,0.2457675817976684,0.10665747624360734,0.6966804673522256,18,False,0.58,0.03333333333333333,0.72,0.30666666666666664,11.333333333333332,16.058668672433246,1992.0,2014.0
56
+ scsemi5,HS61,DB7,1500,1607,150,0.7133333333333334,0.4971997510889857,0.046,0.1001866832607343,0.18266666666666667,0.29869321717485997,0.027333333333333334,0.07093963907902924,0.027333333333333334,0.02862476664592408,0.0033333333333333335,0.0043559427504667085,0.4322671644886953,0.3301840801973813,0.6819504280846322,62,False,0.5933333333333334,0.006666666666666667,0.6866666666666666,0.16666666666666666,18.266666666666666,29.869321717485995,1989.0,2387.0
57
+ scsemi5,HS62,DB3,1500,4121,150,0.666,0.6699830138315943,0.09933333333333333,0.07789371511768989,0.074,0.1400145595729192,0.09,0.08881339480708565,0.066,0.02062606163552536,0.004666666666666667,0.0026692550351856345,0.13999514680902694,0.06763356086977629,0.6458175165436589,7,False,0.5866666666666667,0.03333333333333333,0.9333333333333333,0.44,7.3999999999999995,14.00145595729192,1991.0,2159.0
58
+ scsemi5,HS63,DB5,1500,4391,150,0.6753333333333333,0.7214757458437714,0.09066666666666667,0.05465725347301298,0.09066666666666667,0.15053518560692325,0.088,0.0530630835800501,0.04933333333333333,0.016624914598041447,0.006,0.0036438168982008655,0.21202186290138925,0.16639400544873562,0.6209287018034674,79,False,0.56,0.013333333333333334,0.8666666666666667,0.26666666666666666,9.066666666666666,15.053518560692325,1993.0,2196.0
59
+ scsemi5,HS64,DB2,1500,3894,150,0.6726666666666666,0.6592193117616847,0.104,0.0968156137647663,0.07466666666666667,0.13071391884951206,0.08133333333333333,0.0901386748844376,0.06533333333333333,0.01848998459167951,0.002,0.004622496147919877,0.13495017976373896,0.08411150247118228,0.640296585229018,32,False,0.38,0.08666666666666667,0.8933333333333333,0.34,7.466666666666668,13.071391884951206,1992.0,1596.0
60
+ scsemi5,HS65,DB2,1500,4394,150,0.6906666666666667,0.6096950386891216,0.09333333333333334,0.10969503868912153,0.09133333333333334,0.16909421939007738,0.07533333333333334,0.07055075102412381,0.042666666666666665,0.03413746017296313,0.006666666666666667,0.006827492034592627,0.18856683356091636,0.10120309248111806,0.6445655842321266,36,False,0.5266666666666666,0.10666666666666667,0.9066666666666666,0.3333333333333333,9.133333333333333,16.90942193900774,1990.0,1449.5
61
+ scsemi5,HS66,DB4,1500,4857,150,0.6833333333333333,0.6448424953675108,0.098,0.10376775787523163,0.1,0.16512250360304714,0.08133333333333333,0.07020794729256744,0.034,0.012559192917438749,0.0033333333333333335,0.0035001029442042414,0.14211406217829936,0.06911513469022654,0.627192628703323,74,False,0.58,0.02,0.8333333333333334,0.25333333333333335,10.0,16.512250360304716,1989.0,2041.0
62
+ scsemi5,HS67,DB2,1500,3971,150,0.6673333333333333,0.6293125157391085,0.09866666666666667,0.1095441954167716,0.09933333333333333,0.13925963233442457,0.08866666666666667,0.09393099974817426,0.043333333333333335,0.018886930244270964,0.0026666666666666666,0.009065726517250064,0.12493444136657435,0.08153821934326465,0.6450583836566629,23,False,0.5733333333333334,0.13333333333333333,0.9266666666666666,0.4,9.933333333333334,13.925963233442456,1993.0,1563.0
63
+ scsemi5,HS68,DB6,1500,2659,150,0.6513333333333333,0.6938698758931929,0.10866666666666666,0.07070327190673185,0.10866666666666666,0.156825874388868,0.094,0.05039488529522377,0.03133333333333333,0.02181271154569387,0.006,0.006393380970289583,0.18217826250470104,0.11220257648646133,0.6727873329919528,40,False,0.6066666666666667,0.02,0.88,0.29333333333333333,10.866666666666665,15.6825874388868,1994.0,2248.0
64
+ scsemi5,HS69,DB6,1500,1765,150,0.7533333333333333,0.6957507082152975,0.04933333333333333,0.07932011331444759,0.106,0.15637393767705382,0.008666666666666666,0.04645892351274788,0.07933333333333334,0.020396600566572238,0.0033333333333333335,0.0016997167138810198,0.23630594900849855,0.12256024291347953,0.6262544958558849,48,False,0.6133333333333333,0.04,0.74,0.20666666666666667,10.6,15.637393767705381,1992.5,1982.0
65
+ scsemi5,HS71,DB4,1500,4400,150,0.6546666666666666,0.571590909090909,0.08666666666666667,0.08863636363636364,0.082,0.10477272727272727,0.10666666666666667,0.21409090909090908,0.06666666666666667,0.017045454545454544,0.0033333333333333335,0.003863636363636364,0.2653939393939394,0.27504319148590284,0.6372085317570375,80,False,0.5,0.013333333333333334,0.8,0.29333333333333333,8.200000000000001,10.477272727272727,1994.0,1825.0
66
+ scsemi5,HS72,DB4,1500,4520,150,0.6826666666666666,0.7331858407079646,0.106,0.08517699115044247,0.07866666666666666,0.11438053097345133,0.08466666666666667,0.0418141592920354,0.042666666666666665,0.01836283185840708,0.005333333333333333,0.007079646017699115,0.17595870206489675,0.2129546124327556,0.6436348098755493,93,False,0.5133333333333333,0.013333333333333334,0.9133333333333333,0.30666666666666664,7.866666666666666,11.438053097345133,1990.5,1974.0
67
+ scsemi5,HS73,DB2,1500,4209,150,0.6886666666666666,0.5915894511760513,0.028666666666666667,0.07531480161558565,0.07066666666666667,0.10667617011166548,0.09533333333333334,0.20076027559990497,0.108,0.020669992872416252,0.008666666666666666,0.004989308624376337,0.3761691613209789,0.22121103421458063,0.6780383018527726,31,False,0.62,0.1,0.6066666666666667,0.4,7.066666666666667,10.667617011166548,1992.0,1262.0
68
+ scsemi5,HS74,DB5,1500,4719,150,0.7,0.6753549480822209,0.08666666666666667,0.08645899554990465,0.06133333333333333,0.101716465352829,0.08933333333333333,0.11337147700784064,0.06066666666666667,0.018648018648018648,0.002,0.004450095359186269,0.13374274210637838,0.14045115754909496,0.5991839530641516,99,False,0.5733333333333334,0.006666666666666667,0.9533333333333334,0.11333333333333333,6.133333333333333,10.1716465352829,1991.5,1934.0
69
+ scsemi5,HS75,DB6,1500,2126,150,0.65,0.6933207902163687,0.10466666666666667,0.07572906867356538,0.096,0.15851364063969897,0.08533333333333333,0.04280338664158043,0.059333333333333335,0.023518344308560677,0.004666666666666667,0.0061147695202257765,0.21456506741925363,0.1126349412472049,0.654428554979797,18,False,0.5666666666666667,0.04,0.8866666666666667,0.24666666666666667,9.6,15.851364063969896,1992.0,2141.5
70
+ scsemi5,HS76,DB1,1500,3892,150,0.6733333333333333,0.5775950668036999,0.09,0.10405960945529291,0.09266666666666666,0.1593011305241521,0.09733333333333333,0.10251798561151079,0.038,0.04290853031860226,0.008666666666666666,0.013617677286742035,0.19147653305926687,0.1373944568117425,0.6426660614536767,11,False,0.6,0.07333333333333333,0.9066666666666666,0.43333333333333335,9.266666666666666,15.93011305241521,1990.0,1764.0
71
+ scsemi5,HS78,DB1,1500,4299,150,0.6966666666666667,0.6366596882996045,0.096,0.08792742498255408,0.06533333333333333,0.12281926029309141,0.078,0.1139799953477553,0.06066666666666667,0.02814608048383345,0.0033333333333333335,0.0104675505931612,0.20120027913468252,0.09178177108869137,0.6203778180795928,29,False,0.5866666666666667,0.02,0.9733333333333334,0.3466666666666667,6.533333333333332,12.28192602930914,1991.0,1732.0
72
+ scsemi5,HS79,DB5,1500,4239,150,0.6813333333333333,0.6161830620429346,0.08933333333333333,0.09648502005189903,0.10466666666666667,0.15876385940080207,0.086,0.11181882519462137,0.03333333333333333,0.014154281670205236,0.005333333333333333,0.0025949516395376267,0.174135409294645,0.0843265656831952,0.6667965517743004,82,False,0.5466666666666666,0.006666666666666667,0.7933333333333333,0.15333333333333332,10.466666666666667,15.876385940080207,1991.5,2188.0
73
+ scsemi5,HS80,DB3,1500,4301,150,0.6813333333333333,0.6842594745408045,0.10466666666666667,0.10578935131364799,0.09666666666666666,0.14415252266914672,0.07533333333333334,0.04022320390606836,0.038,0.02022785398744478,0.004,0.0053475935828877,0.10576455087964041,0.15281284570793796,0.6750721033908085,2,False,0.52,0.013333333333333334,0.8933333333333333,0.5133333333333333,9.666666666666666,14.415252266914672,1991.0,2305.0
74
+ scsemi5,HS81,DB7,1500,1638,150,0.7113333333333334,0.721001221001221,0.08866666666666667,0.04212454212454213,0.06866666666666667,0.13553113553113552,0.054,0.06288156288156288,0.07,0.03296703296703297,0.007333333333333333,0.005494505494505495,0.17082783882783878,0.1857516680206219,0.6125426116917289,60,False,0.49333333333333335,0.02,0.98,0.2,6.866666666666667,13.553113553113553,1993.0,2240.5
75
+ scsemi5,HS82,DB2,1500,4201,150,0.6933333333333334,0.6553201618662223,0.088,0.1309212092358962,0.08466666666666667,0.14782194715543917,0.054,0.031183051654368008,0.048,0.02499404903594382,0.032,0.009759581052130446,0.21215297944933748,0.15770082053611909,0.6121172373181716,8,False,0.52,0.13333333333333333,0.98,0.35333333333333333,8.466666666666667,14.782194715543916,1992.0,1587.0
76
+ scsemi5,HS83,DB6,1500,2410,150,0.68,0.7128630705394191,0.06066666666666667,0.08049792531120332,0.14066666666666666,0.14481327800829877,0.04,0.045228215767634854,0.068,0.012448132780082987,0.010666666666666666,0.004149377593360996,0.12413831258644537,0.15950277322495454,0.647317417080412,19,False,0.4533333333333333,0.02666666666666667,0.86,0.31333333333333335,14.066666666666666,14.481327800829877,1993.0,2373.0
77
+ scsemi5,HS84,DB3,1500,3090,150,0.652,0.6702265372168285,0.10933333333333334,0.04692556634304207,0.10466666666666667,0.17184466019417477,0.094,0.08608414239482201,0.03666666666666667,0.020711974110032363,0.0033333333333333335,0.004207119741100324,0.1725566343042071,0.07503821662353326,0.674964428900871,7,False,0.4866666666666667,0.06666666666666667,0.8066666666666666,0.52,10.466666666666667,17.184466019417478,1992.0,2083.0
78
+ scsemi5,HS85,DB5,1500,4216,150,0.6653333333333333,0.5785104364326376,0.04933333333333333,0.07756166982922201,0.152,0.22936432637571158,0.059333333333333335,0.0896584440227704,0.066,0.021347248576850095,0.008,0.003557874762808349,0.2718355471220747,0.13290981167075425,0.5958009113604155,85,False,0.4066666666666667,0.02,0.9266666666666666,0.14666666666666667,15.2,22.93643263757116,1991.0,2171.5
79
+ scsemi5,HS86,DB7,1500,1111,150,0.7333333333333333,0.6561656165616562,0.028666666666666667,0.0711071107110711,0.06866666666666667,0.162016201620162,0.051333333333333335,0.0711071107110711,0.112,0.034203420342034205,0.006,0.0054005400540054005,0.3111275127512751,0.057293843454572634,0.662464954947439,59,False,0.6466666666666666,0.02,0.62,0.3333333333333333,6.866666666666667,16.2016201620162,1991.0,1989.0
80
+ scsemi5,HS87,DB5,1500,4067,150,0.6773333333333333,0.6801081878534546,0.10066666666666667,0.08409146791246619,0.10066666666666667,0.12490779444307844,0.08066666666666666,0.10154905335628227,0.03666666666666667,0.007376444553725104,0.004,0.001967051880993361,0.09579673797229733,0.12139086893895973,0.6303261859880853,102,False,0.43333333333333335,0.006666666666666667,0.82,0.10666666666666667,10.066666666666666,12.490779444307844,1990.0,1983.0
81
+ scsemi5,HS88,DB3,1500,5093,150,0.714,0.6540349499312782,0.04933333333333333,0.040054977419988216,0.16533333333333333,0.20400549774199883,0.036,0.0738268211270371,0.032,0.02297270763793442,0.0033333333333333335,0.005105046141763205,0.15654139668826494,0.10742249062361774,0.6852528956255484,17,False,0.5333333333333333,0.02,0.72,0.44666666666666666,16.53333333333333,20.400549774199884,1992.0,2032.0
82
+ scsemi5,HS89,DB2,1500,3796,150,0.6873333333333334,0.5795574288724974,0.030666666666666665,0.045574288724973655,0.11866666666666667,0.19836670179135932,0.086,0.14673340358271866,0.068,0.022128556375131718,0.009333333333333334,0.007639620653319284,0.3106821215314366,0.18186252381217383,0.6846516093749848,8,False,0.7066666666666667,0.12666666666666668,0.82,0.5333333333333333,11.866666666666667,19.836670179135933,1992.0,1510.0
83
+ scsemi5,HS90,DB7,1500,1291,150,0.6813333333333333,0.6839659178931061,0.096,0.06584043377226956,0.094,0.13632842757552285,0.08533333333333333,0.0844306738962045,0.038,0.024012393493415957,0.005333333333333333,0.005422153369481022,0.09009966434288663,0.09286109092484648,0.6428697599051333,70,False,0.5533333333333333,0.03333333333333333,0.82,0.24,9.4,13.632842757552286,1992.0,2183.0
84
+ scsemi5,HS91,DB6,1500,2568,150,0.67,0.6320093457943925,0.09,0.04361370716510903,0.09066666666666667,0.16277258566978192,0.09666666666666666,0.12694704049844235,0.048,0.027258566978193146,0.004666666666666667,0.007398753894080997,0.21023676012461065,0.08447088681676714,0.6527895346636726,34,False,0.6333333333333333,0.04666666666666667,0.8866666666666667,0.26,9.066666666666666,16.27725856697819,1991.0,2112.0
85
+ scsemi5,HS92,DB7,1500,2115,150,0.6893333333333334,0.5810874704491725,0.09466666666666666,0.11678486997635934,0.09,0.05484633569739953,0.07733333333333334,0.23356973995271868,0.04666666666666667,0.007565011820330969,0.002,0.006146572104018913,0.36500236406619396,0.372309438269837,0.626288929399912,84,False,0.4266666666666667,0.02666666666666667,0.8133333333333334,0.2,9.0,5.484633569739953,1991.5,1976.0
86
+ scsemi5,HS93,DB1,1500,5125,150,0.6753333333333333,0.7139512195121951,0.10066666666666667,0.08253658536585366,0.102,0.13873170731707318,0.06933333333333333,0.041951219512195125,0.05,0.016975609756097562,0.0026666666666666666,0.005853658536585366,0.1570731707317073,0.16629513767889118,0.664896948868198,1,True,0.56,0.03333333333333333,0.9133333333333333,0.49333333333333335,10.2,13.873170731707319,1992.0,1873.0
87
+ scsemi5,HS94,DB3,1500,4273,150,0.7026666666666667,0.7343786566814884,0.09733333333333333,0.038380528902410484,0.088,0.1352679616194711,0.06866666666666667,0.06763398080973555,0.04,0.019424292066463844,0.0033333333333333335,0.004914579920430611,0.16112239644278023,0.19245533030907505,0.6695955742400175,4,False,0.48,0.04,0.8733333333333333,0.4,8.799999999999999,13.52679616194711,1992.0,2305.0
88
+ scsemi5,HS95,DB1,1500,4264,150,0.6833333333333333,0.6458724202626641,0.09666666666666666,0.08348968105065666,0.08066666666666666,0.13860225140712945,0.08066666666666666,0.09826454033771106,0.05533333333333333,0.025093808630393996,0.0033333333333333335,0.008677298311444653,0.1617548467792371,0.054985618851547936,0.6443689179404374,35,False,0.5466666666666666,0.03333333333333333,0.92,0.4266666666666667,8.066666666666666,13.860225140712945,1988.0,1829.5
89
+ scsemi5,HS96,DB7,1500,1801,150,0.6366666666666667,0.5147140477512493,0.059333333333333335,0.06885063853414769,0.18133333333333335,0.25818989450305385,0.064,0.10716268739589117,0.05266666666666667,0.04553026096612993,0.006,0.00555247084952804,0.2590731075328522,0.26437573837121436,0.6440831369552186,67,False,0.64,0.02666666666666667,0.8533333333333334,0.13333333333333333,18.133333333333333,25.818989450305384,1993.0,2252.0
90
+ scsemi5,HS97,DB4,1500,4609,150,0.7446666666666667,0.7179431546973313,0.03666666666666667,0.0414406595790844,0.10266666666666667,0.16294206986331092,0.022,0.05467563462790193,0.037333333333333336,0.018876111954870906,0.056666666666666664,0.004122369277500542,0.1954500614739279,0.1592588708559261,0.5809904925090085,63,False,0.5933333333333334,0.02,0.9933333333333333,0.24666666666666667,10.266666666666667,16.29420698633109,1990.0,2171.0
91
+ scsemi5,HS98,DB2,1500,4959,150,0.636,0.5366001209921355,0.051333333333333335,0.07360354910264166,0.182,0.30490018148820325,0.07266666666666667,0.03891913692276669,0.052,0.03367614438394838,0.006,0.012300867110304496,0.30294252873563216,0.3161505570942134,0.6727913445075673,3,False,0.4666666666666667,0.1,0.86,0.42,18.2,30.490018148820326,1991.0,1606.0
92
+ scsemi5,HS100,DB6,1500,1838,150,0.6573333333333333,0.6784548422198041,0.05733333333333333,0.05005440696409141,0.16933333333333334,0.13547334058759522,0.06466666666666666,0.11588683351468988,0.04933333333333333,0.011969532100108813,0.002,0.008161044613710556,0.15700544069640915,0.13438529639334612,0.6511761956384448,21,False,0.5666666666666667,0.04,0.7933333333333333,0.26666666666666666,16.933333333333334,13.547334058759523,1993.0,2221.0
93
+ scsemi5,HS101,DB4,1500,6549,150,0.7113333333333334,0.6659031913269201,0.028666666666666667,0.051152847763017255,0.126,0.192090395480226,0.07266666666666667,0.05939838143227974,0.05466666666666667,0.026721636891128418,0.006666666666666667,0.004733547106428463,0.17715315315315325,0.11489993568263601,0.6817964418801462,62,False,0.6333333333333333,0.03333333333333333,0.7666666666666667,0.26666666666666666,12.6,19.2090395480226,1991.0,1960.0
94
+ scsemi5,HS102,DB7,1500,1983,150,0.7333333333333333,0.6283408976298538,0.05,0.10791729702471003,0.14933333333333335,0.17397881996974282,0.020666666666666667,0.06454866364094806,0.04066666666666666,0.017650025214321734,0.006,0.007564296520423601,0.256018154311649,0.08628639145310625,0.6262470515757698,68,False,0.6666666666666666,0.013333333333333334,0.7466666666666667,0.22666666666666666,14.933333333333335,17.39788199697428,1992.0,2275.0
95
+ scsemi5,HS103,DB6,1500,2442,150,0.6653333333333333,0.5941850941850941,0.10266666666666667,0.0819000819000819,0.09733333333333333,0.1601146601146601,0.1,0.14004914004914004,0.032,0.01760851760851761,0.0026666666666666666,0.006142506142506142,0.21261261261261266,0.1129477689229138,0.664600424082963,32,False,0.6533333333333333,0.04,0.8066666666666666,0.21333333333333335,9.733333333333333,16.01146601146601,1991.0,2156.5
96
+ scsemi5,HS104,DB4,1500,4870,150,0.6753333333333333,0.657700205338809,0.06,0.07268993839835729,0.15333333333333332,0.19815195071868583,0.042,0.05626283367556468,0.06866666666666667,0.012320328542094456,0.0006666666666666666,0.002874743326488706,0.14795893223819304,0.10287302418674409,0.6305763049096267,78,False,0.47333333333333333,0.013333333333333334,0.8333333333333334,0.16,15.333333333333332,19.815195071868583,1992.0,2025.5
97
+ scsemi5,HS105,DB4,1500,4489,150,0.65,0.6277567386945868,0.10133333333333333,0.08977500556916908,0.11133333333333334,0.13967476052572955,0.09733333333333333,0.12007128536422365,0.035333333333333335,0.01826687458231232,0.004666666666666667,0.0044553352639786145,0.10215875844657307,0.0874420005358878,0.6690556619745381,73,False,0.6266666666666667,0.006666666666666667,0.82,0.26,11.133333333333335,13.967476052572955,1992.0,2019.0
98
+ scsemi5,HS106,DB2,1500,3949,150,0.6933333333333334,0.40845783742719677,0.04666666666666667,0.03950367181564953,0.17933333333333334,0.2985565966067359,0.059333333333333335,0.21144593567991896,0.018666666666666668,0.03545201316789061,0.0026666666666666666,0.006583945302608255,0.5840769815143074,0.5381357937848111,0.7073226954278345,3,False,0.6,0.09333333333333334,0.8,0.42,17.933333333333334,29.855659660673588,1991.0,1685.0
99
+ scsemi5,HS107,DB1,1500,4445,150,0.7066666666666667,0.7313835770528684,0.092,0.031496062992125984,0.07266666666666667,0.14195725534308212,0.06066666666666667,0.0686164229471316,0.06333333333333334,0.02002249718785152,0.004666666666666667,0.006524184476940383,0.20762954630671163,0.18823702155508065,0.617013183422425,9,False,0.5533333333333333,0.03333333333333333,1.0,0.3333333333333333,7.2666666666666675,14.195725534308213,1989.0,1849.0
100
+ scsemi5,HS108,DB7,1500,1868,150,0.666,0.5931477516059958,0.09866666666666667,0.08832976445396146,0.09933333333333333,0.08618843683083512,0.102,0.20235546038543897,0.03133333333333333,0.023554603854389723,0.0026666666666666666,0.006423982869379015,0.20822555317630267,0.2536542767500426,0.6499649443410799,80,False,0.4866666666666667,0.0,0.7866666666666666,0.22666666666666666,9.933333333333334,8.618843683083512,1993.0,2026.0
101
+ scsemi5,HS109,DB5,1500,4265,150,0.65,0.6801875732708089,0.05533333333333333,0.04126611957796014,0.136,0.17327080890973037,0.058666666666666666,0.06424384525205158,0.09466666666666666,0.03610785463071512,0.005333333333333333,0.00492379835873388,0.14607112153184834,0.12469802157419946,0.6040277018566526,88,False,0.4533333333333333,0.006666666666666667,0.96,0.24,13.600000000000001,17.327080890973036,1991.0,2074.0
102
+ scsemi5,HS110,DB1,1500,4176,150,0.6613333333333333,0.5744731800766284,0.10266666666666667,0.1285919540229885,0.086,0.15158045977011494,0.1,0.10871647509578544,0.04466666666666667,0.03089080459770115,0.005333333333333333,0.005747126436781609,0.20127203065134094,0.15929427588249656,0.6386712876960928,40,False,0.58,0.07333333333333333,0.8933333333333333,0.4,8.6,15.158045977011495,1989.0,1704.5
103
+ scsemi5,HS111,DB1,1500,4787,150,0.688,0.6772508878211824,0.1,0.09024441194902862,0.07733333333333334,0.12784625026112387,0.076,0.077501566743263,0.056666666666666664,0.02360559849592647,0.002,0.003551284729475663,0.10713153680105836,0.10866705396882699,0.6421265539253356,20,False,0.5866666666666667,0.03333333333333333,0.8866666666666667,0.3466666666666667,7.733333333333333,12.784625026112387,1990.0,1865.0
paper-releases/pbisc-diffusion/updates/20260930T065633Z-summary-deck-scsemi-final/diffusion/dataset/server_1/model8/plans/paired_finetune_intradataset_20260927/scores/immicro/fewshot_n5/draw1_scsemi5/summary.json ADDED
@@ -0,0 +1,290 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "schema": "paired_ft_scores.v1",
3
+ "dataset": "immicro",
4
+ "written_utc": "2026-09-29T03:40:20.990505+00:00",
5
+ "command": [
6
+ "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/tools/score_ft.py",
7
+ "--dataset",
8
+ "immicro",
9
+ "--out",
10
+ "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/scores/immicro/fewshot_n5/draw1_scsemi5",
11
+ "--threads",
12
+ "6",
13
+ "--donors",
14
+ "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/data/immicro/fewshot_n5/draw1/test_samples.txt",
15
+ "--arm",
16
+ "scsemi5=/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/generated/immicro/fewshot_n5/draw1/scsemi5__raw.npz"
17
+ ],
18
+ "arms": [
19
+ "scsemi5"
20
+ ],
21
+ "donors": [
22
+ "HS1",
23
+ "HS2",
24
+ "HS3",
25
+ "HS4",
26
+ "HS6",
27
+ "HS7",
28
+ "HS8",
29
+ "HS9",
30
+ "HS10",
31
+ "HS11",
32
+ "HS12",
33
+ "HS14",
34
+ "HS15",
35
+ "HS17",
36
+ "HS18",
37
+ "HS19",
38
+ "HS20",
39
+ "HS21",
40
+ "HS23",
41
+ "HS24",
42
+ "HS25",
43
+ "HS26",
44
+ "HS27",
45
+ "HS28",
46
+ "HS29",
47
+ "HS30",
48
+ "HS31",
49
+ "HS32",
50
+ "HS34",
51
+ "HS35",
52
+ "HS36",
53
+ "HS37",
54
+ "HS38",
55
+ "HS39",
56
+ "HS40",
57
+ "HS41",
58
+ "HS42",
59
+ "HS43",
60
+ "HS44",
61
+ "HS45",
62
+ "HS46",
63
+ "HS47",
64
+ "HS48",
65
+ "HS49",
66
+ "HS50",
67
+ "HS51",
68
+ "HS52",
69
+ "HS53",
70
+ "HS54",
71
+ "HS55",
72
+ "HS56",
73
+ "HS57",
74
+ "HS59",
75
+ "HS60",
76
+ "HS61",
77
+ "HS62",
78
+ "HS63",
79
+ "HS64",
80
+ "HS65",
81
+ "HS66",
82
+ "HS67",
83
+ "HS68",
84
+ "HS69",
85
+ "HS71",
86
+ "HS72",
87
+ "HS73",
88
+ "HS74",
89
+ "HS75",
90
+ "HS76",
91
+ "HS78",
92
+ "HS79",
93
+ "HS80",
94
+ "HS81",
95
+ "HS82",
96
+ "HS83",
97
+ "HS84",
98
+ "HS85",
99
+ "HS86",
100
+ "HS87",
101
+ "HS88",
102
+ "HS89",
103
+ "HS90",
104
+ "HS91",
105
+ "HS92",
106
+ "HS93",
107
+ "HS94",
108
+ "HS95",
109
+ "HS96",
110
+ "HS97",
111
+ "HS98",
112
+ "HS100",
113
+ "HS101",
114
+ "HS102",
115
+ "HS103",
116
+ "HS104",
117
+ "HS105",
118
+ "HS106",
119
+ "HS107",
120
+ "HS108",
121
+ "HS109",
122
+ "HS110",
123
+ "HS111"
124
+ ],
125
+ "n_donors": 102,
126
+ "reference": {
127
+ "cache": "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/scoring_cache/immicro",
128
+ "reference_sha256": "c5e2547be3ec3b12cb0c0b404a49e14a046ae59d40be70427f98f083a76bce17",
129
+ "features_sha256": "735255066ce7ebbac13a1fdfd058e26f31edd60314cc02fd589b0a292dbbc838",
130
+ "n_r1_cells": 15300,
131
+ "pca": {
132
+ "n_components": 50,
133
+ "explained_variance_ratio_sum": 0.2869716286659241,
134
+ "n_fit_cells": 15300
135
+ },
136
+ "r2_control": {
137
+ "precision": 0.9650980392156863,
138
+ "coverage": 0.9998039215686274,
139
+ "density": 1.404764705882353,
140
+ "n_query": 15300,
141
+ "depth_matched": {
142
+ "precision": 0.9636601307189543,
143
+ "coverage": 0.9999346405228758,
144
+ "density": 1.3821764705882353
145
+ }
146
+ },
147
+ "observed_l1_loo_null_mean": 0.16253385633329548
148
+ },
149
+ "contrast_definition": {
150
+ "enabled": false,
151
+ "reason": "dataset immicro has no group contrast (use --groups-csv / --case-groups)"
152
+ },
153
+ "deg_definition": {
154
+ "enabled": false,
155
+ "reason": "contrast off"
156
+ },
157
+ "headline": {
158
+ "scsemi5": {
159
+ "comp_l1": 0.20930672962352972,
160
+ "comp_l1_obs_loo_null": 0.16253385633329548,
161
+ "precision": 0.5241176470588236,
162
+ "coverage": 0.039281045751633985,
163
+ "precision_dm": 0.8341830065359477,
164
+ "coverage_dm": 0.3137908496732026,
165
+ "pb_r_median": 0.6525702190317175,
166
+ "pb_top1": 0.029411764705882353,
167
+ "mono_pct_gen": 11.854248366013072,
168
+ "mono_pct_obs": 16.58255234855919,
169
+ "median_umi_gen": 1991.0,
170
+ "median_umi_obs": 1959.0,
171
+ "seconds": 21.4
172
+ }
173
+ },
174
+ "per_arm": {
175
+ "scsemi5": {
176
+ "arm": "scsemi5",
177
+ "npz": "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/generated/immicro/fewshot_n5/draw1/scsemi5__raw.npz",
178
+ "npz_sha256": "1e4d182adee071ad685f95339b03b1ce3910062973a015df4620d6f4415c9120",
179
+ "receipt_verified": true,
180
+ "generation": {
181
+ "checkpoint": null,
182
+ "checkpoint_sha256": null,
183
+ "input_condition_path": "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/data/immicro/fewshot_n5/draw1/test_raw.npz",
184
+ "input_condition_sha256": "01e7e8584abb7828ddc920db70138da255c985ff855e1ab7a1eea1ae119d52fc",
185
+ "seed": 20260927,
186
+ "steps": null,
187
+ "support_readout": "upstream (values <= 10 normalized units zeroed by fast_semi)",
188
+ "weights": null
189
+ },
190
+ "condition_for_broadcast": null,
191
+ "poisson": {
192
+ "seed": 20260916,
193
+ "rule": "whole NPZ, rows in NPZ order",
194
+ "nnz_whole_npz": 19427567,
195
+ "median_library_whole_npz_panel": 1991.0,
196
+ "n_rows_whole_npz": 153000
197
+ },
198
+ "annotation": {
199
+ "model_pt_sha256": "bf3655899e5abee435340fc008656c4a17342da0f30b70cfd43de8e9223e1930",
200
+ "zero_padded_model_genes": 1,
201
+ "label_counts": {
202
+ "T cell": 103349,
203
+ "Monocyte": 18137,
204
+ "B cell": 11855,
205
+ "NK cell": 10728,
206
+ "DC": 8091,
207
+ "Other": 840
208
+ },
209
+ "mean_l2_max_prob": 0.9191059045429323,
210
+ "predict_seconds": 5.1
211
+ },
212
+ "n_donors": 102,
213
+ "n_generated_cells": 153000,
214
+ "composition": {
215
+ "l1_mean": 0.20930672962352972,
216
+ "l1_median": 0.187140559637601,
217
+ "l1_obs_loo_null_mean": 0.16253385633329548,
218
+ "l1_generated_loo_mean_vs_observed_mean": 0.20336849703891494,
219
+ "composition_top1": 0.00980392156862745,
220
+ "mean_fraction_generated": {
221
+ "T cell": 0.675484,
222
+ "B cell": 0.077484,
223
+ "Monocyte": 0.118542,
224
+ "NK cell": 0.070118,
225
+ "DC": 0.052882,
226
+ "Other": 0.00549
227
+ },
228
+ "mean_fraction_observed": {
229
+ "T cell": 0.639094,
230
+ "B cell": 0.075297,
231
+ "Monocyte": 0.165826,
232
+ "NK cell": 0.091257,
233
+ "DC": 0.022909,
234
+ "Other": 0.005618
235
+ }
236
+ },
237
+ "pseudobulk": {
238
+ "n_genes": 5508,
239
+ "r_median": 0.6525702190317175,
240
+ "r_mean": 0.657255477428018,
241
+ "top1": 0.029411764705882353,
242
+ "n_top1": 3,
243
+ "own_rank_median": 36.0,
244
+ "chance_top1": 0.00980392156862745
245
+ },
246
+ "precision_coverage": {
247
+ "precision": 0.5241176470588236,
248
+ "coverage": 0.039281045751633985,
249
+ "density": 0.10958823529411765,
250
+ "n_query": 15300,
251
+ "n_reference": 15300
252
+ },
253
+ "precision_coverage_depth_matched": {
254
+ "precision": 0.8341830065359477,
255
+ "coverage": 0.3137908496732026,
256
+ "density": 0.7537777777777778,
257
+ "detected_median_before": {
258
+ "R1": 361.0,
259
+ "Q": 122.0
260
+ },
261
+ "detected_median_after": {
262
+ "R1": 122.0,
263
+ "Q": 122.0
264
+ }
265
+ },
266
+ "monocyte_pct": {
267
+ "generated_mean_over_donors": 11.854248366013072,
268
+ "observed_mean_over_donors": 16.58255234855919,
269
+ "generated_pooled_cells": 11.854248366013072
270
+ },
271
+ "median_umi_per_cell_scoring_genes": {
272
+ "generated_pooled": 1991.0,
273
+ "observed_pooled": 1959.0,
274
+ "generated_mean_of_donor_medians": 1991.568603515625,
275
+ "observed_mean_of_donor_medians": 1999.5539215686274
276
+ },
277
+ "seconds": 21.4
278
+ }
279
+ },
280
+ "code_sha256": {
281
+ "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/tools/score_ft.py": "492e929e9bc7b716f6f9c8bbeedc98e7dec8cc759a20cdc6ec39b1e65194eb74",
282
+ "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/tools/ft_common.py": "4a6366b0f22208cd58714fc0261b8840c643b9d4569704d560cfd93534cbc747",
283
+ "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/utility_studies_final6k_20260925/umap/cell_immicro_5arm/tools/stage_b_embed.py": "d056cfdf38fb0e5f478756f370174e993b75d0c973c48e02e21749175a4ca2da",
284
+ "/home/sj_server_1/PBISC/immun-pbmc-fm/bulk2sc-paper/scripts/evaluate_generated_vs_truth.py": "48b12d794782b840838853e93e0fc55fab00532c4b3698f4588e926b985d2881",
285
+ "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/utility_studies_final6k_20260925/immicro/tools/immicro_common.py": "c5c30e917148cc5e664e91ea30c11bbdff9b6d1f53a3e0a13e16b1917eff37e9",
286
+ "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/aifi_scanvi_rebuild_20260916/predict_scanvi.py": "482ee5dcf4d72b54bc36cbb6dcff62e5030bc7afc46cb5fb01eca73a82ee45a5",
287
+ "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/aifi_scanvi_rebuild_20260916/poisson_readout.py": "8bfa080942fbcdc89ae23b276524a1a83266fb8cbc56b9af279e50f82e6cde38"
288
+ },
289
+ "seconds": 27.0
290
+ }
paper-releases/pbisc-diffusion/updates/20260930T065633Z-summary-deck-scsemi-final/diffusion/dataset/server_1/model8/plans/paired_finetune_intradataset_20260927/scores/immicro/fewshot_n5/draw2_scsemi5/README.md ADDED
@@ -0,0 +1,60 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # score_ft.py output: immicro, 102 scored donors
2
+
3
+ Arms: scsemi5. Every arm is scored on the same donors against the same observed reference.
4
+
5
+ ## Inputs and fixed contracts
6
+ - Observed reference: `/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/scoring_cache/immicro/reference.npz` (sha c5e2547be3ec), built from datadir:/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/data/immicro;
7
+ observed cells sum exactly to the features pseudobulk of every donor. Observed labels: /home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/utility_studies_final6k_20260925/immicro/labels/observed_immicro/labels.parquet.
8
+ - Generated cells: `generated_counts` read out once with Poisson(seed 20260916) over the **whole NPZ in row order**
9
+ (`poisson_readout.poisson_integerise`), then the scored donors' rows. These integer counts are used for labels, embedding,
10
+ depth and the contrast. Pseudobulk uses the summed `generated_counts` (rates), as `score_generated.py`.
11
+ - Labels: frozen f01common scANVI (`predict_scanvi.py`, CPU, zero query epochs), six-type gate ['T cell', 'B cell', 'Monocyte', 'NK cell', 'DC', 'Other']; query genes =
12
+ the 1,006-gene annotation list minus genes the dataset's sc assay did not measure in every sample (1004 genes).
13
+ - Scoring genes: 6k panel genes measured by both assays in every sample of the dataset (5508 genes).
14
+
15
+ ## Definitions
16
+ 1. **Composition**: fraction of each donor's cells per six-type label (all generated cells; all observed QC cells).
17
+ `comp_l1` = sum over the six labels of |generated - observed| (immicro_common.l1). `comp_l1_obs_loo_null` = L1 of the
18
+ donor's observed composition to the mean of the *other scored donors'* observed compositions. `composition_top1` =
19
+ fraction of donors whose generated composition is closest (L1) to their own observed composition.
20
+ 2. **Pseudobulk**: `pb_r` = Pearson r of CPM-log1p(summed generated_counts) vs CPM-log1p(observed pseudobulk) on the scoring
21
+ genes (evaluate_realbulk.cpm_log1p / paired_r). `pb_top1` = the donor's generated pseudobulk is closest (Pearson) to its own
22
+ observed pseudobulk among the 102 scored donors (immicro_common.retrieval = evaluate_realbulk.top1 arithmetic).
23
+ 3. **Precision / coverage / density** (stage_b_embed.py functions): per-cell CP10K over the scoring genes + log1p; PCA-50
24
+ (randomized, random_state 20260925) and k = 10 real-real k-NN balls fitted on **R1 of the scored donors only**.
25
+ Reference rule (independent of fold and arm): per donor, cells in canonical order (library_id+barcode), one
26
+ permutation from `default_rng([20260925, uint64(sha256(donor)[:8])])`; R1 = first n, R2 = next n,
27
+ n = min(150, n_cells // 2) (15300 R1 cells here). Generated query: per donor n cells (the donor's R1 size),
28
+ without replacement, `default_rng([20260926, same key])`. Precision = fraction of generated cells inside any R1 ball
29
+ (Kynkaanniemi 2019); coverage = fraction of R1 cells whose ball holds a generated cell; density = Naeem 2020.
30
+ Per-donor precision = that donor's generated cells; per-donor coverage = that donor's R1 cells (the pooled values are
31
+ their n-weighted means; plain means when every donor has 150 reference cells). R2 (held-out real cells of the same donors) is the
32
+ perfect-generator control: precision 0.9646, coverage 0.9998.
33
+ **Depth matched**: stage_b_embed depth matching run pairwise (R1 vs this arm): per donor and within-donor rank of detected
34
+ genes, both cells are thinned by UMI sampling without replacement to the smaller detected-gene count; PCA kept from
35
+ un-thinned R1, radii recomputed on thinned R1; fresh rng(20260929) per arm. R2 control: precision
36
+ 0.9623, coverage 0.9995.
37
+ 4. **Monocyte %** = 100 x Monocyte fraction (all cells) per donor; **median UMI per cell** = median over cells of the
38
+ Poisson-read (generated) / observed counts summed over the scoring genes (per donor, and pooled).
39
+ 5. **Group contrast** (T, B, Monocyte, NK): not computed (dataset immicro has no group contrast (use --groups-csv / --case-groups)).
40
+ Genes per type = scoring genes detected (count > 0) in >= 1 % of the scored donors' observed
41
+ cells of that type. Primary statistic `mean_cp10k`: per-cell CP10K over the scoring genes; per donor the mean over its
42
+ cells of the type (donors with >= 1 such cell); group mean = mean over the group's donors (donor-balanced);
43
+ logFC = log2(case mean + 1) - log2(control mean + 1). Secondary `pseudobulk_log1p_cpm`: the SLE benchmark evaluator's
44
+ statistic (donor x type summed counts, log1p CPM over the scoring genes, mean case - mean control;
45
+ evaluate_generated_vs_truth.group_log_fold_change). Both are computed on the generated cells (their frozen labels) and on
46
+ the observed cells; `r_generated` = Pearson r of the two logFC vectors. Broadcast baseline `r_broadcast`: the same
47
+ observed vector against the logFC of the input bulk (condition NPZ `bulk_counts` of the arm, scoring genes, per-donor
48
+ CP10K resp. log1p CPM, group means). `partial_r_generated_given_broadcast`: r of the OLS residuals of observed and
49
+ generated logFC on the bulk logFC (residual_specificity.py).
50
+ 6. **Top-50 DEG overlap** (contrast.csv rows `statistic = welch_top50_deg`; summary `deg_top50`): not computed (contrast off).
51
+
52
+ ## Files
53
+ - `per_donor.csv`: one row per arm x donor (all per-donor quantities above).
54
+ - `summary.json`: per arm the donor means / pooled values, provenance (NPZ sha, receipt check, generation metadata,
55
+ Poisson nnz of the whole NPZ, annotation contract), and the reference block (PCA, R2 control).
56
+ - `contrast.csv`: per arm x cell type x statistic (`mean_cp10k`, `pseudobulk_log1p_cpm`: logFC r; `welch_top50_deg`:
57
+ top-50 DEG overlap, T / B / Monocyte / NK / DC; columns of the other kind are empty).
58
+ - `arms/<arm>/labels/` (predict_scanvi.py labels + manifest), `arms/<arm>/generated_cells.parquet` (NPZ row, donor, label,
59
+ UMI on the scoring genes, P/C subsample flag), `arms/<arm>/deg_top50_lists.csv` (observed, generated and broadcast
60
+ top-50 gene lists, Ensembl ids, rank order).