Archive 4 checkpoints (1-4)

paper-releases/pbisc-diffusion/updates/20261003T103040Z-crosscohort-k1000-saturation/diffusion/dataset/server_1/model8/plans/paired_crosscohort_20261002/scores/immicro/xcalL_K1000/README.md

@@ -0,0 +1,60 @@
+# score_ft.py output: immicro, 107 scored donors
+
+Arms: xcalL_K1000.  Every arm is scored on the same donors against the same observed reference.
+
+## Inputs and fixed contracts
+- Observed reference: `/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/scoring_cache/immicro/reference.npz` (sha c5e2547be3ec), built from datadir:/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/data/immicro;
+  observed cells sum exactly to the features pseudobulk of every donor. Observed labels: /home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/utility_studies_final6k_20260925/immicro/labels/observed_immicro/labels.parquet.
+- Generated cells: `generated_counts` read out once with Poisson(seed 20260916) over the **whole NPZ in row order**
+  (`poisson_readout.poisson_integerise`), then the scored donors' rows. These integer counts are used for labels, embedding,
+  depth and the contrast. Pseudobulk uses the summed `generated_counts` (rates), as `score_generated.py`.
+- Labels: frozen f01common scANVI (`predict_scanvi.py`, CPU, zero query epochs), six-type gate ['T cell', 'B cell', 'Monocyte', 'NK cell', 'DC', 'Other']; query genes =
+  the 1,006-gene annotation list minus genes the dataset's sc assay did not measure in every sample (1004 genes).
+- Scoring genes: 6k panel genes measured by both assays in every sample of the dataset (5508 genes).
+
+## Definitions
+1. **Composition**: fraction of each donor's cells per six-type label (all generated cells; all observed QC cells).
+   `comp_l1` = sum over the six labels of |generated - observed| (immicro_common.l1). `comp_l1_obs_loo_null` = L1 of the
+   donor's observed composition to the mean of the *other scored donors'* observed compositions. `composition_top1` =
+   fraction of donors whose generated composition is closest (L1) to their own observed composition.
+2. **Pseudobulk**: `pb_r` = Pearson r of CPM-log1p(summed generated_counts) vs CPM-log1p(observed pseudobulk) on the scoring
+   genes (evaluate_realbulk.cpm_log1p / paired_r). `pb_top1` = the donor's generated pseudobulk is closest (Pearson) to its own
+   observed pseudobulk among the 107 scored donors (immicro_common.retrieval = evaluate_realbulk.top1 arithmetic).
+3. **Precision / coverage / density** (stage_b_embed.py functions): per-cell CP10K over the scoring genes + log1p; PCA-50
+   (randomized, random_state 20260925) and k = 10 real-real k-NN balls fitted on **R1 of the scored donors only**.
+   Reference rule (independent of fold and arm): per donor, cells in canonical order (library_id+barcode), one
+   permutation from `default_rng([20260925, uint64(sha256(donor)[:8])])`; R1 = first n, R2 = next n,
+   n = min(150, n_cells // 2) (16050 R1 cells here). Generated query: per donor n cells (the donor's R1 size),
+   without replacement, `default_rng([20260926, same key])`. Precision = fraction of generated cells inside any R1 ball
+   (Kynkaanniemi 2019); coverage = fraction of R1 cells whose ball holds a generated cell; density = Naeem 2020.
+   Per-donor precision = that donor's generated cells; per-donor coverage = that donor's R1 cells (the pooled values are
+   their n-weighted means; plain means when every donor has 150 reference cells). R2 (held-out real cells of the same donors) is the
+   perfect-generator control: precision 0.9634, coverage 0.9999.
+   **Depth matched**: stage_b_embed depth matching run pairwise (R1 vs this arm): per donor and within-donor rank of detected
+   genes, both cells are thinned by UMI sampling without replacement to the smaller detected-gene count; PCA kept from
+   un-thinned R1, radii recomputed on thinned R1; fresh rng(20260929) per arm. R2 control: precision
+   0.9635, coverage 0.9997.
+4. **Monocyte %** = 100 x Monocyte fraction (all cells) per donor; **median UMI per cell** = median over cells of the
+   Poisson-read (generated) / observed counts summed over the scoring genes (per donor, and pooled).
+5. **Group contrast** (T, B, Monocyte, NK): not computed (dataset immicro has no group contrast (use --groups-csv / --case-groups)).
+   Genes per type = scoring genes detected (count > 0) in >= 1 % of the scored donors' observed
+   cells of that type. Primary statistic `mean_cp10k`: per-cell CP10K over the scoring genes; per donor the mean over its
+   cells of the type (donors with >= 1 such cell); group mean = mean over the group's donors (donor-balanced);
+   logFC = log2(case mean + 1) - log2(control mean + 1). Secondary `pseudobulk_log1p_cpm`: the SLE benchmark evaluator's
+   statistic (donor x type summed counts, log1p CPM over the scoring genes, mean case - mean control;
+   evaluate_generated_vs_truth.group_log_fold_change). Both are computed on the generated cells (their frozen labels) and on
+   the observed cells; `r_generated` = Pearson r of the two logFC vectors. Broadcast baseline `r_broadcast`: the same
+   observed vector against the logFC of the input bulk (condition NPZ `bulk_counts` of the arm, scoring genes, per-donor
+   CP10K resp. log1p CPM, group means). `partial_r_generated_given_broadcast`: r of the OLS residuals of observed and
+   generated logFC on the bulk logFC (residual_specificity.py).
+6. **Top-50 DEG overlap** (contrast.csv rows `statistic = welch_top50_deg`; summary `deg_top50`): not computed (contrast off).
+
+## Files
+- `per_donor.csv`: one row per arm x donor (all per-donor quantities above).
+- `summary.json`: per arm the donor means / pooled values, provenance (NPZ sha, receipt check, generation metadata,
+  Poisson nnz of the whole NPZ, annotation contract), and the reference block (PCA, R2 control).
+- `contrast.csv`: per arm x cell type x statistic (`mean_cp10k`, `pseudobulk_log1p_cpm`: logFC r; `welch_top50_deg`:
+  top-50 DEG overlap, T / B / Monocyte / NK / DC; columns of the other kind are empty).
+- `arms/<arm>/labels/` (predict_scanvi.py labels + manifest), `arms/<arm>/generated_cells.parquet` (NPZ row, donor, label,
+  UMI on the scoring genes, P/C subsample flag), `arms/<arm>/deg_top50_lists.csv` (observed, generated and broadcast
+  top-50 gene lists, Ensembl ids, rank order).

paper-releases/pbisc-diffusion/updates/20261003T103040Z-crosscohort-k1000-saturation/diffusion/dataset/server_1/model8/plans/paired_crosscohort_20261002/scores/immicro/xcalL_K1000/per_donor.csv

@@ -0,0 +1,108 @@
+arm,donor,group,n_generated_cells,n_observed_cells,n_reference_cells,gen_T cell,obs_T cell,gen_B cell,obs_B cell,gen_Monocyte,obs_Monocyte,gen_NK cell,obs_NK cell,gen_DC,obs_DC,gen_Other,obs_Other,comp_l1,comp_l1_obs_loo_null,pb_r,pb_own_rank,pb_top1,precision,coverage,precision_depth_matched,coverage_depth_matched,mono_pct_gen,mono_pct_obs,median_umi_gen,median_umi_obs
+xcalL_K1000,HS1,DB1,1500,4384,150,0.7073333333333334,0.6332116788321168,0.076,0.05862226277372263,0.07533333333333334,0.13822992700729927,0.10733333333333334,0.14393248175182483,0.012666666666666666,0.018476277372262775,0.021333333333333333,0.007527372262773723,0.21061070559610706,0.11035192845413876,0.8917413363119951,5,False,0.9333333333333333,0.8866666666666667,0.9466666666666667,0.8933333333333333,7.533333333333333,13.822992700729927,2081.5,1738.0
+xcalL_K1000,HS2,DB2,1500,5144,150,0.7566666666666667,0.661353032659409,0.05,0.05909797822706065,0.062,0.1386080870917574,0.11066666666666666,0.11372472783825817,0.004666666666666667,0.02041213063763608,0.016,0.006804043545878694,0.20901918092275792,0.0929372093835238,0.888124314574419,5,False,0.9066666666666666,0.6933333333333334,0.9533333333333334,0.6933333333333334,6.2,13.860808709175739,2001.0,1429.0
+xcalL_K1000,HS3,DB3,1500,4617,150,0.6086666666666667,0.6484730344379467,0.09,0.06952566601689408,0.19133333333333333,0.17782109594975093,0.06533333333333333,0.07060862031622266,0.018,0.028589993502274202,0.02666666666666667,0.004981589776911414,0.11134329651288709,0.053459165242510376,0.8905022481482272,17,False,0.8666666666666667,0.6466666666666666,0.94,0.8066666666666666,19.133333333333333,17.782109594975093,2074.5,2186.0
+xcalL_K1000,HS4,DB4,1500,4167,150,0.5373333333333333,0.54307655387569,0.074,0.04535637149028078,0.23733333333333334,0.2371010319174466,0.11466666666666667,0.14254859611231102,0.012666666666666666,0.02423806095512359,0.024,0.007679385649148068,0.0903930885529158,0.2531884543361221,0.8870274820105349,63,False,0.9133333333333333,0.36666666666666664,0.92,0.5933333333333334,23.733333333333334,23.71010319174466,1849.0,2111.0
+xcalL_K1000,HS6,DB3,1500,4222,150,0.35933333333333334,0.4836570345807674,0.014666666666666666,0.037423022264329704,0.3546666666666667,0.3147797252486973,0.20333333333333334,0.13003315963998105,0.020666666666666667,0.024869729985788725,0.04733333333333333,0.009237328280435813,0.3025662403284384,0.3891650002178858,0.8951123629673755,7,False,0.8533333333333334,0.66,0.9266666666666666,0.8266666666666667,35.46666666666667,31.47797252486973,1805.5,2457.5
+xcalL_K1000,HS7,DB1,1500,4271,150,0.6473333333333333,0.7035822992273473,0.068,0.03839850152189183,0.13466666666666666,0.13135097166939827,0.10933333333333334,0.09740107703114025,0.014666666666666666,0.02130648560056193,0.026,0.0079606649496605,0.12577756965581838,0.1475722919611167,0.8939318014572534,12,False,0.92,0.8666666666666667,0.9466666666666667,0.9333333333333333,13.466666666666665,13.135097166939827,2100.5,1748.0
+xcalL_K1000,HS8,DB1,1500,3652,150,0.5933333333333334,0.6251369112814896,0.074,0.06489594742606791,0.17466666666666666,0.15553121577217963,0.11266666666666666,0.11829134720700986,0.015333333333333332,0.028477546549835708,0.03,0.007667031763417305,0.10114494341000363,0.07029362012561938,0.897835092613068,6,False,0.9133333333333333,0.9,0.94,0.9466666666666667,17.466666666666665,15.553121577217963,2036.5,1817.0
+xcalL_K1000,HS9,DB3,1500,3942,150,0.646,0.6958396752917301,0.06666666666666667,0.028665651953323185,0.164,0.18670725520040587,0.07666666666666666,0.049974632166412986,0.018,0.03373921867072552,0.028666666666666667,0.0050735667174023336,0.17657229832572297,0.17742174456702342,0.8965130771111431,2,False,0.8333333333333334,0.6866666666666666,0.9266666666666666,0.7933333333333333,16.400000000000002,18.670725520040587,2224.5,2389.0
+xcalL_K1000,HS10,DB4,1500,4115,150,0.598,0.5244228432563791,0.204,0.18347509113001215,0.12866666666666668,0.13001215066828675,0.051333333333333335,0.13754556500607534,0.009333333333333334,0.021385176184690158,0.008666666666666666,0.0031591737545565005,0.19921911705143777,0.31297998407958516,0.8827365689718784,61,False,0.8866666666666667,0.36666666666666664,0.9533333333333334,0.6,12.866666666666667,13.001215066828674,2087.0,2063.0
+xcalL_K1000,HS11,DB6,1500,2886,150,0.5533333333333333,0.6056826056826057,0.08466666666666667,0.061330561330561334,0.228,0.24358974358974358,0.086,0.04054054054054054,0.02,0.04573804573804574,0.028,0.0031185031185031187,0.18735412335412333,0.2018289947837638,0.886374768734482,65,False,0.9,0.3,0.9466666666666667,0.5066666666666667,22.8,24.358974358974358,1934.5,2216.5
+xcalL_K1000,HS12,DB2,1500,5035,150,0.6866666666666666,0.6798411122144985,0.09,0.06971201588877855,0.124,0.1529294935451837,0.06666666666666667,0.064746772591857,0.006,0.025223435948361468,0.02666666666666667,0.007547169811320755,0.09630585898709035,0.09113833236975562,0.8888913715424525,19,False,0.9133333333333333,0.7333333333333333,0.92,0.7666666666666667,12.4,15.29294935451837,2114.0,1550.0
+xcalL_K1000,HS13,DB5,1500,4792,150,0.5293333333333333,0.6156093489148581,0.06266666666666666,0.056343906510851416,0.292,0.2166110183639399,0.076,0.08764607679465776,0.014666666666666666,0.02003338898163606,0.025333333333333333,0.0037562604340567614,0.20657762938230384,0.10109004194198506,0.8942538461017344,22,False,0.8466666666666667,0.38,0.9133333333333333,0.66,29.2,21.66110183639399,2227.5,2176.0
+xcalL_K1000,HS14,DB3,1500,4235,150,0.5586666666666666,0.6517119244391971,0.08266666666666667,0.06517119244391972,0.20866666666666667,0.20306965761511217,0.106,0.04250295159386069,0.020666666666666667,0.0332939787485242,0.023333333333333334,0.004250295159386069,0.21134513970877603,0.12046829259489143,0.899262803641507,10,False,0.9733333333333334,0.7266666666666667,0.9866666666666667,0.8866666666666667,20.866666666666667,20.30696576151122,2205.0,2164.0
+xcalL_K1000,HS15,DB4,1500,4592,150,0.3993333333333333,0.46972996515679444,0.048,0.04638501742160279,0.38466666666666666,0.37282229965156793,0.116,0.08776132404181185,0.020666666666666667,0.0195993031358885,0.03133333333333333,0.0037020905923344947,0.1407932636469222,0.41645998718304533,0.8952710554449929,9,False,0.8666666666666667,0.31333333333333335,0.8933333333333333,0.6,38.46666666666667,37.282229965156795,1805.0,2302.0
+xcalL_K1000,HS16,DB4,1500,4842,150,0.574,0.5846757538207352,0.12533333333333332,0.08736059479553904,0.20666666666666667,0.23048327137546468,0.06666666666666667,0.07166460140437836,0.011333333333333334,0.020859149111937217,0.016,0.004956629491945477,0.09803221809169767,0.1544623510971255,0.8855178725401012,79,False,0.86,0.24,0.9333333333333333,0.47333333333333333,20.666666666666668,23.04832713754647,2122.0,2066.0
+xcalL_K1000,HS17,DB6,1500,1753,150,0.68,0.7221905305191101,0.11333333333333333,0.07529948659440959,0.15066666666666667,0.14432401597261837,0.03,0.03194523673702225,0.008,0.02053622361665716,0.018,0.005704506560182544,0.11334398174557893,0.169076216751511,0.8822518113645742,72,False,0.8866666666666667,0.16666666666666666,0.8866666666666667,0.38,15.066666666666666,14.432401597261837,2440.5,2194.0
+xcalL_K1000,HS18,DB4,1500,3348,150,0.65,0.6633811230585425,0.092,0.05734767025089606,0.202,0.18309438470728792,0.03133333333333333,0.07198327359617682,0.008666666666666666,0.016129032258064516,0.016,0.008064516129032258,0.12298685782556754,0.0875204452756842,0.8850421027928359,32,False,0.8733333333333333,0.43333333333333335,0.9066666666666666,0.6466666666666666,20.200000000000003,18.309438470728793,2203.5,2108.0
+xcalL_K1000,HS19,DB5,1500,4133,150,0.6313333333333333,0.5971449310428261,0.10266666666666667,0.1454149528187757,0.16133333333333333,0.14686668279699977,0.066,0.09145898862811518,0.011333333333333334,0.014275344785869828,0.027333333333333334,0.004839099927413501,0.14229857246552133,0.14309888083913158,0.88818352336823,51,False,0.84,0.32,0.8933333333333333,0.5533333333333333,16.133333333333333,14.686668279699976,1965.0,1955.0
+xcalL_K1000,HS20,DB7,1500,1366,150,0.7166666666666667,0.7657393850658858,0.18,0.09882869692532943,0.05466666666666667,0.08345534407027819,0.029333333333333333,0.029282576866764276,0.006,0.015373352855051245,0.013333333333333334,0.007320644216691069,0.17446949731576378,0.3077607388488665,0.8767935742029316,41,False,0.92,0.38,0.9466666666666667,0.7933333333333333,5.466666666666667,8.345534407027818,2669.5,2271.0
+xcalL_K1000,HS21,DB1,1500,4748,150,0.5586666666666666,0.5945661331086773,0.09266666666666666,0.06887110362257792,0.18333333333333332,0.1941870261162595,0.11333333333333333,0.11141533277169334,0.014666666666666666,0.02401010951979781,0.037333333333333336,0.0069502948609941025,0.11219320415613597,0.10176465591941555,0.8978143117537212,9,False,0.8866666666666667,0.9733333333333334,0.9133333333333333,0.9666666666666667,18.333333333333332,19.41870261162595,2141.0,1849.5
+xcalL_K1000,HS23,DB6,1500,1680,150,0.38866666666666666,0.5630952380952381,0.05466666666666667,0.0994047619047619,0.38666666666666666,0.2386904761904762,0.12066666666666667,0.06904761904761905,0.015333333333333332,0.025,0.034,0.004761904761904762,0.4576666666666666,0.1997522907834552,0.8930968242777855,15,False,0.8266666666666667,0.2866666666666667,0.84,0.5866666666666667,38.666666666666664,23.86904761904762,1606.5,2296.0
+xcalL_K1000,HS24,DB6,1500,1670,150,0.5633333333333334,0.5365269461077844,0.059333333333333335,0.07005988023952096,0.232,0.17664670658682635,0.10333333333333333,0.19401197604790418,0.024666666666666667,0.017964071856287425,0.017333333333333333,0.004790419161676647,0.202810379241517,0.22797704867339308,0.8903138255547124,60,False,0.9066666666666666,0.38,0.9533333333333334,0.62,23.200000000000003,17.664670658682635,2116.5,2073.5
+xcalL_K1000,HS25,DB6,1500,1800,150,0.4673333333333333,0.4872222222222222,0.028,0.095,0.308,0.30333333333333334,0.142,0.08444444444444445,0.016,0.026111111111111113,0.03866666666666667,0.0038888888888888888,0.194,0.32360823567713587,0.8887137229266909,29,False,0.9,0.34,0.9333333333333333,0.5733333333333334,30.8,30.333333333333336,1663.5,2173.0
+xcalL_K1000,HS26,DB2,1500,3606,150,0.7293333333333333,0.651414309484193,0.06866666666666667,0.054076539101497505,0.09,0.16167498613422074,0.08133333333333333,0.09678313921242374,0.008666666666666666,0.02689961175818081,0.022,0.009151414309484194,0.21071547420965056,0.0516486013571299,0.8880834725407362,15,False,0.9466666666666667,0.7666666666666667,0.98,0.8333333333333334,9.0,16.167498613422072,1976.0,1454.5
+xcalL_K1000,HS27,DB2,1500,4030,150,0.7113333333333334,0.6540942928039702,0.15466666666666667,0.11464019851116625,0.06266666666666666,0.1196029776674938,0.04466666666666667,0.0890818858560794,0.007333333333333333,0.015632754342431762,0.019333333333333334,0.006947890818858561,0.2193019023986766,0.1135328366619135,0.8842204541317229,10,False,0.8933333333333333,0.82,0.9466666666666667,0.8,6.266666666666667,11.96029776674938,2460.0,1575.5
+xcalL_K1000,HS28,DB5,1500,4446,150,0.588,0.594017094017094,0.116,0.12010796221322537,0.172,0.1545209176788124,0.09533333333333334,0.11156095366621682,0.011333333333333334,0.015744489428699954,0.017333333333333333,0.004048582995951417,0.061527665317139005,0.1325906216746598,0.887647930979661,60,False,0.8666666666666667,0.36666666666666664,0.9133333333333333,0.6133333333333333,17.2,15.45209176788124,1946.5,1941.5
+xcalL_K1000,HS29,DB5,1500,4285,150,0.564,0.6550758459743291,0.050666666666666665,0.03663943990665111,0.234,0.19883313885647608,0.112,0.0823803967327888,0.02,0.022870478413068846,0.019333333333333334,0.004200700116686115,0.18789264877479595,0.09766296356076568,0.8941267826781916,46,False,0.8866666666666667,0.4066666666666667,0.9066666666666666,0.6466666666666666,23.400000000000002,19.883313885647606,2169.5,2230.0
+xcalL_K1000,HS30,DB3,1500,6447,150,0.456,0.5667752442996743,0.064,0.08127811385140375,0.3393333333333333,0.26477431363424847,0.084,0.049325267566309915,0.029333333333333333,0.03489995346672871,0.027333333333333334,0.002947107181634869,0.26723995656894683,0.2358035037214606,0.903985352058718,1,True,0.9,0.6933333333333334,0.8933333333333333,0.8466666666666667,33.93333333333333,26.47743136342485,2097.0,2410.0
+xcalL_K1000,HS31,DB3,1500,4830,150,0.6106666666666667,0.5956521739130435,0.074,0.07039337474120083,0.19133333333333333,0.21884057971014492,0.088,0.08385093167701864,0.009333333333333334,0.02546583850931677,0.02666666666666667,0.005797101449275362,0.08727950310559007,0.11132974374977682,0.8935106593003336,5,False,0.9133333333333333,0.7066666666666667,0.94,0.7866666666666666,19.133333333333333,21.884057971014492,1844.0,2217.5
+xcalL_K1000,HS32,DB6,1500,1818,150,0.614,0.7128712871287128,0.08066666666666666,0.07535753575357536,0.182,0.13036303630363036,0.094,0.06050605060506051,0.009333333333333334,0.019251925192519254,0.02,0.0016501650165016502,0.21757975797579754,0.1501730746119151,0.8854591064538836,79,False,0.9066666666666666,0.3333333333333333,0.9133333333333333,0.5133333333333333,18.2,13.036303630363037,1922.5,2078.5
+xcalL_K1000,HS34,DB5,1500,4363,150,0.6126666666666667,0.7073114829245931,0.084,0.04859041943616777,0.20333333333333334,0.16983726793490717,0.062,0.0550080220032088,0.012,0.013981205592482237,0.026,0.005271602108640843,0.19325204370081742,0.1444751101152869,0.8904881043959783,39,False,0.84,0.42,0.92,0.6866666666666666,20.333333333333332,16.983726793490717,2095.0,2176.0
+xcalL_K1000,HS35,DB7,1500,1658,150,0.614,0.6363088057901085,0.114,0.08443908323281062,0.13933333333333334,0.1513872135102533,0.10133333333333333,0.097708082026538,0.008666666666666666,0.024728588661037394,0.02266666666666667,0.005428226779252111,0.1008492159227985,0.03646989861547826,0.8853487289205767,50,False,0.9333333333333333,0.35333333333333333,0.9333333333333333,0.6,13.933333333333334,15.13872135102533,1909.0,2204.0
+xcalL_K1000,HS36,DB5,1500,4213,150,0.6393333333333333,0.5829575124614289,0.09333333333333334,0.10064087348682649,0.134,0.14573937811535723,0.09466666666666666,0.15286019463565156,0.013333333333333334,0.015428435793971042,0.025333333333333333,0.0023736055067647755,0.15867109739694593,0.17666685356154355,0.8909260257931364,38,False,0.8866666666666667,0.31333333333333335,0.9333333333333333,0.5866666666666667,13.4,14.573937811535723,2125.0,2180.0
+xcalL_K1000,HS37,DB6,1500,2127,150,0.484,0.5763986835919135,0.09333333333333334,0.14997649271274094,0.254,0.18288669487541137,0.12066666666666667,0.06535025858015985,0.014666666666666666,0.021626704278326282,0.03333333333333333,0.0037611659614480487,0.3120037611659615,0.18478437735438788,0.890734726165151,44,False,0.8933333333333333,0.3333333333333333,0.94,0.62,25.4,18.28866948754114,1901.0,2099.0
+xcalL_K1000,HS38,DB2,1500,3952,150,0.49333333333333335,0.4534412955465587,0.032,0.06022267206477733,0.244,0.27631578947368424,0.186,0.16776315789473684,0.020666666666666667,0.03365384615384615,0.024,0.00860323886639676,0.1470512820512821,0.4041371048973656,0.8984615443513966,2,False,0.8533333333333334,0.6666666666666666,0.8866666666666667,0.74,24.4,27.631578947368425,1862.5,1448.0
+xcalL_K1000,HS39,DB6,1500,2056,150,0.4686666666666667,0.6731517509727627,0.08,0.04571984435797665,0.3526666666666667,0.17607003891050585,0.05,0.08025291828793775,0.015333333333333332,0.02091439688715953,0.03333333333333333,0.0038910505836575876,0.4806381322957199,0.08809426437081906,0.887091623228307,53,False,0.9,0.2733333333333333,0.9333333333333333,0.48,35.266666666666666,17.607003891050585,1935.5,2023.0
+xcalL_K1000,HS40,DB2,1500,3867,150,0.67,0.6938194983191104,0.029333333333333333,0.045771916214119475,0.12533333333333332,0.15490043961727437,0.15266666666666667,0.07525213343677269,0.007333333333333333,0.026377036462373934,0.015333333333333332,0.003878975950349108,0.17773778122575637,0.11776170689172173,0.8892258847652934,13,False,0.94,0.62,0.96,0.6733333333333333,12.533333333333333,15.490043961727437,1945.5,1477.0
+xcalL_K1000,HS41,DB7,1500,1392,150,0.596,0.6458333333333334,0.19533333333333333,0.15589080459770116,0.13933333333333334,0.14152298850574713,0.04133333333333333,0.035201149425287355,0.009333333333333334,0.014367816091954023,0.018666666666666668,0.007183908045977011,0.11411494252873569,0.18061106366573926,0.8814310946746834,88,False,0.9266666666666666,0.47333333333333333,0.9066666666666666,0.7333333333333333,13.933333333333334,14.152298850574713,2090.0,2276.0
+xcalL_K1000,HS42,DB1,1500,4312,150,0.5573333333333333,0.700139146567718,0.09333333333333334,0.034786641929499075,0.22466666666666665,0.18320964749536178,0.06133333333333333,0.04336734693877551,0.022,0.029684601113172542,0.04133333333333333,0.008812615955473098,0.3009808286951144,0.17733574040448996,0.8968332734269593,5,False,0.8933333333333333,0.9066666666666666,0.9266666666666666,0.94,22.466666666666665,18.320964749536177,2194.5,1957.5
+xcalL_K1000,HS43,DB5,1500,4357,150,0.6613333333333333,0.6584806059215056,0.09666666666666666,0.071149873766353,0.13933333333333334,0.13839798026164793,0.074,0.11223318797337617,0.012666666666666666,0.017443194858847832,0.016,0.0022951572182694515,0.0860194323311147,0.08170110306985698,0.8848365278612401,68,False,0.9266666666666666,0.43333333333333335,0.96,0.7666666666666667,13.933333333333334,13.839798026164793,2307.5,2180.0
+xcalL_K1000,HS44,DB5,1500,3849,150,0.678,0.719147830605352,0.068,0.06832943621719927,0.13666666666666666,0.15146791374382956,0.092,0.03715250714471291,0.010666666666666666,0.019225772928033256,0.014666666666666666,0.004676539360872954,0.12967524032216154,0.16171111530061713,0.8836709982176536,55,False,0.9133333333333333,0.5466666666666666,0.9533333333333334,0.8066666666666666,13.666666666666666,15.146791374382957,1903.5,1852.0
+xcalL_K1000,HS45,DB7,1500,1980,150,0.5933333333333334,0.6646464646464646,0.11733333333333333,0.08333333333333333,0.19666666666666666,0.1191919191919192,0.05466666666666667,0.10606060606060606,0.016,0.022727272727272728,0.022,0.00404040404040404,0.25886868686868675,0.09892308336113056,0.8871998060017071,74,False,0.9133333333333333,0.20666666666666667,0.9533333333333334,0.4533333333333333,19.666666666666664,11.91919191919192,2325.5,2373.5
+xcalL_K1000,HS46,DB1,1500,4117,150,0.656,0.6315278115132378,0.06733333333333333,0.060480932717998544,0.128,0.13990769978139422,0.11866666666666667,0.13577847947534613,0.012666666666666666,0.028175856205975226,0.017333333333333333,0.004129220306048093,0.08905740425876452,0.10082066424856224,0.9008419254643165,2,False,0.9066666666666666,0.9533333333333334,0.9333333333333333,0.9666666666666667,12.8,13.990769978139422,2351.0,1777.0
+xcalL_K1000,HS47,DB3,1500,4401,150,0.7146666666666667,0.609634174051352,0.132,0.13542376732560782,0.048666666666666664,0.09702340377187003,0.07533333333333334,0.12315382867530107,0.01,0.029993183367416496,0.019333333333333334,0.004771642808452625,0.2391883662803908,0.20140136508584636,0.886635093722768,4,False,0.8866666666666667,0.7133333333333334,0.8933333333333333,0.8333333333333334,4.866666666666666,9.702340377187003,2412.0,2179.0
+xcalL_K1000,HS48,DB5,1500,3855,150,0.75,0.7058365758754864,0.13266666666666665,0.09909208819714656,0.052,0.0840466926070039,0.043333333333333335,0.0874189364461738,0.0033333333333333335,0.019974059662775615,0.018666666666666668,0.0036316472114137485,0.18554604409857323,0.1838878483358187,0.881456473923725,29,False,0.8933333333333333,0.6466666666666666,0.9333333333333333,0.84,5.2,8.40466926070039,2379.5,1918.0
+xcalL_K1000,HS49,DB3,1500,3893,150,0.7193333333333334,0.6773696378114564,0.074,0.027228358592345236,0.122,0.1857179553043925,0.05733333333333333,0.07346519393783714,0.007333333333333333,0.03056768558951965,0.02,0.005651168764449011,0.20616833633016535,0.13183133829460064,0.8892793272352792,6,False,0.94,0.7066666666666667,0.9733333333333334,0.8533333333333334,12.2,18.57179553043925,2304.5,2103.0
+xcalL_K1000,HS50,DB5,1500,4299,150,0.7366666666666667,0.6882996045591998,0.13866666666666666,0.08211211909746452,0.07,0.11979530123284485,0.042,0.09211444521981857,0.006,0.013258897418004187,0.006666666666666667,0.004419632472668062,0.21433728774133523,0.11605472180378049,0.875637576384036,56,False,0.9466666666666667,0.3933333333333333,0.9666666666666667,0.7266666666666667,7.000000000000001,11.979530123284485,2337.5,2077.0
+xcalL_K1000,HS51,DB3,1500,3803,150,0.6673333333333333,0.7068104128319748,0.164,0.09019195372074677,0.08266666666666667,0.10544307125953195,0.048666666666666664,0.06731527741256903,0.01,0.02576912963449908,0.027333333333333334,0.004470155140678412,0.19334244894381633,0.17384356614229543,0.8906165945844331,3,False,0.9333333333333333,0.6733333333333333,0.9733333333333334,0.78,8.266666666666666,10.544307125953194,2621.5,2114.0
+xcalL_K1000,HS52,DB1,1500,4286,150,0.714,0.7473168455436304,0.076,0.04316378908072795,0.08533333333333333,0.12085860942603827,0.10133333333333333,0.06276248250116659,0.008666666666666666,0.017498833411105925,0.014666666666666666,0.008399440037330844,0.15534857676154928,0.22422736494415424,0.8967812946809205,6,False,0.9266666666666666,0.9333333333333333,0.9733333333333334,0.9466666666666667,8.533333333333333,12.085860942603826,2279.5,1848.5
+xcalL_K1000,HS53,DB7,1500,1544,150,0.682,0.7506476683937824,0.11266666666666666,0.10233160621761658,0.12,0.08290155440414508,0.05533333333333333,0.040803108808290155,0.012,0.01878238341968912,0.018,0.0045336787564766836,0.15086010362694294,0.2808956847065351,0.8813667284751947,73,False,0.9133333333333333,0.4666666666666667,0.94,0.78,12.0,8.290155440414509,2508.0,2239.5
+xcalL_K1000,HS54,DB3,1500,5391,150,0.798,0.7853830458171026,0.10933333333333334,0.06362455945093674,0.038,0.0849564088295307,0.038,0.037655351511778894,0.005333333333333333,0.02485624188462252,0.011333333333333334,0.003524392506028566,0.1329586347616398,0.29954613259862284,0.8844016994485844,2,False,0.9266666666666666,0.78,0.9266666666666666,0.86,3.8,8.49564088295307,2993.5,2188.0
+xcalL_K1000,HS55,DB1,1500,4574,150,0.6333333333333333,0.6228683865325755,0.07133333333333333,0.04241364232619152,0.18466666666666667,0.22431132487975514,0.076,0.08439003060778312,0.018,0.019676432006996064,0.016666666666666666,0.006340183646698732,0.09942224165573521,0.11812530601946182,0.9018246032813853,3,False,0.92,0.9,0.9533333333333334,0.94,18.46666666666667,22.431132487975514,2725.5,1849.0
+xcalL_K1000,HS56,DB1,1500,4121,150,0.6986666666666667,0.6112594030575104,0.08866666666666667,0.04707595243872846,0.094,0.13977190002426595,0.09466666666666666,0.16743508857073525,0.007333333333333333,0.028391167192429023,0.016666666666666666,0.006066488716330988,0.2791963115748604,0.16610266972256024,0.8958101074022875,1,True,0.9333333333333333,0.9066666666666666,0.94,0.9333333333333333,9.4,13.977190002426596,2356.0,1751.0
+xcalL_K1000,HS57,DB2,1500,3932,150,0.6313333333333333,0.6584435401831129,0.04933333333333333,0.03128179043743642,0.19666666666666666,0.18972533062054933,0.08733333333333333,0.08214649033570702,0.012666666666666666,0.030010172939979655,0.02266666666666667,0.00839267548321465,0.08890742624618517,0.10612160391730195,0.8968924146464895,5,False,0.86,0.7733333333333333,0.92,0.7933333333333333,19.666666666666664,18.972533062054932,2142.5,1676.5
+xcalL_K1000,HS58,DB7,1500,1299,150,0.668,0.6605080831408776,0.008,0.029253271747498075,0.14333333333333334,0.15550423402617397,0.158,0.1170130869899923,0.008,0.03156274056966898,0.014666666666666666,0.006158583525789068,0.11397382602001542,0.11422143310126104,0.8862919207116766,28,False,0.92,0.4533333333333333,0.9666666666666667,0.6666666666666666,14.333333333333334,15.550423402617398,1931.5,1944.0
+xcalL_K1000,HS59,DB4,1500,4268,150,0.514,0.5796626054358013,0.05533333333333333,0.06115276476101218,0.25733333333333336,0.21860356138706655,0.118,0.11879100281162137,0.020666666666666667,0.016166822867853797,0.034666666666666665,0.005623242736644799,0.14454607935020305,0.16086314016172729,0.8861010664049686,84,False,0.8933333333333333,0.6,0.9533333333333334,0.8066666666666666,25.733333333333334,21.860356138706656,1987.5,2091.5
+xcalL_K1000,HS60,DB6,1500,2659,150,0.6426666666666667,0.6288078224896577,0.04066666666666666,0.04061677322301617,0.15866666666666668,0.16058668672433246,0.13733333333333334,0.14328694998119593,0.010666666666666666,0.020308386611508085,0.01,0.006393380970289583,0.03503071330073971,0.10675930642106161,0.8890509955906233,50,False,0.9133333333333333,0.43333333333333335,0.9333333333333333,0.6266666666666667,15.866666666666667,16.058668672433246,2090.5,2014.0
+xcalL_K1000,HS61,DB7,1500,1607,150,0.36133333333333334,0.4971997510889857,0.028,0.1001866832607343,0.31666666666666665,0.29869321717485997,0.23,0.07093963907902924,0.013333333333333334,0.02862476664592408,0.050666666666666665,0.0043559427504667085,0.44668906865795477,0.3297864210010398,0.8904640229079983,13,False,0.8666666666666667,0.36,0.8933333333333333,0.72,31.666666666666664,29.869321717485995,1728.0,2387.0
+xcalL_K1000,HS62,DB3,1500,4121,150,0.6893333333333334,0.6699830138315943,0.098,0.07789371511768989,0.13333333333333333,0.1400145595729192,0.048666666666666664,0.08881339480708565,0.011333333333333334,0.02062606163552536,0.019333333333333334,0.0026692550351856345,0.11224136536439373,0.06870752648302034,0.8936371665397335,2,False,0.94,0.7933333333333333,0.94,0.8466666666666667,13.333333333333334,14.00145595729192,2322.0,2159.0
+xcalL_K1000,HS63,DB5,1500,4391,150,0.7006666666666667,0.7214757458437714,0.1,0.05465725347301298,0.11933333333333333,0.15053518560692325,0.05533333333333333,0.0530630835800501,0.009333333333333334,0.016624914598041447,0.015333333333333332,0.0036438168982008655,0.11860502543080548,0.16641086870648242,0.885436768567777,39,False,0.9,0.52,0.9533333333333334,0.7866666666666666,11.933333333333334,15.053518560692325,2185.5,2196.0
+xcalL_K1000,HS64,DB2,1500,3894,150,0.6513333333333333,0.6592193117616847,0.09733333333333333,0.0968156137647663,0.13533333333333333,0.13071391884951206,0.08466666666666667,0.0901386748844376,0.018666666666666668,0.01848998459167951,0.012666666666666666,0.004622496147919877,0.02671597329224455,0.0851778478746588,0.8978523856883859,27,False,0.98,0.74,0.9866666666666667,0.84,13.533333333333333,13.071391884951206,2586.0,1596.0
+xcalL_K1000,HS65,DB2,1500,4394,150,0.5953333333333334,0.6096950386891216,0.12,0.10969503868912153,0.154,0.16909421939007738,0.092,0.07055075102412381,0.014666666666666666,0.03413746017296313,0.024,0.006827492034592627,0.09785343650432404,0.1009418487685411,0.893660014922407,29,False,0.9266666666666666,0.7733333333333333,0.9533333333333334,0.8533333333333334,15.4,16.90942193900774,2401.5,1449.5
+xcalL_K1000,HS66,DB4,1500,4857,150,0.6206666666666667,0.6448424953675108,0.114,0.10376775787523163,0.166,0.16512250360304714,0.07,0.07020794729256744,0.012666666666666666,0.012559192917438749,0.016666666666666666,0.0035001029442042414,0.04876755198682313,0.07018841515094539,0.8860373239331146,68,False,0.9533333333333334,0.47333333333333333,0.9666666666666667,0.6666666666666666,16.6,16.512250360304716,2239.0,2041.0
+xcalL_K1000,HS67,DB2,1500,3971,150,0.6226666666666667,0.6293125157391085,0.15266666666666667,0.1095441954167716,0.10066666666666667,0.13925963233442457,0.08866666666666667,0.09393099974817426,0.013333333333333334,0.018886930244270964,0.022,0.009065726517250064,0.11211348946528993,0.08266309657299821,0.8914263957355413,17,False,0.8866666666666667,0.84,0.9466666666666667,0.8733333333333333,10.066666666666666,13.925963233442456,2386.5,1563.0
+xcalL_K1000,HS68,DB6,1500,2659,150,0.606,0.6938698758931929,0.1,0.07070327190673185,0.20266666666666666,0.156825874388868,0.056666666666666664,0.05039488529522377,0.014666666666666666,0.02181271154569387,0.02,0.006393380970289583,0.19003184154444028,0.11227502394848955,0.8863563456099632,56,False,0.9266666666666666,0.34,0.92,0.5733333333333334,20.266666666666666,15.6825874388868,2371.0,2248.0
+xcalL_K1000,HS69,DB6,1500,1765,150,0.632,0.6957507082152975,0.05266666666666667,0.07932011331444759,0.16933333333333334,0.15637393767705382,0.12066666666666667,0.04645892351274788,0.006,0.020396600566572238,0.019333333333333334,0.0016997167138810198,0.2096015108593013,0.12360880773036576,0.8854178910969609,41,False,0.86,0.4,0.9,0.5466666666666666,16.933333333333334,15.637393767705381,1792.5,1982.0
+xcalL_K1000,HS70,DB4,1500,4513,150,0.672,0.6470197208065588,0.13333333333333333,0.10104143585198316,0.10533333333333333,0.11766009306448039,0.064,0.10857522712164858,0.010666666666666666,0.020385552847329937,0.014666666666666666,0.005317970307999114,0.13324174606691788,0.10416402359051107,0.8848770660680592,42,False,0.9266666666666666,0.38666666666666666,0.9666666666666667,0.6666666666666666,10.533333333333333,11.766009306448039,2438.5,2181.0
+xcalL_K1000,HS71,DB4,1500,4400,150,0.702,0.571590909090909,0.059333333333333335,0.08863636363636364,0.06866666666666667,0.10477272727272727,0.15066666666666667,0.21409090909090908,0.006,0.017045454545454544,0.013333333333333334,0.003863636363636364,0.27975757575757576,0.276048059084431,0.8839839302889947,31,False,0.9333333333333333,0.5466666666666666,0.9466666666666667,0.7866666666666666,6.866666666666667,10.477272727272727,1967.5,1825.0
+xcalL_K1000,HS72,DB4,1500,4520,150,0.7233333333333334,0.7331858407079646,0.13866666666666666,0.08517699115044247,0.09066666666666667,0.11438053097345133,0.02666666666666667,0.0418141592920354,0.006666666666666667,0.01836283185840708,0.014,0.007079646017699115,0.12082005899705003,0.21399189787711892,0.8763104476227606,58,False,0.88,0.43333333333333335,0.9133333333333333,0.7533333333333333,9.066666666666666,11.438053097345133,2461.5,1974.0
+xcalL_K1000,HS73,DB2,1500,4209,150,0.664,0.5915894511760513,0.014,0.07531480161558565,0.082,0.10667617011166548,0.214,0.20076027559990497,0.008,0.020669992872416252,0.018,0.004989308624376337,0.19732192919933478,0.2222407964474368,0.8924183757965607,1,True,0.92,0.7933333333333333,0.96,0.84,8.200000000000001,10.667617011166548,1941.5,1262.0
+xcalL_K1000,HS74,DB5,1500,4719,150,0.684,0.6753549480822209,0.12866666666666668,0.08645899554990465,0.08866666666666667,0.101716465352829,0.07533333333333334,0.11337147700784064,0.007333333333333333,0.018648018648018648,0.016,0.004450095359186269,0.12480525535070991,0.14161207913760504,0.8816261098802903,46,False,0.9266666666666666,0.44666666666666666,0.9533333333333334,0.7266666666666667,8.866666666666667,10.1716465352829,2290.5,1934.0
+xcalL_K1000,HS75,DB6,1500,2126,150,0.6653333333333333,0.6933207902163687,0.09066666666666667,0.07572906867356538,0.142,0.15851364063969897,0.06733333333333333,0.04280338664158043,0.006,0.023518344308560677,0.028666666666666667,0.0061147695202257765,0.12403888366259012,0.1139013876062158,0.8863052985190656,47,False,0.8666666666666667,0.36,0.8933333333333333,0.5533333333333333,14.2,15.851364063969896,2096.0,2141.5
+xcalL_K1000,HS76,DB1,1500,3892,150,0.542,0.5775950668036999,0.14466666666666667,0.10405960945529291,0.17933333333333334,0.1593011305241521,0.08466666666666667,0.10251798561151079,0.017333333333333333,0.04290853031860226,0.032,0.013617677286742035,0.15804316546762587,0.13867627154294643,0.8959773609358654,5,False,0.9133333333333333,0.9,0.9333333333333333,0.9333333333333333,17.933333333333334,15.93011305241521,2307.0,1764.0
+xcalL_K1000,HS77,DB2,1500,3662,150,0.5113333333333333,0.6826870562534134,0.024666666666666667,0.0488803932277444,0.24266666666666667,0.1851447296559257,0.16733333333333333,0.06499180775532495,0.020666666666666667,0.012015292190060076,0.03333333333333333,0.006280720917531403,0.3911348989623157,0.1270347032704926,0.8940546647968594,10,False,0.86,0.7333333333333333,0.86,0.8133333333333334,24.266666666666666,18.51447296559257,1779.0,1437.0
+xcalL_K1000,HS78,DB1,1500,4299,150,0.662,0.6366596882996045,0.12533333333333332,0.08792742498255408,0.09333333333333334,0.12281926029309141,0.08533333333333333,0.1139799953477553,0.012666666666666666,0.02814608048383345,0.021333333333333333,0.0104675505931612,0.14722400558269372,0.0930846793667521,0.8929269963179058,11,False,0.92,0.94,0.9333333333333333,0.9533333333333334,9.333333333333334,12.28192602930914,2331.0,1732.0
+xcalL_K1000,HS79,DB5,1500,4239,150,0.666,0.6161830620429346,0.088,0.09648502005189903,0.128,0.15876385940080207,0.08933333333333333,0.11181882519462137,0.006,0.014154281670205236,0.02266666666666667,0.0025949516395376267,0.13977730596838886,0.08541963001951579,0.8878073262920942,34,False,0.9133333333333333,0.3933333333333333,0.9066666666666666,0.7333333333333333,12.8,15.876385940080207,1853.5,2188.0
+xcalL_K1000,HS80,DB3,1500,4301,150,0.648,0.6842594745408045,0.172,0.10578935131364799,0.10133333333333333,0.14415252266914672,0.03933333333333333,0.04022320390606836,0.009333333333333334,0.02022785398744478,0.03,0.0053475935828877,0.18172611020692864,0.15384742023496367,0.8932945455909149,3,False,0.9266666666666666,0.8,0.9333333333333333,0.8866666666666667,10.133333333333333,14.415252266914672,2484.0,2305.0
+xcalL_K1000,HS81,DB7,1500,1638,150,0.672,0.721001221001221,0.098,0.04212454212454213,0.132,0.13553113553113552,0.06,0.06288156288156288,0.014,0.03296703296703297,0.024,0.005494505494505495,0.1487619047619047,0.185942347514068,0.8846931950995368,55,False,0.9,0.32666666666666666,0.9333333333333333,0.5666666666666667,13.200000000000001,13.553113553113553,2436.0,2240.5
+xcalL_K1000,HS82,DB2,1500,4201,150,0.6526666666666666,0.6553201618662223,0.16066666666666668,0.1309212092358962,0.12,0.14782194715543917,0.038,0.031183051654368008,0.008666666666666666,0.02499404903594382,0.02,0.009759581052130446,0.09360564944854405,0.15894642621843333,0.8890351563018686,12,False,0.9266666666666666,0.8133333333333334,0.9733333333333334,0.8466666666666667,12.0,14.782194715543916,2395.0,1587.0
+xcalL_K1000,HS83,DB6,1500,2410,150,0.58,0.7128630705394191,0.088,0.08049792531120332,0.23666666666666666,0.14481327800829877,0.054,0.045228215767634854,0.017333333333333333,0.012448132780082987,0.024,0.004149377593360996,0.2657261410788382,0.16053425400081622,0.8906211338131392,40,False,0.9133333333333333,0.25333333333333335,0.9533333333333334,0.5333333333333333,23.666666666666668,14.481327800829877,2126.0,2373.0
+xcalL_K1000,HS84,DB3,1500,3090,150,0.6073333333333333,0.6702265372168285,0.04466666666666667,0.04692556634304207,0.17933333333333334,0.17184466019417477,0.128,0.08608414239482201,0.017333333333333333,0.020711974110032363,0.023333333333333334,0.004207119741100324,0.1370614886731392,0.07365816258718899,0.8976468120853526,4,False,0.9333333333333333,0.8,0.92,0.8733333333333333,17.933333333333334,17.184466019417478,2125.5,2083.0
+xcalL_K1000,HS85,DB5,1500,4216,150,0.5733333333333334,0.5785104364326376,0.086,0.07756166982922201,0.23266666666666666,0.22936432637571158,0.08,0.0896584440227704,0.012666666666666666,0.021347248576850095,0.015333333333333332,0.003557874762808349,0.047032258064516066,0.1324206136184556,0.88822319505236,60,False,0.88,0.37333333333333335,0.9666666666666667,0.6533333333333333,23.266666666666666,22.93643263757116,2183.0,2171.5
+xcalL_K1000,HS86,DB7,1500,1111,150,0.6053333333333333,0.6561656165616562,0.03133333333333333,0.0711071107110711,0.16666666666666666,0.162016201620162,0.164,0.0711071107110711,0.014,0.034203420342034205,0.018666666666666668,0.0054005400540054005,0.2216189618961897,0.0575439281573075,0.8873926710335432,51,False,0.9066666666666666,0.56,0.96,0.7933333333333333,16.666666666666664,16.2016201620162,1952.5,1989.0
+xcalL_K1000,HS87,DB5,1500,4067,150,0.682,0.6801081878534546,0.088,0.08409146791246619,0.12266666666666666,0.12490779444307844,0.07466666666666667,0.10154905335628227,0.012,0.007376444553725104,0.020666666666666667,0.001967051880993361,0.058247028932054815,0.12256060494136646,0.8842777271628496,78,False,0.9066666666666666,0.47333333333333333,0.9066666666666666,0.7066666666666667,12.266666666666666,12.490779444307844,2138.5,1983.0
+xcalL_K1000,HS88,DB3,1500,5093,150,0.5926666666666667,0.6540349499312782,0.058,0.040054977419988216,0.20333333333333334,0.20400549774199883,0.11066666666666666,0.0738268211270371,0.010666666666666666,0.02297270763793442,0.024666666666666667,0.005105046141763205,0.1486929772890896,0.10621022867784316,0.8987675486696365,7,False,0.9666666666666667,0.8,0.96,0.8933333333333333,20.333333333333332,20.400549774199884,2312.0,2032.0
+xcalL_K1000,HS89,DB2,1500,3796,150,0.5966666666666667,0.5795574288724974,0.04,0.045574288724973655,0.162,0.19836670179135932,0.15133333333333332,0.14673340358271866,0.018,0.022128556375131718,0.032,0.007639620653319284,0.09213909378292934,0.18049041078155578,0.8950168181064637,20,False,0.9266666666666666,0.7666666666666667,0.9733333333333334,0.7466666666666667,16.2,19.836670179135933,2082.5,1510.0
+xcalL_K1000,HS90,DB7,1500,1291,150,0.6666666666666666,0.6839659178931061,0.082,0.06584043377226956,0.15333333333333332,0.13632842757552285,0.06,0.0844306738962045,0.017333333333333333,0.024012393493415957,0.020666666666666667,0.005422153369481022,0.09681797056545319,0.0930947275849112,0.883350114022558,83,False,0.8933333333333333,0.62,0.92,0.8533333333333334,15.333333333333332,13.632842757552286,2655.5,2183.0
+xcalL_K1000,HS91,DB6,1500,2568,150,0.6593333333333333,0.6320093457943925,0.094,0.04361370716510903,0.148,0.16277258566978192,0.06733333333333333,0.12694704049844235,0.011333333333333334,0.027258566978193146,0.02,0.007398753894080997,0.18062305295950157,0.084765745333139,0.879820145675392,84,False,0.9066666666666666,0.32666666666666666,0.94,0.5,14.799999999999999,16.27725856697819,2203.5,2112.0
+xcalL_K1000,HS92,DB7,1500,2115,150,0.7153333333333334,0.5810874704491725,0.14333333333333334,0.11678486997635934,0.03133333333333333,0.05484633569739953,0.08866666666666667,0.23356973995271868,0.006,0.007565011820330969,0.015333333333333332,0.006146572104018913,0.3399621749408985,0.3732998486021758,0.873932035718605,44,False,0.9066666666666666,0.4066666666666667,0.9533333333333334,0.6866666666666666,3.1333333333333333,5.484633569739953,2334.0,1976.0
+xcalL_K1000,HS93,DB1,1500,5125,150,0.6766666666666666,0.7139512195121951,0.138,0.08253658536585366,0.11333333333333333,0.13873170731707318,0.03933333333333333,0.041951219512195125,0.009333333333333334,0.016975609756097562,0.023333333333333334,0.005853658536585366,0.14588617886178865,0.16735400075678866,0.8967027583982252,1,True,0.8866666666666667,0.9266666666666666,0.94,0.94,11.333333333333332,13.873170731707319,2819.5,1873.0
+xcalL_K1000,HS94,DB3,1500,4273,150,0.7473333333333333,0.7343786566814884,0.08,0.038380528902410484,0.094,0.1352679616194711,0.04933333333333333,0.06763398080973555,0.009333333333333334,0.019424292066463844,0.02,0.004914579920430611,0.13931913565800766,0.19246014152979807,0.8918893418883542,1,True,0.9133333333333333,0.7733333333333333,0.92,0.8533333333333334,9.4,13.52679616194711,2327.0,2305.0
+xcalL_K1000,HS95,DB1,1500,4264,150,0.6013333333333334,0.6458724202626641,0.12533333333333332,0.08348968105065666,0.15733333333333333,0.13860225140712945,0.07866666666666666,0.09826454033771106,0.012,0.025093808630393996,0.025333333333333333,0.008677298311444653,0.15446153846153834,0.05639935549912288,0.8976821797879395,2,False,0.9133333333333333,0.9466666666666667,0.96,0.96,15.733333333333333,13.860225140712945,2172.5,1829.5
+xcalL_K1000,HS96,DB7,1500,1801,150,0.4673333333333333,0.5147140477512493,0.08066666666666666,0.06885063853414769,0.30666666666666664,0.25818989450305385,0.09866666666666667,0.10716268739589117,0.017333333333333333,0.04553026096612993,0.029333333333333333,0.00555247084952804,0.16814732555987413,0.2631177119211146,0.8868116165317255,73,False,0.8933333333333333,0.30666666666666664,0.92,0.64,30.666666666666664,25.818989450305384,1853.0,2252.0
+xcalL_K1000,HS97,DB4,1500,4609,150,0.6873333333333334,0.7179431546973313,0.09333333333333334,0.0414406595790844,0.14333333333333334,0.16294206986331092,0.058,0.05467563462790193,0.006666666666666667,0.018876111954870906,0.011333333333333334,0.004122369277500542,0.12485600636435955,0.1592790337504619,0.8837310713842651,46,False,0.9,0.46,0.9066666666666666,0.7,14.333333333333334,16.29420698633109,1909.5,2171.0
+xcalL_K1000,HS98,DB2,1500,4959,150,0.37866666666666665,0.5366001209921355,0.03333333333333333,0.07360354910264166,0.392,0.30490018148820325,0.132,0.03891913692276669,0.012666666666666666,0.03367614438394838,0.051333333333333335,0.012300867110304496,0.43842629562411783,0.31477848043973794,0.8958713197418726,1,True,0.8066666666666666,0.7266666666666667,0.8733333333333333,0.7733333333333333,39.2,30.490018148820326,1659.5,1606.0
+xcalL_K1000,HS100,DB6,1500,1838,150,0.5673333333333334,0.6784548422198041,0.064,0.05005440696409141,0.25733333333333336,0.13547334058759522,0.078,0.11588683351468988,0.006,0.011969532100108813,0.027333333333333334,0.008161044613710556,0.30995574900253897,0.134568115885382,0.886466949072434,63,False,0.8,0.28,0.9066666666666666,0.41333333333333333,25.733333333333334,13.547334058759523,1881.0,2221.0
+xcalL_K1000,HS101,DB4,1500,6549,150,0.7213333333333334,0.6659031913269201,0.042,0.051152847763017255,0.11533333333333333,0.192090395480226,0.10066666666666667,0.05939838143227974,0.008,0.026721636891128418,0.012666666666666666,0.004733547106428463,0.20926309360207673,0.11368421579889504,0.8841786302916043,47,False,0.9333333333333333,0.5466666666666666,0.9533333333333334,0.7533333333333333,11.533333333333333,19.2090395480226,1863.0,1960.0
+xcalL_K1000,HS102,DB7,1500,1983,150,0.554,0.6283408976298538,0.084,0.10791729702471003,0.224,0.17397881996974282,0.098,0.06454866364094806,0.018,0.017650025214321734,0.022,0.007564296520423601,0.19651638930912757,0.08584927778602476,0.8868496028597749,84,False,0.9,0.37333333333333335,0.96,0.6266666666666667,22.400000000000002,17.39788199697428,2273.0,2275.0
+xcalL_K1000,HS103,DB6,1500,2442,150,0.6613333333333333,0.5941850941850941,0.104,0.0819000819000819,0.10466666666666667,0.1601146601146601,0.09933333333333333,0.14004914004914004,0.014,0.01760851760851761,0.016666666666666666,0.006142506142506142,0.19954463554463556,0.11405812083375173,0.8858979494913289,48,False,0.86,0.29333333333333333,0.9466666666666667,0.4533333333333333,10.466666666666667,16.01146601146601,2008.0,2156.5
+xcalL_K1000,HS104,DB4,1500,4870,150,0.616,0.657700205338809,0.06666666666666667,0.07268993839835729,0.184,0.19815195071868583,0.09733333333333333,0.05626283367556468,0.016666666666666666,0.012320328542094456,0.019333333333333334,0.002874743326488706,0.12375085557837097,0.10148009796784185,0.8910846820047325,44,False,0.9066666666666666,0.47333333333333333,0.9666666666666667,0.6733333333333333,18.4,19.815195071868583,1910.5,2025.5
+xcalL_K1000,HS105,DB4,1500,4489,150,0.648,0.6277567386945868,0.11066666666666666,0.08977500556916908,0.15533333333333332,0.13967476052572955,0.05533333333333333,0.12007128536422365,0.010666666666666666,0.01826687458231232,0.02,0.0044553352639786145,0.14467631989307192,0.08853362414206933,0.883485192863616,76,False,0.88,0.4866666666666667,0.8933333333333333,0.74,15.533333333333331,13.967476052572955,2052.0,2019.0
+xcalL_K1000,HS106,DB2,1500,3949,150,0.4033333333333333,0.40845783742719677,0.019333333333333334,0.03950367181564953,0.31266666666666665,0.2985565966067359,0.208,0.21144593567991896,0.024666666666666667,0.03545201316789061,0.032,0.006583945302608255,0.07905224951464505,0.5367816906601658,0.9025959960191176,1,True,0.8466666666666667,0.6666666666666666,0.8733333333333333,0.76,31.266666666666666,29.855659660673588,1848.0,1685.0
+xcalL_K1000,HS107,DB1,1500,4445,150,0.7726666666666666,0.7313835770528684,0.07,0.031496062992125984,0.068,0.14195725534308212,0.06333333333333334,0.0686164229471316,0.011333333333333334,0.02002249718785152,0.014666666666666666,0.006524184476940383,0.1758590176227971,0.1882743069540917,0.8908650263112051,4,False,0.9266666666666666,0.92,0.96,0.9666666666666667,6.800000000000001,14.195725534308213,2786.5,1849.0
+xcalL_K1000,HS108,DB7,1500,1868,150,0.6313333333333333,0.5931477516059958,0.07933333333333334,0.08832976445396146,0.14066666666666666,0.08618843683083512,0.12133333333333333,0.20235546038543897,0.010666666666666666,0.023554603854389723,0.016666666666666666,0.006423982869379015,0.20581299072091355,0.2548823272285929,0.8826409026718799,86,False,0.9066666666666666,0.34,0.92,0.6466666666666666,14.066666666666666,8.618843683083512,2115.5,2026.0
+xcalL_K1000,HS109,DB5,1500,4265,150,0.6033333333333334,0.6801875732708089,0.09733333333333333,0.04126611957796014,0.19666666666666666,0.17327080890973037,0.07,0.06424384525205158,0.01,0.03610785463071512,0.02266666666666667,0.00492379835873388,0.20592418913638136,0.12347777057415639,0.8852350228295505,76,False,0.94,0.38666666666666666,0.9666666666666667,0.5733333333333334,19.666666666666664,17.327080890973036,2105.0,2074.0
+xcalL_K1000,HS110,DB1,1500,4176,150,0.5833333333333334,0.5744731800766284,0.14533333333333334,0.1285919540229885,0.12666666666666668,0.15158045977011494,0.10533333333333333,0.10871647509578544,0.015333333333333332,0.03089080459770115,0.024,0.005747126436781609,0.0877088122605364,0.16056596306141124,0.8959897677031791,11,False,0.9,0.9266666666666666,0.92,0.9266666666666666,12.666666666666668,15.158045977011495,2255.5,1704.5
+xcalL_K1000,HS111,DB1,1500,4787,150,0.66,0.6772508878211824,0.09733333333333333,0.09024441194902862,0.11133333333333334,0.12784625026112387,0.11666666666666667,0.077501566743263,0.007333333333333333,0.02360559849592647,0.007333333333333333,0.003551284729475663,0.10007213982313204,0.10990481184878803,0.8993523033875409,6,False,0.9333333333333333,0.9066666666666666,0.9666666666666667,0.96,11.133333333333335,12.784625026112387,2336.0,1865.0

paper-releases/pbisc-diffusion/updates/20261003T103040Z-crosscohort-k1000-saturation/diffusion/dataset/server_1/model8/plans/paired_crosscohort_20261002/scores/immicro/xcalL_K1000/summary.json

@@ -0,0 +1,295 @@
+{
+ "schema": "paired_ft_scores.v1",
+ "dataset": "immicro",
+ "written_utc": "2026-10-02T15:56:36.045273+00:00",
+ "command": [
+  "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/tools/score_ft.py",
+  "--dataset",
+  "immicro",
+  "--threads",
+  "8",
+  "--donors",
+  "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_crosscohort_20261002/data/immicro/usable_samples.txt",
+  "--arm",
+  "xcalL_K1000=/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_crosscohort_20261002/generated/immicro/hoL_immicro/xcal_K1000.npz",
+  "--out",
+  "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_crosscohort_20261002/scores/immicro/xcalL_K1000"
+ ],
+ "arms": [
+  "xcalL_K1000"
+ ],
+ "donors": [
+  "HS1",
+  "HS2",
+  "HS3",
+  "HS4",
+  "HS6",
+  "HS7",
+  "HS8",
+  "HS9",
+  "HS10",
+  "HS11",
+  "HS12",
+  "HS13",
+  "HS14",
+  "HS15",
+  "HS16",
+  "HS17",
+  "HS18",
+  "HS19",
+  "HS20",
+  "HS21",
+  "HS23",
+  "HS24",
+  "HS25",
+  "HS26",
+  "HS27",
+  "HS28",
+  "HS29",
+  "HS30",
+  "HS31",
+  "HS32",
+  "HS34",
+  "HS35",
+  "HS36",
+  "HS37",
+  "HS38",
+  "HS39",
+  "HS40",
+  "HS41",
+  "HS42",
+  "HS43",
+  "HS44",
+  "HS45",
+  "HS46",
+  "HS47",
+  "HS48",
+  "HS49",
+  "HS50",
+  "HS51",
+  "HS52",
+  "HS53",
+  "HS54",
+  "HS55",
+  "HS56",
+  "HS57",
+  "HS58",
+  "HS59",
+  "HS60",
+  "HS61",
+  "HS62",
+  "HS63",
+  "HS64",
+  "HS65",
+  "HS66",
+  "HS67",
+  "HS68",
+  "HS69",
+  "HS70",
+  "HS71",
+  "HS72",
+  "HS73",
+  "HS74",
+  "HS75",
+  "HS76",
+  "HS77",
+  "HS78",
+  "HS79",
+  "HS80",
+  "HS81",
+  "HS82",
+  "HS83",
+  "HS84",
+  "HS85",
+  "HS86",
+  "HS87",
+  "HS88",
+  "HS89",
+  "HS90",
+  "HS91",
+  "HS92",
+  "HS93",
+  "HS94",
+  "HS95",
+  "HS96",
+  "HS97",
+  "HS98",
+  "HS100",
+  "HS101",
+  "HS102",
+  "HS103",
+  "HS104",
+  "HS105",
+  "HS106",
+  "HS107",
+  "HS108",
+  "HS109",
+  "HS110",
+  "HS111"
+ ],
+ "n_donors": 107,
+ "reference": {
+  "cache": "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/scoring_cache/immicro",
+  "reference_sha256": "c5e2547be3ec3b12cb0c0b404a49e14a046ae59d40be70427f98f083a76bce17",
+  "features_sha256": "735255066ce7ebbac13a1fdfd058e26f31edd60314cc02fd589b0a292dbbc838",
+  "n_r1_cells": 16050,
+  "pca": {
+   "n_components": 50,
+   "explained_variance_ratio_sum": 0.28717318177223206,
+   "n_fit_cells": 16050
+  },
+  "r2_control": {
+   "precision": 0.9634267912772586,
+   "coverage": 0.9999376947040498,
+   "density": 1.3859065420560748,
+   "n_query": 16050,
+   "depth_matched": {
+    "precision": 0.9634890965732087,
+    "coverage": 0.9996884735202493,
+    "density": 1.3669096573208723
+   }
+  },
+  "observed_l1_loo_null_mean": 0.1606372707722086
+ },
+ "contrast_definition": {
+  "enabled": false,
+  "reason": "dataset immicro has no group contrast (use --groups-csv / --case-groups)"
+ },
+ "deg_definition": {
+  "enabled": false,
+  "reason": "contrast off"
+ },
+ "headline": {
+  "xcalL_K1000": {
+   "comp_l1": 0.17220690476643966,
+   "comp_l1_obs_loo_null": 0.1606372707722086,
+   "precision": 0.901993769470405,
+   "coverage": 0.5724610591900312,
+   "precision_dm": 0.9343302180685358,
+   "coverage_dm": 0.7378193146417446,
+   "pb_r_median": 0.8888913715424525,
+   "pb_top1": 0.06542056074766354,
+   "mono_pct_gen": 16.727102803738315,
+   "mono_pct_obs": 16.6538380766508,
+   "median_umi_gen": 2133.0,
+   "median_umi_obs": 1961.0,
+   "seconds": 31.1
+  }
+ },
+ "per_arm": {
+  "xcalL_K1000": {
+   "arm": "xcalL_K1000",
+   "npz": "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_crosscohort_20261002/generated/immicro/hoL_immicro/xcal_K1000.npz",
+   "npz_sha256": "1ba1645519943541a9eaaee3885ebeb66bf55dae3fa8ff0fce7e8e74fcf2c131",
+   "receipt_verified": true,
+   "generation": {
+    "checkpoint": "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/runs/f01_6k_1x_seed20260627/checkpoint_epoch_016.pt",
+    "checkpoint_sha256": "8c7cd0e83e2bc19fe03dfcbc084919a1e2f61be8cc8bc12f4caf543dfda91633",
+    "input_condition_path": "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_crosscohort_20261002/splits/hoL_immicro/test_xcal_K1000.npz",
+    "input_condition_sha256": "c347c9c871de798fbb17b83a7804192a84b66ef4e7fa55e2774342b5d161c399",
+    "seed": 20260927,
+    "steps": 50,
+    "support_readout": "bernoulli",
+    "weights": "ema"
+   },
+   "condition_for_broadcast": null,
+   "poisson": {
+    "seed": 20260916,
+    "rule": "whole NPZ, rows in NPZ order",
+    "nnz_whole_npz": 46502264,
+    "median_library_whole_npz_panel": 2134.0,
+    "n_rows_whole_npz": 160500
+   },
+   "annotation": {
+    "model_pt_sha256": "bf3655899e5abee435340fc008656c4a17342da0f30b70cfd43de8e9223e1930",
+    "zero_padded_model_genes": 1,
+    "label_counts": {
+     "T cell": 99273,
+     "Monocyte": 26847,
+     "NK cell": 14554,
+     "B cell": 14228,
+     "Other": 3590,
+     "DC": 2008
+    },
+    "mean_l2_max_prob": 0.9117298675836804,
+    "predict_seconds": 7.2
+   },
+   "n_donors": 107,
+   "n_generated_cells": 160500,
+   "composition": {
+    "l1_mean": 0.17220690476643966,
+    "l1_median": 0.15086010362694294,
+    "l1_obs_loo_null_mean": 0.1606372707722086,
+    "l1_generated_loo_mean_vs_observed_mean": 0.18862052429539627,
+    "composition_top1": 0.07476635514018691,
+    "mean_fraction_generated": {
+     "T cell": 0.618523,
+     "B cell": 0.088648,
+     "Monocyte": 0.167271,
+     "NK cell": 0.090679,
+     "DC": 0.012511,
+     "Other": 0.022368
+    },
+    "mean_fraction_observed": {
+     "T cell": 0.639048,
+     "B cell": 0.074796,
+     "Monocyte": 0.166538,
+     "NK cell": 0.091197,
+     "DC": 0.022818,
+     "Other": 0.005602
+    }
+   },
+   "pseudobulk": {
+    "n_genes": 5508,
+    "r_median": 0.8888913715424525,
+    "r_mean": 0.8895472235458465,
+    "top1": 0.06542056074766354,
+    "n_top1": 7,
+    "own_rank_median": 29.0,
+    "chance_top1": 0.009345794392523364
+   },
+   "precision_coverage": {
+    "precision": 0.901993769470405,
+    "coverage": 0.5724610591900312,
+    "density": 1.1118566978193145,
+    "n_query": 16050,
+    "n_reference": 16050
+   },
+   "precision_coverage_depth_matched": {
+    "precision": 0.9343302180685358,
+    "coverage": 0.7378193146417446,
+    "density": 1.6399376947040498,
+    "detected_median_before": {
+     "R1": 362.0,
+     "Q": 287.0
+    },
+    "detected_median_after": {
+     "R1": 287.0,
+     "Q": 287.0
+    }
+   },
+   "monocyte_pct": {
+    "generated_mean_over_donors": 16.727102803738315,
+    "observed_mean_over_donors": 16.6538380766508,
+    "generated_pooled_cells": 16.727102803738315
+   },
+   "median_umi_per_cell_scoring_genes": {
+    "generated_pooled": 2133.0,
+    "observed_pooled": 1961.0,
+    "generated_mean_of_donor_medians": 2158.742919921875,
+    "observed_mean_of_donor_medians": 1997.7429906542056
+   },
+   "seconds": 31.1
+  }
+ },
+ "code_sha256": {
+  "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/tools/score_ft.py": "ec5f40b4cea6d5062d0138f3b934abb6465e34cbfeac869c8a0906924c033aec",
+  "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/tools/ft_common.py": "4a6366b0f22208cd58714fc0261b8840c643b9d4569704d560cfd93534cbc747",
+  "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/utility_studies_final6k_20260925/umap/cell_immicro_5arm/tools/stage_b_embed.py": "d056cfdf38fb0e5f478756f370174e993b75d0c973c48e02e21749175a4ca2da",
+  "/home/sj_server_1/PBISC/immun-pbmc-fm/bulk2sc-paper/scripts/evaluate_generated_vs_truth.py": "48b12d794782b840838853e93e0fc55fab00532c4b3698f4588e926b985d2881",
+  "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/utility_studies_final6k_20260925/immicro/tools/immicro_common.py": "c5c30e917148cc5e664e91ea30c11bbdff9b6d1f53a3e0a13e16b1917eff37e9",
+  "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/aifi_scanvi_rebuild_20260916/predict_scanvi.py": "482ee5dcf4d72b54bc36cbb6dcff62e5030bc7afc46cb5fb01eca73a82ee45a5",
+  "/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/aifi_scanvi_rebuild_20260916/poisson_readout.py": "8bfa080942fbcdc89ae23b276524a1a83266fb8cbc56b9af279e50f82e6cde38"
+ },
+ "seconds": 40.9
+}

paper-releases/pbisc-diffusion/updates/20261003T103040Z-crosscohort-k1000-saturation/diffusion/dataset/server_1/model8/plans/paired_crosscohort_20261002/scores/imperial_eskd/locoL_fullsat_s20000_K1000/README.md

@@ -0,0 +1,73 @@
+# score_ft.py output: imperial_eskd, 157 scored donors
+
+Arms: locoL_fullsat_s20000_K1000.  Every arm is scored on the same donors against the same observed reference.
+
+## Inputs and fixed contracts
+- Observed reference: `/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/scoring_cache/imperial_eskd/reference.npz` (sha 34b4caa3f8a6), built from datadir:/home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/data/imperial_eskd;
+  observed cells sum exactly to the features pseudobulk of every donor. Observed labels: /home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/scoring_cache/imperial_eskd/observed_labels/labels/labels.parquet.
+- Generated cells: `generated_counts` read out once with Poisson(seed 20260916) over the **whole NPZ in row order**
+  (`poisson_readout.poisson_integerise`), then the scored donors' rows. These integer counts are used for labels, embedding,
+  depth and the contrast. Pseudobulk uses the summed `generated_counts` (rates), as `score_generated.py`.
+- Labels: frozen f01common scANVI (`predict_scanvi.py`, CPU, zero query epochs), six-type gate ['T cell', 'B cell', 'Monocyte', 'NK cell', 'DC', 'Other']; query genes =
+  the 1,006-gene annotation list minus genes the dataset's sc assay did not measure in every sample (1005 genes).
+- Scoring genes: 6k panel genes measured by both assays in every sample of the dataset (5927 genes).
+
+## Definitions
+1. **Composition**: fraction of each donor's cells per six-type label (all generated cells; all observed QC cells).
+   `comp_l1` = sum over the six labels of |generated - observed| (immicro_common.l1). `comp_l1_obs_loo_null` = L1 of the
+   donor's observed composition to the mean of the *other scored donors'* observed compositions. `composition_top1` =
+   fraction of donors whose generated composition is closest (L1) to their own observed composition.
+2. **Pseudobulk**: `pb_r` = Pearson r of CPM-log1p(summed generated_counts) vs CPM-log1p(observed pseudobulk) on the scoring
+   genes (evaluate_realbulk.cpm_log1p / paired_r). `pb_top1` = the donor's generated pseudobulk is closest (Pearson) to its own
+   observed pseudobulk among the 157 scored donors (immicro_common.retrieval = evaluate_realbulk.top1 arithmetic).
+3. **Precision / coverage / density** (stage_b_embed.py functions): per-cell CP10K over the scoring genes + log1p; PCA-50
+   (randomized, random_state 20260925) and k = 10 real-real k-NN balls fitted on **R1 of the scored donors only**.
+   Reference rule (independent of fold and arm): per donor, cells in canonical order (library_id+barcode), one
+   permutation from `default_rng([20260925, uint64(sha256(donor)[:8])])`; R1 = first n, R2 = next n,
+   n = min(150, n_cells // 2) (23482 R1 cells here). Generated query: per donor n cells (the donor's R1 size),
+   without replacement, `default_rng([20260926, same key])`. Precision = fraction of generated cells inside any R1 ball
+   (Kynkaanniemi 2019); coverage = fraction of R1 cells whose ball holds a generated cell; density = Naeem 2020.
+   Per-donor precision = that donor's generated cells; per-donor coverage = that donor's R1 cells (the pooled values are
+   their n-weighted means; plain means when every donor has 150 reference cells). R2 (held-out real cells of the same donors) is the
+   perfect-generator control: precision 0.9673, coverage 0.9997.
+   **Depth matched**: stage_b_embed depth matching run pairwise (R1 vs this arm): per donor and within-donor rank of detected
+   genes, both cells are thinned by UMI sampling without replacement to the smaller detected-gene count; PCA kept from
+   un-thinned R1, radii recomputed on thinned R1; fresh rng(20260929) per arm. R2 control: precision
+   0.9667, coverage 0.9997.
+4. **Monocyte %** = 100 x Monocyte fraction (all cells) per donor; **median UMI per cell** = median over cells of the
+   Poisson-read (generated) / observed counts summed over the scoring genes (per donor, and pooled).
+5. **Group contrast** (T, B, Monocyte, NK): case groups ['covid_positive'] (n = 113) vs control groups ['covid_negative'] (n = 34); rule: explicit --case-groups / --control-groups; groups from features groups.
+   Genes per type = scoring genes detected (count > 0) in >= 1 % of the scored donors' observed
+   cells of that type. Primary statistic `mean_cp10k`: per-cell CP10K over the scoring genes; per donor the mean over its
+   cells of the type (donors with >= 1 such cell); group mean = mean over the group's donors (donor-balanced);
+   logFC = log2(case mean + 1) - log2(control mean + 1). Secondary `pseudobulk_log1p_cpm`: the SLE benchmark evaluator's
+   statistic (donor x type summed counts, log1p CPM over the scoring genes, mean case - mean control;
+   evaluate_generated_vs_truth.group_log_fold_change). Both are computed on the generated cells (their frozen labels) and on
+   the observed cells; `r_generated` = Pearson r of the two logFC vectors. Broadcast baseline `r_broadcast`: the same
+   observed vector against the logFC of the input bulk (condition NPZ `bulk_counts` of the arm, scoring genes, per-donor
+   CP10K resp. log1p CPM, group means). `partial_r_generated_given_broadcast`: r of the OLS residuals of observed and
+   generated logFC on the bulk logFC (residual_specificity.py).
+6. **Top-50 DEG overlap** (contrast.csv rows `statistic = welch_top50_deg`; summary `deg_top50`): the SLE benchmark's score (`total_top50_overlap` of
+   `bulk2sc-paper/scripts/evaluate_generated_vs_truth.py`, Welch backend: the "top-50 DEG 81 / 84" of the final model), run
+   with the evaluator's own functions on the same donor x type pseudobulks as the contrast. Per cell type, observed and
+   generated separately: donor x type summed counts on all 5927 scoring genes (donors of the two groups with
+   >= 1 cell of the type) -> `welch_bh_deg` (log1p CPM, two-sided Welch t-test case vs control, Benjamini-Hochberg over the
+   genes with a defined p-value; needs >= 2 donors per group) -> `top_deg_genes` (FDR < 0.05, descending |logFC|,
+   first 50; shorter when fewer genes pass). `top50_overlap` = |observed list & generated list|; `top50_jaccard`
+   the evaluator's Jaccard. Summary `sum` = total over the scored types (the quantity reported as 81), `max` = the sum of
+   the observed list lengths (the "of 262"), `sum_4type` = T + B + Monocyte + NK. A type is scored when its observed test
+   is defined; an arm whose generated test is undefined for a scored type gets overlap 0. Types: T cell, B cell, Monocyte, NK cell, DC
+   (aggregates: /home/sj_server_1/PBISC/immun-pbmc-fm/model_8_sparse_data_diffusion/plans/paired_finetune_intradataset_20260927/scoring_cache/imperial_eskd/deg_reference.npz).
+   **Broadcast analogue** (`top50_overlap_broadcast`, as `sle_broadcast.py` `broadcast_input_bulk`; not part of the
+   published benchmark): the same test on the arm's condition bulk_counts (scoring genes, the 113 + 34
+   donors), one whole-PBMC top-50 list, compared with every type's observed list.
+
+## Files
+- `per_donor.csv`: one row per arm x donor (all per-donor quantities above).
+- `summary.json`: per arm the donor means / pooled values, provenance (NPZ sha, receipt check, generation metadata,
+  Poisson nnz of the whole NPZ, annotation contract), and the reference block (PCA, R2 control).
+- `contrast.csv`: per arm x cell type x statistic (`mean_cp10k`, `pseudobulk_log1p_cpm`: logFC r; `welch_top50_deg`:
+  top-50 DEG overlap, T / B / Monocyte / NK / DC; columns of the other kind are empty).
+- `arms/<arm>/labels/` (predict_scanvi.py labels + manifest), `arms/<arm>/generated_cells.parquet` (NPZ row, donor, label,
+  UMI on the scoring genes, P/C subsample flag), `arms/<arm>/deg_top50_lists.csv` (observed, generated and broadcast
+  top-50 gene lists, Ensembl ids, rank order).