| { |
| "schema": "koqloss-summary/1", |
| "reference": "Q8_0", |
| "device": "Apple M4 Pro 24GB (macOS, Metal)", |
| "measured": "2026-09-27", |
| "llama": "version: 0.5.0 (build 11146, commit 7fe450e19)", |
| "doc": { |
| "sentences": 300, |
| "ids": [ |
| 1, |
| 300 |
| ], |
| "sha256": { |
| "ko": "59697c54071c1ad2e002f415f475a43b1faa7ca2757cc2999ebd78cd35d30248", |
| "en": "17bb8fb7266012c065f5e1c70f577b92bd4aac11e88015b69938276fdbf34c0d" |
| }, |
| "bytes": { |
| "ko": 47385, |
| "en": 39120 |
| } |
| }, |
| "mcPairs": 300, |
| "halfWidth95At10pct": 0.048, |
| "mde80At10pct": 0.0686, |
| "kl": [ |
| { |
| "model": "kakaocorp/kanana-1.5-2.1b-instruct-2505", |
| "quant": "Q4_K_M", |
| "meanKld": { |
| "ko": 0.041923, |
| "en": 0.041592 |
| }, |
| "meanKldUnc": { |
| "ko": 0.001081, |
| "en": 0.001053 |
| }, |
| "tokens": { |
| "ko": 12351, |
| "en": 8074 |
| }, |
| "scoredTokens": { |
| "ko": 6120, |
| "en": 3825 |
| }, |
| "chunks": { |
| "ko": 24, |
| "en": 15 |
| }, |
| "docRatio": 1.5419, |
| "ci": [ |
| 1.3665, |
| 1.7426 |
| ], |
| "ciMethod": "chunk-bootstrap", |
| "includesOne": false, |
| "tokenRatio": 1.5297, |
| "perTokenRatio": 1.008, |
| "perTokenCi": [ |
| 0.8933, |
| 1.1391 |
| ], |
| "perTokenAboveOne": false, |
| "perByteRatio": 1.273 |
| }, |
| { |
| "model": "kakaocorp/kanana-1.5-2.1b-instruct-2505", |
| "quant": "Q3_K_M", |
| "meanKld": { |
| "ko": 0.153059, |
| "en": 0.159605 |
| }, |
| "meanKldUnc": { |
| "ko": 0.003468, |
| "en": 0.004507 |
| }, |
| "tokens": { |
| "ko": 12351, |
| "en": 8074 |
| }, |
| "scoredTokens": { |
| "ko": 6120, |
| "en": 3825 |
| }, |
| "chunks": { |
| "ko": 24, |
| "en": 15 |
| }, |
| "docRatio": 1.467, |
| "ci": [ |
| 1.2805, |
| 1.6825 |
| ], |
| "ciMethod": "chunk-bootstrap", |
| "includesOne": false, |
| "tokenRatio": 1.5297, |
| "perTokenRatio": 0.959, |
| "perTokenCi": [ |
| 0.8371, |
| 1.0999 |
| ], |
| "perTokenAboveOne": false, |
| "perByteRatio": 1.2111 |
| }, |
| { |
| "model": "Qwen/Qwen3-1.7B", |
| "quant": "Q4_K_M", |
| "meanKld": { |
| "ko": 0.073485, |
| "en": 0.042428 |
| }, |
| "meanKldUnc": { |
| "ko": 0.001863, |
| "en": 0.0026 |
| }, |
| "tokens": { |
| "ko": 13949, |
| "en": 8258 |
| }, |
| "scoredTokens": { |
| "ko": 6885, |
| "en": 4080 |
| }, |
| "chunks": { |
| "ko": 27, |
| "en": 16 |
| }, |
| "docRatio": 2.9256, |
| "ci": [ |
| 2.5455, |
| 3.3904 |
| ], |
| "ciMethod": "chunk-bootstrap", |
| "includesOne": false, |
| "tokenRatio": 1.6891, |
| "perTokenRatio": 1.732, |
| "perTokenCi": [ |
| 1.507, |
| 2.0072 |
| ], |
| "perTokenAboveOne": true, |
| "perByteRatio": 2.4153 |
| }, |
| { |
| "model": "Qwen/Qwen3-1.7B", |
| "quant": "Q3_K_M", |
| "meanKld": { |
| "ko": 0.263069, |
| "en": 0.12891 |
| }, |
| "meanKldUnc": { |
| "ko": 0.005523, |
| "en": 0.004599 |
| }, |
| "tokens": { |
| "ko": 13949, |
| "en": 8258 |
| }, |
| "scoredTokens": { |
| "ko": 6885, |
| "en": 4080 |
| }, |
| "chunks": { |
| "ko": 27, |
| "en": 16 |
| }, |
| "docRatio": 3.4471, |
| "ci": [ |
| 3.0673, |
| 3.8905 |
| ], |
| "ciMethod": "chunk-bootstrap", |
| "includesOne": false, |
| "tokenRatio": 1.6891, |
| "perTokenRatio": 2.0407, |
| "perTokenCi": [ |
| 1.8159, |
| 2.3032 |
| ], |
| "perTokenAboveOne": true, |
| "perByteRatio": 2.8458 |
| }, |
| { |
| "model": "Qwen/Qwen3-4B", |
| "quant": "Q4_K_M", |
| "meanKld": { |
| "ko": 0.052773, |
| "en": 0.037129 |
| }, |
| "meanKldUnc": { |
| "ko": 0.001675, |
| "en": 0.001473 |
| }, |
| "tokens": { |
| "ko": 13949, |
| "en": 8258 |
| }, |
| "scoredTokens": { |
| "ko": 6885, |
| "en": 4080 |
| }, |
| "chunks": { |
| "ko": 27, |
| "en": 16 |
| }, |
| "docRatio": 2.4009, |
| "ci": [ |
| 2.1251, |
| 2.6779 |
| ], |
| "ciMethod": "chunk-bootstrap", |
| "includesOne": false, |
| "tokenRatio": 1.6891, |
| "perTokenRatio": 1.4213, |
| "perTokenCi": [ |
| 1.2581, |
| 1.5854 |
| ], |
| "perTokenAboveOne": true, |
| "perByteRatio": 1.9821 |
| }, |
| { |
| "model": "Qwen/Qwen3-4B", |
| "quant": "Q3_K_M", |
| "meanKld": { |
| "ko": 0.193427, |
| "en": 0.118598 |
| }, |
| "meanKldUnc": { |
| "ko": 0.00429, |
| "en": 0.00437 |
| }, |
| "tokens": { |
| "ko": 13949, |
| "en": 8258 |
| }, |
| "scoredTokens": { |
| "ko": 6885, |
| "en": 4080 |
| }, |
| "chunks": { |
| "ko": 27, |
| "en": 16 |
| }, |
| "docRatio": 2.7549, |
| "ci": [ |
| 2.4427, |
| 3.1173 |
| ], |
| "ciMethod": "chunk-bootstrap", |
| "includesOne": false, |
| "tokenRatio": 1.6891, |
| "perTokenRatio": 1.6309, |
| "perTokenCi": [ |
| 1.4461, |
| 1.8455 |
| ], |
| "perTokenAboveOne": true, |
| "perByteRatio": 2.2744 |
| }, |
| { |
| "model": "skt/A.X-4.0-Light", |
| "quant": "Q4_K_M", |
| "meanKld": { |
| "ko": 0.023746, |
| "en": 0.018016 |
| }, |
| "meanKldUnc": { |
| "ko": 0.000822, |
| "en": 0.000431 |
| }, |
| "tokens": { |
| "ko": 8282, |
| "en": 8930 |
| }, |
| "scoredTokens": { |
| "ko": 4080, |
| "en": 4335 |
| }, |
| "chunks": { |
| "ko": 16, |
| "en": 17 |
| }, |
| "docRatio": 1.2224, |
| "ci": [ |
| 1.0835, |
| 1.3943 |
| ], |
| "ciMethod": "chunk-bootstrap", |
| "includesOne": false, |
| "tokenRatio": 0.9274, |
| "perTokenRatio": 1.3181, |
| "perTokenCi": [ |
| 1.1683, |
| 1.5034 |
| ], |
| "perTokenAboveOne": true, |
| "perByteRatio": 1.0092 |
| }, |
| { |
| "model": "skt/A.X-4.0-Light", |
| "quant": "Q3_K_M", |
| "meanKld": { |
| "ko": 0.074241, |
| "en": 0.063305 |
| }, |
| "meanKldUnc": { |
| "ko": 0.001737, |
| "en": 0.001511 |
| }, |
| "tokens": { |
| "ko": 8282, |
| "en": 8930 |
| }, |
| "scoredTokens": { |
| "ko": 4080, |
| "en": 4335 |
| }, |
| "chunks": { |
| "ko": 16, |
| "en": 17 |
| }, |
| "docRatio": 1.0877, |
| "ci": [ |
| 0.9715, |
| 1.2328 |
| ], |
| "ciMethod": "chunk-bootstrap", |
| "includesOne": true, |
| "tokenRatio": 0.9274, |
| "perTokenRatio": 1.1728, |
| "perTokenCi": [ |
| 1.0475, |
| 1.3293 |
| ], |
| "perTokenAboveOne": true, |
| "perByteRatio": 0.8979 |
| } |
| ], |
| "mc": [ |
| { |
| "model": "kakaocorp/kanana-1.5-2.1b-instruct-2505", |
| "quant": "Q4_K_M", |
| "q8Accuracy": { |
| "ko": 0.4766666666666667, |
| "en": 0.5133333333333333 |
| }, |
| "accuracy": { |
| "ko": 0.44333333333333336, |
| "en": 0.5033333333333333 |
| }, |
| "flip": { |
| "ko": 0.1258741258741259, |
| "en": 0.09090909090909091 |
| }, |
| "netDrop": { |
| "ko": 0.03333333333333333, |
| "en": 0.01 |
| }, |
| "flipDiff": { |
| "mean": 0.035, |
| "lo": -0.0331, |
| "hi": 0.0997 |
| }, |
| "excluded": false, |
| "includesZero": true |
| }, |
| { |
| "model": "kakaocorp/kanana-1.5-2.1b-instruct-2505", |
| "quant": "Q3_K_M", |
| "q8Accuracy": { |
| "ko": 0.4766666666666667, |
| "en": 0.5133333333333333 |
| }, |
| "accuracy": { |
| "ko": 0.39, |
| "en": 0.46 |
| }, |
| "flip": { |
| "ko": 0.25874125874125875, |
| "en": 0.18831168831168832 |
| }, |
| "netDrop": { |
| "ko": 0.08666666666666667, |
| "en": 0.05333333333333334 |
| }, |
| "flipDiff": { |
| "mean": 0.0704, |
| "lo": -0.0257, |
| "hi": 0.1691 |
| }, |
| "excluded": false, |
| "includesZero": true |
| }, |
| { |
| "model": "Qwen/Qwen3-1.7B", |
| "quant": "Q4_K_M", |
| "q8Accuracy": { |
| "ko": 0.47, |
| "en": 0.5366666666666666 |
| }, |
| "accuracy": { |
| "ko": 0.44666666666666666, |
| "en": 0.5733333333333334 |
| }, |
| "flip": { |
| "ko": 0.18439716312056736, |
| "en": 0.043478260869565216 |
| }, |
| "netDrop": { |
| "ko": 0.023333333333333334, |
| "en": -0.03666666666666667 |
| }, |
| "flipDiff": { |
| "mean": 0.1409, |
| "lo": 0.075, |
| "hi": 0.2118 |
| }, |
| "excluded": false, |
| "includesZero": false |
| }, |
| { |
| "model": "Qwen/Qwen3-1.7B", |
| "quant": "Q3_K_M", |
| "q8Accuracy": { |
| "ko": 0.47, |
| "en": 0.5366666666666666 |
| }, |
| "accuracy": { |
| "ko": 0.3933333333333333, |
| "en": 0.5633333333333334 |
| }, |
| "flip": { |
| "ko": 0.3404255319148936, |
| "en": 0.15527950310559005 |
| }, |
| "netDrop": { |
| "ko": 0.07666666666666666, |
| "en": -0.02666666666666667 |
| }, |
| "flipDiff": { |
| "mean": 0.1851, |
| "lo": 0.0973, |
| "hi": 0.2736 |
| }, |
| "excluded": false, |
| "includesZero": false |
| }, |
| { |
| "model": "Qwen/Qwen3-4B", |
| "quant": "Q4_K_M", |
| "q8Accuracy": { |
| "ko": 0.5666666666666667, |
| "en": 0.6933333333333334 |
| }, |
| "accuracy": { |
| "ko": 0.5433333333333333, |
| "en": 0.7033333333333334 |
| }, |
| "flip": { |
| "ko": 0.1, |
| "en": 0.07211538461538461 |
| }, |
| "netDrop": { |
| "ko": 0.023333333333333334, |
| "en": -0.01 |
| }, |
| "flipDiff": { |
| "mean": 0.0279, |
| "lo": -0.0302, |
| "hi": 0.0811 |
| }, |
| "excluded": false, |
| "includesZero": true |
| }, |
| { |
| "model": "Qwen/Qwen3-4B", |
| "quant": "Q3_K_M", |
| "q8Accuracy": { |
| "ko": 0.5666666666666667, |
| "en": 0.6933333333333334 |
| }, |
| "accuracy": { |
| "ko": 0.5333333333333333, |
| "en": 0.66 |
| }, |
| "flip": { |
| "ko": 0.17647058823529413, |
| "en": 0.125 |
| }, |
| "netDrop": { |
| "ko": 0.03333333333333333, |
| "en": 0.03333333333333333 |
| }, |
| "flipDiff": { |
| "mean": 0.0515, |
| "lo": -0.0174, |
| "hi": 0.1196 |
| }, |
| "excluded": false, |
| "includesZero": true |
| }, |
| { |
| "model": "skt/A.X-4.0-Light", |
| "quant": "Q4_K_M", |
| "q8Accuracy": { |
| "ko": 0.6066666666666667, |
| "en": 0.7066666666666667 |
| }, |
| "accuracy": { |
| "ko": 0.5866666666666667, |
| "en": 0.7233333333333334 |
| }, |
| "flip": { |
| "ko": 0.07142857142857142, |
| "en": 0.02830188679245283 |
| }, |
| "netDrop": { |
| "ko": 0.02, |
| "en": -0.016666666666666666 |
| }, |
| "flipDiff": { |
| "mean": 0.0431, |
| "lo": 0.002, |
| "hi": 0.0872 |
| }, |
| "excluded": false, |
| "includesZero": false |
| }, |
| { |
| "model": "skt/A.X-4.0-Light", |
| "quant": "Q3_K_M", |
| "q8Accuracy": { |
| "ko": 0.6066666666666667, |
| "en": 0.7066666666666667 |
| }, |
| "accuracy": { |
| "ko": 0.6, |
| "en": 0.6633333333333333 |
| }, |
| "flip": { |
| "ko": 0.07692307692307693, |
| "en": 0.09433962264150944 |
| }, |
| "netDrop": { |
| "ko": 0.006666666666666667, |
| "en": 0.043333333333333335 |
| }, |
| "flipDiff": { |
| "mean": -0.0174, |
| "lo": -0.0685, |
| "hi": 0.0377 |
| }, |
| "excluded": false, |
| "includesZero": true |
| } |
| ], |
| "speed": [ |
| { |
| "model": "kakaocorp/kanana-1.5-2.1b-instruct-2505", |
| "quant": "Q8_0", |
| "ppTps": 1572.6149, |
| "tgTps": 90.6779, |
| "benchMaxRssGB": 2.6987 |
| }, |
| { |
| "model": "kakaocorp/kanana-1.5-2.1b-instruct-2505", |
| "quant": "Q4_K_M", |
| "ppTps": 1541.5868, |
| "tgTps": 123.8657, |
| "benchMaxRssGB": 1.7546 |
| }, |
| { |
| "model": "kakaocorp/kanana-1.5-2.1b-instruct-2505", |
| "quant": "Q3_K_M", |
| "ppTps": 1444.5847, |
| "tgTps": 95.9163, |
| "benchMaxRssGB": 1.4631 |
| }, |
| { |
| "model": "Qwen/Qwen3-1.7B", |
| "quant": "Q8_0", |
| "ppTps": 2160.0624, |
| "tgTps": 109.0589, |
| "benchMaxRssGB": 2.3647 |
| }, |
| { |
| "model": "Qwen/Qwen3-1.7B", |
| "quant": "Q4_K_M", |
| "ppTps": 2028.9776, |
| "tgTps": 153.6875, |
| "benchMaxRssGB": 1.4756 |
| }, |
| { |
| "model": "Qwen/Qwen3-1.7B", |
| "quant": "Q3_K_M", |
| "ppTps": 1975.3123, |
| "tgTps": 123.7645, |
| "benchMaxRssGB": 1.2807 |
| }, |
| { |
| "model": "Qwen/Qwen3-4B", |
| "quant": "Q8_0", |
| "ppTps": 758.9896, |
| "tgTps": 49.9797, |
| "benchMaxRssGB": 4.497 |
| }, |
| { |
| "model": "Qwen/Qwen3-4B", |
| "quant": "Q4_K_M", |
| "ppTps": 544.4883, |
| "tgTps": 72.9602, |
| "benchMaxRssGB": 2.7277 |
| }, |
| { |
| "model": "Qwen/Qwen3-4B", |
| "quant": "Q3_K_M", |
| "ppTps": 735.7886, |
| "tgTps": 56.2762, |
| "benchMaxRssGB": 2.3052 |
| }, |
| { |
| "model": "skt/A.X-4.0-Light", |
| "quant": "Q8_0", |
| "ppTps": 404.0528, |
| "tgTps": 28.1037, |
| "benchMaxRssGB": 7.8791 |
| }, |
| { |
| "model": "skt/A.X-4.0-Light", |
| "quant": "Q4_K_M", |
| "ppTps": 436.3196, |
| "tgTps": 46.2044, |
| "benchMaxRssGB": 4.5958 |
| }, |
| { |
| "model": "skt/A.X-4.0-Light", |
| "quant": "Q3_K_M", |
| "ppTps": 422.4645, |
| "tgTps": 34.3881, |
| "benchMaxRssGB": 3.7442 |
| } |
| ], |
| "cost": [ |
| { |
| "model": "kakaocorp/kanana-1.5-2.1b-instruct-2505", |
| "quant": "Q8_0", |
| "measureMinutes": 1.2849, |
| "benchIncluded": false, |
| "fileGB": 2.4698, |
| "downloadMinutes": null |
| }, |
| { |
| "model": "kakaocorp/kanana-1.5-2.1b-instruct-2505", |
| "quant": "Q4_K_M", |
| "measureMinutes": 1.309, |
| "benchIncluded": false, |
| "fileGB": 1.5228, |
| "downloadMinutes": null |
| }, |
| { |
| "model": "kakaocorp/kanana-1.5-2.1b-instruct-2505", |
| "quant": "Q3_K_M", |
| "measureMinutes": 1.3693, |
| "benchIncluded": false, |
| "fileGB": 1.2462, |
| "downloadMinutes": null |
| }, |
| { |
| "model": "Qwen/Qwen3-1.7B", |
| "quant": "Q8_0", |
| "measureMinutes": 1.1063, |
| "benchIncluded": false, |
| "fileGB": 2.165, |
| "downloadMinutes": null |
| }, |
| { |
| "model": "Qwen/Qwen3-1.7B", |
| "quant": "Q4_K_M", |
| "measureMinutes": 1.0882, |
| "benchIncluded": false, |
| "fileGB": 1.2824, |
| "downloadMinutes": null |
| }, |
| { |
| "model": "Qwen/Qwen3-1.7B", |
| "quant": "Q3_K_M", |
| "measureMinutes": 1.1142, |
| "benchIncluded": false, |
| "fileGB": 1.0732, |
| "downloadMinutes": null |
| }, |
| { |
| "model": "Qwen/Qwen3-4B", |
| "quant": "Q8_0", |
| "measureMinutes": 2.5174, |
| "benchIncluded": false, |
| "fileGB": 4.2804, |
| "downloadMinutes": null |
| }, |
| { |
| "model": "Qwen/Qwen3-4B", |
| "quant": "Q4_K_M", |
| "measureMinutes": 2.5573, |
| "benchIncluded": false, |
| "fileGB": 2.4973, |
| "downloadMinutes": null |
| }, |
| { |
| "model": "Qwen/Qwen3-4B", |
| "quant": "Q3_K_M", |
| "measureMinutes": 2.6417, |
| "benchIncluded": false, |
| "fileGB": 2.0756, |
| "downloadMinutes": null |
| }, |
| { |
| "model": "skt/A.X-4.0-Light", |
| "quant": "Q8_0", |
| "measureMinutes": 3.9393, |
| "benchIncluded": true, |
| "fileGB": 7.7192, |
| "downloadMinutes": 8.5016 |
| }, |
| { |
| "model": "skt/A.X-4.0-Light", |
| "quant": "Q4_K_M", |
| "measureMinutes": 3.7561, |
| "benchIncluded": true, |
| "fileGB": 4.4358, |
| "downloadMinutes": 4.5276 |
| }, |
| { |
| "model": "skt/A.X-4.0-Light", |
| "quant": "Q3_K_M", |
| "measureMinutes": 3.9187, |
| "benchIncluded": true, |
| "fileGB": 3.5848, |
| "downloadMinutes": 5.6019 |
| } |
| ] |
| } |
|
|
