{ "analysis_family": "prespecified_12_builder_cascade_contrasts", "builder_count": 12, "comparison_roles": { "incremental_ablation": { "builders": [ { "base_run_id": "base_83aca3d6aa4f4a035bf5d21c", "builder_key": "qwen35_0_8b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.09999999999999999, "ci_upper": -0.008333333333333333, "delta_ci_lower": -0.09999999999999999, "delta_ci_upper": -0.008333333333333333, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3666666666666667, "mean_delta": -0.05, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2583333333333333, "right_ci_upper": 0.375, "right_mean": 0.3166666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -537.9177027225766, "ci_upper": 323.2889064131207, "delta_ci_lower": -537.9177027225766, "delta_ci_upper": 323.2889064131207, "failure_count": 0, "left_ci_lower": 40753.08725444415, "left_ci_upper": 41902.86537312738, "left_mean": 41332.47017427736, "mean_delta": -111.21182670273507, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.797499815395, "right_ci_upper": 41788.035807290005, "right_mean": 41221.25834757462, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.48937499999995, "ci_upper": 47.88354166666666, "delta_ci_lower": -65.48937499999995, "delta_ci_upper": 47.88354166666666, "failure_count": 0, "left_ci_lower": 5804.632083333333, "left_ci_upper": 5953.433541666667, "left_mean": 5879.433333333333, "mean_delta": -7.083333333333335, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5797.172083333334, "right_ci_upper": 5945.826041666666, "right_mean": 5872.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -55.56708333333333, "ci_upper": 48.37520833333333, "delta_ci_lower": -55.56708333333333, "delta_ci_upper": 48.37520833333333, "failure_count": 0, "left_ci_lower": 5470.223541666667, "left_ci_upper": 5605.017291666666, "left_mean": 5537.833333333334, "mean_delta": -1.466666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.614583333333, "right_ci_upper": 5603.176458333334, "right_mean": 5536.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.5555555555555555, "left_ci_upper": 0.7333333333333334, "left_mean": 0.6444444444444445, "mean_delta": 2.3129646346357427e-18, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5555555555555556, "right_ci_upper": 0.7333333333333334, "right_mean": 0.6444444444444445, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.40740740740740744, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.40740740740740744, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.40740740740740744, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.40740740740740744, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.2888888888888889, "left_ci_upper": 0.48888888888888893, "left_mean": 0.38888888888888884, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.2888888888888889, "left_ci_upper": 0.48888888888888893, "left_mean": 0.38888888888888884, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.2888888888888889, "left_ci_upper": 0.48888888888888893, "left_mean": 0.38888888888888884, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.2888888888888889, "left_ci_upper": 0.48888888888888893, "left_mean": 0.38888888888888884, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1072.66742172845, "ci_upper": -562.3112629800744, "delta_ci_lower": -1072.66742172845, "delta_ci_upper": -562.3112629800744, "failure_count": 0, "left_ci_lower": 5509.5491275928125, "left_ci_upper": 6226.075410702421, "left_mean": 5841.95291250168, "mean_delta": -801.5808291791473, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4884.453787246748, "right_ci_upper": 5230.868130944387, "right_mean": 5040.372083322533, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04814814814814814, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814814, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.1953703703703704, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04814814814814814, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814814, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.1953703703703704, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04814814814814814, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814814, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.1953703703703704, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04814814814814814, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814814, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.1953703703703704, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.11835748792270533, "ci_upper": -0.020289855072463767, "delta_ci_lower": -0.11835748792270533, "delta_ci_upper": -0.020289855072463767, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.29444444444444445, "left_mean": 0.21666666666666667, "mean_delta": -0.06473429951690822, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0927536231884058, "right_ci_upper": 0.21304347826086956, "right_mean": 0.15193236714975847, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.1, "ci_upper": -0.008333333333333333, "delta_ci_lower": -0.1, "delta_ci_upper": -0.008333333333333333, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.43333333333333335, "left_mean": 0.36666666666666664, "mean_delta": -0.05, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25833333333333336, "right_ci_upper": 0.375, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -537.9177027225766, "ci_upper": 323.28890641312074, "delta_ci_lower": -537.9177027225766, "delta_ci_upper": 323.28890641312074, "failure_count": 0, "left_ci_lower": 40753.08725444415, "left_ci_upper": 41902.86537312737, "left_mean": 41332.470174277354, "mean_delta": -111.21182670273508, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.797499815395, "right_ci_upper": 41788.035807290005, "right_mean": 41221.25834757462, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.48937499999995, "ci_upper": 47.88354166666666, "delta_ci_lower": -65.48937499999995, "delta_ci_upper": 47.88354166666666, "failure_count": 0, "left_ci_lower": 5804.632083333333, "left_ci_upper": 5953.433541666667, "left_mean": 5879.433333333333, "mean_delta": -7.083333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5797.172083333334, "right_ci_upper": 5945.826041666666, "right_mean": 5872.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -55.567083333333336, "ci_upper": 48.37520833333333, "delta_ci_lower": -55.567083333333336, "delta_ci_upper": 48.37520833333333, "failure_count": 0, "left_ci_lower": 5470.223541666667, "left_ci_upper": 5605.017291666666, "left_mean": 5537.833333333333, "mean_delta": -1.4666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.614583333333, "right_ci_upper": 5603.176458333334, "right_mean": 5536.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.5555555555555556, "left_ci_upper": 0.7333333333333333, "left_mean": 0.6444444444444445, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5555555555555556, "right_ci_upper": 0.7333333333333333, "right_mean": 0.6444444444444445, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4074074074074074, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4074074074074074, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4074074074074074, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4074074074074074, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.28888888888888886, "left_ci_upper": 0.4888888888888889, "left_mean": 0.3888888888888889, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.28888888888888886, "left_ci_upper": 0.4888888888888889, "left_mean": 0.3888888888888889, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.28888888888888886, "left_ci_upper": 0.4888888888888889, "left_mean": 0.3888888888888889, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.28888888888888886, "left_ci_upper": 0.4888888888888889, "left_mean": 0.3888888888888889, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1072.66742172845, "ci_upper": -562.3112629800744, "delta_ci_lower": -1072.66742172845, "delta_ci_upper": -562.3112629800744, "failure_count": 0, "left_ci_lower": 5509.5491275928125, "left_ci_upper": 6226.075410702421, "left_mean": 5841.952912501681, "mean_delta": -801.5808291791473, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4884.453787246748, "right_ci_upper": 5230.868130944388, "right_mean": 5040.372083322533, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04814814814814815, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814815, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.19537037037037036, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04814814814814815, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814815, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.19537037037037036, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04814814814814815, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814815, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.19537037037037036, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04814814814814815, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814815, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.19537037037037036, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.11835748792270531, "ci_upper": -0.02028985507246377, "delta_ci_lower": -0.11835748792270531, "delta_ci_upper": -0.02028985507246377, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.29444444444444445, "left_mean": 0.21666666666666667, "mean_delta": -0.06473429951690822, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0927536231884058, "right_ci_upper": 0.21304347826086958, "right_mean": 0.15193236714975847, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.11488165101721438, "ci_upper": -0.01824465310380803, "delta_ci_lower": -0.11488165101721438, "delta_ci_upper": -0.01824465310380803, "failure_count": 0, "left_ci_lower": 0.22511443661971833, "left_ci_upper": 0.37024843505477295, "left_mean": 0.2963354199269692, "mean_delta": -0.06289775691184142, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1754173187271779, "right_ci_upper": 0.29424882629107985, "right_mean": 0.2334376630151278, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -620.5204714134511, "ci_upper": 407.6999097262931, "delta_ci_lower": -620.5204714134511, "delta_ci_upper": 407.6999097262931, "failure_count": 0, "left_ci_lower": 40750.94010141395, "left_ci_upper": 42037.26870817173, "left_mean": 41393.68229490895, "mean_delta": -119.79465978905722, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40625.34417341602, "right_ci_upper": 41915.517100234145, "right_mean": 41273.88763511989, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -75.60254694835679, "ci_upper": 57.712822117892514, "delta_ci_lower": -75.60254694835679, "delta_ci_upper": 57.712822117892514, "failure_count": 0, "left_ci_lower": 5796.226518648931, "left_ci_upper": 5959.5006791210235, "left_mean": 5877.478651538863, "mean_delta": -7.360002608242045, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5787.393128912363, "right_ci_upper": 5951.362771257172, "right_mean": 5870.118648930621, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -64.98807348721958, "ci_upper": 56.35063869327074, "delta_ci_lower": -64.98807348721958, "delta_ci_upper": 56.35063869327074, "failure_count": 0, "left_ci_lower": 5462.125210615545, "left_ci_upper": 5609.534061358894, "left_mean": 5535.465193009912, "mean_delta": -1.9627151799686993, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5458.370425795514, "right_ci_upper": 5608.199662558686, "right_mean": 5533.502477829943, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.0735550628233555, "ci_upper": 0.06962305986696231, "delta_ci_lower": -0.0735550628233555, "delta_ci_upper": 0.06962305986696231, "failure_count": 0, "left_ci_lower": 0.5229575018477458, "left_ci_upper": 0.7189652623798964, "left_mean": 0.6206947524020695, "mean_delta": -0.0016703621581670325, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5282324464153733, "right_ci_upper": 0.7098152254249815, "right_mean": 0.6190243902439024, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.044560236511456026, "ci_upper": -0.004308943089430894, "delta_ci_lower": -0.044560236511456026, "delta_ci_upper": -0.004308943089430894, "failure_count": 0, "left_ci_lower": 0.23747875092387288, "left_ci_upper": 0.41822862774082287, "left_mean": 0.3269376693766938, "mean_delta": -0.021271249076127124, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.044560236511456026, "ci_upper": -0.004308943089430894, "delta_ci_lower": -0.044560236511456026, "delta_ci_upper": -0.004308943089430894, "failure_count": 0, "left_ci_lower": 0.23747875092387288, "left_ci_upper": 0.41822862774082287, "left_mean": 0.3269376693766938, "mean_delta": -0.021271249076127124, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.044560236511456026, "ci_upper": -0.004308943089430894, "delta_ci_lower": -0.044560236511456026, "delta_ci_upper": -0.004308943089430894, "failure_count": 0, "left_ci_lower": 0.23747875092387288, "left_ci_upper": 0.41822862774082287, "left_mean": 0.3269376693766938, "mean_delta": -0.021271249076127124, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.044560236511456026, "ci_upper": -0.004308943089430894, "delta_ci_lower": -0.044560236511456026, "delta_ci_upper": -0.004308943089430894, "failure_count": 0, "left_ci_lower": 0.23747875092387288, "left_ci_upper": 0.41822862774082287, "left_mean": 0.3269376693766938, "mean_delta": -0.021271249076127124, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.08912047302291205, "ci_upper": -0.008617886178861788, "delta_ci_lower": -0.08912047302291205, "delta_ci_upper": -0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.2925635624538063, "left_ci_upper": 0.49315705838876567, "left_mean": 0.39197339246119733, "mean_delta": -0.04254249815225425, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.08912047302291205, "ci_upper": -0.008617886178861788, "delta_ci_lower": -0.08912047302291205, "delta_ci_upper": -0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.2925635624538063, "left_ci_upper": 0.49315705838876567, "left_mean": 0.39197339246119733, "mean_delta": -0.04254249815225425, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.08912047302291205, "ci_upper": -0.008617886178861788, "delta_ci_lower": -0.08912047302291205, "delta_ci_upper": -0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.2925635624538063, "left_ci_upper": 0.49315705838876567, "left_mean": 0.39197339246119733, "mean_delta": -0.04254249815225425, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.08912047302291205, "ci_upper": -0.008617886178861788, "delta_ci_lower": -0.08912047302291205, "delta_ci_upper": -0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.2925635624538063, "left_ci_upper": 0.49315705838876567, "left_mean": 0.39197339246119733, "mean_delta": -0.04254249815225425, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1365.6884588555545, "ci_upper": -713.895030918123, "delta_ci_lower": -1365.6884588555545, "delta_ci_upper": -713.895030918123, "failure_count": 0, "left_ci_lower": 5704.653264722998, "left_ci_upper": 6608.805200708022, "left_mean": 6125.614938866685, "mean_delta": -1019.3704751646353, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4915.1793071646625, "right_ci_upper": 5344.7537074954525, "right_mean": 5106.24446370205, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.0460780980537078, "ci_upper": -0.00709041635870904, "delta_ci_lower": -0.0460780980537078, "delta_ci_upper": -0.00709041635870904, "failure_count": 0, "left_ci_lower": 0.14125369549150038, "left_ci_upper": 0.25196218280364624, "left_mean": 0.1956639566395664, "mean_delta": -0.024619364375461934, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.0460780980537078, "ci_upper": -0.00709041635870904, "delta_ci_lower": -0.0460780980537078, "delta_ci_upper": -0.00709041635870904, "failure_count": 0, "left_ci_lower": 0.14125369549150038, "left_ci_upper": 0.25196218280364624, "left_mean": 0.1956639566395664, "mean_delta": -0.024619364375461934, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.0460780980537078, "ci_upper": -0.00709041635870904, "delta_ci_lower": -0.0460780980537078, "delta_ci_upper": -0.00709041635870904, "failure_count": 0, "left_ci_lower": 0.14125369549150038, "left_ci_upper": 0.25196218280364624, "left_mean": 0.1956639566395664, "mean_delta": -0.024619364375461934, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.0460780980537078, "ci_upper": -0.00709041635870904, "delta_ci_lower": -0.0460780980537078, "delta_ci_upper": -0.00709041635870904, "failure_count": 0, "left_ci_lower": 0.14125369549150038, "left_ci_upper": 0.25196218280364624, "left_mean": 0.1956639566395664, "mean_delta": -0.024619364375461934, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.12573797358526945, "ci_upper": -0.022617693370609593, "delta_ci_lower": -0.12573797358526945, "delta_ci_upper": -0.022617693370609593, "failure_count": 0, "left_ci_lower": 0.15136733185513673, "left_ci_upper": 0.3120473022912047, "left_mean": 0.23068736141906873, "mean_delta": -0.06919566824126738, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.09859442784151161, "right_ci_upper": 0.22573540280857354, "right_mean": 0.16149169317780138, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.09999999999999999, "ci_upper": -0.008333333333333333, "delta_ci_lower": -0.09999999999999999, "delta_ci_upper": -0.008333333333333333, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3666666666666667, "mean_delta": -0.05, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2583333333333333, "right_ci_upper": 0.375, "right_mean": 0.3166666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -537.9177027225766, "ci_upper": 323.2889064131207, "delta_ci_lower": -537.9177027225766, "delta_ci_upper": 323.2889064131207, "failure_count": 0, "left_ci_lower": 40753.08725444415, "left_ci_upper": 41902.86537312738, "left_mean": 41332.47017427736, "mean_delta": -111.21182670273507, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.797499815395, "right_ci_upper": 41788.035807290005, "right_mean": 41221.25834757462, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.48937499999995, "ci_upper": 47.88354166666666, "delta_ci_lower": -65.48937499999995, "delta_ci_upper": 47.88354166666666, "failure_count": 0, "left_ci_lower": 5804.632083333333, "left_ci_upper": 5953.433541666667, "left_mean": 5879.433333333333, "mean_delta": -7.083333333333335, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5797.172083333334, "right_ci_upper": 5945.826041666666, "right_mean": 5872.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -55.56708333333333, "ci_upper": 48.37520833333333, "delta_ci_lower": -55.56708333333333, "delta_ci_upper": 48.37520833333333, "failure_count": 0, "left_ci_lower": 5470.223541666667, "left_ci_upper": 5605.017291666666, "left_mean": 5537.833333333334, "mean_delta": -1.466666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.614583333333, "right_ci_upper": 5603.176458333334, "right_mean": 5536.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.5555555555555555, "left_ci_upper": 0.7333333333333334, "left_mean": 0.6444444444444445, "mean_delta": 2.3129646346357427e-18, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5555555555555556, "right_ci_upper": 0.7333333333333334, "right_mean": 0.6444444444444445, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.40740740740740744, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.40740740740740744, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.40740740740740744, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.40740740740740744, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.2888888888888889, "left_ci_upper": 0.48888888888888893, "left_mean": 0.38888888888888884, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.2888888888888889, "left_ci_upper": 0.48888888888888893, "left_mean": 0.38888888888888884, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.2888888888888889, "left_ci_upper": 0.48888888888888893, "left_mean": 0.38888888888888884, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.2888888888888889, "left_ci_upper": 0.48888888888888893, "left_mean": 0.38888888888888884, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1072.66742172845, "ci_upper": -562.3112629800744, "delta_ci_lower": -1072.66742172845, "delta_ci_upper": -562.3112629800744, "failure_count": 0, "left_ci_lower": 5509.5491275928125, "left_ci_upper": 6226.075410702421, "left_mean": 5841.95291250168, "mean_delta": -801.5808291791473, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4884.453787246748, "right_ci_upper": 5230.868130944387, "right_mean": 5040.372083322533, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04814814814814814, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814814, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.1953703703703704, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04814814814814814, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814814, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.1953703703703704, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04814814814814814, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814814, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.1953703703703704, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04814814814814814, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814814, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.1953703703703704, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.11835748792270533, "ci_upper": -0.020289855072463767, "delta_ci_lower": -0.11835748792270533, "delta_ci_upper": -0.020289855072463767, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.29444444444444445, "left_mean": 0.21666666666666667, "mean_delta": -0.06473429951690822, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0927536231884058, "right_ci_upper": 0.21304347826086956, "right_mean": 0.15193236714975847, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.1, "ci_upper": -0.008333333333333333, "delta_ci_lower": -0.1, "delta_ci_upper": -0.008333333333333333, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.43333333333333335, "left_mean": 0.36666666666666664, "mean_delta": -0.05, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25833333333333336, "right_ci_upper": 0.375, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -537.9177027225766, "ci_upper": 323.28890641312074, "delta_ci_lower": -537.9177027225766, "delta_ci_upper": 323.28890641312074, "failure_count": 0, "left_ci_lower": 40753.08725444415, "left_ci_upper": 41902.86537312737, "left_mean": 41332.470174277354, "mean_delta": -111.21182670273508, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.797499815395, "right_ci_upper": 41788.035807290005, "right_mean": 41221.25834757462, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.48937499999995, "ci_upper": 47.88354166666666, "delta_ci_lower": -65.48937499999995, "delta_ci_upper": 47.88354166666666, "failure_count": 0, "left_ci_lower": 5804.632083333333, "left_ci_upper": 5953.433541666667, "left_mean": 5879.433333333333, "mean_delta": -7.083333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5797.172083333334, "right_ci_upper": 5945.826041666666, "right_mean": 5872.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -55.567083333333336, "ci_upper": 48.37520833333333, "delta_ci_lower": -55.567083333333336, "delta_ci_upper": 48.37520833333333, "failure_count": 0, "left_ci_lower": 5470.223541666667, "left_ci_upper": 5605.017291666666, "left_mean": 5537.833333333333, "mean_delta": -1.4666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.614583333333, "right_ci_upper": 5603.176458333334, "right_mean": 5536.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.5555555555555556, "left_ci_upper": 0.7333333333333333, "left_mean": 0.6444444444444445, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5555555555555556, "right_ci_upper": 0.7333333333333333, "right_mean": 0.6444444444444445, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4074074074074074, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4074074074074074, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4074074074074074, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4074074074074074, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.28888888888888886, "left_ci_upper": 0.4888888888888889, "left_mean": 0.3888888888888889, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.28888888888888886, "left_ci_upper": 0.4888888888888889, "left_mean": 0.3888888888888889, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.28888888888888886, "left_ci_upper": 0.4888888888888889, "left_mean": 0.3888888888888889, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.28888888888888886, "left_ci_upper": 0.4888888888888889, "left_mean": 0.3888888888888889, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1072.66742172845, "ci_upper": -562.3112629800744, "delta_ci_lower": -1072.66742172845, "delta_ci_upper": -562.3112629800744, "failure_count": 0, "left_ci_lower": 5509.5491275928125, "left_ci_upper": 6226.075410702421, "left_mean": 5841.952912501681, "mean_delta": -801.5808291791473, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4884.453787246748, "right_ci_upper": 5230.868130944388, "right_mean": 5040.372083322533, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04814814814814815, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814815, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.19537037037037036, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04814814814814815, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814815, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.19537037037037036, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04814814814814815, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814815, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.19537037037037036, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04814814814814815, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814815, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.19537037037037036, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.11835748792270531, "ci_upper": -0.02028985507246377, "delta_ci_lower": -0.11835748792270531, "delta_ci_upper": -0.02028985507246377, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.29444444444444445, "left_mean": 0.21666666666666667, "mean_delta": -0.06473429951690822, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0927536231884058, "right_ci_upper": 0.21304347826086958, "right_mean": 0.15193236714975847, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.11488165101721438, "ci_upper": -0.01824465310380803, "delta_ci_lower": -0.11488165101721438, "delta_ci_upper": -0.01824465310380803, "failure_count": 0, "left_ci_lower": 0.22511443661971833, "left_ci_upper": 0.37024843505477295, "left_mean": 0.2963354199269692, "mean_delta": -0.06289775691184142, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1754173187271779, "right_ci_upper": 0.29424882629107985, "right_mean": 0.2334376630151278, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -620.5204714134511, "ci_upper": 407.6999097262931, "delta_ci_lower": -620.5204714134511, "delta_ci_upper": 407.6999097262931, "failure_count": 0, "left_ci_lower": 40750.94010141395, "left_ci_upper": 42037.26870817173, "left_mean": 41393.68229490895, "mean_delta": -119.79465978905722, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40625.34417341602, "right_ci_upper": 41915.517100234145, "right_mean": 41273.88763511989, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -75.60254694835679, "ci_upper": 57.712822117892514, "delta_ci_lower": -75.60254694835679, "delta_ci_upper": 57.712822117892514, "failure_count": 0, "left_ci_lower": 5796.226518648931, "left_ci_upper": 5959.5006791210235, "left_mean": 5877.478651538863, "mean_delta": -7.360002608242045, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5787.393128912363, "right_ci_upper": 5951.362771257172, "right_mean": 5870.118648930621, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -64.98807348721958, "ci_upper": 56.35063869327074, "delta_ci_lower": -64.98807348721958, "delta_ci_upper": 56.35063869327074, "failure_count": 0, "left_ci_lower": 5462.125210615545, "left_ci_upper": 5609.534061358894, "left_mean": 5535.465193009912, "mean_delta": -1.9627151799686993, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5458.370425795514, "right_ci_upper": 5608.199662558686, "right_mean": 5533.502477829943, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.0735550628233555, "ci_upper": 0.06962305986696231, "delta_ci_lower": -0.0735550628233555, "delta_ci_upper": 0.06962305986696231, "failure_count": 0, "left_ci_lower": 0.5229575018477458, "left_ci_upper": 0.7189652623798964, "left_mean": 0.6206947524020695, "mean_delta": -0.0016703621581670325, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5282324464153733, "right_ci_upper": 0.7098152254249815, "right_mean": 0.6190243902439024, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.044560236511456026, "ci_upper": -0.004308943089430894, "delta_ci_lower": -0.044560236511456026, "delta_ci_upper": -0.004308943089430894, "failure_count": 0, "left_ci_lower": 0.23747875092387288, "left_ci_upper": 0.41822862774082287, "left_mean": 0.3269376693766938, "mean_delta": -0.021271249076127124, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.044560236511456026, "ci_upper": -0.004308943089430894, "delta_ci_lower": -0.044560236511456026, "delta_ci_upper": -0.004308943089430894, "failure_count": 0, "left_ci_lower": 0.23747875092387288, "left_ci_upper": 0.41822862774082287, "left_mean": 0.3269376693766938, "mean_delta": -0.021271249076127124, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.044560236511456026, "ci_upper": -0.004308943089430894, "delta_ci_lower": -0.044560236511456026, "delta_ci_upper": -0.004308943089430894, "failure_count": 0, "left_ci_lower": 0.23747875092387288, "left_ci_upper": 0.41822862774082287, "left_mean": 0.3269376693766938, "mean_delta": -0.021271249076127124, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.044560236511456026, "ci_upper": -0.004308943089430894, "delta_ci_lower": -0.044560236511456026, "delta_ci_upper": -0.004308943089430894, "failure_count": 0, "left_ci_lower": 0.23747875092387288, "left_ci_upper": 0.41822862774082287, "left_mean": 0.3269376693766938, "mean_delta": -0.021271249076127124, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.08912047302291205, "ci_upper": -0.008617886178861788, "delta_ci_lower": -0.08912047302291205, "delta_ci_upper": -0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.2925635624538063, "left_ci_upper": 0.49315705838876567, "left_mean": 0.39197339246119733, "mean_delta": -0.04254249815225425, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.08912047302291205, "ci_upper": -0.008617886178861788, "delta_ci_lower": -0.08912047302291205, "delta_ci_upper": -0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.2925635624538063, "left_ci_upper": 0.49315705838876567, "left_mean": 0.39197339246119733, "mean_delta": -0.04254249815225425, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.08912047302291205, "ci_upper": -0.008617886178861788, "delta_ci_lower": -0.08912047302291205, "delta_ci_upper": -0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.2925635624538063, "left_ci_upper": 0.49315705838876567, "left_mean": 0.39197339246119733, "mean_delta": -0.04254249815225425, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.08912047302291205, "ci_upper": -0.008617886178861788, "delta_ci_lower": -0.08912047302291205, "delta_ci_upper": -0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.2925635624538063, "left_ci_upper": 0.49315705838876567, "left_mean": 0.39197339246119733, "mean_delta": -0.04254249815225425, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1365.6884588555545, "ci_upper": -713.895030918123, "delta_ci_lower": -1365.6884588555545, "delta_ci_upper": -713.895030918123, "failure_count": 0, "left_ci_lower": 5704.653264722998, "left_ci_upper": 6608.805200708022, "left_mean": 6125.614938866685, "mean_delta": -1019.3704751646353, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4915.1793071646625, "right_ci_upper": 5344.7537074954525, "right_mean": 5106.24446370205, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.0460780980537078, "ci_upper": -0.00709041635870904, "delta_ci_lower": -0.0460780980537078, "delta_ci_upper": -0.00709041635870904, "failure_count": 0, "left_ci_lower": 0.14125369549150038, "left_ci_upper": 0.25196218280364624, "left_mean": 0.1956639566395664, "mean_delta": -0.024619364375461934, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.0460780980537078, "ci_upper": -0.00709041635870904, "delta_ci_lower": -0.0460780980537078, "delta_ci_upper": -0.00709041635870904, "failure_count": 0, "left_ci_lower": 0.14125369549150038, "left_ci_upper": 0.25196218280364624, "left_mean": 0.1956639566395664, "mean_delta": -0.024619364375461934, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.0460780980537078, "ci_upper": -0.00709041635870904, "delta_ci_lower": -0.0460780980537078, "delta_ci_upper": -0.00709041635870904, "failure_count": 0, "left_ci_lower": 0.14125369549150038, "left_ci_upper": 0.25196218280364624, "left_mean": 0.1956639566395664, "mean_delta": -0.024619364375461934, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.0460780980537078, "ci_upper": -0.00709041635870904, "delta_ci_lower": -0.0460780980537078, "delta_ci_upper": -0.00709041635870904, "failure_count": 0, "left_ci_lower": 0.14125369549150038, "left_ci_upper": 0.25196218280364624, "left_mean": 0.1956639566395664, "mean_delta": -0.024619364375461934, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.12573797358526945, "ci_upper": -0.022617693370609593, "delta_ci_lower": -0.12573797358526945, "delta_ci_upper": -0.022617693370609593, "failure_count": 0, "left_ci_lower": 0.15136733185513673, "left_ci_upper": 0.3120473022912047, "left_mean": 0.23068736141906873, "mean_delta": -0.06919566824126738, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.09859442784151161, "right_ci_upper": 0.22573540280857354, "right_mean": 0.16149169317780138, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": -0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1320.06383047963, "ci_upper": 1310.1093866773103, "delta_ci_lower": -1320.06383047963, "delta_ci_upper": 1310.1093866773103, "failure_count": 0, "left_ci_lower": 40496.89934536873, "left_ci_upper": 43192.701802263226, "left_mean": 41865.34691938044, "mean_delta": -45.37014300003648, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40445.35340079242, "right_ci_upper": 43202.13969272503, "right_mean": 41819.976776380405, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -154.935, "ci_upper": 159.98083333333315, "delta_ci_lower": -154.935, "delta_ci_upper": 159.98083333333315, "failure_count": 0, "left_ci_lower": 5720.464999999999, "left_ci_upper": 6051.2675, "left_mean": 5889.866666666667, "mean_delta": 3.8333333333333335, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5733.496666666667, "right_ci_upper": 6051.466666666666, "right_mean": 5893.7, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -133.63499999999996, "ci_upper": 146.90249999999997, "delta_ci_lower": -133.63499999999996, "delta_ci_upper": 146.90249999999997, "failure_count": 0, "left_ci_lower": 5393.329166666666, "left_ci_upper": 5688.8741666666665, "left_mean": 5544.033333333334, "mean_delta": 9.366666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5410.9325, "right_ci_upper": 5694.735, "right_mean": 5553.4, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.43333333333333335, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.08333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.55, "left_mean": 0.3777777777777778, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.5111111111111112, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.08333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.55, "left_mean": 0.3777777777777778, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.5111111111111112, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.08333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.55, "left_mean": 0.3777777777777778, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.5111111111111112, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.08333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.55, "left_mean": 0.3777777777777778, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.5111111111111112, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1202.7754968544468, "ci_upper": -557.3161383190502, "delta_ci_lower": -1202.7754968544468, "delta_ci_upper": -557.3161383190502, "failure_count": 0, "left_ci_lower": 5348.895238207382, "left_ci_upper": 6262.326916185945, "left_mean": 5777.581288851798, "mean_delta": -857.6820485449085, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4652.678259009651, "right_ci_upper": 5195.772406204681, "right_mean": 4919.899240306889, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.07222222222222222, "ci_upper": 0.0, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.35, "left_mean": 0.2388888888888889, "mean_delta": -0.027777777777777776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.3277777777777778, "right_mean": 0.2111111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.07222222222222222, "ci_upper": 0.0, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.35, "left_mean": 0.2388888888888889, "mean_delta": -0.027777777777777776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.3277777777777778, "right_mean": 0.2111111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.07222222222222222, "ci_upper": 0.0, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.35, "left_mean": 0.2388888888888889, "mean_delta": -0.027777777777777776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.3277777777777778, "right_mean": 0.2111111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.07222222222222222, "ci_upper": 0.0, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.35, "left_mean": 0.2388888888888889, "mean_delta": -0.027777777777777776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.3277777777777778, "right_mean": 0.2111111111111111, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": -0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -485.3652996950161, "ci_upper": 465.6345653227375, "delta_ci_lower": -485.3652996950161, "delta_ci_upper": 465.6345653227375, "failure_count": 0, "left_ci_lower": 39909.165874538594, "left_ci_upper": 42137.2563445927, "left_mean": 41021.7946957564, "mean_delta": 50.31405556946993, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39953.30382841698, "right_ci_upper": 42175.909513490435, "right_mean": 41072.10875132587, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -78.43333333333334, "ci_upper": 77.6358333333333, "delta_ci_lower": -78.43333333333334, "delta_ci_upper": 77.6358333333333, "failure_count": 0, "left_ci_lower": 5703.5841666666665, "left_ci_upper": 5999.135, "left_mean": 5852.1, "mean_delta": 17.333333333333332, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5713.8308333333325, "right_ci_upper": 6022.305833333334, "right_mean": 5869.433333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -70.53499999999998, "ci_upper": 76.26666666666667, "delta_ci_lower": -70.53499999999998, "delta_ci_upper": 76.26666666666667, "failure_count": 0, "left_ci_lower": 5385.333333333333, "left_ci_upper": 5654.435, "left_mean": 5519.8, "mean_delta": 19.733333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5393.421666666667, "right_ci_upper": 5682.505, "right_mean": 5539.533333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": -0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48333333333333334, "left_mean": 0.31666666666666665, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48333333333333334, "left_mean": 0.31666666666666665, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48333333333333334, "left_mean": 0.31666666666666665, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48333333333333334, "left_mean": 0.31666666666666665, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -3272.8165128555456, "ci_upper": -1340.8177586951451, "delta_ci_lower": -3272.8165128555456, "delta_ci_upper": -1340.8177586951451, "failure_count": 0, "left_ci_lower": 6107.949065475064, "left_ci_upper": 8743.421441256458, "left_mean": 7294.3512000221135, "mean_delta": -2226.4252320475257, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4575.501511506154, "right_ci_upper": 5724.964746590704, "right_mean": 5067.925967974588, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.075, "left_ci_upper": 0.225, "left_mean": 0.14722222222222223, "mean_delta": -0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06944444444444445, "right_ci_upper": 0.20555555555555557, "right_mean": 0.1361111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.075, "left_ci_upper": 0.225, "left_mean": 0.14722222222222223, "mean_delta": -0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06944444444444445, "right_ci_upper": 0.20555555555555557, "right_mean": 0.1361111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.075, "left_ci_upper": 0.225, "left_mean": 0.14722222222222223, "mean_delta": -0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06944444444444445, "right_ci_upper": 0.20555555555555557, "right_mean": 0.1361111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.075, "left_ci_upper": 0.225, "left_mean": 0.14722222222222223, "mean_delta": -0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06944444444444445, "right_ci_upper": 0.20555555555555557, "right_mean": 0.1361111111111111, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.08260869565217391, "ci_upper": 0.0, "delta_ci_lower": -0.08260869565217391, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.6333333333333333, "left_mean": 0.45, "mean_delta": -0.02753623188405797, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25579710144927537, "right_ci_upper": 0.6, "right_mean": 0.42246376811594205, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1551.9463184854244, "ci_upper": 157.46630678321984, "delta_ci_lower": -1551.9463184854244, "delta_ci_upper": 157.46630678321984, "failure_count": 0, "left_ci_lower": 40249.66621916101, "left_ci_upper": 42587.27872757261, "left_mean": 41405.907969456166, "mean_delta": -613.5724124964327, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39658.463188973445, "right_ci_upper": 41954.62046919507, "right_mean": 40792.33555695973, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -208.70166666666665, "ci_upper": 30.66833333333331, "delta_ci_lower": -208.70166666666665, "delta_ci_upper": 30.66833333333331, "failure_count": 0, "left_ci_lower": 5744.066666666667, "left_ci_upper": 6040.801666666667, "left_mean": 5891.1, "mean_delta": -75.66666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5665.329166666666, "right_ci_upper": 5967.8341666666665, "right_mean": 5815.433333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -192.03499999999997, "ci_upper": 35.63833333333326, "delta_ci_lower": -192.03499999999997, "delta_ci_upper": 35.63833333333326, "failure_count": 0, "left_ci_lower": 5406.3983333333335, "left_ci_upper": 5670.335, "left_mean": 5537.1, "mean_delta": -66.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5329.531666666667, "right_ci_upper": 5612.371666666667, "right_mean": 5471.1, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.08333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4, "left_mean": 0.26666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.08333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4, "left_mean": 0.26666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.08333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4, "left_mean": 0.26666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.08333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4, "left_mean": 0.26666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -96.69510888110379, "ci_upper": -31.93656248215121, "delta_ci_lower": -96.69510888110379, "delta_ci_upper": -31.93656248215121, "failure_count": 0, "left_ci_lower": 5651.802111393189, "left_ci_upper": 6136.817151410893, "left_mean": 5887.276573642157, "mean_delta": -63.06767639083167, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5597.471319228449, "right_ci_upper": 6060.650320073667, "right_mean": 5824.208897251326, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.08888888888888888, "ci_upper": 0.0, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.3055555555555555, "left_mean": 0.2, "mean_delta": -0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.2611111111111111, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.08888888888888888, "ci_upper": 0.0, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.3055555555555555, "left_mean": 0.2, "mean_delta": -0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.2611111111111111, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.08888888888888888, "ci_upper": 0.0, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.3055555555555555, "left_mean": 0.2, "mean_delta": -0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.2611111111111111, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.08888888888888888, "ci_upper": 0.0, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.3055555555555555, "left_mean": 0.2, "mean_delta": -0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.2611111111111111, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -282.24114139661344, "ci_upper": 590.8066771348239, "delta_ci_lower": -282.24114139661344, "delta_ci_upper": 590.8066771348239, "failure_count": 0, "left_ci_lower": 40129.55952138135, "left_ci_upper": 41935.834714309894, "left_mean": 41036.831112516425, "mean_delta": 163.78119311605892, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40326.90700688341, "right_ci_upper": 42080.90098192275, "right_mean": 41200.61230563248, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -39.76916666666664, "ci_upper": 88.63333333333334, "delta_ci_lower": -39.76916666666664, "delta_ci_upper": 88.63333333333334, "failure_count": 0, "left_ci_lower": 5753.755, "left_ci_upper": 6013.136666666666, "left_mean": 5884.666666666667, "mean_delta": 26.166666666666668, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5783.133333333333, "right_ci_upper": 6037.87, "right_mean": 5910.833333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -27.234999999999985, "ci_upper": 89.33416666666665, "delta_ci_lower": -27.234999999999985, "delta_ci_upper": 89.33416666666665, "failure_count": 0, "left_ci_lower": 5430.8308333333325, "left_ci_upper": 5668.134166666667, "left_mean": 5550.4, "mean_delta": 31.033333333333335, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5462.965833333333, "right_ci_upper": 5698.234166666666, "right_mean": 5581.433333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": -131.40463817224372, "ci_upper": 5.686023180605843, "delta_ci_lower": -131.40463817224372, "delta_ci_upper": 5.686023180605843, "failure_count": 0, "left_ci_lower": 4269.878751568225, "left_ci_upper": 4537.731462228694, "left_mean": 4408.602587490653, "mean_delta": -59.148359733323254, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4204.346540677943, "right_ci_upper": 4492.752702613749, "right_mean": 4349.45422775733, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "left_regime": "advanced_lightrag_er", "metrics": { "answer_correct": { "ci_lower": -0.1, "ci_upper": -0.008333333333333333, "delta_ci_lower": -0.1, "delta_ci_upper": -0.008333333333333333, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.43333333333333335, "left_mean": 0.36666666666666664, "mean_delta": -0.05, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25833333333333336, "right_ci_upper": 0.375, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -537.9177027225766, "ci_upper": 323.28890641312074, "delta_ci_lower": -537.9177027225766, "delta_ci_upper": 323.28890641312074, "failure_count": 0, "left_ci_lower": 40753.08725444415, "left_ci_upper": 41902.86537312737, "left_mean": 41332.470174277354, "mean_delta": -111.21182670273508, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.797499815395, "right_ci_upper": 41788.035807290005, "right_mean": 41221.25834757462, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.48937499999995, "ci_upper": 47.88354166666666, "delta_ci_lower": -65.48937499999995, "delta_ci_upper": 47.88354166666666, "failure_count": 0, "left_ci_lower": 5804.632083333333, "left_ci_upper": 5953.433541666667, "left_mean": 5879.433333333333, "mean_delta": -7.083333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5797.172083333334, "right_ci_upper": 5945.826041666666, "right_mean": 5872.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -55.567083333333336, "ci_upper": 48.37520833333333, "delta_ci_lower": -55.567083333333336, "delta_ci_upper": 48.37520833333333, "failure_count": 0, "left_ci_lower": 5470.223541666667, "left_ci_upper": 5605.017291666666, "left_mean": 5537.833333333333, "mean_delta": -1.4666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.614583333333, "right_ci_upper": 5603.176458333334, "right_mean": 5536.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.5555555555555556, "left_ci_upper": 0.7333333333333333, "left_mean": 0.6444444444444445, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5555555555555556, "right_ci_upper": 0.7333333333333333, "right_mean": 0.6444444444444445, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4074074074074074, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4074074074074074, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4074074074074074, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": -0.005555555555555556, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": -0.005555555555555556, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4074074074074074, "left_mean": 0.32037037037037036, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.28888888888888886, "left_ci_upper": 0.4888888888888889, "left_mean": 0.3888888888888889, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.28888888888888886, "left_ci_upper": 0.4888888888888889, "left_mean": 0.3888888888888889, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.28888888888888886, "left_ci_upper": 0.4888888888888889, "left_mean": 0.3888888888888889, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.08888888888888889, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": -0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.28888888888888886, "left_ci_upper": 0.4888888888888889, "left_mean": 0.3888888888888889, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1072.66742172845, "ci_upper": -562.3112629800744, "delta_ci_lower": -1072.66742172845, "delta_ci_upper": -562.3112629800744, "failure_count": 0, "left_ci_lower": 5509.5491275928125, "left_ci_upper": 6226.075410702421, "left_mean": 5841.952912501681, "mean_delta": -801.5808291791473, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4884.453787246748, "right_ci_upper": 5230.868130944388, "right_mean": 5040.372083322533, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04814814814814815, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814815, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.19537037037037036, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04814814814814815, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814815, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.19537037037037036, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04814814814814815, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814815, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.19537037037037036, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04814814814814815, "ci_upper": -0.007407407407407407, "delta_ci_lower": -0.04814814814814815, "delta_ci_upper": -0.007407407407407407, "failure_count": 0, "left_ci_lower": 0.14166666666666666, "left_ci_upper": 0.2518518518518518, "left_mean": 0.19537037037037036, "mean_delta": -0.02592592592592592, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.11835748792270531, "ci_upper": -0.02028985507246377, "delta_ci_lower": -0.11835748792270531, "delta_ci_upper": -0.02028985507246377, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.29444444444444445, "left_mean": 0.21666666666666667, "mean_delta": -0.06473429951690822, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0927536231884058, "right_ci_upper": 0.21304347826086958, "right_mean": 0.15193236714975847, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_6ff2fb588647938593c42b5a", "builder_key": "qwen35_2b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.0, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.27499999999999997, "left_ci_upper": 0.41666666666666663, "left_mean": 0.3416666666666667, "mean_delta": -0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.39166666666666666, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 119.34754134422595, "ci_upper": 577.972620437067, "delta_ci_lower": 119.34754134422595, "delta_ci_upper": 577.972620437067, "failure_count": 0, "left_ci_lower": 40059.976913758146, "left_ci_upper": 41038.852672963934, "left_mean": 40557.29525103234, "mean_delta": 335.1485441341841, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40402.03109327558, "right_ci_upper": 41369.74620123753, "right_mean": 40892.443795166524, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 7.549583333333336, "ci_upper": 64.450625, "delta_ci_lower": 7.549583333333336, "delta_ci_upper": 64.450625, "failure_count": 0, "left_ci_lower": 5718.140416666666, "left_ci_upper": 5848.327499999999, "left_mean": 5784.091666666667, "mean_delta": 33.791666666666664, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5753.757291666667, "right_ci_upper": 5879.36875, "right_mean": 5817.883333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 5.191250000000004, "ci_upper": 60.042708333333316, "delta_ci_lower": 5.191250000000004, "delta_ci_upper": 60.042708333333316, "failure_count": 0, "left_ci_lower": 5410.549166666667, "left_ci_upper": 5537.625416666667, "left_mean": 5474.658333333333, "mean_delta": 30.491666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5444.270416666666, "right_ci_upper": 5565.4418749999995, "right_mean": 5505.15, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5111111111111112, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5888888888888889, "mean_delta": -2.3129646346357427e-18, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777777, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.2555555555555556, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.2555555555555556, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.2555555555555556, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.2555555555555556, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -37.360518670126716, "ci_upper": 8.203506921515014, "delta_ci_lower": -37.360518670126716, "delta_ci_upper": 8.203506921515014, "failure_count": 0, "left_ci_lower": 4954.895927178925, "left_ci_upper": 5274.953622981314, "left_mean": 5102.492640250905, "mean_delta": -14.6418100319958, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4938.418952318947, "right_ci_upper": 5264.841263136914, "right_mean": 5087.85083021891, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.02407407407407407, "delta_ci_lower": 0.0, "delta_ci_upper": 0.02407407407407407, "failure_count": 0, "left_ci_lower": 0.11203703703703703, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925924, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.02407407407407407, "delta_ci_lower": 0.0, "delta_ci_upper": 0.02407407407407407, "failure_count": 0, "left_ci_lower": 0.11203703703703703, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925924, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.02407407407407407, "delta_ci_lower": 0.0, "delta_ci_upper": 0.02407407407407407, "failure_count": 0, "left_ci_lower": 0.11203703703703703, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925924, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.02407407407407407, "delta_ci_lower": 0.0, "delta_ci_upper": 0.02407407407407407, "failure_count": 0, "left_ci_lower": 0.11203703703703703, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925924, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05725524475524476, "ci_upper": 0.0035483035483035484, "delta_ci_lower": -0.05725524475524476, "delta_ci_upper": 0.0035483035483035484, "failure_count": 0, "left_ci_lower": 0.17329988851727982, "left_ci_upper": 0.32051282051282054, "left_mean": 0.24640777901647468, "mean_delta": -0.02288084298953864, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15075757575757576, "right_ci_upper": 0.29798190235690225, "right_mean": 0.223526936026936, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.0, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.275, "left_ci_upper": 0.4166666666666667, "left_mean": 0.3416666666666667, "mean_delta": -0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.39166666666666666, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 119.34754134422596, "ci_upper": 577.972620437067, "delta_ci_lower": 119.34754134422596, "delta_ci_upper": 577.972620437067, "failure_count": 0, "left_ci_lower": 40059.976913758146, "left_ci_upper": 41038.852672963934, "left_mean": 40557.29525103234, "mean_delta": 335.1485441341841, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40402.03109327558, "right_ci_upper": 41369.74620123753, "right_mean": 40892.443795166524, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 7.549583333333337, "ci_upper": 64.450625, "delta_ci_lower": 7.549583333333337, "delta_ci_upper": 64.450625, "failure_count": 0, "left_ci_lower": 5718.140416666666, "left_ci_upper": 5848.327499999999, "left_mean": 5784.091666666666, "mean_delta": 33.791666666666664, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5753.757291666667, "right_ci_upper": 5879.36875, "right_mean": 5817.883333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 5.191250000000004, "ci_upper": 60.042708333333316, "delta_ci_lower": 5.191250000000004, "delta_ci_upper": 60.042708333333316, "failure_count": 0, "left_ci_lower": 5410.549166666667, "left_ci_upper": 5537.625416666667, "left_mean": 5474.658333333334, "mean_delta": 30.491666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5444.270416666666, "right_ci_upper": 5565.4418749999995, "right_mean": 5505.15, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5111111111111111, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5888888888888889, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777778, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.25555555555555554, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.25555555555555554, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.25555555555555554, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.25555555555555554, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -37.360518670126716, "ci_upper": 8.203506921515013, "delta_ci_lower": -37.360518670126716, "delta_ci_upper": 8.203506921515013, "failure_count": 0, "left_ci_lower": 4954.895927178926, "left_ci_upper": 5274.953622981314, "left_mean": 5102.492640250905, "mean_delta": -14.641810031995798, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4938.418952318946, "right_ci_upper": 5264.841263136914, "right_mean": 5087.85083021891, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.024074074074074074, "delta_ci_lower": 0.0, "delta_ci_upper": 0.024074074074074074, "failure_count": 0, "left_ci_lower": 0.11203703703703705, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925927, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.024074074074074074, "delta_ci_lower": 0.0, "delta_ci_upper": 0.024074074074074074, "failure_count": 0, "left_ci_lower": 0.11203703703703705, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925927, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.024074074074074074, "delta_ci_lower": 0.0, "delta_ci_upper": 0.024074074074074074, "failure_count": 0, "left_ci_lower": 0.11203703703703705, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925927, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.024074074074074074, "delta_ci_lower": 0.0, "delta_ci_upper": 0.024074074074074074, "failure_count": 0, "left_ci_lower": 0.11203703703703705, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925927, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05725524475524476, "ci_upper": 0.0035483035483035484, "delta_ci_lower": -0.05725524475524476, "delta_ci_upper": 0.0035483035483035484, "failure_count": 0, "left_ci_lower": 0.17329988851727982, "left_ci_upper": 0.32051282051282054, "left_mean": 0.24640777901647468, "mean_delta": -0.02288084298953864, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15075757575757576, "right_ci_upper": 0.29798190235690225, "right_mean": 0.22352693602693602, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.05713354199269692, "ci_upper": 0.0, "delta_ci_lower": -0.05713354199269692, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.21800991131977046, "left_ci_upper": 0.36543003390714657, "left_mean": 0.290753781950965, "mean_delta": -0.02520865936358894, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1936851199791341, "right_ci_upper": 0.3394242305685968, "right_mean": 0.2655451225873761, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 48.99629797453101, "ci_upper": 579.5500500579872, "delta_ci_lower": 48.99629797453101, "delta_ci_upper": 579.5500500579872, "failure_count": 0, "left_ci_lower": 40053.76224056054, "left_ci_upper": 41185.15119765851, "left_mean": 40628.48111860495, "mean_delta": 298.5451484352691, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40374.268869549385, "right_ci_upper": 41471.359642262956, "right_mean": 40927.026267040215, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -0.5861900104329526, "ci_upper": 66.80562728221179, "delta_ci_lower": -0.5861900104329526, "delta_ci_upper": 66.80562728221179, "failure_count": 0, "left_ci_lower": 5710.674153951486, "left_ci_upper": 5859.317998826291, "left_mean": 5785.590792905581, "mean_delta": 30.700834637454356, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.397650625978, "right_ci_upper": 5886.094803077725, "right_mean": 5816.291627543036, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -2.215079225352113, "ci_upper": 62.793937793427204, "delta_ci_lower": -2.215079225352113, "delta_ci_upper": 62.793937793427204, "failure_count": 0, "left_ci_lower": 5402.499995109546, "left_ci_upper": 5544.093843896713, "left_mean": 5473.5741523213355, "mean_delta": 27.8533255086072, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5433.289984350548, "right_ci_upper": 5568.085725091289, "right_mean": 5501.427477829942, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03447154471544715, "ci_upper": 0.06493717664449371, "delta_ci_lower": -0.03447154471544715, "delta_ci_upper": 0.06493717664449371, "failure_count": 0, "left_ci_lower": 0.4747671840354767, "left_ci_upper": 0.6414929785661491, "left_mean": 0.5587139689578714, "mean_delta": 0.010923872875092387, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4816430155210644, "right_ci_upper": 0.6587583148558759, "right_mean": 0.5696378418329638, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.018093126385809313, "delta_ci_lower": 0.0, "delta_ci_upper": 0.018093126385809313, "failure_count": 0, "left_ci_lower": 0.22321655580192173, "left_ci_upper": 0.4082557280118256, "left_mean": 0.3137694013303769, "mean_delta": 0.006031042128603104, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.018093126385809313, "delta_ci_lower": 0.0, "delta_ci_upper": 0.018093126385809313, "failure_count": 0, "left_ci_lower": 0.22321655580192173, "left_ci_upper": 0.4082557280118256, "left_mean": 0.3137694013303769, "mean_delta": 0.006031042128603104, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.018093126385809313, "delta_ci_lower": 0.0, "delta_ci_upper": 0.018093126385809313, "failure_count": 0, "left_ci_lower": 0.22321655580192173, "left_ci_upper": 0.4082557280118256, "left_mean": 0.3137694013303769, "mean_delta": 0.006031042128603104, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.018093126385809313, "delta_ci_lower": 0.0, "delta_ci_upper": 0.018093126385809313, "failure_count": 0, "left_ci_lower": 0.22321655580192173, "left_ci_upper": 0.4082557280118256, "left_mean": 0.3137694013303769, "mean_delta": 0.006031042128603104, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.036186252771618625, "delta_ci_lower": 0.0, "delta_ci_upper": 0.036186252771618625, "failure_count": 0, "left_ci_lower": 0.24362379896526248, "left_ci_upper": 0.43738137472283795, "left_mean": 0.3390539541759054, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.036186252771618625, "delta_ci_lower": 0.0, "delta_ci_upper": 0.036186252771618625, "failure_count": 0, "left_ci_lower": 0.24362379896526248, "left_ci_upper": 0.43738137472283795, "left_mean": 0.3390539541759054, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.036186252771618625, "delta_ci_lower": 0.0, "delta_ci_upper": 0.036186252771618625, "failure_count": 0, "left_ci_lower": 0.24362379896526248, "left_ci_upper": 0.43738137472283795, "left_mean": 0.3390539541759054, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.036186252771618625, "delta_ci_lower": 0.0, "delta_ci_upper": 0.036186252771618625, "failure_count": 0, "left_ci_lower": 0.24362379896526248, "left_ci_upper": 0.43738137472283795, "left_mean": 0.3390539541759054, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -43.68889864970006, "ci_upper": 11.798236183081347, "delta_ci_lower": -43.68889864970006, "delta_ci_upper": 11.798236183081347, "failure_count": 0, "left_ci_lower": 4996.334310583516, "left_ci_upper": 5386.867795857503, "left_mean": 5175.86773644587, "mean_delta": -15.849092178412043, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4976.872046304349, "right_ci_upper": 5379.45861465076, "right_mean": 5160.018644267458, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.026134515890613448, "delta_ci_lower": 0.0, "delta_ci_upper": 0.026134515890613448, "failure_count": 0, "left_ci_lower": 0.10453769401330376, "left_ci_upper": 0.205240330130574, "left_mean": 0.15201527469820153, "mean_delta": 0.010051736881005172, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.026134515890613448, "delta_ci_lower": 0.0, "delta_ci_upper": 0.026134515890613448, "failure_count": 0, "left_ci_lower": 0.10453769401330376, "left_ci_upper": 0.205240330130574, "left_mean": 0.15201527469820153, "mean_delta": 0.010051736881005172, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.026134515890613448, "delta_ci_lower": 0.0, "delta_ci_upper": 0.026134515890613448, "failure_count": 0, "left_ci_lower": 0.10453769401330376, "left_ci_upper": 0.205240330130574, "left_mean": 0.15201527469820153, "mean_delta": 0.010051736881005172, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.026134515890613448, "delta_ci_lower": 0.0, "delta_ci_upper": 0.026134515890613448, "failure_count": 0, "left_ci_lower": 0.10453769401330376, "left_ci_upper": 0.205240330130574, "left_mean": 0.15201527469820153, "mean_delta": 0.010051736881005172, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06215558277642535, "ci_upper": 0.003851994273280304, "delta_ci_lower": -0.06215558277642535, "delta_ci_upper": 0.003851994273280304, "failure_count": 0, "left_ci_lower": 0.18470066518847006, "left_ci_upper": 0.34040577485434326, "left_mean": 0.2623826650549875, "mean_delta": -0.024839159041414895, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16097554256534302, "right_ci_upper": 0.31551575623194245, "right_mean": 0.2375435060135725, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.0, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.27499999999999997, "left_ci_upper": 0.41666666666666663, "left_mean": 0.3416666666666667, "mean_delta": -0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.39166666666666666, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 119.34754134422595, "ci_upper": 577.972620437067, "delta_ci_lower": 119.34754134422595, "delta_ci_upper": 577.972620437067, "failure_count": 0, "left_ci_lower": 40059.976913758146, "left_ci_upper": 41038.852672963934, "left_mean": 40557.29525103234, "mean_delta": 335.1485441341841, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40402.03109327558, "right_ci_upper": 41369.74620123753, "right_mean": 40892.443795166524, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 7.549583333333336, "ci_upper": 64.450625, "delta_ci_lower": 7.549583333333336, "delta_ci_upper": 64.450625, "failure_count": 0, "left_ci_lower": 5718.140416666666, "left_ci_upper": 5848.327499999999, "left_mean": 5784.091666666667, "mean_delta": 33.791666666666664, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5753.757291666667, "right_ci_upper": 5879.36875, "right_mean": 5817.883333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 5.191250000000004, "ci_upper": 60.042708333333316, "delta_ci_lower": 5.191250000000004, "delta_ci_upper": 60.042708333333316, "failure_count": 0, "left_ci_lower": 5410.549166666667, "left_ci_upper": 5537.625416666667, "left_mean": 5474.658333333333, "mean_delta": 30.491666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5444.270416666666, "right_ci_upper": 5565.4418749999995, "right_mean": 5505.15, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5111111111111112, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5888888888888889, "mean_delta": -2.3129646346357427e-18, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777777, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.2555555555555556, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.2555555555555556, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.2555555555555556, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.2555555555555556, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -37.360518670126716, "ci_upper": 8.203506921515014, "delta_ci_lower": -37.360518670126716, "delta_ci_upper": 8.203506921515014, "failure_count": 0, "left_ci_lower": 4954.895927178925, "left_ci_upper": 5274.953622981314, "left_mean": 5102.492640250905, "mean_delta": -14.6418100319958, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4938.418952318947, "right_ci_upper": 5264.841263136914, "right_mean": 5087.85083021891, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.02407407407407407, "delta_ci_lower": 0.0, "delta_ci_upper": 0.02407407407407407, "failure_count": 0, "left_ci_lower": 0.11203703703703703, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925924, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.02407407407407407, "delta_ci_lower": 0.0, "delta_ci_upper": 0.02407407407407407, "failure_count": 0, "left_ci_lower": 0.11203703703703703, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925924, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.02407407407407407, "delta_ci_lower": 0.0, "delta_ci_upper": 0.02407407407407407, "failure_count": 0, "left_ci_lower": 0.11203703703703703, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925924, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.02407407407407407, "delta_ci_lower": 0.0, "delta_ci_upper": 0.02407407407407407, "failure_count": 0, "left_ci_lower": 0.11203703703703703, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925924, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05725524475524476, "ci_upper": 0.0035483035483035484, "delta_ci_lower": -0.05725524475524476, "delta_ci_upper": 0.0035483035483035484, "failure_count": 0, "left_ci_lower": 0.17329988851727982, "left_ci_upper": 0.32051282051282054, "left_mean": 0.24640777901647468, "mean_delta": -0.02288084298953864, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15075757575757576, "right_ci_upper": 0.29798190235690225, "right_mean": 0.223526936026936, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.0, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.275, "left_ci_upper": 0.4166666666666667, "left_mean": 0.3416666666666667, "mean_delta": -0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.39166666666666666, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 119.34754134422596, "ci_upper": 577.972620437067, "delta_ci_lower": 119.34754134422596, "delta_ci_upper": 577.972620437067, "failure_count": 0, "left_ci_lower": 40059.976913758146, "left_ci_upper": 41038.852672963934, "left_mean": 40557.29525103234, "mean_delta": 335.1485441341841, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40402.03109327558, "right_ci_upper": 41369.74620123753, "right_mean": 40892.443795166524, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 7.549583333333337, "ci_upper": 64.450625, "delta_ci_lower": 7.549583333333337, "delta_ci_upper": 64.450625, "failure_count": 0, "left_ci_lower": 5718.140416666666, "left_ci_upper": 5848.327499999999, "left_mean": 5784.091666666666, "mean_delta": 33.791666666666664, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5753.757291666667, "right_ci_upper": 5879.36875, "right_mean": 5817.883333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 5.191250000000004, "ci_upper": 60.042708333333316, "delta_ci_lower": 5.191250000000004, "delta_ci_upper": 60.042708333333316, "failure_count": 0, "left_ci_lower": 5410.549166666667, "left_ci_upper": 5537.625416666667, "left_mean": 5474.658333333334, "mean_delta": 30.491666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5444.270416666666, "right_ci_upper": 5565.4418749999995, "right_mean": 5505.15, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5111111111111111, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5888888888888889, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777778, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.25555555555555554, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.25555555555555554, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.25555555555555554, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.25555555555555554, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -37.360518670126716, "ci_upper": 8.203506921515013, "delta_ci_lower": -37.360518670126716, "delta_ci_upper": 8.203506921515013, "failure_count": 0, "left_ci_lower": 4954.895927178926, "left_ci_upper": 5274.953622981314, "left_mean": 5102.492640250905, "mean_delta": -14.641810031995798, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4938.418952318946, "right_ci_upper": 5264.841263136914, "right_mean": 5087.85083021891, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.024074074074074074, "delta_ci_lower": 0.0, "delta_ci_upper": 0.024074074074074074, "failure_count": 0, "left_ci_lower": 0.11203703703703705, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925927, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.024074074074074074, "delta_ci_lower": 0.0, "delta_ci_upper": 0.024074074074074074, "failure_count": 0, "left_ci_lower": 0.11203703703703705, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925927, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.024074074074074074, "delta_ci_lower": 0.0, "delta_ci_upper": 0.024074074074074074, "failure_count": 0, "left_ci_lower": 0.11203703703703705, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925927, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.024074074074074074, "delta_ci_lower": 0.0, "delta_ci_upper": 0.024074074074074074, "failure_count": 0, "left_ci_lower": 0.11203703703703705, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925927, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05725524475524476, "ci_upper": 0.0035483035483035484, "delta_ci_lower": -0.05725524475524476, "delta_ci_upper": 0.0035483035483035484, "failure_count": 0, "left_ci_lower": 0.17329988851727982, "left_ci_upper": 0.32051282051282054, "left_mean": 0.24640777901647468, "mean_delta": -0.02288084298953864, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15075757575757576, "right_ci_upper": 0.29798190235690225, "right_mean": 0.22352693602693602, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.05713354199269692, "ci_upper": 0.0, "delta_ci_lower": -0.05713354199269692, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.21800991131977046, "left_ci_upper": 0.36543003390714657, "left_mean": 0.290753781950965, "mean_delta": -0.02520865936358894, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1936851199791341, "right_ci_upper": 0.3394242305685968, "right_mean": 0.2655451225873761, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 48.99629797453101, "ci_upper": 579.5500500579872, "delta_ci_lower": 48.99629797453101, "delta_ci_upper": 579.5500500579872, "failure_count": 0, "left_ci_lower": 40053.76224056054, "left_ci_upper": 41185.15119765851, "left_mean": 40628.48111860495, "mean_delta": 298.5451484352691, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40374.268869549385, "right_ci_upper": 41471.359642262956, "right_mean": 40927.026267040215, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -0.5861900104329526, "ci_upper": 66.80562728221179, "delta_ci_lower": -0.5861900104329526, "delta_ci_upper": 66.80562728221179, "failure_count": 0, "left_ci_lower": 5710.674153951486, "left_ci_upper": 5859.317998826291, "left_mean": 5785.590792905581, "mean_delta": 30.700834637454356, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.397650625978, "right_ci_upper": 5886.094803077725, "right_mean": 5816.291627543036, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -2.215079225352113, "ci_upper": 62.793937793427204, "delta_ci_lower": -2.215079225352113, "delta_ci_upper": 62.793937793427204, "failure_count": 0, "left_ci_lower": 5402.499995109546, "left_ci_upper": 5544.093843896713, "left_mean": 5473.5741523213355, "mean_delta": 27.8533255086072, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5433.289984350548, "right_ci_upper": 5568.085725091289, "right_mean": 5501.427477829942, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03447154471544715, "ci_upper": 0.06493717664449371, "delta_ci_lower": -0.03447154471544715, "delta_ci_upper": 0.06493717664449371, "failure_count": 0, "left_ci_lower": 0.4747671840354767, "left_ci_upper": 0.6414929785661491, "left_mean": 0.5587139689578714, "mean_delta": 0.010923872875092387, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4816430155210644, "right_ci_upper": 0.6587583148558759, "right_mean": 0.5696378418329638, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.018093126385809313, "delta_ci_lower": 0.0, "delta_ci_upper": 0.018093126385809313, "failure_count": 0, "left_ci_lower": 0.22321655580192173, "left_ci_upper": 0.4082557280118256, "left_mean": 0.3137694013303769, "mean_delta": 0.006031042128603104, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.018093126385809313, "delta_ci_lower": 0.0, "delta_ci_upper": 0.018093126385809313, "failure_count": 0, "left_ci_lower": 0.22321655580192173, "left_ci_upper": 0.4082557280118256, "left_mean": 0.3137694013303769, "mean_delta": 0.006031042128603104, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.018093126385809313, "delta_ci_lower": 0.0, "delta_ci_upper": 0.018093126385809313, "failure_count": 0, "left_ci_lower": 0.22321655580192173, "left_ci_upper": 0.4082557280118256, "left_mean": 0.3137694013303769, "mean_delta": 0.006031042128603104, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.018093126385809313, "delta_ci_lower": 0.0, "delta_ci_upper": 0.018093126385809313, "failure_count": 0, "left_ci_lower": 0.22321655580192173, "left_ci_upper": 0.4082557280118256, "left_mean": 0.3137694013303769, "mean_delta": 0.006031042128603104, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.036186252771618625, "delta_ci_lower": 0.0, "delta_ci_upper": 0.036186252771618625, "failure_count": 0, "left_ci_lower": 0.24362379896526248, "left_ci_upper": 0.43738137472283795, "left_mean": 0.3390539541759054, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.036186252771618625, "delta_ci_lower": 0.0, "delta_ci_upper": 0.036186252771618625, "failure_count": 0, "left_ci_lower": 0.24362379896526248, "left_ci_upper": 0.43738137472283795, "left_mean": 0.3390539541759054, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.036186252771618625, "delta_ci_lower": 0.0, "delta_ci_upper": 0.036186252771618625, "failure_count": 0, "left_ci_lower": 0.24362379896526248, "left_ci_upper": 0.43738137472283795, "left_mean": 0.3390539541759054, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.036186252771618625, "delta_ci_lower": 0.0, "delta_ci_upper": 0.036186252771618625, "failure_count": 0, "left_ci_lower": 0.24362379896526248, "left_ci_upper": 0.43738137472283795, "left_mean": 0.3390539541759054, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -43.68889864970006, "ci_upper": 11.798236183081347, "delta_ci_lower": -43.68889864970006, "delta_ci_upper": 11.798236183081347, "failure_count": 0, "left_ci_lower": 4996.334310583516, "left_ci_upper": 5386.867795857503, "left_mean": 5175.86773644587, "mean_delta": -15.849092178412043, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4976.872046304349, "right_ci_upper": 5379.45861465076, "right_mean": 5160.018644267458, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.026134515890613448, "delta_ci_lower": 0.0, "delta_ci_upper": 0.026134515890613448, "failure_count": 0, "left_ci_lower": 0.10453769401330376, "left_ci_upper": 0.205240330130574, "left_mean": 0.15201527469820153, "mean_delta": 0.010051736881005172, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.026134515890613448, "delta_ci_lower": 0.0, "delta_ci_upper": 0.026134515890613448, "failure_count": 0, "left_ci_lower": 0.10453769401330376, "left_ci_upper": 0.205240330130574, "left_mean": 0.15201527469820153, "mean_delta": 0.010051736881005172, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.026134515890613448, "delta_ci_lower": 0.0, "delta_ci_upper": 0.026134515890613448, "failure_count": 0, "left_ci_lower": 0.10453769401330376, "left_ci_upper": 0.205240330130574, "left_mean": 0.15201527469820153, "mean_delta": 0.010051736881005172, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.026134515890613448, "delta_ci_lower": 0.0, "delta_ci_upper": 0.026134515890613448, "failure_count": 0, "left_ci_lower": 0.10453769401330376, "left_ci_upper": 0.205240330130574, "left_mean": 0.15201527469820153, "mean_delta": 0.010051736881005172, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06215558277642535, "ci_upper": 0.003851994273280304, "delta_ci_lower": -0.06215558277642535, "delta_ci_upper": 0.003851994273280304, "failure_count": 0, "left_ci_lower": 0.18470066518847006, "left_ci_upper": 0.34040577485434326, "left_mean": 0.2623826650549875, "mean_delta": -0.024839159041414895, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16097554256534302, "right_ci_upper": 0.31551575623194245, "right_mean": 0.2375435060135725, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.2, "left_mean": 0.1, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.2, "right_mean": 0.1, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -687.3212129933138, "ci_upper": 50.855804485424, "delta_ci_lower": -687.3212129933138, "delta_ci_upper": 50.855804485424, "failure_count": 0, "left_ci_lower": 39425.133772716894, "left_ci_upper": 41802.36215545641, "left_mean": 40586.78889725512, "mean_delta": -272.2735819018756, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39248.38216889456, "right_ci_upper": 41446.55933163653, "right_mean": 40314.51531535325, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -78.66666666666667, "ci_upper": 12.367499999999987, "delta_ci_lower": -78.66666666666667, "delta_ci_upper": 12.367499999999987, "failure_count": 0, "left_ci_lower": 5560.165, "left_ci_upper": 5863.066666666667, "left_mean": 5710.366666666667, "mean_delta": -22.333333333333332, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5548.998333333333, "right_ci_upper": 5832.903333333333, "right_mean": 5688.033333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -74.63666666666664, "ci_upper": 14.733333333333333, "delta_ci_lower": -74.63666666666664, "delta_ci_upper": 14.733333333333333, "failure_count": 0, "left_ci_lower": 5258.1975, "left_ci_upper": 5542.635833333334, "left_mean": 5400.233333333334, "mean_delta": -19.333333333333332, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5248.896666666666, "right_ci_upper": 5517.740833333333, "right_mean": 5380.9, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.4166666666666667, "left_mean": 0.25, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.4166666666666667, "right_mean": 0.25, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.4166666666666667, "left_mean": 0.25, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.4166666666666667, "right_mean": 0.25, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.4166666666666667, "left_mean": 0.25, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.4166666666666667, "right_mean": 0.25, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.4166666666666667, "left_mean": 0.25, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.4166666666666667, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -80.50522970559541, "ci_upper": -21.32576505789378, "delta_ci_lower": -80.50522970559541, "delta_ci_upper": -21.32576505789378, "failure_count": 0, "left_ci_lower": 4753.590507701738, "left_ci_upper": 5279.876414056828, "left_mean": 5010.9895152815925, "mean_delta": -50.20814722714325, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4706.2517220230075, "right_ci_upper": 5224.088998584388, "right_mean": 4960.78136805445, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.05555555555555555, "left_ci_upper": 0.2611111111111111, "left_mean": 0.15, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.05555555555555555, "right_ci_upper": 0.2611111111111111, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.05555555555555555, "left_ci_upper": 0.2611111111111111, "left_mean": 0.15, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.05555555555555555, "right_ci_upper": 0.2611111111111111, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.05555555555555555, "left_ci_upper": 0.2611111111111111, "left_mean": 0.15, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.05555555555555555, "right_ci_upper": 0.2611111111111111, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.05555555555555555, "left_ci_upper": 0.2611111111111111, "left_mean": 0.15, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.05555555555555555, "right_ci_upper": 0.2611111111111111, "right_mean": 0.15, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.2, "left_mean": 0.1, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.2, "right_mean": 0.1, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 133.2513916345003, "ci_upper": 1460.8760242202939, "delta_ci_lower": 133.2513916345003, "delta_ci_upper": 1460.8760242202939, "failure_count": 0, "left_ci_lower": 39460.31851425592, "left_ci_upper": 41394.77611416717, "left_mean": 40425.204238776736, "mean_delta": 711.567197383071, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40134.54672236772, "right_ci_upper": 42146.7557516438, "right_mean": 41136.77143615981, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 8.432500000000008, "ci_upper": 184.16916666666663, "delta_ci_lower": 8.432500000000008, "delta_ci_upper": 184.16916666666663, "failure_count": 0, "left_ci_lower": 5670.733333333334, "left_ci_upper": 5944.6, "left_mean": 5806.0, "mean_delta": 81.83333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5755.399166666666, "right_ci_upper": 6016.371666666667, "right_mean": 5887.833333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 4.599166666666673, "ci_upper": 173.6683333333333, "delta_ci_lower": 4.599166666666673, "delta_ci_upper": 173.6683333333333, "failure_count": 0, "left_ci_lower": 5374.5275, "left_ci_upper": 5632.071666666666, "left_mean": 5501.0, "mean_delta": 75.06666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5453.665000000001, "right_ci_upper": 5696.505, "right_mean": 5576.066666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.45, "left_mean": 0.2833333333333333, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.15, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.45, "left_mean": 0.2833333333333333, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.15, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.45, "left_mean": 0.2833333333333333, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.15, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.45, "left_mean": 0.2833333333333333, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.15, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -56.93859539829036, "ci_upper": 95.69873819011262, "delta_ci_lower": -56.93859539829036, "delta_ci_upper": 95.69873819011262, "failure_count": 0, "left_ci_lower": 4687.331562786325, "left_ci_upper": 5727.378244528663, "left_mean": 5148.125968050833, "mean_delta": 19.16991260368377, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4683.646637293276, "right_ci_upper": 5783.7115941943675, "right_mean": 5167.295880654517, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.07222222222222222, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.15833333333333333, "left_mean": 0.1, "mean_delta": 0.027777777777777776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2, "right_mean": 0.12777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07222222222222222, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.15833333333333333, "left_mean": 0.1, "mean_delta": 0.027777777777777776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2, "right_mean": 0.12777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07222222222222222, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.15833333333333333, "left_mean": 0.1, "mean_delta": 0.027777777777777776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2, "right_mean": 0.12777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07222222222222222, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.15833333333333333, "left_mean": 0.1, "mean_delta": 0.027777777777777776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2, "right_mean": 0.12777777777777777, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.17280919563528258, "ci_upper": 0.010748792270531403, "delta_ci_lower": -0.17280919563528258, "delta_ci_upper": 0.010748792270531403, "failure_count": 0, "left_ci_lower": 0.40033444816053515, "left_ci_upper": 0.7336701040505388, "left_mean": 0.5725566703827574, "mean_delta": -0.06864252896861592, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3316919191919192, "right_ci_upper": 0.6705808080808081, "right_mean": 0.5039141414141414, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 210.01188133358184, "ci_upper": 910.1862080575665, "delta_ci_lower": 210.01188133358184, "delta_ci_upper": 910.1862080575665, "failure_count": 0, "left_ci_lower": 40421.542715689866, "left_ci_upper": 42357.01376215244, "left_mean": 41385.69587221524, "mean_delta": 511.40880697251606, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40944.60600238604, "right_ci_upper": 42884.21911723078, "right_mean": 41897.10467918776, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 14.6, "ci_upper": 42.766666666666666, "delta_ci_lower": 14.6, "delta_ci_upper": 42.766666666666666, "failure_count": 0, "left_ci_lower": 5772.431666666667, "left_ci_upper": 6031.534166666667, "left_mean": 5902.766666666666, "mean_delta": 28.5, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5806.065, "right_ci_upper": 6055.100833333334, "right_mean": 5931.266666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 9.96583333333334, "ci_upper": 35.63499999999997, "delta_ci_lower": 9.96583333333334, "delta_ci_upper": 35.63499999999997, "failure_count": 0, "left_ci_lower": 5432.166666666667, "left_ci_upper": 5693.7, "left_mean": 5563.2, "mean_delta": 23.233333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5457.764166666667, "right_ci_upper": 5711.970833333333, "right_mean": 5586.433333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.23333333333333334, "ci_upper": 0.0, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": -0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.6333333333333333, "right_ci_upper": 0.9333333333333333, "right_mean": 0.8, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.6166666666666667, "left_mean": 0.45, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.6166666666666667, "left_mean": 0.45, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.6166666666666667, "left_mean": 0.45, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.6166666666666667, "left_mean": 0.45, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -44.210048012319014, "ci_upper": 9.953182966370756, "delta_ci_lower": -44.210048012319014, "delta_ci_upper": 9.953182966370756, "failure_count": 0, "left_ci_lower": 5628.085275168996, "left_ci_upper": 6108.614389191303, "left_mean": 5864.300499879755, "mean_delta": -17.335190104010206, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5621.405848161279, "right_ci_upper": 6079.897986196447, "right_mean": 5846.965309775745, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3222222222222222, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1388888888888889, "right_ci_upper": 0.3222222222222222, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3222222222222222, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1388888888888889, "right_ci_upper": 0.3222222222222222, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3222222222222222, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1388888888888889, "right_ci_upper": 0.3222222222222222, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3222222222222222, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1388888888888889, "right_ci_upper": 0.3222222222222222, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 126.8093564341932, "ci_upper": 765.5880640006698, "delta_ci_lower": 126.8093564341932, "delta_ci_upper": 765.5880640006698, "failure_count": 0, "left_ci_lower": 39173.47770213771, "left_ci_upper": 40511.61781038759, "left_mean": 39831.49199588224, "mean_delta": 389.891754083025, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39509.954919332515, "right_ci_upper": 40918.17285008496, "right_mean": 40221.383749965265, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 11.732500000000007, "ci_upper": 102.50083333333332, "delta_ci_lower": 11.732500000000007, "delta_ci_upper": 102.50083333333332, "failure_count": 0, "left_ci_lower": 5625.266666666666, "left_ci_upper": 5809.301666666667, "left_mean": 5717.233333333334, "mean_delta": 47.166666666666664, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5670.065833333333, "right_ci_upper": 5856.635, "right_mean": 5764.4, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": 9.133333333333333, "ci_upper": 94.93333333333334, "delta_ci_lower": 9.133333333333333, "delta_ci_upper": 94.93333333333334, "failure_count": 0, "left_ci_lower": 5343.933333333333, "left_ci_upper": 5523.005, "left_mean": 5434.2, "mean_delta": 43.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5385.828333333333, "right_ci_upper": 5566.701666666666, "right_mean": 5477.2, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": -36.396495015166394, "ci_upper": 16.420113257675705, "delta_ci_lower": -36.396495015166394, "delta_ci_upper": 16.420113257675705, "failure_count": 0, "left_ci_lower": 4242.769114929834, "left_ci_upper": 4526.36403711338, "left_mean": 4386.554577791442, "mean_delta": -10.19381540051351, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4237.134064804802, "right_ci_upper": 4509.705470774013, "right_mean": 4376.360762390929, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "left_regime": "advanced_lightrag_er", "metrics": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.0, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.275, "left_ci_upper": 0.4166666666666667, "left_mean": 0.3416666666666667, "mean_delta": -0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.39166666666666666, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 119.34754134422596, "ci_upper": 577.972620437067, "delta_ci_lower": 119.34754134422596, "delta_ci_upper": 577.972620437067, "failure_count": 0, "left_ci_lower": 40059.976913758146, "left_ci_upper": 41038.852672963934, "left_mean": 40557.29525103234, "mean_delta": 335.1485441341841, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40402.03109327558, "right_ci_upper": 41369.74620123753, "right_mean": 40892.443795166524, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 7.549583333333337, "ci_upper": 64.450625, "delta_ci_lower": 7.549583333333337, "delta_ci_upper": 64.450625, "failure_count": 0, "left_ci_lower": 5718.140416666666, "left_ci_upper": 5848.327499999999, "left_mean": 5784.091666666666, "mean_delta": 33.791666666666664, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5753.757291666667, "right_ci_upper": 5879.36875, "right_mean": 5817.883333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 5.191250000000004, "ci_upper": 60.042708333333316, "delta_ci_lower": 5.191250000000004, "delta_ci_upper": 60.042708333333316, "failure_count": 0, "left_ci_lower": 5410.549166666667, "left_ci_upper": 5537.625416666667, "left_mean": 5474.658333333334, "mean_delta": 30.491666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5444.270416666666, "right_ci_upper": 5565.4418749999995, "right_mean": 5505.15, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5111111111111111, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5888888888888889, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777778, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2388888888888889, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.25555555555555554, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.25555555555555554, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.25555555555555554, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.25555555555555554, "left_ci_upper": 0.45555555555555555, "left_mean": 0.35555555555555557, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -37.360518670126716, "ci_upper": 8.203506921515013, "delta_ci_lower": -37.360518670126716, "delta_ci_upper": 8.203506921515013, "failure_count": 0, "left_ci_lower": 4954.895927178926, "left_ci_upper": 5274.953622981314, "left_mean": 5102.492640250905, "mean_delta": -14.641810031995798, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4938.418952318946, "right_ci_upper": 5264.841263136914, "right_mean": 5087.85083021891, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.024074074074074074, "delta_ci_lower": 0.0, "delta_ci_upper": 0.024074074074074074, "failure_count": 0, "left_ci_lower": 0.11203703703703705, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925927, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.024074074074074074, "delta_ci_lower": 0.0, "delta_ci_upper": 0.024074074074074074, "failure_count": 0, "left_ci_lower": 0.11203703703703705, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925927, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.024074074074074074, "delta_ci_lower": 0.0, "delta_ci_upper": 0.024074074074074074, "failure_count": 0, "left_ci_lower": 0.11203703703703705, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925927, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.024074074074074074, "delta_ci_lower": 0.0, "delta_ci_upper": 0.024074074074074074, "failure_count": 0, "left_ci_lower": 0.11203703703703705, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15925925925925927, "mean_delta": 0.009259259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05725524475524476, "ci_upper": 0.0035483035483035484, "delta_ci_lower": -0.05725524475524476, "delta_ci_upper": 0.0035483035483035484, "failure_count": 0, "left_ci_lower": 0.17329988851727982, "left_ci_upper": 0.32051282051282054, "left_mean": 0.24640777901647468, "mean_delta": -0.02288084298953864, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15075757575757576, "right_ci_upper": 0.29798190235690225, "right_mean": 0.22352693602693602, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_fade67868ef8d6d4b7d790eb", "builder_key": "qwen35_4b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.01666666666666667, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.01666666666666667, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.2583333333333333, "left_ci_upper": 0.375, "left_mean": 0.3166666666666667, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -186.90338342790102, "ci_upper": 118.7039178276124, "delta_ci_lower": -186.90338342790102, "delta_ci_upper": 118.7039178276124, "failure_count": 0, "left_ci_lower": 39637.103477167744, "left_ci_upper": 40658.23479707629, "left_mean": 40154.35908018844, "mean_delta": -22.40767041609312, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39623.10747207696, "right_ci_upper": 40623.97254997811, "right_mean": 40131.951409772344, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -27.700416666666666, "ci_upper": 12.87520833333333, "delta_ci_lower": -27.700416666666666, "delta_ci_upper": 12.87520833333333, "failure_count": 0, "left_ci_lower": 5649.179166666667, "left_ci_upper": 5790.13375, "left_mean": 5720.591666666667, "mean_delta": -5.016666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5644.624583333333, "right_ci_upper": 5783.555, "right_mean": 5715.575, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -26.383749999999996, "ci_upper": 11.841666666666667, "delta_ci_lower": -26.383749999999996, "delta_ci_upper": 11.841666666666667, "failure_count": 0, "left_ci_lower": 5337.564375, "left_ci_upper": 5471.411875, "left_mean": 5405.0, "mean_delta": -4.941666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5332.9141666666665, "right_ci_upper": 5465.308541666666, "right_mean": 5400.058333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5777777777777778, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5777777777777778, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -48.08284215663055, "ci_upper": -3.440537826681981, "delta_ci_lower": -48.08284215663055, "delta_ci_upper": -3.440537826681981, "failure_count": 0, "left_ci_lower": 4987.635538241592, "left_ci_upper": 5336.066899391201, "left_mean": 5144.1981142445, "mean_delta": -24.72267747701456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4968.591433946422, "right_ci_upper": 5298.826098208471, "right_mean": 5119.475436767486, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407405, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407405, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407405, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407405, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.028205128205128202, "ci_upper": 0.030864197530864196, "delta_ci_lower": -0.028205128205128202, "delta_ci_upper": 0.030864197530864196, "failure_count": 0, "left_ci_lower": 0.10492320693709582, "left_ci_upper": 0.23349757495590825, "left_mean": 0.16788653733098177, "mean_delta": 0.0008863564419119976, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1058099308099308, "right_ci_upper": 0.23398148148148135, "right_mean": 0.16877289377289376, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.25833333333333336, "left_ci_upper": 0.375, "left_mean": 0.31666666666666665, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -186.90338342790102, "ci_upper": 118.7039178276124, "delta_ci_lower": -186.90338342790102, "delta_ci_upper": 118.7039178276124, "failure_count": 0, "left_ci_lower": 39637.103477167744, "left_ci_upper": 40658.23479707629, "left_mean": 40154.35908018844, "mean_delta": -22.407670416093122, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39623.107472076954, "right_ci_upper": 40623.97254997811, "right_mean": 40131.95140977235, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -27.700416666666662, "ci_upper": 12.87520833333333, "delta_ci_lower": -27.700416666666662, "delta_ci_upper": 12.87520833333333, "failure_count": 0, "left_ci_lower": 5649.179166666667, "left_ci_upper": 5790.13375, "left_mean": 5720.591666666666, "mean_delta": -5.016666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5644.624583333333, "right_ci_upper": 5783.555, "right_mean": 5715.575, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -26.383749999999996, "ci_upper": 11.841666666666667, "delta_ci_lower": -26.383749999999996, "delta_ci_upper": 11.841666666666667, "failure_count": 0, "left_ci_lower": 5337.564375, "left_ci_upper": 5471.411875000001, "left_mean": 5405.0, "mean_delta": -4.941666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5332.9141666666665, "right_ci_upper": 5465.308541666666, "right_mean": 5400.058333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5777777777777777, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5777777777777777, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -48.082842156630555, "ci_upper": -3.440537826681981, "delta_ci_lower": -48.082842156630555, "delta_ci_upper": -3.440537826681981, "failure_count": 0, "left_ci_lower": 4987.635538241592, "left_ci_upper": 5336.066899391201, "left_mean": 5144.1981142445, "mean_delta": -24.72267747701456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4968.591433946422, "right_ci_upper": 5298.826098208471, "right_mean": 5119.475436767486, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407408, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407408, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407408, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407408, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.028205128205128202, "ci_upper": 0.030864197530864196, "delta_ci_lower": -0.028205128205128202, "delta_ci_upper": 0.030864197530864196, "failure_count": 0, "left_ci_lower": 0.10492320693709584, "left_ci_upper": 0.23349757495590825, "left_mean": 0.16788653733098177, "mean_delta": 0.0008863564419119976, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10580993080993081, "right_ci_upper": 0.23398148148148137, "right_mean": 0.16877289377289378, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.02799947835159103, "ci_upper": 0.03585028690662494, "delta_ci_lower": -0.02799947835159103, "delta_ci_upper": 0.03585028690662494, "failure_count": 0, "left_ci_lower": 0.1787235915492958, "left_ci_upper": 0.30556859676577985, "left_mean": 0.24067553468961922, "mean_delta": 0.003925404277516953, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.18265519040166928, "right_ci_upper": 0.30922078768909755, "right_mean": 0.24460093896713617, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -299.56754253541317, "ci_upper": 76.06169583676255, "delta_ci_lower": -299.56754253541317, "delta_ci_upper": 76.06169583676255, "failure_count": 0, "left_ci_lower": 39676.031724730856, "left_ci_upper": 40771.41450833615, "left_mean": 40221.71315302746, "mean_delta": -89.29096387142553, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39601.39511322743, "right_ci_upper": 40660.16744200148, "right_mean": 40132.42218915603, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -41.87286189358372, "ci_upper": 9.32372163536775, "delta_ci_lower": -41.87286189358372, "delta_ci_upper": 9.32372163536775, "failure_count": 0, "left_ci_lower": 5642.555622065727, "left_ci_upper": 5791.944069835681, "left_mean": 5717.489058424622, "mean_delta": -12.331651017214398, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5630.877466092854, "right_ci_upper": 5777.387807120501, "right_mean": 5705.157407407407, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.025853658536585365, "left_mean": 0.008617886178861788, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.025853658536585365, "right_mean": 0.008617886178861788, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.025853658536585365, "left_mean": 0.008617886178861788, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.025853658536585365, "right_mean": 0.008617886178861788, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.025853658536585365, "left_mean": 0.008617886178861788, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.025853658536585365, "right_mean": 0.008617886178861788, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -39.37657505216483, "ci_upper": 8.791712310902449, "delta_ci_lower": -39.37657505216483, "delta_ci_upper": 8.791712310902449, "failure_count": 0, "left_ci_lower": 5337.659360328638, "left_ci_upper": 5477.916123826291, "left_mean": 5407.362584767867, "mean_delta": -11.719705268648932, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5326.18524256651, "right_ci_upper": 5463.5476147626505, "right_mean": 5395.642879499217, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5523577235772358, "left_ci_upper": 0.734530672579453, "left_mean": 0.643739837398374, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5523577235772358, "right_ci_upper": 0.734530672579453, "right_mean": 0.643739837398374, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.20086363636363638, "left_ci_upper": 0.3879379157427938, "left_mean": 0.29311160384331114, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.20086363636363638, "left_ci_upper": 0.3879379157427938, "left_mean": 0.29311160384331114, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.20086363636363638, "left_ci_upper": 0.3879379157427938, "left_mean": 0.29311160384331114, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.20086363636363638, "left_ci_upper": 0.3879379157427938, "left_mean": 0.29311160384331114, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2086178861788618, "left_ci_upper": 0.3971914264597191, "left_mean": 0.3017294900221729, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2086178861788618, "left_ci_upper": 0.3971914264597191, "left_mean": 0.3017294900221729, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2086178861788618, "left_ci_upper": 0.3971914264597191, "left_mean": 0.3017294900221729, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2086178861788618, "left_ci_upper": 0.3971914264597191, "left_mean": 0.3017294900221729, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -60.16734818150588, "ci_upper": -9.942849588357607, "delta_ci_lower": -60.16734818150588, "delta_ci_upper": -9.942849588357607, "failure_count": 0, "left_ci_lower": 5021.679323279578, "left_ci_upper": 5452.9752706967665, "left_mean": 5214.7839851245335, "mean_delta": -33.25703398137629, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4998.0434402319, "right_ci_upper": 5406.059600531729, "right_mean": 5181.526951143158, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08473256959842325, "left_ci_upper": 0.1664115545700911, "left_mean": 0.12515151515151512, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08473256959842325, "left_ci_upper": 0.1664115545700911, "left_mean": 0.12515151515151512, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08473256959842325, "left_ci_upper": 0.1664115545700911, "left_mean": 0.12515151515151512, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08473256959842325, "left_ci_upper": 0.1664115545700911, "left_mean": 0.12515151515151512, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.030619136960600372, "ci_upper": 0.03350578960335058, "delta_ci_lower": -0.030619136960600372, "delta_ci_upper": 0.03350578960335058, "failure_count": 0, "left_ci_lower": 0.11248386302044838, "left_ci_upper": 0.24885572331913797, "left_mean": 0.17940262086603548, "mean_delta": 0.0009622175475834015, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11312641423617034, "right_ci_upper": 0.24900456860212958, "right_mean": 0.1803648384136189, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.01666666666666667, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.01666666666666667, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.2583333333333333, "left_ci_upper": 0.375, "left_mean": 0.3166666666666667, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -186.90338342790102, "ci_upper": 118.7039178276124, "delta_ci_lower": -186.90338342790102, "delta_ci_upper": 118.7039178276124, "failure_count": 0, "left_ci_lower": 39637.103477167744, "left_ci_upper": 40658.23479707629, "left_mean": 40154.35908018844, "mean_delta": -22.40767041609312, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39623.10747207696, "right_ci_upper": 40623.97254997811, "right_mean": 40131.951409772344, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -27.700416666666666, "ci_upper": 12.87520833333333, "delta_ci_lower": -27.700416666666666, "delta_ci_upper": 12.87520833333333, "failure_count": 0, "left_ci_lower": 5649.179166666667, "left_ci_upper": 5790.13375, "left_mean": 5720.591666666667, "mean_delta": -5.016666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5644.624583333333, "right_ci_upper": 5783.555, "right_mean": 5715.575, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -26.383749999999996, "ci_upper": 11.841666666666667, "delta_ci_lower": -26.383749999999996, "delta_ci_upper": 11.841666666666667, "failure_count": 0, "left_ci_lower": 5337.564375, "left_ci_upper": 5471.411875, "left_mean": 5405.0, "mean_delta": -4.941666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5332.9141666666665, "right_ci_upper": 5465.308541666666, "right_mean": 5400.058333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5777777777777778, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5777777777777778, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -48.08284215663055, "ci_upper": -3.440537826681981, "delta_ci_lower": -48.08284215663055, "delta_ci_upper": -3.440537826681981, "failure_count": 0, "left_ci_lower": 4987.635538241592, "left_ci_upper": 5336.066899391201, "left_mean": 5144.1981142445, "mean_delta": -24.72267747701456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4968.591433946422, "right_ci_upper": 5298.826098208471, "right_mean": 5119.475436767486, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407405, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407405, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407405, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407405, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.028205128205128202, "ci_upper": 0.030864197530864196, "delta_ci_lower": -0.028205128205128202, "delta_ci_upper": 0.030864197530864196, "failure_count": 0, "left_ci_lower": 0.10492320693709582, "left_ci_upper": 0.23349757495590825, "left_mean": 0.16788653733098177, "mean_delta": 0.0008863564419119976, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1058099308099308, "right_ci_upper": 0.23398148148148135, "right_mean": 0.16877289377289376, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.25833333333333336, "left_ci_upper": 0.375, "left_mean": 0.31666666666666665, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -186.90338342790102, "ci_upper": 118.7039178276124, "delta_ci_lower": -186.90338342790102, "delta_ci_upper": 118.7039178276124, "failure_count": 0, "left_ci_lower": 39637.103477167744, "left_ci_upper": 40658.23479707629, "left_mean": 40154.35908018844, "mean_delta": -22.407670416093122, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39623.107472076954, "right_ci_upper": 40623.97254997811, "right_mean": 40131.95140977235, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -27.700416666666662, "ci_upper": 12.87520833333333, "delta_ci_lower": -27.700416666666662, "delta_ci_upper": 12.87520833333333, "failure_count": 0, "left_ci_lower": 5649.179166666667, "left_ci_upper": 5790.13375, "left_mean": 5720.591666666666, "mean_delta": -5.016666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5644.624583333333, "right_ci_upper": 5783.555, "right_mean": 5715.575, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -26.383749999999996, "ci_upper": 11.841666666666667, "delta_ci_lower": -26.383749999999996, "delta_ci_upper": 11.841666666666667, "failure_count": 0, "left_ci_lower": 5337.564375, "left_ci_upper": 5471.411875000001, "left_mean": 5405.0, "mean_delta": -4.941666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5332.9141666666665, "right_ci_upper": 5465.308541666666, "right_mean": 5400.058333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5777777777777777, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5777777777777777, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -48.082842156630555, "ci_upper": -3.440537826681981, "delta_ci_lower": -48.082842156630555, "delta_ci_upper": -3.440537826681981, "failure_count": 0, "left_ci_lower": 4987.635538241592, "left_ci_upper": 5336.066899391201, "left_mean": 5144.1981142445, "mean_delta": -24.72267747701456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4968.591433946422, "right_ci_upper": 5298.826098208471, "right_mean": 5119.475436767486, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407408, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407408, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407408, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407408, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.028205128205128202, "ci_upper": 0.030864197530864196, "delta_ci_lower": -0.028205128205128202, "delta_ci_upper": 0.030864197530864196, "failure_count": 0, "left_ci_lower": 0.10492320693709584, "left_ci_upper": 0.23349757495590825, "left_mean": 0.16788653733098177, "mean_delta": 0.0008863564419119976, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10580993080993081, "right_ci_upper": 0.23398148148148137, "right_mean": 0.16877289377289378, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.02799947835159103, "ci_upper": 0.03585028690662494, "delta_ci_lower": -0.02799947835159103, "delta_ci_upper": 0.03585028690662494, "failure_count": 0, "left_ci_lower": 0.1787235915492958, "left_ci_upper": 0.30556859676577985, "left_mean": 0.24067553468961922, "mean_delta": 0.003925404277516953, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.18265519040166928, "right_ci_upper": 0.30922078768909755, "right_mean": 0.24460093896713617, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -299.56754253541317, "ci_upper": 76.06169583676255, "delta_ci_lower": -299.56754253541317, "delta_ci_upper": 76.06169583676255, "failure_count": 0, "left_ci_lower": 39676.031724730856, "left_ci_upper": 40771.41450833615, "left_mean": 40221.71315302746, "mean_delta": -89.29096387142553, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39601.39511322743, "right_ci_upper": 40660.16744200148, "right_mean": 40132.42218915603, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -41.87286189358372, "ci_upper": 9.32372163536775, "delta_ci_lower": -41.87286189358372, "delta_ci_upper": 9.32372163536775, "failure_count": 0, "left_ci_lower": 5642.555622065727, "left_ci_upper": 5791.944069835681, "left_mean": 5717.489058424622, "mean_delta": -12.331651017214398, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5630.877466092854, "right_ci_upper": 5777.387807120501, "right_mean": 5705.157407407407, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.025853658536585365, "left_mean": 0.008617886178861788, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.025853658536585365, "right_mean": 0.008617886178861788, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.025853658536585365, "left_mean": 0.008617886178861788, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.025853658536585365, "right_mean": 0.008617886178861788, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.025853658536585365, "left_mean": 0.008617886178861788, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.025853658536585365, "right_mean": 0.008617886178861788, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -39.37657505216483, "ci_upper": 8.791712310902449, "delta_ci_lower": -39.37657505216483, "delta_ci_upper": 8.791712310902449, "failure_count": 0, "left_ci_lower": 5337.659360328638, "left_ci_upper": 5477.916123826291, "left_mean": 5407.362584767867, "mean_delta": -11.719705268648932, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5326.18524256651, "right_ci_upper": 5463.5476147626505, "right_mean": 5395.642879499217, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5523577235772358, "left_ci_upper": 0.734530672579453, "left_mean": 0.643739837398374, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5523577235772358, "right_ci_upper": 0.734530672579453, "right_mean": 0.643739837398374, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.20086363636363638, "left_ci_upper": 0.3879379157427938, "left_mean": 0.29311160384331114, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.20086363636363638, "left_ci_upper": 0.3879379157427938, "left_mean": 0.29311160384331114, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.20086363636363638, "left_ci_upper": 0.3879379157427938, "left_mean": 0.29311160384331114, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.20086363636363638, "left_ci_upper": 0.3879379157427938, "left_mean": 0.29311160384331114, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2086178861788618, "left_ci_upper": 0.3971914264597191, "left_mean": 0.3017294900221729, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2086178861788618, "left_ci_upper": 0.3971914264597191, "left_mean": 0.3017294900221729, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2086178861788618, "left_ci_upper": 0.3971914264597191, "left_mean": 0.3017294900221729, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2086178861788618, "left_ci_upper": 0.3971914264597191, "left_mean": 0.3017294900221729, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -60.16734818150588, "ci_upper": -9.942849588357607, "delta_ci_lower": -60.16734818150588, "delta_ci_upper": -9.942849588357607, "failure_count": 0, "left_ci_lower": 5021.679323279578, "left_ci_upper": 5452.9752706967665, "left_mean": 5214.7839851245335, "mean_delta": -33.25703398137629, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4998.0434402319, "right_ci_upper": 5406.059600531729, "right_mean": 5181.526951143158, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08473256959842325, "left_ci_upper": 0.1664115545700911, "left_mean": 0.12515151515151512, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08473256959842325, "left_ci_upper": 0.1664115545700911, "left_mean": 0.12515151515151512, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08473256959842325, "left_ci_upper": 0.1664115545700911, "left_mean": 0.12515151515151512, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08473256959842325, "left_ci_upper": 0.1664115545700911, "left_mean": 0.12515151515151512, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.030619136960600372, "ci_upper": 0.03350578960335058, "delta_ci_lower": -0.030619136960600372, "delta_ci_upper": 0.03350578960335058, "failure_count": 0, "left_ci_lower": 0.11248386302044838, "left_ci_upper": 0.24885572331913797, "left_mean": 0.17940262086603548, "mean_delta": 0.0009622175475834015, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11312641423617034, "right_ci_upper": 0.24900456860212958, "right_mean": 0.1803648384136189, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -997.5279551562073, "ci_upper": 7.357460092753099, "delta_ci_lower": -997.5279551562073, "delta_ci_upper": 7.357460092753099, "failure_count": 0, "left_ci_lower": 39523.864393138014, "left_ci_upper": 41769.76466173907, "left_mean": 40614.764241563775, "mean_delta": -401.94182482082397, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39164.287210248884, "right_ci_upper": 41337.22480587894, "right_mean": 40212.82241674295, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -141.9708333333333, "ci_upper": 1.0333333333333334, "delta_ci_lower": -141.9708333333333, "delta_ci_upper": 1.0333333333333334, "failure_count": 0, "left_ci_lower": 5567.195, "left_ci_upper": 5873.968333333333, "left_mean": 5717.2, "mean_delta": -54.733333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5522.296666666667, "right_ci_upper": 5811.066666666667, "right_mean": 5662.466666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -134.13333333333333, "ci_upper": 1.0333333333333334, "delta_ci_lower": -134.13333333333333, "delta_ci_upper": 1.0333333333333334, "failure_count": 0, "left_ci_lower": 5271.865, "left_ci_upper": 5560.303333333333, "left_mean": 5412.133333333333, "mean_delta": -51.833333333333336, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5227.556666666667, "right_ci_upper": 5501.7, "right_mean": 5360.3, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.9, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -46.770537791502036, "ci_upper": 1.939462047109064, "delta_ci_lower": -46.770537791502036, "delta_ci_upper": 1.939462047109064, "failure_count": 0, "left_ci_lower": 4757.758340723037, "left_ci_upper": 5287.324902382486, "left_mean": 5018.138948595151, "mean_delta": -22.040225060967106, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4731.759292581119, "right_ci_upper": 5271.073327234868, "right_mean": 4996.0987235341845, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.2111111111111111, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2111111111111111, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.2111111111111111, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2111111111111111, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.2111111111111111, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2111111111111111, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.2111111111111111, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2111111111111111, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -247.98612349608447, "ci_upper": 125.65927267501434, "delta_ci_lower": -247.98612349608447, "delta_ci_upper": 125.65927267501434, "failure_count": 0, "left_ci_lower": 38798.13432680928, "left_ci_upper": 40515.7429054653, "left_mean": 39652.82288060989, "mean_delta": -45.30279999598861, "missing_count": 0, "paired_count": 30, "right_ci_lower": 38774.9192027833, "right_ci_upper": 40447.97303568183, "right_mean": 39607.520080613904, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -6.734166666666659, "ci_upper": 4.8, "delta_ci_lower": -6.734166666666659, "delta_ci_upper": 4.8, "failure_count": 0, "left_ci_lower": 5532.798333333333, "left_ci_upper": 5773.335, "left_mean": 5652.133333333333, "mean_delta": -0.7666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5531.395833333333, "right_ci_upper": 5772.571666666666, "right_mean": 5651.366666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -7.234166666666659, "ci_upper": 5.2, "delta_ci_lower": -7.234166666666659, "delta_ci_upper": 5.2, "failure_count": 0, "left_ci_lower": 5244.4975, "left_ci_upper": 5470.1125, "left_mean": 5356.033333333334, "mean_delta": -0.3, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5244.130833333333, "right_ci_upper": 5470.434166666667, "right_mean": 5355.733333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -152.01097568400047, "ci_upper": -12.772787768238574, "delta_ci_lower": -152.01097568400047, "delta_ci_upper": -12.772787768238574, "failure_count": 0, "left_ci_lower": 4708.467774163777, "left_ci_upper": 5873.02058533649, "left_mean": 5212.625108341065, "mean_delta": -75.53453204066803, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4669.666640048188, "right_ci_upper": 5746.149062061643, "right_mean": 5137.0905763003975, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.027777777777777776, "left_ci_upper": 0.12777777777777777, "left_mean": 0.075, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.027777777777777776, "right_ci_upper": 0.12777777777777777, "right_mean": 0.075, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.027777777777777776, "left_ci_upper": 0.12777777777777777, "left_mean": 0.075, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.027777777777777776, "right_ci_upper": 0.12777777777777777, "right_mean": 0.075, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.027777777777777776, "left_ci_upper": 0.12777777777777777, "left_mean": 0.075, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.027777777777777776, "right_ci_upper": 0.12777777777777777, "right_mean": 0.075, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.027777777777777776, "left_ci_upper": 0.12777777777777777, "left_mean": 0.075, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.027777777777777776, "right_ci_upper": 0.12777777777777777, "right_mean": 0.075, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.0846153846153846, "ci_upper": 0.09259259259259259, "delta_ci_lower": -0.0846153846153846, "delta_ci_upper": 0.09259259259259259, "failure_count": 0, "left_ci_lower": 0.27150903880070554, "left_ci_upper": 0.6131834215167549, "left_mean": 0.43699294532627864, "mean_delta": 0.002659069325735993, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2753357753357753, "right_ci_upper": 0.6121825396825397, "right_mean": 0.43965201465201464, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 16.501016225083756, "ci_upper": 398.6104784785614, "delta_ci_lower": 16.501016225083756, "delta_ci_upper": 398.6104784785614, "failure_count": 0, "left_ci_lower": 39625.03107630919, "left_ci_upper": 41940.329428956225, "left_mean": 40774.65442911101, "mean_delta": 160.141086167035, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39792.7832085162, "right_ci_upper": 42098.29478869544, "right_mean": 40934.79551527804, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -1.4666666666666666, "ci_upper": 54.800833333333316, "delta_ci_lower": -1.4666666666666666, "delta_ci_upper": 54.800833333333316, "failure_count": 0, "left_ci_lower": 5670.099166666668, "left_ci_upper": 5979.768333333333, "left_mean": 5824.166666666667, "mean_delta": 18.766666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5685.764166666666, "right_ci_upper": 6000.436666666667, "right_mean": 5842.933333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -1.1, "ci_upper": 50.33499999999998, "delta_ci_lower": -1.1, "delta_ci_upper": 50.33499999999998, "failure_count": 0, "left_ci_lower": 5356.5625, "left_ci_upper": 5648.503333333333, "left_mean": 5501.8, "mean_delta": 17.433333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5372.183333333333, "right_ci_upper": 5666.766666666666, "right_mean": 5519.233333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -40.56159188563468, "ci_upper": 11.023160057763254, "delta_ci_lower": -40.56159188563468, "delta_ci_upper": 11.023160057763254, "failure_count": 0, "left_ci_lower": 5676.955629027603, "left_ci_upper": 6145.439299453088, "left_mean": 5907.107408375789, "mean_delta": -14.56122788755844, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5660.548337416064, "right_ci_upper": 6133.193566510841, "right_mean": 5892.546180488232, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.2833333333333333, "left_mean": 0.18333333333333332, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.2833333333333333, "right_mean": 0.18333333333333332, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.2833333333333333, "left_mean": 0.18333333333333332, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.2833333333333333, "right_mean": 0.18333333333333332, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.2833333333333333, "left_mean": 0.18333333333333332, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.2833333333333333, "right_mean": 0.18333333333333332, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.2833333333333333, "left_mean": 0.18333333333333332, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.2833333333333333, "right_mean": 0.18333333333333332, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.6666666666666666, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 34.60968632580868, "ci_upper": 409.6294767213597, "delta_ci_lower": 34.60968632580868, "delta_ci_upper": 409.6294767213597, "failure_count": 0, "left_ci_lower": 38698.2479447755, "left_ci_upper": 40482.93037436379, "left_mean": 39575.19476946909, "mean_delta": 197.4728569854051, "missing_count": 0, "paired_count": 30, "right_ci_lower": 38902.182918534185, "right_ci_upper": 40685.73406244143, "right_mean": 39772.667626454495, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 6.833333333333333, "ci_upper": 28.366666666666667, "delta_ci_lower": 6.833333333333333, "delta_ci_upper": 28.366666666666667, "failure_count": 0, "left_ci_lower": 5562.6975, "left_ci_upper": 5819.469166666667, "left_mean": 5688.866666666667, "mean_delta": 16.666666666666668, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5578.865, "right_ci_upper": 5836.202499999999, "right_mean": 5705.533333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": 5.466666666666667, "ci_upper": 26.233333333333334, "delta_ci_lower": 5.466666666666667, "delta_ci_upper": 26.233333333333334, "failure_count": 0, "left_ci_lower": 5226.565833333333, "left_ci_upper": 5479.471666666666, "left_mean": 5350.033333333334, "mean_delta": 14.933333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5241.099166666667, "right_ci_upper": 5495.335, "right_mean": 5364.966666666666, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.3333333333333333, "left_mean": 0.2, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": -23.686541815404773, "ci_upper": 53.64302903142133, "delta_ci_lower": -23.686541815404773, "delta_ci_upper": 53.64302903142133, "failure_count": 0, "left_ci_lower": 4303.884737550786, "left_ci_upper": 4567.617108614843, "left_mean": 4438.920991665994, "mean_delta": 13.245275081135333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4309.908050546073, "right_ci_upper": 4589.527891122464, "right_mean": 4452.166266747129, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.6666666666666666, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "left_regime": "advanced_lightrag_er", "metrics": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.25833333333333336, "left_ci_upper": 0.375, "left_mean": 0.31666666666666665, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -186.90338342790102, "ci_upper": 118.7039178276124, "delta_ci_lower": -186.90338342790102, "delta_ci_upper": 118.7039178276124, "failure_count": 0, "left_ci_lower": 39637.103477167744, "left_ci_upper": 40658.23479707629, "left_mean": 40154.35908018844, "mean_delta": -22.407670416093122, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39623.107472076954, "right_ci_upper": 40623.97254997811, "right_mean": 40131.95140977235, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -27.700416666666662, "ci_upper": 12.87520833333333, "delta_ci_lower": -27.700416666666662, "delta_ci_upper": 12.87520833333333, "failure_count": 0, "left_ci_lower": 5649.179166666667, "left_ci_upper": 5790.13375, "left_mean": 5720.591666666666, "mean_delta": -5.016666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5644.624583333333, "right_ci_upper": 5783.555, "right_mean": 5715.575, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -26.383749999999996, "ci_upper": 11.841666666666667, "delta_ci_lower": -26.383749999999996, "delta_ci_upper": 11.841666666666667, "failure_count": 0, "left_ci_lower": 5337.564375, "left_ci_upper": 5471.411875000001, "left_mean": 5405.0, "mean_delta": -4.941666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5332.9141666666665, "right_ci_upper": 5465.308541666666, "right_mean": 5400.058333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5777777777777777, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5777777777777777, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.39444444444444443, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -48.082842156630555, "ci_upper": -3.440537826681981, "delta_ci_lower": -48.082842156630555, "delta_ci_upper": -3.440537826681981, "failure_count": 0, "left_ci_lower": 4987.635538241592, "left_ci_upper": 5336.066899391201, "left_mean": 5144.1981142445, "mean_delta": -24.72267747701456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4968.591433946422, "right_ci_upper": 5298.826098208471, "right_mean": 5119.475436767486, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407408, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407408, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407408, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.17407407407407408, "left_mean": 0.13055555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.028205128205128202, "ci_upper": 0.030864197530864196, "delta_ci_lower": -0.028205128205128202, "delta_ci_upper": 0.030864197530864196, "failure_count": 0, "left_ci_lower": 0.10492320693709584, "left_ci_upper": 0.23349757495590825, "left_mean": 0.16788653733098177, "mean_delta": 0.0008863564419119976, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10580993080993081, "right_ci_upper": 0.23398148148148137, "right_mean": 0.16877289377289378, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_098496a4a666032d4809338b", "builder_key": "qwen35_9b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.0, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.4166666666666667, "left_mean": 0.35833333333333334, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.4, "right_mean": 0.3416666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 536.9603013027032, "ci_upper": 1006.1811814187481, "delta_ci_lower": 536.9603013027032, "delta_ci_upper": 1006.1811814187481, "failure_count": 0, "left_ci_lower": 39891.88007188801, "left_ci_upper": 40907.41048973757, "left_mean": 40395.878561388236, "mean_delta": 780.7902032315421, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.80112950363, "right_ci_upper": 41713.197493380045, "right_mean": 41176.668764619775, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -20.17645833333332, "ci_upper": 28.20854166666666, "delta_ci_lower": -20.17645833333332, "delta_ci_upper": 28.20854166666666, "failure_count": 0, "left_ci_lower": 5682.913125, "left_ci_upper": 5823.609166666667, "left_mean": 5752.858333333334, "mean_delta": 6.941666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5689.199166666666, "right_ci_upper": 5831.044375, "right_mean": 5759.8, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -19.783749999999998, "ci_upper": 26.542083333333327, "delta_ci_lower": -19.783749999999998, "delta_ci_upper": 26.542083333333327, "failure_count": 0, "left_ci_lower": 5400.124791666666, "left_ci_upper": 5529.55, "left_mean": 5464.291666666666, "mean_delta": 6.333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5406.029375, "right_ci_upper": 5534.316875, "right_mean": 5470.625, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6666666666666666, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7777777777777778, "right_mean": 0.6888888888888888, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35000000000000003, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35000000000000003, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35000000000000003, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35000000000000003, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222227, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222227, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222227, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222227, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 0.6017412626533847, "ci_upper": 32.62206121968726, "delta_ci_lower": 0.6017412626533847, "delta_ci_upper": 32.62206121968726, "failure_count": 0, "left_ci_lower": 4938.837641257123, "left_ci_upper": 5266.633054244594, "left_mean": 5088.230897922767, "mean_delta": 16.315204522106797, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4954.662945094412, "right_ci_upper": 5281.782615681876, "right_mean": 5104.546102444874, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.012962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.012962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.012962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.012962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.012962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.012962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.012962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.012962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05555555555555555, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12551440329218108, "left_ci_upper": 0.25884773662551436, "left_mean": 0.19218106995884773, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10369341563786016, "right_ci_upper": 0.2366255144032922, "right_mean": 0.1699588477366255, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.0, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.4166666666666667, "left_mean": 0.35833333333333334, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.4, "right_mean": 0.3416666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 536.9603013027033, "ci_upper": 1006.1811814187481, "delta_ci_lower": 536.9603013027033, "delta_ci_upper": 1006.1811814187481, "failure_count": 0, "left_ci_lower": 39891.88007188801, "left_ci_upper": 40907.410489737566, "left_mean": 40395.878561388236, "mean_delta": 780.790203231542, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.80112950363, "right_ci_upper": 41713.197493380045, "right_mean": 41176.668764619775, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -20.176458333333322, "ci_upper": 28.20854166666666, "delta_ci_lower": -20.176458333333322, "delta_ci_upper": 28.20854166666666, "failure_count": 0, "left_ci_lower": 5682.913125000001, "left_ci_upper": 5823.609166666667, "left_mean": 5752.858333333334, "mean_delta": 6.941666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5689.199166666666, "right_ci_upper": 5831.044375, "right_mean": 5759.8, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -19.783749999999998, "ci_upper": 26.542083333333327, "delta_ci_lower": -19.783749999999998, "delta_ci_upper": 26.542083333333327, "failure_count": 0, "left_ci_lower": 5400.124791666666, "left_ci_upper": 5529.55, "left_mean": 5464.291666666667, "mean_delta": 6.333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5406.029375, "right_ci_upper": 5534.316875, "right_mean": 5470.625, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6666666666666666, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7777777777777778, "right_mean": 0.6888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.029629629629629627, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.029629629629629627, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.029629629629629627, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.029629629629629627, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222223, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 0.6017412626533846, "ci_upper": 32.62206121968726, "delta_ci_lower": 0.6017412626533846, "delta_ci_upper": 32.62206121968726, "failure_count": 0, "left_ci_lower": 4938.837641257123, "left_ci_upper": 5266.633054244594, "left_mean": 5088.230897922767, "mean_delta": 16.315204522106797, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4954.662945094412, "right_ci_upper": 5281.782615681876, "right_mean": 5104.546102444874, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.012962962962962964, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.012962962962962964, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.012962962962962964, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.012962962962962964, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.012962962962962964, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.012962962962962964, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.012962962962962964, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.012962962962962964, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05555555555555555, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12551440329218105, "left_ci_upper": 0.2588477366255144, "left_mean": 0.19218106995884776, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10369341563786018, "right_ci_upper": 0.2366255144032922, "right_mean": 0.1699588477366255, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.053208137715179966, "ci_upper": 0.0, "delta_ci_lower": -0.053208137715179966, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.21571465832029213, "left_ci_upper": 0.3454355764214919, "left_mean": 0.2804512258737611, "mean_delta": -0.021283255086071987, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.19504434011476265, "right_ci_upper": 0.32454681794470525, "right_mean": 0.2591679707876891, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 268.58312834703304, "ci_upper": 625.9965896885428, "delta_ci_lower": 268.58312834703304, "delta_ci_upper": 625.9965896885428, "failure_count": 0, "left_ci_lower": 39893.15960694531, "left_ci_upper": 41020.38250451509, "left_mean": 40449.231018891645, "mean_delta": 458.7030209762128, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40330.90295465038, "right_ci_upper": 41495.95189841903, "right_mean": 40907.934039867854, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -17.286788601982256, "ci_upper": 27.27228384194053, "delta_ci_lower": -17.286788601982256, "delta_ci_upper": 27.27228384194053, "failure_count": 0, "left_ci_lower": 5673.871624282733, "left_ci_upper": 5827.418746413667, "left_mean": 5750.370070422535, "mean_delta": 7.538328116849244, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5679.947118218571, "right_ci_upper": 5837.096834572249, "right_mean": 5757.9083985393845, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03796008869179601, "left_mean": 0.012653362897265335, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03796008869179601, "right_mean": 0.012653362897265335, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03796008869179601, "left_mean": 0.012653362897265335, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03796008869179601, "right_mean": 0.012653362897265335, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03796008869179601, "left_mean": 0.012653362897265335, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03796008869179601, "right_mean": 0.012653362897265335, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -17.167719418362026, "ci_upper": 25.530290492957747, "delta_ci_lower": -17.167719418362026, "delta_ci_upper": 25.530290492957747, "failure_count": 0, "left_ci_lower": 5393.20696596244, "left_ci_upper": 5534.862648669797, "left_mean": 5463.715832029212, "mean_delta": 6.758607198748044, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5399.557828964527, "right_ci_upper": 5542.221047535212, "right_mean": 5470.474439227961, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.060310421286031035, "delta_ci_lower": 0.0, "delta_ci_upper": 0.060310421286031035, "failure_count": 0, "left_ci_lower": 0.5500960827790096, "left_ci_upper": 0.7310864745011085, "left_mean": 0.6402956393200295, "mean_delta": 0.024124168514412417, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5713662232076866, "right_ci_upper": 0.7558019216555801, "right_mean": 0.6644198078344419, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.021832963784183295, "ci_upper": 0.01694752402069475, "delta_ci_lower": -0.021832963784183295, "delta_ci_upper": 0.01694752402069475, "failure_count": 0, "left_ci_lower": 0.1677464892830747, "left_ci_upper": 0.3390171840354767, "left_mean": 0.25167775314116775, "mean_delta": -0.00028824833702882516, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.021832963784183295, "ci_upper": 0.01694752402069475, "delta_ci_lower": -0.021832963784183295, "delta_ci_upper": 0.01694752402069475, "failure_count": 0, "left_ci_lower": 0.1677464892830747, "left_ci_upper": 0.3390171840354767, "left_mean": 0.25167775314116775, "mean_delta": -0.00028824833702882516, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.021832963784183295, "ci_upper": 0.01694752402069475, "delta_ci_lower": -0.021832963784183295, "delta_ci_upper": 0.01694752402069475, "failure_count": 0, "left_ci_lower": 0.1677464892830747, "left_ci_upper": 0.3390171840354767, "left_mean": 0.25167775314116775, "mean_delta": -0.00028824833702882516, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.021832963784183295, "ci_upper": 0.01694752402069475, "delta_ci_lower": -0.021832963784183295, "delta_ci_upper": 0.01694752402069475, "failure_count": 0, "left_ci_lower": 0.1677464892830747, "left_ci_upper": 0.3390171840354767, "left_mean": 0.25167775314116775, "mean_delta": -0.00028824833702882516, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.017235772357723576, "ci_upper": 0.048248337028824834, "delta_ci_lower": -0.017235772357723576, "delta_ci_upper": 0.048248337028824834, "failure_count": 0, "left_ci_lower": 0.1965546932742055, "left_ci_upper": 0.38099039172209903, "left_mean": 0.28730229120473016, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.017235772357723576, "ci_upper": 0.048248337028824834, "delta_ci_lower": -0.017235772357723576, "delta_ci_upper": 0.048248337028824834, "failure_count": 0, "left_ci_lower": 0.1965546932742055, "left_ci_upper": 0.38099039172209903, "left_mean": 0.28730229120473016, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.017235772357723576, "ci_upper": 0.048248337028824834, "delta_ci_lower": -0.017235772357723576, "delta_ci_upper": 0.048248337028824834, "failure_count": 0, "left_ci_lower": 0.1965546932742055, "left_ci_upper": 0.38099039172209903, "left_mean": 0.28730229120473016, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.017235772357723576, "ci_upper": 0.048248337028824834, "delta_ci_lower": -0.017235772357723576, "delta_ci_upper": 0.048248337028824834, "failure_count": 0, "left_ci_lower": 0.1965546932742055, "left_ci_upper": 0.38099039172209903, "left_mean": 0.28730229120473016, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 0.756804599108721, "ci_upper": 36.64476701000605, "delta_ci_lower": 0.756804599108721, "delta_ci_upper": 36.64476701000605, "failure_count": 0, "left_ci_lower": 4968.7338753089225, "left_ci_upper": 5375.820890576332, "left_mean": 5152.106880790659, "mean_delta": 18.844378953609528, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4989.231727776008, "right_ci_upper": 5392.404409806404, "right_mean": 5170.951259744268, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.010054200542005419, "ci_upper": 0.020965755112096574, "delta_ci_lower": -0.010054200542005419, "delta_ci_upper": 0.020965755112096574, "failure_count": 0, "left_ci_lower": 0.07667633653609263, "left_ci_upper": 0.1608407859078591, "left_mean": 0.11613205222961322, "mean_delta": 0.0045947277654594726, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.010054200542005419, "ci_upper": 0.020965755112096574, "delta_ci_lower": -0.010054200542005419, "delta_ci_upper": 0.020965755112096574, "failure_count": 0, "left_ci_lower": 0.07667633653609263, "left_ci_upper": 0.1608407859078591, "left_mean": 0.11613205222961322, "mean_delta": 0.0045947277654594726, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.010054200542005419, "ci_upper": 0.020965755112096574, "delta_ci_lower": -0.010054200542005419, "delta_ci_upper": 0.020965755112096574, "failure_count": 0, "left_ci_lower": 0.07667633653609263, "left_ci_upper": 0.1608407859078591, "left_mean": 0.11613205222961322, "mean_delta": 0.0045947277654594726, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.010054200542005419, "ci_upper": 0.020965755112096574, "delta_ci_lower": -0.010054200542005419, "delta_ci_upper": 0.020965755112096574, "failure_count": 0, "left_ci_lower": 0.07667633653609263, "left_ci_upper": 0.1608407859078591, "left_mean": 0.11613205222961322, "mean_delta": 0.0045947277654594726, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.060310421286031035, "ci_upper": 0.0, "delta_ci_lower": -0.060310421286031035, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13536338999753633, "left_ci_upper": 0.2772566587282034, "left_mean": 0.20552133804166323, "mean_delta": -0.024124168514412417, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11123922148312392, "right_ci_upper": 0.2540012592045112, "right_mean": 0.18139716952725082, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.0, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.4166666666666667, "left_mean": 0.35833333333333334, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.4, "right_mean": 0.3416666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 536.9603013027032, "ci_upper": 1006.1811814187481, "delta_ci_lower": 536.9603013027032, "delta_ci_upper": 1006.1811814187481, "failure_count": 0, "left_ci_lower": 39891.88007188801, "left_ci_upper": 40907.41048973757, "left_mean": 40395.878561388236, "mean_delta": 780.7902032315421, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.80112950363, "right_ci_upper": 41713.197493380045, "right_mean": 41176.668764619775, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -20.17645833333332, "ci_upper": 28.20854166666666, "delta_ci_lower": -20.17645833333332, "delta_ci_upper": 28.20854166666666, "failure_count": 0, "left_ci_lower": 5682.913125, "left_ci_upper": 5823.609166666667, "left_mean": 5752.858333333334, "mean_delta": 6.941666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5689.199166666666, "right_ci_upper": 5831.044375, "right_mean": 5759.8, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -19.783749999999998, "ci_upper": 26.542083333333327, "delta_ci_lower": -19.783749999999998, "delta_ci_upper": 26.542083333333327, "failure_count": 0, "left_ci_lower": 5400.124791666666, "left_ci_upper": 5529.55, "left_mean": 5464.291666666666, "mean_delta": 6.333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5406.029375, "right_ci_upper": 5534.316875, "right_mean": 5470.625, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6666666666666666, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7777777777777778, "right_mean": 0.6888888888888888, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35000000000000003, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35000000000000003, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35000000000000003, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35000000000000003, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222227, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222227, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222227, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222227, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 0.6017412626533847, "ci_upper": 32.62206121968726, "delta_ci_lower": 0.6017412626533847, "delta_ci_upper": 32.62206121968726, "failure_count": 0, "left_ci_lower": 4938.837641257123, "left_ci_upper": 5266.633054244594, "left_mean": 5088.230897922767, "mean_delta": 16.315204522106797, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4954.662945094412, "right_ci_upper": 5281.782615681876, "right_mean": 5104.546102444874, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.012962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.012962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.012962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.012962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.012962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.012962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.012962962962962963, "ci_upper": 0.020370370370370372, "delta_ci_lower": -0.012962962962962963, "delta_ci_upper": 0.020370370370370372, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05555555555555555, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12551440329218108, "left_ci_upper": 0.25884773662551436, "left_mean": 0.19218106995884773, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10369341563786016, "right_ci_upper": 0.2366255144032922, "right_mean": 0.1699588477366255, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.0, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.4166666666666667, "left_mean": 0.35833333333333334, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.4, "right_mean": 0.3416666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 536.9603013027033, "ci_upper": 1006.1811814187481, "delta_ci_lower": 536.9603013027033, "delta_ci_upper": 1006.1811814187481, "failure_count": 0, "left_ci_lower": 39891.88007188801, "left_ci_upper": 40907.410489737566, "left_mean": 40395.878561388236, "mean_delta": 780.790203231542, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.80112950363, "right_ci_upper": 41713.197493380045, "right_mean": 41176.668764619775, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -20.176458333333322, "ci_upper": 28.20854166666666, "delta_ci_lower": -20.176458333333322, "delta_ci_upper": 28.20854166666666, "failure_count": 0, "left_ci_lower": 5682.913125000001, "left_ci_upper": 5823.609166666667, "left_mean": 5752.858333333334, "mean_delta": 6.941666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5689.199166666666, "right_ci_upper": 5831.044375, "right_mean": 5759.8, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -19.783749999999998, "ci_upper": 26.542083333333327, "delta_ci_lower": -19.783749999999998, "delta_ci_upper": 26.542083333333327, "failure_count": 0, "left_ci_lower": 5400.124791666666, "left_ci_upper": 5529.55, "left_mean": 5464.291666666667, "mean_delta": 6.333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5406.029375, "right_ci_upper": 5534.316875, "right_mean": 5470.625, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6666666666666666, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7777777777777778, "right_mean": 0.6888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.029629629629629627, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.029629629629629627, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.029629629629629627, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.029629629629629627, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222223, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 0.6017412626533846, "ci_upper": 32.62206121968726, "delta_ci_lower": 0.6017412626533846, "delta_ci_upper": 32.62206121968726, "failure_count": 0, "left_ci_lower": 4938.837641257123, "left_ci_upper": 5266.633054244594, "left_mean": 5088.230897922767, "mean_delta": 16.315204522106797, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4954.662945094412, "right_ci_upper": 5281.782615681876, "right_mean": 5104.546102444874, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.012962962962962964, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.012962962962962964, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.012962962962962964, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.012962962962962964, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.012962962962962964, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.012962962962962964, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.012962962962962964, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.012962962962962964, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05555555555555555, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12551440329218105, "left_ci_upper": 0.2588477366255144, "left_mean": 0.19218106995884776, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10369341563786018, "right_ci_upper": 0.2366255144032922, "right_mean": 0.1699588477366255, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.053208137715179966, "ci_upper": 0.0, "delta_ci_lower": -0.053208137715179966, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.21571465832029213, "left_ci_upper": 0.3454355764214919, "left_mean": 0.2804512258737611, "mean_delta": -0.021283255086071987, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.19504434011476265, "right_ci_upper": 0.32454681794470525, "right_mean": 0.2591679707876891, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 268.58312834703304, "ci_upper": 625.9965896885428, "delta_ci_lower": 268.58312834703304, "delta_ci_upper": 625.9965896885428, "failure_count": 0, "left_ci_lower": 39893.15960694531, "left_ci_upper": 41020.38250451509, "left_mean": 40449.231018891645, "mean_delta": 458.7030209762128, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40330.90295465038, "right_ci_upper": 41495.95189841903, "right_mean": 40907.934039867854, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -17.286788601982256, "ci_upper": 27.27228384194053, "delta_ci_lower": -17.286788601982256, "delta_ci_upper": 27.27228384194053, "failure_count": 0, "left_ci_lower": 5673.871624282733, "left_ci_upper": 5827.418746413667, "left_mean": 5750.370070422535, "mean_delta": 7.538328116849244, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5679.947118218571, "right_ci_upper": 5837.096834572249, "right_mean": 5757.9083985393845, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03796008869179601, "left_mean": 0.012653362897265335, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03796008869179601, "right_mean": 0.012653362897265335, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03796008869179601, "left_mean": 0.012653362897265335, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03796008869179601, "right_mean": 0.012653362897265335, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03796008869179601, "left_mean": 0.012653362897265335, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03796008869179601, "right_mean": 0.012653362897265335, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -17.167719418362026, "ci_upper": 25.530290492957747, "delta_ci_lower": -17.167719418362026, "delta_ci_upper": 25.530290492957747, "failure_count": 0, "left_ci_lower": 5393.20696596244, "left_ci_upper": 5534.862648669797, "left_mean": 5463.715832029212, "mean_delta": 6.758607198748044, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5399.557828964527, "right_ci_upper": 5542.221047535212, "right_mean": 5470.474439227961, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.060310421286031035, "delta_ci_lower": 0.0, "delta_ci_upper": 0.060310421286031035, "failure_count": 0, "left_ci_lower": 0.5500960827790096, "left_ci_upper": 0.7310864745011085, "left_mean": 0.6402956393200295, "mean_delta": 0.024124168514412417, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5713662232076866, "right_ci_upper": 0.7558019216555801, "right_mean": 0.6644198078344419, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.021832963784183295, "ci_upper": 0.01694752402069475, "delta_ci_lower": -0.021832963784183295, "delta_ci_upper": 0.01694752402069475, "failure_count": 0, "left_ci_lower": 0.1677464892830747, "left_ci_upper": 0.3390171840354767, "left_mean": 0.25167775314116775, "mean_delta": -0.00028824833702882516, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.021832963784183295, "ci_upper": 0.01694752402069475, "delta_ci_lower": -0.021832963784183295, "delta_ci_upper": 0.01694752402069475, "failure_count": 0, "left_ci_lower": 0.1677464892830747, "left_ci_upper": 0.3390171840354767, "left_mean": 0.25167775314116775, "mean_delta": -0.00028824833702882516, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.021832963784183295, "ci_upper": 0.01694752402069475, "delta_ci_lower": -0.021832963784183295, "delta_ci_upper": 0.01694752402069475, "failure_count": 0, "left_ci_lower": 0.1677464892830747, "left_ci_upper": 0.3390171840354767, "left_mean": 0.25167775314116775, "mean_delta": -0.00028824833702882516, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.021832963784183295, "ci_upper": 0.01694752402069475, "delta_ci_lower": -0.021832963784183295, "delta_ci_upper": 0.01694752402069475, "failure_count": 0, "left_ci_lower": 0.1677464892830747, "left_ci_upper": 0.3390171840354767, "left_mean": 0.25167775314116775, "mean_delta": -0.00028824833702882516, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.017235772357723576, "ci_upper": 0.048248337028824834, "delta_ci_lower": -0.017235772357723576, "delta_ci_upper": 0.048248337028824834, "failure_count": 0, "left_ci_lower": 0.1965546932742055, "left_ci_upper": 0.38099039172209903, "left_mean": 0.28730229120473016, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.017235772357723576, "ci_upper": 0.048248337028824834, "delta_ci_lower": -0.017235772357723576, "delta_ci_upper": 0.048248337028824834, "failure_count": 0, "left_ci_lower": 0.1965546932742055, "left_ci_upper": 0.38099039172209903, "left_mean": 0.28730229120473016, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.017235772357723576, "ci_upper": 0.048248337028824834, "delta_ci_lower": -0.017235772357723576, "delta_ci_upper": 0.048248337028824834, "failure_count": 0, "left_ci_lower": 0.1965546932742055, "left_ci_upper": 0.38099039172209903, "left_mean": 0.28730229120473016, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.017235772357723576, "ci_upper": 0.048248337028824834, "delta_ci_lower": -0.017235772357723576, "delta_ci_upper": 0.048248337028824834, "failure_count": 0, "left_ci_lower": 0.1965546932742055, "left_ci_upper": 0.38099039172209903, "left_mean": 0.28730229120473016, "mean_delta": 0.012062084257206208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 0.756804599108721, "ci_upper": 36.64476701000605, "delta_ci_lower": 0.756804599108721, "delta_ci_upper": 36.64476701000605, "failure_count": 0, "left_ci_lower": 4968.7338753089225, "left_ci_upper": 5375.820890576332, "left_mean": 5152.106880790659, "mean_delta": 18.844378953609528, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4989.231727776008, "right_ci_upper": 5392.404409806404, "right_mean": 5170.951259744268, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.010054200542005419, "ci_upper": 0.020965755112096574, "delta_ci_lower": -0.010054200542005419, "delta_ci_upper": 0.020965755112096574, "failure_count": 0, "left_ci_lower": 0.07667633653609263, "left_ci_upper": 0.1608407859078591, "left_mean": 0.11613205222961322, "mean_delta": 0.0045947277654594726, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.010054200542005419, "ci_upper": 0.020965755112096574, "delta_ci_lower": -0.010054200542005419, "delta_ci_upper": 0.020965755112096574, "failure_count": 0, "left_ci_lower": 0.07667633653609263, "left_ci_upper": 0.1608407859078591, "left_mean": 0.11613205222961322, "mean_delta": 0.0045947277654594726, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.010054200542005419, "ci_upper": 0.020965755112096574, "delta_ci_lower": -0.010054200542005419, "delta_ci_upper": 0.020965755112096574, "failure_count": 0, "left_ci_lower": 0.07667633653609263, "left_ci_upper": 0.1608407859078591, "left_mean": 0.11613205222961322, "mean_delta": 0.0045947277654594726, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.010054200542005419, "ci_upper": 0.020965755112096574, "delta_ci_lower": -0.010054200542005419, "delta_ci_upper": 0.020965755112096574, "failure_count": 0, "left_ci_lower": 0.07667633653609263, "left_ci_upper": 0.1608407859078591, "left_mean": 0.11613205222961322, "mean_delta": 0.0045947277654594726, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.060310421286031035, "ci_upper": 0.0, "delta_ci_lower": -0.060310421286031035, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13536338999753633, "left_ci_upper": 0.2772566587282034, "left_mean": 0.20552133804166323, "mean_delta": -0.024124168514412417, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11123922148312392, "right_ci_upper": 0.2540012592045112, "right_mean": 0.18139716952725082, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 238.78375083266295, "ci_upper": 517.233376589332, "delta_ci_lower": 238.78375083266295, "delta_ci_upper": 517.233376589332, "failure_count": 0, "left_ci_lower": 39683.10447755231, "left_ci_upper": 41672.89535949686, "left_mean": 40654.97725681247, "mean_delta": 377.9320918799688, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39990.73411123866, "right_ci_upper": 42106.19518409289, "right_mean": 41032.90934869243, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 2.3333333333333335, "ci_upper": 26.800833333333323, "delta_ci_lower": 2.3333333333333335, "delta_ci_upper": 26.800833333333323, "failure_count": 0, "left_ci_lower": 5588.498333333334, "left_ci_upper": 5861.869166666666, "left_mean": 5722.9, "mean_delta": 13.433333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5597.3324999999995, "right_ci_upper": 5880.3741666666665, "right_mean": 5736.333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 2.4, "ci_upper": 24.6, "delta_ci_lower": 2.4, "delta_ci_upper": 24.6, "failure_count": 0, "left_ci_lower": 5304.966666666666, "left_ci_upper": 5555.3375, "left_mean": 5427.833333333333, "mean_delta": 12.533333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5313.265833333333, "right_ci_upper": 5573.401666666666, "right_mean": 5440.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.9, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.2833333333333333, "left_mean": 0.15, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.2833333333333333, "right_mean": 0.15, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.2833333333333333, "left_mean": 0.15, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.2833333333333333, "right_mean": 0.15, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.2833333333333333, "left_mean": 0.15, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.2833333333333333, "right_mean": 0.15, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.2833333333333333, "left_mean": 0.15, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.2833333333333333, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -25.132237398647696, "ci_upper": 46.068569370739475, "delta_ci_lower": -25.132237398647696, "delta_ci_upper": 46.068569370739475, "failure_count": 0, "left_ci_lower": 4710.26779421935, "left_ci_upper": 5242.40384741143, "left_mean": 4971.10375983951, "mean_delta": 13.662715178603927, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4720.5932639865205, "right_ci_upper": 5257.066055036459, "right_mean": 4984.766475018114, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.18333333333333332, "left_mean": 0.09444444444444446, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.016666666666666666, "right_ci_upper": 0.18333333333333332, "right_mean": 0.09444444444444446, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.18333333333333332, "left_mean": 0.09444444444444446, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.016666666666666666, "right_ci_upper": 0.18333333333333332, "right_mean": 0.09444444444444446, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.18333333333333332, "left_mean": 0.09444444444444446, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.016666666666666666, "right_ci_upper": 0.18333333333333332, "right_mean": 0.09444444444444446, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.18333333333333332, "left_mean": 0.09444444444444446, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.016666666666666666, "right_ci_upper": 0.18333333333333332, "right_mean": 0.09444444444444446, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 58.45541729921633, "ci_upper": 315.177949804735, "delta_ci_lower": 58.45541729921633, "delta_ci_upper": 315.177949804735, "failure_count": 0, "left_ci_lower": 39514.92007445447, "left_ci_upper": 41908.26473660826, "left_mean": 40703.58319856847, "mean_delta": 184.44788337219507, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39702.45271154815, "right_ci_upper": 42111.252440915756, "right_mean": 40888.031081940666, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 0.6333333333333333, "ci_upper": 19.033333333333335, "delta_ci_lower": 0.6333333333333333, "delta_ci_upper": 19.033333333333335, "failure_count": 0, "left_ci_lower": 5667.597500000001, "left_ci_upper": 5990.145833333333, "left_mean": 5826.433333333333, "mean_delta": 9.3, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5673.2625, "right_ci_upper": 6003.235, "right_mean": 5835.733333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 0.19833333333334813, "ci_upper": 17.4, "delta_ci_lower": 0.19833333333334813, "delta_ci_upper": 17.4, "failure_count": 0, "left_ci_lower": 5415.894166666666, "left_ci_upper": 5707.200833333333, "left_mean": 5559.2, "mean_delta": 8.333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5419.966666666666, "right_ci_upper": 5718.670833333334, "right_mean": 5567.533333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.15, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.15, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.15, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.15, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 0.2691027566712978, "ci_upper": 64.07963556315126, "delta_ci_lower": 0.2691027566712978, "delta_ci_upper": 64.07963556315126, "failure_count": 0, "left_ci_lower": 4629.960146633675, "left_ci_upper": 5708.641414702675, "left_mean": 5098.37484578602, "mean_delta": 30.083646012159686, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4668.819227766168, "right_ci_upper": 5733.077877608594, "right_mean": 5128.45849179818, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.05, "left_ci_upper": 0.15833333333333333, "left_mean": 0.10277777777777777, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06388888888888888, "right_ci_upper": 0.18055555555555555, "right_mean": 0.11944444444444444, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.05, "left_ci_upper": 0.15833333333333333, "left_mean": 0.10277777777777777, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06388888888888888, "right_ci_upper": 0.18055555555555555, "right_mean": 0.11944444444444444, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.05, "left_ci_upper": 0.15833333333333333, "left_mean": 0.10277777777777777, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06388888888888888, "right_ci_upper": 0.18055555555555555, "right_mean": 0.11944444444444444, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.05, "left_ci_upper": 0.15833333333333333, "left_mean": 0.10277777777777777, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06388888888888888, "right_ci_upper": 0.18055555555555555, "right_mean": 0.11944444444444444, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6814814814814815, "left_mean": 0.5074074074074074, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6148148148148148, "right_mean": 0.4407407407407407, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -974.1666535988521, "ci_upper": 333.3679681403252, "delta_ci_lower": -974.1666535988521, "delta_ci_upper": 333.3679681403252, "failure_count": 0, "left_ci_lower": 38968.80091408074, "left_ci_upper": 40684.626106104886, "left_mean": 39807.58500560963, "mean_delta": -256.6292695235461, "missing_count": 0, "paired_count": 30, "right_ci_lower": 38696.004361642794, "right_ci_upper": 40436.62536339776, "right_mean": 39550.955736086085, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -110.90083333333334, "ci_upper": 81.43333333333334, "delta_ci_lower": -110.90083333333334, "delta_ci_upper": 81.43333333333334, "failure_count": 0, "left_ci_lower": 5534.399166666667, "left_ci_upper": 5785.1066666666675, "left_mean": 5654.9, "mean_delta": -4.733333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5532.598333333333, "right_ci_upper": 5777.005, "right_mean": 5650.166666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -107.96833333333333, "ci_upper": 76.36666666666666, "delta_ci_lower": -107.96833333333333, "delta_ci_upper": 76.36666666666666, "failure_count": 0, "left_ci_lower": 5245.099166666667, "left_ci_upper": 5479.169166666667, "left_mean": 5357.5, "mean_delta": -5.666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5248.493333333334, "right_ci_upper": 5464.568333333333, "right_mean": 5351.833333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.8333333333333334, "left_ci_upper": 1.0, "left_mean": 0.9333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.8333333333333334, "right_ci_upper": 1.0, "right_mean": 0.9333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.1, "ci_upper": 0.05, "delta_ci_lower": -0.1, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.18333333333333332, "left_ci_upper": 0.48333333333333334, "left_mean": 0.3333333333333333, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.4666666666666667, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.1, "ci_upper": 0.05, "delta_ci_lower": -0.1, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.18333333333333332, "left_ci_upper": 0.48333333333333334, "left_mean": 0.3333333333333333, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.4666666666666667, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.1, "ci_upper": 0.05, "delta_ci_lower": -0.1, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.18333333333333332, "left_ci_upper": 0.48333333333333334, "left_mean": 0.3333333333333333, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.4666666666666667, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.1, "ci_upper": 0.05, "delta_ci_lower": -0.1, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.18333333333333332, "left_ci_upper": 0.48333333333333334, "left_mean": 0.3333333333333333, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.4666666666666667, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -13.104934812096566, "ci_upper": 55.3552115923958, "delta_ci_lower": -13.104934812096566, "delta_ci_upper": 55.3552115923958, "failure_count": 0, "left_ci_lower": 5649.658781039761, "left_ci_upper": 6116.486549120163, "left_mean": 5879.182815287883, "mean_delta": 19.315041632701952, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5662.450144534814, "right_ci_upper": 6144.2102391909175, "right_mean": 5898.497856920585, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.05, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.05, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.09444444444444443, "left_ci_upper": 0.24444444444444444, "left_mean": 0.16666666666666666, "mean_delta": -0.005555555555555556, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.09444444444444443, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.05, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.05, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.09444444444444443, "left_ci_upper": 0.24444444444444444, "left_mean": 0.16666666666666666, "mean_delta": -0.005555555555555556, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.09444444444444443, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.05, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.05, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.09444444444444443, "left_ci_upper": 0.24444444444444444, "left_mean": 0.16666666666666666, "mean_delta": -0.005555555555555556, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.09444444444444443, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.05, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.05, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.09444444444444443, "left_ci_upper": 0.24444444444444444, "left_mean": 0.16666666666666666, "mean_delta": -0.005555555555555556, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.09444444444444443, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.10493827160493827, "left_mean": 0.03580246913580246, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.10493827160493827, "right_mean": 0.03580246913580246, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 2211.211188037414, "ci_upper": 3456.663722782978, "delta_ci_lower": 2211.211188037414, "delta_ci_upper": 3456.663722782978, "failure_count": 0, "left_ci_lower": 39553.22759500259, "left_ci_upper": 41279.313745017665, "left_mean": 40417.36878456237, "mean_delta": 2817.4101071975506, "missing_count": 0, "paired_count": 30, "right_ci_lower": 42208.337668571425, "right_ci_upper": 44281.60513158209, "right_mean": 43234.778891759925, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 0.8333333333333334, "ci_upper": 20.566666666666666, "delta_ci_lower": 0.8333333333333334, "delta_ci_upper": 20.566666666666666, "failure_count": 0, "left_ci_lower": 5682.530833333333, "left_ci_upper": 5930.8425, "left_mean": 5807.2, "mean_delta": 9.766666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5690.3925, "right_ci_upper": 5942.233333333334, "right_mean": 5816.966666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": 1.9333333333333333, "ci_upper": 20.568333333333307, "delta_ci_lower": 1.9333333333333333, "delta_ci_upper": 20.568333333333307, "failure_count": 0, "left_ci_lower": 5397.598333333333, "left_ci_upper": 5628.471666666666, "left_mean": 5512.633333333333, "mean_delta": 10.133333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5405.764999999999, "right_ci_upper": 5639.838333333333, "right_mean": 5522.766666666666, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": -22.828633000220485, "ci_upper": 27.641728052403774, "delta_ci_lower": -22.828633000220485, "delta_ci_upper": 27.641728052403774, "failure_count": 0, "left_ci_lower": 4267.3525179976905, "left_ci_upper": 4534.770220833986, "left_mean": 4404.262170777656, "mean_delta": 2.1994152649616203, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4261.088230798099, "right_ci_upper": 4546.9519170071, "right_mean": 4406.4615860426175, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "left_regime": "advanced_lightrag_er", "metrics": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.0, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.4166666666666667, "left_mean": 0.35833333333333334, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.4, "right_mean": 0.3416666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 536.9603013027033, "ci_upper": 1006.1811814187481, "delta_ci_lower": 536.9603013027033, "delta_ci_upper": 1006.1811814187481, "failure_count": 0, "left_ci_lower": 39891.88007188801, "left_ci_upper": 40907.410489737566, "left_mean": 40395.878561388236, "mean_delta": 780.790203231542, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.80112950363, "right_ci_upper": 41713.197493380045, "right_mean": 41176.668764619775, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -20.176458333333322, "ci_upper": 28.20854166666666, "delta_ci_lower": -20.176458333333322, "delta_ci_upper": 28.20854166666666, "failure_count": 0, "left_ci_lower": 5682.913125000001, "left_ci_upper": 5823.609166666667, "left_mean": 5752.858333333334, "mean_delta": 6.941666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5689.199166666666, "right_ci_upper": 5831.044375, "right_mean": 5759.8, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -19.783749999999998, "ci_upper": 26.542083333333327, "delta_ci_lower": -19.783749999999998, "delta_ci_upper": 26.542083333333327, "failure_count": 0, "left_ci_lower": 5400.124791666666, "left_ci_upper": 5529.55, "left_mean": 5464.291666666667, "mean_delta": 6.333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5406.029375, "right_ci_upper": 5534.316875, "right_mean": 5470.625, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6666666666666666, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7777777777777778, "right_mean": 0.6888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.029629629629629627, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.029629629629629627, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.029629629629629627, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.029629629629629627, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35, "left_mean": 0.2611111111111111, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222223, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.2111111111111111, "left_ci_upper": 0.3888888888888889, "left_mean": 0.3, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 0.6017412626533846, "ci_upper": 32.62206121968726, "delta_ci_lower": 0.6017412626533846, "delta_ci_upper": 32.62206121968726, "failure_count": 0, "left_ci_lower": 4938.837641257123, "left_ci_upper": 5266.633054244594, "left_mean": 5088.230897922767, "mean_delta": 16.315204522106797, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4954.662945094412, "right_ci_upper": 5281.782615681876, "right_mean": 5104.546102444874, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.012962962962962964, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.012962962962962964, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.012962962962962964, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.012962962962962964, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.012962962962962964, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.012962962962962964, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.012962962962962964, "ci_upper": 0.02037037037037037, "delta_ci_lower": -0.012962962962962964, "delta_ci_upper": 0.02037037037037037, "failure_count": 0, "left_ci_lower": 0.0824074074074074, "left_ci_upper": 0.1648148148148148, "left_mean": 0.12129629629629629, "mean_delta": 0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05555555555555555, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12551440329218105, "left_ci_upper": 0.2588477366255144, "left_mean": 0.19218106995884776, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10369341563786018, "right_ci_upper": 0.2366255144032922, "right_mean": 0.1699588477366255, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_084b5c3ad8d7434afbe4e74f", "builder_key": "qwen3_0_6b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.05, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.24166666666666664, "left_ci_upper": 0.36666666666666664, "left_mean": 0.3, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.3833333333333333, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1128.2737720342022, "ci_upper": -140.47176081968556, "delta_ci_lower": -1128.2737720342022, "delta_ci_upper": -140.47176081968556, "failure_count": 0, "left_ci_lower": 42379.1101328676, "left_ci_upper": 43566.07493818922, "left_mean": 42952.98629094614, "mean_delta": -622.4465208186302, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41828.72278075558, "right_ci_upper": 42835.523634858546, "right_mean": 42330.53977012751, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -52.550625, "ci_upper": 59.35083333333333, "delta_ci_lower": -52.550625, "delta_ci_upper": 59.35083333333333, "failure_count": 0, "left_ci_lower": 5884.6987500000005, "left_ci_upper": 6014.926458333333, "left_mean": 5949.875, "mean_delta": 6.283333333333332, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5889.074375, "right_ci_upper": 6020.352916666667, "right_mean": 5956.158333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555556, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555556, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555556, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -44.233958333333334, "ci_upper": 63.284791666666656, "delta_ci_lower": -44.233958333333334, "delta_ci_upper": 63.284791666666656, "failure_count": 0, "left_ci_lower": 5523.666041666667, "left_ci_upper": 5649.45625, "left_mean": 5586.658333333333, "mean_delta": 12.458333333333336, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.865833333333, "right_ci_upper": 5659.794166666667, "right_mean": 5599.116666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6777777777777777, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6777777777777777, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444445, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444445, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444445, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444445, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1314.0491574396824, "ci_upper": -675.3331839812261, "delta_ci_lower": -1314.0491574396824, "delta_ci_upper": -675.3331839812261, "failure_count": 0, "left_ci_lower": 6293.856961385027, "left_ci_upper": 7027.167155987456, "left_mean": 6635.978331246103, "mean_delta": -972.9849204537459, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.591286071693, "right_ci_upper": 5881.258940057354, "right_mean": 5662.993410792357, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.1472222222222222, "left_ci_upper": 0.24629629629629632, "left_mean": 0.1953703703703704, "mean_delta": -0.001851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.1472222222222222, "left_ci_upper": 0.24629629629629632, "left_mean": 0.1953703703703704, "mean_delta": -0.001851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.1472222222222222, "left_ci_upper": 0.24629629629629632, "left_mean": 0.1953703703703704, "mean_delta": -0.001851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.1472222222222222, "left_ci_upper": 0.24629629629629632, "left_mean": 0.1953703703703704, "mean_delta": -0.001851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.039021796916533756, "delta_ci_lower": 0.0, "delta_ci_upper": 0.039021796916533756, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.23232323232323235, "left_mean": 0.16565656565656564, "mean_delta": 0.014460393407761831, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11345029239766082, "right_ci_upper": 0.24678362573099413, "right_mean": 0.18011695906432748, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.05, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.3, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1128.2737720342022, "ci_upper": -140.47176081968558, "delta_ci_lower": -1128.2737720342022, "delta_ci_upper": -140.47176081968558, "failure_count": 0, "left_ci_lower": 42379.110132867594, "left_ci_upper": 43566.07493818922, "left_mean": 42952.98629094614, "mean_delta": -622.4465208186302, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41828.72278075558, "right_ci_upper": 42835.523634858546, "right_mean": 42330.53977012751, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -52.55062499999999, "ci_upper": 59.35083333333333, "delta_ci_lower": -52.55062499999999, "delta_ci_upper": 59.35083333333333, "failure_count": 0, "left_ci_lower": 5884.6987500000005, "left_ci_upper": 6014.926458333333, "left_mean": 5949.875, "mean_delta": 6.283333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5889.074375, "right_ci_upper": 6020.352916666667, "right_mean": 5956.158333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -44.233958333333334, "ci_upper": 63.28479166666665, "delta_ci_lower": -44.233958333333334, "delta_ci_upper": 63.28479166666665, "failure_count": 0, "left_ci_lower": 5523.666041666667, "left_ci_upper": 5649.45625, "left_mean": 5586.658333333334, "mean_delta": 12.458333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.865833333333, "right_ci_upper": 5659.794166666667, "right_mean": 5599.116666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6777777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6777777777777778, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1314.0491574396824, "ci_upper": -675.3331839812261, "delta_ci_lower": -1314.0491574396824, "delta_ci_upper": -675.3331839812261, "failure_count": 0, "left_ci_lower": 6293.856961385027, "left_ci_upper": 7027.167155987457, "left_mean": 6635.978331246103, "mean_delta": -972.9849204537459, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.591286071693, "right_ci_upper": 5881.258940057354, "right_mean": 5662.993410792357, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.14722222222222223, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19537037037037036, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.14722222222222223, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19537037037037036, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.14722222222222223, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19537037037037036, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.14722222222222223, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19537037037037036, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.039021796916533756, "delta_ci_lower": 0.0, "delta_ci_upper": 0.039021796916533756, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.23232323232323232, "left_mean": 0.16565656565656564, "mean_delta": 0.01446039340776183, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11345029239766083, "right_ci_upper": 0.24678362573099413, "right_mean": 0.18011695906432748, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.003925404277516953, "ci_upper": 0.05599895670318206, "delta_ci_lower": -0.003925404277516953, "delta_ci_upper": 0.05599895670318206, "failure_count": 0, "left_ci_lower": 0.17201356285863328, "left_ci_upper": 0.3041601460615545, "left_mean": 0.2363849765258216, "mean_delta": 0.021283255086071987, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1921622326551904, "right_ci_upper": 0.3254434011476265, "right_mean": 0.25766823161189356, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1321.329706920767, "ci_upper": -253.67755751863868, "delta_ci_lower": -1321.329706920767, "delta_ci_upper": -253.67755751863868, "failure_count": 0, "left_ci_lower": 42533.688940389155, "left_ci_upper": 43905.483869144184, "left_mean": 43196.129735191, "mean_delta": -775.9381796582967, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41892.3344714184, "right_ci_upper": 42967.60957360036, "right_mean": 42420.19155553271, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -49.00878651538862, "ci_upper": 64.01948976264998, "delta_ci_lower": -49.00878651538862, "delta_ci_upper": 64.01948976264998, "failure_count": 0, "left_ci_lower": 5872.473333333333, "left_ci_upper": 6012.939508346374, "left_mean": 5942.527490871153, "mean_delta": 11.356677099634844, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5885.341073617633, "right_ci_upper": 6020.664130477308, "right_mean": 5953.8841679707875, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0534220251293422, "left_mean": 0.020679970436067993, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.036186252771618625, "right_mean": 0.012062084257206208, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0534220251293422, "left_mean": 0.020679970436067993, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.036186252771618625, "right_mean": 0.012062084257206208, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0534220251293422, "left_mean": 0.020679970436067993, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.036186252771618625, "right_mean": 0.012062084257206208, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -38.119889475743356, "ci_upper": 69.0919799817423, "delta_ci_lower": -38.119889475743356, "delta_ci_upper": 69.0919799817423, "failure_count": 0, "left_ci_lower": 5514.14816281951, "left_ci_upper": 5649.760848004695, "left_mean": 5582.392749087116, "mean_delta": 18.950625978090766, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.299820357329, "right_ci_upper": 5665.989763954095, "right_mean": 5601.343375065206, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.04943089430894309, "ci_upper": 0.05061345158906134, "delta_ci_lower": -0.04943089430894309, "delta_ci_upper": 0.05061345158906134, "failure_count": 0, "left_ci_lower": 0.5580783444198079, "left_ci_upper": 0.7316777531411677, "left_mean": 0.6448780487804878, "mean_delta": 0.0005912786400591272, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.559260901699926, "right_ci_upper": 0.7310864745011085, "right_mean": 0.6454693274205469, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.30016204730229123, "left_ci_upper": 0.4923876570583888, "left_mean": 0.3955580192165558, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.30016204730229123, "left_ci_upper": 0.4923876570583888, "left_mean": 0.3955580192165558, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.30016204730229123, "left_ci_upper": 0.4923876570583888, "left_mean": 0.3955580192165558, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.30016204730229123, "left_ci_upper": 0.4923876570583888, "left_mean": 0.3955580192165558, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34135994087213595, "left_ci_upper": 0.5453954175905396, "left_mean": 0.44254249815225427, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34135994087213595, "left_ci_upper": 0.5453954175905396, "left_mean": 0.44254249815225427, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34135994087213595, "left_ci_upper": 0.5453954175905396, "left_mean": 0.44254249815225427, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34135994087213595, "left_ci_upper": 0.5453954175905396, "left_mean": 0.44254249815225427, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1131.6543327842817, "ci_upper": -583.3333269775526, "delta_ci_lower": -1131.6543327842817, "delta_ci_upper": -583.3333269775526, "failure_count": 0, "left_ci_lower": 6305.4678067806835, "left_ci_upper": 7005.065824487619, "left_mean": 6638.009595082445, "mean_delta": -851.9878282608153, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5551.1836992702865, "right_ci_upper": 6054.922030431886, "right_mean": 5786.021766821629, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.012926829268292682, "ci_upper": 0.008617886178861788, "delta_ci_lower": -0.012926829268292682, "delta_ci_upper": 0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.14489246119733923, "left_ci_upper": 0.2428436191180093, "left_mean": 0.19277654594727764, "mean_delta": -0.0014363143631436314, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.012926829268292682, "ci_upper": 0.008617886178861788, "delta_ci_lower": -0.012926829268292682, "delta_ci_upper": 0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.14489246119733923, "left_ci_upper": 0.2428436191180093, "left_mean": 0.19277654594727764, "mean_delta": -0.0014363143631436314, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.012926829268292682, "ci_upper": 0.008617886178861788, "delta_ci_lower": -0.012926829268292682, "delta_ci_upper": 0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.14489246119733923, "left_ci_upper": 0.2428436191180093, "left_mean": 0.19277654594727764, "mean_delta": -0.0014363143631436314, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.012926829268292682, "ci_upper": 0.008617886178861788, "delta_ci_lower": -0.012926829268292682, "delta_ci_upper": 0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.14489246119733923, "left_ci_upper": 0.2428436191180093, "left_mean": 0.19277654594727764, "mean_delta": -0.0014363143631436314, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.04236157820473376, "delta_ci_lower": 0.0, "delta_ci_upper": 0.04236157820473376, "failure_count": 0, "left_ci_lower": 0.10864476248068267, "left_ci_upper": 0.2544863266814486, "left_mean": 0.1810172680239199, "mean_delta": 0.015698023530909516, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12432800404559083, "right_ci_upper": 0.269693857704127, "right_mean": 0.19671529155482942, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.05, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.24166666666666664, "left_ci_upper": 0.36666666666666664, "left_mean": 0.3, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.3833333333333333, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1128.2737720342022, "ci_upper": -140.47176081968556, "delta_ci_lower": -1128.2737720342022, "delta_ci_upper": -140.47176081968556, "failure_count": 0, "left_ci_lower": 42379.1101328676, "left_ci_upper": 43566.07493818922, "left_mean": 42952.98629094614, "mean_delta": -622.4465208186302, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41828.72278075558, "right_ci_upper": 42835.523634858546, "right_mean": 42330.53977012751, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -52.550625, "ci_upper": 59.35083333333333, "delta_ci_lower": -52.550625, "delta_ci_upper": 59.35083333333333, "failure_count": 0, "left_ci_lower": 5884.6987500000005, "left_ci_upper": 6014.926458333333, "left_mean": 5949.875, "mean_delta": 6.283333333333332, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5889.074375, "right_ci_upper": 6020.352916666667, "right_mean": 5956.158333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555556, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555556, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555556, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -44.233958333333334, "ci_upper": 63.284791666666656, "delta_ci_lower": -44.233958333333334, "delta_ci_upper": 63.284791666666656, "failure_count": 0, "left_ci_lower": 5523.666041666667, "left_ci_upper": 5649.45625, "left_mean": 5586.658333333333, "mean_delta": 12.458333333333336, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.865833333333, "right_ci_upper": 5659.794166666667, "right_mean": 5599.116666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6777777777777777, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6777777777777777, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444445, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444445, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444445, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444445, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1314.0491574396824, "ci_upper": -675.3331839812261, "delta_ci_lower": -1314.0491574396824, "delta_ci_upper": -675.3331839812261, "failure_count": 0, "left_ci_lower": 6293.856961385027, "left_ci_upper": 7027.167155987456, "left_mean": 6635.978331246103, "mean_delta": -972.9849204537459, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.591286071693, "right_ci_upper": 5881.258940057354, "right_mean": 5662.993410792357, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.1472222222222222, "left_ci_upper": 0.24629629629629632, "left_mean": 0.1953703703703704, "mean_delta": -0.001851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.1472222222222222, "left_ci_upper": 0.24629629629629632, "left_mean": 0.1953703703703704, "mean_delta": -0.001851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.1472222222222222, "left_ci_upper": 0.24629629629629632, "left_mean": 0.1953703703703704, "mean_delta": -0.001851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.1472222222222222, "left_ci_upper": 0.24629629629629632, "left_mean": 0.1953703703703704, "mean_delta": -0.001851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.039021796916533756, "delta_ci_lower": 0.0, "delta_ci_upper": 0.039021796916533756, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.23232323232323235, "left_mean": 0.16565656565656564, "mean_delta": 0.014460393407761831, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11345029239766082, "right_ci_upper": 0.24678362573099413, "right_mean": 0.18011695906432748, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.05, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.3, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1128.2737720342022, "ci_upper": -140.47176081968558, "delta_ci_lower": -1128.2737720342022, "delta_ci_upper": -140.47176081968558, "failure_count": 0, "left_ci_lower": 42379.110132867594, "left_ci_upper": 43566.07493818922, "left_mean": 42952.98629094614, "mean_delta": -622.4465208186302, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41828.72278075558, "right_ci_upper": 42835.523634858546, "right_mean": 42330.53977012751, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -52.55062499999999, "ci_upper": 59.35083333333333, "delta_ci_lower": -52.55062499999999, "delta_ci_upper": 59.35083333333333, "failure_count": 0, "left_ci_lower": 5884.6987500000005, "left_ci_upper": 6014.926458333333, "left_mean": 5949.875, "mean_delta": 6.283333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5889.074375, "right_ci_upper": 6020.352916666667, "right_mean": 5956.158333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -44.233958333333334, "ci_upper": 63.28479166666665, "delta_ci_lower": -44.233958333333334, "delta_ci_upper": 63.28479166666665, "failure_count": 0, "left_ci_lower": 5523.666041666667, "left_ci_upper": 5649.45625, "left_mean": 5586.658333333334, "mean_delta": 12.458333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.865833333333, "right_ci_upper": 5659.794166666667, "right_mean": 5599.116666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6777777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6777777777777778, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1314.0491574396824, "ci_upper": -675.3331839812261, "delta_ci_lower": -1314.0491574396824, "delta_ci_upper": -675.3331839812261, "failure_count": 0, "left_ci_lower": 6293.856961385027, "left_ci_upper": 7027.167155987457, "left_mean": 6635.978331246103, "mean_delta": -972.9849204537459, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.591286071693, "right_ci_upper": 5881.258940057354, "right_mean": 5662.993410792357, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.14722222222222223, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19537037037037036, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.14722222222222223, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19537037037037036, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.14722222222222223, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19537037037037036, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.14722222222222223, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19537037037037036, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.039021796916533756, "delta_ci_lower": 0.0, "delta_ci_upper": 0.039021796916533756, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.23232323232323232, "left_mean": 0.16565656565656564, "mean_delta": 0.01446039340776183, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11345029239766083, "right_ci_upper": 0.24678362573099413, "right_mean": 0.18011695906432748, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.003925404277516953, "ci_upper": 0.05599895670318206, "delta_ci_lower": -0.003925404277516953, "delta_ci_upper": 0.05599895670318206, "failure_count": 0, "left_ci_lower": 0.17201356285863328, "left_ci_upper": 0.3041601460615545, "left_mean": 0.2363849765258216, "mean_delta": 0.021283255086071987, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1921622326551904, "right_ci_upper": 0.3254434011476265, "right_mean": 0.25766823161189356, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1321.329706920767, "ci_upper": -253.67755751863868, "delta_ci_lower": -1321.329706920767, "delta_ci_upper": -253.67755751863868, "failure_count": 0, "left_ci_lower": 42533.688940389155, "left_ci_upper": 43905.483869144184, "left_mean": 43196.129735191, "mean_delta": -775.9381796582967, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41892.3344714184, "right_ci_upper": 42967.60957360036, "right_mean": 42420.19155553271, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -49.00878651538862, "ci_upper": 64.01948976264998, "delta_ci_lower": -49.00878651538862, "delta_ci_upper": 64.01948976264998, "failure_count": 0, "left_ci_lower": 5872.473333333333, "left_ci_upper": 6012.939508346374, "left_mean": 5942.527490871153, "mean_delta": 11.356677099634844, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5885.341073617633, "right_ci_upper": 6020.664130477308, "right_mean": 5953.8841679707875, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0534220251293422, "left_mean": 0.020679970436067993, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.036186252771618625, "right_mean": 0.012062084257206208, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0534220251293422, "left_mean": 0.020679970436067993, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.036186252771618625, "right_mean": 0.012062084257206208, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0534220251293422, "left_mean": 0.020679970436067993, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.036186252771618625, "right_mean": 0.012062084257206208, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -38.119889475743356, "ci_upper": 69.0919799817423, "delta_ci_lower": -38.119889475743356, "delta_ci_upper": 69.0919799817423, "failure_count": 0, "left_ci_lower": 5514.14816281951, "left_ci_upper": 5649.760848004695, "left_mean": 5582.392749087116, "mean_delta": 18.950625978090766, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.299820357329, "right_ci_upper": 5665.989763954095, "right_mean": 5601.343375065206, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.04943089430894309, "ci_upper": 0.05061345158906134, "delta_ci_lower": -0.04943089430894309, "delta_ci_upper": 0.05061345158906134, "failure_count": 0, "left_ci_lower": 0.5580783444198079, "left_ci_upper": 0.7316777531411677, "left_mean": 0.6448780487804878, "mean_delta": 0.0005912786400591272, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.559260901699926, "right_ci_upper": 0.7310864745011085, "right_mean": 0.6454693274205469, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.30016204730229123, "left_ci_upper": 0.4923876570583888, "left_mean": 0.3955580192165558, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.30016204730229123, "left_ci_upper": 0.4923876570583888, "left_mean": 0.3955580192165558, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.30016204730229123, "left_ci_upper": 0.4923876570583888, "left_mean": 0.3955580192165558, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.30016204730229123, "left_ci_upper": 0.4923876570583888, "left_mean": 0.3955580192165558, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34135994087213595, "left_ci_upper": 0.5453954175905396, "left_mean": 0.44254249815225427, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34135994087213595, "left_ci_upper": 0.5453954175905396, "left_mean": 0.44254249815225427, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34135994087213595, "left_ci_upper": 0.5453954175905396, "left_mean": 0.44254249815225427, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34135994087213595, "left_ci_upper": 0.5453954175905396, "left_mean": 0.44254249815225427, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1131.6543327842817, "ci_upper": -583.3333269775526, "delta_ci_lower": -1131.6543327842817, "delta_ci_upper": -583.3333269775526, "failure_count": 0, "left_ci_lower": 6305.4678067806835, "left_ci_upper": 7005.065824487619, "left_mean": 6638.009595082445, "mean_delta": -851.9878282608153, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5551.1836992702865, "right_ci_upper": 6054.922030431886, "right_mean": 5786.021766821629, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.012926829268292682, "ci_upper": 0.008617886178861788, "delta_ci_lower": -0.012926829268292682, "delta_ci_upper": 0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.14489246119733923, "left_ci_upper": 0.2428436191180093, "left_mean": 0.19277654594727764, "mean_delta": -0.0014363143631436314, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.012926829268292682, "ci_upper": 0.008617886178861788, "delta_ci_lower": -0.012926829268292682, "delta_ci_upper": 0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.14489246119733923, "left_ci_upper": 0.2428436191180093, "left_mean": 0.19277654594727764, "mean_delta": -0.0014363143631436314, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.012926829268292682, "ci_upper": 0.008617886178861788, "delta_ci_lower": -0.012926829268292682, "delta_ci_upper": 0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.14489246119733923, "left_ci_upper": 0.2428436191180093, "left_mean": 0.19277654594727764, "mean_delta": -0.0014363143631436314, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.012926829268292682, "ci_upper": 0.008617886178861788, "delta_ci_lower": -0.012926829268292682, "delta_ci_upper": 0.008617886178861788, "failure_count": 0, "left_ci_lower": 0.14489246119733923, "left_ci_upper": 0.2428436191180093, "left_mean": 0.19277654594727764, "mean_delta": -0.0014363143631436314, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.04236157820473376, "delta_ci_lower": 0.0, "delta_ci_upper": 0.04236157820473376, "failure_count": 0, "left_ci_lower": 0.10864476248068267, "left_ci_upper": 0.2544863266814486, "left_mean": 0.1810172680239199, "mean_delta": 0.015698023530909516, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12432800404559083, "right_ci_upper": 0.269693857704127, "right_mean": 0.19671529155482942, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -667.3849162699963, "ci_upper": 1084.719842359385, "delta_ci_lower": -667.3849162699963, "delta_ci_upper": 1084.719842359385, "failure_count": 0, "left_ci_lower": 41316.953551496656, "left_ci_upper": 43476.3940028596, "left_mean": 42409.85973050507, "mean_delta": 242.55555009779832, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41588.939856409175, "right_ci_upper": 43701.48378918704, "right_mean": 42652.41528060287, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -131.0358333333333, "ci_upper": 88.33749999999993, "delta_ci_lower": -131.0358333333333, "delta_ci_upper": 88.33749999999993, "failure_count": 0, "left_ci_lower": 5785.932500000001, "left_ci_upper": 6073.471666666666, "left_mean": 5931.366666666667, "mean_delta": -14.933333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5780.9975, "right_ci_upper": 6048.405833333332, "right_mean": 5916.433333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -109.96916666666665, "ci_upper": 93.60249999999995, "delta_ci_lower": -109.96916666666665, "delta_ci_upper": 93.60249999999995, "failure_count": 0, "left_ci_lower": 5434.621666666667, "left_ci_upper": 5707.633333333333, "left_mean": 5572.933333333333, "mean_delta": -2.8, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5443.5, "right_ci_upper": 5692.700833333333, "right_mean": 5570.133333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.9, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5833333333333334, "left_mean": 0.4166666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5833333333333334, "left_mean": 0.4166666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5833333333333334, "left_mean": 0.4166666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5833333333333334, "left_mean": 0.4166666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1164.9348178403063, "ci_upper": -191.50148056680342, "delta_ci_lower": -1164.9348178403063, "delta_ci_upper": -191.50148056680342, "failure_count": 0, "left_ci_lower": 5626.1234991886895, "left_ci_upper": 6790.6467111393185, "left_mean": 6177.516841810818, "mean_delta": -637.4532611885419, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5184.316084898892, "right_ci_upper": 5901.614248875607, "right_mean": 5540.063580622275, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12777777777777777, "left_ci_upper": 0.28888888888888886, "left_mean": 0.20555555555555557, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.28888888888888886, "right_mean": 0.20555555555555557, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12777777777777777, "left_ci_upper": 0.28888888888888886, "left_mean": 0.20555555555555557, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.28888888888888886, "right_mean": 0.20555555555555557, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12777777777777777, "left_ci_upper": 0.28888888888888886, "left_mean": 0.20555555555555557, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.28888888888888886, "right_mean": 0.20555555555555557, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12777777777777777, "left_ci_upper": 0.28888888888888886, "left_mean": 0.20555555555555557, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.28888888888888886, "right_mean": 0.20555555555555557, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -4349.087813189253, "ci_upper": -1869.7434843186056, "delta_ci_lower": -4349.087813189253, "delta_ci_upper": -1869.7434843186056, "failure_count": 0, "left_ci_lower": 43797.17165966945, "left_ci_upper": 47074.76586977951, "left_mean": 45299.81632356066, "mean_delta": -3050.4599041538313, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41286.55446408995, "right_ci_upper": 43217.64492817398, "right_mean": 42249.35641940683, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -99.40083333333334, "ci_upper": 121.80499999999992, "delta_ci_lower": -99.40083333333334, "delta_ci_upper": 121.80499999999992, "failure_count": 0, "left_ci_lower": 5789.060833333333, "left_ci_upper": 6043.466666666666, "left_mean": 5917.333333333333, "mean_delta": 26.866666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5824.530833333333, "right_ci_upper": 6060.369166666666, "right_mean": 5944.2, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -87.4, "ci_upper": 127.33416666666665, "delta_ci_lower": -87.4, "delta_ci_upper": 127.33416666666665, "failure_count": 0, "left_ci_lower": 5448.933333333333, "left_ci_upper": 5702.067499999999, "left_mean": 5575.966666666666, "mean_delta": 34.233333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5491.089166666668, "right_ci_upper": 5725.1675000000005, "right_mean": 5610.2, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.35833333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.35833333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.35833333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.35833333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.35833333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.35833333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.35833333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.35833333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1842.2061497851973, "ci_upper": -850.9242428631601, "delta_ci_lower": -1842.2061497851973, "delta_ci_upper": -850.9242428631601, "failure_count": 0, "left_ci_lower": 6470.426009497217, "left_ci_upper": 8069.241126632162, "left_mean": 7194.973000014822, "mean_delta": -1364.4961236976087, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5248.546441447494, "right_ci_upper": 6543.651199897479, "right_mean": 5830.476876317213, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08055555555555555, "left_ci_upper": 0.24722222222222223, "left_mean": 0.15833333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.08055555555555555, "right_ci_upper": 0.24722222222222223, "right_mean": 0.15833333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08055555555555555, "left_ci_upper": 0.24722222222222223, "left_mean": 0.15833333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.08055555555555555, "right_ci_upper": 0.24722222222222223, "right_mean": 0.15833333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08055555555555555, "left_ci_upper": 0.24722222222222223, "left_mean": 0.15833333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.08055555555555555, "right_ci_upper": 0.24722222222222223, "right_mean": 0.15833333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.08055555555555555, "left_ci_upper": 0.24722222222222223, "left_mean": 0.15833333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.08055555555555555, "right_ci_upper": 0.24722222222222223, "right_mean": 0.15833333333333333, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.11610845295055822, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11610845295055822, "failure_count": 0, "left_ci_lower": 0.2636363636363636, "left_ci_upper": 0.6, "left_mean": 0.4303030303030303, "mean_delta": 0.04338118022328549, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6473684210526316, "right_mean": 0.4736842105263158, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 53.97882398353744, "ci_upper": 1269.0565988720236, "delta_ci_lower": 53.97882398353744, "delta_ci_upper": 1269.0565988720236, "failure_count": 0, "left_ci_lower": 41058.29674063037, "left_ci_upper": 42722.3560572695, "left_mean": 41939.83883611703, "mean_delta": 718.0714333119491, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41650.353616532135, "right_ci_upper": 43607.017805086216, "right_mean": 42657.910269428976, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -29.93416666666666, "ci_upper": 119.93666666666661, "delta_ci_lower": -29.93416666666666, "delta_ci_upper": 119.93666666666661, "failure_count": 0, "left_ci_lower": 5855.266666666666, "left_ci_upper": 6088.503333333333, "left_mean": 5979.133333333333, "mean_delta": 56.43333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5907.1625, "right_ci_upper": 6150.636666666666, "right_mean": 6035.566666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -19.167499999999993, "ci_upper": 122.1, "delta_ci_lower": -19.167499999999993, "delta_ci_upper": 122.1, "failure_count": 0, "left_ci_lower": 5470.4325, "left_ci_upper": 5707.0008333333335, "left_mean": 5594.533333333334, "mean_delta": 61.56666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5530.7941666666675, "right_ci_upper": 5772.67, "right_mean": 5656.1, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 1.0, "left_ci_upper": 1.0, "left_mean": 1.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 1.0, "right_ci_upper": 1.0, "right_mean": 1.0, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5833333333333334, "left_mean": 0.4166666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5833333333333334, "left_mean": 0.4166666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5833333333333334, "left_mean": 0.4166666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5833333333333334, "left_mean": 0.4166666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -172.5677119973503, "ci_upper": 537.6867664310461, "delta_ci_lower": -172.5677119973503, "delta_ci_upper": 537.6867664310461, "failure_count": 0, "left_ci_lower": 6255.237441202432, "left_ci_upper": 6829.718195054641, "left_mean": 6535.821531907034, "mean_delta": 178.35113069353005, "missing_count": 0, "paired_count": 30, "right_ci_lower": 6361.460049305848, "right_ci_upper": 7068.833297913273, "right_mean": 6714.172662600565, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.05, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.05, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.12777777777777777, "left_ci_upper": 0.31666666666666665, "left_mean": 0.2222222222222222, "mean_delta": -0.005555555555555556, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.3055555555555555, "right_mean": 0.21666666666666667, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.05, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.05, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.12777777777777777, "left_ci_upper": 0.31666666666666665, "left_mean": 0.2222222222222222, "mean_delta": -0.005555555555555556, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.3055555555555555, "right_mean": 0.21666666666666667, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.05, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.05, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.12777777777777777, "left_ci_upper": 0.31666666666666665, "left_mean": 0.2222222222222222, "mean_delta": -0.005555555555555556, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.3055555555555555, "right_mean": 0.21666666666666667, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.05, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.05, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.12777777777777777, "left_ci_upper": 0.31666666666666665, "left_mean": 0.2222222222222222, "mean_delta": -0.005555555555555556, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.3055555555555555, "right_mean": 0.21666666666666667, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1561.3693366401517, "ci_upper": 538.0500881034337, "delta_ci_lower": -1561.3693366401517, "delta_ci_upper": 538.0500881034337, "failure_count": 0, "left_ci_lower": 41228.78917628841, "left_ci_upper": 43082.09302433863, "left_mean": 42162.430273601785, "mean_delta": -399.9531625304371, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40781.01252839299, "right_ci_upper": 42724.35241565846, "right_mean": 41762.47711107135, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -203.70083333333332, "ci_upper": 84.76666666666667, "delta_ci_lower": -203.70083333333332, "delta_ci_upper": 84.76666666666667, "failure_count": 0, "left_ci_lower": 5846.966666666666, "left_ci_upper": 6096.866666666667, "left_mean": 5971.666666666667, "mean_delta": -43.233333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5789.7625, "right_ci_upper": 6064.201666666666, "right_mean": 5928.433333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -200.8675, "ci_upper": 81.56916666666663, "delta_ci_lower": -200.8675, "delta_ci_upper": 81.56916666666663, "failure_count": 0, "left_ci_lower": 5479.426666666666, "left_ci_upper": 5725.235833333333, "left_mean": 5603.2, "mean_delta": -43.166666666666664, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5434.629166666667, "right_ci_upper": 5682.1675000000005, "right_mean": 5560.033333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": -3189.5724568527653, "ci_upper": -1191.8935900990618, "delta_ci_lower": -3189.5724568527653, "delta_ci_upper": -1191.8935900990618, "failure_count": 0, "left_ci_lower": 5700.123399759177, "left_ci_upper": 7809.823837894946, "left_mean": 6635.601951251738, "mean_delta": -2068.341427622363, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4417.8246837185, "right_ci_upper": 4709.836150834842, "right_mean": 4567.260523629375, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "left_regime": "advanced_lightrag_er", "metrics": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.05, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.3, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1128.2737720342022, "ci_upper": -140.47176081968558, "delta_ci_lower": -1128.2737720342022, "delta_ci_upper": -140.47176081968558, "failure_count": 0, "left_ci_lower": 42379.110132867594, "left_ci_upper": 43566.07493818922, "left_mean": 42952.98629094614, "mean_delta": -622.4465208186302, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41828.72278075558, "right_ci_upper": 42835.523634858546, "right_mean": 42330.53977012751, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -52.55062499999999, "ci_upper": 59.35083333333333, "delta_ci_lower": -52.55062499999999, "delta_ci_upper": 59.35083333333333, "failure_count": 0, "left_ci_lower": 5884.6987500000005, "left_ci_upper": 6014.926458333333, "left_mean": 5949.875, "mean_delta": 6.283333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5889.074375, "right_ci_upper": 6020.352916666667, "right_mean": 5956.158333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -44.233958333333334, "ci_upper": 63.28479166666665, "delta_ci_lower": -44.233958333333334, "delta_ci_upper": 63.28479166666665, "failure_count": 0, "left_ci_lower": 5523.666041666667, "left_ci_upper": 5649.45625, "left_mean": 5586.658333333334, "mean_delta": 12.458333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.865833333333, "right_ci_upper": 5659.794166666667, "right_mean": 5599.116666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.7555555555555555, "left_mean": 0.6777777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6777777777777778, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3027777777777777, "left_ci_upper": 0.49444444444444446, "left_mean": 0.3972222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.34444444444444444, "left_ci_upper": 0.5444444444444444, "left_mean": 0.4444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1314.0491574396824, "ci_upper": -675.3331839812261, "delta_ci_lower": -1314.0491574396824, "delta_ci_upper": -675.3331839812261, "failure_count": 0, "left_ci_lower": 6293.856961385027, "left_ci_upper": 7027.167155987457, "left_mean": 6635.978331246103, "mean_delta": -972.9849204537459, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.591286071693, "right_ci_upper": 5881.258940057354, "right_mean": 5662.993410792357, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.14722222222222223, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19537037037037036, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.14722222222222223, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19537037037037036, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.14722222222222223, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19537037037037036, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.14722222222222223, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19537037037037036, "mean_delta": -0.0018518518518518521, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.039021796916533756, "delta_ci_lower": 0.0, "delta_ci_upper": 0.039021796916533756, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.23232323232323232, "left_mean": 0.16565656565656564, "mean_delta": 0.01446039340776183, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11345029239766083, "right_ci_upper": 0.24678362573099413, "right_mean": 0.18011695906432748, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_0d6955c37af628650e9654ec", "builder_key": "qwen3_1_7b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.01666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.01666666666666667, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.375, "left_mean": 0.3083333333333333, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -940.4246481375594, "ci_upper": -191.4861296887103, "delta_ci_lower": -940.4246481375594, "delta_ci_upper": -191.4861296887103, "failure_count": 0, "left_ci_lower": 42790.66657114755, "left_ci_upper": 43931.669892758655, "left_mean": 43360.47619063174, "mean_delta": -559.4180791386558, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42207.84878249038, "right_ci_upper": 43411.121257268875, "right_mean": 42801.05811149309, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -36.158958333333324, "ci_upper": 39.25020833333333, "delta_ci_lower": -36.158958333333324, "delta_ci_upper": 39.25020833333333, "failure_count": 0, "left_ci_lower": 5986.516041666667, "left_ci_upper": 6118.017083333333, "left_mean": 6053.650000000001, "mean_delta": 3.058333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5988.671666666667, "right_ci_upper": 6121.583958333334, "right_mean": 6056.708333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -33.3614583333333, "ci_upper": 37.50895833333332, "delta_ci_lower": -33.3614583333333, "delta_ci_upper": 37.50895833333332, "failure_count": 0, "left_ci_lower": 5623.323125, "left_ci_upper": 5745.284791666666, "left_mean": 5685.775, "mean_delta": 3.4750000000000005, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5626.307291666666, "right_ci_upper": 5749.158541666667, "right_mean": 5689.25, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6555555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333336, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333336, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333336, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333336, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444446, "left_ci_upper": 0.4444444444444444, "left_mean": 0.3444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444446, "left_ci_upper": 0.4444444444444444, "left_mean": 0.3444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444446, "left_ci_upper": 0.4444444444444444, "left_mean": 0.3444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444446, "left_ci_upper": 0.4444444444444444, "left_mean": 0.3444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 85.32543656561757, "ci_upper": 312.1271254744594, "delta_ci_lower": 85.32543656561757, "delta_ci_upper": 312.1271254744594, "failure_count": 0, "left_ci_lower": 5049.749905925468, "left_ci_upper": 5401.179799245825, "left_mean": 5213.8608486119965, "mean_delta": 197.98745870939456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5234.416852976235, "right_ci_upper": 5612.058798815754, "right_mean": 5411.848307321391, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.2074074074074074, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.2074074074074074, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.2074074074074074, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.2074074074074074, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.11481481481481481, "left_ci_upper": 0.254320987654321, "left_mean": 0.18209876543209877, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12407407407407406, "right_ci_upper": 0.26851851851851855, "right_mean": 0.19320987654320987, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.375, "left_mean": 0.30833333333333335, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -940.4246481375594, "ci_upper": -191.4861296887103, "delta_ci_lower": -940.4246481375594, "delta_ci_upper": -191.4861296887103, "failure_count": 0, "left_ci_lower": 42790.66657114755, "left_ci_upper": 43931.669892758655, "left_mean": 43360.47619063174, "mean_delta": -559.4180791386558, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42207.84878249038, "right_ci_upper": 43411.121257268875, "right_mean": 42801.05811149309, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -36.158958333333324, "ci_upper": 39.25020833333333, "delta_ci_lower": -36.158958333333324, "delta_ci_upper": 39.25020833333333, "failure_count": 0, "left_ci_lower": 5986.516041666667, "left_ci_upper": 6118.017083333333, "left_mean": 6053.65, "mean_delta": 3.058333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5988.671666666667, "right_ci_upper": 6121.583958333334, "right_mean": 6056.708333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -33.3614583333333, "ci_upper": 37.50895833333332, "delta_ci_lower": -33.3614583333333, "delta_ci_upper": 37.50895833333332, "failure_count": 0, "left_ci_lower": 5623.323125, "left_ci_upper": 5745.284791666667, "left_mean": 5685.775, "mean_delta": 3.475, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5626.307291666666, "right_ci_upper": 5749.158541666667, "right_mean": 5689.25, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6555555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.4444444444444444, "left_mean": 0.34444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.4444444444444444, "left_mean": 0.34444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.4444444444444444, "left_mean": 0.34444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.4444444444444444, "left_mean": 0.34444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 85.32543656561757, "ci_upper": 312.1271254744594, "delta_ci_lower": 85.32543656561757, "delta_ci_upper": 312.1271254744594, "failure_count": 0, "left_ci_lower": 5049.749905925468, "left_ci_upper": 5401.179799245825, "left_mean": 5213.8608486119965, "mean_delta": 197.98745870939456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5234.416852976235, "right_ci_upper": 5612.058798815754, "right_mean": 5411.848307321391, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.20740740740740743, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.20740740740740743, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.20740740740740743, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.20740740740740743, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.11481481481481483, "left_ci_upper": 0.254320987654321, "left_mean": 0.18209876543209877, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12407407407407407, "right_ci_upper": 0.26851851851851855, "right_mean": 0.19320987654320987, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.007850808555033907, "ci_upper": 0.037415232133542, "delta_ci_lower": -0.007850808555033907, "delta_ci_upper": 0.037415232133542, "failure_count": 0, "left_ci_lower": 0.17492175273865415, "left_ci_upper": 0.3110602503912363, "left_mean": 0.24094940010432966, "mean_delta": 0.011163275952008346, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1837874934793949, "right_ci_upper": 0.32602047470005213, "right_mean": 0.252112676056338, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1096.2018457720465, "ci_upper": -295.5203468927962, "delta_ci_lower": -1096.2018457720465, "delta_ci_upper": -295.5203468927962, "failure_count": 0, "left_ci_lower": 43035.94260031087, "left_ci_upper": 44303.54050006651, "left_mean": 43669.74010271362, "mean_delta": -675.9886440888582, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42339.755585766725, "right_ci_upper": 43676.15861682586, "right_mean": 42993.75145862477, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -54.612765388628034, "ci_upper": 26.679721896191953, "delta_ci_lower": -54.612765388628034, "delta_ci_upper": 26.679721896191953, "failure_count": 0, "left_ci_lower": 6013.116715571205, "left_ci_upper": 6149.190068140323, "left_mean": 6082.851525821597, "mean_delta": -9.120631194574857, "missing_count": 0, "paired_count": 120, "right_ci_lower": 6003.38585419927, "right_ci_upper": 6141.128401799687, "right_mean": 6073.7308946270205, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -50.601001890975446, "ci_upper": 25.83708463745435, "delta_ci_lower": -50.601001890975446, "delta_ci_upper": 25.83708463745435, "failure_count": 0, "left_ci_lower": 5649.848562532603, "left_ci_upper": 5773.551257824726, "left_mean": 5713.724660928535, "mean_delta": -8.069118414188836, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5640.854321531038, "right_ci_upper": 5766.685444053209, "right_mean": 5705.655542514345, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03796008869179601, "ci_upper": 0.036186252771618625, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.036186252771618625, "failure_count": 0, "left_ci_lower": 0.542009238728751, "left_ci_upper": 0.7281744271988174, "left_mean": 0.634530672579453, "mean_delta": -0.0005912786400591272, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5390561714708058, "right_ci_upper": 0.7282324464153731, "right_mean": 0.6339393939393939, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2405691056910569, "left_ci_upper": 0.4336511456023652, "left_mean": 0.3356688839615669, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2405691056910569, "left_ci_upper": 0.4336511456023652, "left_mean": 0.3356688839615669, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2405691056910569, "left_ci_upper": 0.4336511456023652, "left_mean": 0.3356688839615669, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2405691056910569, "left_ci_upper": 0.4336511456023652, "left_mean": 0.3356688839615669, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2523861788617886, "left_ci_upper": 0.45116038433111605, "left_mean": 0.3506134515890614, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2523861788617886, "left_ci_upper": 0.45116038433111605, "left_mean": 0.3506134515890614, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2523861788617886, "left_ci_upper": 0.45116038433111605, "left_mean": 0.3506134515890614, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2523861788617886, "left_ci_upper": 0.45116038433111605, "left_mean": 0.3506134515890614, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 127.0319563031629, "ci_upper": 290.5919380490592, "delta_ci_lower": 127.0319563031629, "delta_ci_upper": 290.5919380490592, "failure_count": 0, "left_ci_lower": 5060.469433812903, "left_ci_upper": 5480.046690669164, "left_mean": 5251.104853213845, "mean_delta": 206.34753326092905, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5255.5234806942435, "right_ci_upper": 5692.474553365757, "right_mean": 5457.452386474773, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11068927075634391, "left_ci_upper": 0.21035778516876077, "left_mean": 0.1594210396649421, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11068927075634391, "left_ci_upper": 0.21035778516876077, "left_mean": 0.1594210396649421, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11068927075634391, "left_ci_upper": 0.21035778516876077, "left_mean": 0.1594210396649421, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11068927075634391, "left_ci_upper": 0.21035778516876077, "left_mean": 0.1594210396649421, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.12113020448386307, "left_ci_upper": 0.2675289480167529, "left_mean": 0.19197831978319782, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13124747474747475, "right_ci_upper": 0.2841241685144124, "right_mean": 0.20463168268046317, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.01666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.01666666666666667, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.375, "left_mean": 0.3083333333333333, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -940.4246481375594, "ci_upper": -191.4861296887103, "delta_ci_lower": -940.4246481375594, "delta_ci_upper": -191.4861296887103, "failure_count": 0, "left_ci_lower": 42790.66657114755, "left_ci_upper": 43931.669892758655, "left_mean": 43360.47619063174, "mean_delta": -559.4180791386558, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42207.84878249038, "right_ci_upper": 43411.121257268875, "right_mean": 42801.05811149309, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -36.158958333333324, "ci_upper": 39.25020833333333, "delta_ci_lower": -36.158958333333324, "delta_ci_upper": 39.25020833333333, "failure_count": 0, "left_ci_lower": 5986.516041666667, "left_ci_upper": 6118.017083333333, "left_mean": 6053.650000000001, "mean_delta": 3.058333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5988.671666666667, "right_ci_upper": 6121.583958333334, "right_mean": 6056.708333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -33.3614583333333, "ci_upper": 37.50895833333332, "delta_ci_lower": -33.3614583333333, "delta_ci_upper": 37.50895833333332, "failure_count": 0, "left_ci_lower": 5623.323125, "left_ci_upper": 5745.284791666666, "left_mean": 5685.775, "mean_delta": 3.4750000000000005, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5626.307291666666, "right_ci_upper": 5749.158541666667, "right_mean": 5689.25, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6555555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333336, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333336, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333336, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333336, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444446, "left_ci_upper": 0.4444444444444444, "left_mean": 0.3444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444446, "left_ci_upper": 0.4444444444444444, "left_mean": 0.3444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444446, "left_ci_upper": 0.4444444444444444, "left_mean": 0.3444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444446, "left_ci_upper": 0.4444444444444444, "left_mean": 0.3444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 85.32543656561757, "ci_upper": 312.1271254744594, "delta_ci_lower": 85.32543656561757, "delta_ci_upper": 312.1271254744594, "failure_count": 0, "left_ci_lower": 5049.749905925468, "left_ci_upper": 5401.179799245825, "left_mean": 5213.8608486119965, "mean_delta": 197.98745870939456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5234.416852976235, "right_ci_upper": 5612.058798815754, "right_mean": 5411.848307321391, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.2074074074074074, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.2074074074074074, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.2074074074074074, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.2074074074074074, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.11481481481481481, "left_ci_upper": 0.254320987654321, "left_mean": 0.18209876543209877, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12407407407407406, "right_ci_upper": 0.26851851851851855, "right_mean": 0.19320987654320987, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.375, "left_mean": 0.30833333333333335, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -940.4246481375594, "ci_upper": -191.4861296887103, "delta_ci_lower": -940.4246481375594, "delta_ci_upper": -191.4861296887103, "failure_count": 0, "left_ci_lower": 42790.66657114755, "left_ci_upper": 43931.669892758655, "left_mean": 43360.47619063174, "mean_delta": -559.4180791386558, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42207.84878249038, "right_ci_upper": 43411.121257268875, "right_mean": 42801.05811149309, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -36.158958333333324, "ci_upper": 39.25020833333333, "delta_ci_lower": -36.158958333333324, "delta_ci_upper": 39.25020833333333, "failure_count": 0, "left_ci_lower": 5986.516041666667, "left_ci_upper": 6118.017083333333, "left_mean": 6053.65, "mean_delta": 3.058333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5988.671666666667, "right_ci_upper": 6121.583958333334, "right_mean": 6056.708333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -33.3614583333333, "ci_upper": 37.50895833333332, "delta_ci_lower": -33.3614583333333, "delta_ci_upper": 37.50895833333332, "failure_count": 0, "left_ci_lower": 5623.323125, "left_ci_upper": 5745.284791666667, "left_mean": 5685.775, "mean_delta": 3.475, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5626.307291666666, "right_ci_upper": 5749.158541666667, "right_mean": 5689.25, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6555555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.4444444444444444, "left_mean": 0.34444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.4444444444444444, "left_mean": 0.34444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.4444444444444444, "left_mean": 0.34444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.4444444444444444, "left_mean": 0.34444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 85.32543656561757, "ci_upper": 312.1271254744594, "delta_ci_lower": 85.32543656561757, "delta_ci_upper": 312.1271254744594, "failure_count": 0, "left_ci_lower": 5049.749905925468, "left_ci_upper": 5401.179799245825, "left_mean": 5213.8608486119965, "mean_delta": 197.98745870939456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5234.416852976235, "right_ci_upper": 5612.058798815754, "right_mean": 5411.848307321391, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.20740740740740743, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.20740740740740743, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.20740740740740743, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.20740740740740743, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.11481481481481483, "left_ci_upper": 0.254320987654321, "left_mean": 0.18209876543209877, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12407407407407407, "right_ci_upper": 0.26851851851851855, "right_mean": 0.19320987654320987, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.007850808555033907, "ci_upper": 0.037415232133542, "delta_ci_lower": -0.007850808555033907, "delta_ci_upper": 0.037415232133542, "failure_count": 0, "left_ci_lower": 0.17492175273865415, "left_ci_upper": 0.3110602503912363, "left_mean": 0.24094940010432966, "mean_delta": 0.011163275952008346, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1837874934793949, "right_ci_upper": 0.32602047470005213, "right_mean": 0.252112676056338, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1096.2018457720465, "ci_upper": -295.5203468927962, "delta_ci_lower": -1096.2018457720465, "delta_ci_upper": -295.5203468927962, "failure_count": 0, "left_ci_lower": 43035.94260031087, "left_ci_upper": 44303.54050006651, "left_mean": 43669.74010271362, "mean_delta": -675.9886440888582, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42339.755585766725, "right_ci_upper": 43676.15861682586, "right_mean": 42993.75145862477, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -54.612765388628034, "ci_upper": 26.679721896191953, "delta_ci_lower": -54.612765388628034, "delta_ci_upper": 26.679721896191953, "failure_count": 0, "left_ci_lower": 6013.116715571205, "left_ci_upper": 6149.190068140323, "left_mean": 6082.851525821597, "mean_delta": -9.120631194574857, "missing_count": 0, "paired_count": 120, "right_ci_lower": 6003.38585419927, "right_ci_upper": 6141.128401799687, "right_mean": 6073.7308946270205, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -50.601001890975446, "ci_upper": 25.83708463745435, "delta_ci_lower": -50.601001890975446, "delta_ci_upper": 25.83708463745435, "failure_count": 0, "left_ci_lower": 5649.848562532603, "left_ci_upper": 5773.551257824726, "left_mean": 5713.724660928535, "mean_delta": -8.069118414188836, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5640.854321531038, "right_ci_upper": 5766.685444053209, "right_mean": 5705.655542514345, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03796008869179601, "ci_upper": 0.036186252771618625, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.036186252771618625, "failure_count": 0, "left_ci_lower": 0.542009238728751, "left_ci_upper": 0.7281744271988174, "left_mean": 0.634530672579453, "mean_delta": -0.0005912786400591272, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5390561714708058, "right_ci_upper": 0.7282324464153731, "right_mean": 0.6339393939393939, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2405691056910569, "left_ci_upper": 0.4336511456023652, "left_mean": 0.3356688839615669, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2405691056910569, "left_ci_upper": 0.4336511456023652, "left_mean": 0.3356688839615669, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2405691056910569, "left_ci_upper": 0.4336511456023652, "left_mean": 0.3356688839615669, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2405691056910569, "left_ci_upper": 0.4336511456023652, "left_mean": 0.3356688839615669, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2523861788617886, "left_ci_upper": 0.45116038433111605, "left_mean": 0.3506134515890614, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2523861788617886, "left_ci_upper": 0.45116038433111605, "left_mean": 0.3506134515890614, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2523861788617886, "left_ci_upper": 0.45116038433111605, "left_mean": 0.3506134515890614, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2523861788617886, "left_ci_upper": 0.45116038433111605, "left_mean": 0.3506134515890614, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 127.0319563031629, "ci_upper": 290.5919380490592, "delta_ci_lower": 127.0319563031629, "delta_ci_upper": 290.5919380490592, "failure_count": 0, "left_ci_lower": 5060.469433812903, "left_ci_upper": 5480.046690669164, "left_mean": 5251.104853213845, "mean_delta": 206.34753326092905, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5255.5234806942435, "right_ci_upper": 5692.474553365757, "right_mean": 5457.452386474773, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11068927075634391, "left_ci_upper": 0.21035778516876077, "left_mean": 0.1594210396649421, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11068927075634391, "left_ci_upper": 0.21035778516876077, "left_mean": 0.1594210396649421, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11068927075634391, "left_ci_upper": 0.21035778516876077, "left_mean": 0.1594210396649421, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11068927075634391, "left_ci_upper": 0.21035778516876077, "left_mean": 0.1594210396649421, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.12113020448386307, "left_ci_upper": 0.2675289480167529, "left_mean": 0.19197831978319782, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13124747474747475, "right_ci_upper": 0.2841241685144124, "right_mean": 0.20463168268046317, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1071.8090984970331, "ci_upper": -421.34599632059695, "delta_ci_lower": -1071.8090984970331, "delta_ci_upper": -421.34599632059695, "failure_count": 0, "left_ci_lower": 43282.054651918785, "left_ci_upper": 45500.829067821614, "left_mean": 44412.929884747915, "mean_delta": -713.9160292843977, "missing_count": 0, "paired_count": 30, "right_ci_lower": 42631.46037315853, "right_ci_upper": 44738.1838764388, "right_mean": 43699.01385546351, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -55.902499999999975, "ci_upper": 32.7, "delta_ci_lower": -55.902499999999975, "delta_ci_upper": 32.7, "failure_count": 0, "left_ci_lower": 6026.864166666666, "left_ci_upper": 6277.805833333334, "left_mean": 6157.666666666667, "mean_delta": -2.1666666666666665, "missing_count": 0, "paired_count": 30, "right_ci_lower": 6025.165833333334, "right_ci_upper": 6275.3341666666665, "right_mean": 6155.5, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -54.36833333333332, "ci_upper": 30.5, "delta_ci_lower": -54.36833333333332, "delta_ci_upper": 30.5, "failure_count": 0, "left_ci_lower": 5659.161666666667, "left_ci_upper": 5881.934166666667, "left_mean": 5775.633333333333, "mean_delta": -2.7666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5658.397499999999, "right_ci_upper": 5876.768333333333, "right_mean": 5772.866666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.6, "left_mean": 0.4166666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.6, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.6, "left_mean": 0.4166666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.6, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.6, "left_mean": 0.4166666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.6, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.6, "left_mean": 0.4166666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.6, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 52.23757990655334, "ci_upper": 286.5043299334744, "delta_ci_lower": 52.23757990655334, "delta_ci_upper": 286.5043299334744, "failure_count": 0, "left_ci_lower": 4747.495565184121, "left_ci_upper": 5285.727539147677, "left_mean": 5012.988293147646, "mean_delta": 139.35065270246318, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4863.959420174167, "right_ci_upper": 5458.19790963064, "right_mean": 5152.338945850109, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12777777777777777, "left_ci_upper": 0.33888888888888885, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12777777777777777, "left_ci_upper": 0.33888888888888885, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12777777777777777, "left_ci_upper": 0.33888888888888885, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12777777777777777, "left_ci_upper": 0.33888888888888885, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2280.3403460302306, "ci_upper": 45.290086141515815, "delta_ci_lower": -2280.3403460302306, "delta_ci_upper": 45.290086141515815, "failure_count": 0, "left_ci_lower": 42428.65906303127, "left_ci_upper": 45217.58935977084, "left_mean": 43806.05925416263, "mean_delta": -1036.1307095192994, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41210.26349705683, "right_ci_upper": 44433.85313508586, "right_mean": 42769.928544643335, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -190.40499999999997, "ci_upper": 35.56916666666663, "delta_ci_lower": -190.40499999999997, "delta_ci_upper": 35.56916666666663, "failure_count": 0, "left_ci_lower": 5930.030000000001, "left_ci_upper": 6197.5375, "left_mean": 6069.3, "mean_delta": -58.733333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5856.299166666667, "right_ci_upper": 6152.635, "right_mean": 6010.566666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -177.83416666666668, "ci_upper": 35.333333333333336, "delta_ci_lower": -177.83416666666668, "delta_ci_upper": 35.333333333333336, "failure_count": 0, "left_ci_lower": 5584.323333333333, "left_ci_upper": 5832.435833333334, "left_mean": 5713.166666666667, "mean_delta": -53.93333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5521.5625, "right_ci_upper": 5788.569166666666, "right_mean": 5659.233333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 236.2018766939097, "ci_upper": 564.6496214882548, "delta_ci_lower": 236.2018766939097, "delta_ci_upper": 564.6496214882548, "failure_count": 0, "left_ci_lower": 4756.9399715071395, "left_ci_upper": 5870.283629517459, "left_mean": 5236.3778194024535, "mean_delta": 396.3571681175381, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5127.947456584273, "right_ci_upper": 6252.461882197531, "right_mean": 5632.734987519992, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.15, "left_mean": 0.09444444444444443, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.15, "right_mean": 0.09444444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.15, "left_mean": 0.09444444444444443, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.15, "right_mean": 0.09444444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.15, "left_mean": 0.09444444444444443, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.15, "right_mean": 0.09444444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.15, "left_mean": 0.09444444444444443, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.15, "right_mean": 0.09444444444444443, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5851851851851853, "left_mean": 0.412962962962963, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5851851851851853, "right_mean": 0.412962962962963, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -639.8699930149207, "ci_upper": -259.0964656977061, "delta_ci_lower": -639.8699930149207, "delta_ci_upper": -259.0964656977061, "failure_count": 0, "left_ci_lower": 42352.697141219396, "left_ci_upper": 44228.258401425555, "left_mean": 43278.531088959426, "mean_delta": -441.33650834361714, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41938.19581352388, "right_ci_upper": 43760.346378324124, "right_mean": 42837.19458061581, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 2.465833333333341, "ci_upper": 29.4, "delta_ci_lower": 2.465833333333341, "delta_ci_upper": 29.4, "failure_count": 0, "left_ci_lower": 5967.7300000000005, "left_ci_upper": 6197.339166666667, "left_mean": 6085.033333333334, "mean_delta": 15.8, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5987.766666666666, "right_ci_upper": 6210.933333333333, "right_mean": 6100.833333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 3.865833333333341, "ci_upper": 28.766666666666666, "delta_ci_lower": 3.865833333333341, "delta_ci_upper": 28.766666666666666, "failure_count": 0, "left_ci_lower": 5601.365, "left_ci_upper": 5817.601666666667, "left_mean": 5712.233333333334, "mean_delta": 15.966666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5619.365833333333, "right_ci_upper": 5832.073333333333, "right_mean": 5728.2, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4166666666666667, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4166666666666667, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4166666666666667, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4166666666666667, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -4.2572492285398695, "ci_upper": 59.11276275311438, "delta_ci_lower": -4.2572492285398695, "delta_ci_upper": 59.11276275311438, "failure_count": 0, "left_ci_lower": 5676.444195982574, "left_ci_upper": 6141.343779049736, "left_mean": 5905.64703332105, "mean_delta": 26.893052831292152, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5695.5650768427095, "right_ci_upper": 6179.715352423179, "right_mean": 5932.540086152342, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.24444444444444444, "left_mean": 0.15, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.24444444444444444, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.24444444444444444, "left_mean": 0.15, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.24444444444444444, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.24444444444444444, "left_mean": 0.15, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.24444444444444444, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.24444444444444444, "left_mean": 0.15, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.24444444444444444, "right_mean": 0.15, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -747.3093073980028, "ci_upper": 912.7595513366391, "delta_ci_lower": -747.3093073980028, "delta_ci_upper": 912.7595513366391, "failure_count": 0, "left_ci_lower": 40822.84498414704, "left_ci_upper": 43039.02252009759, "left_mean": 41944.384534657, "mean_delta": -46.28906940730909, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40784.901101205614, "right_ci_upper": 42994.98047569514, "right_mean": 41898.095465249695, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 6.765833333333341, "ci_upper": 149.53416666666664, "delta_ci_lower": 6.765833333333341, "delta_ci_upper": 149.53416666666664, "failure_count": 0, "left_ci_lower": 5752.461666666666, "left_ci_upper": 6046.108333333334, "left_mean": 5902.6, "mean_delta": 57.333333333333336, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5811.2283333333335, "right_ci_upper": 6100.6675000000005, "right_mean": 5959.933333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": 7.033333333333333, "ci_upper": 141.4, "delta_ci_lower": 7.033333333333333, "delta_ci_upper": 141.4, "failure_count": 0, "left_ci_lower": 5400.864166666666, "left_ci_upper": 5679.668333333334, "left_mean": 5542.066666666667, "mean_delta": 54.63333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5454.158333333334, "right_ci_upper": 5732.235, "right_mean": 5596.7, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": -172.11123079042096, "ci_upper": 645.6447099919503, "delta_ci_lower": -172.11123079042096, "delta_ci_upper": 645.6447099919503, "failure_count": 0, "left_ci_lower": 4471.757035663662, "left_ci_upper": 4955.021336028779, "left_mean": 4700.430248576838, "mean_delta": 229.3489611862848, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4632.838903043497, "right_ci_upper": 5245.907872540605, "right_mean": 4929.779209763122, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "left_regime": "advanced_lightrag_er", "metrics": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.375, "left_mean": 0.30833333333333335, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -940.4246481375594, "ci_upper": -191.4861296887103, "delta_ci_lower": -940.4246481375594, "delta_ci_upper": -191.4861296887103, "failure_count": 0, "left_ci_lower": 42790.66657114755, "left_ci_upper": 43931.669892758655, "left_mean": 43360.47619063174, "mean_delta": -559.4180791386558, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42207.84878249038, "right_ci_upper": 43411.121257268875, "right_mean": 42801.05811149309, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -36.158958333333324, "ci_upper": 39.25020833333333, "delta_ci_lower": -36.158958333333324, "delta_ci_upper": 39.25020833333333, "failure_count": 0, "left_ci_lower": 5986.516041666667, "left_ci_upper": 6118.017083333333, "left_mean": 6053.65, "mean_delta": 3.058333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5988.671666666667, "right_ci_upper": 6121.583958333334, "right_mean": 6056.708333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -33.3614583333333, "ci_upper": 37.50895833333332, "delta_ci_lower": -33.3614583333333, "delta_ci_upper": 37.50895833333332, "failure_count": 0, "left_ci_lower": 5623.323125, "left_ci_upper": 5745.284791666667, "left_mean": 5685.775, "mean_delta": 3.475, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5626.307291666666, "right_ci_upper": 5749.158541666667, "right_mean": 5689.25, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6555555555555556, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4222222222222222, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.4444444444444444, "left_mean": 0.34444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.4444444444444444, "left_mean": 0.34444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.4444444444444444, "left_mean": 0.34444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.4444444444444444, "left_mean": 0.34444444444444444, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 85.32543656561757, "ci_upper": 312.1271254744594, "delta_ci_lower": 85.32543656561757, "delta_ci_upper": 312.1271254744594, "failure_count": 0, "left_ci_lower": 5049.749905925468, "left_ci_upper": 5401.179799245825, "left_mean": 5213.8608486119965, "mean_delta": 197.98745870939456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5234.416852976235, "right_ci_upper": 5612.058798815754, "right_mean": 5411.848307321391, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.20740740740740743, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.20740740740740743, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.20740740740740743, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.10925925925925926, "left_ci_upper": 0.20740740740740743, "left_mean": 0.1574074074074074, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.11481481481481483, "left_ci_upper": 0.254320987654321, "left_mean": 0.18209876543209877, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12407407407407407, "right_ci_upper": 0.26851851851851855, "right_mean": 0.19320987654320987, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_97ba3cce02889beea444bd79", "builder_key": "qwen3_4b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.025, "delta_ci_lower": -0.025, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.38333333333333336, "left_mean": 0.325, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.275, "right_ci_upper": 0.3833333333333333, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -481.0635998640403, "ci_upper": 178.8300284121455, "delta_ci_lower": -481.0635998640403, "delta_ci_upper": 178.8300284121455, "failure_count": 0, "left_ci_lower": 40156.11003673689, "left_ci_upper": 41293.1477564439, "left_mean": 40715.59547289896, "mean_delta": -131.2220062750081, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39982.07462295866, "right_ci_upper": 41189.58696465987, "right_mean": 40584.37346662395, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -77.76791666666666, "ci_upper": 3.5187499999999696, "delta_ci_lower": -77.76791666666666, "delta_ci_upper": 3.5187499999999696, "failure_count": 0, "left_ci_lower": 5677.638541666666, "left_ci_upper": 5837.2525, "left_mean": 5755.325, "mean_delta": -32.233333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5646.395833333333, "right_ci_upper": 5802.3099999999995, "right_mean": 5723.091666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -73.44270833333331, "ci_upper": 3.0004166666666605, "delta_ci_lower": -73.44270833333331, "delta_ci_upper": 3.0004166666666605, "failure_count": 0, "left_ci_lower": 5383.124791666666, "left_ci_upper": 5532.858333333334, "left_mean": 5455.441666666667, "mean_delta": -30.683333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5353.83625, "right_ci_upper": 5498.528125, "right_mean": 5424.758333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555556, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.6111111111111112, "left_ci_upper": 0.7666666666666666, "left_mean": 0.688888888888889, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5888888888888889, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -5.594754631504958, "ci_upper": 301.59937021104264, "delta_ci_lower": -5.594754631504958, "delta_ci_upper": 301.59937021104264, "failure_count": 0, "left_ci_lower": 5351.2371790623, "left_ci_upper": 5895.427547897803, "left_mean": 5587.285278782171, "mean_delta": 148.38652467781986, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5511.19005775734, "right_ci_upper": 6005.560850242521, "right_mean": 5735.671803459991, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185184, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444442, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185184, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444442, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185184, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444442, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185184, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444442, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011764705882352941, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011764705882352941, "failure_count": 0, "left_ci_lower": 0.0909090909090909, "left_ci_upper": 0.21212121212121213, "left_mean": 0.151010101010101, "mean_delta": -0.0016339869281045748, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0921865715983363, "right_ci_upper": 0.21048722519310756, "right_mean": 0.14937611408199644, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.025, "delta_ci_lower": -0.025, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.38333333333333336, "left_mean": 0.325, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.275, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -481.0635998640403, "ci_upper": 178.8300284121455, "delta_ci_lower": -481.0635998640403, "delta_ci_upper": 178.8300284121455, "failure_count": 0, "left_ci_lower": 40156.11003673689, "left_ci_upper": 41293.1477564439, "left_mean": 40715.59547289895, "mean_delta": -131.2220062750081, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39982.07462295866, "right_ci_upper": 41189.58696465987, "right_mean": 40584.37346662395, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -77.76791666666666, "ci_upper": 3.5187499999999696, "delta_ci_lower": -77.76791666666666, "delta_ci_upper": 3.5187499999999696, "failure_count": 0, "left_ci_lower": 5677.638541666666, "left_ci_upper": 5837.2525, "left_mean": 5755.325, "mean_delta": -32.233333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5646.395833333333, "right_ci_upper": 5802.3099999999995, "right_mean": 5723.091666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -73.44270833333331, "ci_upper": 3.0004166666666605, "delta_ci_lower": -73.44270833333331, "delta_ci_upper": 3.0004166666666605, "failure_count": 0, "left_ci_lower": 5383.124791666666, "left_ci_upper": 5532.858333333334, "left_mean": 5455.441666666667, "mean_delta": -30.683333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5353.836249999999, "right_ci_upper": 5498.528125, "right_mean": 5424.758333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.6111111111111112, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6888888888888889, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5888888888888889, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444444, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444444, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444444, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444444, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -5.594754631504959, "ci_upper": 301.59937021104264, "delta_ci_lower": -5.594754631504959, "delta_ci_upper": 301.59937021104264, "failure_count": 0, "left_ci_lower": 5351.237179062301, "left_ci_upper": 5895.427547897803, "left_mean": 5587.285278782171, "mean_delta": 148.3865246778199, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5511.19005775734, "right_ci_upper": 6005.560850242521, "right_mean": 5735.671803459991, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185185, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444445, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185185, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444445, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185185, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444445, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185185, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444445, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011764705882352941, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011764705882352941, "failure_count": 0, "left_ci_lower": 0.09090909090909091, "left_ci_upper": 0.2121212121212121, "left_mean": 0.151010101010101, "mean_delta": -0.001633986928104575, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0921865715983363, "right_ci_upper": 0.21048722519310756, "right_mean": 0.14937611408199644, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.03192488262910798, "ci_upper": 0.011776212832550863, "delta_ci_lower": -0.03192488262910798, "delta_ci_upper": 0.011776212832550863, "failure_count": 0, "left_ci_lower": 0.17934272300469484, "left_ci_upper": 0.29842201356285863, "left_mean": 0.23736306729264478, "mean_delta": -0.00671622326551904, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.175169535732916, "right_ci_upper": 0.2908189880020866, "right_mean": 0.2306468440271257, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -500.3050322249133, "ci_upper": 223.08841414873, "delta_ci_lower": -500.3050322249133, "delta_ci_upper": 223.08841414873, "failure_count": 0, "left_ci_lower": 40289.5433284864, "left_ci_upper": 41514.62958789826, "left_mean": 40888.95643920209, "mean_delta": -117.38027191073425, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40104.50658229374, "right_ci_upper": 41451.50238721282, "right_mean": 40771.57616729136, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -77.58822085289516, "ci_upper": 6.468871609285341, "delta_ci_lower": -77.58822085289516, "delta_ci_upper": 6.468871609285341, "failure_count": 0, "left_ci_lower": 5688.676369653103, "left_ci_upper": 5859.105632824727, "left_mean": 5771.549321857068, "mean_delta": -29.679825247782993, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5659.237611502347, "right_ci_upper": 5825.668517540427, "right_mean": 5741.869496609285, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -73.36279994783514, "ci_upper": 5.681579616588417, "delta_ci_lower": -73.36279994783514, "delta_ci_upper": 5.681579616588417, "failure_count": 0, "left_ci_lower": 5393.430694444444, "left_ci_upper": 5551.287831572769, "left_mean": 5470.213706311945, "mean_delta": -28.3392149191445, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5365.963009585289, "right_ci_upper": 5521.156002543036, "right_mean": 5441.874491392801, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.0534220251293422, "ci_upper": 0.0, "delta_ci_lower": -0.0534220251293422, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5862257945306726, "left_ci_upper": 0.7478333333333331, "left_mean": 0.6661936437546193, "mean_delta": -0.020679970436067993, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5645232815964524, "right_ci_upper": 0.7276866223207686, "right_mean": 0.6455136733185514, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1609035476718404, "left_ci_upper": 0.33396895787139685, "left_mean": 0.24657797487065777, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1609035476718404, "left_ci_upper": 0.33396895787139685, "left_mean": 0.24657797487065777, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1609035476718404, "left_ci_upper": 0.33396895787139685, "left_mean": 0.24657797487065777, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1609035476718404, "left_ci_upper": 0.33396895787139685, "left_mean": 0.24657797487065777, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17753399852180346, "left_ci_upper": 0.35923133776792315, "left_mean": 0.26725794530672575, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17753399852180346, "left_ci_upper": 0.35923133776792315, "left_mean": 0.26725794530672575, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17753399852180346, "left_ci_upper": 0.35923133776792315, "left_mean": 0.26725794530672575, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17753399852180346, "left_ci_upper": 0.35923133776792315, "left_mean": 0.26725794530672575, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -54.495197510127156, "ci_upper": 287.0091786769948, "delta_ci_lower": -54.495197510127156, "delta_ci_upper": 287.0091786769948, "failure_count": 0, "left_ci_lower": 5421.4448977921065, "left_ci_upper": 6098.645224342358, "left_mean": 5711.111151838444, "mean_delta": 119.7109228711563, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5563.320847513115, "right_ci_upper": 6162.935681198778, "right_mean": 5830.8220747096, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.012653362897265335, "ci_upper": 0.0, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07654465385562947, "left_ci_upper": 0.17104557772850454, "left_mean": 0.1217171717171717, "mean_delta": -0.004217787632421778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.012653362897265335, "ci_upper": 0.0, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07654465385562947, "left_ci_upper": 0.17104557772850454, "left_mean": 0.1217171717171717, "mean_delta": -0.004217787632421778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.012653362897265335, "ci_upper": 0.0, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07654465385562947, "left_ci_upper": 0.17104557772850454, "left_mean": 0.1217171717171717, "mean_delta": -0.004217787632421778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.012653362897265335, "ci_upper": 0.0, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07654465385562947, "left_ci_upper": 0.17104557772850454, "left_mean": 0.1217171717171717, "mean_delta": -0.004217787632421778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.018093126385809313, "ci_upper": 0.012771618625277162, "delta_ci_lower": -0.018093126385809313, "delta_ci_upper": 0.012771618625277162, "failure_count": 0, "left_ci_lower": 0.09759322717194115, "left_ci_upper": 0.22573540280857354, "left_mean": 0.16049049250823086, "mean_delta": -0.0017738359201773832, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.09800799569979173, "right_ci_upper": 0.22229459786333394, "right_mean": 0.15871665658805345, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.025, "delta_ci_lower": -0.025, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.38333333333333336, "left_mean": 0.325, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.275, "right_ci_upper": 0.3833333333333333, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -481.0635998640403, "ci_upper": 178.8300284121455, "delta_ci_lower": -481.0635998640403, "delta_ci_upper": 178.8300284121455, "failure_count": 0, "left_ci_lower": 40156.11003673689, "left_ci_upper": 41293.1477564439, "left_mean": 40715.59547289896, "mean_delta": -131.2220062750081, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39982.07462295866, "right_ci_upper": 41189.58696465987, "right_mean": 40584.37346662395, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -77.76791666666666, "ci_upper": 3.5187499999999696, "delta_ci_lower": -77.76791666666666, "delta_ci_upper": 3.5187499999999696, "failure_count": 0, "left_ci_lower": 5677.638541666666, "left_ci_upper": 5837.2525, "left_mean": 5755.325, "mean_delta": -32.233333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5646.395833333333, "right_ci_upper": 5802.3099999999995, "right_mean": 5723.091666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -73.44270833333331, "ci_upper": 3.0004166666666605, "delta_ci_lower": -73.44270833333331, "delta_ci_upper": 3.0004166666666605, "failure_count": 0, "left_ci_lower": 5383.124791666666, "left_ci_upper": 5532.858333333334, "left_mean": 5455.441666666667, "mean_delta": -30.683333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5353.83625, "right_ci_upper": 5498.528125, "right_mean": 5424.758333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555556, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.6111111111111112, "left_ci_upper": 0.7666666666666666, "left_mean": 0.688888888888889, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5888888888888889, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -5.594754631504958, "ci_upper": 301.59937021104264, "delta_ci_lower": -5.594754631504958, "delta_ci_upper": 301.59937021104264, "failure_count": 0, "left_ci_lower": 5351.2371790623, "left_ci_upper": 5895.427547897803, "left_mean": 5587.285278782171, "mean_delta": 148.38652467781986, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5511.19005775734, "right_ci_upper": 6005.560850242521, "right_mean": 5735.671803459991, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185184, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444442, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185184, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444442, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185184, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444442, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185184, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444442, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011764705882352941, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011764705882352941, "failure_count": 0, "left_ci_lower": 0.0909090909090909, "left_ci_upper": 0.21212121212121213, "left_mean": 0.151010101010101, "mean_delta": -0.0016339869281045748, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0921865715983363, "right_ci_upper": 0.21048722519310756, "right_mean": 0.14937611408199644, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.025, "delta_ci_lower": -0.025, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.38333333333333336, "left_mean": 0.325, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.275, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -481.0635998640403, "ci_upper": 178.8300284121455, "delta_ci_lower": -481.0635998640403, "delta_ci_upper": 178.8300284121455, "failure_count": 0, "left_ci_lower": 40156.11003673689, "left_ci_upper": 41293.1477564439, "left_mean": 40715.59547289895, "mean_delta": -131.2220062750081, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39982.07462295866, "right_ci_upper": 41189.58696465987, "right_mean": 40584.37346662395, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -77.76791666666666, "ci_upper": 3.5187499999999696, "delta_ci_lower": -77.76791666666666, "delta_ci_upper": 3.5187499999999696, "failure_count": 0, "left_ci_lower": 5677.638541666666, "left_ci_upper": 5837.2525, "left_mean": 5755.325, "mean_delta": -32.233333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5646.395833333333, "right_ci_upper": 5802.3099999999995, "right_mean": 5723.091666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -73.44270833333331, "ci_upper": 3.0004166666666605, "delta_ci_lower": -73.44270833333331, "delta_ci_upper": 3.0004166666666605, "failure_count": 0, "left_ci_lower": 5383.124791666666, "left_ci_upper": 5532.858333333334, "left_mean": 5455.441666666667, "mean_delta": -30.683333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5353.836249999999, "right_ci_upper": 5498.528125, "right_mean": 5424.758333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.6111111111111112, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6888888888888889, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5888888888888889, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444444, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444444, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444444, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444444, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -5.594754631504959, "ci_upper": 301.59937021104264, "delta_ci_lower": -5.594754631504959, "delta_ci_upper": 301.59937021104264, "failure_count": 0, "left_ci_lower": 5351.237179062301, "left_ci_upper": 5895.427547897803, "left_mean": 5587.285278782171, "mean_delta": 148.3865246778199, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5511.19005775734, "right_ci_upper": 6005.560850242521, "right_mean": 5735.671803459991, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185185, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444445, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185185, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444445, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185185, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444445, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185185, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444445, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011764705882352941, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011764705882352941, "failure_count": 0, "left_ci_lower": 0.09090909090909091, "left_ci_upper": 0.2121212121212121, "left_mean": 0.151010101010101, "mean_delta": -0.001633986928104575, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0921865715983363, "right_ci_upper": 0.21048722519310756, "right_mean": 0.14937611408199644, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.03192488262910798, "ci_upper": 0.011776212832550863, "delta_ci_lower": -0.03192488262910798, "delta_ci_upper": 0.011776212832550863, "failure_count": 0, "left_ci_lower": 0.17934272300469484, "left_ci_upper": 0.29842201356285863, "left_mean": 0.23736306729264478, "mean_delta": -0.00671622326551904, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.175169535732916, "right_ci_upper": 0.2908189880020866, "right_mean": 0.2306468440271257, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -500.3050322249133, "ci_upper": 223.08841414873, "delta_ci_lower": -500.3050322249133, "delta_ci_upper": 223.08841414873, "failure_count": 0, "left_ci_lower": 40289.5433284864, "left_ci_upper": 41514.62958789826, "left_mean": 40888.95643920209, "mean_delta": -117.38027191073425, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40104.50658229374, "right_ci_upper": 41451.50238721282, "right_mean": 40771.57616729136, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -77.58822085289516, "ci_upper": 6.468871609285341, "delta_ci_lower": -77.58822085289516, "delta_ci_upper": 6.468871609285341, "failure_count": 0, "left_ci_lower": 5688.676369653103, "left_ci_upper": 5859.105632824727, "left_mean": 5771.549321857068, "mean_delta": -29.679825247782993, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5659.237611502347, "right_ci_upper": 5825.668517540427, "right_mean": 5741.869496609285, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -73.36279994783514, "ci_upper": 5.681579616588417, "delta_ci_lower": -73.36279994783514, "delta_ci_upper": 5.681579616588417, "failure_count": 0, "left_ci_lower": 5393.430694444444, "left_ci_upper": 5551.287831572769, "left_mean": 5470.213706311945, "mean_delta": -28.3392149191445, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5365.963009585289, "right_ci_upper": 5521.156002543036, "right_mean": 5441.874491392801, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.0534220251293422, "ci_upper": 0.0, "delta_ci_lower": -0.0534220251293422, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5862257945306726, "left_ci_upper": 0.7478333333333331, "left_mean": 0.6661936437546193, "mean_delta": -0.020679970436067993, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5645232815964524, "right_ci_upper": 0.7276866223207686, "right_mean": 0.6455136733185514, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1609035476718404, "left_ci_upper": 0.33396895787139685, "left_mean": 0.24657797487065777, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1609035476718404, "left_ci_upper": 0.33396895787139685, "left_mean": 0.24657797487065777, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1609035476718404, "left_ci_upper": 0.33396895787139685, "left_mean": 0.24657797487065777, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1609035476718404, "left_ci_upper": 0.33396895787139685, "left_mean": 0.24657797487065777, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17753399852180346, "left_ci_upper": 0.35923133776792315, "left_mean": 0.26725794530672575, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17753399852180346, "left_ci_upper": 0.35923133776792315, "left_mean": 0.26725794530672575, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17753399852180346, "left_ci_upper": 0.35923133776792315, "left_mean": 0.26725794530672575, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03796008869179601, "ci_upper": 0.0, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17753399852180346, "left_ci_upper": 0.35923133776792315, "left_mean": 0.26725794530672575, "mean_delta": -0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -54.495197510127156, "ci_upper": 287.0091786769948, "delta_ci_lower": -54.495197510127156, "delta_ci_upper": 287.0091786769948, "failure_count": 0, "left_ci_lower": 5421.4448977921065, "left_ci_upper": 6098.645224342358, "left_mean": 5711.111151838444, "mean_delta": 119.7109228711563, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5563.320847513115, "right_ci_upper": 6162.935681198778, "right_mean": 5830.8220747096, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.012653362897265335, "ci_upper": 0.0, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07654465385562947, "left_ci_upper": 0.17104557772850454, "left_mean": 0.1217171717171717, "mean_delta": -0.004217787632421778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.012653362897265335, "ci_upper": 0.0, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07654465385562947, "left_ci_upper": 0.17104557772850454, "left_mean": 0.1217171717171717, "mean_delta": -0.004217787632421778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.012653362897265335, "ci_upper": 0.0, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07654465385562947, "left_ci_upper": 0.17104557772850454, "left_mean": 0.1217171717171717, "mean_delta": -0.004217787632421778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.012653362897265335, "ci_upper": 0.0, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07654465385562947, "left_ci_upper": 0.17104557772850454, "left_mean": 0.1217171717171717, "mean_delta": -0.004217787632421778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.018093126385809313, "ci_upper": 0.012771618625277162, "delta_ci_lower": -0.018093126385809313, "delta_ci_upper": 0.012771618625277162, "failure_count": 0, "left_ci_lower": 0.09759322717194115, "left_ci_upper": 0.22573540280857354, "left_mean": 0.16049049250823086, "mean_delta": -0.0017738359201773832, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.09800799569979173, "right_ci_upper": 0.22229459786333394, "right_mean": 0.15871665658805345, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1707.08548539939, "ci_upper": -112.83023851710229, "delta_ci_lower": -1707.08548539939, "delta_ci_upper": -112.83023851710229, "failure_count": 0, "left_ci_lower": 40042.23686560368, "left_ci_upper": 42293.440491821195, "left_mean": 41149.91832077503, "mean_delta": -775.2880333457142, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39323.34644068828, "right_ci_upper": 41504.762821765624, "right_mean": 40374.63028742932, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -214.4, "ci_upper": 13.767499999999988, "delta_ci_lower": -214.4, "delta_ci_upper": 13.767499999999988, "failure_count": 0, "left_ci_lower": 5628.1, "left_ci_upper": 5931.568333333333, "left_mean": 5775.966666666666, "mean_delta": -78.3, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5562.764166666666, "right_ci_upper": 5845.138333333333, "right_mean": 5697.666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -200.2, "ci_upper": 13.067499999999988, "delta_ci_lower": -200.2, "delta_ci_upper": 13.067499999999988, "failure_count": 0, "left_ci_lower": 5333.865000000001, "left_ci_upper": 5622.869166666666, "left_mean": 5475.633333333333, "mean_delta": -73.26666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5271.299166666667, "right_ci_upper": 5543.840833333333, "right_mean": 5402.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 27.708339600552186, "ci_upper": 188.79791396301394, "delta_ci_lower": 27.708339600552186, "delta_ci_upper": 188.79791396301394, "failure_count": 0, "left_ci_lower": 4777.247597996223, "left_ci_upper": 5334.519345505589, "left_mean": 5051.620130559119, "mean_delta": 105.00962364021689, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4897.908732524569, "right_ci_upper": 5425.881199653959, "right_mean": 5156.629754199336, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2777777777777778, "left_mean": 0.16666666666666666, "mean_delta": -0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.26666666666666666, "right_mean": 0.15555555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2777777777777778, "left_mean": 0.16666666666666666, "mean_delta": -0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.26666666666666666, "right_mean": 0.15555555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2777777777777778, "left_mean": 0.16666666666666666, "mean_delta": -0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.26666666666666666, "right_mean": 0.15555555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2777777777777778, "left_mean": 0.16666666666666666, "mean_delta": -0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.26666666666666666, "right_mean": 0.15555555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -160.0411351199727, "ci_upper": 1102.5902526307618, "delta_ci_lower": -160.0411351199727, "delta_ci_upper": 1102.5902526307618, "failure_count": 0, "left_ci_lower": 39980.34494428934, "left_ci_upper": 42403.56891909187, "left_mean": 41179.36758746704, "mean_delta": 424.427781937023, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40178.83263098716, "right_ci_upper": 43128.377232840874, "right_mean": 41603.795369404055, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 2.1, "ci_upper": 14.066666666666666, "delta_ci_lower": 2.1, "delta_ci_upper": 14.066666666666666, "failure_count": 0, "left_ci_lower": 5646.795, "left_ci_upper": 5986.3675, "left_mean": 5815.533333333334, "mean_delta": 8.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5655.363333333334, "right_ci_upper": 5993.1675000000005, "right_mean": 5823.733333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 0.6666666666666666, "ci_upper": 12.533333333333333, "delta_ci_lower": 0.6666666666666666, "delta_ci_upper": 12.533333333333333, "failure_count": 0, "left_ci_lower": 5361.1641666666665, "left_ci_upper": 5671.138333333333, "left_mean": 5515.233333333334, "mean_delta": 6.7, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5369.1625, "right_ci_upper": 5677.868333333333, "right_mean": 5521.933333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.35, "left_mean": 0.2, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.35, "right_mean": 0.2, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.35, "left_mean": 0.2, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.35, "right_mean": 0.2, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.35, "left_mean": 0.2, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.35, "right_mean": 0.2, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.35, "left_mean": 0.2, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.35, "right_mean": 0.2, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -629.8995485053939, "ci_upper": 258.0819690367207, "delta_ci_lower": -629.8995485053939, "delta_ci_upper": 258.0819690367207, "failure_count": 0, "left_ci_lower": 5616.094865617731, "left_ci_upper": 7568.065097706275, "left_mean": 6437.240818049759, "mean_delta": -176.68040407976756, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5547.789246385026, "right_ci_upper": 7215.815814271336, "right_mean": 6260.560413969991, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.030555555555555555, "left_ci_upper": 0.15277777777777776, "left_mean": 0.0861111111111111, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.030555555555555555, "right_ci_upper": 0.15277777777777776, "right_mean": 0.0861111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.030555555555555555, "left_ci_upper": 0.15277777777777776, "left_mean": 0.0861111111111111, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.030555555555555555, "right_ci_upper": 0.15277777777777776, "right_mean": 0.0861111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.030555555555555555, "left_ci_upper": 0.15277777777777776, "left_mean": 0.0861111111111111, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.030555555555555555, "right_ci_upper": 0.15277777777777776, "right_mean": 0.0861111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.030555555555555555, "left_ci_upper": 0.15277777777777776, "left_mean": 0.0861111111111111, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.030555555555555555, "right_ci_upper": 0.15277777777777776, "right_mean": 0.0861111111111111, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05, "ci_upper": 0.03529411764705882, "delta_ci_lower": -0.05, "delta_ci_upper": 0.03529411764705882, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.6, "left_mean": 0.41969696969696973, "mean_delta": -0.0049019607843137246, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.41479500891265597, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 65.51627925713551, "ci_upper": 517.2195576271042, "delta_ci_lower": 65.51627925713551, "delta_ci_upper": 517.2195576271042, "failure_count": 0, "left_ci_lower": 39415.2124076292, "left_ci_upper": 41796.87197680216, "left_mean": 40585.16572217923, "mean_delta": 247.06337361906967, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39623.97299340344, "right_ci_upper": 42083.61744634807, "right_mean": 40832.2290957983, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -0.26666666666666666, "ci_upper": 15.366666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 15.366666666666667, "failure_count": 0, "left_ci_lower": 5584.894166666667, "left_ci_upper": 5926.579999999999, "left_mean": 5751.8, "mean_delta": 7.733333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5589.428333333333, "right_ci_upper": 5937.0475, "right_mean": 5759.533333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -1.4, "ci_upper": 13.366666666666667, "delta_ci_lower": -1.4, "delta_ci_upper": 13.366666666666667, "failure_count": 0, "left_ci_lower": 5291.158333333334, "left_ci_upper": 5597.268333333333, "left_mean": 5440.4, "mean_delta": 6.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5296.522500000001, "right_ci_upper": 5604.5008333333335, "right_mean": 5446.5, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.8333333333333334, "left_ci_upper": 1.0, "left_mean": 0.9333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.8, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.38333333333333336, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.38333333333333336, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.38333333333333336, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.38333333333333336, "left_mean": 0.23333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 168.09022364031992, "ci_upper": 995.5258020102823, "delta_ci_lower": 168.09022364031992, "delta_ci_upper": 995.5258020102823, "failure_count": 0, "left_ci_lower": 5941.917451272603, "left_ci_upper": 6489.698257545436, "left_mean": 6211.632747125502, "mean_delta": 567.4957805934051, "missing_count": 0, "paired_count": 30, "right_ci_lower": 6386.484289014673, "right_ci_upper": 7198.93555996144, "right_mean": 6779.128527718906, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.1722222222222222, "left_mean": 0.10555555555555556, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.1722222222222222, "right_mean": 0.10555555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.1722222222222222, "left_mean": 0.10555555555555556, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.1722222222222222, "right_mean": 0.10555555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.1722222222222222, "left_mean": 0.10555555555555556, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.1722222222222222, "right_mean": 0.10555555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.1722222222222222, "left_mean": 0.10555555555555556, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.1722222222222222, "right_mean": 0.10555555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1290.0457360259797, "ci_upper": 214.64185649121643, "delta_ci_lower": -1290.0457360259797, "delta_ci_upper": 214.64185649121643, "failure_count": 0, "left_ci_lower": 38963.57029693628, "left_ci_upper": 40959.943044123356, "left_mean": 39947.93026117453, "mean_delta": -421.0911473104109, "missing_count": 0, "paired_count": 30, "right_ci_lower": 38652.44853058907, "right_ci_upper": 40460.88686143727, "right_mean": 39526.83911386412, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -196.93416666666667, "ci_upper": 26.034166666666657, "delta_ci_lower": -196.93416666666667, "delta_ci_upper": 26.034166666666657, "failure_count": 0, "left_ci_lower": 5535.199166666666, "left_ci_upper": 5825.269166666667, "left_mean": 5678.0, "mean_delta": -66.56666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5479.365833333333, "right_ci_upper": 5751.868333333333, "right_mean": 5611.433333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -185.10083333333333, "ci_upper": 25.4, "delta_ci_lower": -185.10083333333333, "delta_ci_upper": 25.4, "failure_count": 0, "left_ci_lower": 5255.132500000001, "left_ci_upper": 5529.504166666667, "left_mean": 5390.5, "mean_delta": -62.266666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5201.597500000001, "right_ci_upper": 5462.201666666666, "right_mean": 5328.233333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": -9.155058246493939, "ci_upper": 193.38920622113315, "delta_ci_lower": -9.155058246493939, "delta_ci_upper": 193.38920622113315, "failure_count": 0, "left_ci_lower": 4473.715360247686, "left_ci_upper": 4835.814966846375, "left_mean": 4648.647419394304, "mean_delta": 97.72109855742504, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4583.166345600039, "right_ci_upper": 4903.953574726281, "right_mean": 4746.36851795173, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "left_regime": "advanced_lightrag_er", "metrics": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.025, "delta_ci_lower": -0.025, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.38333333333333336, "left_mean": 0.325, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.275, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -481.0635998640403, "ci_upper": 178.8300284121455, "delta_ci_lower": -481.0635998640403, "delta_ci_upper": 178.8300284121455, "failure_count": 0, "left_ci_lower": 40156.11003673689, "left_ci_upper": 41293.1477564439, "left_mean": 40715.59547289895, "mean_delta": -131.2220062750081, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39982.07462295866, "right_ci_upper": 41189.58696465987, "right_mean": 40584.37346662395, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -77.76791666666666, "ci_upper": 3.5187499999999696, "delta_ci_lower": -77.76791666666666, "delta_ci_upper": 3.5187499999999696, "failure_count": 0, "left_ci_lower": 5677.638541666666, "left_ci_upper": 5837.2525, "left_mean": 5755.325, "mean_delta": -32.233333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5646.395833333333, "right_ci_upper": 5802.3099999999995, "right_mean": 5723.091666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -73.44270833333331, "ci_upper": 3.0004166666666605, "delta_ci_lower": -73.44270833333331, "delta_ci_upper": 3.0004166666666605, "failure_count": 0, "left_ci_lower": 5383.124791666666, "left_ci_upper": 5532.858333333334, "left_mean": 5455.441666666667, "mean_delta": -30.683333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5353.836249999999, "right_ci_upper": 5498.528125, "right_mean": 5424.758333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.6111111111111112, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6888888888888889, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5888888888888889, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444444, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444444, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444444, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16111111111111115, "left_ci_upper": 0.3277777777777778, "left_mean": 0.24444444444444444, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35555555555555557, "left_mean": 0.26666666666666666, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -5.594754631504959, "ci_upper": 301.59937021104264, "delta_ci_lower": -5.594754631504959, "delta_ci_upper": 301.59937021104264, "failure_count": 0, "left_ci_lower": 5351.237179062301, "left_ci_upper": 5895.427547897803, "left_mean": 5587.285278782171, "mean_delta": 148.3865246778199, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5511.19005775734, "right_ci_upper": 6005.560850242521, "right_mean": 5735.671803459991, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185185, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444445, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185185, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444445, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185185, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444445, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.0, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07685185185185185, "left_ci_upper": 0.16574074074074074, "left_mean": 0.11944444444444445, "mean_delta": -0.0037037037037037034, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.016666666666666666, "ci_upper": 0.011764705882352941, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.011764705882352941, "failure_count": 0, "left_ci_lower": 0.09090909090909091, "left_ci_upper": 0.2121212121212121, "left_mean": 0.151010101010101, "mean_delta": -0.001633986928104575, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0921865715983363, "right_ci_upper": 0.21048722519310756, "right_mean": 0.14937611408199644, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_541d8b1af2513e6db17b19e0", "builder_key": "qwen3_8b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.375, "left_mean": 0.30833333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.3083333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2200.8966874088705, "ci_upper": -853.3060953912113, "delta_ci_lower": -2200.8966874088705, "delta_ci_upper": -853.3060953912113, "failure_count": 0, "left_ci_lower": 42823.27438703156, "left_ci_upper": 44182.154103472225, "left_mean": 43499.94641391095, "mean_delta": -1523.7936107558198, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41516.484434040176, "right_ci_upper": 42448.553917382385, "right_mean": 41976.15280315513, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.38979166666661, "ci_upper": 85.55166666666663, "delta_ci_lower": -65.38979166666661, "delta_ci_upper": 85.55166666666663, "failure_count": 0, "left_ci_lower": 5886.3, "left_ci_upper": 6018.833541666666, "left_mean": 5953.05, "mean_delta": 9.016666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5900.882083333333, "right_ci_upper": 6025.283541666668, "right_mean": 5962.066666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222223, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222223, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222223, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -69.50187499999998, "ci_upper": 72.71770833333332, "delta_ci_lower": -69.50187499999998, "delta_ci_upper": 72.71770833333332, "failure_count": 0, "left_ci_lower": 5572.647708333333, "left_ci_upper": 5694.261875, "left_mean": 5633.575, "mean_delta": 0.9666666666666657, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5575.8150000000005, "right_ci_upper": 5694.642916666666, "right_mean": 5634.541666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.48888888888888893, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777778, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4444444444444444, "right_ci_upper": 0.6222222222222222, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.019259259259259257, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.019259259259259257, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.019259259259259257, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.019259259259259257, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.019259259259259257, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.019259259259259257, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.019259259259259257, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.019259259259259257, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.05555555555555556, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555555, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.05555555555555556, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555555, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.05555555555555556, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555555, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.05555555555555556, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555555, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 310.4379253078756, "ci_upper": 564.474162113717, "delta_ci_lower": 310.4379253078756, "delta_ci_upper": 564.474162113717, "failure_count": 0, "left_ci_lower": 5189.355847945408, "left_ci_upper": 5564.463174903794, "left_mean": 5360.710071884872, "mean_delta": 435.1933694735635, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5595.773587267951, "right_ci_upper": 6019.4559516550125, "right_mean": 5795.903441358436, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04292929292929293, "ci_upper": 0.056363636363636366, "delta_ci_lower": -0.04292929292929293, "delta_ci_upper": 0.056363636363636366, "failure_count": 0, "left_ci_lower": 0.12554545454545463, "left_ci_upper": 0.2610126262626262, "left_mean": 0.1918181818181818, "mean_delta": 0.005959595959595961, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1288888888888889, "right_ci_upper": 0.27, "right_mean": 0.1977777777777778, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.375, "left_mean": 0.30833333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.30833333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2200.8966874088705, "ci_upper": -853.3060953912112, "delta_ci_lower": -2200.8966874088705, "delta_ci_upper": -853.3060953912112, "failure_count": 0, "left_ci_lower": 42823.27438703156, "left_ci_upper": 44182.154103472225, "left_mean": 43499.94641391095, "mean_delta": -1523.7936107558198, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41516.484434040176, "right_ci_upper": 42448.55391738238, "right_mean": 41976.15280315513, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.38979166666662, "ci_upper": 85.55166666666663, "delta_ci_lower": -65.38979166666662, "delta_ci_upper": 85.55166666666663, "failure_count": 0, "left_ci_lower": 5886.3, "left_ci_upper": 6018.833541666666, "left_mean": 5953.05, "mean_delta": 9.016666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5900.882083333333, "right_ci_upper": 6025.283541666668, "right_mean": 5962.066666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -69.50187499999998, "ci_upper": 72.71770833333332, "delta_ci_lower": -69.50187499999998, "delta_ci_upper": 72.71770833333332, "failure_count": 0, "left_ci_lower": 5572.647708333333, "left_ci_upper": 5694.261875, "left_mean": 5633.575, "mean_delta": 0.9666666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5575.8150000000005, "right_ci_upper": 5694.642916666666, "right_mean": 5634.541666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777777, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4444444444444444, "right_ci_upper": 0.6222222222222222, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.01925925925925926, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.01925925925925926, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814818, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.01925925925925926, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.01925925925925926, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814818, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.01925925925925926, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.01925925925925926, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814818, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.01925925925925926, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.01925925925925926, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814818, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555556, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555556, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555556, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555556, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 310.4379253078756, "ci_upper": 564.474162113717, "delta_ci_lower": 310.4379253078756, "delta_ci_upper": 564.474162113717, "failure_count": 0, "left_ci_lower": 5189.355847945408, "left_ci_upper": 5564.463174903794, "left_mean": 5360.7100718848715, "mean_delta": 435.1933694735635, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5595.773587267952, "right_ci_upper": 6019.455951655012, "right_mean": 5795.903441358435, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04292929292929293, "ci_upper": 0.056363636363636366, "delta_ci_lower": -0.04292929292929293, "delta_ci_upper": 0.056363636363636366, "failure_count": 0, "left_ci_lower": 0.12554545454545463, "left_ci_upper": 0.2610126262626262, "left_mean": 0.1918181818181818, "mean_delta": 0.00595959595959596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1288888888888889, "right_ci_upper": 0.27, "right_mean": 0.19777777777777777, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.043701095461658845, "ci_upper": 0.03673708920187793, "delta_ci_lower": -0.043701095461658845, "delta_ci_upper": 0.03673708920187793, "failure_count": 0, "left_ci_lower": 0.1757166145018258, "left_ci_upper": 0.30707127021387587, "left_mean": 0.24042775169535732, "mean_delta": -0.0030386019822639544, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.17289710485133025, "right_ci_upper": 0.3064860459050599, "right_mean": 0.23738914971309336, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2461.605291704506, "ci_upper": -927.4314099792932, "delta_ci_lower": -2461.605291704506, "delta_ci_upper": -927.4314099792932, "failure_count": 0, "left_ci_lower": 43119.272242676794, "left_ci_upper": 44699.24708548036, "left_mean": 43899.166460006825, "mean_delta": -1687.6073057916676, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41721.159888766255, "right_ci_upper": 42697.54752614719, "right_mean": 42211.55915421516, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -52.73844940010431, "ci_upper": 100.75087636932707, "delta_ci_lower": -52.73844940010431, "delta_ci_upper": 100.75087636932707, "failure_count": 0, "left_ci_lower": 5890.107970135628, "left_ci_upper": 6025.926446596244, "left_mean": 5959.371961398017, "mean_delta": 21.53047730829421, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5917.531933033385, "right_ci_upper": 6044.602282537819, "right_mean": 5980.902438706312, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.02353288987435329, "ci_upper": 0.06844050258684405, "delta_ci_lower": -0.02353288987435329, "delta_ci_upper": 0.06844050258684405, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.08789467849223943, "left_mean": 0.04195121951219512, "mean_delta": 0.02186252771618625, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.021271249076127124, "right_ci_upper": 0.11846267553584626, "right_mean": 0.06381374722838137, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.02353288987435329, "ci_upper": 0.06844050258684405, "delta_ci_lower": -0.02353288987435329, "delta_ci_upper": 0.06844050258684405, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.08789467849223943, "left_mean": 0.04195121951219512, "mean_delta": 0.02186252771618625, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.021271249076127124, "right_ci_upper": 0.11846267553584626, "right_mean": 0.06381374722838137, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.02353288987435329, "ci_upper": 0.06844050258684405, "delta_ci_lower": -0.02353288987435329, "delta_ci_upper": 0.06844050258684405, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.08789467849223943, "left_mean": 0.04195121951219512, "mean_delta": 0.02186252771618625, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.021271249076127124, "right_ci_upper": 0.11846267553584626, "right_mean": 0.06381374722838137, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -56.733298122065726, "ci_upper": 87.91080431664057, "delta_ci_lower": -56.733298122065726, "delta_ci_upper": 87.91080431664057, "failure_count": 0, "left_ci_lower": 5573.004120044339, "left_ci_upper": 5698.775774973918, "left_mean": 5636.616666666667, "mean_delta": 13.372404799165363, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5589.235001304121, "right_ci_upper": 5711.756839788733, "right_mean": 5649.989071465832, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.1299471544715446, "ci_upper": 0.029830007390983005, "delta_ci_lower": -0.1299471544715446, "delta_ci_upper": 0.029830007390983005, "failure_count": 0, "left_ci_lower": 0.4621581670362158, "left_ci_upper": 0.6432065779748705, "left_mean": 0.5529490022172948, "mean_delta": -0.047760532150776046, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.40981522542498156, "right_ci_upper": 0.604050258684405, "right_mean": 0.5051884700665188, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02114412416851441, "ci_upper": 0.01930327666913033, "delta_ci_lower": -0.02114412416851441, "delta_ci_upper": 0.01930327666913033, "failure_count": 0, "left_ci_lower": 0.2928473762010348, "left_ci_upper": 0.4803086967233309, "left_mean": 0.38584873121458485, "mean_delta": -0.001490022172949002, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02114412416851441, "ci_upper": 0.01930327666913033, "delta_ci_lower": -0.02114412416851441, "delta_ci_upper": 0.01930327666913033, "failure_count": 0, "left_ci_lower": 0.2928473762010348, "left_ci_upper": 0.4803086967233309, "left_mean": 0.38584873121458485, "mean_delta": -0.001490022172949002, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02114412416851441, "ci_upper": 0.01930327666913033, "delta_ci_lower": -0.02114412416851441, "delta_ci_upper": 0.01930327666913033, "failure_count": 0, "left_ci_lower": 0.2928473762010348, "left_ci_upper": 0.4803086967233309, "left_mean": 0.38584873121458485, "mean_delta": -0.001490022172949002, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02114412416851441, "ci_upper": 0.01930327666913033, "delta_ci_lower": -0.02114412416851441, "delta_ci_upper": 0.01930327666913033, "failure_count": 0, "left_ci_lower": 0.2928473762010348, "left_ci_upper": 0.4803086967233309, "left_mean": 0.38584873121458485, "mean_delta": -0.001490022172949002, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.06208425720620842, "delta_ci_lower": 0.0, "delta_ci_upper": 0.06208425720620842, "failure_count": 0, "left_ci_lower": 0.35923133776792315, "left_ci_upper": 0.5655284552845528, "left_mean": 0.4626755358462675, "mean_delta": 0.024715447154471545, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.06208425720620842, "delta_ci_lower": 0.0, "delta_ci_upper": 0.06208425720620842, "failure_count": 0, "left_ci_lower": 0.35923133776792315, "left_ci_upper": 0.5655284552845528, "left_mean": 0.4626755358462675, "mean_delta": 0.024715447154471545, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.06208425720620842, "delta_ci_lower": 0.0, "delta_ci_upper": 0.06208425720620842, "failure_count": 0, "left_ci_lower": 0.35923133776792315, "left_ci_upper": 0.5655284552845528, "left_mean": 0.4626755358462675, "mean_delta": 0.024715447154471545, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.06208425720620842, "delta_ci_lower": 0.0, "delta_ci_upper": 0.06208425720620842, "failure_count": 0, "left_ci_lower": 0.35923133776792315, "left_ci_upper": 0.5655284552845528, "left_mean": 0.4626755358462675, "mean_delta": 0.024715447154471545, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 488.5045885249169, "ci_upper": 774.9427057397994, "delta_ci_lower": 488.5045885249169, "delta_ci_upper": 774.9427057397994, "failure_count": 0, "left_ci_lower": 5162.876006334715, "left_ci_upper": 5615.098913965558, "left_mean": 5364.976810018049, "mean_delta": 627.5020072374509, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5748.457323762111, "right_ci_upper": 6264.955909806173, "right_mean": 5992.4788172555, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.005439763488543978, "ci_upper": 0.04408228627740823, "delta_ci_lower": -0.005439763488543978, "delta_ci_upper": 0.04408228627740823, "failure_count": 0, "left_ci_lower": 0.16141568120226657, "left_ci_upper": 0.2735331978319783, "left_mean": 0.2166913032766691, "mean_delta": 0.018164572554816454, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.005439763488543978, "ci_upper": 0.04408228627740823, "delta_ci_lower": -0.005439763488543978, "delta_ci_upper": 0.04408228627740823, "failure_count": 0, "left_ci_lower": 0.16141568120226657, "left_ci_upper": 0.2735331978319783, "left_mean": 0.2166913032766691, "mean_delta": 0.018164572554816454, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.005439763488543978, "ci_upper": 0.04408228627740823, "delta_ci_lower": -0.005439763488543978, "delta_ci_upper": 0.04408228627740823, "failure_count": 0, "left_ci_lower": 0.16141568120226657, "left_ci_upper": 0.2735331978319783, "left_mean": 0.2166913032766691, "mean_delta": 0.018164572554816454, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.005439763488543978, "ci_upper": 0.04408228627740823, "delta_ci_lower": -0.005439763488543978, "delta_ci_upper": 0.04408228627740823, "failure_count": 0, "left_ci_lower": 0.16141568120226657, "left_ci_upper": 0.2735331978319783, "left_mean": 0.2166913032766691, "mean_delta": 0.018164572554816454, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04763690788147549, "ci_upper": 0.05359869649936165, "delta_ci_lower": -0.04763690788147549, "delta_ci_upper": 0.05359869649936165, "failure_count": 0, "left_ci_lower": 0.1330312840153195, "left_ci_upper": 0.2728385876503393, "left_mean": 0.20193831888732108, "mean_delta": 0.0030254652959752744, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13500369549150038, "right_ci_upper": 0.2782095343680709, "right_mean": 0.2049637841832964, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.375, "left_mean": 0.30833333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.3083333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2200.8966874088705, "ci_upper": -853.3060953912113, "delta_ci_lower": -2200.8966874088705, "delta_ci_upper": -853.3060953912113, "failure_count": 0, "left_ci_lower": 42823.27438703156, "left_ci_upper": 44182.154103472225, "left_mean": 43499.94641391095, "mean_delta": -1523.7936107558198, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41516.484434040176, "right_ci_upper": 42448.553917382385, "right_mean": 41976.15280315513, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.38979166666661, "ci_upper": 85.55166666666663, "delta_ci_lower": -65.38979166666661, "delta_ci_upper": 85.55166666666663, "failure_count": 0, "left_ci_lower": 5886.3, "left_ci_upper": 6018.833541666666, "left_mean": 5953.05, "mean_delta": 9.016666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5900.882083333333, "right_ci_upper": 6025.283541666668, "right_mean": 5962.066666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222223, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222223, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222223, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -69.50187499999998, "ci_upper": 72.71770833333332, "delta_ci_lower": -69.50187499999998, "delta_ci_upper": 72.71770833333332, "failure_count": 0, "left_ci_lower": 5572.647708333333, "left_ci_upper": 5694.261875, "left_mean": 5633.575, "mean_delta": 0.9666666666666657, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5575.8150000000005, "right_ci_upper": 5694.642916666666, "right_mean": 5634.541666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.48888888888888893, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777778, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4444444444444444, "right_ci_upper": 0.6222222222222222, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.019259259259259257, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.019259259259259257, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.019259259259259257, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.019259259259259257, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.019259259259259257, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.019259259259259257, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.019259259259259257, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.019259259259259257, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.05555555555555556, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555555, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.05555555555555556, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555555, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.05555555555555556, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555555, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.05555555555555556, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555555, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 310.4379253078756, "ci_upper": 564.474162113717, "delta_ci_lower": 310.4379253078756, "delta_ci_upper": 564.474162113717, "failure_count": 0, "left_ci_lower": 5189.355847945408, "left_ci_upper": 5564.463174903794, "left_mean": 5360.710071884872, "mean_delta": 435.1933694735635, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5595.773587267951, "right_ci_upper": 6019.4559516550125, "right_mean": 5795.903441358436, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04292929292929293, "ci_upper": 0.056363636363636366, "delta_ci_lower": -0.04292929292929293, "delta_ci_upper": 0.056363636363636366, "failure_count": 0, "left_ci_lower": 0.12554545454545463, "left_ci_upper": 0.2610126262626262, "left_mean": 0.1918181818181818, "mean_delta": 0.005959595959595961, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1288888888888889, "right_ci_upper": 0.27, "right_mean": 0.1977777777777778, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.375, "left_mean": 0.30833333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.30833333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2200.8966874088705, "ci_upper": -853.3060953912112, "delta_ci_lower": -2200.8966874088705, "delta_ci_upper": -853.3060953912112, "failure_count": 0, "left_ci_lower": 42823.27438703156, "left_ci_upper": 44182.154103472225, "left_mean": 43499.94641391095, "mean_delta": -1523.7936107558198, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41516.484434040176, "right_ci_upper": 42448.55391738238, "right_mean": 41976.15280315513, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.38979166666662, "ci_upper": 85.55166666666663, "delta_ci_lower": -65.38979166666662, "delta_ci_upper": 85.55166666666663, "failure_count": 0, "left_ci_lower": 5886.3, "left_ci_upper": 6018.833541666666, "left_mean": 5953.05, "mean_delta": 9.016666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5900.882083333333, "right_ci_upper": 6025.283541666668, "right_mean": 5962.066666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -69.50187499999998, "ci_upper": 72.71770833333332, "delta_ci_lower": -69.50187499999998, "delta_ci_upper": 72.71770833333332, "failure_count": 0, "left_ci_lower": 5572.647708333333, "left_ci_upper": 5694.261875, "left_mean": 5633.575, "mean_delta": 0.9666666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5575.8150000000005, "right_ci_upper": 5694.642916666666, "right_mean": 5634.541666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777777, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4444444444444444, "right_ci_upper": 0.6222222222222222, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.01925925925925926, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.01925925925925926, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814818, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.01925925925925926, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.01925925925925926, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814818, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.01925925925925926, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.01925925925925926, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814818, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.01925925925925926, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.01925925925925926, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814818, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555556, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555556, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555556, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555556, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 310.4379253078756, "ci_upper": 564.474162113717, "delta_ci_lower": 310.4379253078756, "delta_ci_upper": 564.474162113717, "failure_count": 0, "left_ci_lower": 5189.355847945408, "left_ci_upper": 5564.463174903794, "left_mean": 5360.7100718848715, "mean_delta": 435.1933694735635, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5595.773587267952, "right_ci_upper": 6019.455951655012, "right_mean": 5795.903441358435, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04292929292929293, "ci_upper": 0.056363636363636366, "delta_ci_lower": -0.04292929292929293, "delta_ci_upper": 0.056363636363636366, "failure_count": 0, "left_ci_lower": 0.12554545454545463, "left_ci_upper": 0.2610126262626262, "left_mean": 0.1918181818181818, "mean_delta": 0.00595959595959596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1288888888888889, "right_ci_upper": 0.27, "right_mean": 0.19777777777777777, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.043701095461658845, "ci_upper": 0.03673708920187793, "delta_ci_lower": -0.043701095461658845, "delta_ci_upper": 0.03673708920187793, "failure_count": 0, "left_ci_lower": 0.1757166145018258, "left_ci_upper": 0.30707127021387587, "left_mean": 0.24042775169535732, "mean_delta": -0.0030386019822639544, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.17289710485133025, "right_ci_upper": 0.3064860459050599, "right_mean": 0.23738914971309336, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2461.605291704506, "ci_upper": -927.4314099792932, "delta_ci_lower": -2461.605291704506, "delta_ci_upper": -927.4314099792932, "failure_count": 0, "left_ci_lower": 43119.272242676794, "left_ci_upper": 44699.24708548036, "left_mean": 43899.166460006825, "mean_delta": -1687.6073057916676, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41721.159888766255, "right_ci_upper": 42697.54752614719, "right_mean": 42211.55915421516, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -52.73844940010431, "ci_upper": 100.75087636932707, "delta_ci_lower": -52.73844940010431, "delta_ci_upper": 100.75087636932707, "failure_count": 0, "left_ci_lower": 5890.107970135628, "left_ci_upper": 6025.926446596244, "left_mean": 5959.371961398017, "mean_delta": 21.53047730829421, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5917.531933033385, "right_ci_upper": 6044.602282537819, "right_mean": 5980.902438706312, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.02353288987435329, "ci_upper": 0.06844050258684405, "delta_ci_lower": -0.02353288987435329, "delta_ci_upper": 0.06844050258684405, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.08789467849223943, "left_mean": 0.04195121951219512, "mean_delta": 0.02186252771618625, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.021271249076127124, "right_ci_upper": 0.11846267553584626, "right_mean": 0.06381374722838137, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.02353288987435329, "ci_upper": 0.06844050258684405, "delta_ci_lower": -0.02353288987435329, "delta_ci_upper": 0.06844050258684405, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.08789467849223943, "left_mean": 0.04195121951219512, "mean_delta": 0.02186252771618625, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.021271249076127124, "right_ci_upper": 0.11846267553584626, "right_mean": 0.06381374722838137, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.02353288987435329, "ci_upper": 0.06844050258684405, "delta_ci_lower": -0.02353288987435329, "delta_ci_upper": 0.06844050258684405, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.08789467849223943, "left_mean": 0.04195121951219512, "mean_delta": 0.02186252771618625, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.021271249076127124, "right_ci_upper": 0.11846267553584626, "right_mean": 0.06381374722838137, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -56.733298122065726, "ci_upper": 87.91080431664057, "delta_ci_lower": -56.733298122065726, "delta_ci_upper": 87.91080431664057, "failure_count": 0, "left_ci_lower": 5573.004120044339, "left_ci_upper": 5698.775774973918, "left_mean": 5636.616666666667, "mean_delta": 13.372404799165363, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5589.235001304121, "right_ci_upper": 5711.756839788733, "right_mean": 5649.989071465832, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.1299471544715446, "ci_upper": 0.029830007390983005, "delta_ci_lower": -0.1299471544715446, "delta_ci_upper": 0.029830007390983005, "failure_count": 0, "left_ci_lower": 0.4621581670362158, "left_ci_upper": 0.6432065779748705, "left_mean": 0.5529490022172948, "mean_delta": -0.047760532150776046, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.40981522542498156, "right_ci_upper": 0.604050258684405, "right_mean": 0.5051884700665188, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02114412416851441, "ci_upper": 0.01930327666913033, "delta_ci_lower": -0.02114412416851441, "delta_ci_upper": 0.01930327666913033, "failure_count": 0, "left_ci_lower": 0.2928473762010348, "left_ci_upper": 0.4803086967233309, "left_mean": 0.38584873121458485, "mean_delta": -0.001490022172949002, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02114412416851441, "ci_upper": 0.01930327666913033, "delta_ci_lower": -0.02114412416851441, "delta_ci_upper": 0.01930327666913033, "failure_count": 0, "left_ci_lower": 0.2928473762010348, "left_ci_upper": 0.4803086967233309, "left_mean": 0.38584873121458485, "mean_delta": -0.001490022172949002, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02114412416851441, "ci_upper": 0.01930327666913033, "delta_ci_lower": -0.02114412416851441, "delta_ci_upper": 0.01930327666913033, "failure_count": 0, "left_ci_lower": 0.2928473762010348, "left_ci_upper": 0.4803086967233309, "left_mean": 0.38584873121458485, "mean_delta": -0.001490022172949002, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02114412416851441, "ci_upper": 0.01930327666913033, "delta_ci_lower": -0.02114412416851441, "delta_ci_upper": 0.01930327666913033, "failure_count": 0, "left_ci_lower": 0.2928473762010348, "left_ci_upper": 0.4803086967233309, "left_mean": 0.38584873121458485, "mean_delta": -0.001490022172949002, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.06208425720620842, "delta_ci_lower": 0.0, "delta_ci_upper": 0.06208425720620842, "failure_count": 0, "left_ci_lower": 0.35923133776792315, "left_ci_upper": 0.5655284552845528, "left_mean": 0.4626755358462675, "mean_delta": 0.024715447154471545, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.06208425720620842, "delta_ci_lower": 0.0, "delta_ci_upper": 0.06208425720620842, "failure_count": 0, "left_ci_lower": 0.35923133776792315, "left_ci_upper": 0.5655284552845528, "left_mean": 0.4626755358462675, "mean_delta": 0.024715447154471545, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.06208425720620842, "delta_ci_lower": 0.0, "delta_ci_upper": 0.06208425720620842, "failure_count": 0, "left_ci_lower": 0.35923133776792315, "left_ci_upper": 0.5655284552845528, "left_mean": 0.4626755358462675, "mean_delta": 0.024715447154471545, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.06208425720620842, "delta_ci_lower": 0.0, "delta_ci_upper": 0.06208425720620842, "failure_count": 0, "left_ci_lower": 0.35923133776792315, "left_ci_upper": 0.5655284552845528, "left_mean": 0.4626755358462675, "mean_delta": 0.024715447154471545, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 488.5045885249169, "ci_upper": 774.9427057397994, "delta_ci_lower": 488.5045885249169, "delta_ci_upper": 774.9427057397994, "failure_count": 0, "left_ci_lower": 5162.876006334715, "left_ci_upper": 5615.098913965558, "left_mean": 5364.976810018049, "mean_delta": 627.5020072374509, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5748.457323762111, "right_ci_upper": 6264.955909806173, "right_mean": 5992.4788172555, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.005439763488543978, "ci_upper": 0.04408228627740823, "delta_ci_lower": -0.005439763488543978, "delta_ci_upper": 0.04408228627740823, "failure_count": 0, "left_ci_lower": 0.16141568120226657, "left_ci_upper": 0.2735331978319783, "left_mean": 0.2166913032766691, "mean_delta": 0.018164572554816454, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.005439763488543978, "ci_upper": 0.04408228627740823, "delta_ci_lower": -0.005439763488543978, "delta_ci_upper": 0.04408228627740823, "failure_count": 0, "left_ci_lower": 0.16141568120226657, "left_ci_upper": 0.2735331978319783, "left_mean": 0.2166913032766691, "mean_delta": 0.018164572554816454, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.005439763488543978, "ci_upper": 0.04408228627740823, "delta_ci_lower": -0.005439763488543978, "delta_ci_upper": 0.04408228627740823, "failure_count": 0, "left_ci_lower": 0.16141568120226657, "left_ci_upper": 0.2735331978319783, "left_mean": 0.2166913032766691, "mean_delta": 0.018164572554816454, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.005439763488543978, "ci_upper": 0.04408228627740823, "delta_ci_lower": -0.005439763488543978, "delta_ci_upper": 0.04408228627740823, "failure_count": 0, "left_ci_lower": 0.16141568120226657, "left_ci_upper": 0.2735331978319783, "left_mean": 0.2166913032766691, "mean_delta": 0.018164572554816454, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04763690788147549, "ci_upper": 0.05359869649936165, "delta_ci_lower": -0.04763690788147549, "delta_ci_upper": 0.05359869649936165, "failure_count": 0, "left_ci_lower": 0.1330312840153195, "left_ci_upper": 0.2728385876503393, "left_mean": 0.20193831888732108, "mean_delta": 0.0030254652959752744, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13500369549150038, "right_ci_upper": 0.2782095343680709, "right_mean": 0.2049637841832964, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -328.67645352399745, "ci_upper": 1761.4464979434456, "delta_ci_lower": -328.67645352399745, "delta_ci_upper": 1761.4464979434456, "failure_count": 0, "left_ci_lower": 41315.978421150554, "left_ci_upper": 43448.381825377, "left_mean": 42397.199344433226, "mean_delta": 639.6827557434639, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41972.10613591694, "right_ci_upper": 44041.35676995289, "right_mean": 43036.882100176685, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -33.766666666666666, "ci_upper": 257.7733333333332, "delta_ci_lower": -33.766666666666666, "delta_ci_upper": 257.7733333333332, "failure_count": 0, "left_ci_lower": 5754.633333333333, "left_ci_upper": 6013.304166666667, "left_mean": 5887.366666666667, "mean_delta": 99.46666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5854.028333333334, "right_ci_upper": 6117.404166666666, "right_mean": 5986.833333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -35.36833333333332, "ci_upper": 231.0, "delta_ci_lower": -35.36833333333332, "delta_ci_upper": 231.0, "failure_count": 0, "left_ci_lower": 5433.3, "left_ci_upper": 5663.369166666666, "left_mean": 5549.3, "mean_delta": 87.53333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5515.9991666666665, "right_ci_upper": 5754.236666666667, "right_mean": 5636.833333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.3, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.3, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": -0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.022222222222222216, "ci_upper": 0.04666666666666666, "delta_ci_lower": -0.022222222222222216, "delta_ci_upper": 0.04666666666666666, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.611111111111111, "left_mean": 0.4444444444444445, "mean_delta": 0.006666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2911111111111111, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45111111111111113, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.022222222222222216, "ci_upper": 0.04666666666666666, "delta_ci_lower": -0.022222222222222216, "delta_ci_upper": 0.04666666666666666, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.611111111111111, "left_mean": 0.4444444444444445, "mean_delta": 0.006666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2911111111111111, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45111111111111113, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.022222222222222216, "ci_upper": 0.04666666666666666, "delta_ci_lower": -0.022222222222222216, "delta_ci_upper": 0.04666666666666666, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.611111111111111, "left_mean": 0.4444444444444445, "mean_delta": 0.006666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2911111111111111, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45111111111111113, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.022222222222222216, "ci_upper": 0.04666666666666666, "delta_ci_lower": -0.022222222222222216, "delta_ci_upper": 0.04666666666666666, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.611111111111111, "left_mean": 0.4444444444444445, "mean_delta": 0.006666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2911111111111111, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45111111111111113, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 805.2121833197695, "ci_upper": 1493.0193063942716, "delta_ci_lower": 805.2121833197695, "delta_ci_upper": 1493.0193063942716, "failure_count": 0, "left_ci_lower": 4838.630143209399, "left_ci_upper": 5376.474515021158, "left_mean": 5103.8700777416425, "mean_delta": 1126.2130847976853, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5800.04775115347, "right_ci_upper": 6670.021898779863, "right_mean": 6230.083162539328, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.17222222222222222, "left_ci_upper": 0.36666666666666664, "left_mean": 0.26666666666666666, "mean_delta": 0.04444444444444444, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.43333333333333335, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.17222222222222222, "left_ci_upper": 0.36666666666666664, "left_mean": 0.26666666666666666, "mean_delta": 0.04444444444444444, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.43333333333333335, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.17222222222222222, "left_ci_upper": 0.36666666666666664, "left_mean": 0.26666666666666666, "mean_delta": 0.04444444444444444, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.43333333333333335, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.17222222222222222, "left_ci_upper": 0.36666666666666664, "left_mean": 0.26666666666666666, "mean_delta": 0.04444444444444444, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.43333333333333335, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -7326.863578291182, "ci_upper": -3285.0484070040206, "delta_ci_lower": -7326.863578291182, "delta_ci_upper": -3285.0484070040206, "failure_count": 0, "left_ci_lower": 44568.578363189394, "left_ci_upper": 48733.951958068064, "left_mean": 46617.89430558371, "mean_delta": -5227.872858289629, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40647.352602621926, "right_ci_upper": 42116.567317849454, "right_mean": 41390.02144729408, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -180.26916666666665, "ci_upper": 132.96833333333333, "delta_ci_lower": -180.26916666666665, "delta_ci_upper": 132.96833333333333, "failure_count": 0, "left_ci_lower": 5837.164166666667, "left_ci_upper": 6092.768333333333, "left_mean": 5970.766666666666, "mean_delta": -26.433333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5830.764166666667, "right_ci_upper": 6054.501666666667, "right_mean": 5944.333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -179.76666666666668, "ci_upper": 120.73999999999991, "delta_ci_lower": -179.76666666666668, "delta_ci_upper": 120.73999999999991, "failure_count": 0, "left_ci_lower": 5525.198333333334, "left_ci_upper": 5777.101666666667, "left_mean": 5658.2, "mean_delta": -33.6, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5505.996666666667, "right_ci_upper": 5736.133333333333, "right_mean": 5624.6, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.05555555555555556, "ci_upper": 0.027777777777777776, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.027777777777777776, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.55, "left_mean": 0.3777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5277777777777778, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.05555555555555556, "ci_upper": 0.027777777777777776, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.027777777777777776, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.55, "left_mean": 0.3777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5277777777777778, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.05555555555555556, "ci_upper": 0.027777777777777776, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.027777777777777776, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.55, "left_mean": 0.3777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5277777777777778, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.05555555555555556, "ci_upper": 0.027777777777777776, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.027777777777777776, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.55, "left_mean": 0.3777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5277777777777778, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 488.52208232720534, "ci_upper": 851.9740665005519, "delta_ci_lower": 488.52208232720534, "delta_ci_upper": 851.9740665005519, "failure_count": 0, "left_ci_lower": 4779.098087876143, "left_ci_upper": 6004.548964392355, "left_mean": 5305.4444333227975, "mean_delta": 666.2171736747647, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5437.641642073091, "right_ci_upper": 6641.918030304173, "right_mean": 5971.661606997562, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.05, "ci_upper": 0.025, "delta_ci_lower": -0.05, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.09444444444444443, "left_ci_upper": 0.2638888888888889, "left_mean": 0.17222222222222222, "mean_delta": -0.008333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1638888888888889, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.05, "ci_upper": 0.025, "delta_ci_lower": -0.05, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.09444444444444443, "left_ci_upper": 0.2638888888888889, "left_mean": 0.17222222222222222, "mean_delta": -0.008333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1638888888888889, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.05, "ci_upper": 0.025, "delta_ci_lower": -0.05, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.09444444444444443, "left_ci_upper": 0.2638888888888889, "left_mean": 0.17222222222222222, "mean_delta": -0.008333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1638888888888889, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.05, "ci_upper": 0.025, "delta_ci_lower": -0.05, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.09444444444444443, "left_ci_upper": 0.2638888888888889, "left_mean": 0.17222222222222222, "mean_delta": -0.008333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1638888888888889, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.15547727272727252, "ci_upper": 0.11787878787878789, "delta_ci_lower": -0.15547727272727252, "delta_ci_upper": 0.11787878787878789, "failure_count": 0, "left_ci_lower": 0.30878787878787883, "left_ci_upper": 0.6454545454545454, "left_mean": 0.47545454545454546, "mean_delta": -0.015454545454545452, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.29333333333333333, "right_ci_upper": 0.6333333333333333, "right_mean": 0.46, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1154.978475338236, "ci_upper": 205.74551285787754, "delta_ci_lower": -1154.978475338236, "delta_ci_upper": 205.74551285787754, "failure_count": 0, "left_ci_lower": 42674.955997753816, "left_ci_upper": 44499.254454452115, "left_mean": 43594.58434713694, "mean_delta": -501.93678607077646, "missing_count": 0, "paired_count": 30, "right_ci_lower": 42152.57300410342, "right_ci_upper": 44033.392467421945, "right_mean": 43092.647561066166, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -75.70416666666664, "ci_upper": 103.00083333333332, "delta_ci_lower": -75.70416666666664, "delta_ci_upper": 103.00083333333332, "failure_count": 0, "left_ci_lower": 5992.326666666667, "left_ci_upper": 6210.369166666666, "left_mean": 6107.266666666666, "mean_delta": 9.166666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 6003.6325, "right_ci_upper": 6217.966666666666, "right_mean": 6116.433333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -70.86916666666663, "ci_upper": 92.4683333333333, "delta_ci_lower": -70.86916666666663, "delta_ci_upper": 92.4683333333333, "failure_count": 0, "left_ci_lower": 5682.199166666666, "left_ci_upper": 5874.234166666666, "left_mean": 5782.033333333334, "mean_delta": 6.166666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5685.530000000001, "right_ci_upper": 5882.3, "right_mean": 5788.2, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.6333333333333333, "right_ci_upper": 0.9333333333333333, "right_mean": 0.8, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3111111111111111, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 173.29229742172177, "ci_upper": 644.3278129947914, "delta_ci_lower": 173.29229742172177, "delta_ci_upper": 644.3278129947914, "failure_count": 0, "left_ci_lower": 5768.495801216534, "left_ci_upper": 6249.665302592912, "left_mean": 6005.794409747857, "mean_delta": 396.35534449480474, "missing_count": 0, "paired_count": 30, "right_ci_lower": 6050.210562108163, "right_ci_upper": 6799.927510588313, "right_mean": 6402.149754242661, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.31666666666666665, "left_mean": 0.20555555555555555, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.34444444444444444, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.31666666666666665, "left_mean": 0.20555555555555555, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.34444444444444444, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.31666666666666665, "left_mean": 0.20555555555555555, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.34444444444444444, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.31666666666666665, "left_mean": 0.20555555555555555, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.34444444444444444, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.9, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2285.08831606654, "ci_upper": 283.9156741930234, "delta_ci_lower": -2285.08831606654, "delta_ci_upper": 283.9156741930234, "failure_count": 0, "left_ci_lower": 40308.92363351537, "left_ci_upper": 42423.428298756866, "left_mean": 41390.10765848992, "mean_delta": -1005.0475544063374, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39454.97244301019, "right_ci_upper": 41287.093893659374, "right_mean": 40385.06010408358, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -237.9033333333333, "ci_upper": 146.60583333333324, "delta_ci_lower": -237.9033333333333, "delta_ci_upper": 146.60583333333324, "failure_count": 0, "left_ci_lower": 5692.928333333333, "left_ci_upper": 5996.835833333333, "left_mean": 5846.8, "mean_delta": -46.13333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5663.565833333333, "right_ci_upper": 5937.0025, "right_mean": 5800.666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -239.86666666666667, "ci_upper": 126.37499999999987, "delta_ci_lower": -239.86666666666667, "delta_ci_upper": 126.37499999999987, "failure_count": 0, "left_ci_lower": 5396.863333333334, "left_ci_upper": 5689.306666666667, "left_mean": 5544.766666666666, "mean_delta": -56.233333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5354.498333333333, "right_ci_upper": 5624.870833333333, "right_mean": 5488.533333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": -648.9146686106686, "ci_upper": -247.00043931370607, "delta_ci_lower": -648.9146686106686, "delta_ci_upper": -247.00043931370607, "failure_count": 0, "left_ci_lower": 4817.729139155708, "left_ci_upper": 5245.635397216732, "left_mean": 5027.731366727191, "mean_delta": -448.0121250730008, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4403.638204973734, "right_ci_upper": 4768.9002708854005, "right_mean": 4579.71924165419, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.9, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "left_regime": "advanced_lightrag_er", "metrics": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.375, "left_mean": 0.30833333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.30833333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2200.8966874088705, "ci_upper": -853.3060953912112, "delta_ci_lower": -2200.8966874088705, "delta_ci_upper": -853.3060953912112, "failure_count": 0, "left_ci_lower": 42823.27438703156, "left_ci_upper": 44182.154103472225, "left_mean": 43499.94641391095, "mean_delta": -1523.7936107558198, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41516.484434040176, "right_ci_upper": 42448.55391738238, "right_mean": 41976.15280315513, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.38979166666662, "ci_upper": 85.55166666666663, "delta_ci_lower": -65.38979166666662, "delta_ci_upper": 85.55166666666663, "failure_count": 0, "left_ci_lower": 5886.3, "left_ci_upper": 6018.833541666666, "left_mean": 5953.05, "mean_delta": 9.016666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5900.882083333333, "right_ci_upper": 6025.283541666668, "right_mean": 5962.066666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -69.50187499999998, "ci_upper": 72.71770833333332, "delta_ci_lower": -69.50187499999998, "delta_ci_upper": 72.71770833333332, "failure_count": 0, "left_ci_lower": 5572.647708333333, "left_ci_upper": 5694.261875, "left_mean": 5633.575, "mean_delta": 0.9666666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5575.8150000000005, "right_ci_upper": 5694.642916666666, "right_mean": 5634.541666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777777, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4444444444444444, "right_ci_upper": 0.6222222222222222, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.01925925925925926, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.01925925925925926, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814818, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.01925925925925926, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.01925925925925926, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814818, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.01925925925925926, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.01925925925925926, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814818, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.01925925925925926, "ci_upper": 0.017037037037037035, "delta_ci_lower": -0.01925925925925926, "delta_ci_upper": 0.017037037037037035, "failure_count": 0, "left_ci_lower": 0.28703703703703703, "left_ci_upper": 0.4703703703703704, "left_mean": 0.37777777777777777, "mean_delta": -0.0014814814814814818, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555556, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555556, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555556, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.35555555555555557, "left_ci_upper": 0.5555555555555556, "left_mean": 0.45555555555555555, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 310.4379253078756, "ci_upper": 564.474162113717, "delta_ci_lower": 310.4379253078756, "delta_ci_upper": 564.474162113717, "failure_count": 0, "left_ci_lower": 5189.355847945408, "left_ci_upper": 5564.463174903794, "left_mean": 5360.7100718848715, "mean_delta": 435.1933694735635, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5595.773587267952, "right_ci_upper": 6019.455951655012, "right_mean": 5795.903441358435, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.00462962962962963, "ci_upper": 0.04259259259259259, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.04259259259259259, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.2712962962962963, "left_mean": 0.2148148148148148, "mean_delta": 0.01759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04292929292929293, "ci_upper": 0.056363636363636366, "delta_ci_lower": -0.04292929292929293, "delta_ci_upper": 0.056363636363636366, "failure_count": 0, "left_ci_lower": 0.12554545454545463, "left_ci_upper": 0.2610126262626262, "left_mean": 0.1918181818181818, "mean_delta": 0.00595959595959596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1288888888888889, "right_ci_upper": 0.27, "right_mean": 0.19777777777777777, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_91358cb1f88dec176a28953b", "builder_key": "gemma3_270m", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.058333333333333334, "delta_ci_lower": -0.025, "delta_ci_upper": 0.058333333333333334, "failure_count": 0, "left_ci_lower": 0.20833333333333334, "left_ci_upper": 0.3416666666666667, "left_mean": 0.27499999999999997, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.225, "right_ci_upper": 0.35833333333333334, "right_mean": 0.29166666666666663, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1690.013882828692, "ci_upper": -362.93334795652004, "delta_ci_lower": -1690.013882828692, "delta_ci_upper": -362.93334795652004, "failure_count": 0, "left_ci_lower": 41942.33958241277, "left_ci_upper": 42787.69349034754, "left_mean": 42371.626619781215, "mean_delta": -1002.7481000404805, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40829.1620273972, "right_ci_upper": 41898.598330081244, "right_mean": 41368.87851974073, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -254.73687499999997, "ci_upper": -61.53937500000003, "delta_ci_lower": -254.73687499999997, "delta_ci_upper": -61.53937500000003, "failure_count": 0, "left_ci_lower": 5988.374583333333, "left_ci_upper": 6108.701041666666, "left_mean": 6049.466666666667, "mean_delta": -153.99166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5818.6866666666665, "right_ci_upper": 5969.795833333334, "right_mean": 5895.475, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555556, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555556, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555556, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -223.00875, "ci_upper": -39.518541666666756, "delta_ci_lower": -223.00875, "delta_ci_upper": -39.518541666666756, "failure_count": 0, "left_ci_lower": 5604.5493750000005, "left_ci_upper": 5718.258541666666, "left_mean": 5662.125, "mean_delta": -127.175, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5462.208124999999, "right_ci_upper": 5604.834583333334, "right_mean": 5534.95, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555556, "ci_upper": 0.10000000000000002, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.10000000000000002, "failure_count": 0, "left_ci_lower": 0.5222222222222223, "left_ci_upper": 0.7000000000000001, "left_mean": 0.611111111111111, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222223, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592592, "mean_delta": 0.014814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592592, "mean_delta": 0.014814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592592, "mean_delta": 0.014814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592592, "mean_delta": 0.014814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -28.815287340063755, "ci_upper": 16.58222511192434, "delta_ci_lower": -28.815287340063755, "delta_ci_upper": 16.58222511192434, "failure_count": 0, "left_ci_lower": 4853.589815572051, "left_ci_upper": 5191.876809118791, "left_mean": 5006.311091650666, "mean_delta": -2.1144788110783947, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4860.273321196533, "right_ci_upper": 5171.594064889311, "right_mean": 5004.196612839587, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.011111111111111108, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851851, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.011111111111111108, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851851, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.011111111111111108, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851851, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.011111111111111108, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851851, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.025715172558922555, "ci_upper": 0.04448653198653199, "delta_ci_lower": -0.025715172558922555, "delta_ci_upper": 0.04448653198653199, "failure_count": 0, "left_ci_lower": 0.10177777777777779, "left_ci_upper": 0.24444444444444444, "left_mean": 0.1691178451178451, "mean_delta": 0.009354377104377105, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11111111111111112, "right_ci_upper": 0.25555555555555554, "right_mean": 0.17847222222222223, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.058333333333333334, "delta_ci_lower": -0.025, "delta_ci_upper": 0.058333333333333334, "failure_count": 0, "left_ci_lower": 0.20833333333333334, "left_ci_upper": 0.3416666666666667, "left_mean": 0.275, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.225, "right_ci_upper": 0.35833333333333334, "right_mean": 0.2916666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1690.013882828692, "ci_upper": -362.93334795652, "delta_ci_lower": -1690.013882828692, "delta_ci_upper": -362.93334795652, "failure_count": 0, "left_ci_lower": 41942.33958241277, "left_ci_upper": 42787.69349034755, "left_mean": 42371.626619781215, "mean_delta": -1002.7481000404805, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40829.1620273972, "right_ci_upper": 41898.598330081244, "right_mean": 41368.878519740734, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -254.73687499999994, "ci_upper": -61.53937500000003, "delta_ci_lower": -254.73687499999994, "delta_ci_upper": -61.53937500000003, "failure_count": 0, "left_ci_lower": 5988.374583333333, "left_ci_upper": 6108.701041666666, "left_mean": 6049.466666666666, "mean_delta": -153.99166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5818.6866666666665, "right_ci_upper": 5969.795833333334, "right_mean": 5895.475, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -223.00875, "ci_upper": -39.518541666666756, "delta_ci_lower": -223.00875, "delta_ci_upper": -39.518541666666756, "failure_count": 0, "left_ci_lower": 5604.5493750000005, "left_ci_upper": 5718.258541666666, "left_mean": 5662.125, "mean_delta": -127.175, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5462.208124999999, "right_ci_upper": 5604.834583333333, "right_mean": 5534.95, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5222222222222223, "left_ci_upper": 0.7, "left_mean": 0.6111111111111112, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592593, "mean_delta": 0.014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592593, "mean_delta": 0.014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592593, "mean_delta": 0.014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592593, "mean_delta": 0.014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -28.815287340063755, "ci_upper": 16.58222511192434, "delta_ci_lower": -28.815287340063755, "delta_ci_upper": 16.58222511192434, "failure_count": 0, "left_ci_lower": 4853.58981557205, "left_ci_upper": 5191.876809118791, "left_mean": 5006.311091650666, "mean_delta": -2.1144788110783943, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4860.273321196533, "right_ci_upper": 5171.594064889311, "right_mean": 5004.196612839587, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.01111111111111111, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.01111111111111111, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.01111111111111111, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.01111111111111111, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.025715172558922555, "ci_upper": 0.04448653198653199, "delta_ci_lower": -0.025715172558922555, "delta_ci_upper": 0.04448653198653199, "failure_count": 0, "left_ci_lower": 0.10177777777777777, "left_ci_upper": 0.24444444444444444, "left_mean": 0.1691178451178451, "mean_delta": 0.009354377104377105, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.25555555555555554, "right_mean": 0.17847222222222223, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.023095983307250916, "ci_upper": 0.04737871674491393, "delta_ci_lower": -0.023095983307250916, "delta_ci_upper": 0.04737871674491393, "failure_count": 0, "left_ci_lower": 0.15238654147104852, "left_ci_upper": 0.2886026343244653, "left_mean": 0.21853155972874283, "mean_delta": 0.011006781429316641, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.16443661971830986, "right_ci_upper": 0.2981875978090767, "right_mean": 0.22953834115805946, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1711.886076408374, "ci_upper": -298.24453202720696, "delta_ci_lower": -1711.886076408374, "delta_ci_upper": -298.24453202720696, "failure_count": 0, "left_ci_lower": 41965.02325736418, "left_ci_upper": 42862.122625671014, "left_mean": 42420.21745880584, "mean_delta": -989.9775581917734, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40847.63246582968, "right_ci_upper": 42007.20597952188, "right_mean": 41430.23990061407, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -254.0378563510693, "ci_upper": -50.37984317944717, "delta_ci_lower": -254.0378563510693, "delta_ci_upper": -50.37984317944717, "failure_count": 0, "left_ci_lower": 5978.991452790819, "left_ci_upper": 6109.788272691706, "left_mean": 6045.276591027648, "mean_delta": -150.1079942618675, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5814.009746022431, "right_ci_upper": 5975.059711789254, "right_mean": 5895.1685967657795, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09379009608277772, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09379009608277772, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.036186252771618625, "left_mean": 0.012062084257206208, "mean_delta": 0.0465779748706578, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.012653362897265335, "right_ci_upper": 0.11383592017738359, "right_mean": 0.058640059127864005, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09379009608277772, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09379009608277772, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.036186252771618625, "left_mean": 0.012062084257206208, "mean_delta": 0.0465779748706578, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.012653362897265335, "right_ci_upper": 0.11383592017738359, "right_mean": 0.058640059127864005, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09379009608277772, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09379009608277772, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.036186252771618625, "left_mean": 0.012062084257206208, "mean_delta": 0.0465779748706578, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.012653362897265335, "right_ci_upper": 0.11383592017738359, "right_mean": 0.058640059127864005, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -221.0752803860198, "ci_upper": -28.6184513562859, "delta_ci_lower": -221.0752803860198, "delta_ci_upper": -28.6184513562859, "failure_count": 0, "left_ci_lower": 5594.92934859155, "left_ci_upper": 5718.643821400626, "left_mean": 5658.353612415232, "mean_delta": -122.97180490349504, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5458.401364110589, "right_ci_upper": 5609.516691770997, "right_mean": 5535.381807511737, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06267553584626755, "ci_upper": 0.11840354767184036, "delta_ci_lower": -0.06267553584626755, "delta_ci_upper": 0.11840354767184036, "failure_count": 0, "left_ci_lower": 0.49129711751662986, "left_ci_upper": 0.6730931263858092, "left_mean": 0.5816555801921656, "mean_delta": 0.02815964523281596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5143976348854398, "right_ci_upper": 0.702320768662232, "right_mean": 0.6098152254249816, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02040650406504065, "ci_upper": 0.04311160384331116, "delta_ci_lower": -0.02040650406504065, "delta_ci_upper": 0.04311160384331116, "failure_count": 0, "left_ci_lower": 0.2747141537324464, "left_ci_upper": 0.4613122074402562, "left_mean": 0.3668415865976842, "mean_delta": 0.011113574772111357, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02040650406504065, "ci_upper": 0.04311160384331116, "delta_ci_lower": -0.02040650406504065, "delta_ci_upper": 0.04311160384331116, "failure_count": 0, "left_ci_lower": 0.2747141537324464, "left_ci_upper": 0.4613122074402562, "left_mean": 0.3668415865976842, "mean_delta": 0.011113574772111357, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02040650406504065, "ci_upper": 0.04311160384331116, "delta_ci_lower": -0.02040650406504065, "delta_ci_upper": 0.04311160384331116, "failure_count": 0, "left_ci_lower": 0.2747141537324464, "left_ci_upper": 0.4613122074402562, "left_mean": 0.3668415865976842, "mean_delta": 0.011113574772111357, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02040650406504065, "ci_upper": 0.04311160384331116, "delta_ci_lower": -0.02040650406504065, "delta_ci_upper": 0.04311160384331116, "failure_count": 0, "left_ci_lower": 0.2747141537324464, "left_ci_upper": 0.4613122074402562, "left_mean": 0.3668415865976842, "mean_delta": 0.011113574772111357, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.020133037694013305, "ci_upper": 0.10232076866223208, "delta_ci_lower": -0.020133037694013305, "delta_ci_upper": 0.10232076866223208, "failure_count": 0, "left_ci_lower": 0.329830007390983, "left_ci_upper": 0.5344567627494456, "left_mean": 0.43160384331116036, "mean_delta": 0.039098300073909825, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.020133037694013305, "ci_upper": 0.10232076866223208, "delta_ci_lower": -0.020133037694013305, "delta_ci_upper": 0.10232076866223208, "failure_count": 0, "left_ci_lower": 0.329830007390983, "left_ci_upper": 0.5344567627494456, "left_mean": 0.43160384331116036, "mean_delta": 0.039098300073909825, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.020133037694013305, "ci_upper": 0.10232076866223208, "delta_ci_lower": -0.020133037694013305, "delta_ci_upper": 0.10232076866223208, "failure_count": 0, "left_ci_lower": 0.329830007390983, "left_ci_upper": 0.5344567627494456, "left_mean": 0.43160384331116036, "mean_delta": 0.039098300073909825, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.020133037694013305, "ci_upper": 0.10232076866223208, "delta_ci_lower": -0.020133037694013305, "delta_ci_upper": 0.10232076866223208, "failure_count": 0, "left_ci_lower": 0.329830007390983, "left_ci_upper": 0.5344567627494456, "left_mean": 0.43160384331116036, "mean_delta": 0.039098300073909825, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -41.22623178458837, "ci_upper": 14.986620484842494, "delta_ci_lower": -41.22623178458837, "delta_ci_upper": 14.986620484842494, "failure_count": 0, "left_ci_lower": 4887.143906862317, "left_ci_upper": 5308.291588312188, "left_mean": 5074.688896580469, "mean_delta": -7.535759926304546, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4891.376951175775, "right_ci_upper": 5276.478286191422, "right_mean": 5067.153136654165, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.009055124414880523, "ci_upper": 0.07848484848484848, "delta_ci_lower": 0.009055124414880523, "delta_ci_upper": 0.07848484848484848, "failure_count": 0, "left_ci_lower": 0.14071692535107166, "left_ci_upper": 0.2405482877556048, "left_mean": 0.18975609756097564, "mean_delta": 0.04230845035723083, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.009055124414880523, "ci_upper": 0.07848484848484848, "delta_ci_lower": 0.009055124414880523, "delta_ci_upper": 0.07848484848484848, "failure_count": 0, "left_ci_lower": 0.14071692535107166, "left_ci_upper": 0.2405482877556048, "left_mean": 0.18975609756097564, "mean_delta": 0.04230845035723083, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.009055124414880523, "ci_upper": 0.07848484848484848, "delta_ci_lower": 0.009055124414880523, "delta_ci_upper": 0.07848484848484848, "failure_count": 0, "left_ci_lower": 0.14071692535107166, "left_ci_upper": 0.2405482877556048, "left_mean": 0.18975609756097564, "mean_delta": 0.04230845035723083, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.009055124414880523, "ci_upper": 0.07848484848484848, "delta_ci_lower": 0.009055124414880523, "delta_ci_upper": 0.07848484848484848, "failure_count": 0, "left_ci_lower": 0.14071692535107166, "left_ci_upper": 0.2405482877556048, "left_mean": 0.18975609756097564, "mean_delta": 0.04230845035723083, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.029735026540348052, "ci_upper": 0.04464938520459585, "delta_ci_lower": -0.029735026540348052, "delta_ci_upper": 0.04464938520459585, "failure_count": 0, "left_ci_lower": 0.10638249143317881, "left_ci_upper": 0.25409434119465163, "left_mean": 0.17788639387220317, "mean_delta": 0.006119518914197408, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11179600886917959, "right_ci_upper": 0.25929046563192903, "right_mean": 0.18400591278640058, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.058333333333333334, "delta_ci_lower": -0.025, "delta_ci_upper": 0.058333333333333334, "failure_count": 0, "left_ci_lower": 0.20833333333333334, "left_ci_upper": 0.3416666666666667, "left_mean": 0.27499999999999997, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.225, "right_ci_upper": 0.35833333333333334, "right_mean": 0.29166666666666663, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1690.013882828692, "ci_upper": -362.93334795652004, "delta_ci_lower": -1690.013882828692, "delta_ci_upper": -362.93334795652004, "failure_count": 0, "left_ci_lower": 41942.33958241277, "left_ci_upper": 42787.69349034754, "left_mean": 42371.626619781215, "mean_delta": -1002.7481000404805, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40829.1620273972, "right_ci_upper": 41898.598330081244, "right_mean": 41368.87851974073, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -254.73687499999997, "ci_upper": -61.53937500000003, "delta_ci_lower": -254.73687499999997, "delta_ci_upper": -61.53937500000003, "failure_count": 0, "left_ci_lower": 5988.374583333333, "left_ci_upper": 6108.701041666666, "left_mean": 6049.466666666667, "mean_delta": -153.99166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5818.6866666666665, "right_ci_upper": 5969.795833333334, "right_mean": 5895.475, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555556, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555556, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555556, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -223.00875, "ci_upper": -39.518541666666756, "delta_ci_lower": -223.00875, "delta_ci_upper": -39.518541666666756, "failure_count": 0, "left_ci_lower": 5604.5493750000005, "left_ci_upper": 5718.258541666666, "left_mean": 5662.125, "mean_delta": -127.175, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5462.208124999999, "right_ci_upper": 5604.834583333334, "right_mean": 5534.95, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555556, "ci_upper": 0.10000000000000002, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.10000000000000002, "failure_count": 0, "left_ci_lower": 0.5222222222222223, "left_ci_upper": 0.7000000000000001, "left_mean": 0.611111111111111, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222223, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592592, "mean_delta": 0.014814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592592, "mean_delta": 0.014814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592592, "mean_delta": 0.014814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592592, "mean_delta": 0.014814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -28.815287340063755, "ci_upper": 16.58222511192434, "delta_ci_lower": -28.815287340063755, "delta_ci_upper": 16.58222511192434, "failure_count": 0, "left_ci_lower": 4853.589815572051, "left_ci_upper": 5191.876809118791, "left_mean": 5006.311091650666, "mean_delta": -2.1144788110783947, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4860.273321196533, "right_ci_upper": 5171.594064889311, "right_mean": 5004.196612839587, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.011111111111111108, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851851, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.011111111111111108, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851851, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.011111111111111108, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851851, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.011111111111111108, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851851, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.025715172558922555, "ci_upper": 0.04448653198653199, "delta_ci_lower": -0.025715172558922555, "delta_ci_upper": 0.04448653198653199, "failure_count": 0, "left_ci_lower": 0.10177777777777779, "left_ci_upper": 0.24444444444444444, "left_mean": 0.1691178451178451, "mean_delta": 0.009354377104377105, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11111111111111112, "right_ci_upper": 0.25555555555555554, "right_mean": 0.17847222222222223, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.058333333333333334, "delta_ci_lower": -0.025, "delta_ci_upper": 0.058333333333333334, "failure_count": 0, "left_ci_lower": 0.20833333333333334, "left_ci_upper": 0.3416666666666667, "left_mean": 0.275, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.225, "right_ci_upper": 0.35833333333333334, "right_mean": 0.2916666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1690.013882828692, "ci_upper": -362.93334795652, "delta_ci_lower": -1690.013882828692, "delta_ci_upper": -362.93334795652, "failure_count": 0, "left_ci_lower": 41942.33958241277, "left_ci_upper": 42787.69349034755, "left_mean": 42371.626619781215, "mean_delta": -1002.7481000404805, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40829.1620273972, "right_ci_upper": 41898.598330081244, "right_mean": 41368.878519740734, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -254.73687499999994, "ci_upper": -61.53937500000003, "delta_ci_lower": -254.73687499999994, "delta_ci_upper": -61.53937500000003, "failure_count": 0, "left_ci_lower": 5988.374583333333, "left_ci_upper": 6108.701041666666, "left_mean": 6049.466666666666, "mean_delta": -153.99166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5818.6866666666665, "right_ci_upper": 5969.795833333334, "right_mean": 5895.475, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -223.00875, "ci_upper": -39.518541666666756, "delta_ci_lower": -223.00875, "delta_ci_upper": -39.518541666666756, "failure_count": 0, "left_ci_lower": 5604.5493750000005, "left_ci_upper": 5718.258541666666, "left_mean": 5662.125, "mean_delta": -127.175, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5462.208124999999, "right_ci_upper": 5604.834583333333, "right_mean": 5534.95, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5222222222222223, "left_ci_upper": 0.7, "left_mean": 0.6111111111111112, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592593, "mean_delta": 0.014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592593, "mean_delta": 0.014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592593, "mean_delta": 0.014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592593, "mean_delta": 0.014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -28.815287340063755, "ci_upper": 16.58222511192434, "delta_ci_lower": -28.815287340063755, "delta_ci_upper": 16.58222511192434, "failure_count": 0, "left_ci_lower": 4853.58981557205, "left_ci_upper": 5191.876809118791, "left_mean": 5006.311091650666, "mean_delta": -2.1144788110783943, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4860.273321196533, "right_ci_upper": 5171.594064889311, "right_mean": 5004.196612839587, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.01111111111111111, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.01111111111111111, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.01111111111111111, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.01111111111111111, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.025715172558922555, "ci_upper": 0.04448653198653199, "delta_ci_lower": -0.025715172558922555, "delta_ci_upper": 0.04448653198653199, "failure_count": 0, "left_ci_lower": 0.10177777777777777, "left_ci_upper": 0.24444444444444444, "left_mean": 0.1691178451178451, "mean_delta": 0.009354377104377105, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.25555555555555554, "right_mean": 0.17847222222222223, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.023095983307250916, "ci_upper": 0.04737871674491393, "delta_ci_lower": -0.023095983307250916, "delta_ci_upper": 0.04737871674491393, "failure_count": 0, "left_ci_lower": 0.15238654147104852, "left_ci_upper": 0.2886026343244653, "left_mean": 0.21853155972874283, "mean_delta": 0.011006781429316641, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.16443661971830986, "right_ci_upper": 0.2981875978090767, "right_mean": 0.22953834115805946, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1711.886076408374, "ci_upper": -298.24453202720696, "delta_ci_lower": -1711.886076408374, "delta_ci_upper": -298.24453202720696, "failure_count": 0, "left_ci_lower": 41965.02325736418, "left_ci_upper": 42862.122625671014, "left_mean": 42420.21745880584, "mean_delta": -989.9775581917734, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40847.63246582968, "right_ci_upper": 42007.20597952188, "right_mean": 41430.23990061407, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -254.0378563510693, "ci_upper": -50.37984317944717, "delta_ci_lower": -254.0378563510693, "delta_ci_upper": -50.37984317944717, "failure_count": 0, "left_ci_lower": 5978.991452790819, "left_ci_upper": 6109.788272691706, "left_mean": 6045.276591027648, "mean_delta": -150.1079942618675, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5814.009746022431, "right_ci_upper": 5975.059711789254, "right_mean": 5895.1685967657795, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09379009608277772, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09379009608277772, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.036186252771618625, "left_mean": 0.012062084257206208, "mean_delta": 0.0465779748706578, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.012653362897265335, "right_ci_upper": 0.11383592017738359, "right_mean": 0.058640059127864005, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09379009608277772, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09379009608277772, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.036186252771618625, "left_mean": 0.012062084257206208, "mean_delta": 0.0465779748706578, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.012653362897265335, "right_ci_upper": 0.11383592017738359, "right_mean": 0.058640059127864005, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09379009608277772, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09379009608277772, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.036186252771618625, "left_mean": 0.012062084257206208, "mean_delta": 0.0465779748706578, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.012653362897265335, "right_ci_upper": 0.11383592017738359, "right_mean": 0.058640059127864005, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -221.0752803860198, "ci_upper": -28.6184513562859, "delta_ci_lower": -221.0752803860198, "delta_ci_upper": -28.6184513562859, "failure_count": 0, "left_ci_lower": 5594.92934859155, "left_ci_upper": 5718.643821400626, "left_mean": 5658.353612415232, "mean_delta": -122.97180490349504, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5458.401364110589, "right_ci_upper": 5609.516691770997, "right_mean": 5535.381807511737, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06267553584626755, "ci_upper": 0.11840354767184036, "delta_ci_lower": -0.06267553584626755, "delta_ci_upper": 0.11840354767184036, "failure_count": 0, "left_ci_lower": 0.49129711751662986, "left_ci_upper": 0.6730931263858092, "left_mean": 0.5816555801921656, "mean_delta": 0.02815964523281596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5143976348854398, "right_ci_upper": 0.702320768662232, "right_mean": 0.6098152254249816, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02040650406504065, "ci_upper": 0.04311160384331116, "delta_ci_lower": -0.02040650406504065, "delta_ci_upper": 0.04311160384331116, "failure_count": 0, "left_ci_lower": 0.2747141537324464, "left_ci_upper": 0.4613122074402562, "left_mean": 0.3668415865976842, "mean_delta": 0.011113574772111357, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02040650406504065, "ci_upper": 0.04311160384331116, "delta_ci_lower": -0.02040650406504065, "delta_ci_upper": 0.04311160384331116, "failure_count": 0, "left_ci_lower": 0.2747141537324464, "left_ci_upper": 0.4613122074402562, "left_mean": 0.3668415865976842, "mean_delta": 0.011113574772111357, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02040650406504065, "ci_upper": 0.04311160384331116, "delta_ci_lower": -0.02040650406504065, "delta_ci_upper": 0.04311160384331116, "failure_count": 0, "left_ci_lower": 0.2747141537324464, "left_ci_upper": 0.4613122074402562, "left_mean": 0.3668415865976842, "mean_delta": 0.011113574772111357, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02040650406504065, "ci_upper": 0.04311160384331116, "delta_ci_lower": -0.02040650406504065, "delta_ci_upper": 0.04311160384331116, "failure_count": 0, "left_ci_lower": 0.2747141537324464, "left_ci_upper": 0.4613122074402562, "left_mean": 0.3668415865976842, "mean_delta": 0.011113574772111357, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.020133037694013305, "ci_upper": 0.10232076866223208, "delta_ci_lower": -0.020133037694013305, "delta_ci_upper": 0.10232076866223208, "failure_count": 0, "left_ci_lower": 0.329830007390983, "left_ci_upper": 0.5344567627494456, "left_mean": 0.43160384331116036, "mean_delta": 0.039098300073909825, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.020133037694013305, "ci_upper": 0.10232076866223208, "delta_ci_lower": -0.020133037694013305, "delta_ci_upper": 0.10232076866223208, "failure_count": 0, "left_ci_lower": 0.329830007390983, "left_ci_upper": 0.5344567627494456, "left_mean": 0.43160384331116036, "mean_delta": 0.039098300073909825, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.020133037694013305, "ci_upper": 0.10232076866223208, "delta_ci_lower": -0.020133037694013305, "delta_ci_upper": 0.10232076866223208, "failure_count": 0, "left_ci_lower": 0.329830007390983, "left_ci_upper": 0.5344567627494456, "left_mean": 0.43160384331116036, "mean_delta": 0.039098300073909825, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.020133037694013305, "ci_upper": 0.10232076866223208, "delta_ci_lower": -0.020133037694013305, "delta_ci_upper": 0.10232076866223208, "failure_count": 0, "left_ci_lower": 0.329830007390983, "left_ci_upper": 0.5344567627494456, "left_mean": 0.43160384331116036, "mean_delta": 0.039098300073909825, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -41.22623178458837, "ci_upper": 14.986620484842494, "delta_ci_lower": -41.22623178458837, "delta_ci_upper": 14.986620484842494, "failure_count": 0, "left_ci_lower": 4887.143906862317, "left_ci_upper": 5308.291588312188, "left_mean": 5074.688896580469, "mean_delta": -7.535759926304546, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4891.376951175775, "right_ci_upper": 5276.478286191422, "right_mean": 5067.153136654165, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.009055124414880523, "ci_upper": 0.07848484848484848, "delta_ci_lower": 0.009055124414880523, "delta_ci_upper": 0.07848484848484848, "failure_count": 0, "left_ci_lower": 0.14071692535107166, "left_ci_upper": 0.2405482877556048, "left_mean": 0.18975609756097564, "mean_delta": 0.04230845035723083, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.009055124414880523, "ci_upper": 0.07848484848484848, "delta_ci_lower": 0.009055124414880523, "delta_ci_upper": 0.07848484848484848, "failure_count": 0, "left_ci_lower": 0.14071692535107166, "left_ci_upper": 0.2405482877556048, "left_mean": 0.18975609756097564, "mean_delta": 0.04230845035723083, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.009055124414880523, "ci_upper": 0.07848484848484848, "delta_ci_lower": 0.009055124414880523, "delta_ci_upper": 0.07848484848484848, "failure_count": 0, "left_ci_lower": 0.14071692535107166, "left_ci_upper": 0.2405482877556048, "left_mean": 0.18975609756097564, "mean_delta": 0.04230845035723083, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.009055124414880523, "ci_upper": 0.07848484848484848, "delta_ci_lower": 0.009055124414880523, "delta_ci_upper": 0.07848484848484848, "failure_count": 0, "left_ci_lower": 0.14071692535107166, "left_ci_upper": 0.2405482877556048, "left_mean": 0.18975609756097564, "mean_delta": 0.04230845035723083, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.029735026540348052, "ci_upper": 0.04464938520459585, "delta_ci_lower": -0.029735026540348052, "delta_ci_upper": 0.04464938520459585, "failure_count": 0, "left_ci_lower": 0.10638249143317881, "left_ci_upper": 0.25409434119465163, "left_mean": 0.17788639387220317, "mean_delta": 0.006119518914197408, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11179600886917959, "right_ci_upper": 0.25929046563192903, "right_mean": 0.18400591278640058, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1931.1018643386583, "ci_upper": 714.4802758470175, "delta_ci_lower": -1931.1018643386583, "delta_ci_upper": 714.4802758470175, "failure_count": 0, "left_ci_lower": 42227.3405703685, "left_ci_upper": 43726.70928786683, "left_mean": 42965.65778744407, "mean_delta": -564.9652361248931, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41215.05697663544, "right_ci_upper": 43556.10574968858, "right_mean": 42400.692551319175, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -276.6, "ci_upper": 97.70333333333329, "delta_ci_lower": -276.6, "delta_ci_upper": 97.70333333333329, "failure_count": 0, "left_ci_lower": 5937.766666666666, "left_ci_upper": 6179.6050000000005, "left_mean": 6059.233333333334, "mean_delta": -77.16666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5818.863333333334, "right_ci_upper": 6138.240833333333, "right_mean": 5982.066666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.2, "right_mean": 0.1, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.2, "right_mean": 0.1, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.2, "right_mean": 0.1, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -247.10416666666663, "ci_upper": 103.6041666666666, "delta_ci_lower": -247.10416666666663, "delta_ci_upper": 103.6041666666666, "failure_count": 0, "left_ci_lower": 5551.9325, "left_ci_upper": 5767.034166666667, "left_mean": 5660.333333333333, "mean_delta": -60.833333333333336, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5447.329166666666, "right_ci_upper": 5748.134166666667, "right_mean": 5599.5, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.05555555555555556, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5, "left_mean": 0.34444444444444444, "mean_delta": 0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5055555555555555, "right_mean": 0.3555555555555555, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.05555555555555556, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5, "left_mean": 0.34444444444444444, "mean_delta": 0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5055555555555555, "right_mean": 0.3555555555555555, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.05555555555555556, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5, "left_mean": 0.34444444444444444, "mean_delta": 0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5055555555555555, "right_mean": 0.3555555555555555, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.05555555555555556, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5, "left_mean": 0.34444444444444444, "mean_delta": 0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5055555555555555, "right_mean": 0.3555555555555555, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.7, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.7, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.7, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.7, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -8.32092816514584, "ci_upper": 30.943402875758082, "delta_ci_lower": -8.32092816514584, "delta_ci_upper": 30.943402875758082, "failure_count": 0, "left_ci_lower": 4617.057076924249, "left_ci_upper": 5148.70763904318, "left_mean": 4878.075263796684, "mean_delta": 10.70243623883774, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4628.636995753816, "right_ci_upper": 5160.641343493092, "right_mean": 4888.777700035523, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.005555555555555554, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.005555555555555554, "delta_ci_upper": 0.1611111111111111, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.29444444444444445, "left_mean": 0.20555555555555557, "mean_delta": 0.07777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.2833333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.005555555555555554, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.005555555555555554, "delta_ci_upper": 0.1611111111111111, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.29444444444444445, "left_mean": 0.20555555555555557, "mean_delta": 0.07777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.2833333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.005555555555555554, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.005555555555555554, "delta_ci_upper": 0.1611111111111111, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.29444444444444445, "left_mean": 0.20555555555555557, "mean_delta": 0.07777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.2833333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.005555555555555554, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.005555555555555554, "delta_ci_upper": 0.1611111111111111, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.29444444444444445, "left_mean": 0.20555555555555557, "mean_delta": 0.07777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.2833333333333333, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2701.275211648899, "ci_upper": 234.51396242986976, "delta_ci_lower": -2701.275211648899, "delta_ci_upper": 234.51396242986976, "failure_count": 0, "left_ci_lower": 40821.506160059944, "left_ci_upper": 42800.29732394692, "left_mean": 41836.22398613952, "mean_delta": -1222.47353051013, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39574.255571877584, "right_ci_upper": 41665.45535198491, "right_mean": 40613.75045562939, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -389.13833333333326, "ci_upper": 27.96833333333331, "delta_ci_lower": -389.13833333333326, "delta_ci_upper": 27.96833333333331, "failure_count": 0, "left_ci_lower": 5851.6325, "left_ci_upper": 6126.234166666666, "left_mean": 5994.6, "mean_delta": -180.43333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5672.099166666667, "right_ci_upper": 5958.235833333333, "right_mean": 5814.166666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -343.13666666666666, "ci_upper": 52.76916666666663, "delta_ci_lower": -343.13666666666666, "delta_ci_upper": 52.76916666666663, "failure_count": 0, "left_ci_lower": 5488.256666666666, "left_ci_upper": 5755.175, "left_mean": 5628.066666666667, "mean_delta": -144.66666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5347.431666666666, "right_ci_upper": 5619.833333333333, "right_mean": 5483.4, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.05, "ci_upper": 0.0, "delta_ci_lower": -0.05, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.6166666666666667, "left_mean": 0.45, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.05, "ci_upper": 0.0, "delta_ci_lower": -0.05, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.6166666666666667, "left_mean": 0.45, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.05, "ci_upper": 0.0, "delta_ci_lower": -0.05, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.6166666666666667, "left_mean": 0.45, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.05, "ci_upper": 0.0, "delta_ci_lower": -0.05, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2833333333333333, "left_ci_upper": 0.6166666666666667, "left_mean": 0.45, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -145.97848525852896, "ci_upper": 17.527826156583576, "delta_ci_lower": -145.97848525852896, "delta_ci_upper": 17.527826156583576, "failure_count": 0, "left_ci_lower": 4576.457516816057, "left_ci_upper": 5705.304379107352, "left_mean": 5058.877499952602, "mean_delta": -46.74605978652835, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4570.362673925119, "right_ci_upper": 5576.117022075146, "right_mean": 5012.131440166074, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.025, "ci_upper": 0.0, "delta_ci_lower": -0.025, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.3, "left_mean": 0.20555555555555557, "mean_delta": -0.008333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11388888888888889, "right_ci_upper": 0.2916666666666667, "right_mean": 0.19722222222222224, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.025, "ci_upper": 0.0, "delta_ci_lower": -0.025, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.3, "left_mean": 0.20555555555555557, "mean_delta": -0.008333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11388888888888889, "right_ci_upper": 0.2916666666666667, "right_mean": 0.19722222222222224, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.025, "ci_upper": 0.0, "delta_ci_lower": -0.025, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.3, "left_mean": 0.20555555555555557, "mean_delta": -0.008333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11388888888888889, "right_ci_upper": 0.2916666666666667, "right_mean": 0.19722222222222224, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.025, "ci_upper": 0.0, "delta_ci_lower": -0.025, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.3, "left_mean": 0.20555555555555557, "mean_delta": -0.008333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11388888888888889, "right_ci_upper": 0.2916666666666667, "right_mean": 0.19722222222222224, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.015936868686868687, "ci_upper": 0.10006313131313131, "delta_ci_lower": -0.015936868686868687, "delta_ci_upper": 0.10006313131313131, "failure_count": 0, "left_ci_lower": 0.20735353535353535, "left_ci_upper": 0.544, "left_mean": 0.37402020202020203, "mean_delta": 0.028063131313131314, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23541666666666666, "right_ci_upper": 0.56875, "right_mean": 0.40208333333333335, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2598.0004495512308, "ci_upper": -129.85857416215975, "delta_ci_lower": -2598.0004495512308, "delta_ci_upper": -129.85857416215975, "failure_count": 0, "left_ci_lower": 41823.26035739834, "left_ci_upper": 43448.378118747685, "left_mean": 42620.71613332567, "mean_delta": -1347.3203972602885, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40131.6298174373, "right_ci_upper": 42411.167800277464, "right_mean": 41273.39573606538, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -405.53666666666663, "ci_upper": -44.03250000000001, "delta_ci_lower": -405.53666666666663, "delta_ci_upper": -44.03250000000001, "failure_count": 0, "left_ci_lower": 5981.2325, "left_ci_upper": 6205.2675, "left_mean": 6092.466666666666, "mean_delta": -221.7, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5709.495, "right_ci_upper": 6028.268333333333, "right_mean": 5870.766666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -362.1033333333333, "ci_upper": -20.33083333333337, "delta_ci_lower": -362.1033333333333, "delta_ci_upper": -20.33083333333337, "failure_count": 0, "left_ci_lower": 5587.731666666667, "left_ci_upper": 5795.734166666666, "left_mean": 5693.666666666667, "mean_delta": -187.7, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5359.261666666666, "right_ci_upper": 5650.239166666666, "right_mean": 5505.966666666666, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.11666666666666667, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.2833333333333333, "mean_delta": 0.05, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.11666666666666667, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.2833333333333333, "mean_delta": 0.05, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.11666666666666667, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.2833333333333333, "mean_delta": 0.05, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.11666666666666667, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.2833333333333333, "mean_delta": 0.05, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -10.392562296474349, "ci_upper": 21.335385749116533, "delta_ci_lower": -10.392562296474349, "delta_ci_upper": 21.335385749116533, "failure_count": 0, "left_ci_lower": 5554.021669837724, "left_ci_upper": 6019.248185643034, "left_mean": 5782.455962516057, "mean_delta": 5.031201398621003, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5553.346236770157, "right_ci_upper": 6030.481072272911, "right_mean": 5787.487163914678, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.01111111111111111, "ci_upper": 0.12777777777777777, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.12777777777777777, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2222222222222222, "left_mean": 0.14444444444444443, "mean_delta": 0.06111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.3055555555555555, "right_mean": 0.20555555555555555, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.01111111111111111, "ci_upper": 0.12777777777777777, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.12777777777777777, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2222222222222222, "left_mean": 0.14444444444444443, "mean_delta": 0.06111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.3055555555555555, "right_mean": 0.20555555555555555, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.01111111111111111, "ci_upper": 0.12777777777777777, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.12777777777777777, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2222222222222222, "left_mean": 0.14444444444444443, "mean_delta": 0.06111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.3055555555555555, "right_mean": 0.20555555555555555, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.01111111111111111, "ci_upper": 0.12777777777777777, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.12777777777777777, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2222222222222222, "left_mean": 0.14444444444444443, "mean_delta": 0.06111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.3055555555555555, "right_mean": 0.20555555555555555, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2206.97758627648, "ci_upper": 415.1212951311993, "delta_ci_lower": -2206.97758627648, "delta_ci_upper": 415.1212951311993, "failure_count": 0, "left_ci_lower": 41216.2738117985, "left_ci_upper": 42855.29106902385, "left_mean": 42063.90857221559, "mean_delta": -876.2332362666106, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40223.8227419821, "right_ci_upper": 42113.864580362766, "right_mean": 41187.675335948974, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -332.0025, "ci_upper": 53.101666666666645, "delta_ci_lower": -332.0025, "delta_ci_upper": 53.101666666666645, "failure_count": 0, "left_ci_lower": 5930.866666666667, "left_ci_upper": 6161.9675, "left_mean": 6051.566666666667, "mean_delta": -136.66666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5772.263333333333, "right_ci_upper": 6052.4675, "right_mean": 5914.9, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -306.30083333333334, "ci_upper": 69.23499999999999, "delta_ci_lower": -306.30083333333334, "delta_ci_upper": 69.23499999999999, "failure_count": 0, "left_ci_lower": 5550.0, "left_ci_upper": 5774.534166666667, "left_mean": 5666.433333333333, "mean_delta": -115.5, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5415.0, "right_ci_upper": 5682.034166666667, "right_mean": 5550.933333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": 0.6682186843439408, "ci_upper": 43.90991857391781, "delta_ci_lower": 0.6682186843439408, "delta_ci_upper": 43.90991857391781, "failure_count": 0, "left_ci_lower": 4167.129814342091, "left_ci_upper": 4438.318648240916, "left_mean": 4305.835640337318, "mean_delta": 22.55450690475603, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4188.00099354994, "right_ci_upper": 4461.797702918023, "right_mean": 4328.390147242074, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "left_regime": "advanced_lightrag_er", "metrics": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.058333333333333334, "delta_ci_lower": -0.025, "delta_ci_upper": 0.058333333333333334, "failure_count": 0, "left_ci_lower": 0.20833333333333334, "left_ci_upper": 0.3416666666666667, "left_mean": 0.275, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.225, "right_ci_upper": 0.35833333333333334, "right_mean": 0.2916666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1690.013882828692, "ci_upper": -362.93334795652, "delta_ci_lower": -1690.013882828692, "delta_ci_upper": -362.93334795652, "failure_count": 0, "left_ci_lower": 41942.33958241277, "left_ci_upper": 42787.69349034755, "left_mean": 42371.626619781215, "mean_delta": -1002.7481000404805, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40829.1620273972, "right_ci_upper": 41898.598330081244, "right_mean": 41368.878519740734, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -254.73687499999994, "ci_upper": -61.53937500000003, "delta_ci_lower": -254.73687499999994, "delta_ci_upper": -61.53937500000003, "failure_count": 0, "left_ci_lower": 5988.374583333333, "left_ci_upper": 6108.701041666666, "left_mean": 6049.466666666666, "mean_delta": -153.99166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5818.6866666666665, "right_ci_upper": 5969.795833333334, "right_mean": 5895.475, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -223.00875, "ci_upper": -39.518541666666756, "delta_ci_lower": -223.00875, "delta_ci_upper": -39.518541666666756, "failure_count": 0, "left_ci_lower": 5604.5493750000005, "left_ci_upper": 5718.258541666666, "left_mean": 5662.125, "mean_delta": -127.175, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5462.208124999999, "right_ci_upper": 5604.834583333333, "right_mean": 5534.95, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5222222222222223, "left_ci_upper": 0.7, "left_mean": 0.6111111111111112, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592593, "mean_delta": 0.014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592593, "mean_delta": 0.014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592593, "mean_delta": 0.014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.0462962962962963, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.0462962962962963, "failure_count": 0, "left_ci_lower": 0.27037037037037037, "left_ci_upper": 0.45004629629629567, "left_mean": 0.3592592592592593, "mean_delta": 0.014814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -28.815287340063755, "ci_upper": 16.58222511192434, "delta_ci_lower": -28.815287340063755, "delta_ci_upper": 16.58222511192434, "failure_count": 0, "left_ci_lower": 4853.58981557205, "left_ci_upper": 5191.876809118791, "left_mean": 5006.311091650666, "mean_delta": -2.1144788110783943, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4860.273321196533, "right_ci_upper": 5171.594064889311, "right_mean": 5004.196612839587, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.01111111111111111, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.01111111111111111, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.01111111111111111, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.01111111111111111, "ci_upper": 0.0787037037037037, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.0787037037037037, "failure_count": 0, "left_ci_lower": 0.13796296296296295, "left_ci_upper": 0.23425925925925925, "left_mean": 0.1851851851851852, "mean_delta": 0.04351851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.025715172558922555, "ci_upper": 0.04448653198653199, "delta_ci_lower": -0.025715172558922555, "delta_ci_upper": 0.04448653198653199, "failure_count": 0, "left_ci_lower": 0.10177777777777777, "left_ci_upper": 0.24444444444444444, "left_mean": 0.1691178451178451, "mean_delta": 0.009354377104377105, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.25555555555555554, "right_mean": 0.17847222222222223, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_85df22828efa71c2b6754a25", "builder_key": "gemma3_1b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.3666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.3666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1536.3014356148778, "ci_upper": -407.86125756159896, "delta_ci_lower": -1536.3014356148778, "delta_ci_upper": -407.86125756159896, "failure_count": 0, "left_ci_lower": 41174.159377029726, "left_ci_upper": 42164.00902178969, "left_mean": 41671.419054461876, "mean_delta": -945.3641155812269, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40217.91196457072, "right_ci_upper": 41240.5163017513, "right_mean": 40726.05493888065, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -203.65083333333322, "ci_upper": -47.8560416666667, "delta_ci_lower": -203.65083333333322, "delta_ci_upper": -47.8560416666667, "failure_count": 0, "left_ci_lower": 5872.8410416666675, "left_ci_upper": 6005.778541666666, "left_mean": 5938.975, "mean_delta": -122.675, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5746.182708333333, "right_ci_upper": 5886.9591666666665, "right_mean": 5816.299999999999, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -191.46791666666664, "ci_upper": -42.69895833333335, "delta_ci_lower": -191.46791666666664, "delta_ci_upper": -42.69895833333335, "failure_count": 0, "left_ci_lower": 5503.366458333333, "left_ci_upper": 5632.909583333333, "left_mean": 5567.991666666667, "mean_delta": -114.11666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5389.366666666667, "right_ci_upper": 5519.3618750000005, "right_mean": 5453.875, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5222222222222223, "left_ci_upper": 0.7000000000000001, "left_mean": 0.611111111111111, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2814814814814815, "left_ci_upper": 0.45925925925925926, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2814814814814815, "left_ci_upper": 0.45925925925925926, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2814814814814815, "left_ci_upper": 0.45925925925925926, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2814814814814815, "left_ci_upper": 0.45925925925925926, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777778, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777778, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777778, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777778, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -8.294328406336717, "ci_upper": 21.10650177996526, "delta_ci_lower": -8.294328406336717, "delta_ci_upper": 21.10650177996526, "failure_count": 0, "left_ci_lower": 4886.356355629687, "left_ci_upper": 5206.511433483587, "left_mean": 5033.744998576974, "mean_delta": 5.438695539487527, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4888.331322275869, "right_ci_upper": 5219.842476081928, "right_mean": 5039.18369411646, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17500000000000002, "left_ci_upper": 0.28518518518518515, "left_mean": 0.22962962962962963, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17500000000000002, "left_ci_upper": 0.28518518518518515, "left_mean": 0.22962962962962963, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17500000000000002, "left_ci_upper": 0.28518518518518515, "left_mean": 0.22962962962962963, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17500000000000002, "left_ci_upper": 0.28518518518518515, "left_mean": 0.22962962962962963, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03434343434343434, "ci_upper": 0.03232323232323232, "delta_ci_lower": -0.03434343434343434, "delta_ci_upper": 0.03232323232323232, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": -0.0010101010101010103, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1212121212121212, "right_ci_upper": 0.25555555555555554, "right_mean": 0.18787878787878787, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.36666666666666664, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.36666666666666664, "right_mean": 0.3, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1536.3014356148778, "ci_upper": -407.86125756159896, "delta_ci_lower": -1536.3014356148778, "delta_ci_upper": -407.86125756159896, "failure_count": 0, "left_ci_lower": 41174.15937702972, "left_ci_upper": 42164.00902178969, "left_mean": 41671.419054461876, "mean_delta": -945.3641155812269, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40217.91196457072, "right_ci_upper": 41240.51630175129, "right_mean": 40726.05493888065, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -203.65083333333325, "ci_upper": -47.8560416666667, "delta_ci_lower": -203.65083333333325, "delta_ci_upper": -47.8560416666667, "failure_count": 0, "left_ci_lower": 5872.841041666667, "left_ci_upper": 6005.778541666667, "left_mean": 5938.975, "mean_delta": -122.675, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5746.182708333333, "right_ci_upper": 5886.9591666666665, "right_mean": 5816.3, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -191.46791666666664, "ci_upper": -42.69895833333335, "delta_ci_lower": -191.46791666666664, "delta_ci_upper": -42.69895833333335, "failure_count": 0, "left_ci_lower": 5503.366458333333, "left_ci_upper": 5632.909583333334, "left_mean": 5567.991666666667, "mean_delta": -114.11666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5389.366666666667, "right_ci_upper": 5519.3618750000005, "right_mean": 5453.875, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5222222222222223, "left_ci_upper": 0.7, "left_mean": 0.6111111111111112, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.28148148148148144, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.28148148148148144, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.28148148148148144, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.28148148148148144, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -8.294328406336717, "ci_upper": 21.10650177996526, "delta_ci_lower": -8.294328406336717, "delta_ci_upper": 21.10650177996526, "failure_count": 0, "left_ci_lower": 4886.356355629687, "left_ci_upper": 5206.511433483587, "left_mean": 5033.744998576974, "mean_delta": 5.438695539487526, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4888.331322275869, "right_ci_upper": 5219.842476081928, "right_mean": 5039.183694116461, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.175, "left_ci_upper": 0.2851851851851852, "left_mean": 0.22962962962962966, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.175, "left_ci_upper": 0.2851851851851852, "left_mean": 0.22962962962962966, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.175, "left_ci_upper": 0.2851851851851852, "left_mean": 0.22962962962962966, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.175, "left_ci_upper": 0.2851851851851852, "left_mean": 0.22962962962962966, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03434343434343434, "ci_upper": 0.03232323232323232, "delta_ci_lower": -0.03434343434343434, "delta_ci_upper": 0.03232323232323232, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": -0.0010101010101010105, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1212121212121212, "right_ci_upper": 0.25555555555555554, "right_mean": 0.1878787878787879, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.03419405320813772, "ci_upper": 0.033059467918622853, "delta_ci_lower": -0.03419405320813772, "delta_ci_upper": 0.033059467918622853, "failure_count": 0, "left_ci_lower": 0.17734741784037558, "left_ci_upper": 0.3130187141366718, "left_mean": 0.24321857068335942, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.17657505216484093, "right_ci_upper": 0.31148995826812725, "right_mean": 0.24321857068335942, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1448.1714632799988, "ci_upper": -326.92204135107335, "delta_ci_lower": -1448.1714632799988, "delta_ci_upper": -326.92204135107335, "failure_count": 0, "left_ci_lower": 41109.872311911415, "left_ci_upper": 42194.68542279707, "left_mean": 41653.91597049755, "mean_delta": -861.0994652560911, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40259.15811939756, "right_ci_upper": 41345.00762448039, "right_mean": 40792.816505241455, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -183.8061052425665, "ci_upper": -35.302444900886805, "delta_ci_lower": -183.8061052425665, "delta_ci_upper": -35.302444900886805, "failure_count": 0, "left_ci_lower": 5850.905085745958, "left_ci_upper": 5992.847109415754, "left_mean": 5922.206025039123, "mean_delta": -107.07608242044863, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5743.25910732916, "right_ci_upper": 5888.900354720919, "right_mean": 5815.129942618674, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07410199556541021, "left_mean": 0.0327420546932742, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07410199556541021, "right_mean": 0.0327420546932742, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07410199556541021, "left_mean": 0.0327420546932742, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07410199556541021, "right_mean": 0.0327420546932742, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07410199556541021, "left_mean": 0.0327420546932742, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07410199556541021, "right_mean": 0.0327420546932742, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -172.46488328116845, "ci_upper": -30.49084246218056, "delta_ci_lower": -172.46488328116845, "delta_ci_upper": -30.49084246218056, "failure_count": 0, "left_ci_lower": 5478.819900886802, "left_ci_upper": 5617.260605438184, "left_mean": 5548.324895670318, "mean_delta": -98.83050339071465, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5383.113166405842, "right_ci_upper": 5518.433193466353, "right_mean": 5449.494392279604, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.06326681448632668, "delta_ci_lower": 0.0, "delta_ci_upper": 0.06326681448632668, "failure_count": 0, "left_ci_lower": 0.4873747228381375, "left_ci_upper": 0.6752993348115299, "left_mean": 0.5810643015521064, "mean_delta": 0.02530672579453067, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5137941611234296, "right_ci_upper": 0.6983444198078346, "right_mean": 0.6063710273466371, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02154471544715447, "ci_upper": 0.0, "delta_ci_lower": -0.02154471544715447, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2868978812515398, "left_ci_upper": 0.4688512564671101, "left_mean": 0.37769154964276913, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02154471544715447, "ci_upper": 0.0, "delta_ci_lower": -0.02154471544715447, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2868978812515398, "left_ci_upper": 0.4688512564671101, "left_mean": 0.37769154964276913, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02154471544715447, "ci_upper": 0.0, "delta_ci_lower": -0.02154471544715447, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2868978812515398, "left_ci_upper": 0.4688512564671101, "left_mean": 0.37769154964276913, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02154471544715447, "ci_upper": 0.0, "delta_ci_lower": -0.02154471544715447, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2868978812515398, "left_ci_upper": 0.4688512564671101, "left_mean": 0.37769154964276913, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37757723577235786, "left_ci_upper": 0.589120473022912, "left_mean": 0.4839467849223947, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37757723577235786, "left_ci_upper": 0.589120473022912, "left_mean": 0.4839467849223947, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37757723577235786, "left_ci_upper": 0.589120473022912, "left_mean": 0.4839467849223947, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37757723577235786, "left_ci_upper": 0.589120473022912, "left_mean": 0.4839467849223947, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -5.745845759372206, "ci_upper": 29.087192249418692, "delta_ci_lower": -5.745845759372206, "delta_ci_upper": 29.087192249418692, "failure_count": 0, "left_ci_lower": 4913.707427468355, "left_ci_upper": 5311.210858716442, "left_mean": 5094.830227356027, "mean_delta": 10.449429915840318, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4921.183187055231, "right_ci_upper": 5330.962228964641, "right_mean": 5105.279657271867, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.014363143631436313, "ci_upper": 0.0, "delta_ci_lower": -0.014363143631436313, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1770581423996058, "left_ci_upper": 0.2884364991377186, "left_mean": 0.23190440995319042, "mean_delta": -0.005745257452574524, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.014363143631436313, "ci_upper": 0.0, "delta_ci_lower": -0.014363143631436313, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1770581423996058, "left_ci_upper": 0.2884364991377186, "left_mean": 0.23190440995319042, "mean_delta": -0.005745257452574524, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.014363143631436313, "ci_upper": 0.0, "delta_ci_lower": -0.014363143631436313, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1770581423996058, "left_ci_upper": 0.2884364991377186, "left_mean": 0.23190440995319042, "mean_delta": -0.005745257452574524, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.014363143631436313, "ci_upper": 0.0, "delta_ci_lower": -0.014363143631436313, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1770581423996058, "left_ci_upper": 0.2884364991377186, "left_mean": 0.23190440995319042, "mean_delta": -0.005745257452574524, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.0372828058859101, "ci_upper": 0.03508969965732715, "delta_ci_lower": -0.0372828058859101, "delta_ci_upper": 0.03508969965732715, "failure_count": 0, "left_ci_lower": 0.12579453067257945, "left_ci_upper": 0.27345269770879527, "left_mean": 0.1987583148558758, "mean_delta": -0.0010965531142914737, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12579453067257945, "right_ci_upper": 0.2717220990391722, "right_mean": 0.19766176174158434, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.3666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.3666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1536.3014356148778, "ci_upper": -407.86125756159896, "delta_ci_lower": -1536.3014356148778, "delta_ci_upper": -407.86125756159896, "failure_count": 0, "left_ci_lower": 41174.159377029726, "left_ci_upper": 42164.00902178969, "left_mean": 41671.419054461876, "mean_delta": -945.3641155812269, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40217.91196457072, "right_ci_upper": 41240.5163017513, "right_mean": 40726.05493888065, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -203.65083333333322, "ci_upper": -47.8560416666667, "delta_ci_lower": -203.65083333333322, "delta_ci_upper": -47.8560416666667, "failure_count": 0, "left_ci_lower": 5872.8410416666675, "left_ci_upper": 6005.778541666666, "left_mean": 5938.975, "mean_delta": -122.675, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5746.182708333333, "right_ci_upper": 5886.9591666666665, "right_mean": 5816.299999999999, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -191.46791666666664, "ci_upper": -42.69895833333335, "delta_ci_lower": -191.46791666666664, "delta_ci_upper": -42.69895833333335, "failure_count": 0, "left_ci_lower": 5503.366458333333, "left_ci_upper": 5632.909583333333, "left_mean": 5567.991666666667, "mean_delta": -114.11666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5389.366666666667, "right_ci_upper": 5519.3618750000005, "right_mean": 5453.875, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5222222222222223, "left_ci_upper": 0.7000000000000001, "left_mean": 0.611111111111111, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2814814814814815, "left_ci_upper": 0.45925925925925926, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2814814814814815, "left_ci_upper": 0.45925925925925926, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2814814814814815, "left_ci_upper": 0.45925925925925926, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2814814814814815, "left_ci_upper": 0.45925925925925926, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777778, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777778, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777778, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777778, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -8.294328406336717, "ci_upper": 21.10650177996526, "delta_ci_lower": -8.294328406336717, "delta_ci_upper": 21.10650177996526, "failure_count": 0, "left_ci_lower": 4886.356355629687, "left_ci_upper": 5206.511433483587, "left_mean": 5033.744998576974, "mean_delta": 5.438695539487527, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4888.331322275869, "right_ci_upper": 5219.842476081928, "right_mean": 5039.18369411646, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17500000000000002, "left_ci_upper": 0.28518518518518515, "left_mean": 0.22962962962962963, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17500000000000002, "left_ci_upper": 0.28518518518518515, "left_mean": 0.22962962962962963, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17500000000000002, "left_ci_upper": 0.28518518518518515, "left_mean": 0.22962962962962963, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17500000000000002, "left_ci_upper": 0.28518518518518515, "left_mean": 0.22962962962962963, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03434343434343434, "ci_upper": 0.03232323232323232, "delta_ci_lower": -0.03434343434343434, "delta_ci_upper": 0.03232323232323232, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": -0.0010101010101010103, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1212121212121212, "right_ci_upper": 0.25555555555555554, "right_mean": 0.18787878787878787, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.36666666666666664, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.36666666666666664, "right_mean": 0.3, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1536.3014356148778, "ci_upper": -407.86125756159896, "delta_ci_lower": -1536.3014356148778, "delta_ci_upper": -407.86125756159896, "failure_count": 0, "left_ci_lower": 41174.15937702972, "left_ci_upper": 42164.00902178969, "left_mean": 41671.419054461876, "mean_delta": -945.3641155812269, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40217.91196457072, "right_ci_upper": 41240.51630175129, "right_mean": 40726.05493888065, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -203.65083333333325, "ci_upper": -47.8560416666667, "delta_ci_lower": -203.65083333333325, "delta_ci_upper": -47.8560416666667, "failure_count": 0, "left_ci_lower": 5872.841041666667, "left_ci_upper": 6005.778541666667, "left_mean": 5938.975, "mean_delta": -122.675, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5746.182708333333, "right_ci_upper": 5886.9591666666665, "right_mean": 5816.3, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -191.46791666666664, "ci_upper": -42.69895833333335, "delta_ci_lower": -191.46791666666664, "delta_ci_upper": -42.69895833333335, "failure_count": 0, "left_ci_lower": 5503.366458333333, "left_ci_upper": 5632.909583333334, "left_mean": 5567.991666666667, "mean_delta": -114.11666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5389.366666666667, "right_ci_upper": 5519.3618750000005, "right_mean": 5453.875, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5222222222222223, "left_ci_upper": 0.7, "left_mean": 0.6111111111111112, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.28148148148148144, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.28148148148148144, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.28148148148148144, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.28148148148148144, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -8.294328406336717, "ci_upper": 21.10650177996526, "delta_ci_lower": -8.294328406336717, "delta_ci_upper": 21.10650177996526, "failure_count": 0, "left_ci_lower": 4886.356355629687, "left_ci_upper": 5206.511433483587, "left_mean": 5033.744998576974, "mean_delta": 5.438695539487526, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4888.331322275869, "right_ci_upper": 5219.842476081928, "right_mean": 5039.183694116461, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.175, "left_ci_upper": 0.2851851851851852, "left_mean": 0.22962962962962966, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.175, "left_ci_upper": 0.2851851851851852, "left_mean": 0.22962962962962966, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.175, "left_ci_upper": 0.2851851851851852, "left_mean": 0.22962962962962966, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.175, "left_ci_upper": 0.2851851851851852, "left_mean": 0.22962962962962966, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03434343434343434, "ci_upper": 0.03232323232323232, "delta_ci_lower": -0.03434343434343434, "delta_ci_upper": 0.03232323232323232, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": -0.0010101010101010105, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1212121212121212, "right_ci_upper": 0.25555555555555554, "right_mean": 0.1878787878787879, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.03419405320813772, "ci_upper": 0.033059467918622853, "delta_ci_lower": -0.03419405320813772, "delta_ci_upper": 0.033059467918622853, "failure_count": 0, "left_ci_lower": 0.17734741784037558, "left_ci_upper": 0.3130187141366718, "left_mean": 0.24321857068335942, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.17657505216484093, "right_ci_upper": 0.31148995826812725, "right_mean": 0.24321857068335942, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1448.1714632799988, "ci_upper": -326.92204135107335, "delta_ci_lower": -1448.1714632799988, "delta_ci_upper": -326.92204135107335, "failure_count": 0, "left_ci_lower": 41109.872311911415, "left_ci_upper": 42194.68542279707, "left_mean": 41653.91597049755, "mean_delta": -861.0994652560911, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40259.15811939756, "right_ci_upper": 41345.00762448039, "right_mean": 40792.816505241455, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -183.8061052425665, "ci_upper": -35.302444900886805, "delta_ci_lower": -183.8061052425665, "delta_ci_upper": -35.302444900886805, "failure_count": 0, "left_ci_lower": 5850.905085745958, "left_ci_upper": 5992.847109415754, "left_mean": 5922.206025039123, "mean_delta": -107.07608242044863, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5743.25910732916, "right_ci_upper": 5888.900354720919, "right_mean": 5815.129942618674, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07410199556541021, "left_mean": 0.0327420546932742, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07410199556541021, "right_mean": 0.0327420546932742, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07410199556541021, "left_mean": 0.0327420546932742, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07410199556541021, "right_mean": 0.0327420546932742, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07410199556541021, "left_mean": 0.0327420546932742, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07410199556541021, "right_mean": 0.0327420546932742, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -172.46488328116845, "ci_upper": -30.49084246218056, "delta_ci_lower": -172.46488328116845, "delta_ci_upper": -30.49084246218056, "failure_count": 0, "left_ci_lower": 5478.819900886802, "left_ci_upper": 5617.260605438184, "left_mean": 5548.324895670318, "mean_delta": -98.83050339071465, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5383.113166405842, "right_ci_upper": 5518.433193466353, "right_mean": 5449.494392279604, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.06326681448632668, "delta_ci_lower": 0.0, "delta_ci_upper": 0.06326681448632668, "failure_count": 0, "left_ci_lower": 0.4873747228381375, "left_ci_upper": 0.6752993348115299, "left_mean": 0.5810643015521064, "mean_delta": 0.02530672579453067, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5137941611234296, "right_ci_upper": 0.6983444198078346, "right_mean": 0.6063710273466371, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02154471544715447, "ci_upper": 0.0, "delta_ci_lower": -0.02154471544715447, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2868978812515398, "left_ci_upper": 0.4688512564671101, "left_mean": 0.37769154964276913, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02154471544715447, "ci_upper": 0.0, "delta_ci_lower": -0.02154471544715447, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2868978812515398, "left_ci_upper": 0.4688512564671101, "left_mean": 0.37769154964276913, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02154471544715447, "ci_upper": 0.0, "delta_ci_lower": -0.02154471544715447, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2868978812515398, "left_ci_upper": 0.4688512564671101, "left_mean": 0.37769154964276913, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02154471544715447, "ci_upper": 0.0, "delta_ci_lower": -0.02154471544715447, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2868978812515398, "left_ci_upper": 0.4688512564671101, "left_mean": 0.37769154964276913, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37757723577235786, "left_ci_upper": 0.589120473022912, "left_mean": 0.4839467849223947, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37757723577235786, "left_ci_upper": 0.589120473022912, "left_mean": 0.4839467849223947, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37757723577235786, "left_ci_upper": 0.589120473022912, "left_mean": 0.4839467849223947, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37757723577235786, "left_ci_upper": 0.589120473022912, "left_mean": 0.4839467849223947, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -5.745845759372206, "ci_upper": 29.087192249418692, "delta_ci_lower": -5.745845759372206, "delta_ci_upper": 29.087192249418692, "failure_count": 0, "left_ci_lower": 4913.707427468355, "left_ci_upper": 5311.210858716442, "left_mean": 5094.830227356027, "mean_delta": 10.449429915840318, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4921.183187055231, "right_ci_upper": 5330.962228964641, "right_mean": 5105.279657271867, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.014363143631436313, "ci_upper": 0.0, "delta_ci_lower": -0.014363143631436313, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1770581423996058, "left_ci_upper": 0.2884364991377186, "left_mean": 0.23190440995319042, "mean_delta": -0.005745257452574524, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.014363143631436313, "ci_upper": 0.0, "delta_ci_lower": -0.014363143631436313, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1770581423996058, "left_ci_upper": 0.2884364991377186, "left_mean": 0.23190440995319042, "mean_delta": -0.005745257452574524, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.014363143631436313, "ci_upper": 0.0, "delta_ci_lower": -0.014363143631436313, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1770581423996058, "left_ci_upper": 0.2884364991377186, "left_mean": 0.23190440995319042, "mean_delta": -0.005745257452574524, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.014363143631436313, "ci_upper": 0.0, "delta_ci_lower": -0.014363143631436313, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1770581423996058, "left_ci_upper": 0.2884364991377186, "left_mean": 0.23190440995319042, "mean_delta": -0.005745257452574524, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.0372828058859101, "ci_upper": 0.03508969965732715, "delta_ci_lower": -0.0372828058859101, "delta_ci_upper": 0.03508969965732715, "failure_count": 0, "left_ci_lower": 0.12579453067257945, "left_ci_upper": 0.27345269770879527, "left_mean": 0.1987583148558758, "mean_delta": -0.0010965531142914737, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12579453067257945, "right_ci_upper": 0.2717220990391722, "right_mean": 0.19766176174158434, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2295.7861829545186, "ci_upper": 138.94564491133832, "delta_ci_lower": -2295.7861829545186, "delta_ci_upper": 138.94564491133832, "failure_count": 0, "left_ci_lower": 40985.25008249078, "left_ci_upper": 43431.21859340735, "left_mean": 42198.073536048956, "mean_delta": -958.0426193773746, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40025.80574141214, "right_ci_upper": 42509.10344862573, "right_mean": 41240.03091667158, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -278.03583333333336, "ci_upper": 17.3399999999999, "delta_ci_lower": -278.03583333333336, "delta_ci_upper": 17.3399999999999, "failure_count": 0, "left_ci_lower": 5776.464166666666, "left_ci_upper": 6088.506666666666, "left_mean": 5931.766666666666, "mean_delta": -117.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5659.266666666666, "right_ci_upper": 5978.300833333334, "right_mean": 5814.766666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -259.6675, "ci_upper": 21.1, "delta_ci_lower": -259.6675, "delta_ci_upper": 21.1, "failure_count": 0, "left_ci_lower": 5384.2, "left_ci_upper": 5685.068333333333, "left_mean": 5533.5, "mean_delta": -106.43333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5287.095833333333, "right_ci_upper": 5574.4475, "right_mean": 5427.066666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.43333333333333335, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2611111111111111, "left_ci_upper": 0.5555555555555556, "left_mean": 0.40555555555555556, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2611111111111111, "right_ci_upper": 0.5555555555555556, "right_mean": 0.40555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2611111111111111, "left_ci_upper": 0.5555555555555556, "left_mean": 0.40555555555555556, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2611111111111111, "right_ci_upper": 0.5555555555555556, "right_mean": 0.40555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2611111111111111, "left_ci_upper": 0.5555555555555556, "left_mean": 0.40555555555555556, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2611111111111111, "right_ci_upper": 0.5555555555555556, "right_mean": 0.40555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2611111111111111, "left_ci_upper": 0.5555555555555556, "left_mean": 0.40555555555555556, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2611111111111111, "right_ci_upper": 0.5555555555555556, "right_mean": 0.40555555555555556, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.4, "left_ci_upper": 0.7333333333333333, "left_mean": 0.5666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.4, "left_ci_upper": 0.7333333333333333, "left_mean": 0.5666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.4, "left_ci_upper": 0.7333333333333333, "left_mean": 0.5666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.4, "left_ci_upper": 0.7333333333333333, "left_mean": 0.5666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -33.4722509747371, "ci_upper": 13.490842893564439, "delta_ci_lower": -33.4722509747371, "delta_ci_upper": 13.490842893564439, "failure_count": 0, "left_ci_lower": 4665.473512429939, "left_ci_upper": 5199.937591519556, "left_mean": 4928.240913959841, "mean_delta": -10.347744535344342, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4652.76763204912, "right_ci_upper": 5193.343207032303, "right_mean": 4917.893169424497, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1722222222222222, "left_ci_upper": 0.3277777777777778, "left_mean": 0.25, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.3277777777777778, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1722222222222222, "left_ci_upper": 0.3277777777777778, "left_mean": 0.25, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.3277777777777778, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1722222222222222, "left_ci_upper": 0.3277777777777778, "left_mean": 0.25, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.3277777777777778, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1722222222222222, "left_ci_upper": 0.3277777777777778, "left_mean": 0.25, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.3277777777777778, "right_mean": 0.25, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1267.9879934323253, "ci_upper": 220.68465273691493, "delta_ci_lower": -1267.9879934323253, "delta_ci_upper": 220.68465273691493, "failure_count": 0, "left_ci_lower": 39859.44695527898, "left_ci_upper": 41390.94882734546, "left_mean": 40616.875540216766, "mean_delta": -438.45336250184727, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39459.6387934287, "right_ci_upper": 40875.92687466163, "right_mean": 40178.422177714914, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -155.23499999999999, "ci_upper": 58.13666666666661, "delta_ci_lower": -155.23499999999999, "delta_ci_upper": 58.13666666666661, "failure_count": 0, "left_ci_lower": 5691.660000000001, "left_ci_upper": 5907.302500000001, "left_mean": 5799.2, "mean_delta": -33.233333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5659.2941666666675, "right_ci_upper": 5869.2, "right_mean": 5765.966666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -148.6675, "ci_upper": 59.13749999999994, "delta_ci_lower": -148.6675, "delta_ci_upper": 59.13749999999994, "failure_count": 0, "left_ci_lower": 5335.660833333333, "left_ci_upper": 5557.535833333333, "left_mean": 5444.633333333333, "mean_delta": -29.4, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5311.9991666666665, "right_ci_upper": 5516.569166666666, "right_mean": 5415.233333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 6.425159724894911, "ci_upper": 96.09260428735675, "delta_ci_lower": 6.425159724894911, "delta_ci_upper": 96.09260428735675, "failure_count": 0, "left_ci_lower": 4560.031012301915, "left_ci_upper": 5607.889480717713, "left_mean": 5016.617876361124, "mean_delta": 47.145016732004784, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4594.920245871957, "right_ci_upper": 5683.800948855156, "right_mean": 5063.762893093129, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.125, "left_ci_upper": 0.33888888888888885, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.125, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.125, "left_ci_upper": 0.33888888888888885, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.125, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.125, "left_ci_upper": 0.33888888888888885, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.125, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.125, "left_ci_upper": 0.33888888888888885, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.125, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.10303030303030303, "ci_upper": 0.09696969696969697, "delta_ci_lower": -0.10303030303030303, "delta_ci_upper": 0.09696969696969697, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": -0.003030303030303031, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.29696969696969694, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4636363636363636, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2400.921247864026, "ci_upper": 62.9368125047764, "delta_ci_lower": -2400.921247864026, "delta_ci_upper": 62.9368125047764, "failure_count": 0, "left_ci_lower": 41421.5936163126, "left_ci_upper": 43357.73871257765, "left_mean": 42402.1239833363, "mean_delta": -1082.3925623825442, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40196.117880571204, "right_ci_upper": 42378.206049825145, "right_mean": 41319.73142095376, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -345.23749999999995, "ci_upper": 9.409999999999854, "delta_ci_lower": -345.23749999999995, "delta_ci_upper": 9.409999999999854, "failure_count": 0, "left_ci_lower": 5922.631666666666, "left_ci_upper": 6184.4, "left_mean": 6056.433333333333, "mean_delta": -155.8, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5744.597500000001, "right_ci_upper": 6047.933333333333, "right_mean": 5900.633333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -324.1691666666667, "ci_upper": 11.579999999999806, "delta_ci_lower": -324.1691666666667, "delta_ci_upper": 11.579999999999806, "failure_count": 0, "left_ci_lower": 5555.0616666666665, "left_ci_upper": 5804.135, "left_mean": 5682.9, "mean_delta": -145.4, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5396.461666666667, "right_ci_upper": 5670.935, "right_mean": 5537.5, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.08333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17222222222222222, "left_ci_upper": 0.45555555555555555, "left_mean": 0.3055555555555555, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.4166666666666667, "right_mean": 0.2722222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.08333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17222222222222222, "left_ci_upper": 0.45555555555555555, "left_mean": 0.3055555555555555, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.4166666666666667, "right_mean": 0.2722222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.08333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17222222222222222, "left_ci_upper": 0.45555555555555555, "left_mean": 0.3055555555555555, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.4166666666666667, "right_mean": 0.2722222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.08333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17222222222222222, "left_ci_upper": 0.45555555555555555, "left_mean": 0.3055555555555555, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.4166666666666667, "right_mean": 0.2722222222222222, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -12.855604881187894, "ci_upper": 25.00997843570075, "delta_ci_lower": -12.855604881187894, "delta_ci_upper": 25.00997843570075, "failure_count": 0, "left_ci_lower": 5597.029672086937, "left_ci_upper": 6064.9827194801765, "left_mean": 5826.330387452617, "mean_delta": 5.7583972889309125, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5600.6130322872195, "right_ci_upper": 6070.676429478335, "right_mean": 5832.088784741548, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.05555555555555555, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2111111111111111, "mean_delta": -0.02222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.28888888888888886, "right_mean": 0.18888888888888886, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2111111111111111, "mean_delta": -0.02222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.28888888888888886, "right_mean": 0.18888888888888886, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2111111111111111, "mean_delta": -0.02222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.28888888888888886, "right_mean": 0.18888888888888886, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.0, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2111111111111111, "mean_delta": -0.02222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.28888888888888886, "right_mean": 0.18888888888888886, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2607.640571144875, "ci_upper": -117.44012509007015, "delta_ci_lower": -2607.640571144875, "delta_ci_upper": -117.44012509007015, "failure_count": 0, "left_ci_lower": 40507.75559212586, "left_ci_upper": 42381.12306428821, "left_mean": 41468.60315824548, "mean_delta": -1302.5679180631414, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39141.93655450789, "right_ci_upper": 41202.51292292222, "right_mean": 40166.03524018234, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -375.8083333333333, "ci_upper": -12.365833333333345, "delta_ci_lower": -375.8083333333333, "delta_ci_upper": -12.365833333333345, "failure_count": 0, "left_ci_lower": 5831.461666666667, "left_ci_upper": 6099.804166666667, "left_mean": 5968.5, "mean_delta": -184.66666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5631.194166666666, "right_ci_upper": 5937.600833333334, "right_mean": 5783.833333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -358.80083333333334, "ci_upper": -9.496666666666716, "delta_ci_lower": -358.80083333333334, "delta_ci_upper": -9.496666666666716, "failure_count": 0, "left_ci_lower": 5477.2625, "left_ci_upper": 5739.934166666667, "left_mean": 5610.933333333333, "mean_delta": -175.23333333333332, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5295.8325, "right_ci_upper": 5575.1, "right_mean": 5435.7, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": -41.068472627084695, "ci_upper": -0.3075751569122081, "delta_ci_lower": -41.068472627084695, "delta_ci_upper": -0.3075751569122081, "failure_count": 0, "left_ci_lower": 4224.475195597236, "left_ci_upper": 4494.387206953834, "left_mean": 4363.790816534311, "mean_delta": -20.80088732764125, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4207.45037564872, "right_ci_upper": 4470.243486610125, "right_mean": 4342.989929206669, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "left_regime": "advanced_lightrag_er", "metrics": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.36666666666666664, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.36666666666666664, "right_mean": 0.3, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1536.3014356148778, "ci_upper": -407.86125756159896, "delta_ci_lower": -1536.3014356148778, "delta_ci_upper": -407.86125756159896, "failure_count": 0, "left_ci_lower": 41174.15937702972, "left_ci_upper": 42164.00902178969, "left_mean": 41671.419054461876, "mean_delta": -945.3641155812269, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40217.91196457072, "right_ci_upper": 41240.51630175129, "right_mean": 40726.05493888065, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -203.65083333333325, "ci_upper": -47.8560416666667, "delta_ci_lower": -203.65083333333325, "delta_ci_upper": -47.8560416666667, "failure_count": 0, "left_ci_lower": 5872.841041666667, "left_ci_upper": 6005.778541666667, "left_mean": 5938.975, "mean_delta": -122.675, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5746.182708333333, "right_ci_upper": 5886.9591666666665, "right_mean": 5816.3, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -191.46791666666664, "ci_upper": -42.69895833333335, "delta_ci_lower": -191.46791666666664, "delta_ci_upper": -42.69895833333335, "failure_count": 0, "left_ci_lower": 5503.366458333333, "left_ci_upper": 5632.909583333334, "left_mean": 5567.991666666667, "mean_delta": -114.11666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5389.366666666667, "right_ci_upper": 5519.3618750000005, "right_mean": 5453.875, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5222222222222223, "left_ci_upper": 0.7, "left_mean": 0.6111111111111112, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.28148148148148144, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.28148148148148144, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.28148148148148144, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.027777777777777776, "ci_upper": 0.0, "delta_ci_lower": -0.027777777777777776, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.28148148148148144, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3703703703703704, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.37777777777777777, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4777777777777778, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -8.294328406336717, "ci_upper": 21.10650177996526, "delta_ci_lower": -8.294328406336717, "delta_ci_upper": 21.10650177996526, "failure_count": 0, "left_ci_lower": 4886.356355629687, "left_ci_upper": 5206.511433483587, "left_mean": 5033.744998576974, "mean_delta": 5.438695539487526, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4888.331322275869, "right_ci_upper": 5219.842476081928, "right_mean": 5039.183694116461, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.175, "left_ci_upper": 0.2851851851851852, "left_mean": 0.22962962962962966, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.175, "left_ci_upper": 0.2851851851851852, "left_mean": 0.22962962962962966, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.175, "left_ci_upper": 0.2851851851851852, "left_mean": 0.22962962962962966, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.018518518518518517, "ci_upper": 0.0, "delta_ci_lower": -0.018518518518518517, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.175, "left_ci_upper": 0.2851851851851852, "left_mean": 0.22962962962962966, "mean_delta": -0.007407407407407407, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03434343434343434, "ci_upper": 0.03232323232323232, "delta_ci_lower": -0.03434343434343434, "delta_ci_upper": 0.03232323232323232, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": -0.0010101010101010105, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1212121212121212, "right_ci_upper": 0.25555555555555554, "right_mean": 0.1878787878787879, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_610489cf60d95841fd51d01c", "builder_key": "gemma3_4b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.05, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.36666666666666664, "left_mean": 0.29166666666666663, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.3083333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -182.6822230552109, "ci_upper": 298.2830077390827, "delta_ci_lower": -182.6822230552109, "delta_ci_upper": 298.2830077390827, "failure_count": 0, "left_ci_lower": 40979.97407292967, "left_ci_upper": 42059.68242108095, "left_mean": 41525.96961178545, "mean_delta": 76.37040345386292, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41062.82390244325, "right_ci_upper": 42126.035157770915, "right_mean": 41602.340015239315, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -22.12645833333332, "ci_upper": 39.767083333333325, "delta_ci_lower": -22.12645833333332, "delta_ci_upper": 39.767083333333325, "failure_count": 0, "left_ci_lower": 5830.59125, "left_ci_upper": 5979.694791666667, "left_mean": 5906.575, "mean_delta": 12.774999999999999, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5843.232916666667, "right_ci_upper": 5992.258333333333, "right_mean": 5919.349999999999, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -19.958333333333332, "ci_upper": 39.85874999999999, "delta_ci_lower": -19.958333333333332, "delta_ci_upper": 39.85874999999999, "failure_count": 0, "left_ci_lower": 5499.958125, "left_ci_upper": 5637.420416666667, "left_mean": 5569.266666666666, "mean_delta": 13.808333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5513.247083333334, "right_ci_upper": 5649.775624999999, "right_mean": 5583.075, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555556, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777778, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5111111111111111, "right_ci_upper": 0.688888888888889, "right_mean": 0.6, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -28.532304299733365, "ci_upper": 28.194195442871795, "delta_ci_lower": -28.532304299733365, "delta_ci_upper": 28.194195442871795, "failure_count": 0, "left_ci_lower": 4950.379725022891, "left_ci_upper": 5316.8887561208, "left_mean": 5114.046966963603, "mean_delta": 3.0141472680649413, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4963.373221337485, "right_ci_upper": 5298.347845634271, "right_mean": 5117.061114231668, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148148, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148148, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148148, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148148, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03838383838383839, "ci_upper": 0.02828282828282828, "delta_ci_lower": -0.03838383838383839, "delta_ci_upper": 0.02828282828282828, "failure_count": 0, "left_ci_lower": 0.12339181286549707, "left_ci_upper": 0.26894249512670565, "left_mean": 0.19437946718648472, "mean_delta": -0.005050505050505051, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11379585326953746, "right_ci_upper": 0.2666033138401559, "right_mean": 0.1893289621359797, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.05, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2916666666666667, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.30833333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -182.68222305521093, "ci_upper": 298.2830077390827, "delta_ci_lower": -182.68222305521093, "delta_ci_upper": 298.2830077390827, "failure_count": 0, "left_ci_lower": 40979.97407292967, "left_ci_upper": 42059.68242108094, "left_mean": 41525.969611785455, "mean_delta": 76.37040345386292, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41062.82390244325, "right_ci_upper": 42126.035157770915, "right_mean": 41602.340015239315, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -22.12645833333332, "ci_upper": 39.767083333333325, "delta_ci_lower": -22.12645833333332, "delta_ci_upper": 39.767083333333325, "failure_count": 0, "left_ci_lower": 5830.5912499999995, "left_ci_upper": 5979.694791666667, "left_mean": 5906.575, "mean_delta": 12.775, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5843.232916666667, "right_ci_upper": 5992.258333333333, "right_mean": 5919.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -19.958333333333332, "ci_upper": 39.85874999999999, "delta_ci_lower": -19.958333333333332, "delta_ci_upper": 39.85874999999999, "failure_count": 0, "left_ci_lower": 5499.958125, "left_ci_upper": 5637.420416666667, "left_mean": 5569.266666666666, "mean_delta": 13.808333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5513.247083333334, "right_ci_upper": 5649.775624999999, "right_mean": 5583.075, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777777, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5111111111111111, "right_ci_upper": 0.6888888888888889, "right_mean": 0.6, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -28.53230429973337, "ci_upper": 28.194195442871795, "delta_ci_lower": -28.53230429973337, "delta_ci_upper": 28.194195442871795, "failure_count": 0, "left_ci_lower": 4950.379725022891, "left_ci_upper": 5316.8887561208, "left_mean": 5114.046966963603, "mean_delta": 3.014147268064941, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4963.373221337484, "right_ci_upper": 5298.347845634271, "right_mean": 5117.0611142316675, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148145, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148145, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148145, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148145, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03838383838383838, "ci_upper": 0.02828282828282828, "delta_ci_lower": -0.03838383838383838, "delta_ci_upper": 0.02828282828282828, "failure_count": 0, "left_ci_lower": 0.12339181286549707, "left_ci_upper": 0.2689424951267056, "left_mean": 0.19437946718648472, "mean_delta": -0.00505050505050505, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11379585326953748, "right_ci_upper": 0.2666033138401559, "right_mean": 0.1893289621359797, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.024074074074074074, "ci_upper": 0.04134063641105895, "delta_ci_lower": -0.024074074074074074, "delta_ci_upper": 0.04134063641105895, "failure_count": 0, "left_ci_lower": 0.16694737871674498, "left_ci_upper": 0.30279701356285854, "left_mean": 0.23321596244131454, "mean_delta": 0.008372456964006259, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.17326551904016696, "right_ci_upper": 0.3133173578508085, "right_mean": 0.2415884194053208, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -145.09416006064623, "ci_upper": 335.91422882833064, "delta_ci_lower": -145.09416006064623, "delta_ci_upper": 335.91422882833064, "failure_count": 0, "left_ci_lower": 40952.578905706454, "left_ci_upper": 42095.48354088258, "left_mean": 41534.46163050647, "mean_delta": 107.24284475645642, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41061.132870895985, "right_ci_upper": 42193.339316517435, "right_mean": 41641.70447526292, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -13.146799360980696, "ci_upper": 40.72123761085028, "delta_ci_lower": -13.146799360980696, "delta_ci_upper": 40.72123761085028, "failure_count": 0, "left_ci_lower": 5820.122553468962, "left_ci_upper": 5973.41283157277, "left_mean": 5897.973043818466, "mean_delta": 17.47767344809598, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5837.23021746218, "right_ci_upper": 5990.698602960354, "right_mean": 5915.450717266562, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -11.631994001043271, "ci_upper": 40.35538373761085, "delta_ci_lower": -11.631994001043271, "delta_ci_upper": 40.35538373761085, "failure_count": 0, "left_ci_lower": 5493.578552425664, "left_ci_upper": 5632.005328638497, "left_mean": 5563.362350026082, "mean_delta": 18.07960354720918, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5509.433606546688, "right_ci_upper": 5650.073129890454, "right_mean": 5581.441953573291, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.06208425720620842, "delta_ci_lower": 0.0, "delta_ci_upper": 0.06208425720620842, "failure_count": 0, "left_ci_lower": 0.45694013303769404, "left_ci_upper": 0.6471840354767184, "left_mean": 0.5517664449371766, "mean_delta": 0.024715447154471545, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4816112342941611, "right_ci_upper": 0.6713525498891353, "right_mean": 0.5764818920916482, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25402050997782705, "left_ci_upper": 0.43678658536585363, "left_mean": 0.344249815225425, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25402050997782705, "left_ci_upper": 0.43678658536585363, "left_mean": 0.344249815225425, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25402050997782705, "left_ci_upper": 0.43678658536585363, "left_mean": 0.344249815225425, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25402050997782705, "left_ci_upper": 0.43678658536585363, "left_mean": 0.344249815225425, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.31320029563932, "left_ci_upper": 0.5166012564671102, "left_mean": 0.41320029563932004, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.31320029563932, "left_ci_upper": 0.5166012564671102, "left_mean": 0.41320029563932004, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.31320029563932, "left_ci_upper": 0.5166012564671102, "left_mean": 0.41320029563932004, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.31320029563932, "left_ci_upper": 0.5166012564671102, "left_mean": 0.41320029563932004, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -44.40383963320537, "ci_upper": 25.086108246090216, "delta_ci_lower": -44.40383963320537, "delta_ci_upper": 25.086108246090216, "failure_count": 0, "left_ci_lower": 4987.313982353461, "left_ci_upper": 5442.079840716808, "left_mean": 5187.680169344646, "mean_delta": -5.093285323477247, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4996.960195901354, "right_ci_upper": 5409.009372503601, "right_mean": 5182.586884021169, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12903646218280362, "left_ci_upper": 0.22810187238236013, "left_mean": 0.17692781473269278, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12903646218280362, "left_ci_upper": 0.22810187238236013, "left_mean": 0.17692781473269278, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12903646218280362, "left_ci_upper": 0.22810187238236013, "left_mean": 0.17692781473269278, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12903646218280362, "left_ci_upper": 0.22810187238236013, "left_mean": 0.17692781473269278, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04166901834307599, "ci_upper": 0.032477323120338644, "delta_ci_lower": -0.04166901834307599, "delta_ci_upper": 0.032477323120338644, "failure_count": 0, "left_ci_lower": 0.12583144668767263, "left_ci_upper": 0.27286725405531553, "left_mean": 0.19783042232336195, "mean_delta": -0.004891486931398241, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11890747833098166, "right_ci_upper": 0.27109184445693957, "right_mean": 0.19293893539196372, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.05, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.36666666666666664, "left_mean": 0.29166666666666663, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.3083333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -182.6822230552109, "ci_upper": 298.2830077390827, "delta_ci_lower": -182.6822230552109, "delta_ci_upper": 298.2830077390827, "failure_count": 0, "left_ci_lower": 40979.97407292967, "left_ci_upper": 42059.68242108095, "left_mean": 41525.96961178545, "mean_delta": 76.37040345386292, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41062.82390244325, "right_ci_upper": 42126.035157770915, "right_mean": 41602.340015239315, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -22.12645833333332, "ci_upper": 39.767083333333325, "delta_ci_lower": -22.12645833333332, "delta_ci_upper": 39.767083333333325, "failure_count": 0, "left_ci_lower": 5830.59125, "left_ci_upper": 5979.694791666667, "left_mean": 5906.575, "mean_delta": 12.774999999999999, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5843.232916666667, "right_ci_upper": 5992.258333333333, "right_mean": 5919.349999999999, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -19.958333333333332, "ci_upper": 39.85874999999999, "delta_ci_lower": -19.958333333333332, "delta_ci_upper": 39.85874999999999, "failure_count": 0, "left_ci_lower": 5499.958125, "left_ci_upper": 5637.420416666667, "left_mean": 5569.266666666666, "mean_delta": 13.808333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5513.247083333334, "right_ci_upper": 5649.775624999999, "right_mean": 5583.075, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555556, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777778, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5111111111111111, "right_ci_upper": 0.688888888888889, "right_mean": 0.6, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -28.532304299733365, "ci_upper": 28.194195442871795, "delta_ci_lower": -28.532304299733365, "delta_ci_upper": 28.194195442871795, "failure_count": 0, "left_ci_lower": 4950.379725022891, "left_ci_upper": 5316.8887561208, "left_mean": 5114.046966963603, "mean_delta": 3.0141472680649413, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4963.373221337485, "right_ci_upper": 5298.347845634271, "right_mean": 5117.061114231668, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148148, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148148, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148148, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148148, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03838383838383839, "ci_upper": 0.02828282828282828, "delta_ci_lower": -0.03838383838383839, "delta_ci_upper": 0.02828282828282828, "failure_count": 0, "left_ci_lower": 0.12339181286549707, "left_ci_upper": 0.26894249512670565, "left_mean": 0.19437946718648472, "mean_delta": -0.005050505050505051, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11379585326953746, "right_ci_upper": 0.2666033138401559, "right_mean": 0.1893289621359797, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.05, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2916666666666667, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.30833333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -182.68222305521093, "ci_upper": 298.2830077390827, "delta_ci_lower": -182.68222305521093, "delta_ci_upper": 298.2830077390827, "failure_count": 0, "left_ci_lower": 40979.97407292967, "left_ci_upper": 42059.68242108094, "left_mean": 41525.969611785455, "mean_delta": 76.37040345386292, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41062.82390244325, "right_ci_upper": 42126.035157770915, "right_mean": 41602.340015239315, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -22.12645833333332, "ci_upper": 39.767083333333325, "delta_ci_lower": -22.12645833333332, "delta_ci_upper": 39.767083333333325, "failure_count": 0, "left_ci_lower": 5830.5912499999995, "left_ci_upper": 5979.694791666667, "left_mean": 5906.575, "mean_delta": 12.775, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5843.232916666667, "right_ci_upper": 5992.258333333333, "right_mean": 5919.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -19.958333333333332, "ci_upper": 39.85874999999999, "delta_ci_lower": -19.958333333333332, "delta_ci_upper": 39.85874999999999, "failure_count": 0, "left_ci_lower": 5499.958125, "left_ci_upper": 5637.420416666667, "left_mean": 5569.266666666666, "mean_delta": 13.808333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5513.247083333334, "right_ci_upper": 5649.775624999999, "right_mean": 5583.075, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777777, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5111111111111111, "right_ci_upper": 0.6888888888888889, "right_mean": 0.6, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -28.53230429973337, "ci_upper": 28.194195442871795, "delta_ci_lower": -28.53230429973337, "delta_ci_upper": 28.194195442871795, "failure_count": 0, "left_ci_lower": 4950.379725022891, "left_ci_upper": 5316.8887561208, "left_mean": 5114.046966963603, "mean_delta": 3.014147268064941, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4963.373221337484, "right_ci_upper": 5298.347845634271, "right_mean": 5117.0611142316675, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148145, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148145, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148145, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148145, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03838383838383838, "ci_upper": 0.02828282828282828, "delta_ci_lower": -0.03838383838383838, "delta_ci_upper": 0.02828282828282828, "failure_count": 0, "left_ci_lower": 0.12339181286549707, "left_ci_upper": 0.2689424951267056, "left_mean": 0.19437946718648472, "mean_delta": -0.00505050505050505, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11379585326953748, "right_ci_upper": 0.2666033138401559, "right_mean": 0.1893289621359797, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.024074074074074074, "ci_upper": 0.04134063641105895, "delta_ci_lower": -0.024074074074074074, "delta_ci_upper": 0.04134063641105895, "failure_count": 0, "left_ci_lower": 0.16694737871674498, "left_ci_upper": 0.30279701356285854, "left_mean": 0.23321596244131454, "mean_delta": 0.008372456964006259, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.17326551904016696, "right_ci_upper": 0.3133173578508085, "right_mean": 0.2415884194053208, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -145.09416006064623, "ci_upper": 335.91422882833064, "delta_ci_lower": -145.09416006064623, "delta_ci_upper": 335.91422882833064, "failure_count": 0, "left_ci_lower": 40952.578905706454, "left_ci_upper": 42095.48354088258, "left_mean": 41534.46163050647, "mean_delta": 107.24284475645642, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41061.132870895985, "right_ci_upper": 42193.339316517435, "right_mean": 41641.70447526292, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -13.146799360980696, "ci_upper": 40.72123761085028, "delta_ci_lower": -13.146799360980696, "delta_ci_upper": 40.72123761085028, "failure_count": 0, "left_ci_lower": 5820.122553468962, "left_ci_upper": 5973.41283157277, "left_mean": 5897.973043818466, "mean_delta": 17.47767344809598, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5837.23021746218, "right_ci_upper": 5990.698602960354, "right_mean": 5915.450717266562, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -11.631994001043271, "ci_upper": 40.35538373761085, "delta_ci_lower": -11.631994001043271, "delta_ci_upper": 40.35538373761085, "failure_count": 0, "left_ci_lower": 5493.578552425664, "left_ci_upper": 5632.005328638497, "left_mean": 5563.362350026082, "mean_delta": 18.07960354720918, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5509.433606546688, "right_ci_upper": 5650.073129890454, "right_mean": 5581.441953573291, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.06208425720620842, "delta_ci_lower": 0.0, "delta_ci_upper": 0.06208425720620842, "failure_count": 0, "left_ci_lower": 0.45694013303769404, "left_ci_upper": 0.6471840354767184, "left_mean": 0.5517664449371766, "mean_delta": 0.024715447154471545, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4816112342941611, "right_ci_upper": 0.6713525498891353, "right_mean": 0.5764818920916482, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25402050997782705, "left_ci_upper": 0.43678658536585363, "left_mean": 0.344249815225425, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25402050997782705, "left_ci_upper": 0.43678658536585363, "left_mean": 0.344249815225425, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25402050997782705, "left_ci_upper": 0.43678658536585363, "left_mean": 0.344249815225425, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25402050997782705, "left_ci_upper": 0.43678658536585363, "left_mean": 0.344249815225425, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.31320029563932, "left_ci_upper": 0.5166012564671102, "left_mean": 0.41320029563932004, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.31320029563932, "left_ci_upper": 0.5166012564671102, "left_mean": 0.41320029563932004, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.31320029563932, "left_ci_upper": 0.5166012564671102, "left_mean": 0.41320029563932004, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.31320029563932, "left_ci_upper": 0.5166012564671102, "left_mean": 0.41320029563932004, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -44.40383963320537, "ci_upper": 25.086108246090216, "delta_ci_lower": -44.40383963320537, "delta_ci_upper": 25.086108246090216, "failure_count": 0, "left_ci_lower": 4987.313982353461, "left_ci_upper": 5442.079840716808, "left_mean": 5187.680169344646, "mean_delta": -5.093285323477247, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4996.960195901354, "right_ci_upper": 5409.009372503601, "right_mean": 5182.586884021169, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12903646218280362, "left_ci_upper": 0.22810187238236013, "left_mean": 0.17692781473269278, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12903646218280362, "left_ci_upper": 0.22810187238236013, "left_mean": 0.17692781473269278, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12903646218280362, "left_ci_upper": 0.22810187238236013, "left_mean": 0.17692781473269278, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.12903646218280362, "left_ci_upper": 0.22810187238236013, "left_mean": 0.17692781473269278, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04166901834307599, "ci_upper": 0.032477323120338644, "delta_ci_lower": -0.04166901834307599, "delta_ci_upper": 0.032477323120338644, "failure_count": 0, "left_ci_lower": 0.12583144668767263, "left_ci_upper": 0.27286725405531553, "left_mean": 0.19783042232336195, "mean_delta": -0.004891486931398241, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11890747833098166, "right_ci_upper": 0.27109184445693957, "right_mean": 0.19293893539196372, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -162.75668659072824, "ci_upper": 440.11216692219017, "delta_ci_lower": -162.75668659072824, "delta_ci_upper": 440.11216692219017, "failure_count": 0, "left_ci_lower": 41146.56508680123, "left_ci_upper": 43286.69756672267, "left_mean": 42231.11002078125, "mean_delta": 185.30594303738326, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41379.62399068619, "right_ci_upper": 43412.403833515324, "right_mean": 42416.41596381863, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 31.833333333333332, "ci_upper": 59.333333333333336, "delta_ci_lower": 31.833333333333332, "delta_ci_upper": 59.333333333333336, "failure_count": 0, "left_ci_lower": 5798.965833333334, "left_ci_upper": 6059.235, "left_mean": 5931.9, "mean_delta": 45.666666666666664, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5846.4991666666665, "right_ci_upper": 6100.903333333333, "right_mean": 5977.566666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 34.93333333333333, "ci_upper": 59.43333333333333, "delta_ci_lower": 34.93333333333333, "delta_ci_upper": 59.43333333333333, "failure_count": 0, "left_ci_lower": 5477.094166666668, "left_ci_upper": 5698.402499999999, "left_mean": 5590.366666666667, "mean_delta": 46.86666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5524.363333333334, "right_ci_upper": 5743.268333333333, "right_mean": 5637.233333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.43333333333333335, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4666666666666667, "right_ci_upper": 0.8, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.18333333333333332, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.18333333333333332, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.18333333333333332, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.18333333333333332, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -64.55918351207703, "ci_upper": 22.127751441827662, "delta_ci_lower": -64.55918351207703, "delta_ci_upper": 22.127751441827662, "failure_count": 0, "left_ci_lower": 4739.453165304537, "left_ci_upper": 5311.804367324415, "left_mean": 5023.39155957258, "mean_delta": -16.751323430798948, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4740.116914019454, "right_ci_upper": 5281.7772624957925, "right_mean": 5006.640236141781, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.3055555555555555, "left_mean": 0.19444444444444445, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.3055555555555555, "left_mean": 0.19444444444444445, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.3055555555555555, "left_mean": 0.19444444444444445, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.3055555555555555, "left_mean": 0.19444444444444445, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 44.82420373785622, "ci_upper": 803.0504484895694, "delta_ci_lower": 44.82420373785622, "delta_ci_upper": 803.0504484895694, "failure_count": 0, "left_ci_lower": 39695.45390271116, "left_ci_upper": 41830.13220624261, "left_mean": 40778.051906932764, "mean_delta": 346.3583444710821, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39996.78022659132, "right_ci_upper": 42206.636764757175, "right_mean": 41124.410251403846, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 12.732500000000007, "ci_upper": 50.90083333333332, "delta_ci_lower": 12.732500000000007, "delta_ci_upper": 50.90083333333332, "failure_count": 0, "left_ci_lower": 5679.496666666667, "left_ci_upper": 6003.704166666666, "left_mean": 5844.9, "mean_delta": 29.566666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5709.266666666666, "right_ci_upper": 6033.766666666666, "right_mean": 5874.466666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 12.1, "ci_upper": 45.40166666666664, "delta_ci_lower": 12.1, "delta_ci_upper": 45.40166666666664, "failure_count": 0, "left_ci_lower": 5368.960833333333, "left_ci_upper": 5668.700833333333, "left_mean": 5520.4, "mean_delta": 27.366666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5394.896666666666, "right_ci_upper": 5694.304166666667, "right_mean": 5547.766666666666, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777776, "left_ci_upper": 0.48333333333333334, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777776, "left_ci_upper": 0.48333333333333334, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777776, "left_ci_upper": 0.48333333333333334, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.17777777777777776, "left_ci_upper": 0.48333333333333334, "left_mean": 0.3277777777777778, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -141.86488706521533, "ci_upper": 42.40243871541068, "delta_ci_lower": -141.86488706521533, "delta_ci_upper": 42.40243871541068, "failure_count": 0, "left_ci_lower": 4645.227864263967, "left_ci_upper": 5869.067724626318, "left_mean": 5161.295626467715, "mean_delta": -31.697027866418164, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4654.12751484837, "right_ci_upper": 5752.125592315958, "right_mean": 5129.5985986012965, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.18055555555555552, "left_mean": 0.12222222222222222, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.18055555555555552, "right_mean": 0.12222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.18055555555555552, "left_mean": 0.12222222222222222, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.18055555555555552, "right_mean": 0.12222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.18055555555555552, "left_mean": 0.12222222222222222, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.18055555555555552, "right_mean": 0.12222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.18055555555555552, "left_mean": 0.12222222222222222, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.18055555555555552, "right_mean": 0.12222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.13333333333333333, "ci_upper": 0.00303030303030303, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.00303030303030303, "failure_count": 0, "left_ci_lower": 0.24629629629629632, "left_ci_upper": 0.5961013645224171, "left_mean": 0.4164717348927875, "mean_delta": -0.048484848484848485, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.20302542973595608, "right_ci_upper": 0.5381623250044303, "right_mean": 0.36798688640793903, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1206.6946875203087, "ci_upper": 275.6541098776507, "delta_ci_lower": -1206.6946875203087, "delta_ci_upper": 275.6541098776507, "failure_count": 0, "left_ci_lower": 40538.69896254386, "left_ci_upper": 42628.95357763123, "left_mean": 41581.04156518044, "mean_delta": -351.2645402457565, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40135.180878090905, "right_ci_upper": 42352.410191057716, "right_mean": 41229.77702493469, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -165.53416666666666, "ci_upper": 48.766666666666666, "delta_ci_lower": -165.53416666666666, "delta_ci_upper": 48.766666666666666, "failure_count": 0, "left_ci_lower": 5756.760833333333, "left_ci_upper": 6023.87, "left_mean": 5891.4, "mean_delta": -40.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5712.3983333333335, "right_ci_upper": 5986.7675, "right_mean": 5851.4, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -159.33333333333334, "ci_upper": 49.300833333333316, "delta_ci_lower": -159.33333333333334, "delta_ci_upper": 49.300833333333316, "failure_count": 0, "left_ci_lower": 5436.464999999999, "left_ci_upper": 5691.466666666666, "left_mean": 5563.466666666666, "mean_delta": -37.3, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5396.0, "right_ci_upper": 5655.833333333333, "right_mean": 5526.166666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5333333333333333, "left_mean": 0.38333333333333336, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5333333333333333, "right_mean": 0.38333333333333336, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5333333333333333, "left_mean": 0.38333333333333336, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5333333333333333, "right_mean": 0.38333333333333336, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5333333333333333, "left_mean": 0.38333333333333336, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5333333333333333, "right_mean": 0.38333333333333336, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5333333333333333, "left_mean": 0.38333333333333336, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5333333333333333, "right_mean": 0.38333333333333336, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1.9168016124361367, "ci_upper": 64.3513644345027, "delta_ci_lower": -1.9168016124361367, "delta_ci_upper": 64.3513644345027, "failure_count": 0, "left_ci_lower": 5645.234686629847, "left_ci_upper": 6111.549636966664, "left_mean": 5873.575891585399, "mean_delta": 31.820862616101902, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5669.977646500726, "right_ci_upper": 6148.385552919935, "right_mean": 5905.396754201502, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.31666666666666665, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.31666666666666665, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.31666666666666665, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.31666666666666665, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.31666666666666665, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.31666666666666665, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.31666666666666665, "left_mean": 0.22777777777777777, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.31666666666666665, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -245.37811499826282, "ci_upper": 392.169900178172, "delta_ci_lower": -245.37811499826282, "delta_ci_upper": 392.169900178172, "failure_count": 0, "left_ci_lower": 40368.397539224825, "left_ci_upper": 42604.1736400564, "left_mean": 41513.67495424735, "mean_delta": 125.08186655274282, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40563.8040424897, "right_ci_upper": 42681.97976235339, "right_mean": 41638.756820800096, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -40.900833333333324, "ci_upper": 55.666666666666664, "delta_ci_lower": -40.900833333333324, "delta_ci_upper": 55.666666666666664, "failure_count": 0, "left_ci_lower": 5786.128333333333, "left_ci_upper": 6123.5375, "left_mean": 5958.1, "mean_delta": 15.866666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5812.1883333333335, "right_ci_upper": 6133.6050000000005, "right_mean": 5973.966666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -34.6, "ci_upper": 55.86749999999999, "delta_ci_lower": -34.6, "delta_ci_upper": 55.86749999999999, "failure_count": 0, "left_ci_lower": 5451.496666666667, "left_ci_upper": 5749.569166666666, "left_mean": 5602.833333333333, "mean_delta": 18.3, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5474.6625, "right_ci_upper": 5766.735833333333, "right_mean": 5621.133333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": 3.5787840662912203, "ci_upper": 54.3776008535254, "delta_ci_lower": 3.5787840662912203, "delta_ci_upper": 54.3776008535254, "failure_count": 0, "left_ci_lower": 4249.106866250126, "left_ci_upper": 4542.758959090375, "left_mean": 4397.924790228717, "mean_delta": 28.684077753374975, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4284.535511589494, "right_ci_upper": 4563.610080307699, "right_mean": 4426.608867982092, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "left_regime": "advanced_lightrag_er", "metrics": { "answer_correct": { "ci_lower": -0.016666666666666666, "ci_upper": 0.05, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2916666666666667, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.30833333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -182.68222305521093, "ci_upper": 298.2830077390827, "delta_ci_lower": -182.68222305521093, "delta_ci_upper": 298.2830077390827, "failure_count": 0, "left_ci_lower": 40979.97407292967, "left_ci_upper": 42059.68242108094, "left_mean": 41525.969611785455, "mean_delta": 76.37040345386292, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41062.82390244325, "right_ci_upper": 42126.035157770915, "right_mean": 41602.340015239315, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -22.12645833333332, "ci_upper": 39.767083333333325, "delta_ci_lower": -22.12645833333332, "delta_ci_upper": 39.767083333333325, "failure_count": 0, "left_ci_lower": 5830.5912499999995, "left_ci_upper": 5979.694791666667, "left_mean": 5906.575, "mean_delta": 12.775, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5843.232916666667, "right_ci_upper": 5992.258333333333, "right_mean": 5919.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -19.958333333333332, "ci_upper": 39.85874999999999, "delta_ci_lower": -19.958333333333332, "delta_ci_upper": 39.85874999999999, "failure_count": 0, "left_ci_lower": 5499.958125, "left_ci_upper": 5637.420416666667, "left_mean": 5569.266666666666, "mean_delta": 13.808333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5513.247083333334, "right_ci_upper": 5649.775624999999, "right_mean": 5583.075, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.05555555555555555, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777777, "mean_delta": 0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5111111111111111, "right_ci_upper": 0.6888888888888889, "right_mean": 0.6, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.25925925925925924, "left_ci_upper": 0.4388888888888889, "left_mean": 0.34814814814814815, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -28.53230429973337, "ci_upper": 28.194195442871795, "delta_ci_lower": -28.53230429973337, "delta_ci_upper": 28.194195442871795, "failure_count": 0, "left_ci_lower": 4950.379725022891, "left_ci_upper": 5316.8887561208, "left_mean": 5114.046966963603, "mean_delta": 3.014147268064941, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4963.373221337484, "right_ci_upper": 5298.347845634271, "right_mean": 5117.0611142316675, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148145, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148145, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148145, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.23148148148148145, "left_mean": 0.18148148148148147, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03838383838383838, "ci_upper": 0.02828282828282828, "delta_ci_lower": -0.03838383838383838, "delta_ci_upper": 0.02828282828282828, "failure_count": 0, "left_ci_lower": 0.12339181286549707, "left_ci_upper": 0.2689424951267056, "left_mean": 0.19437946718648472, "mean_delta": -0.00505050505050505, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11379585326953748, "right_ci_upper": 0.2666033138401559, "right_mean": 0.1893289621359797, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_e3bd699ce1aa4c5d8745f8a7", "builder_key": "gemma3_12b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.025, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.30833333333333335, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3666666666666667, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.31666666666666665, "right_ci_upper": 0.44166666666666665, "right_mean": 0.375, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -3013.5263186181933, "ci_upper": -1679.5952457356423, "delta_ci_lower": -3013.5263186181933, "delta_ci_upper": -1679.5952457356423, "failure_count": 0, "left_ci_lower": 42998.26021714165, "left_ci_upper": 44559.317033167754, "left_mean": 43756.55205035388, "mean_delta": -2322.6182094328883, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40805.23073442334, "right_ci_upper": 42088.64963408026, "right_mean": 41433.93384092099, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -19.325208333333325, "ci_upper": 57.800833333333316, "delta_ci_lower": -19.325208333333325, "delta_ci_upper": 57.800833333333316, "failure_count": 0, "left_ci_lower": 5725.45, "left_ci_upper": 5881.867916666666, "left_mean": 5802.316666666667, "mean_delta": 20.224999999999998, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.779166666666, "right_ci_upper": 5902.512083333334, "right_mean": 5822.541666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -18.909791666666656, "ci_upper": 54.80854166666666, "delta_ci_lower": -18.909791666666656, "delta_ci_upper": 54.80854166666666, "failure_count": 0, "left_ci_lower": 5419.697499999999, "left_ci_upper": 5567.492499999999, "left_mean": 5492.025, "mean_delta": 19.28333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5439.783125, "right_ci_upper": 5585.667083333333, "right_mean": 5511.308333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.0, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.7111111111111111, "left_mean": 0.6222222222222222, "mean_delta": -0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777777, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.45925925925925926, "left_mean": 0.36481481481481487, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.45925925925925926, "left_mean": 0.36481481481481487, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.45925925925925926, "left_mean": 0.36481481481481487, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.45925925925925926, "left_mean": 0.36481481481481487, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1301.3957225054035, "ci_upper": -795.5063097960859, "delta_ci_lower": -1301.3957225054035, "delta_ci_upper": -795.5063097960859, "failure_count": 0, "left_ci_lower": 6047.591782432573, "left_ci_upper": 6674.87468875639, "left_mean": 6353.128436448364, "mean_delta": -1044.4488176881957, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5135.1972237139125, "right_ci_upper": 5513.926223845725, "right_mean": 5308.679618760167, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074074, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074074, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074074, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074074, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03370140326662066, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03370140326662066, "failure_count": 0, "left_ci_lower": 0.1300711912562238, "left_ci_upper": 0.2771604938271605, "left_mean": 0.19961223092157623, "mean_delta": 0.011295146077754774, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.141005291005291, "right_ci_upper": 0.2865687526607067, "right_mean": 0.21090737699933101, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.025, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.30833333333333335, "left_ci_upper": 0.43333333333333335, "left_mean": 0.36666666666666664, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.31666666666666665, "right_ci_upper": 0.44166666666666665, "right_mean": 0.375, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -3013.5263186181933, "ci_upper": -1679.5952457356423, "delta_ci_lower": -3013.5263186181933, "delta_ci_upper": -1679.5952457356423, "failure_count": 0, "left_ci_lower": 42998.26021714165, "left_ci_upper": 44559.317033167754, "left_mean": 43756.55205035388, "mean_delta": -2322.6182094328883, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40805.23073442334, "right_ci_upper": 42088.64963408026, "right_mean": 41433.933840920996, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -19.32520833333333, "ci_upper": 57.800833333333316, "delta_ci_lower": -19.32520833333333, "delta_ci_upper": 57.800833333333316, "failure_count": 0, "left_ci_lower": 5725.45, "left_ci_upper": 5881.867916666666, "left_mean": 5802.316666666667, "mean_delta": 20.225, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.779166666667, "right_ci_upper": 5902.512083333334, "right_mean": 5822.541666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -18.909791666666656, "ci_upper": 54.80854166666666, "delta_ci_lower": -18.909791666666656, "delta_ci_upper": 54.80854166666666, "failure_count": 0, "left_ci_lower": 5419.697499999999, "left_ci_upper": 5567.492499999999, "left_mean": 5492.025, "mean_delta": 19.283333333333335, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5439.783125000001, "right_ci_upper": 5585.667083333334, "right_mean": 5511.308333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.0, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.7111111111111111, "left_mean": 0.6222222222222222, "mean_delta": -0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777778, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3648148148148148, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3648148148148148, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3648148148148148, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3648148148148148, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1301.3957225054035, "ci_upper": -795.506309796086, "delta_ci_lower": -1301.3957225054035, "delta_ci_upper": -795.506309796086, "failure_count": 0, "left_ci_lower": 6047.591782432573, "left_ci_upper": 6674.87468875639, "left_mean": 6353.128436448363, "mean_delta": -1044.4488176881957, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5135.197223713912, "right_ci_upper": 5513.926223845725, "right_mean": 5308.679618760168, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074077, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074077, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074077, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074077, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03370140326662066, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03370140326662066, "failure_count": 0, "left_ci_lower": 0.13007119125622377, "left_ci_upper": 0.27716049382716046, "left_mean": 0.19961223092157626, "mean_delta": 0.011295146077754774, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.141005291005291, "right_ci_upper": 0.2865687526607067, "right_mean": 0.21090737699933101, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.03192488262910798, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03192488262910798, "failure_count": 0, "left_ci_lower": 0.21727960354720918, "left_ci_upper": 0.3611133933229003, "left_mean": 0.2859415753781951, "mean_delta": 0.010641627543035994, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2275169535732916, "right_ci_upper": 0.37107850808555026, "right_mean": 0.2965832029212311, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2596.084859046625, "ci_upper": -1373.324192676951, "delta_ci_lower": -2596.084859046625, "delta_ci_upper": -1373.324192676951, "failure_count": 0, "left_ci_lower": 42753.684919231884, "left_ci_upper": 44338.482291522596, "left_mean": 43529.88900707475, "mean_delta": -1976.702199974979, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40826.404685246984, "right_ci_upper": 42294.138833692385, "right_mean": 41553.18680709977, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -14.721671883150751, "ci_upper": 70.14335811163274, "delta_ci_lower": -14.721671883150751, "delta_ci_upper": 70.14335811163274, "failure_count": 0, "left_ci_lower": 5708.593603938445, "left_ci_upper": 5876.608816836202, "left_mean": 5791.596817944705, "mean_delta": 26.772861241523213, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5732.917693988002, "right_ci_upper": 5904.316909559207, "right_mean": 5818.3696791862285, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.09600886917960089, "left_mean": 0.045986696230598666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.008617886178861788, "right_ci_upper": 0.09600886917960089, "right_mean": 0.045986696230598666, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.09600886917960089, "left_mean": 0.045986696230598666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.008617886178861788, "right_ci_upper": 0.09600886917960089, "right_mean": 0.045986696230598666, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.09600886917960089, "left_mean": 0.045986696230598666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.008617886178861788, "right_ci_upper": 0.09600886917960089, "right_mean": 0.045986696230598666, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -14.289799817423054, "ci_upper": 66.05818433750652, "delta_ci_lower": -14.289799817423054, "delta_ci_upper": 66.05818433750652, "failure_count": 0, "left_ci_lower": 5404.053703051643, "left_ci_upper": 5563.170277777778, "left_mean": 5482.468544600939, "mean_delta": 25.553977569118416, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5428.8214609415745, "right_ci_upper": 5588.396101330203, "right_mean": 5508.0225221700575, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.0856171470805617, "ci_upper": 0.0, "delta_ci_lower": -0.0856171470805617, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.49662971175166293, "left_ci_upper": 0.6811086474501109, "left_mean": 0.5902734663710273, "mean_delta": -0.03736881005173688, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4608869179600887, "right_ci_upper": 0.6442867701404286, "right_mean": 0.5529046563192904, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.2666313131313131, "left_ci_upper": 0.454560852426706, "left_mean": 0.3591771372259177, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.2666313131313131, "left_ci_upper": 0.454560852426706, "left_mean": 0.3591771372259177, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.2666313131313131, "left_ci_upper": 0.454560852426706, "left_mean": 0.3591771372259177, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.2666313131313131, "left_ci_upper": 0.454560852426706, "left_mean": 0.3591771372259177, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.3109375461936437, "left_ci_upper": 0.5166456023651145, "left_mean": 0.41320029563932004, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.3109375461936437, "left_ci_upper": 0.5166456023651145, "left_mean": 0.41320029563932004, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.3109375461936437, "left_ci_upper": 0.5166456023651145, "left_mean": 0.41320029563932004, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.3109375461936437, "left_ci_upper": 0.5166456023651145, "left_mean": 0.41320029563932004, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1280.4072199953719, "ci_upper": -742.5077742022347, "delta_ci_lower": -1280.4072199953719, "delta_ci_upper": -742.5077742022347, "failure_count": 0, "left_ci_lower": 6022.114888077516, "left_ci_upper": 6753.386591657126, "left_mean": 6375.140385534258, "mean_delta": -1000.0445176412984, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5171.284794389009, "right_ci_upper": 5619.4051464880295, "right_mean": 5375.095867892959, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.13412817196353782, "left_ci_upper": 0.24317023897511697, "left_mean": 0.18640551860064053, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.13412817196353782, "left_ci_upper": 0.24317023897511697, "left_mean": 0.18640551860064053, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.13412817196353782, "left_ci_upper": 0.24317023897511697, "left_mean": 0.18640551860064053, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.13412817196353782, "left_ci_upper": 0.24317023897511697, "left_mean": 0.18640551860064053, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03658582492092567, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03658582492092567, "failure_count": 0, "left_ci_lower": 0.14029652708752796, "left_ci_upper": 0.29847575103800655, "left_mean": 0.215617475814938, "mean_delta": 0.012261870331859728, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.152266952839703, "right_ci_upper": 0.3090537156983751, "right_mean": 0.22787934614679778, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.025, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.30833333333333335, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3666666666666667, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.31666666666666665, "right_ci_upper": 0.44166666666666665, "right_mean": 0.375, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -3013.5263186181933, "ci_upper": -1679.5952457356423, "delta_ci_lower": -3013.5263186181933, "delta_ci_upper": -1679.5952457356423, "failure_count": 0, "left_ci_lower": 42998.26021714165, "left_ci_upper": 44559.317033167754, "left_mean": 43756.55205035388, "mean_delta": -2322.6182094328883, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40805.23073442334, "right_ci_upper": 42088.64963408026, "right_mean": 41433.93384092099, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -19.325208333333325, "ci_upper": 57.800833333333316, "delta_ci_lower": -19.325208333333325, "delta_ci_upper": 57.800833333333316, "failure_count": 0, "left_ci_lower": 5725.45, "left_ci_upper": 5881.867916666666, "left_mean": 5802.316666666667, "mean_delta": 20.224999999999998, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.779166666666, "right_ci_upper": 5902.512083333334, "right_mean": 5822.541666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -18.909791666666656, "ci_upper": 54.80854166666666, "delta_ci_lower": -18.909791666666656, "delta_ci_upper": 54.80854166666666, "failure_count": 0, "left_ci_lower": 5419.697499999999, "left_ci_upper": 5567.492499999999, "left_mean": 5492.025, "mean_delta": 19.28333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5439.783125, "right_ci_upper": 5585.667083333333, "right_mean": 5511.308333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.0, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.7111111111111111, "left_mean": 0.6222222222222222, "mean_delta": -0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777777, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.45925925925925926, "left_mean": 0.36481481481481487, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.45925925925925926, "left_mean": 0.36481481481481487, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.45925925925925926, "left_mean": 0.36481481481481487, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.45925925925925926, "left_mean": 0.36481481481481487, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1301.3957225054035, "ci_upper": -795.5063097960859, "delta_ci_lower": -1301.3957225054035, "delta_ci_upper": -795.5063097960859, "failure_count": 0, "left_ci_lower": 6047.591782432573, "left_ci_upper": 6674.87468875639, "left_mean": 6353.128436448364, "mean_delta": -1044.4488176881957, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5135.1972237139125, "right_ci_upper": 5513.926223845725, "right_mean": 5308.679618760167, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074074, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074074, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074074, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074074, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03370140326662066, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03370140326662066, "failure_count": 0, "left_ci_lower": 0.1300711912562238, "left_ci_upper": 0.2771604938271605, "left_mean": 0.19961223092157623, "mean_delta": 0.011295146077754774, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.141005291005291, "right_ci_upper": 0.2865687526607067, "right_mean": 0.21090737699933101, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.025, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.30833333333333335, "left_ci_upper": 0.43333333333333335, "left_mean": 0.36666666666666664, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.31666666666666665, "right_ci_upper": 0.44166666666666665, "right_mean": 0.375, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -3013.5263186181933, "ci_upper": -1679.5952457356423, "delta_ci_lower": -3013.5263186181933, "delta_ci_upper": -1679.5952457356423, "failure_count": 0, "left_ci_lower": 42998.26021714165, "left_ci_upper": 44559.317033167754, "left_mean": 43756.55205035388, "mean_delta": -2322.6182094328883, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40805.23073442334, "right_ci_upper": 42088.64963408026, "right_mean": 41433.933840920996, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -19.32520833333333, "ci_upper": 57.800833333333316, "delta_ci_lower": -19.32520833333333, "delta_ci_upper": 57.800833333333316, "failure_count": 0, "left_ci_lower": 5725.45, "left_ci_upper": 5881.867916666666, "left_mean": 5802.316666666667, "mean_delta": 20.225, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.779166666667, "right_ci_upper": 5902.512083333334, "right_mean": 5822.541666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -18.909791666666656, "ci_upper": 54.80854166666666, "delta_ci_lower": -18.909791666666656, "delta_ci_upper": 54.80854166666666, "failure_count": 0, "left_ci_lower": 5419.697499999999, "left_ci_upper": 5567.492499999999, "left_mean": 5492.025, "mean_delta": 19.283333333333335, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5439.783125000001, "right_ci_upper": 5585.667083333334, "right_mean": 5511.308333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.0, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.7111111111111111, "left_mean": 0.6222222222222222, "mean_delta": -0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777778, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3648148148148148, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3648148148148148, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3648148148148148, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3648148148148148, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1301.3957225054035, "ci_upper": -795.506309796086, "delta_ci_lower": -1301.3957225054035, "delta_ci_upper": -795.506309796086, "failure_count": 0, "left_ci_lower": 6047.591782432573, "left_ci_upper": 6674.87468875639, "left_mean": 6353.128436448363, "mean_delta": -1044.4488176881957, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5135.197223713912, "right_ci_upper": 5513.926223845725, "right_mean": 5308.679618760168, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074077, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074077, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074077, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074077, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03370140326662066, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03370140326662066, "failure_count": 0, "left_ci_lower": 0.13007119125622377, "left_ci_upper": 0.27716049382716046, "left_mean": 0.19961223092157626, "mean_delta": 0.011295146077754774, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.141005291005291, "right_ci_upper": 0.2865687526607067, "right_mean": 0.21090737699933101, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.03192488262910798, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03192488262910798, "failure_count": 0, "left_ci_lower": 0.21727960354720918, "left_ci_upper": 0.3611133933229003, "left_mean": 0.2859415753781951, "mean_delta": 0.010641627543035994, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2275169535732916, "right_ci_upper": 0.37107850808555026, "right_mean": 0.2965832029212311, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2596.084859046625, "ci_upper": -1373.324192676951, "delta_ci_lower": -2596.084859046625, "delta_ci_upper": -1373.324192676951, "failure_count": 0, "left_ci_lower": 42753.684919231884, "left_ci_upper": 44338.482291522596, "left_mean": 43529.88900707475, "mean_delta": -1976.702199974979, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40826.404685246984, "right_ci_upper": 42294.138833692385, "right_mean": 41553.18680709977, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -14.721671883150751, "ci_upper": 70.14335811163274, "delta_ci_lower": -14.721671883150751, "delta_ci_upper": 70.14335811163274, "failure_count": 0, "left_ci_lower": 5708.593603938445, "left_ci_upper": 5876.608816836202, "left_mean": 5791.596817944705, "mean_delta": 26.772861241523213, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5732.917693988002, "right_ci_upper": 5904.316909559207, "right_mean": 5818.3696791862285, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.09600886917960089, "left_mean": 0.045986696230598666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.008617886178861788, "right_ci_upper": 0.09600886917960089, "right_mean": 0.045986696230598666, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.09600886917960089, "left_mean": 0.045986696230598666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.008617886178861788, "right_ci_upper": 0.09600886917960089, "right_mean": 0.045986696230598666, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.09600886917960089, "left_mean": 0.045986696230598666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.008617886178861788, "right_ci_upper": 0.09600886917960089, "right_mean": 0.045986696230598666, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -14.289799817423054, "ci_upper": 66.05818433750652, "delta_ci_lower": -14.289799817423054, "delta_ci_upper": 66.05818433750652, "failure_count": 0, "left_ci_lower": 5404.053703051643, "left_ci_upper": 5563.170277777778, "left_mean": 5482.468544600939, "mean_delta": 25.553977569118416, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5428.8214609415745, "right_ci_upper": 5588.396101330203, "right_mean": 5508.0225221700575, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.0856171470805617, "ci_upper": 0.0, "delta_ci_lower": -0.0856171470805617, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.49662971175166293, "left_ci_upper": 0.6811086474501109, "left_mean": 0.5902734663710273, "mean_delta": -0.03736881005173688, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4608869179600887, "right_ci_upper": 0.6442867701404286, "right_mean": 0.5529046563192904, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.2666313131313131, "left_ci_upper": 0.454560852426706, "left_mean": 0.3591771372259177, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.2666313131313131, "left_ci_upper": 0.454560852426706, "left_mean": 0.3591771372259177, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.2666313131313131, "left_ci_upper": 0.454560852426706, "left_mean": 0.3591771372259177, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.2666313131313131, "left_ci_upper": 0.454560852426706, "left_mean": 0.3591771372259177, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.3109375461936437, "left_ci_upper": 0.5166456023651145, "left_mean": 0.41320029563932004, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.3109375461936437, "left_ci_upper": 0.5166456023651145, "left_mean": 0.41320029563932004, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.3109375461936437, "left_ci_upper": 0.5166456023651145, "left_mean": 0.41320029563932004, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.3109375461936437, "left_ci_upper": 0.5166456023651145, "left_mean": 0.41320029563932004, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1280.4072199953719, "ci_upper": -742.5077742022347, "delta_ci_lower": -1280.4072199953719, "delta_ci_upper": -742.5077742022347, "failure_count": 0, "left_ci_lower": 6022.114888077516, "left_ci_upper": 6753.386591657126, "left_mean": 6375.140385534258, "mean_delta": -1000.0445176412984, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5171.284794389009, "right_ci_upper": 5619.4051464880295, "right_mean": 5375.095867892959, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.13412817196353782, "left_ci_upper": 0.24317023897511697, "left_mean": 0.18640551860064053, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.13412817196353782, "left_ci_upper": 0.24317023897511697, "left_mean": 0.18640551860064053, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.13412817196353782, "left_ci_upper": 0.24317023897511697, "left_mean": 0.18640551860064053, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.012926829268292682, "delta_ci_lower": 0.0, "delta_ci_upper": 0.012926829268292682, "failure_count": 0, "left_ci_lower": 0.13412817196353782, "left_ci_upper": 0.24317023897511697, "left_mean": 0.18640551860064053, "mean_delta": 0.004308943089430894, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03658582492092567, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03658582492092567, "failure_count": 0, "left_ci_lower": 0.14029652708752796, "left_ci_upper": 0.29847575103800655, "left_mean": 0.215617475814938, "mean_delta": 0.012261870331859728, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.152266952839703, "right_ci_upper": 0.3090537156983751, "right_mean": 0.22787934614679778, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2051.740797337261, "ci_upper": 355.94375588989294, "delta_ci_lower": -2051.740797337261, "delta_ci_upper": 355.94375588989294, "failure_count": 0, "left_ci_lower": 41523.47214673801, "left_ci_upper": 44444.559795061556, "left_mean": 43000.75090008322, "mean_delta": -889.0744585621482, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40736.26152947545, "right_ci_upper": 43454.98646073141, "right_mean": 42111.67644152107, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 9.699166666666672, "ci_upper": 162.03333333333333, "delta_ci_lower": 9.699166666666672, "delta_ci_upper": 162.03333333333333, "failure_count": 0, "left_ci_lower": 5627.465, "left_ci_upper": 5957.6375, "left_mean": 5796.0, "mean_delta": 64.03333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5688.3, "right_ci_upper": 6028.8675, "right_mean": 5860.033333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 10.466666666666667, "ci_upper": 150.40166666666664, "delta_ci_lower": 10.466666666666667, "delta_ci_upper": 150.40166666666664, "failure_count": 0, "left_ci_lower": 5326.331666666667, "left_ci_upper": 5632.102500000001, "left_mean": 5482.9, "mean_delta": 60.53333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5389.13, "right_ci_upper": 5694.634166666667, "right_mean": 5543.433333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48333333333333334, "left_mean": 0.31666666666666665, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48333333333333334, "left_mean": 0.31666666666666665, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48333333333333334, "left_mean": 0.31666666666666665, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48333333333333334, "left_mean": 0.31666666666666665, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -2542.033224646972, "ci_upper": -1149.2059575550957, "delta_ci_lower": -2542.033224646972, "delta_ci_upper": -1149.2059575550957, "failure_count": 0, "left_ci_lower": 6349.538689317414, "left_ci_upper": 8066.250075251639, "left_mean": 7161.878159805201, "mean_delta": -1786.4084862793486, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5045.286765209943, "right_ci_upper": 5723.192433781612, "right_mean": 5375.469673525852, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.3055555555555555, "left_mean": 0.19444444444444445, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.3055555555555555, "left_mean": 0.19444444444444445, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.3055555555555555, "left_mean": 0.19444444444444445, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.3055555555555555, "left_mean": 0.19444444444444445, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1518.8348610324706, "ci_upper": 18.66439251694822, "delta_ci_lower": -1518.8348610324706, "delta_ci_upper": 18.66439251694822, "failure_count": 0, "left_ci_lower": 41011.945842970745, "left_ci_upper": 43934.12457130538, "left_mean": 42389.76994579813, "mean_delta": -688.9597709135463, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40225.04758121155, "right_ci_upper": 43362.768045862125, "right_mean": 41700.81017488459, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -102.56833333333331, "ci_upper": 38.833333333333336, "delta_ci_lower": -102.56833333333331, "delta_ci_upper": 38.833333333333336, "failure_count": 0, "left_ci_lower": 5641.764166666667, "left_ci_upper": 5943.173333333333, "left_mean": 5793.0, "mean_delta": -12.033333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5629.633333333333, "right_ci_upper": 5934.505, "right_mean": 5780.966666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -99.70083333333334, "ci_upper": 38.733333333333334, "delta_ci_lower": -99.70083333333334, "delta_ci_upper": 38.733333333333334, "failure_count": 0, "left_ci_lower": 5345.598333333333, "left_ci_upper": 5651.135833333334, "left_mean": 5499.8, "mean_delta": -11.233333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5336.0650000000005, "right_ci_upper": 5642.200833333333, "right_mean": 5488.566666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -23.8731995706136, "ci_upper": 127.8869162461099, "delta_ci_lower": -23.8731995706136, "delta_ci_upper": 127.8869162461099, "failure_count": 0, "left_ci_lower": 4686.4360185454525, "left_ci_upper": 5737.80241514362, "left_mean": 5144.6179527013255, "mean_delta": 56.98125985606263, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4714.363933859083, "right_ci_upper": 5844.017268090587, "right_mean": 5201.599212557388, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.22777777777777777, "left_mean": 0.14444444444444443, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.22777777777777777, "right_mean": 0.14444444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.22777777777777777, "left_mean": 0.14444444444444443, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.22777777777777777, "right_mean": 0.14444444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.22777777777777777, "left_mean": 0.14444444444444443, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.22777777777777777, "right_mean": 0.14444444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.22777777777777777, "left_mean": 0.14444444444444443, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.22777777777777777, "right_mean": 0.14444444444444443, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.10110420979986198, "delta_ci_lower": 0.0, "delta_ci_upper": 0.10110420979986198, "failure_count": 0, "left_ci_lower": 0.2655033594313954, "left_ci_upper": 0.603033760897329, "left_mean": 0.43217002609806204, "mean_delta": 0.03388543823326432, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.29833059660645866, "right_ci_upper": 0.6396825396825396, "right_mean": 0.4660554643313264, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -6529.26646333343, "ci_upper": -3564.368303108495, "delta_ci_lower": -6529.26646333343, "delta_ci_upper": -3564.368303108495, "failure_count": 0, "left_ci_lower": 44101.933402533374, "left_ci_upper": 47277.42642553814, "left_mean": 45685.6714958325, "mean_delta": -4992.084725022626, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39574.668429716454, "right_ci_upper": 41841.17834698021, "right_mean": 40693.586770809874, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 11.2, "ci_upper": 111.9683333333333, "delta_ci_lower": 11.2, "delta_ci_upper": 111.9683333333333, "failure_count": 0, "left_ci_lower": 5567.830833333333, "left_ci_upper": 5905.969999999999, "left_mean": 5734.6, "mean_delta": 52.266666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5628.799166666667, "right_ci_upper": 5950.170833333334, "right_mean": 5786.866666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 11.465000000000014, "ci_upper": 107.73416666666667, "delta_ci_lower": 11.465000000000014, "delta_ci_upper": 107.73416666666667, "failure_count": 0, "left_ci_lower": 5264.029166666667, "left_ci_upper": 5560.808333333333, "left_mean": 5409.166666666667, "mean_delta": 50.666666666666664, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5322.032500000001, "right_ci_upper": 5601.87, "right_mean": 5459.833333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.8333333333333334, "left_ci_upper": 1.0, "left_mean": 0.9333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.8333333333333334, "right_ci_upper": 1.0, "right_mean": 0.9333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.2555555555555556, "left_ci_upper": 0.5722222222222223, "left_mean": 0.41111111111111115, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.2555555555555556, "left_ci_upper": 0.5722222222222223, "left_mean": 0.41111111111111115, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.2555555555555556, "left_ci_upper": 0.5722222222222223, "left_mean": 0.41111111111111115, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.2555555555555556, "left_ci_upper": 0.5722222222222223, "left_mean": 0.41111111111111115, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.7, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.7, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.7, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.7, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1727.0558402776562, "ci_upper": -714.8689124546947, "delta_ci_lower": -1727.0558402776562, "delta_ci_upper": -714.8689124546947, "failure_count": 0, "left_ci_lower": 6636.716745708449, "left_ci_upper": 7749.313735214722, "left_mean": 7167.984268115833, "mean_delta": -1193.212941614911, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5752.343115349649, "right_ci_upper": 6207.43954218827, "right_mean": 5974.771326500922, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3333333333333333, "left_mean": 0.23333333333333334, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.35, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3333333333333333, "left_mean": 0.23333333333333334, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.35, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3333333333333333, "left_mean": 0.23333333333333334, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.35, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.05, "delta_ci_lower": 0.0, "delta_ci_upper": 0.05, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3333333333333333, "left_mean": 0.23333333333333334, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.35, "right_mean": 0.25, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -4549.953703478676, "ci_upper": -1185.4419487957302, "delta_ci_lower": -4549.953703478676, "delta_ci_upper": -1185.4419487957302, "failure_count": 0, "left_ci_lower": 42357.58183959891, "left_ci_upper": 45788.62997872251, "left_mean": 43950.01585970167, "mean_delta": -2720.353883233232, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40195.00912794998, "right_ci_upper": 42243.828070440984, "right_mean": 41229.66197646844, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -113.93416666666666, "ci_upper": 26.133333333333333, "delta_ci_lower": -113.93416666666666, "delta_ci_upper": 26.133333333333333, "failure_count": 0, "left_ci_lower": 5734.6, "left_ci_upper": 6032.666666666667, "left_mean": 5885.666666666667, "mean_delta": -23.366666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5713.1, "right_ci_upper": 6008.574166666666, "right_mean": 5862.3, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -110.66833333333332, "ci_upper": 25.166666666666668, "delta_ci_lower": -110.66833333333332, "delta_ci_upper": 25.166666666666668, "failure_count": 0, "left_ci_lower": 5425.9991666666665, "left_ci_upper": 5720.8, "left_mean": 5576.233333333334, "mean_delta": -22.833333333333332, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5405.794166666667, "right_ci_upper": 5695.2091666666665, "right_mean": 5553.4, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": -1764.9095133280691, "ci_upper": -707.211426839543, "delta_ci_lower": -1764.9095133280691, "delta_ci_upper": -707.211426839543, "failure_count": 0, "left_ci_lower": 5477.771712573402, "left_ci_upper": 6407.2537717376445, "left_mean": 5938.033365171093, "mean_delta": -1255.1551027145858, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4449.112777659903, "right_ci_upper": 4959.264082630204, "right_mean": 4682.8782624565065, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "left_regime": "advanced_lightrag_er", "metrics": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.025, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025, "failure_count": 0, "left_ci_lower": 0.30833333333333335, "left_ci_upper": 0.43333333333333335, "left_mean": 0.36666666666666664, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.31666666666666665, "right_ci_upper": 0.44166666666666665, "right_mean": 0.375, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -3013.5263186181933, "ci_upper": -1679.5952457356423, "delta_ci_lower": -3013.5263186181933, "delta_ci_upper": -1679.5952457356423, "failure_count": 0, "left_ci_lower": 42998.26021714165, "left_ci_upper": 44559.317033167754, "left_mean": 43756.55205035388, "mean_delta": -2322.6182094328883, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40805.23073442334, "right_ci_upper": 42088.64963408026, "right_mean": 41433.933840920996, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -19.32520833333333, "ci_upper": 57.800833333333316, "delta_ci_lower": -19.32520833333333, "delta_ci_upper": 57.800833333333316, "failure_count": 0, "left_ci_lower": 5725.45, "left_ci_upper": 5881.867916666666, "left_mean": 5802.316666666667, "mean_delta": 20.225, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.779166666667, "right_ci_upper": 5902.512083333334, "right_mean": 5822.541666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -18.909791666666656, "ci_upper": 54.80854166666666, "delta_ci_lower": -18.909791666666656, "delta_ci_upper": 54.80854166666666, "failure_count": 0, "left_ci_lower": 5419.697499999999, "left_ci_upper": 5567.492499999999, "left_mean": 5492.025, "mean_delta": 19.283333333333335, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5439.783125000001, "right_ci_upper": 5585.667083333334, "right_mean": 5511.308333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.0, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.7111111111111111, "left_mean": 0.6222222222222222, "mean_delta": -0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777778, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3648148148148148, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3648148148148148, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3648148148148148, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.2740740740740741, "left_ci_upper": 0.4592592592592593, "left_mean": 0.3648148148148148, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3222222222222223, "left_ci_upper": 0.5222222222222223, "left_mean": 0.4222222222222222, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1301.3957225054035, "ci_upper": -795.506309796086, "delta_ci_lower": -1301.3957225054035, "delta_ci_upper": -795.506309796086, "failure_count": 0, "left_ci_lower": 6047.591782432573, "left_ci_upper": 6674.87468875639, "left_mean": 6353.128436448363, "mean_delta": -1044.4488176881957, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5135.197223713912, "right_ci_upper": 5513.926223845725, "right_mean": 5308.679618760168, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074077, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074077, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074077, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.016666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.016666666666666666, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.24629629629629632, "left_mean": 0.19074074074074077, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.03370140326662066, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03370140326662066, "failure_count": 0, "left_ci_lower": 0.13007119125622377, "left_ci_upper": 0.27716049382716046, "left_mean": 0.19961223092157626, "mean_delta": 0.011295146077754774, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.141005291005291, "right_ci_upper": 0.2865687526607067, "right_mean": 0.21090737699933101, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 } ], "comparison_count": 12, "comparison_key": "er_rr_minus_er", "effect_direction": "advanced_lightrag_er_rr_minus_advanced_lightrag_er", "hypothesis_family": "12_builder_conditions_er_rr_vs_er", "left_regime": "advanced_lightrag_er", "multiple_comparison_scope": "12_incremental_ablation_within_builder_effects", "right_regime": "advanced_lightrag_er_rr" }, "primary": { "builders": [ { "base_run_id": "base_83aca3d6aa4f4a035bf5d21c", "builder_key": "qwen35_0_8b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.1, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.22499999999999998, "left_ci_upper": 0.3416666666666667, "left_mean": 0.2833333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2583333333333333, "right_ci_upper": 0.375, "right_mean": 0.3166666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -906.1433961807779, "ci_upper": 575.7563640666194, "delta_ci_lower": -906.1433961807779, "delta_ci_upper": 575.7563640666194, "failure_count": 0, "left_ci_lower": 40813.57040004467, "left_ci_upper": 41961.25290083918, "left_mean": 41386.151827764115, "mean_delta": -164.89348018949389, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.797499815395, "right_ci_upper": 41788.035807290005, "right_mean": 41221.25834757462, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -108.75958333333332, "ci_upper": 90.6358333333333, "delta_ci_lower": -108.75958333333332, "delta_ci_upper": 90.6358333333333, "failure_count": 0, "left_ci_lower": 5805.391041666667, "left_ci_upper": 5958.333750000001, "left_mean": 5882.25, "mean_delta": -9.899999999999999, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5797.172083333334, "right_ci_upper": 5945.826041666666, "right_mean": 5872.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555556, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555556, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555556, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -92.97562500000001, "ci_upper": 94.40020833333334, "delta_ci_lower": -92.97562500000001, "delta_ci_upper": 94.40020833333334, "failure_count": 0, "left_ci_lower": 5466.049791666666, "left_ci_upper": 5606.953333333334, "left_mean": 5536.608333333334, "mean_delta": -0.24166666666666803, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.614583333333, "right_ci_upper": 5603.176458333334, "right_mean": 5536.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222223, "left_mean": 0.6333333333333333, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5555555555555556, "right_ci_upper": 0.7333333333333334, "right_mean": 0.6444444444444445, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02962962962962963, "ci_upper": 0.1259259259259259, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.1259259259259259, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.33888888888888885, "left_mean": 0.25, "mean_delta": 0.04814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02962962962962963, "ci_upper": 0.1259259259259259, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.1259259259259259, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.33888888888888885, "left_mean": 0.25, "mean_delta": 0.04814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02962962962962963, "ci_upper": 0.1259259259259259, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.1259259259259259, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.33888888888888885, "left_mean": 0.25, "mean_delta": 0.04814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02962962962962963, "ci_upper": 0.1259259259259259, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.1259259259259259, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.33888888888888885, "left_mean": 0.25, "mean_delta": 0.04814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -344.00504183303076, "ci_upper": -131.67719512285356, "delta_ci_lower": -344.00504183303076, "delta_ci_upper": -131.67719512285356, "failure_count": 0, "left_ci_lower": 5046.812993837205, "left_ci_upper": 5563.935274897401, "left_mean": 5263.251572921096, "mean_delta": -222.87948959856294, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4884.453787246748, "right_ci_upper": 5230.868130944387, "right_mean": 5040.372083322533, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.010185185185185184, "ci_upper": 0.09629629629629628, "delta_ci_lower": 0.010185185185185184, "delta_ci_upper": 0.09629629629629628, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666665, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.010185185185185184, "ci_upper": 0.09629629629629628, "delta_ci_lower": 0.010185185185185184, "delta_ci_upper": 0.09629629629629628, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666665, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.010185185185185184, "ci_upper": 0.09629629629629628, "delta_ci_lower": 0.010185185185185184, "delta_ci_upper": 0.09629629629629628, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666665, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.010185185185185184, "ci_upper": 0.09629629629629628, "delta_ci_lower": 0.010185185185185184, "delta_ci_upper": 0.09629629629629628, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666665, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05403000254258836, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05403000254258836, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.06900584795321636, "left_ci_upper": 0.1912280701754386, "left_mean": 0.12894736842105262, "mean_delta": 0.022984998728705824, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0927536231884058, "right_ci_upper": 0.21304347826086956, "right_mean": 0.15193236714975847, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.1, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.3416666666666667, "left_mean": 0.2833333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25833333333333336, "right_ci_upper": 0.375, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -906.1433961807779, "ci_upper": 575.7563640666194, "delta_ci_lower": -906.1433961807779, "delta_ci_upper": 575.7563640666194, "failure_count": 0, "left_ci_lower": 40813.57040004467, "left_ci_upper": 41961.25290083917, "left_mean": 41386.151827764115, "mean_delta": -164.89348018949386, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.797499815395, "right_ci_upper": 41788.035807290005, "right_mean": 41221.25834757462, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -108.75958333333334, "ci_upper": 90.6358333333333, "delta_ci_lower": -108.75958333333334, "delta_ci_upper": 90.6358333333333, "failure_count": 0, "left_ci_lower": 5805.391041666667, "left_ci_upper": 5958.33375, "left_mean": 5882.25, "mean_delta": -9.9, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5797.172083333334, "right_ci_upper": 5945.826041666666, "right_mean": 5872.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -92.975625, "ci_upper": 94.40020833333334, "delta_ci_lower": -92.975625, "delta_ci_upper": 94.40020833333334, "failure_count": 0, "left_ci_lower": 5466.049791666666, "left_ci_upper": 5606.953333333333, "left_mean": 5536.608333333334, "mean_delta": -0.24166666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.614583333333, "right_ci_upper": 5603.176458333334, "right_mean": 5536.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222222, "left_mean": 0.6333333333333333, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5555555555555556, "right_ci_upper": 0.7333333333333333, "right_mean": 0.6444444444444445, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.029629629629629627, "ci_upper": 0.12592592592592594, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.12592592592592594, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3388888888888889, "left_mean": 0.25, "mean_delta": 0.04814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.029629629629629627, "ci_upper": 0.12592592592592594, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.12592592592592594, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3388888888888889, "left_mean": 0.25, "mean_delta": 0.04814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.029629629629629627, "ci_upper": 0.12592592592592594, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.12592592592592594, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3388888888888889, "left_mean": 0.25, "mean_delta": 0.04814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.029629629629629627, "ci_upper": 0.12592592592592594, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.12592592592592594, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3388888888888889, "left_mean": 0.25, "mean_delta": 0.04814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.34444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.34444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.34444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.34444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -344.00504183303076, "ci_upper": -131.67719512285356, "delta_ci_lower": -344.00504183303076, "delta_ci_upper": -131.67719512285356, "failure_count": 0, "left_ci_lower": 5046.812993837205, "left_ci_upper": 5563.9352748974, "left_mean": 5263.251572921096, "mean_delta": -222.87948959856294, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4884.453787246748, "right_ci_upper": 5230.868130944388, "right_mean": 5040.372083322533, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.010185185185185186, "ci_upper": 0.0962962962962963, "delta_ci_lower": 0.010185185185185186, "delta_ci_upper": 0.0962962962962963, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666667, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.010185185185185186, "ci_upper": 0.0962962962962963, "delta_ci_lower": 0.010185185185185186, "delta_ci_upper": 0.0962962962962963, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666667, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.010185185185185186, "ci_upper": 0.0962962962962963, "delta_ci_lower": 0.010185185185185186, "delta_ci_upper": 0.0962962962962963, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666667, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.010185185185185186, "ci_upper": 0.0962962962962963, "delta_ci_lower": 0.010185185185185186, "delta_ci_upper": 0.0962962962962963, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666667, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05403000254258836, "ci_upper": 0.1, "delta_ci_lower": -0.05403000254258836, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.06900584795321638, "left_ci_upper": 0.19122807017543858, "left_mean": 0.12894736842105262, "mean_delta": 0.02298499872870582, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0927536231884058, "right_ci_upper": 0.21304347826086958, "right_mean": 0.15193236714975847, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.0353547209181012, "ci_upper": 0.10122587376108502, "delta_ci_lower": -0.0353547209181012, "delta_ci_upper": 0.10122587376108502, "failure_count": 0, "left_ci_lower": 0.14413145539906103, "left_ci_upper": 0.26296296296296295, "left_mean": 0.20126499739175796, "mean_delta": 0.03217266562336985, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1754173187271779, "right_ci_upper": 0.29424882629107985, "right_mean": 0.2334376630151278, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -789.6586998972908, "ci_upper": 851.4072097240717, "delta_ci_lower": -789.6586998972908, "delta_ci_upper": 851.4072097240717, "failure_count": 0, "left_ci_lower": 40622.55474416604, "left_ci_upper": 41897.184120441816, "left_mean": 41253.98921974593, "mean_delta": 19.898415373966312, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40625.34417341602, "right_ci_upper": 41915.517100234145, "right_mean": 41273.88763511989, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -88.36509226656233, "ci_upper": 127.1507981220657, "delta_ci_lower": -88.36509226656233, "delta_ci_upper": 127.1507981220657, "failure_count": 0, "left_ci_lower": 5767.5291409102765, "left_ci_upper": 5937.201668948879, "left_mean": 5851.812506520605, "mean_delta": 18.306142410015653, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5787.393128912363, "right_ci_upper": 5951.362771257172, "right_mean": 5870.118648930621, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05519586104951959, "left_mean": 0.021271249076127124, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05519586104951959, "left_mean": 0.021271249076127124, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05519586104951959, "left_mean": 0.021271249076127124, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -76.85087539123622, "ci_upper": 122.26656722743868, "delta_ci_lower": -76.85087539123622, "delta_ci_upper": 122.26656722743868, "failure_count": 0, "left_ci_lower": 5435.564612350026, "left_ci_upper": 5589.699857198748, "left_mean": 5512.379747000522, "mean_delta": 21.122730829420966, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5458.370425795514, "right_ci_upper": 5608.199662558686, "right_mean": 5533.502477829943, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.09939430894308943, "ci_upper": 0.10980155210643014, "delta_ci_lower": -0.09939430894308943, "delta_ci_upper": 0.10980155210643014, "failure_count": 0, "left_ci_lower": 0.5178861788617886, "left_ci_upper": 0.7092682926829268, "left_mean": 0.6138507021433851, "mean_delta": 0.005173688100517368, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5282324464153733, "right_ci_upper": 0.7098152254249815, "right_mean": 0.6190243902439024, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.010980352303523011, "ci_upper": 0.13944530672579444, "delta_ci_lower": -0.010980352303523011, "delta_ci_upper": 0.13944530672579444, "failure_count": 0, "left_ci_lower": 0.1563340724316334, "left_ci_upper": 0.33221101256467106, "left_mean": 0.2434072431633407, "mean_delta": 0.06225917713722591, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.010980352303523011, "ci_upper": 0.13944530672579444, "delta_ci_lower": -0.010980352303523011, "delta_ci_upper": 0.13944530672579444, "failure_count": 0, "left_ci_lower": 0.1563340724316334, "left_ci_upper": 0.33221101256467106, "left_mean": 0.2434072431633407, "mean_delta": 0.06225917713722591, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.010980352303523011, "ci_upper": 0.13944530672579444, "delta_ci_lower": -0.010980352303523011, "delta_ci_upper": 0.13944530672579444, "failure_count": 0, "left_ci_lower": 0.1563340724316334, "left_ci_upper": 0.33221101256467106, "left_mean": 0.2434072431633407, "mean_delta": 0.06225917713722591, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.010980352303523011, "ci_upper": 0.13944530672579444, "delta_ci_lower": -0.010980352303523011, "delta_ci_upper": 0.13944530672579444, "failure_count": 0, "left_ci_lower": 0.1563340724316334, "left_ci_upper": 0.33221101256467106, "left_mean": 0.2434072431633407, "mean_delta": 0.06225917713722591, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.020679600886917962, "ci_upper": 0.18787878787878787, "delta_ci_lower": 0.020679600886917962, "delta_ci_upper": 0.18787878787878787, "failure_count": 0, "left_ci_lower": 0.16032520325203253, "left_ci_upper": 0.33677753141167777, "left_mean": 0.24771618625277161, "mean_delta": 0.10171470805617147, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.020679600886917962, "ci_upper": 0.18787878787878787, "delta_ci_lower": 0.020679600886917962, "delta_ci_upper": 0.18787878787878787, "failure_count": 0, "left_ci_lower": 0.16032520325203253, "left_ci_upper": 0.33677753141167777, "left_mean": 0.24771618625277161, "mean_delta": 0.10171470805617147, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.020679600886917962, "ci_upper": 0.18787878787878787, "delta_ci_lower": 0.020679600886917962, "delta_ci_upper": 0.18787878787878787, "failure_count": 0, "left_ci_lower": 0.16032520325203253, "left_ci_upper": 0.33677753141167777, "left_mean": 0.24771618625277161, "mean_delta": 0.10171470805617147, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.020679600886917962, "ci_upper": 0.18787878787878787, "delta_ci_lower": 0.020679600886917962, "delta_ci_upper": 0.18787878787878787, "failure_count": 0, "left_ci_lower": 0.16032520325203253, "left_ci_upper": 0.33677753141167777, "left_mean": 0.24771618625277161, "mean_delta": 0.10171470805617147, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -421.07766690566046, "ci_upper": -157.2744459929817, "delta_ci_lower": -421.07766690566046, "delta_ci_upper": -157.2744459929817, "failure_count": 0, "left_ci_lower": 5109.276865756126, "left_ci_upper": 5755.156866194887, "left_mean": 5375.133654601366, "mean_delta": -268.8891908993166, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4915.1793071646625, "right_ci_upper": 5344.7537074954525, "right_mean": 5106.24446370205, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.018098176890859834, "ci_upper": 0.09922653362897264, "delta_ci_lower": 0.018098176890859834, "delta_ci_upper": 0.09922653362897264, "failure_count": 0, "left_ci_lower": 0.07008474993840848, "left_ci_upper": 0.1588845158906134, "left_mean": 0.11304262133530425, "mean_delta": 0.05800197092880019, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.018098176890859834, "ci_upper": 0.09922653362897264, "delta_ci_lower": 0.018098176890859834, "delta_ci_upper": 0.09922653362897264, "failure_count": 0, "left_ci_lower": 0.07008474993840848, "left_ci_upper": 0.1588845158906134, "left_mean": 0.11304262133530425, "mean_delta": 0.05800197092880019, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.018098176890859834, "ci_upper": 0.09922653362897264, "delta_ci_lower": 0.018098176890859834, "delta_ci_upper": 0.09922653362897264, "failure_count": 0, "left_ci_lower": 0.07008474993840848, "left_ci_upper": 0.1588845158906134, "left_mean": 0.11304262133530425, "mean_delta": 0.05800197092880019, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.018098176890859834, "ci_upper": 0.09922653362897264, "delta_ci_lower": 0.018098176890859834, "delta_ci_upper": 0.09922653362897264, "failure_count": 0, "left_ci_lower": 0.07008474993840848, "left_ci_upper": 0.1588845158906134, "left_mean": 0.11304262133530425, "mean_delta": 0.05800197092880019, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04656365462968129, "ci_upper": 0.10597191426459719, "delta_ci_lower": -0.04656365462968129, "delta_ci_upper": 0.10597191426459719, "failure_count": 0, "left_ci_lower": 0.07237250554323725, "left_ci_upper": 0.1981670362158167, "left_mean": 0.13309526588088846, "mean_delta": 0.02839642729691287, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.09859442784151161, "right_ci_upper": 0.22573540280857354, "right_mean": 0.16149169317780138, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.1, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.22499999999999998, "left_ci_upper": 0.3416666666666667, "left_mean": 0.2833333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2583333333333333, "right_ci_upper": 0.375, "right_mean": 0.3166666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -906.1433961807779, "ci_upper": 575.7563640666194, "delta_ci_lower": -906.1433961807779, "delta_ci_upper": 575.7563640666194, "failure_count": 0, "left_ci_lower": 40813.57040004467, "left_ci_upper": 41961.25290083918, "left_mean": 41386.151827764115, "mean_delta": -164.89348018949389, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.797499815395, "right_ci_upper": 41788.035807290005, "right_mean": 41221.25834757462, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -108.75958333333332, "ci_upper": 90.6358333333333, "delta_ci_lower": -108.75958333333332, "delta_ci_upper": 90.6358333333333, "failure_count": 0, "left_ci_lower": 5805.391041666667, "left_ci_upper": 5958.333750000001, "left_mean": 5882.25, "mean_delta": -9.899999999999999, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5797.172083333334, "right_ci_upper": 5945.826041666666, "right_mean": 5872.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555556, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555556, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555556, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -92.97562500000001, "ci_upper": 94.40020833333334, "delta_ci_lower": -92.97562500000001, "delta_ci_upper": 94.40020833333334, "failure_count": 0, "left_ci_lower": 5466.049791666666, "left_ci_upper": 5606.953333333334, "left_mean": 5536.608333333334, "mean_delta": -0.24166666666666803, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.614583333333, "right_ci_upper": 5603.176458333334, "right_mean": 5536.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222223, "left_mean": 0.6333333333333333, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5555555555555556, "right_ci_upper": 0.7333333333333334, "right_mean": 0.6444444444444445, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02962962962962963, "ci_upper": 0.1259259259259259, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.1259259259259259, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.33888888888888885, "left_mean": 0.25, "mean_delta": 0.04814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02962962962962963, "ci_upper": 0.1259259259259259, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.1259259259259259, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.33888888888888885, "left_mean": 0.25, "mean_delta": 0.04814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02962962962962963, "ci_upper": 0.1259259259259259, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.1259259259259259, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.33888888888888885, "left_mean": 0.25, "mean_delta": 0.04814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02962962962962963, "ci_upper": 0.1259259259259259, "delta_ci_lower": -0.02962962962962963, "delta_ci_upper": 0.1259259259259259, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.33888888888888885, "left_mean": 0.25, "mean_delta": 0.04814814814814814, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.387037037037037, "right_mean": 0.2981481481481481, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -344.00504183303076, "ci_upper": -131.67719512285356, "delta_ci_lower": -344.00504183303076, "delta_ci_upper": -131.67719512285356, "failure_count": 0, "left_ci_lower": 5046.812993837205, "left_ci_upper": 5563.935274897401, "left_mean": 5263.251572921096, "mean_delta": -222.87948959856294, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4884.453787246748, "right_ci_upper": 5230.868130944387, "right_mean": 5040.372083322533, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.010185185185185184, "ci_upper": 0.09629629629629628, "delta_ci_lower": 0.010185185185185184, "delta_ci_upper": 0.09629629629629628, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666665, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.010185185185185184, "ci_upper": 0.09629629629629628, "delta_ci_lower": 0.010185185185185184, "delta_ci_upper": 0.09629629629629628, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666665, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.010185185185185184, "ci_upper": 0.09629629629629628, "delta_ci_lower": 0.010185185185185184, "delta_ci_upper": 0.09629629629629628, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666665, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.010185185185185184, "ci_upper": 0.09629629629629628, "delta_ci_lower": 0.010185185185185184, "delta_ci_upper": 0.09629629629629628, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666665, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.22407407407407406, "right_mean": 0.16944444444444443, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05403000254258836, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05403000254258836, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.06900584795321636, "left_ci_upper": 0.1912280701754386, "left_mean": 0.12894736842105262, "mean_delta": 0.022984998728705824, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0927536231884058, "right_ci_upper": 0.21304347826086956, "right_mean": 0.15193236714975847, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.1, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.3416666666666667, "left_mean": 0.2833333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25833333333333336, "right_ci_upper": 0.375, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -906.1433961807779, "ci_upper": 575.7563640666194, "delta_ci_lower": -906.1433961807779, "delta_ci_upper": 575.7563640666194, "failure_count": 0, "left_ci_lower": 40813.57040004467, "left_ci_upper": 41961.25290083917, "left_mean": 41386.151827764115, "mean_delta": -164.89348018949386, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.797499815395, "right_ci_upper": 41788.035807290005, "right_mean": 41221.25834757462, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -108.75958333333334, "ci_upper": 90.6358333333333, "delta_ci_lower": -108.75958333333334, "delta_ci_upper": 90.6358333333333, "failure_count": 0, "left_ci_lower": 5805.391041666667, "left_ci_upper": 5958.33375, "left_mean": 5882.25, "mean_delta": -9.9, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5797.172083333334, "right_ci_upper": 5945.826041666666, "right_mean": 5872.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -92.975625, "ci_upper": 94.40020833333334, "delta_ci_lower": -92.975625, "delta_ci_upper": 94.40020833333334, "failure_count": 0, "left_ci_lower": 5466.049791666666, "left_ci_upper": 5606.953333333333, "left_mean": 5536.608333333334, "mean_delta": -0.24166666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.614583333333, "right_ci_upper": 5603.176458333334, "right_mean": 5536.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222222, "left_mean": 0.6333333333333333, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5555555555555556, "right_ci_upper": 0.7333333333333333, "right_mean": 0.6444444444444445, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.029629629629629627, "ci_upper": 0.12592592592592594, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.12592592592592594, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3388888888888889, "left_mean": 0.25, "mean_delta": 0.04814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.029629629629629627, "ci_upper": 0.12592592592592594, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.12592592592592594, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3388888888888889, "left_mean": 0.25, "mean_delta": 0.04814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.029629629629629627, "ci_upper": 0.12592592592592594, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.12592592592592594, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3388888888888889, "left_mean": 0.25, "mean_delta": 0.04814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.029629629629629627, "ci_upper": 0.12592592592592594, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.12592592592592594, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3388888888888889, "left_mean": 0.25, "mean_delta": 0.04814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.34444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.34444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.34444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.34444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -344.00504183303076, "ci_upper": -131.67719512285356, "delta_ci_lower": -344.00504183303076, "delta_ci_upper": -131.67719512285356, "failure_count": 0, "left_ci_lower": 5046.812993837205, "left_ci_upper": 5563.9352748974, "left_mean": 5263.251572921096, "mean_delta": -222.87948959856294, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4884.453787246748, "right_ci_upper": 5230.868130944388, "right_mean": 5040.372083322533, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.010185185185185186, "ci_upper": 0.0962962962962963, "delta_ci_lower": 0.010185185185185186, "delta_ci_upper": 0.0962962962962963, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666667, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.010185185185185186, "ci_upper": 0.0962962962962963, "delta_ci_lower": 0.010185185185185186, "delta_ci_upper": 0.0962962962962963, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666667, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.010185185185185186, "ci_upper": 0.0962962962962963, "delta_ci_lower": 0.010185185185185186, "delta_ci_upper": 0.0962962962962963, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666667, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.010185185185185186, "ci_upper": 0.0962962962962963, "delta_ci_lower": 0.010185185185185186, "delta_ci_upper": 0.0962962962962963, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666667, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05403000254258836, "ci_upper": 0.1, "delta_ci_lower": -0.05403000254258836, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.06900584795321638, "left_ci_upper": 0.19122807017543858, "left_mean": 0.12894736842105262, "mean_delta": 0.02298499872870582, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0927536231884058, "right_ci_upper": 0.21304347826086958, "right_mean": 0.15193236714975847, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.0353547209181012, "ci_upper": 0.10122587376108502, "delta_ci_lower": -0.0353547209181012, "delta_ci_upper": 0.10122587376108502, "failure_count": 0, "left_ci_lower": 0.14413145539906103, "left_ci_upper": 0.26296296296296295, "left_mean": 0.20126499739175796, "mean_delta": 0.03217266562336985, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1754173187271779, "right_ci_upper": 0.29424882629107985, "right_mean": 0.2334376630151278, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -789.6586998972908, "ci_upper": 851.4072097240717, "delta_ci_lower": -789.6586998972908, "delta_ci_upper": 851.4072097240717, "failure_count": 0, "left_ci_lower": 40622.55474416604, "left_ci_upper": 41897.184120441816, "left_mean": 41253.98921974593, "mean_delta": 19.898415373966312, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40625.34417341602, "right_ci_upper": 41915.517100234145, "right_mean": 41273.88763511989, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -88.36509226656233, "ci_upper": 127.1507981220657, "delta_ci_lower": -88.36509226656233, "delta_ci_upper": 127.1507981220657, "failure_count": 0, "left_ci_lower": 5767.5291409102765, "left_ci_upper": 5937.201668948879, "left_mean": 5851.812506520605, "mean_delta": 18.306142410015653, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5787.393128912363, "right_ci_upper": 5951.362771257172, "right_mean": 5870.118648930621, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05519586104951959, "left_mean": 0.021271249076127124, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05519586104951959, "left_mean": 0.021271249076127124, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05519586104951959, "left_mean": 0.021271249076127124, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -76.85087539123622, "ci_upper": 122.26656722743868, "delta_ci_lower": -76.85087539123622, "delta_ci_upper": 122.26656722743868, "failure_count": 0, "left_ci_lower": 5435.564612350026, "left_ci_upper": 5589.699857198748, "left_mean": 5512.379747000522, "mean_delta": 21.122730829420966, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5458.370425795514, "right_ci_upper": 5608.199662558686, "right_mean": 5533.502477829943, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.09939430894308943, "ci_upper": 0.10980155210643014, "delta_ci_lower": -0.09939430894308943, "delta_ci_upper": 0.10980155210643014, "failure_count": 0, "left_ci_lower": 0.5178861788617886, "left_ci_upper": 0.7092682926829268, "left_mean": 0.6138507021433851, "mean_delta": 0.005173688100517368, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5282324464153733, "right_ci_upper": 0.7098152254249815, "right_mean": 0.6190243902439024, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.010980352303523011, "ci_upper": 0.13944530672579444, "delta_ci_lower": -0.010980352303523011, "delta_ci_upper": 0.13944530672579444, "failure_count": 0, "left_ci_lower": 0.1563340724316334, "left_ci_upper": 0.33221101256467106, "left_mean": 0.2434072431633407, "mean_delta": 0.06225917713722591, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.010980352303523011, "ci_upper": 0.13944530672579444, "delta_ci_lower": -0.010980352303523011, "delta_ci_upper": 0.13944530672579444, "failure_count": 0, "left_ci_lower": 0.1563340724316334, "left_ci_upper": 0.33221101256467106, "left_mean": 0.2434072431633407, "mean_delta": 0.06225917713722591, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.010980352303523011, "ci_upper": 0.13944530672579444, "delta_ci_lower": -0.010980352303523011, "delta_ci_upper": 0.13944530672579444, "failure_count": 0, "left_ci_lower": 0.1563340724316334, "left_ci_upper": 0.33221101256467106, "left_mean": 0.2434072431633407, "mean_delta": 0.06225917713722591, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.010980352303523011, "ci_upper": 0.13944530672579444, "delta_ci_lower": -0.010980352303523011, "delta_ci_upper": 0.13944530672579444, "failure_count": 0, "left_ci_lower": 0.1563340724316334, "left_ci_upper": 0.33221101256467106, "left_mean": 0.2434072431633407, "mean_delta": 0.06225917713722591, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.21464874353288987, "right_ci_upper": 0.3973147942843065, "right_mean": 0.3056664203005667, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.020679600886917962, "ci_upper": 0.18787878787878787, "delta_ci_lower": 0.020679600886917962, "delta_ci_upper": 0.18787878787878787, "failure_count": 0, "left_ci_lower": 0.16032520325203253, "left_ci_upper": 0.33677753141167777, "left_mean": 0.24771618625277161, "mean_delta": 0.10171470805617147, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.020679600886917962, "ci_upper": 0.18787878787878787, "delta_ci_lower": 0.020679600886917962, "delta_ci_upper": 0.18787878787878787, "failure_count": 0, "left_ci_lower": 0.16032520325203253, "left_ci_upper": 0.33677753141167777, "left_mean": 0.24771618625277161, "mean_delta": 0.10171470805617147, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.020679600886917962, "ci_upper": 0.18787878787878787, "delta_ci_lower": 0.020679600886917962, "delta_ci_upper": 0.18787878787878787, "failure_count": 0, "left_ci_lower": 0.16032520325203253, "left_ci_upper": 0.33677753141167777, "left_mean": 0.24771618625277161, "mean_delta": 0.10171470805617147, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.020679600886917962, "ci_upper": 0.18787878787878787, "delta_ci_lower": 0.020679600886917962, "delta_ci_upper": 0.18787878787878787, "failure_count": 0, "left_ci_lower": 0.16032520325203253, "left_ci_upper": 0.33677753141167777, "left_mean": 0.24771618625277161, "mean_delta": 0.10171470805617147, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25173577235772354, "right_ci_upper": 0.44888396156688837, "right_mean": 0.3494308943089431, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -421.07766690566046, "ci_upper": -157.2744459929817, "delta_ci_lower": -421.07766690566046, "delta_ci_upper": -157.2744459929817, "failure_count": 0, "left_ci_lower": 5109.276865756126, "left_ci_upper": 5755.156866194887, "left_mean": 5375.133654601366, "mean_delta": -268.8891908993166, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4915.1793071646625, "right_ci_upper": 5344.7537074954525, "right_mean": 5106.24446370205, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.018098176890859834, "ci_upper": 0.09922653362897264, "delta_ci_lower": 0.018098176890859834, "delta_ci_upper": 0.09922653362897264, "failure_count": 0, "left_ci_lower": 0.07008474993840848, "left_ci_upper": 0.1588845158906134, "left_mean": 0.11304262133530425, "mean_delta": 0.05800197092880019, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.018098176890859834, "ci_upper": 0.09922653362897264, "delta_ci_lower": 0.018098176890859834, "delta_ci_upper": 0.09922653362897264, "failure_count": 0, "left_ci_lower": 0.07008474993840848, "left_ci_upper": 0.1588845158906134, "left_mean": 0.11304262133530425, "mean_delta": 0.05800197092880019, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.018098176890859834, "ci_upper": 0.09922653362897264, "delta_ci_lower": 0.018098176890859834, "delta_ci_upper": 0.09922653362897264, "failure_count": 0, "left_ci_lower": 0.07008474993840848, "left_ci_upper": 0.1588845158906134, "left_mean": 0.11304262133530425, "mean_delta": 0.05800197092880019, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.018098176890859834, "ci_upper": 0.09922653362897264, "delta_ci_lower": 0.018098176890859834, "delta_ci_upper": 0.09922653362897264, "failure_count": 0, "left_ci_lower": 0.07008474993840848, "left_ci_upper": 0.1588845158906134, "left_mean": 0.11304262133530425, "mean_delta": 0.05800197092880019, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11905284552845528, "right_ci_upper": 0.22572604089677262, "right_mean": 0.17104459226410443, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04656365462968129, "ci_upper": 0.10597191426459719, "delta_ci_lower": -0.04656365462968129, "delta_ci_upper": 0.10597191426459719, "failure_count": 0, "left_ci_lower": 0.07237250554323725, "left_ci_upper": 0.1981670362158167, "left_mean": 0.13309526588088846, "mean_delta": 0.02839642729691287, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.09859442784151161, "right_ci_upper": 0.22573540280857354, "right_mean": 0.16149169317780138, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -720.5196985043585, "ci_upper": 2630.4147360151787, "delta_ci_lower": -720.5196985043585, "delta_ci_upper": 2630.4147360151787, "failure_count": 0, "left_ci_lower": 39664.52908450874, "left_ci_upper": 42164.66559797439, "left_mean": 40889.15979854452, "mean_delta": 930.8169778358812, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40445.35340079242, "right_ci_upper": 43202.13969272503, "right_mean": 41819.976776380405, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -72.64499999999991, "ci_upper": 342.5466666666665, "delta_ci_lower": -72.64499999999991, "delta_ci_upper": 342.5466666666665, "failure_count": 0, "left_ci_lower": 5589.930833333333, "left_ci_upper": 5932.266666666666, "left_mean": 5758.3, "mean_delta": 135.4, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5733.496666666667, "right_ci_upper": 6051.466666666666, "right_mean": 5893.7, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -57.80166666666665, "ci_upper": 308.935, "delta_ci_lower": -57.80166666666665, "delta_ci_upper": 308.935, "failure_count": 0, "left_ci_lower": 5280.123333333334, "left_ci_upper": 5580.933333333333, "left_mean": 5427.8, "mean_delta": 125.6, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5410.9325, "right_ci_upper": 5694.735, "right_mean": 5553.4, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.17777777777777776, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777776, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.07777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.5111111111111112, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.17777777777777776, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777776, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.07777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.5111111111111112, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.17777777777777776, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777776, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.07777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.5111111111111112, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.17777777777777776, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777776, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.07777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.5111111111111112, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -379.63396287843346, "ci_upper": -138.0444119196424, "delta_ci_lower": -379.63396287843346, "delta_ci_upper": -138.0444119196424, "failure_count": 0, "left_ci_lower": 4892.113907096985, "left_ci_upper": 5475.040902008671, "left_mean": 5173.797844571527, "mean_delta": -253.89860426463807, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4652.678259009651, "right_ci_upper": 5195.772406204681, "right_mean": 4919.899240306889, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.016666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.05555555555555555, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1388888888888889, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.3277777777777778, "right_mean": 0.2111111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.05555555555555555, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1388888888888889, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.3277777777777778, "right_mean": 0.2111111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.05555555555555555, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1388888888888889, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.3277777777777778, "right_mean": 0.2111111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.05555555555555555, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1388888888888889, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.3277777777777778, "right_mean": 0.2111111111111111, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.3, "delta_ci_lower": -0.1, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1435.8387890833544, "ci_upper": 1425.250307622191, "delta_ci_lower": -1435.8387890833544, "delta_ci_upper": 1425.250307622191, "failure_count": 0, "left_ci_lower": 39997.14045956518, "left_ci_upper": 42198.00036730061, "left_mean": 41102.51280141141, "mean_delta": -30.404050085538376, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39953.30382841698, "right_ci_upper": 42175.909513490435, "right_mean": 41072.10875132587, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -177.16666666666666, "ci_upper": 223.5683333333333, "delta_ci_lower": -177.16666666666666, "delta_ci_upper": 223.5683333333333, "failure_count": 0, "left_ci_lower": 5693.128333333333, "left_ci_upper": 6007.534166666667, "left_mean": 5850.133333333333, "mean_delta": 19.3, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5713.8308333333325, "right_ci_upper": 6022.305833333334, "right_mean": 5869.433333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -175.17333333333326, "ci_upper": 202.40083333333334, "delta_ci_lower": -175.17333333333326, "delta_ci_upper": 202.40083333333334, "failure_count": 0, "left_ci_lower": 5381.766666666666, "left_ci_upper": 5673.735, "left_mean": 5527.6, "mean_delta": 11.933333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5393.421666666667, "right_ci_upper": 5682.505, "right_mean": 5539.533333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.15, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.15, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.15, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.15, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.06666666666666667, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.36666666666666664, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.06666666666666667, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.36666666666666664, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.06666666666666667, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.36666666666666664, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.06666666666666667, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.36666666666666664, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -868.4002677082509, "ci_upper": -138.36384659943485, "delta_ci_lower": -868.4002677082509, "delta_ci_upper": -138.36384659943485, "failure_count": 0, "left_ci_lower": 4781.898261449629, "left_ci_upper": 6563.491861164705, "left_mean": 5492.774160997942, "mean_delta": -424.8481930233538, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4575.501511506154, "right_ci_upper": 5724.964746590704, "right_mean": 5067.925967974588, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.01944444444444444, "ci_upper": 0.14722222222222223, "delta_ci_lower": 0.01944444444444444, "delta_ci_upper": 0.14722222222222223, "failure_count": 0, "left_ci_lower": 0.01111111111111111, "left_ci_upper": 0.10555555555555556, "left_mean": 0.05555555555555555, "mean_delta": 0.08055555555555555, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06944444444444445, "right_ci_upper": 0.20555555555555557, "right_mean": 0.1361111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.01944444444444444, "ci_upper": 0.14722222222222223, "delta_ci_lower": 0.01944444444444444, "delta_ci_upper": 0.14722222222222223, "failure_count": 0, "left_ci_lower": 0.01111111111111111, "left_ci_upper": 0.10555555555555556, "left_mean": 0.05555555555555555, "mean_delta": 0.08055555555555555, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06944444444444445, "right_ci_upper": 0.20555555555555557, "right_mean": 0.1361111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.01944444444444444, "ci_upper": 0.14722222222222223, "delta_ci_lower": 0.01944444444444444, "delta_ci_upper": 0.14722222222222223, "failure_count": 0, "left_ci_lower": 0.01111111111111111, "left_ci_upper": 0.10555555555555556, "left_mean": 0.05555555555555555, "mean_delta": 0.08055555555555555, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06944444444444445, "right_ci_upper": 0.20555555555555557, "right_mean": 0.1361111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.01944444444444444, "ci_upper": 0.14722222222222223, "delta_ci_lower": 0.01944444444444444, "delta_ci_upper": 0.14722222222222223, "failure_count": 0, "left_ci_lower": 0.01111111111111111, "left_ci_upper": 0.10555555555555556, "left_mean": 0.05555555555555555, "mean_delta": 0.08055555555555555, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06944444444444445, "right_ci_upper": 0.20555555555555557, "right_mean": 0.1361111111111111, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.0954233409610984, "ci_upper": 0.3022883295194508, "delta_ci_lower": -0.0954233409610984, "delta_ci_upper": 0.3022883295194508, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48684210526315785, "left_mean": 0.3201754385964912, "mean_delta": 0.1022883295194508, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25579710144927537, "right_ci_upper": 0.6, "right_mean": 0.42246376811594205, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2483.6684640892777, "ci_upper": 718.4371276888604, "delta_ci_lower": -2483.6684640892777, "delta_ci_upper": 718.4371276888604, "failure_count": 0, "left_ci_lower": 40427.1227358953, "left_ci_upper": 42962.43643153963, "left_mean": 41684.36831249468, "mean_delta": -892.0327555349407, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39658.463188973445, "right_ci_upper": 41954.62046919507, "right_mean": 40792.33555695973, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -297.5, "ci_upper": 124.37749999999984, "delta_ci_lower": -297.5, "delta_ci_upper": 124.37749999999984, "failure_count": 0, "left_ci_lower": 5753.498333333333, "left_ci_upper": 6060.035, "left_mean": 5908.966666666666, "mean_delta": -93.53333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5665.329166666666, "right_ci_upper": 5967.8341666666665, "right_mean": 5815.433333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -274.47166666666664, "ci_upper": 136.37749999999983, "delta_ci_lower": -274.47166666666664, "delta_ci_upper": 136.37749999999983, "failure_count": 0, "left_ci_lower": 5404.599166666667, "left_ci_upper": 5688.934166666667, "left_mean": 5547.6, "mean_delta": -76.5, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5329.531666666667, "right_ci_upper": 5612.371666666667, "right_mean": 5471.1, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.25, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.25, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48333333333333334, "left_mean": 0.31666666666666665, "mean_delta": -0.08333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.25, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.25, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48333333333333334, "left_mean": 0.31666666666666665, "mean_delta": -0.08333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.25, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.25, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48333333333333334, "left_mean": 0.31666666666666665, "mean_delta": -0.08333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.25, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.25, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.48333333333333334, "left_mean": 0.31666666666666665, "mean_delta": -0.08333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -347.3103030198642, "ci_upper": -89.88250614842403, "delta_ci_lower": -347.3103030198642, "delta_ci_upper": -89.88250614842403, "failure_count": 0, "left_ci_lower": 5748.110679638921, "left_ci_upper": 6346.358297526991, "left_mean": 6034.220676287077, "mean_delta": -210.01177903575203, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5597.471319228449, "right_ci_upper": 6060.650320073667, "right_mean": 5824.208897251326, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.08888888888888888, "ci_upper": 0.1, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.25, "left_mean": 0.15555555555555553, "mean_delta": 0.005555555555555558, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.2611111111111111, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.08888888888888888, "ci_upper": 0.1, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.25, "left_mean": 0.15555555555555553, "mean_delta": 0.005555555555555558, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.2611111111111111, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.08888888888888888, "ci_upper": 0.1, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.25, "left_mean": 0.15555555555555553, "mean_delta": 0.005555555555555558, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.2611111111111111, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.08888888888888888, "ci_upper": 0.1, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.25, "left_mean": 0.15555555555555553, "mean_delta": 0.005555555555555558, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.2611111111111111, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1846.695997252051, "ci_upper": 558.102264517218, "delta_ci_lower": -1846.695997252051, "delta_ci_upper": 558.102264517218, "failure_count": 0, "left_ci_lower": 40969.91729311635, "left_ci_upper": 42774.35450321587, "left_mean": 41868.56639860586, "mean_delta": -667.9540929733776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40326.90700688341, "right_ci_upper": 42080.90098192275, "right_mean": 41200.61230563248, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -269.5033333333333, "ci_upper": 76.66833333333331, "delta_ci_lower": -269.5033333333333, "delta_ci_upper": 76.66833333333331, "failure_count": 0, "left_ci_lower": 5885.726666666667, "left_ci_upper": 6139.0391666666665, "left_mean": 6011.6, "mean_delta": -100.76666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5783.133333333333, "right_ci_upper": 6037.87, "right_mean": 5910.833333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -221.03749999999997, "ci_upper": 107.80333333333328, "delta_ci_lower": -221.03749999999997, "delta_ci_upper": 107.80333333333328, "failure_count": 0, "left_ci_lower": 5523.7325, "left_ci_upper": 5764.333333333333, "left_mean": 5643.433333333333, "mean_delta": -62.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5462.965833333333, "right_ci_upper": 5698.234166666666, "right_mean": 5581.433333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": -42.781671850146566, "ci_upper": 43.16860722426402, "delta_ci_lower": -42.781671850146566, "delta_ci_upper": 43.16860722426402, "failure_count": 0, "left_ci_lower": 4217.558040168951, "left_ci_upper": 4482.442404047858, "left_mean": 4352.213609827838, "mean_delta": -2.7593820705078542, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4204.346540677943, "right_ci_upper": 4492.752702613749, "right_mean": 4349.45422775733, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "left_regime": "native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.1, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.3416666666666667, "left_mean": 0.2833333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25833333333333336, "right_ci_upper": 0.375, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -906.1433961807779, "ci_upper": 575.7563640666194, "delta_ci_lower": -906.1433961807779, "delta_ci_upper": 575.7563640666194, "failure_count": 0, "left_ci_lower": 40813.57040004467, "left_ci_upper": 41961.25290083917, "left_mean": 41386.151827764115, "mean_delta": -164.89348018949386, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.797499815395, "right_ci_upper": 41788.035807290005, "right_mean": 41221.25834757462, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -108.75958333333334, "ci_upper": 90.6358333333333, "delta_ci_lower": -108.75958333333334, "delta_ci_upper": 90.6358333333333, "failure_count": 0, "left_ci_lower": 5805.391041666667, "left_ci_upper": 5958.33375, "left_mean": 5882.25, "mean_delta": -9.9, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5797.172083333334, "right_ci_upper": 5945.826041666666, "right_mean": 5872.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -92.975625, "ci_upper": 94.40020833333334, "delta_ci_lower": -92.975625, "delta_ci_upper": 94.40020833333334, "failure_count": 0, "left_ci_lower": 5466.049791666666, "left_ci_upper": 5606.953333333333, "left_mean": 5536.608333333334, "mean_delta": -0.24166666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.614583333333, "right_ci_upper": 5603.176458333334, "right_mean": 5536.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222222, "left_mean": 0.6333333333333333, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5555555555555556, "right_ci_upper": 0.7333333333333333, "right_mean": 0.6444444444444445, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.029629629629629627, "ci_upper": 0.12592592592592594, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.12592592592592594, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3388888888888889, "left_mean": 0.25, "mean_delta": 0.04814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.029629629629629627, "ci_upper": 0.12592592592592594, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.12592592592592594, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3388888888888889, "left_mean": 0.25, "mean_delta": 0.04814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.029629629629629627, "ci_upper": 0.12592592592592594, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.12592592592592594, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3388888888888889, "left_mean": 0.25, "mean_delta": 0.04814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.029629629629629627, "ci_upper": 0.12592592592592594, "delta_ci_lower": -0.029629629629629627, "delta_ci_upper": 0.12592592592592594, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.3388888888888889, "left_mean": 0.25, "mean_delta": 0.04814814814814815, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.38703703703703707, "right_mean": 0.29814814814814816, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.34444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.34444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.34444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.34444444444444444, "left_mean": 0.25555555555555554, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -344.00504183303076, "ci_upper": -131.67719512285356, "delta_ci_lower": -344.00504183303076, "delta_ci_upper": -131.67719512285356, "failure_count": 0, "left_ci_lower": 5046.812993837205, "left_ci_upper": 5563.9352748974, "left_mean": 5263.251572921096, "mean_delta": -222.87948959856294, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4884.453787246748, "right_ci_upper": 5230.868130944388, "right_mean": 5040.372083322533, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.010185185185185186, "ci_upper": 0.0962962962962963, "delta_ci_lower": 0.010185185185185186, "delta_ci_upper": 0.0962962962962963, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666667, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.010185185185185186, "ci_upper": 0.0962962962962963, "delta_ci_lower": 0.010185185185185186, "delta_ci_upper": 0.0962962962962963, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666667, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.010185185185185186, "ci_upper": 0.0962962962962963, "delta_ci_lower": 0.010185185185185186, "delta_ci_upper": 0.0962962962962963, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666667, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.010185185185185186, "ci_upper": 0.0962962962962963, "delta_ci_lower": 0.010185185185185186, "delta_ci_upper": 0.0962962962962963, "failure_count": 0, "left_ci_lower": 0.07407407407407407, "left_ci_upper": 0.16296296296296295, "left_mean": 0.11666666666666667, "mean_delta": 0.05277777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11851851851851851, "right_ci_upper": 0.2240740740740741, "right_mean": 0.16944444444444445, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05403000254258836, "ci_upper": 0.1, "delta_ci_lower": -0.05403000254258836, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.06900584795321638, "left_ci_upper": 0.19122807017543858, "left_mean": 0.12894736842105262, "mean_delta": 0.02298499872870582, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0927536231884058, "right_ci_upper": 0.21304347826086958, "right_mean": 0.15193236714975847, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_6ff2fb588647938593c42b5a", "builder_key": "qwen35_2b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.025, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.3333333333333333, "left_mean": 0.26666666666666666, "mean_delta": 0.05, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.39166666666666666, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -673.3463297484074, "ci_upper": 656.6758019402181, "delta_ci_lower": -673.3463297484074, "delta_ci_upper": 656.6758019402181, "failure_count": 0, "left_ci_lower": 40338.10420836458, "left_ci_upper": 41453.173268402825, "left_mean": 40899.68910353782, "mean_delta": -7.245308371299558, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40402.03109327558, "right_ci_upper": 41369.74620123753, "right_mean": 40892.443795166524, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -94.81854166666665, "ci_upper": 83.22749999999995, "delta_ci_lower": -94.81854166666665, "delta_ci_upper": 83.22749999999995, "failure_count": 0, "left_ci_lower": 5749.232291666667, "left_ci_upper": 5897.727083333334, "left_mean": 5823.191666666667, "mean_delta": -5.30833333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5753.757291666667, "right_ci_upper": 5879.36875, "right_mean": 5817.883333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -99.68458333333334, "ci_upper": 65.60874999999999, "delta_ci_lower": -99.68458333333334, "delta_ci_upper": 65.60874999999999, "failure_count": 0, "left_ci_lower": 5454.614375, "left_ci_upper": 5589.913541666666, "left_mean": 5522.141666666666, "mean_delta": -16.991666666666664, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5444.270416666666, "right_ci_upper": 5565.4418749999995, "right_mean": 5505.15, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.15555555555555556, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.15555555555555556, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222222, "left_mean": 0.6333333333333333, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777777, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.022222222222222216, "ci_upper": 0.16296296296296298, "delta_ci_lower": -0.022222222222222216, "delta_ci_upper": 0.16296296296296298, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.022222222222222216, "ci_upper": 0.16296296296296298, "delta_ci_lower": -0.022222222222222216, "delta_ci_upper": 0.16296296296296298, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.022222222222222216, "ci_upper": 0.16296296296296298, "delta_ci_lower": -0.022222222222222216, "delta_ci_upper": 0.16296296296296298, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.022222222222222216, "ci_upper": 0.16296296296296298, "delta_ci_lower": -0.022222222222222216, "delta_ci_upper": 0.16296296296296298, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222227, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.19999999999999998, "left_ci_upper": 0.37777777777777777, "left_mean": 0.2888888888888889, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222227, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.19999999999999998, "left_ci_upper": 0.37777777777777777, "left_mean": 0.2888888888888889, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222227, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.19999999999999998, "left_ci_upper": 0.37777777777777777, "left_mean": 0.2888888888888889, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222227, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.19999999999999998, "left_ci_upper": 0.37777777777777777, "left_mean": 0.2888888888888889, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 81.00242893407993, "ci_upper": 125.27665009559615, "delta_ci_lower": 81.00242893407993, "delta_ci_upper": 125.27665009559615, "failure_count": 0, "left_ci_lower": 4838.490769426959, "left_ci_upper": 5159.939575374495, "left_mean": 4985.796515299202, "mean_delta": 102.0543149197086, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4938.418952318947, "right_ci_upper": 5264.841263136914, "right_mean": 5087.85083021891, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.003703703703703702, "ci_upper": 0.0861111111111111, "delta_ci_lower": -0.003703703703703702, "delta_ci_upper": 0.0861111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407405, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.003703703703703702, "ci_upper": 0.0861111111111111, "delta_ci_lower": -0.003703703703703702, "delta_ci_upper": 0.0861111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407405, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.003703703703703702, "ci_upper": 0.0861111111111111, "delta_ci_lower": -0.003703703703703702, "delta_ci_upper": 0.0861111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407405, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.003703703703703702, "ci_upper": 0.0861111111111111, "delta_ci_lower": -0.003703703703703702, "delta_ci_upper": 0.0861111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407405, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.022365184853312046, "ci_upper": 0.15257060826303653, "delta_ci_lower": -0.022365184853312046, "delta_ci_upper": 0.15257060826303653, "failure_count": 0, "left_ci_lower": 0.09818266294968804, "left_ci_upper": 0.2244789592459843, "left_mean": 0.15929377406079914, "mean_delta": 0.06423316196613688, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15075757575757576, "right_ci_upper": 0.29798190235690225, "right_mean": 0.223526936026936, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.025, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.3333333333333333, "left_mean": 0.26666666666666666, "mean_delta": 0.05, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.39166666666666666, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -673.3463297484074, "ci_upper": 656.6758019402181, "delta_ci_lower": -673.3463297484074, "delta_ci_upper": 656.6758019402181, "failure_count": 0, "left_ci_lower": 40338.10420836458, "left_ci_upper": 41453.173268402825, "left_mean": 40899.68910353782, "mean_delta": -7.245308371299568, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40402.03109327558, "right_ci_upper": 41369.74620123753, "right_mean": 40892.443795166524, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -94.81854166666665, "ci_upper": 83.22749999999995, "delta_ci_lower": -94.81854166666665, "delta_ci_upper": 83.22749999999995, "failure_count": 0, "left_ci_lower": 5749.232291666667, "left_ci_upper": 5897.727083333334, "left_mean": 5823.191666666667, "mean_delta": -5.308333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5753.757291666667, "right_ci_upper": 5879.36875, "right_mean": 5817.883333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -99.68458333333334, "ci_upper": 65.60874999999999, "delta_ci_lower": -99.68458333333334, "delta_ci_upper": 65.60874999999999, "failure_count": 0, "left_ci_lower": 5454.614375, "left_ci_upper": 5589.913541666667, "left_mean": 5522.141666666666, "mean_delta": -16.991666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5444.270416666666, "right_ci_upper": 5565.4418749999995, "right_mean": 5505.15, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.15555555555555556, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.15555555555555556, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222222, "left_mean": 0.6333333333333333, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777778, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.022222222222222223, "ci_upper": 0.16296296296296295, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.16296296296296295, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.16296296296296295, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.16296296296296295, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.16296296296296295, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.16296296296296295, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.16296296296296295, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.16296296296296295, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222223, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.37777777777777777, "left_mean": 0.28888888888888886, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.37777777777777777, "left_mean": 0.28888888888888886, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.37777777777777777, "left_mean": 0.28888888888888886, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.37777777777777777, "left_mean": 0.28888888888888886, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 81.00242893407994, "ci_upper": 125.27665009559615, "delta_ci_lower": 81.00242893407994, "delta_ci_upper": 125.27665009559615, "failure_count": 0, "left_ci_lower": 4838.490769426959, "left_ci_upper": 5159.939575374495, "left_mean": 4985.796515299201, "mean_delta": 102.0543149197086, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4938.418952318946, "right_ci_upper": 5264.841263136914, "right_mean": 5087.85083021891, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.0037037037037037034, "ci_upper": 0.08611111111111111, "delta_ci_lower": -0.0037037037037037034, "delta_ci_upper": 0.08611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407408, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.0037037037037037034, "ci_upper": 0.08611111111111111, "delta_ci_lower": -0.0037037037037037034, "delta_ci_upper": 0.08611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407408, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.0037037037037037034, "ci_upper": 0.08611111111111111, "delta_ci_lower": -0.0037037037037037034, "delta_ci_upper": 0.08611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407408, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.0037037037037037034, "ci_upper": 0.08611111111111111, "delta_ci_lower": -0.0037037037037037034, "delta_ci_upper": 0.08611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407408, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.022365184853312046, "ci_upper": 0.1525706082630365, "delta_ci_lower": -0.022365184853312046, "delta_ci_upper": 0.1525706082630365, "failure_count": 0, "left_ci_lower": 0.09818266294968804, "left_ci_upper": 0.22447895924598432, "left_mean": 0.15929377406079914, "mean_delta": 0.06423316196613688, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15075757575757576, "right_ci_upper": 0.29798190235690225, "right_mean": 0.22352693602693602, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.023841288471570143, "ci_upper": 0.13530386019822635, "delta_ci_lower": -0.023841288471570143, "delta_ci_upper": 0.13530386019822635, "failure_count": 0, "left_ci_lower": 0.148206507563902, "left_ci_upper": 0.2755754434011476, "left_mean": 0.21040688575899844, "mean_delta": 0.05513823682837767, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1936851199791341, "right_ci_upper": 0.3394242305685968, "right_mean": 0.2655451225873761, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -729.3306331738545, "ci_upper": 712.9913835549212, "delta_ci_lower": -729.3306331738545, "delta_ci_upper": 712.9913835549212, "failure_count": 0, "left_ci_lower": 40298.98093666653, "left_ci_upper": 41562.897264272295, "left_mean": 40930.445765044875, "mean_delta": -3.4194980046546135, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40374.268869549385, "right_ci_upper": 41471.359642262956, "right_mean": 40927.026267040215, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -86.94843212050077, "ci_upper": 100.0733535472092, "delta_ci_lower": -86.94843212050077, "delta_ci_upper": 100.0733535472092, "failure_count": 0, "left_ci_lower": 5731.482076160668, "left_ci_upper": 5890.379273604591, "left_mean": 5809.880125195618, "mean_delta": 6.411502347417837, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.397650625978, "right_ci_upper": 5886.094803077725, "right_mean": 5816.291627543036, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -95.16781755346895, "ci_upper": 77.9809177751695, "delta_ci_lower": -95.16781755346895, "delta_ci_upper": 77.9809177751695, "failure_count": 0, "left_ci_lower": 5439.23459246218, "left_ci_upper": 5583.044050273865, "left_mean": 5510.437663015127, "mean_delta": -9.010185185185183, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5433.289984350548, "right_ci_upper": 5568.085725091289, "right_mean": 5501.427477829942, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.14879526977087953, "ci_upper": 0.07770620842572044, "delta_ci_lower": -0.14879526977087953, "delta_ci_upper": 0.07770620842572044, "failure_count": 0, "left_ci_lower": 0.5120916481892092, "left_ci_upper": 0.7006060606060606, "left_mean": 0.605779748706578, "mean_delta": -0.03614190687361418, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4816430155210644, "right_ci_upper": 0.6587583148558759, "right_mean": 0.5696378418329638, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.040604028085735364, "ci_upper": 0.14650461936437548, "delta_ci_lower": -0.040604028085735364, "delta_ci_upper": 0.14650461936437548, "failure_count": 0, "left_ci_lower": 0.17933444198078344, "left_ci_upper": 0.35921655580192163, "left_mean": 0.2672727272727273, "mean_delta": 0.05252771618625277, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.040604028085735364, "ci_upper": 0.14650461936437548, "delta_ci_lower": -0.040604028085735364, "delta_ci_upper": 0.14650461936437548, "failure_count": 0, "left_ci_lower": 0.17933444198078344, "left_ci_upper": 0.35921655580192163, "left_mean": 0.2672727272727273, "mean_delta": 0.05252771618625277, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.040604028085735364, "ci_upper": 0.14650461936437548, "delta_ci_lower": -0.040604028085735364, "delta_ci_upper": 0.14650461936437548, "failure_count": 0, "left_ci_lower": 0.17933444198078344, "left_ci_upper": 0.35921655580192163, "left_mean": 0.2672727272727273, "mean_delta": 0.05252771618625277, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.040604028085735364, "ci_upper": 0.14650461936437548, "delta_ci_lower": -0.040604028085735364, "delta_ci_upper": 0.14650461936437548, "failure_count": 0, "left_ci_lower": 0.17933444198078344, "left_ci_upper": 0.35921655580192163, "left_mean": 0.2672727272727273, "mean_delta": 0.05252771618625277, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.04489283074648929, "ci_upper": 0.1654988913525499, "delta_ci_lower": -0.04489283074648929, "delta_ci_upper": 0.1654988913525499, "failure_count": 0, "left_ci_lower": 0.19995565410199553, "left_ci_upper": 0.3874478935698446, "left_mean": 0.2919733924611973, "mean_delta": 0.059142645971914265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.04489283074648929, "ci_upper": 0.1654988913525499, "delta_ci_lower": -0.04489283074648929, "delta_ci_upper": 0.1654988913525499, "failure_count": 0, "left_ci_lower": 0.19995565410199553, "left_ci_upper": 0.3874478935698446, "left_mean": 0.2919733924611973, "mean_delta": 0.059142645971914265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.04489283074648929, "ci_upper": 0.1654988913525499, "delta_ci_lower": -0.04489283074648929, "delta_ci_upper": 0.1654988913525499, "failure_count": 0, "left_ci_lower": 0.19995565410199553, "left_ci_upper": 0.3874478935698446, "left_mean": 0.2919733924611973, "mean_delta": 0.059142645971914265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.04489283074648929, "ci_upper": 0.1654988913525499, "delta_ci_lower": -0.04489283074648929, "delta_ci_upper": 0.1654988913525499, "failure_count": 0, "left_ci_lower": 0.19995565410199553, "left_ci_upper": 0.3874478935698446, "left_mean": 0.2919733924611973, "mean_delta": 0.059142645971914265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 77.46793474946192, "ci_upper": 131.5350207589512, "delta_ci_lower": 77.46793474946192, "delta_ci_upper": 131.5350207589512, "failure_count": 0, "left_ci_lower": 4875.793038895916, "left_ci_upper": 5276.558739071043, "left_mean": 5057.114943199876, "mean_delta": 102.90370106758236, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4976.872046304349, "right_ci_upper": 5379.45861465076, "right_mean": 5160.018644267458, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.011966124661246618, "ci_upper": 0.07617239467849224, "delta_ci_lower": -0.011966124661246618, "delta_ci_upper": 0.07617239467849224, "failure_count": 0, "left_ci_lower": 0.08455149051490515, "left_ci_upper": 0.17947591771372257, "left_mean": 0.13048534121704852, "mean_delta": 0.031581670362158164, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.011966124661246618, "ci_upper": 0.07617239467849224, "delta_ci_lower": -0.011966124661246618, "delta_ci_upper": 0.07617239467849224, "failure_count": 0, "left_ci_lower": 0.08455149051490515, "left_ci_upper": 0.17947591771372257, "left_mean": 0.13048534121704852, "mean_delta": 0.031581670362158164, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.011966124661246618, "ci_upper": 0.07617239467849224, "delta_ci_lower": -0.011966124661246618, "delta_ci_upper": 0.07617239467849224, "failure_count": 0, "left_ci_lower": 0.08455149051490515, "left_ci_upper": 0.17947591771372257, "left_mean": 0.13048534121704852, "mean_delta": 0.031581670362158164, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.011966124661246618, "ci_upper": 0.07617239467849224, "delta_ci_lower": -0.011966124661246618, "delta_ci_upper": 0.07617239467849224, "failure_count": 0, "left_ci_lower": 0.08455149051490515, "left_ci_upper": 0.17947591771372257, "left_mean": 0.13048534121704852, "mean_delta": 0.031581670362158164, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.02364019656787697, "ci_upper": 0.15983000813754697, "delta_ci_lower": -0.02364019656787697, "delta_ci_upper": 0.15983000813754697, "failure_count": 0, "left_ci_lower": 0.10569109505757815, "left_ci_upper": 0.23825310434531513, "left_mean": 0.17007442375499024, "mean_delta": 0.0674690822585823, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16097554256534302, "right_ci_upper": 0.31551575623194245, "right_mean": 0.2375435060135725, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.025, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.3333333333333333, "left_mean": 0.26666666666666666, "mean_delta": 0.05, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.39166666666666666, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -673.3463297484074, "ci_upper": 656.6758019402181, "delta_ci_lower": -673.3463297484074, "delta_ci_upper": 656.6758019402181, "failure_count": 0, "left_ci_lower": 40338.10420836458, "left_ci_upper": 41453.173268402825, "left_mean": 40899.68910353782, "mean_delta": -7.245308371299558, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40402.03109327558, "right_ci_upper": 41369.74620123753, "right_mean": 40892.443795166524, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -94.81854166666665, "ci_upper": 83.22749999999995, "delta_ci_lower": -94.81854166666665, "delta_ci_upper": 83.22749999999995, "failure_count": 0, "left_ci_lower": 5749.232291666667, "left_ci_upper": 5897.727083333334, "left_mean": 5823.191666666667, "mean_delta": -5.30833333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5753.757291666667, "right_ci_upper": 5879.36875, "right_mean": 5817.883333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -99.68458333333334, "ci_upper": 65.60874999999999, "delta_ci_lower": -99.68458333333334, "delta_ci_upper": 65.60874999999999, "failure_count": 0, "left_ci_lower": 5454.614375, "left_ci_upper": 5589.913541666666, "left_mean": 5522.141666666666, "mean_delta": -16.991666666666664, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5444.270416666666, "right_ci_upper": 5565.4418749999995, "right_mean": 5505.15, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.15555555555555556, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.15555555555555556, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222222, "left_mean": 0.6333333333333333, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777777, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.022222222222222216, "ci_upper": 0.16296296296296298, "delta_ci_lower": -0.022222222222222216, "delta_ci_upper": 0.16296296296296298, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.022222222222222216, "ci_upper": 0.16296296296296298, "delta_ci_lower": -0.022222222222222216, "delta_ci_upper": 0.16296296296296298, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.022222222222222216, "ci_upper": 0.16296296296296298, "delta_ci_lower": -0.022222222222222216, "delta_ci_upper": 0.16296296296296298, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.022222222222222216, "ci_upper": 0.16296296296296298, "delta_ci_lower": -0.022222222222222216, "delta_ci_upper": 0.16296296296296298, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222227, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.19999999999999998, "left_ci_upper": 0.37777777777777777, "left_mean": 0.2888888888888889, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222227, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.19999999999999998, "left_ci_upper": 0.37777777777777777, "left_mean": 0.2888888888888889, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222227, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.19999999999999998, "left_ci_upper": 0.37777777777777777, "left_mean": 0.2888888888888889, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222227, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222227, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.19999999999999998, "left_ci_upper": 0.37777777777777777, "left_mean": 0.2888888888888889, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 81.00242893407993, "ci_upper": 125.27665009559615, "delta_ci_lower": 81.00242893407993, "delta_ci_upper": 125.27665009559615, "failure_count": 0, "left_ci_lower": 4838.490769426959, "left_ci_upper": 5159.939575374495, "left_mean": 4985.796515299202, "mean_delta": 102.0543149197086, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4938.418952318947, "right_ci_upper": 5264.841263136914, "right_mean": 5087.85083021891, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.003703703703703702, "ci_upper": 0.0861111111111111, "delta_ci_lower": -0.003703703703703702, "delta_ci_upper": 0.0861111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407405, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.003703703703703702, "ci_upper": 0.0861111111111111, "delta_ci_lower": -0.003703703703703702, "delta_ci_upper": 0.0861111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407405, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.003703703703703702, "ci_upper": 0.0861111111111111, "delta_ci_lower": -0.003703703703703702, "delta_ci_upper": 0.0861111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407405, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.003703703703703702, "ci_upper": 0.0861111111111111, "delta_ci_lower": -0.003703703703703702, "delta_ci_upper": 0.0861111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407405, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444442, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.022365184853312046, "ci_upper": 0.15257060826303653, "delta_ci_lower": -0.022365184853312046, "delta_ci_upper": 0.15257060826303653, "failure_count": 0, "left_ci_lower": 0.09818266294968804, "left_ci_upper": 0.2244789592459843, "left_mean": 0.15929377406079914, "mean_delta": 0.06423316196613688, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15075757575757576, "right_ci_upper": 0.29798190235690225, "right_mean": 0.223526936026936, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.025, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.3333333333333333, "left_mean": 0.26666666666666666, "mean_delta": 0.05, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.39166666666666666, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -673.3463297484074, "ci_upper": 656.6758019402181, "delta_ci_lower": -673.3463297484074, "delta_ci_upper": 656.6758019402181, "failure_count": 0, "left_ci_lower": 40338.10420836458, "left_ci_upper": 41453.173268402825, "left_mean": 40899.68910353782, "mean_delta": -7.245308371299568, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40402.03109327558, "right_ci_upper": 41369.74620123753, "right_mean": 40892.443795166524, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -94.81854166666665, "ci_upper": 83.22749999999995, "delta_ci_lower": -94.81854166666665, "delta_ci_upper": 83.22749999999995, "failure_count": 0, "left_ci_lower": 5749.232291666667, "left_ci_upper": 5897.727083333334, "left_mean": 5823.191666666667, "mean_delta": -5.308333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5753.757291666667, "right_ci_upper": 5879.36875, "right_mean": 5817.883333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -99.68458333333334, "ci_upper": 65.60874999999999, "delta_ci_lower": -99.68458333333334, "delta_ci_upper": 65.60874999999999, "failure_count": 0, "left_ci_lower": 5454.614375, "left_ci_upper": 5589.913541666667, "left_mean": 5522.141666666666, "mean_delta": -16.991666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5444.270416666666, "right_ci_upper": 5565.4418749999995, "right_mean": 5505.15, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.15555555555555556, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.15555555555555556, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222222, "left_mean": 0.6333333333333333, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777778, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.022222222222222223, "ci_upper": 0.16296296296296295, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.16296296296296295, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.16296296296296295, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.16296296296296295, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.16296296296296295, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.16296296296296295, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.16296296296296295, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.16296296296296295, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222223, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.37777777777777777, "left_mean": 0.28888888888888886, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.37777777777777777, "left_mean": 0.28888888888888886, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.37777777777777777, "left_mean": 0.28888888888888886, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.37777777777777777, "left_mean": 0.28888888888888886, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 81.00242893407994, "ci_upper": 125.27665009559615, "delta_ci_lower": 81.00242893407994, "delta_ci_upper": 125.27665009559615, "failure_count": 0, "left_ci_lower": 4838.490769426959, "left_ci_upper": 5159.939575374495, "left_mean": 4985.796515299201, "mean_delta": 102.0543149197086, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4938.418952318946, "right_ci_upper": 5264.841263136914, "right_mean": 5087.85083021891, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.0037037037037037034, "ci_upper": 0.08611111111111111, "delta_ci_lower": -0.0037037037037037034, "delta_ci_upper": 0.08611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407408, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.0037037037037037034, "ci_upper": 0.08611111111111111, "delta_ci_lower": -0.0037037037037037034, "delta_ci_upper": 0.08611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407408, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.0037037037037037034, "ci_upper": 0.08611111111111111, "delta_ci_lower": -0.0037037037037037034, "delta_ci_upper": 0.08611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407408, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.0037037037037037034, "ci_upper": 0.08611111111111111, "delta_ci_lower": -0.0037037037037037034, "delta_ci_upper": 0.08611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407408, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.022365184853312046, "ci_upper": 0.1525706082630365, "delta_ci_lower": -0.022365184853312046, "delta_ci_upper": 0.1525706082630365, "failure_count": 0, "left_ci_lower": 0.09818266294968804, "left_ci_upper": 0.22447895924598432, "left_mean": 0.15929377406079914, "mean_delta": 0.06423316196613688, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15075757575757576, "right_ci_upper": 0.29798190235690225, "right_mean": 0.22352693602693602, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.023841288471570143, "ci_upper": 0.13530386019822635, "delta_ci_lower": -0.023841288471570143, "delta_ci_upper": 0.13530386019822635, "failure_count": 0, "left_ci_lower": 0.148206507563902, "left_ci_upper": 0.2755754434011476, "left_mean": 0.21040688575899844, "mean_delta": 0.05513823682837767, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1936851199791341, "right_ci_upper": 0.3394242305685968, "right_mean": 0.2655451225873761, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -729.3306331738545, "ci_upper": 712.9913835549212, "delta_ci_lower": -729.3306331738545, "delta_ci_upper": 712.9913835549212, "failure_count": 0, "left_ci_lower": 40298.98093666653, "left_ci_upper": 41562.897264272295, "left_mean": 40930.445765044875, "mean_delta": -3.4194980046546135, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40374.268869549385, "right_ci_upper": 41471.359642262956, "right_mean": 40927.026267040215, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -86.94843212050077, "ci_upper": 100.0733535472092, "delta_ci_lower": -86.94843212050077, "delta_ci_upper": 100.0733535472092, "failure_count": 0, "left_ci_lower": 5731.482076160668, "left_ci_upper": 5890.379273604591, "left_mean": 5809.880125195618, "mean_delta": 6.411502347417837, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.397650625978, "right_ci_upper": 5886.094803077725, "right_mean": 5816.291627543036, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -95.16781755346895, "ci_upper": 77.9809177751695, "delta_ci_lower": -95.16781755346895, "delta_ci_upper": 77.9809177751695, "failure_count": 0, "left_ci_lower": 5439.23459246218, "left_ci_upper": 5583.044050273865, "left_mean": 5510.437663015127, "mean_delta": -9.010185185185183, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5433.289984350548, "right_ci_upper": 5568.085725091289, "right_mean": 5501.427477829942, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.14879526977087953, "ci_upper": 0.07770620842572044, "delta_ci_lower": -0.14879526977087953, "delta_ci_upper": 0.07770620842572044, "failure_count": 0, "left_ci_lower": 0.5120916481892092, "left_ci_upper": 0.7006060606060606, "left_mean": 0.605779748706578, "mean_delta": -0.03614190687361418, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4816430155210644, "right_ci_upper": 0.6587583148558759, "right_mean": 0.5696378418329638, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.040604028085735364, "ci_upper": 0.14650461936437548, "delta_ci_lower": -0.040604028085735364, "delta_ci_upper": 0.14650461936437548, "failure_count": 0, "left_ci_lower": 0.17933444198078344, "left_ci_upper": 0.35921655580192163, "left_mean": 0.2672727272727273, "mean_delta": 0.05252771618625277, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.040604028085735364, "ci_upper": 0.14650461936437548, "delta_ci_lower": -0.040604028085735364, "delta_ci_upper": 0.14650461936437548, "failure_count": 0, "left_ci_lower": 0.17933444198078344, "left_ci_upper": 0.35921655580192163, "left_mean": 0.2672727272727273, "mean_delta": 0.05252771618625277, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.040604028085735364, "ci_upper": 0.14650461936437548, "delta_ci_lower": -0.040604028085735364, "delta_ci_upper": 0.14650461936437548, "failure_count": 0, "left_ci_lower": 0.17933444198078344, "left_ci_upper": 0.35921655580192163, "left_mean": 0.2672727272727273, "mean_delta": 0.05252771618625277, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.040604028085735364, "ci_upper": 0.14650461936437548, "delta_ci_lower": -0.040604028085735364, "delta_ci_upper": 0.14650461936437548, "failure_count": 0, "left_ci_lower": 0.17933444198078344, "left_ci_upper": 0.35921655580192163, "left_mean": 0.2672727272727273, "mean_delta": 0.05252771618625277, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.22955635624538065, "right_ci_upper": 0.413769770879527, "right_mean": 0.31980044345898007, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.04489283074648929, "ci_upper": 0.1654988913525499, "delta_ci_lower": -0.04489283074648929, "delta_ci_upper": 0.1654988913525499, "failure_count": 0, "left_ci_lower": 0.19995565410199553, "left_ci_upper": 0.3874478935698446, "left_mean": 0.2919733924611973, "mean_delta": 0.059142645971914265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.04489283074648929, "ci_upper": 0.1654988913525499, "delta_ci_lower": -0.04489283074648929, "delta_ci_upper": 0.1654988913525499, "failure_count": 0, "left_ci_lower": 0.19995565410199553, "left_ci_upper": 0.3874478935698446, "left_mean": 0.2919733924611973, "mean_delta": 0.059142645971914265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.04489283074648929, "ci_upper": 0.1654988913525499, "delta_ci_lower": -0.04489283074648929, "delta_ci_upper": 0.1654988913525499, "failure_count": 0, "left_ci_lower": 0.19995565410199553, "left_ci_upper": 0.3874478935698446, "left_mean": 0.2919733924611973, "mean_delta": 0.059142645971914265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.04489283074648929, "ci_upper": 0.1654988913525499, "delta_ci_lower": -0.04489283074648929, "delta_ci_upper": 0.1654988913525499, "failure_count": 0, "left_ci_lower": 0.19995565410199553, "left_ci_upper": 0.3874478935698446, "left_mean": 0.2919733924611973, "mean_delta": 0.059142645971914265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2557427937915743, "right_ci_upper": 0.45111603843311154, "right_mean": 0.3511160384331116, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 77.46793474946192, "ci_upper": 131.5350207589512, "delta_ci_lower": 77.46793474946192, "delta_ci_upper": 131.5350207589512, "failure_count": 0, "left_ci_lower": 4875.793038895916, "left_ci_upper": 5276.558739071043, "left_mean": 5057.114943199876, "mean_delta": 102.90370106758236, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4976.872046304349, "right_ci_upper": 5379.45861465076, "right_mean": 5160.018644267458, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.011966124661246618, "ci_upper": 0.07617239467849224, "delta_ci_lower": -0.011966124661246618, "delta_ci_upper": 0.07617239467849224, "failure_count": 0, "left_ci_lower": 0.08455149051490515, "left_ci_upper": 0.17947591771372257, "left_mean": 0.13048534121704852, "mean_delta": 0.031581670362158164, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.011966124661246618, "ci_upper": 0.07617239467849224, "delta_ci_lower": -0.011966124661246618, "delta_ci_upper": 0.07617239467849224, "failure_count": 0, "left_ci_lower": 0.08455149051490515, "left_ci_upper": 0.17947591771372257, "left_mean": 0.13048534121704852, "mean_delta": 0.031581670362158164, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.011966124661246618, "ci_upper": 0.07617239467849224, "delta_ci_lower": -0.011966124661246618, "delta_ci_upper": 0.07617239467849224, "failure_count": 0, "left_ci_lower": 0.08455149051490515, "left_ci_upper": 0.17947591771372257, "left_mean": 0.13048534121704852, "mean_delta": 0.031581670362158164, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.011966124661246618, "ci_upper": 0.07617239467849224, "delta_ci_lower": -0.011966124661246618, "delta_ci_upper": 0.07617239467849224, "failure_count": 0, "left_ci_lower": 0.08455149051490515, "left_ci_upper": 0.17947591771372257, "left_mean": 0.13048534121704852, "mean_delta": 0.031581670362158164, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11202260408967725, "right_ci_upper": 0.21685957132298594, "right_mean": 0.1620670115792067, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.02364019656787697, "ci_upper": 0.15983000813754697, "delta_ci_lower": -0.02364019656787697, "delta_ci_upper": 0.15983000813754697, "failure_count": 0, "left_ci_lower": 0.10569109505757815, "left_ci_upper": 0.23825310434531513, "left_mean": 0.17007442375499024, "mean_delta": 0.0674690822585823, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16097554256534302, "right_ci_upper": 0.31551575623194245, "right_mean": 0.2375435060135725, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.2, "right_mean": 0.1, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -3238.108573848052, "ci_upper": -332.19300758665975, "delta_ci_lower": -3238.108573848052, "delta_ci_upper": -332.19300758665975, "failure_count": 0, "left_ci_lower": 40705.25714056731, "left_ci_upper": 43455.23202607049, "left_mean": 42077.48126109751, "mean_delta": -1762.965945744266, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39248.38216889456, "right_ci_upper": 41446.55933163653, "right_mean": 40314.51531535325, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -399.0066666666666, "ci_upper": -38.36333333333339, "delta_ci_lower": -399.0066666666666, "delta_ci_upper": -38.36333333333339, "failure_count": 0, "left_ci_lower": 5751.133333333333, "left_ci_upper": 6057.839999999999, "left_mean": 5906.433333333333, "mean_delta": -218.4, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5548.998333333333, "right_ci_upper": 5832.903333333333, "right_mean": 5688.033333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -370.7375, "ci_upper": -42.63166666666669, "delta_ci_lower": -370.7375, "delta_ci_upper": -42.63166666666669, "failure_count": 0, "left_ci_lower": 5446.565, "left_ci_upper": 5720.900833333332, "left_mean": 5586.9, "mean_delta": -206.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5248.896666666666, "right_ci_upper": 5517.740833333333, "right_mean": 5380.9, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.3, "delta_ci_lower": -0.1, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.23333333333333334, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.08333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.4166666666666667, "right_mean": 0.25, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.23333333333333334, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.08333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.4166666666666667, "right_mean": 0.25, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.23333333333333334, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.08333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.4166666666666667, "right_mean": 0.25, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.23333333333333334, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.08333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.4166666666666667, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 34.953755819976024, "ci_upper": 118.66325667632428, "delta_ci_lower": 34.953755819976024, "delta_ci_upper": 118.66325667632428, "failure_count": 0, "left_ci_lower": 4617.700102491654, "left_ci_upper": 5167.0838276974, "left_mean": 4885.917358302201, "mean_delta": 74.86400975224872, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4706.2517220230075, "right_ci_upper": 5224.088998584388, "right_mean": 4960.78136805445, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.09444444444444446, "ci_upper": 0.027777777777777776, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.027777777777777776, "failure_count": 0, "left_ci_lower": 0.08888888888888888, "left_ci_upper": 0.29444444444444445, "left_mean": 0.18333333333333332, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.05555555555555555, "right_ci_upper": 0.2611111111111111, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.09444444444444446, "ci_upper": 0.027777777777777776, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.027777777777777776, "failure_count": 0, "left_ci_lower": 0.08888888888888888, "left_ci_upper": 0.29444444444444445, "left_mean": 0.18333333333333332, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.05555555555555555, "right_ci_upper": 0.2611111111111111, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.09444444444444446, "ci_upper": 0.027777777777777776, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.027777777777777776, "failure_count": 0, "left_ci_lower": 0.08888888888888888, "left_ci_upper": 0.29444444444444445, "left_mean": 0.18333333333333332, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.05555555555555555, "right_ci_upper": 0.2611111111111111, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.09444444444444446, "ci_upper": 0.027777777777777776, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.027777777777777776, "failure_count": 0, "left_ci_lower": 0.08888888888888888, "left_ci_upper": 0.29444444444444445, "left_mean": 0.18333333333333332, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.05555555555555555, "right_ci_upper": 0.2611111111111111, "right_mean": 0.15, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.2, "right_mean": 0.1, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -191.89031199173746, "ci_upper": 2452.2944565596595, "delta_ci_lower": -191.89031199173746, "delta_ci_upper": 2452.2944565596595, "failure_count": 0, "left_ci_lower": 38937.381294226216, "left_ci_upper": 41065.43876045869, "left_mean": 39991.86321820598, "mean_delta": 1144.9082179538284, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40134.54672236772, "right_ci_upper": 42146.7557516438, "right_mean": 41136.77143615981, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 34.93333333333333, "ci_upper": 368.30499999999995, "delta_ci_lower": 34.93333333333333, "delta_ci_upper": 368.30499999999995, "failure_count": 0, "left_ci_lower": 5542.333333333333, "left_ci_upper": 5835.8675, "left_mean": 5685.866666666667, "mean_delta": 201.96666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5755.399166666666, "right_ci_upper": 6016.371666666667, "right_mean": 5887.833333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 3.228333333333378, "ci_upper": 319.66999999999996, "delta_ci_lower": 3.228333333333378, "delta_ci_upper": 319.66999999999996, "failure_count": 0, "left_ci_lower": 5282.126666666666, "left_ci_upper": 5550.939166666667, "left_mean": 5413.8, "mean_delta": 162.26666666666668, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5453.665000000001, "right_ci_upper": 5696.505, "right_mean": 5576.066666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.36666666666666664, "ci_upper": 0.1, "delta_ci_lower": -0.36666666666666664, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.08888888888888888, "ci_upper": 0.2388888888888889, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.2388888888888889, "failure_count": 0, "left_ci_lower": 0.08888888888888888, "left_ci_upper": 0.3777777777777778, "left_mean": 0.22222222222222224, "mean_delta": 0.07777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.15, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.08888888888888888, "ci_upper": 0.2388888888888889, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.2388888888888889, "failure_count": 0, "left_ci_lower": 0.08888888888888888, "left_ci_upper": 0.3777777777777778, "left_mean": 0.22222222222222224, "mean_delta": 0.07777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.15, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.08888888888888888, "ci_upper": 0.2388888888888889, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.2388888888888889, "failure_count": 0, "left_ci_lower": 0.08888888888888888, "left_ci_upper": 0.3777777777777778, "left_mean": 0.22222222222222224, "mean_delta": 0.07777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.15, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.08888888888888888, "ci_upper": 0.2388888888888889, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.2388888888888889, "failure_count": 0, "left_ci_lower": 0.08888888888888888, "left_ci_upper": 0.3777777777777778, "left_mean": 0.22222222222222224, "mean_delta": 0.07777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.15, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 84.85884176722419, "ci_upper": 221.48081030357082, "delta_ci_lower": 84.85884176722419, "delta_ci_upper": 221.48081030357082, "failure_count": 0, "left_ci_lower": 4562.051826929965, "left_ci_upper": 5613.96442765273, "left_mean": 5020.9204376015505, "mean_delta": 146.37544305296615, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4683.646637293276, "right_ci_upper": 5783.7115941943675, "right_mean": 5167.295880654517, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.041666666666666664, "ci_upper": 0.125, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.03611111111111111, "left_ci_upper": 0.14722222222222223, "left_mean": 0.08888888888888888, "mean_delta": 0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2, "right_mean": 0.12777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.041666666666666664, "ci_upper": 0.125, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.03611111111111111, "left_ci_upper": 0.14722222222222223, "left_mean": 0.08888888888888888, "mean_delta": 0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2, "right_mean": 0.12777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.041666666666666664, "ci_upper": 0.125, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.03611111111111111, "left_ci_upper": 0.14722222222222223, "left_mean": 0.08888888888888888, "mean_delta": 0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2, "right_mean": 0.12777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.041666666666666664, "ci_upper": 0.125, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.03611111111111111, "left_ci_upper": 0.14722222222222223, "left_mean": 0.08888888888888888, "mean_delta": 0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2, "right_mean": 0.12777777777777777, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.11353225353897389, "ci_upper": 0.29136930234242064, "delta_ci_lower": -0.11353225353897389, "delta_ci_upper": 0.29136930234242064, "failure_count": 0, "left_ci_lower": 0.2513181999203505, "left_ci_upper": 0.5798566308243728, "left_mean": 0.4112146555157308, "mean_delta": 0.09269948589841064, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3316919191919192, "right_ci_upper": 0.6705808080808081, "right_mean": 0.5039141414141414, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 123.0013407792045, "ci_upper": 2682.128632503057, "delta_ci_lower": 123.0013407792045, "delta_ci_upper": 2682.128632503057, "failure_count": 0, "left_ci_lower": 39534.56096899735, "left_ci_upper": 41490.9779236716, "left_mean": 40518.376019538846, "mean_delta": 1378.728659648914, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40944.60600238604, "right_ci_upper": 42884.21911723078, "right_mean": 41897.10467918776, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -26.104166666666632, "ci_upper": 315.1675, "delta_ci_lower": -26.104166666666632, "delta_ci_upper": 315.1675, "failure_count": 0, "left_ci_lower": 5643.8966666666665, "left_ci_upper": 5936.1050000000005, "left_mean": 5789.5, "mean_delta": 141.76666666666668, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5806.065, "right_ci_upper": 6055.100833333334, "right_mean": 5931.266666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -58.86916666666664, "ci_upper": 267.13999999999993, "delta_ci_lower": -58.86916666666664, "delta_ci_upper": 267.13999999999993, "failure_count": 0, "left_ci_lower": 5352.294166666667, "left_ci_upper": 5621.800833333334, "left_mean": 5486.466666666666, "mean_delta": 99.96666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5457.764166666667, "right_ci_upper": 5711.970833333333, "right_mean": 5586.433333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.7666666666666667, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": -0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.6333333333333333, "right_ci_upper": 0.9333333333333333, "right_mean": 0.8, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.05, "delta_ci_upper": 0.38333333333333336, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.38333333333333336, "left_mean": 0.23333333333333334, "mean_delta": 0.21666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.05, "delta_ci_upper": 0.38333333333333336, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.38333333333333336, "left_mean": 0.23333333333333334, "mean_delta": 0.21666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.05, "delta_ci_upper": 0.38333333333333336, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.38333333333333336, "left_mean": 0.23333333333333334, "mean_delta": 0.21666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.05, "delta_ci_upper": 0.38333333333333336, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.38333333333333336, "left_mean": 0.23333333333333334, "mean_delta": 0.21666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.06666666666666667, "ci_upper": 0.4, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.06666666666666667, "ci_upper": 0.4, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.06666666666666667, "ci_upper": 0.4, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.06666666666666667, "ci_upper": 0.4, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 58.78032645200923, "ci_upper": 107.06274289104233, "delta_ci_lower": 58.78032645200923, "delta_ci_upper": 107.06274289104233, "failure_count": 0, "left_ci_lower": 5536.7302608594755, "left_ci_upper": 6002.154727630259, "left_mean": 5764.640536085547, "mean_delta": 82.32477369019762, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5621.405848161279, "right_ci_upper": 6079.897986196447, "right_mean": 5846.965309775745, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.18333333333333332, "left_mean": 0.1111111111111111, "mean_delta": 0.11666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1388888888888889, "right_ci_upper": 0.3222222222222222, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.18333333333333332, "left_mean": 0.1111111111111111, "mean_delta": 0.11666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1388888888888889, "right_ci_upper": 0.3222222222222222, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.18333333333333332, "left_mean": 0.1111111111111111, "mean_delta": 0.11666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1388888888888889, "right_ci_upper": 0.3222222222222222, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.04444444444444444, "left_ci_upper": 0.18333333333333332, "left_mean": 0.1111111111111111, "mean_delta": 0.11666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1388888888888889, "right_ci_upper": 0.3222222222222222, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1948.1901666911037, "ci_upper": 436.46619271399663, "delta_ci_lower": -1948.1901666911037, "delta_ci_upper": 436.46619271399663, "failure_count": 0, "left_ci_lower": 40017.46717789996, "left_ci_upper": 41951.44779267304, "left_mean": 41011.035915308945, "mean_delta": -789.6521653436745, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39509.954919332515, "right_ci_upper": 40918.17285008496, "right_mean": 40221.383749965265, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -314.24249999999995, "ci_upper": 28.67499999999988, "delta_ci_lower": -314.24249999999995, "delta_ci_upper": 28.67499999999988, "failure_count": 0, "left_ci_lower": 5766.099166666668, "left_ci_upper": 6050.5008333333335, "left_mean": 5910.966666666666, "mean_delta": -146.56666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5670.065833333333, "right_ci_upper": 5856.635, "right_mean": 5764.4, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -281.93333333333334, "ci_upper": 39.76833333333331, "delta_ci_lower": -281.93333333333334, "delta_ci_upper": 39.76833333333331, "failure_count": 0, "left_ci_lower": 5467.4591666666665, "left_ci_upper": 5730.069166666666, "left_mean": 5601.4, "mean_delta": -124.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5385.828333333333, "right_ci_upper": 5566.701666666666, "right_mean": 5477.2, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": 80.45421752836167, "ci_upper": 131.7294397225487, "delta_ci_lower": 80.45421752836167, "delta_ci_upper": 131.7294397225487, "failure_count": 0, "left_ci_lower": 4136.259879195713, "left_ci_upper": 4401.325619132744, "left_mean": 4271.707729207507, "mean_delta": 104.65303318342194, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4237.134064804802, "right_ci_upper": 4509.705470774013, "right_mean": 4376.360762390929, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "left_regime": "native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.025, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.3333333333333333, "left_mean": 0.26666666666666666, "mean_delta": 0.05, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.39166666666666666, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -673.3463297484074, "ci_upper": 656.6758019402181, "delta_ci_lower": -673.3463297484074, "delta_ci_upper": 656.6758019402181, "failure_count": 0, "left_ci_lower": 40338.10420836458, "left_ci_upper": 41453.173268402825, "left_mean": 40899.68910353782, "mean_delta": -7.245308371299568, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40402.03109327558, "right_ci_upper": 41369.74620123753, "right_mean": 40892.443795166524, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -94.81854166666665, "ci_upper": 83.22749999999995, "delta_ci_lower": -94.81854166666665, "delta_ci_upper": 83.22749999999995, "failure_count": 0, "left_ci_lower": 5749.232291666667, "left_ci_upper": 5897.727083333334, "left_mean": 5823.191666666667, "mean_delta": -5.308333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5753.757291666667, "right_ci_upper": 5879.36875, "right_mean": 5817.883333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -99.68458333333334, "ci_upper": 65.60874999999999, "delta_ci_lower": -99.68458333333334, "delta_ci_upper": 65.60874999999999, "failure_count": 0, "left_ci_lower": 5454.614375, "left_ci_upper": 5589.913541666667, "left_mean": 5522.141666666666, "mean_delta": -16.991666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5444.270416666666, "right_ci_upper": 5565.4418749999995, "right_mean": 5505.15, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.15555555555555556, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.15555555555555556, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222222, "left_mean": 0.6333333333333333, "mean_delta": -0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777778, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.022222222222222223, "ci_upper": 0.16296296296296295, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.16296296296296295, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.16296296296296295, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.16296296296296295, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.16296296296296295, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.16296296296296295, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.16296296296296295, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.16296296296296295, "failure_count": 0, "left_ci_lower": 0.17777777777777778, "left_ci_upper": 0.35185185185185186, "left_mean": 0.26296296296296295, "mean_delta": 0.07037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.42777777777777776, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222223, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.37777777777777777, "left_mean": 0.28888888888888886, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.37777777777777777, "left_mean": 0.28888888888888886, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.37777777777777777, "left_mean": 0.28888888888888886, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.17777777777777778, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.37777777777777777, "left_mean": 0.28888888888888886, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 81.00242893407994, "ci_upper": 125.27665009559615, "delta_ci_lower": 81.00242893407994, "delta_ci_upper": 125.27665009559615, "failure_count": 0, "left_ci_lower": 4838.490769426959, "left_ci_upper": 5159.939575374495, "left_mean": 4985.796515299201, "mean_delta": 102.0543149197086, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4938.418952318946, "right_ci_upper": 5264.841263136914, "right_mean": 5087.85083021891, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.0037037037037037034, "ci_upper": 0.08611111111111111, "delta_ci_lower": -0.0037037037037037034, "delta_ci_upper": 0.08611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407408, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.0037037037037037034, "ci_upper": 0.08611111111111111, "delta_ci_lower": -0.0037037037037037034, "delta_ci_upper": 0.08611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407408, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.0037037037037037034, "ci_upper": 0.08611111111111111, "delta_ci_lower": -0.0037037037037037034, "delta_ci_upper": 0.08611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407408, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.0037037037037037034, "ci_upper": 0.08611111111111111, "delta_ci_lower": -0.0037037037037037034, "delta_ci_upper": 0.08611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.17407407407407408, "left_mean": 0.12777777777777777, "mean_delta": 0.04074074074074074, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11944444444444445, "right_ci_upper": 0.2222222222222222, "right_mean": 0.1685185185185185, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.022365184853312046, "ci_upper": 0.1525706082630365, "delta_ci_lower": -0.022365184853312046, "delta_ci_upper": 0.1525706082630365, "failure_count": 0, "left_ci_lower": 0.09818266294968804, "left_ci_upper": 0.22447895924598432, "left_mean": 0.15929377406079914, "mean_delta": 0.06423316196613688, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15075757575757576, "right_ci_upper": 0.29798190235690225, "right_mean": 0.22352693602693602, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_fade67868ef8d6d4b7d790eb", "builder_key": "qwen35_4b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.09166666666666667, "delta_ci_lower": -0.025, "delta_ci_upper": 0.09166666666666667, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.35833333333333334, "left_mean": 0.29166666666666663, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -825.6547270301962, "ci_upper": 513.3564659916251, "delta_ci_lower": -825.6547270301962, "delta_ci_upper": 513.3564659916251, "failure_count": 0, "left_ci_lower": 39750.57121856696, "left_ci_upper": 40831.632254658645, "left_mean": 40294.14576283307, "mean_delta": -162.19435306071924, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39623.10747207696, "right_ci_upper": 40623.97254997811, "right_mean": 40131.951409772344, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -111.57729166666665, "ci_upper": 85.11791666666664, "delta_ci_lower": -111.57729166666665, "delta_ci_upper": 85.11791666666664, "failure_count": 0, "left_ci_lower": 5655.4825, "left_ci_upper": 5803.716875, "left_mean": 5728.941666666667, "mean_delta": -13.366666666666669, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5644.624583333333, "right_ci_upper": 5783.555, "right_mean": 5715.575, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -95.88395833333333, "ci_upper": 89.4027083333333, "delta_ci_lower": -95.88395833333333, "delta_ci_upper": 89.4027083333333, "failure_count": 0, "left_ci_lower": 5334.6660416666655, "left_ci_upper": 5472.077708333333, "left_mean": 5403.625, "mean_delta": -3.566666666666668, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5332.9141666666665, "right_ci_upper": 5465.308541666666, "right_mean": 5400.058333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222223, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5777777777777778, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.32222222222222224, "left_mean": 0.2333333333333333, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.32222222222222224, "left_mean": 0.2333333333333333, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.32222222222222224, "left_mean": 0.2333333333333333, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.32222222222222224, "left_mean": 0.2333333333333333, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 73.36803565737988, "ci_upper": 116.88566201849122, "delta_ci_lower": 73.36803565737988, "delta_ci_upper": 116.88566201849122, "failure_count": 0, "left_ci_lower": 4870.1456050733395, "left_ci_upper": 5201.023199787814, "left_mean": 5023.3856312785065, "mean_delta": 96.08980548897914, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4968.591433946422, "right_ci_upper": 5298.826098208471, "right_mean": 5119.475436767486, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.061111111111111116, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.061111111111111116, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.061111111111111116, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.061111111111111116, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04375672938172934, "ci_upper": 0.0718578805453805, "delta_ci_lower": -0.04375672938172934, "delta_ci_upper": 0.0718578805453805, "failure_count": 0, "left_ci_lower": 0.09356902356902357, "left_ci_upper": 0.22359006734006734, "left_mean": 0.15581228956228957, "mean_delta": 0.012960604210604208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1058099308099308, "right_ci_upper": 0.23398148148148135, "right_mean": 0.16877289377289376, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.09166666666666666, "delta_ci_lower": -0.025, "delta_ci_upper": 0.09166666666666666, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.35833333333333334, "left_mean": 0.2916666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -825.6547270301962, "ci_upper": 513.3564659916251, "delta_ci_lower": -825.6547270301962, "delta_ci_upper": 513.3564659916251, "failure_count": 0, "left_ci_lower": 39750.57121856696, "left_ci_upper": 40831.632254658645, "left_mean": 40294.14576283307, "mean_delta": -162.19435306071924, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39623.107472076954, "right_ci_upper": 40623.97254997811, "right_mean": 40131.95140977235, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -111.57729166666665, "ci_upper": 85.11791666666664, "delta_ci_lower": -111.57729166666665, "delta_ci_upper": 85.11791666666664, "failure_count": 0, "left_ci_lower": 5655.4825, "left_ci_upper": 5803.716874999999, "left_mean": 5728.941666666667, "mean_delta": -13.366666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5644.624583333333, "right_ci_upper": 5783.555, "right_mean": 5715.575, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -95.88395833333333, "ci_upper": 89.40270833333331, "delta_ci_lower": -95.88395833333333, "delta_ci_upper": 89.40270833333331, "failure_count": 0, "left_ci_lower": 5334.666041666666, "left_ci_upper": 5472.077708333333, "left_mean": 5403.625, "mean_delta": -3.566666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5332.9141666666665, "right_ci_upper": 5465.308541666666, "right_mean": 5400.058333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222222, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5777777777777777, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.32222222222222224, "left_mean": 0.23333333333333334, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.32222222222222224, "left_mean": 0.23333333333333334, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.32222222222222224, "left_mean": 0.23333333333333334, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.32222222222222224, "left_mean": 0.23333333333333334, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 73.36803565737988, "ci_upper": 116.88566201849122, "delta_ci_lower": 73.36803565737988, "delta_ci_upper": 116.88566201849122, "failure_count": 0, "left_ci_lower": 4870.1456050733395, "left_ci_upper": 5201.023199787814, "left_mean": 5023.3856312785065, "mean_delta": 96.08980548897914, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4968.591433946422, "right_ci_upper": 5298.826098208471, "right_mean": 5119.475436767486, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04375672938172934, "ci_upper": 0.0718578805453805, "delta_ci_lower": -0.04375672938172934, "delta_ci_upper": 0.0718578805453805, "failure_count": 0, "left_ci_lower": 0.09356902356902358, "left_ci_upper": 0.22359006734006737, "left_mean": 0.15581228956228957, "mean_delta": 0.01296060421060421, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10580993080993081, "right_ci_upper": 0.23398148148148137, "right_mean": 0.16877289377289378, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.023056859676577987, "ci_upper": 0.08399843505477309, "delta_ci_lower": -0.023056859676577987, "delta_ci_upper": 0.08399843505477309, "failure_count": 0, "left_ci_lower": 0.15564749608763706, "left_ci_upper": 0.2800730307772561, "left_mean": 0.21558424621804903, "mean_delta": 0.029016692749087115, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.18265519040166928, "right_ci_upper": 0.30922078768909755, "right_mean": 0.24460093896713617, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -842.339237021311, "ci_upper": 551.6221793861655, "delta_ci_lower": -842.339237021311, "delta_ci_upper": 551.6221793861655, "failure_count": 0, "left_ci_lower": 39717.128606914695, "left_ci_upper": 40846.92162640593, "left_mean": 40287.147727438, "mean_delta": -154.72553828196925, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39601.39511322743, "right_ci_upper": 40660.16744200148, "right_mean": 40132.42218915603, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -121.87439945226916, "ci_upper": 81.84778755868525, "delta_ci_lower": -121.87439945226916, "delta_ci_upper": 81.84778755868525, "failure_count": 0, "left_ci_lower": 5648.22315108242, "left_ci_upper": 5802.376403560251, "left_mean": 5724.835824204486, "mean_delta": -19.678416797078782, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5630.877466092854, "right_ci_upper": 5777.387807120501, "right_mean": 5705.157407407407, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.06326681448632668, "ci_upper": 0.017235772357723576, "delta_ci_lower": -0.06326681448632668, "delta_ci_upper": 0.017235772357723576, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": -0.01668883961566888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.025853658536585365, "right_mean": 0.008617886178861788, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.06326681448632668, "ci_upper": 0.017235772357723576, "delta_ci_lower": -0.06326681448632668, "delta_ci_upper": 0.017235772357723576, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": -0.01668883961566888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.025853658536585365, "right_mean": 0.008617886178861788, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.06326681448632668, "ci_upper": 0.017235772357723576, "delta_ci_lower": -0.06326681448632668, "delta_ci_upper": 0.017235772357723576, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": -0.01668883961566888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.025853658536585365, "right_mean": 0.008617886178861788, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -102.74852732133542, "ci_upper": 88.07349243609796, "delta_ci_lower": -102.74852732133542, "delta_ci_upper": 88.07349243609796, "failure_count": 0, "left_ci_lower": 5330.513984415754, "left_ci_upper": 5473.691723721961, "left_mean": 5401.928677621284, "mean_delta": -6.285798122065733, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5326.18524256651, "right_ci_upper": 5463.5476147626505, "right_mean": 5395.642879499217, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06897265336289726, "ci_upper": 0.12127235772357721, "delta_ci_lower": -0.06897265336289726, "delta_ci_upper": 0.12127235772357721, "failure_count": 0, "left_ci_lower": 0.5241977087952697, "left_ci_upper": 0.711529933481153, "left_mean": 0.6178861788617886, "mean_delta": 0.025853658536585365, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5523577235772358, "right_ci_upper": 0.734530672579453, "right_mean": 0.643739837398374, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "failure_count": 0, "left_ci_lower": 0.14503079576250308, "left_ci_upper": 0.3199507267799951, "left_mean": 0.23008622813500865, "mean_delta": 0.06302537570830254, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "failure_count": 0, "left_ci_lower": 0.14503079576250308, "left_ci_upper": 0.3199507267799951, "left_mean": 0.23008622813500865, "mean_delta": 0.06302537570830254, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "failure_count": 0, "left_ci_lower": 0.14503079576250308, "left_ci_upper": 0.3199507267799951, "left_mean": 0.23008622813500865, "mean_delta": 0.06302537570830254, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "failure_count": 0, "left_ci_lower": 0.14503079576250308, "left_ci_upper": 0.3199507267799951, "left_mean": 0.23008622813500865, "mean_delta": 0.06302537570830254, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "failure_count": 0, "left_ci_lower": 0.15578603104212863, "left_ci_upper": 0.3379009608277901, "left_mean": 0.24484848484848482, "mean_delta": 0.0568810051736881, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "failure_count": 0, "left_ci_lower": 0.15578603104212863, "left_ci_upper": 0.3379009608277901, "left_mean": 0.24484848484848482, "mean_delta": 0.0568810051736881, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "failure_count": 0, "left_ci_lower": 0.15578603104212863, "left_ci_upper": 0.3379009608277901, "left_mean": 0.24484848484848482, "mean_delta": 0.0568810051736881, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "failure_count": 0, "left_ci_lower": 0.15578603104212863, "left_ci_upper": 0.3379009608277901, "left_mean": 0.24484848484848482, "mean_delta": 0.0568810051736881, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 66.16055343543928, "ci_upper": 116.8753594940828, "delta_ci_lower": 66.16055343543928, "delta_ci_upper": 116.8753594940828, "failure_count": 0, "left_ci_lower": 4901.489049700173, "left_ci_upper": 5309.518221388222, "left_mean": 5088.516784957568, "mean_delta": 93.01016618558914, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4998.0434402319, "right_ci_upper": 5406.059600531729, "right_mean": 5181.526951143158, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "failure_count": 0, "left_ci_lower": 0.06471760285784676, "left_ci_upper": 0.1546811406750431, "left_mean": 0.10788371520078836, "mean_delta": 0.017267799950726772, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "failure_count": 0, "left_ci_lower": 0.06471760285784676, "left_ci_upper": 0.1546811406750431, "left_mean": 0.10788371520078836, "mean_delta": 0.017267799950726772, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "failure_count": 0, "left_ci_lower": 0.06471760285784676, "left_ci_upper": 0.1546811406750431, "left_mean": 0.10788371520078836, "mean_delta": 0.017267799950726772, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "failure_count": 0, "left_ci_lower": 0.06471760285784676, "left_ci_upper": 0.1546811406750431, "left_mean": 0.10788371520078836, "mean_delta": 0.017267799950726772, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03500654696375317, "ci_upper": 0.08258483342230569, "delta_ci_lower": -0.03500654696375317, "delta_ci_upper": 0.08258483342230569, "failure_count": 0, "left_ci_lower": 0.09619313982396026, "left_ci_upper": 0.2263858093126386, "left_mean": 0.15881529261573607, "mean_delta": 0.021549545797882826, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11312641423617034, "right_ci_upper": 0.24900456860212958, "right_mean": 0.1803648384136189, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.09166666666666667, "delta_ci_lower": -0.025, "delta_ci_upper": 0.09166666666666667, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.35833333333333334, "left_mean": 0.29166666666666663, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -825.6547270301962, "ci_upper": 513.3564659916251, "delta_ci_lower": -825.6547270301962, "delta_ci_upper": 513.3564659916251, "failure_count": 0, "left_ci_lower": 39750.57121856696, "left_ci_upper": 40831.632254658645, "left_mean": 40294.14576283307, "mean_delta": -162.19435306071924, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39623.10747207696, "right_ci_upper": 40623.97254997811, "right_mean": 40131.951409772344, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -111.57729166666665, "ci_upper": 85.11791666666664, "delta_ci_lower": -111.57729166666665, "delta_ci_upper": 85.11791666666664, "failure_count": 0, "left_ci_lower": 5655.4825, "left_ci_upper": 5803.716875, "left_mean": 5728.941666666667, "mean_delta": -13.366666666666669, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5644.624583333333, "right_ci_upper": 5783.555, "right_mean": 5715.575, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -95.88395833333333, "ci_upper": 89.4027083333333, "delta_ci_lower": -95.88395833333333, "delta_ci_upper": 89.4027083333333, "failure_count": 0, "left_ci_lower": 5334.6660416666655, "left_ci_upper": 5472.077708333333, "left_mean": 5403.625, "mean_delta": -3.566666666666668, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5332.9141666666665, "right_ci_upper": 5465.308541666666, "right_mean": 5400.058333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222223, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5777777777777778, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.13888888888888887, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.32222222222222224, "left_mean": 0.2333333333333333, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.32222222222222224, "left_mean": 0.2333333333333333, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.32222222222222224, "left_mean": 0.2333333333333333, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.32222222222222224, "left_mean": 0.2333333333333333, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 73.36803565737988, "ci_upper": 116.88566201849122, "delta_ci_lower": 73.36803565737988, "delta_ci_upper": 116.88566201849122, "failure_count": 0, "left_ci_lower": 4870.1456050733395, "left_ci_upper": 5201.023199787814, "left_mean": 5023.3856312785065, "mean_delta": 96.08980548897914, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4968.591433946422, "right_ci_upper": 5298.826098208471, "right_mean": 5119.475436767486, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.061111111111111116, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.061111111111111116, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.061111111111111116, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.061111111111111116, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407405, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04375672938172934, "ci_upper": 0.0718578805453805, "delta_ci_lower": -0.04375672938172934, "delta_ci_upper": 0.0718578805453805, "failure_count": 0, "left_ci_lower": 0.09356902356902357, "left_ci_upper": 0.22359006734006734, "left_mean": 0.15581228956228957, "mean_delta": 0.012960604210604208, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1058099308099308, "right_ci_upper": 0.23398148148148135, "right_mean": 0.16877289377289376, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.09166666666666666, "delta_ci_lower": -0.025, "delta_ci_upper": 0.09166666666666666, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.35833333333333334, "left_mean": 0.2916666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -825.6547270301962, "ci_upper": 513.3564659916251, "delta_ci_lower": -825.6547270301962, "delta_ci_upper": 513.3564659916251, "failure_count": 0, "left_ci_lower": 39750.57121856696, "left_ci_upper": 40831.632254658645, "left_mean": 40294.14576283307, "mean_delta": -162.19435306071924, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39623.107472076954, "right_ci_upper": 40623.97254997811, "right_mean": 40131.95140977235, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -111.57729166666665, "ci_upper": 85.11791666666664, "delta_ci_lower": -111.57729166666665, "delta_ci_upper": 85.11791666666664, "failure_count": 0, "left_ci_lower": 5655.4825, "left_ci_upper": 5803.716874999999, "left_mean": 5728.941666666667, "mean_delta": -13.366666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5644.624583333333, "right_ci_upper": 5783.555, "right_mean": 5715.575, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -95.88395833333333, "ci_upper": 89.40270833333331, "delta_ci_lower": -95.88395833333333, "delta_ci_upper": 89.40270833333331, "failure_count": 0, "left_ci_lower": 5334.666041666666, "left_ci_upper": 5472.077708333333, "left_mean": 5403.625, "mean_delta": -3.566666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5332.9141666666665, "right_ci_upper": 5465.308541666666, "right_mean": 5400.058333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222222, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5777777777777777, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.32222222222222224, "left_mean": 0.23333333333333334, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.32222222222222224, "left_mean": 0.23333333333333334, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.32222222222222224, "left_mean": 0.23333333333333334, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.32222222222222224, "left_mean": 0.23333333333333334, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 73.36803565737988, "ci_upper": 116.88566201849122, "delta_ci_lower": 73.36803565737988, "delta_ci_upper": 116.88566201849122, "failure_count": 0, "left_ci_lower": 4870.1456050733395, "left_ci_upper": 5201.023199787814, "left_mean": 5023.3856312785065, "mean_delta": 96.08980548897914, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4968.591433946422, "right_ci_upper": 5298.826098208471, "right_mean": 5119.475436767486, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04375672938172934, "ci_upper": 0.0718578805453805, "delta_ci_lower": -0.04375672938172934, "delta_ci_upper": 0.0718578805453805, "failure_count": 0, "left_ci_lower": 0.09356902356902358, "left_ci_upper": 0.22359006734006737, "left_mean": 0.15581228956228957, "mean_delta": 0.01296060421060421, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10580993080993081, "right_ci_upper": 0.23398148148148137, "right_mean": 0.16877289377289378, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.023056859676577987, "ci_upper": 0.08399843505477309, "delta_ci_lower": -0.023056859676577987, "delta_ci_upper": 0.08399843505477309, "failure_count": 0, "left_ci_lower": 0.15564749608763706, "left_ci_upper": 0.2800730307772561, "left_mean": 0.21558424621804903, "mean_delta": 0.029016692749087115, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.18265519040166928, "right_ci_upper": 0.30922078768909755, "right_mean": 0.24460093896713617, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -842.339237021311, "ci_upper": 551.6221793861655, "delta_ci_lower": -842.339237021311, "delta_ci_upper": 551.6221793861655, "failure_count": 0, "left_ci_lower": 39717.128606914695, "left_ci_upper": 40846.92162640593, "left_mean": 40287.147727438, "mean_delta": -154.72553828196925, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39601.39511322743, "right_ci_upper": 40660.16744200148, "right_mean": 40132.42218915603, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -121.87439945226916, "ci_upper": 81.84778755868525, "delta_ci_lower": -121.87439945226916, "delta_ci_upper": 81.84778755868525, "failure_count": 0, "left_ci_lower": 5648.22315108242, "left_ci_upper": 5802.376403560251, "left_mean": 5724.835824204486, "mean_delta": -19.678416797078782, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5630.877466092854, "right_ci_upper": 5777.387807120501, "right_mean": 5705.157407407407, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.06326681448632668, "ci_upper": 0.017235772357723576, "delta_ci_lower": -0.06326681448632668, "delta_ci_upper": 0.017235772357723576, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": -0.01668883961566888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.025853658536585365, "right_mean": 0.008617886178861788, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.06326681448632668, "ci_upper": 0.017235772357723576, "delta_ci_lower": -0.06326681448632668, "delta_ci_upper": 0.017235772357723576, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": -0.01668883961566888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.025853658536585365, "right_mean": 0.008617886178861788, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.06326681448632668, "ci_upper": 0.017235772357723576, "delta_ci_lower": -0.06326681448632668, "delta_ci_upper": 0.017235772357723576, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": -0.01668883961566888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.025853658536585365, "right_mean": 0.008617886178861788, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -102.74852732133542, "ci_upper": 88.07349243609796, "delta_ci_lower": -102.74852732133542, "delta_ci_upper": 88.07349243609796, "failure_count": 0, "left_ci_lower": 5330.513984415754, "left_ci_upper": 5473.691723721961, "left_mean": 5401.928677621284, "mean_delta": -6.285798122065733, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5326.18524256651, "right_ci_upper": 5463.5476147626505, "right_mean": 5395.642879499217, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06897265336289726, "ci_upper": 0.12127235772357721, "delta_ci_lower": -0.06897265336289726, "delta_ci_upper": 0.12127235772357721, "failure_count": 0, "left_ci_lower": 0.5241977087952697, "left_ci_upper": 0.711529933481153, "left_mean": 0.6178861788617886, "mean_delta": 0.025853658536585365, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5523577235772358, "right_ci_upper": 0.734530672579453, "right_mean": 0.643739837398374, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "failure_count": 0, "left_ci_lower": 0.14503079576250308, "left_ci_upper": 0.3199507267799951, "left_mean": 0.23008622813500865, "mean_delta": 0.06302537570830254, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "failure_count": 0, "left_ci_lower": 0.14503079576250308, "left_ci_upper": 0.3199507267799951, "left_mean": 0.23008622813500865, "mean_delta": 0.06302537570830254, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "failure_count": 0, "left_ci_lower": 0.14503079576250308, "left_ci_upper": 0.3199507267799951, "left_mean": 0.23008622813500865, "mean_delta": 0.06302537570830254, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "failure_count": 0, "left_ci_lower": 0.14503079576250308, "left_ci_upper": 0.3199507267799951, "left_mean": 0.23008622813500865, "mean_delta": 0.06302537570830254, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20086363636363638, "right_ci_upper": 0.3879379157427938, "right_mean": 0.29311160384331114, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "failure_count": 0, "left_ci_lower": 0.15578603104212863, "left_ci_upper": 0.3379009608277901, "left_mean": 0.24484848484848482, "mean_delta": 0.0568810051736881, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "failure_count": 0, "left_ci_lower": 0.15578603104212863, "left_ci_upper": 0.3379009608277901, "left_mean": 0.24484848484848482, "mean_delta": 0.0568810051736881, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "failure_count": 0, "left_ci_lower": 0.15578603104212863, "left_ci_upper": 0.3379009608277901, "left_mean": 0.24484848484848482, "mean_delta": 0.0568810051736881, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "failure_count": 0, "left_ci_lower": 0.15578603104212863, "left_ci_upper": 0.3379009608277901, "left_mean": 0.24484848484848482, "mean_delta": 0.0568810051736881, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2086178861788618, "right_ci_upper": 0.3971914264597191, "right_mean": 0.3017294900221729, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 66.16055343543928, "ci_upper": 116.8753594940828, "delta_ci_lower": 66.16055343543928, "delta_ci_upper": 116.8753594940828, "failure_count": 0, "left_ci_lower": 4901.489049700173, "left_ci_upper": 5309.518221388222, "left_mean": 5088.516784957568, "mean_delta": 93.01016618558914, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4998.0434402319, "right_ci_upper": 5406.059600531729, "right_mean": 5181.526951143158, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "failure_count": 0, "left_ci_lower": 0.06471760285784676, "left_ci_upper": 0.1546811406750431, "left_mean": 0.10788371520078836, "mean_delta": 0.017267799950726772, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "failure_count": 0, "left_ci_lower": 0.06471760285784676, "left_ci_upper": 0.1546811406750431, "left_mean": 0.10788371520078836, "mean_delta": 0.017267799950726772, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "failure_count": 0, "left_ci_lower": 0.06471760285784676, "left_ci_upper": 0.1546811406750431, "left_mean": 0.10788371520078836, "mean_delta": 0.017267799950726772, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "failure_count": 0, "left_ci_lower": 0.06471760285784676, "left_ci_upper": 0.1546811406750431, "left_mean": 0.10788371520078836, "mean_delta": 0.017267799950726772, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08473256959842325, "right_ci_upper": 0.1664115545700911, "right_mean": 0.12515151515151512, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03500654696375317, "ci_upper": 0.08258483342230569, "delta_ci_lower": -0.03500654696375317, "delta_ci_upper": 0.08258483342230569, "failure_count": 0, "left_ci_lower": 0.09619313982396026, "left_ci_upper": 0.2263858093126386, "left_mean": 0.15881529261573607, "mean_delta": 0.021549545797882826, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11312641423617034, "right_ci_upper": 0.24900456860212958, "right_mean": 0.1803648384136189, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2154.5216467407104, "ci_upper": 413.373670655516, "delta_ci_lower": -2154.5216467407104, "delta_ci_upper": 413.373670655516, "failure_count": 0, "left_ci_lower": 39987.75080429972, "left_ci_upper": 42222.43603239757, "left_mean": 41108.77928329088, "mean_delta": -895.956866547931, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39164.287210248884, "right_ci_upper": 41337.22480587894, "right_mean": 40212.82241674295, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -348.5675, "ci_upper": -9.36166666666674, "delta_ci_lower": -348.5675, "delta_ci_upper": -9.36166666666674, "failure_count": 0, "left_ci_lower": 5696.1658333333335, "left_ci_upper": 5987.670833333334, "left_mean": 5840.5, "mean_delta": -178.03333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5522.296666666667, "right_ci_upper": 5811.066666666667, "right_mean": 5662.466666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -316.37249999999995, "ci_upper": 2.9341666666666546, "delta_ci_lower": -316.37249999999995, "delta_ci_upper": 2.9341666666666546, "failure_count": 0, "left_ci_lower": 5374.223333333334, "left_ci_upper": 5655.903333333333, "left_mean": 5515.233333333334, "mean_delta": -154.93333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5227.556666666667, "right_ci_upper": 5501.7, "right_mean": 5360.3, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.2, "ci_upper": 0.2, "delta_ci_lower": -0.2, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.9, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.09444444444444446, "ci_upper": 0.18333333333333332, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.18333333333333332, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.4166666666666667, "left_mean": 0.2611111111111111, "mean_delta": 0.03888888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.09444444444444446, "ci_upper": 0.18333333333333332, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.18333333333333332, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.4166666666666667, "left_mean": 0.2611111111111111, "mean_delta": 0.03888888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.09444444444444446, "ci_upper": 0.18333333333333332, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.18333333333333332, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.4166666666666667, "left_mean": 0.2611111111111111, "mean_delta": 0.03888888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.09444444444444446, "ci_upper": 0.18333333333333332, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.18333333333333332, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.4166666666666667, "left_mean": 0.2611111111111111, "mean_delta": 0.03888888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 118.06248939033443, "ci_upper": 167.66996972010625, "delta_ci_lower": 118.06248939033443, "delta_ci_upper": 167.66996972010625, "failure_count": 0, "left_ci_lower": 4589.893785346843, "left_ci_upper": 5129.447176649022, "left_mean": 4853.660816734191, "mean_delta": 142.43790679999316, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4731.759292581119, "right_ci_upper": 5271.073327234868, "right_mean": 4996.0987235341845, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.11666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.11666666666666667, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.07777777777777777, "left_ci_upper": 0.2833333333333333, "left_mean": 0.17222222222222222, "mean_delta": -0.03888888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2111111111111111, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.11666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.11666666666666667, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.07777777777777777, "left_ci_upper": 0.2833333333333333, "left_mean": 0.17222222222222222, "mean_delta": -0.03888888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2111111111111111, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.11666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.11666666666666667, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.07777777777777777, "left_ci_upper": 0.2833333333333333, "left_mean": 0.17222222222222222, "mean_delta": -0.03888888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2111111111111111, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.11666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.11666666666666667, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.07777777777777777, "left_ci_upper": 0.2833333333333333, "left_mean": 0.17222222222222222, "mean_delta": -0.03888888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.2111111111111111, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1223.9680754527215, "ci_upper": 1565.31775542467, "delta_ci_lower": -1223.9680754527215, "delta_ci_upper": 1565.31775542467, "failure_count": 0, "left_ci_lower": 38375.48370893531, "left_ci_upper": 40480.95331847124, "left_mean": 39387.81269860143, "mean_delta": 219.70738201246908, "missing_count": 0, "paired_count": 30, "right_ci_lower": 38774.9192027833, "right_ci_upper": 40447.97303568183, "right_mean": 39607.520080613904, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -202.0358333333333, "ci_upper": 214.16666666666666, "delta_ci_lower": -202.0358333333333, "delta_ci_upper": 214.16666666666666, "failure_count": 0, "left_ci_lower": 5491.795, "left_ci_upper": 5797.235833333333, "left_mean": 5637.7, "mean_delta": 13.666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5531.395833333333, "right_ci_upper": 5772.571666666666, "right_mean": 5651.366666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -164.8741666666666, "ci_upper": 222.7008333333333, "delta_ci_lower": -164.8741666666666, "delta_ci_upper": 222.7008333333333, "failure_count": 0, "left_ci_lower": 5187.3966666666665, "left_ci_upper": 5464.6675000000005, "left_mean": 5320.3, "mean_delta": 35.43333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5244.130833333333, "right_ci_upper": 5470.434166666667, "right_mean": 5355.733333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -51.66173096629785, "ci_upper": 91.3294839975424, "delta_ci_lower": -51.66173096629785, "delta_ci_upper": 91.3294839975424, "failure_count": 0, "left_ci_lower": 4630.936518100401, "left_ci_upper": 5730.252329928722, "left_mean": 5110.874234772443, "mean_delta": 26.216341527954985, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4669.666640048188, "right_ci_upper": 5746.149062061643, "right_mean": 5137.0905763003975, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.125, "left_mean": 0.07777777777777777, "mean_delta": -0.002777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.027777777777777776, "right_ci_upper": 0.12777777777777777, "right_mean": 0.075, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.125, "left_mean": 0.07777777777777777, "mean_delta": -0.002777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.027777777777777776, "right_ci_upper": 0.12777777777777777, "right_mean": 0.075, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.125, "left_mean": 0.07777777777777777, "mean_delta": -0.002777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.027777777777777776, "right_ci_upper": 0.12777777777777777, "right_mean": 0.075, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.125, "left_mean": 0.07777777777777777, "mean_delta": -0.002777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.027777777777777776, "right_ci_upper": 0.12777777777777777, "right_mean": 0.075, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05476960539460532, "ci_upper": 0.21159803737928734, "delta_ci_lower": -0.05476960539460532, "delta_ci_upper": 0.21159803737928734, "failure_count": 0, "left_ci_lower": 0.2049368686868687, "left_ci_upper": 0.5374368686868688, "left_mean": 0.3674368686868687, "mean_delta": 0.07221514596514596, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2753357753357753, "right_ci_upper": 0.6121825396825397, "right_mean": 0.43965201465201464, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -550.4627550264315, "ci_upper": 1823.9347714902633, "delta_ci_lower": -550.4627550264315, "delta_ci_upper": 1823.9347714902633, "failure_count": 0, "left_ci_lower": 39371.84793698921, "left_ci_upper": 41316.1319555153, "left_mean": 40282.63138607921, "mean_delta": 652.1641291988393, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39792.7832085162, "right_ci_upper": 42098.29478869544, "right_mean": 40934.79551527804, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 9.065000000000014, "ci_upper": 393.5724999999999, "delta_ci_lower": 9.065000000000014, "delta_ci_upper": 393.5724999999999, "failure_count": 0, "left_ci_lower": 5531.795833333334, "left_ci_upper": 5758.370833333333, "left_mean": 5638.8, "mean_delta": 204.13333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5685.764166666666, "right_ci_upper": 6000.436666666667, "right_mean": 5842.933333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 12.592500000000065, "ci_upper": 374.6675, "delta_ci_lower": 12.592500000000065, "delta_ci_upper": 374.6675, "failure_count": 0, "left_ci_lower": 5223.065833333333, "left_ci_upper": 5430.300833333334, "left_mean": 5320.766666666666, "mean_delta": 198.46666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5372.183333333333, "right_ci_upper": 5666.766666666666, "right_mean": 5519.233333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.1, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.1, "delta_ci_upper": 0.38333333333333336, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.1, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.1, "delta_ci_upper": 0.38333333333333336, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.1, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.1, "delta_ci_upper": 0.38333333333333336, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.1, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.1, "delta_ci_upper": 0.38333333333333336, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.1, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.1, "delta_ci_upper": 0.43333333333333335, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.26666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.1, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.1, "delta_ci_upper": 0.43333333333333335, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.26666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.1, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.1, "delta_ci_upper": 0.43333333333333335, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.26666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.1, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.1, "delta_ci_upper": 0.43333333333333335, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.26666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 85.0629573824699, "ci_upper": 124.1368326427376, "delta_ci_lower": 85.0629573824699, "delta_ci_upper": 124.1368326427376, "failure_count": 0, "left_ci_lower": 5555.358046344481, "left_ci_upper": 6030.276319297069, "left_mean": 5787.980915237374, "mean_delta": 104.56526525085792, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5660.548337416064, "right_ci_upper": 6133.193566510841, "right_mean": 5892.546180488232, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.06111111111111111, "ci_upper": 0.2, "delta_ci_lower": 0.06111111111111111, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.01111111111111111, "left_ci_upper": 0.11111111111111112, "left_mean": 0.05555555555555555, "mean_delta": 0.12777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.2833333333333333, "right_mean": 0.18333333333333332, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.06111111111111111, "ci_upper": 0.2, "delta_ci_lower": 0.06111111111111111, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.01111111111111111, "left_ci_upper": 0.11111111111111112, "left_mean": 0.05555555555555555, "mean_delta": 0.12777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.2833333333333333, "right_mean": 0.18333333333333332, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.06111111111111111, "ci_upper": 0.2, "delta_ci_lower": 0.06111111111111111, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.01111111111111111, "left_ci_upper": 0.11111111111111112, "left_mean": 0.05555555555555555, "mean_delta": 0.12777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.2833333333333333, "right_mean": 0.18333333333333332, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.06111111111111111, "ci_upper": 0.2, "delta_ci_lower": 0.06111111111111111, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.01111111111111111, "left_ci_upper": 0.11111111111111112, "left_mean": 0.05555555555555555, "mean_delta": 0.12777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.2833333333333333, "right_mean": 0.18333333333333332, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2050.9619282228714, "ci_upper": 813.0546078170297, "delta_ci_lower": -2050.9619282228714, "delta_ci_upper": 813.0546078170297, "failure_count": 0, "left_ci_lower": 39244.33150157459, "left_ci_upper": 41597.41681868482, "left_mean": 40397.35968336075, "mean_delta": -624.6920569062544, "missing_count": 0, "paired_count": 30, "right_ci_lower": 38902.182918534185, "right_ci_upper": 40685.73406244143, "right_mean": 39772.667626454495, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -300.1341666666666, "ci_upper": 116.54833333333312, "delta_ci_lower": -300.1341666666666, "delta_ci_upper": 116.54833333333312, "failure_count": 0, "left_ci_lower": 5630.8324999999995, "left_ci_upper": 5974.1375, "left_mean": 5798.766666666666, "mean_delta": -93.23333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5578.865, "right_ci_upper": 5836.202499999999, "right_mean": 5705.533333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -288.3716666666666, "ci_upper": 106.13916666666658, "delta_ci_lower": -288.3716666666666, "delta_ci_upper": 106.13916666666658, "failure_count": 0, "left_ci_lower": 5309.498333333333, "left_ci_upper": 5616.233333333334, "left_mean": 5458.2, "mean_delta": -93.23333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5241.099166666667, "right_ci_upper": 5495.335, "right_mean": 5364.966666666666, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": 78.26843917253427, "ci_upper": 148.03875616674, "delta_ci_lower": 78.26843917253427, "delta_ci_upper": 148.03875616674, "failure_count": 0, "left_ci_lower": 4200.995357613914, "left_ci_upper": 4477.23953148224, "left_mean": 4341.026558370019, "mean_delta": 111.13970837711047, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4309.908050546073, "right_ci_upper": 4589.527891122464, "right_mean": 4452.166266747129, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "left_regime": "native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.09166666666666666, "delta_ci_lower": -0.025, "delta_ci_upper": 0.09166666666666666, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.35833333333333334, "left_mean": 0.2916666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -825.6547270301962, "ci_upper": 513.3564659916251, "delta_ci_lower": -825.6547270301962, "delta_ci_upper": 513.3564659916251, "failure_count": 0, "left_ci_lower": 39750.57121856696, "left_ci_upper": 40831.632254658645, "left_mean": 40294.14576283307, "mean_delta": -162.19435306071924, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39623.107472076954, "right_ci_upper": 40623.97254997811, "right_mean": 40131.95140977235, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -111.57729166666665, "ci_upper": 85.11791666666664, "delta_ci_lower": -111.57729166666665, "delta_ci_upper": 85.11791666666664, "failure_count": 0, "left_ci_lower": 5655.4825, "left_ci_upper": 5803.716874999999, "left_mean": 5728.941666666667, "mean_delta": -13.366666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5644.624583333333, "right_ci_upper": 5783.555, "right_mean": 5715.575, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -95.88395833333333, "ci_upper": 89.40270833333331, "delta_ci_lower": -95.88395833333333, "delta_ci_upper": 89.40270833333331, "failure_count": 0, "left_ci_lower": 5334.666041666666, "left_ci_upper": 5472.077708333333, "left_mean": 5403.625, "mean_delta": -3.566666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5332.9141666666665, "right_ci_upper": 5465.308541666666, "right_mean": 5400.058333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.5444444444444444, "left_ci_upper": 0.7222222222222222, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5777777777777777, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "failure_count": 0, "left_ci_lower": 0.1388888888888889, "left_ci_upper": 0.3055555555555556, "left_mean": 0.22037037037037036, "mean_delta": 0.07962962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2111111111111111, "right_ci_upper": 0.39444444444444443, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.32222222222222224, "left_mean": 0.23333333333333334, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.32222222222222224, "left_mean": 0.23333333333333334, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.32222222222222224, "left_mean": 0.23333333333333334, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.32222222222222224, "left_mean": 0.23333333333333334, "mean_delta": 0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4111111111111111, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 73.36803565737988, "ci_upper": 116.88566201849122, "delta_ci_lower": 73.36803565737988, "delta_ci_upper": 116.88566201849122, "failure_count": 0, "left_ci_lower": 4870.1456050733395, "left_ci_upper": 5201.023199787814, "left_mean": 5023.3856312785065, "mean_delta": 96.08980548897914, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4968.591433946422, "right_ci_upper": 5298.826098208471, "right_mean": 5119.475436767486, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.14629629629629629, "left_mean": 0.10185185185185185, "mean_delta": 0.0287037037037037, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08888888888888889, "right_ci_upper": 0.17407407407407408, "right_mean": 0.13055555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04375672938172934, "ci_upper": 0.0718578805453805, "delta_ci_lower": -0.04375672938172934, "delta_ci_upper": 0.0718578805453805, "failure_count": 0, "left_ci_lower": 0.09356902356902358, "left_ci_upper": 0.22359006734006737, "left_mean": 0.15581228956228957, "mean_delta": 0.01296060421060421, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10580993080993081, "right_ci_upper": 0.23398148148148137, "right_mean": 0.16877289377289378, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_098496a4a666032d4809338b", "builder_key": "qwen35_9b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.008333333333333335, "ci_upper": 0.125, "delta_ci_lower": -0.008333333333333335, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.35, "left_mean": 0.2833333333333333, "mean_delta": 0.058333333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.4, "right_mean": 0.3416666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 252.5795400557642, "ci_upper": 1516.8851235691543, "delta_ci_lower": 252.5795400557642, "delta_ci_upper": 1516.8851235691543, "failure_count": 0, "left_ci_lower": 39795.66939182831, "left_ci_upper": 40779.87758686841, "left_mean": 40285.01281493324, "mean_delta": 891.6559496865375, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.80112950363, "right_ci_upper": 41713.197493380045, "right_mean": 41176.668764619775, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -40.23375, "ci_upper": 139.03437499999998, "delta_ci_lower": -40.23375, "delta_ci_upper": 139.03437499999998, "failure_count": 0, "left_ci_lower": 5645.21625, "left_ci_upper": 5777.133333333333, "left_mean": 5710.691666666667, "mean_delta": 49.10833333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5689.199166666666, "right_ci_upper": 5831.044375, "right_mean": 5759.8, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -48.700625, "ci_upper": 119.50854166666666, "delta_ci_lower": -48.700625, "delta_ci_upper": 119.50854166666666, "failure_count": 0, "left_ci_lower": 5374.614791666667, "left_ci_upper": 5496.2335416666665, "left_mean": 5435.308333333333, "mean_delta": 35.31666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5406.029375, "right_ci_upper": 5534.316875, "right_mean": 5470.625, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666666, "left_mean": 0.6777777777777777, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7777777777777778, "right_mean": 0.6888888888888888, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.011111111111111105, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111105, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.25555555555555554, "left_mean": 0.1722222222222222, "mean_delta": 0.08703703703703702, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.011111111111111105, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111105, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.25555555555555554, "left_mean": 0.1722222222222222, "mean_delta": 0.08703703703703702, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.011111111111111105, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111105, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.25555555555555554, "left_mean": 0.1722222222222222, "mean_delta": 0.08703703703703702, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.011111111111111105, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111105, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.25555555555555554, "left_mean": 0.1722222222222222, "mean_delta": 0.08703703703703702, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.04444444444444443, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.04444444444444443, "delta_ci_upper": 0.2333333333333333, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.04444444444444443, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.04444444444444443, "delta_ci_upper": 0.2333333333333333, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.04444444444444443, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.04444444444444443, "delta_ci_upper": 0.2333333333333333, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.04444444444444443, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.04444444444444443, "delta_ci_upper": 0.2333333333333333, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -10.904770181393054, "ci_upper": 34.453490388502054, "delta_ci_lower": -10.904770181393054, "delta_ci_upper": 34.453490388502054, "failure_count": 0, "left_ci_lower": 4936.541536330382, "left_ci_upper": 5275.773601573188, "left_mean": 5091.637121876313, "mean_delta": 12.90898056856046, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4954.662945094412, "right_ci_upper": 5281.782615681876, "right_mean": 5104.546102444874, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037037, "mean_delta": 0.05462962962962962, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037037, "mean_delta": 0.05462962962962962, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037037, "mean_delta": 0.05462962962962962, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037037, "mean_delta": 0.05462962962962962, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06058259313115493, "ci_upper": 0.09707051149044611, "delta_ci_lower": -0.06058259313115493, "delta_ci_upper": 0.09707051149044611, "failure_count": 0, "left_ci_lower": 0.08625781159059556, "left_ci_upper": 0.22404670680532748, "left_mean": 0.1512871542663632, "mean_delta": 0.01867169347026232, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10369341563786016, "right_ci_upper": 0.2366255144032922, "right_mean": 0.1699588477366255, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.125, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.35, "left_mean": 0.2833333333333333, "mean_delta": 0.058333333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.4, "right_mean": 0.3416666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 252.57954005576423, "ci_upper": 1516.8851235691543, "delta_ci_lower": 252.57954005576423, "delta_ci_upper": 1516.8851235691543, "failure_count": 0, "left_ci_lower": 39795.66939182831, "left_ci_upper": 40779.87758686841, "left_mean": 40285.01281493324, "mean_delta": 891.6559496865375, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.80112950363, "right_ci_upper": 41713.197493380045, "right_mean": 41176.668764619775, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -40.23375, "ci_upper": 139.03437499999998, "delta_ci_lower": -40.23375, "delta_ci_upper": 139.03437499999998, "failure_count": 0, "left_ci_lower": 5645.2162499999995, "left_ci_upper": 5777.133333333333, "left_mean": 5710.691666666667, "mean_delta": 49.108333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5689.199166666666, "right_ci_upper": 5831.044375, "right_mean": 5759.8, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -48.700625, "ci_upper": 119.50854166666667, "delta_ci_lower": -48.700625, "delta_ci_upper": 119.50854166666667, "failure_count": 0, "left_ci_lower": 5374.614791666667, "left_ci_upper": 5496.2335416666665, "left_mean": 5435.308333333333, "mean_delta": 35.31666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5406.029375, "right_ci_upper": 5534.316875, "right_mean": 5470.625, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.1, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6777777777777778, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7777777777777778, "right_mean": 0.6888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25555555555555554, "left_mean": 0.17222222222222222, "mean_delta": 0.08703703703703704, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25555555555555554, "left_mean": 0.17222222222222222, "mean_delta": 0.08703703703703704, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25555555555555554, "left_mean": 0.17222222222222222, "mean_delta": 0.08703703703703704, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25555555555555554, "left_mean": 0.17222222222222222, "mean_delta": 0.08703703703703704, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.044444444444444446, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.044444444444444446, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.044444444444444446, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.044444444444444446, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.044444444444444446, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.044444444444444446, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.044444444444444446, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.044444444444444446, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -10.904770181393053, "ci_upper": 34.453490388502054, "delta_ci_lower": -10.904770181393053, "delta_ci_upper": 34.453490388502054, "failure_count": 0, "left_ci_lower": 4936.541536330382, "left_ci_upper": 5275.773601573188, "left_mean": 5091.637121876313, "mean_delta": 12.90898056856046, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4954.662945094412, "right_ci_upper": 5281.782615681876, "right_mean": 5104.546102444874, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037036, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037036, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037036, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037036, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06058259313115494, "ci_upper": 0.09707051149044613, "delta_ci_lower": -0.06058259313115494, "delta_ci_upper": 0.09707051149044613, "failure_count": 0, "left_ci_lower": 0.08625781159059558, "left_ci_upper": 0.2240467068053275, "left_mean": 0.1512871542663632, "mean_delta": 0.018671693470262322, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10369341563786018, "right_ci_upper": 0.2366255144032922, "right_mean": 0.1699588477366255, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.02744033646322377, "ci_upper": 0.1276741001564945, "delta_ci_lower": -0.02744033646322377, "delta_ci_upper": 0.1276741001564945, "failure_count": 0, "left_ci_lower": 0.14655712050078248, "left_ci_upper": 0.2764374673969744, "left_mean": 0.2090245174752217, "mean_delta": 0.0501434533124674, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.19504434011476265, "right_ci_upper": 0.32454681794470525, "right_mean": 0.2591679707876891, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 86.08537936761292, "ci_upper": 1458.6941087372445, "delta_ci_lower": 86.08537936761292, "delta_ci_upper": 1458.6941087372445, "failure_count": 0, "left_ci_lower": 39630.46230666473, "left_ci_upper": 40651.731268376425, "left_mean": 40134.950968080855, "mean_delta": 772.983071787001, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40330.90295465038, "right_ci_upper": 41495.95189841903, "right_mean": 40907.934039867854, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -18.651255216484074, "ci_upper": 184.29399452269166, "delta_ci_lower": -18.651255216484074, "delta_ci_upper": 184.29399452269166, "failure_count": 0, "left_ci_lower": 5607.973663275952, "left_ci_upper": 5745.2616999217535, "left_mean": 5675.6570292123115, "mean_delta": 82.25136932707355, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5679.947118218571, "right_ci_upper": 5837.096834572249, "right_mean": 5757.9083985393845, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03796008869179601, "right_mean": 0.012653362897265335, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03796008869179601, "right_mean": 0.012653362897265335, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03796008869179601, "right_mean": 0.012653362897265335, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -27.195014019300974, "ci_upper": 163.3550668362024, "delta_ci_lower": -27.195014019300974, "delta_ci_upper": 163.3550668362024, "failure_count": 0, "left_ci_lower": 5340.370498174231, "left_ci_upper": 5466.523474830465, "left_mean": 5402.9018257694315, "mean_delta": 67.57261345852895, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5399.557828964527, "right_ci_upper": 5542.221047535212, "right_mean": 5470.474439227961, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08567368810051726, "ci_upper": 0.09655691056910568, "delta_ci_lower": -0.08567368810051726, "delta_ci_upper": 0.09655691056910568, "failure_count": 0, "left_ci_lower": 0.560918699186992, "left_ci_upper": 0.751219512195122, "left_mean": 0.6586548410938654, "mean_delta": 0.005764966740576495, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5713662232076866, "right_ci_upper": 0.7558019216555801, "right_mean": 0.6644198078344419, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.004050997782705093, "ci_upper": 0.16229878048780486, "delta_ci_lower": -0.004050997782705093, "delta_ci_upper": 0.16229878048780486, "failure_count": 0, "left_ci_lower": 0.09938839615668901, "left_ci_upper": 0.2560532150776053, "left_mean": 0.17328898743532892, "mean_delta": 0.07810051736881003, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.004050997782705093, "ci_upper": 0.16229878048780486, "delta_ci_lower": -0.004050997782705093, "delta_ci_upper": 0.16229878048780486, "failure_count": 0, "left_ci_lower": 0.09938839615668901, "left_ci_upper": 0.2560532150776053, "left_mean": 0.17328898743532892, "mean_delta": 0.07810051736881003, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.004050997782705093, "ci_upper": 0.16229878048780486, "delta_ci_lower": -0.004050997782705093, "delta_ci_upper": 0.16229878048780486, "failure_count": 0, "left_ci_lower": 0.09938839615668901, "left_ci_upper": 0.2560532150776053, "left_mean": 0.17328898743532892, "mean_delta": 0.07810051736881003, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.004050997782705093, "ci_upper": 0.16229878048780486, "delta_ci_lower": -0.004050997782705093, "delta_ci_upper": 0.16229878048780486, "failure_count": 0, "left_ci_lower": 0.09938839615668901, "left_ci_upper": 0.2560532150776053, "left_mean": 0.17328898743532892, "mean_delta": 0.07810051736881003, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.02467110125646711, "ci_upper": 0.22000073909830006, "delta_ci_lower": 0.02467110125646711, "delta_ci_upper": 0.22000073909830006, "failure_count": 0, "left_ci_lower": 0.10344419807834443, "left_ci_upper": 0.26446156688839595, "left_mean": 0.179320029563932, "mean_delta": 0.12004434589800443, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.02467110125646711, "ci_upper": 0.22000073909830006, "delta_ci_lower": 0.02467110125646711, "delta_ci_upper": 0.22000073909830006, "failure_count": 0, "left_ci_lower": 0.10344419807834443, "left_ci_upper": 0.26446156688839595, "left_mean": 0.179320029563932, "mean_delta": 0.12004434589800443, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.02467110125646711, "ci_upper": 0.22000073909830006, "delta_ci_lower": 0.02467110125646711, "delta_ci_upper": 0.22000073909830006, "failure_count": 0, "left_ci_lower": 0.10344419807834443, "left_ci_upper": 0.26446156688839595, "left_mean": 0.179320029563932, "mean_delta": 0.12004434589800443, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.02467110125646711, "ci_upper": 0.22000073909830006, "delta_ci_lower": 0.02467110125646711, "delta_ci_upper": 0.22000073909830006, "failure_count": 0, "left_ci_lower": 0.10344419807834443, "left_ci_upper": 0.26446156688839595, "left_mean": 0.179320029563932, "mean_delta": 0.12004434589800443, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1.6140715035045405, "ci_upper": 38.00522337703758, "delta_ci_lower": -1.6140715035045405, "delta_ci_upper": 38.00522337703758, "failure_count": 0, "left_ci_lower": 4964.486672077949, "left_ci_upper": 5381.880955745734, "left_mean": 5152.567219002793, "mean_delta": 18.384040741475037, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4989.231727776008, "right_ci_upper": 5392.404409806404, "right_mean": 5170.951259744268, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.010816210889381636, "ci_upper": 0.08997782705099767, "delta_ci_lower": 0.010816210889381636, "delta_ci_upper": 0.08997782705099767, "failure_count": 0, "left_ci_lower": 0.039893508253264355, "left_ci_upper": 0.1061889627987189, "left_mean": 0.071180093619118, "mean_delta": 0.04954668637595466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.010816210889381636, "ci_upper": 0.08997782705099767, "delta_ci_lower": 0.010816210889381636, "delta_ci_upper": 0.08997782705099767, "failure_count": 0, "left_ci_lower": 0.039893508253264355, "left_ci_upper": 0.1061889627987189, "left_mean": 0.071180093619118, "mean_delta": 0.04954668637595466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.010816210889381636, "ci_upper": 0.08997782705099767, "delta_ci_lower": 0.010816210889381636, "delta_ci_upper": 0.08997782705099767, "failure_count": 0, "left_ci_lower": 0.039893508253264355, "left_ci_upper": 0.1061889627987189, "left_mean": 0.071180093619118, "mean_delta": 0.04954668637595466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.010816210889381636, "ci_upper": 0.08997782705099767, "delta_ci_lower": 0.010816210889381636, "delta_ci_upper": 0.08997782705099767, "failure_count": 0, "left_ci_lower": 0.039893508253264355, "left_ci_upper": 0.1061889627987189, "left_mean": 0.071180093619118, "mean_delta": 0.04954668637595466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.060768469670067646, "ci_upper": 0.10475029325926437, "delta_ci_lower": -0.060768469670067646, "delta_ci_upper": 0.10475029325926437, "failure_count": 0, "left_ci_lower": 0.09052254795946973, "left_ci_upper": 0.23334340456291675, "left_mean": 0.15852961728487378, "mean_delta": 0.02286755224237702, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11123922148312392, "right_ci_upper": 0.2540012592045112, "right_mean": 0.18139716952725082, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.008333333333333335, "ci_upper": 0.125, "delta_ci_lower": -0.008333333333333335, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.35, "left_mean": 0.2833333333333333, "mean_delta": 0.058333333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.4, "right_mean": 0.3416666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 252.5795400557642, "ci_upper": 1516.8851235691543, "delta_ci_lower": 252.5795400557642, "delta_ci_upper": 1516.8851235691543, "failure_count": 0, "left_ci_lower": 39795.66939182831, "left_ci_upper": 40779.87758686841, "left_mean": 40285.01281493324, "mean_delta": 891.6559496865375, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.80112950363, "right_ci_upper": 41713.197493380045, "right_mean": 41176.668764619775, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -40.23375, "ci_upper": 139.03437499999998, "delta_ci_lower": -40.23375, "delta_ci_upper": 139.03437499999998, "failure_count": 0, "left_ci_lower": 5645.21625, "left_ci_upper": 5777.133333333333, "left_mean": 5710.691666666667, "mean_delta": 49.10833333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5689.199166666666, "right_ci_upper": 5831.044375, "right_mean": 5759.8, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -48.700625, "ci_upper": 119.50854166666666, "delta_ci_lower": -48.700625, "delta_ci_upper": 119.50854166666666, "failure_count": 0, "left_ci_lower": 5374.614791666667, "left_ci_upper": 5496.2335416666665, "left_mean": 5435.308333333333, "mean_delta": 35.31666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5406.029375, "right_ci_upper": 5534.316875, "right_mean": 5470.625, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666666, "left_mean": 0.6777777777777777, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7777777777777778, "right_mean": 0.6888888888888888, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.011111111111111105, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111105, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.25555555555555554, "left_mean": 0.1722222222222222, "mean_delta": 0.08703703703703702, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.011111111111111105, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111105, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.25555555555555554, "left_mean": 0.1722222222222222, "mean_delta": 0.08703703703703702, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.011111111111111105, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111105, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.25555555555555554, "left_mean": 0.1722222222222222, "mean_delta": 0.08703703703703702, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.011111111111111105, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111105, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.25555555555555554, "left_mean": 0.1722222222222222, "mean_delta": 0.08703703703703702, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.3444444444444445, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.04444444444444443, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.04444444444444443, "delta_ci_upper": 0.2333333333333333, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.04444444444444443, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.04444444444444443, "delta_ci_upper": 0.2333333333333333, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.04444444444444443, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.04444444444444443, "delta_ci_upper": 0.2333333333333333, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.04444444444444443, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.04444444444444443, "delta_ci_upper": 0.2333333333333333, "failure_count": 0, "left_ci_lower": 0.09999999999999999, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.39999999999999997, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -10.904770181393054, "ci_upper": 34.453490388502054, "delta_ci_lower": -10.904770181393054, "delta_ci_upper": 34.453490388502054, "failure_count": 0, "left_ci_lower": 4936.541536330382, "left_ci_upper": 5275.773601573188, "left_mean": 5091.637121876313, "mean_delta": 12.90898056856046, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4954.662945094412, "right_ci_upper": 5281.782615681876, "right_mean": 5104.546102444874, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037037, "mean_delta": 0.05462962962962962, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037037, "mean_delta": 0.05462962962962962, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037037, "mean_delta": 0.05462962962962962, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037037, "mean_delta": 0.05462962962962962, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06058259313115493, "ci_upper": 0.09707051149044611, "delta_ci_lower": -0.06058259313115493, "delta_ci_upper": 0.09707051149044611, "failure_count": 0, "left_ci_lower": 0.08625781159059556, "left_ci_upper": 0.22404670680532748, "left_mean": 0.1512871542663632, "mean_delta": 0.01867169347026232, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10369341563786016, "right_ci_upper": 0.2366255144032922, "right_mean": 0.1699588477366255, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.125, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.35, "left_mean": 0.2833333333333333, "mean_delta": 0.058333333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.4, "right_mean": 0.3416666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 252.57954005576423, "ci_upper": 1516.8851235691543, "delta_ci_lower": 252.57954005576423, "delta_ci_upper": 1516.8851235691543, "failure_count": 0, "left_ci_lower": 39795.66939182831, "left_ci_upper": 40779.87758686841, "left_mean": 40285.01281493324, "mean_delta": 891.6559496865375, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.80112950363, "right_ci_upper": 41713.197493380045, "right_mean": 41176.668764619775, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -40.23375, "ci_upper": 139.03437499999998, "delta_ci_lower": -40.23375, "delta_ci_upper": 139.03437499999998, "failure_count": 0, "left_ci_lower": 5645.2162499999995, "left_ci_upper": 5777.133333333333, "left_mean": 5710.691666666667, "mean_delta": 49.108333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5689.199166666666, "right_ci_upper": 5831.044375, "right_mean": 5759.8, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -48.700625, "ci_upper": 119.50854166666667, "delta_ci_lower": -48.700625, "delta_ci_upper": 119.50854166666667, "failure_count": 0, "left_ci_lower": 5374.614791666667, "left_ci_upper": 5496.2335416666665, "left_mean": 5435.308333333333, "mean_delta": 35.31666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5406.029375, "right_ci_upper": 5534.316875, "right_mean": 5470.625, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.1, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6777777777777778, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7777777777777778, "right_mean": 0.6888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25555555555555554, "left_mean": 0.17222222222222222, "mean_delta": 0.08703703703703704, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25555555555555554, "left_mean": 0.17222222222222222, "mean_delta": 0.08703703703703704, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25555555555555554, "left_mean": 0.17222222222222222, "mean_delta": 0.08703703703703704, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25555555555555554, "left_mean": 0.17222222222222222, "mean_delta": 0.08703703703703704, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.044444444444444446, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.044444444444444446, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.044444444444444446, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.044444444444444446, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.044444444444444446, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.044444444444444446, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.044444444444444446, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.044444444444444446, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -10.904770181393053, "ci_upper": 34.453490388502054, "delta_ci_lower": -10.904770181393053, "delta_ci_upper": 34.453490388502054, "failure_count": 0, "left_ci_lower": 4936.541536330382, "left_ci_upper": 5275.773601573188, "left_mean": 5091.637121876313, "mean_delta": 12.90898056856046, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4954.662945094412, "right_ci_upper": 5281.782615681876, "right_mean": 5104.546102444874, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037036, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037036, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037036, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037036, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06058259313115494, "ci_upper": 0.09707051149044613, "delta_ci_lower": -0.06058259313115494, "delta_ci_upper": 0.09707051149044613, "failure_count": 0, "left_ci_lower": 0.08625781159059558, "left_ci_upper": 0.2240467068053275, "left_mean": 0.1512871542663632, "mean_delta": 0.018671693470262322, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10369341563786018, "right_ci_upper": 0.2366255144032922, "right_mean": 0.1699588477366255, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.02744033646322377, "ci_upper": 0.1276741001564945, "delta_ci_lower": -0.02744033646322377, "delta_ci_upper": 0.1276741001564945, "failure_count": 0, "left_ci_lower": 0.14655712050078248, "left_ci_upper": 0.2764374673969744, "left_mean": 0.2090245174752217, "mean_delta": 0.0501434533124674, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.19504434011476265, "right_ci_upper": 0.32454681794470525, "right_mean": 0.2591679707876891, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 86.08537936761292, "ci_upper": 1458.6941087372445, "delta_ci_lower": 86.08537936761292, "delta_ci_upper": 1458.6941087372445, "failure_count": 0, "left_ci_lower": 39630.46230666473, "left_ci_upper": 40651.731268376425, "left_mean": 40134.950968080855, "mean_delta": 772.983071787001, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40330.90295465038, "right_ci_upper": 41495.95189841903, "right_mean": 40907.934039867854, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -18.651255216484074, "ci_upper": 184.29399452269166, "delta_ci_lower": -18.651255216484074, "delta_ci_upper": 184.29399452269166, "failure_count": 0, "left_ci_lower": 5607.973663275952, "left_ci_upper": 5745.2616999217535, "left_mean": 5675.6570292123115, "mean_delta": 82.25136932707355, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5679.947118218571, "right_ci_upper": 5837.096834572249, "right_mean": 5757.9083985393845, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03796008869179601, "right_mean": 0.012653362897265335, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03796008869179601, "right_mean": 0.012653362897265335, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.012653362897265335, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03796008869179601, "right_mean": 0.012653362897265335, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -27.195014019300974, "ci_upper": 163.3550668362024, "delta_ci_lower": -27.195014019300974, "delta_ci_upper": 163.3550668362024, "failure_count": 0, "left_ci_lower": 5340.370498174231, "left_ci_upper": 5466.523474830465, "left_mean": 5402.9018257694315, "mean_delta": 67.57261345852895, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5399.557828964527, "right_ci_upper": 5542.221047535212, "right_mean": 5470.474439227961, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08567368810051726, "ci_upper": 0.09655691056910568, "delta_ci_lower": -0.08567368810051726, "delta_ci_upper": 0.09655691056910568, "failure_count": 0, "left_ci_lower": 0.560918699186992, "left_ci_upper": 0.751219512195122, "left_mean": 0.6586548410938654, "mean_delta": 0.005764966740576495, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5713662232076866, "right_ci_upper": 0.7558019216555801, "right_mean": 0.6644198078344419, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.004050997782705093, "ci_upper": 0.16229878048780486, "delta_ci_lower": -0.004050997782705093, "delta_ci_upper": 0.16229878048780486, "failure_count": 0, "left_ci_lower": 0.09938839615668901, "left_ci_upper": 0.2560532150776053, "left_mean": 0.17328898743532892, "mean_delta": 0.07810051736881003, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.004050997782705093, "ci_upper": 0.16229878048780486, "delta_ci_lower": -0.004050997782705093, "delta_ci_upper": 0.16229878048780486, "failure_count": 0, "left_ci_lower": 0.09938839615668901, "left_ci_upper": 0.2560532150776053, "left_mean": 0.17328898743532892, "mean_delta": 0.07810051736881003, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.004050997782705093, "ci_upper": 0.16229878048780486, "delta_ci_lower": -0.004050997782705093, "delta_ci_upper": 0.16229878048780486, "failure_count": 0, "left_ci_lower": 0.09938839615668901, "left_ci_upper": 0.2560532150776053, "left_mean": 0.17328898743532892, "mean_delta": 0.07810051736881003, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.004050997782705093, "ci_upper": 0.16229878048780486, "delta_ci_lower": -0.004050997782705093, "delta_ci_upper": 0.16229878048780486, "failure_count": 0, "left_ci_lower": 0.09938839615668901, "left_ci_upper": 0.2560532150776053, "left_mean": 0.17328898743532892, "mean_delta": 0.07810051736881003, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1700606060606061, "right_ci_upper": 0.3379065040650406, "right_mean": 0.25138950480413896, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.02467110125646711, "ci_upper": 0.22000073909830006, "delta_ci_lower": 0.02467110125646711, "delta_ci_upper": 0.22000073909830006, "failure_count": 0, "left_ci_lower": 0.10344419807834443, "left_ci_upper": 0.26446156688839595, "left_mean": 0.179320029563932, "mean_delta": 0.12004434589800443, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.02467110125646711, "ci_upper": 0.22000073909830006, "delta_ci_lower": 0.02467110125646711, "delta_ci_upper": 0.22000073909830006, "failure_count": 0, "left_ci_lower": 0.10344419807834443, "left_ci_upper": 0.26446156688839595, "left_mean": 0.179320029563932, "mean_delta": 0.12004434589800443, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.02467110125646711, "ci_upper": 0.22000073909830006, "delta_ci_lower": 0.02467110125646711, "delta_ci_upper": 0.22000073909830006, "failure_count": 0, "left_ci_lower": 0.10344419807834443, "left_ci_upper": 0.26446156688839595, "left_mean": 0.179320029563932, "mean_delta": 0.12004434589800443, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.02467110125646711, "ci_upper": 0.22000073909830006, "delta_ci_lower": 0.02467110125646711, "delta_ci_upper": 0.22000073909830006, "failure_count": 0, "left_ci_lower": 0.10344419807834443, "left_ci_upper": 0.26446156688839595, "left_mean": 0.179320029563932, "mean_delta": 0.12004434589800443, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.20857354028085734, "right_ci_upper": 0.39306725794530667, "right_mean": 0.2993643754619364, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -1.6140715035045405, "ci_upper": 38.00522337703758, "delta_ci_lower": -1.6140715035045405, "delta_ci_upper": 38.00522337703758, "failure_count": 0, "left_ci_lower": 4964.486672077949, "left_ci_upper": 5381.880955745734, "left_mean": 5152.567219002793, "mean_delta": 18.384040741475037, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4989.231727776008, "right_ci_upper": 5392.404409806404, "right_mean": 5170.951259744268, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.010816210889381636, "ci_upper": 0.08997782705099767, "delta_ci_lower": 0.010816210889381636, "delta_ci_upper": 0.08997782705099767, "failure_count": 0, "left_ci_lower": 0.039893508253264355, "left_ci_upper": 0.1061889627987189, "left_mean": 0.071180093619118, "mean_delta": 0.04954668637595466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.010816210889381636, "ci_upper": 0.08997782705099767, "delta_ci_lower": 0.010816210889381636, "delta_ci_upper": 0.08997782705099767, "failure_count": 0, "left_ci_lower": 0.039893508253264355, "left_ci_upper": 0.1061889627987189, "left_mean": 0.071180093619118, "mean_delta": 0.04954668637595466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.010816210889381636, "ci_upper": 0.08997782705099767, "delta_ci_lower": 0.010816210889381636, "delta_ci_upper": 0.08997782705099767, "failure_count": 0, "left_ci_lower": 0.039893508253264355, "left_ci_upper": 0.1061889627987189, "left_mean": 0.071180093619118, "mean_delta": 0.04954668637595466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.010816210889381636, "ci_upper": 0.08997782705099767, "delta_ci_lower": 0.010816210889381636, "delta_ci_upper": 0.08997782705099767, "failure_count": 0, "left_ci_lower": 0.039893508253264355, "left_ci_upper": 0.1061889627987189, "left_mean": 0.071180093619118, "mean_delta": 0.04954668637595466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08092849223946785, "right_ci_upper": 0.16561868686868683, "right_mean": 0.12072677999507267, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.060768469670067646, "ci_upper": 0.10475029325926437, "delta_ci_lower": -0.060768469670067646, "delta_ci_upper": 0.10475029325926437, "failure_count": 0, "left_ci_lower": 0.09052254795946973, "left_ci_upper": 0.23334340456291675, "left_mean": 0.15852961728487378, "mean_delta": 0.02286755224237702, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11123922148312392, "right_ci_upper": 0.2540012592045112, "right_mean": 0.18139716952725082, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -572.0214161366067, "ci_upper": 2265.958227967008, "delta_ci_lower": -572.0214161366067, "delta_ci_upper": 2265.958227967008, "failure_count": 0, "left_ci_lower": 39185.19421168477, "left_ci_upper": 41217.959597999776, "left_mean": 40173.90338339998, "mean_delta": 859.0059652924538, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39990.73411123866, "right_ci_upper": 42106.19518409289, "right_mean": 41032.90934869243, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -100.94666666666654, "ci_upper": 311.0691666666666, "delta_ci_lower": -100.94666666666654, "delta_ci_upper": 311.0691666666666, "failure_count": 0, "left_ci_lower": 5502.230833333334, "left_ci_upper": 5768.402499999999, "left_mean": 5628.833333333333, "mean_delta": 107.5, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5597.3324999999995, "right_ci_upper": 5880.3741666666665, "right_mean": 5736.333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -100.93833333333329, "ci_upper": 284.2683333333333, "delta_ci_lower": -100.93833333333329, "delta_ci_upper": 284.2683333333333, "failure_count": 0, "left_ci_lower": 5230.1658333333335, "left_ci_upper": 5477.404999999999, "left_mean": 5347.066666666667, "mean_delta": 93.3, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5313.265833333333, "right_ci_upper": 5573.401666666666, "right_mean": 5440.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.2, "delta_ci_lower": -0.1, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.9, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.18333333333333332, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.18333333333333332, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.05, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.2833333333333333, "right_mean": 0.15, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.18333333333333332, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.18333333333333332, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.05, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.2833333333333333, "right_mean": 0.15, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.18333333333333332, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.18333333333333332, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.05, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.2833333333333333, "right_mean": 0.15, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.18333333333333332, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.18333333333333332, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.05, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.2833333333333333, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.3, "right_mean": 0.16666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 23.783456630868994, "ci_upper": 57.976991384251356, "delta_ci_lower": 23.783456630868994, "delta_ci_upper": 57.976991384251356, "failure_count": 0, "left_ci_lower": 4683.077584213266, "left_ci_upper": 5215.701731096681, "left_mean": 4944.071565300692, "mean_delta": 40.69490971742198, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4720.5932639865205, "right_ci_upper": 5257.066055036459, "right_mean": 4984.766475018114, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.07222222222222222, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.16666666666666666, "left_mean": 0.09444444444444446, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.016666666666666666, "right_ci_upper": 0.18333333333333332, "right_mean": 0.09444444444444446, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.07222222222222222, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.16666666666666666, "left_mean": 0.09444444444444446, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.016666666666666666, "right_ci_upper": 0.18333333333333332, "right_mean": 0.09444444444444446, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.07222222222222222, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.16666666666666666, "left_mean": 0.09444444444444446, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.016666666666666666, "right_ci_upper": 0.18333333333333332, "right_mean": 0.09444444444444446, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.07222222222222222, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.16666666666666666, "left_mean": 0.09444444444444446, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.016666666666666666, "right_ci_upper": 0.18333333333333332, "right_mean": 0.09444444444444446, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.0, "delta_ci_upper": 0.36666666666666664, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 191.55250933690746, "ci_upper": 2510.581791540704, "delta_ci_lower": 191.55250933690746, "delta_ci_upper": 2510.581791540704, "failure_count": 0, "left_ci_lower": 38807.67185351802, "left_ci_upper": 40342.38479181416, "left_mean": 39558.354256965686, "mean_delta": 1329.6768249749828, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39702.45271154815, "right_ci_upper": 42111.252440915756, "right_mean": 40888.031081940666, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 38.064166666666694, "ci_upper": 413.3391666666666, "delta_ci_lower": 38.064166666666694, "delta_ci_upper": 413.3391666666666, "failure_count": 0, "left_ci_lower": 5502.131666666666, "left_ci_upper": 5729.433333333333, "left_mean": 5612.1, "mean_delta": 223.63333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5673.2625, "right_ci_upper": 6003.235, "right_mean": 5835.733333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 34.797500000000014, "ci_upper": 386.835, "delta_ci_lower": 34.797500000000014, "delta_ci_upper": 386.835, "failure_count": 0, "left_ci_lower": 5256.765833333333, "left_ci_upper": 5465.800833333334, "left_mean": 5358.966666666666, "mean_delta": 208.56666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5419.966666666666, "right_ci_upper": 5718.670833333334, "right_mean": 5567.533333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.23333333333333334, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.005555555555555554, "ci_upper": 0.3222222222222222, "delta_ci_lower": 0.005555555555555554, "delta_ci_upper": 0.3222222222222222, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.2833333333333333, "left_mean": 0.15, "mean_delta": 0.1611111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.005555555555555554, "ci_upper": 0.3222222222222222, "delta_ci_lower": 0.005555555555555554, "delta_ci_upper": 0.3222222222222222, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.2833333333333333, "left_mean": 0.15, "mean_delta": 0.1611111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.005555555555555554, "ci_upper": 0.3222222222222222, "delta_ci_lower": 0.005555555555555554, "delta_ci_upper": 0.3222222222222222, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.2833333333333333, "left_mean": 0.15, "mean_delta": 0.1611111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.005555555555555554, "ci_upper": 0.3222222222222222, "delta_ci_lower": 0.005555555555555554, "delta_ci_upper": 0.3222222222222222, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.2833333333333333, "left_mean": 0.15, "mean_delta": 0.1611111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.4, "delta_ci_lower": 0.0, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.4, "delta_ci_lower": 0.0, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.4, "delta_ci_lower": 0.0, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.4, "delta_ci_lower": 0.0, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -56.493550391654324, "ci_upper": 40.78315375217545, "delta_ci_lower": -56.493550391654324, "delta_ci_upper": 40.78315375217545, "failure_count": 0, "left_ci_lower": 4654.022911575254, "left_ci_upper": 5770.756050851972, "left_mean": 5135.996915291374, "mean_delta": -7.538423493194084, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4668.819227766168, "right_ci_upper": 5733.077877608594, "right_mean": 5128.45849179818, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.008333333333333333, "ci_upper": 0.1361111111111111, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.1361111111111111, "failure_count": 0, "left_ci_lower": 0.01111111111111111, "left_ci_upper": 0.09166666666666666, "left_mean": 0.05, "mean_delta": 0.06944444444444445, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06388888888888888, "right_ci_upper": 0.18055555555555555, "right_mean": 0.11944444444444444, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.008333333333333333, "ci_upper": 0.1361111111111111, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.1361111111111111, "failure_count": 0, "left_ci_lower": 0.01111111111111111, "left_ci_upper": 0.09166666666666666, "left_mean": 0.05, "mean_delta": 0.06944444444444445, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06388888888888888, "right_ci_upper": 0.18055555555555555, "right_mean": 0.11944444444444444, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.008333333333333333, "ci_upper": 0.1361111111111111, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.1361111111111111, "failure_count": 0, "left_ci_lower": 0.01111111111111111, "left_ci_upper": 0.09166666666666666, "left_mean": 0.05, "mean_delta": 0.06944444444444445, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06388888888888888, "right_ci_upper": 0.18055555555555555, "right_mean": 0.11944444444444444, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.008333333333333333, "ci_upper": 0.1361111111111111, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.1361111111111111, "failure_count": 0, "left_ci_lower": 0.01111111111111111, "left_ci_upper": 0.09166666666666666, "left_mean": 0.05, "mean_delta": 0.06944444444444445, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06388888888888888, "right_ci_upper": 0.18055555555555555, "right_mean": 0.11944444444444444, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.051051756541107454, "ci_upper": 0.29201287100089074, "delta_ci_lower": -0.051051756541107454, "delta_ci_upper": 0.29201287100089074, "failure_count": 0, "left_ci_lower": 0.16849505175633475, "left_ci_upper": 0.4859872153989801, "left_mean": 0.3205281294657562, "mean_delta": 0.12021261127498449, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6148148148148148, "right_mean": 0.4407407407407407, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2270.1897925986364, "ci_upper": 389.2163439334633, "delta_ci_lower": -2270.1897925986364, "delta_ci_upper": 389.2163439334633, "failure_count": 0, "left_ci_lower": 39399.1605723787, "left_ci_upper": 41599.04793573534, "left_mean": 40470.604344364256, "mean_delta": -919.6486082781727, "missing_count": 0, "paired_count": 30, "right_ci_lower": 38696.004361642794, "right_ci_upper": 40436.62536339776, "right_mean": 39550.955736086085, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -270.0025, "ci_upper": 98.94083333333322, "delta_ci_lower": -270.0025, "delta_ci_upper": 98.94083333333322, "failure_count": 0, "left_ci_lower": 5591.2975, "left_ci_upper": 5883.74, "left_mean": 5734.3, "mean_delta": -84.13333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5532.598333333333, "right_ci_upper": 5777.005, "right_mean": 5650.166666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -269.0766666666666, "ci_upper": 61.833333333333336, "delta_ci_lower": -269.0766666666666, "delta_ci_upper": 61.833333333333336, "failure_count": 0, "left_ci_lower": 5316.196666666667, "left_ci_upper": 5596.37, "left_mean": 5454.666666666667, "mean_delta": -102.83333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5248.493333333334, "right_ci_upper": 5464.568333333333, "right_mean": 5351.833333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.8333333333333334, "right_ci_upper": 1.0, "right_mean": 0.9333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.05, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.15, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.4666666666666667, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.05, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.15, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.4666666666666667, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.05, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.15, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.4666666666666667, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.05, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.15, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.4666666666666667, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.1, "ci_upper": 0.4, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.1, "ci_upper": 0.4, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.1, "ci_upper": 0.4, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.1, "ci_upper": 0.4, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 15.414872411250451, "ci_upper": 78.21714296005668, "delta_ci_lower": 15.414872411250451, "delta_ci_upper": 78.21714296005668, "failure_count": 0, "left_ci_lower": 5623.038959451466, "left_ci_upper": 6092.313032979728, "left_mean": 5853.307045798283, "mean_delta": 45.190811122301966, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5662.450144534814, "right_ci_upper": 6144.2102391909175, "right_mean": 5898.497856920585, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03888888888888888, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.03888888888888888, "delta_ci_upper": 0.1611111111111111, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.12777777777777777, "left_mean": 0.06666666666666667, "mean_delta": 0.09444444444444443, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.09444444444444443, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03888888888888888, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.03888888888888888, "delta_ci_upper": 0.1611111111111111, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.12777777777777777, "left_mean": 0.06666666666666667, "mean_delta": 0.09444444444444443, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.09444444444444443, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03888888888888888, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.03888888888888888, "delta_ci_upper": 0.1611111111111111, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.12777777777777777, "left_mean": 0.06666666666666667, "mean_delta": 0.09444444444444443, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.09444444444444443, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03888888888888888, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.03888888888888888, "delta_ci_upper": 0.1611111111111111, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.12777777777777777, "left_mean": 0.06666666666666667, "mean_delta": 0.09444444444444443, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.09444444444444443, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1611111111111111, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.13333333333333333, "ci_upper": 0.07160493827160493, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.07160493827160493, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.0308641975308642, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.10493827160493827, "right_mean": 0.03580246913580246, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1163.623892568673, "ci_upper": 3428.745083203054, "delta_ci_lower": 1163.623892568673, "delta_ci_upper": 3428.745083203054, "failure_count": 0, "left_ci_lower": 39942.04919362062, "left_ci_upper": 41939.90414434947, "left_mean": 40937.18927500304, "mean_delta": 2297.5896167568862, "missing_count": 0, "paired_count": 30, "right_ci_lower": 42208.337668571425, "right_ci_upper": 44281.60513158209, "right_mean": 43234.778891759925, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -186.43416666666667, "ci_upper": 92.07749999999984, "delta_ci_lower": -186.43416666666667, "delta_ci_upper": 92.07749999999984, "failure_count": 0, "left_ci_lower": 5731.7325, "left_ci_upper": 6002.001666666667, "left_mean": 5867.533333333334, "mean_delta": -50.56666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5690.3925, "right_ci_upper": 5942.233333333334, "right_mean": 5816.966666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -190.70083333333332, "ci_upper": 81.00083333333332, "delta_ci_lower": -190.70083333333332, "delta_ci_upper": 81.00083333333332, "failure_count": 0, "left_ci_lower": 5462.265833333333, "left_ci_upper": 5695.033333333334, "left_mean": 5580.533333333334, "mean_delta": -57.766666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5405.764999999999, "right_ci_upper": 5639.838333333333, "right_mean": 5522.766666666666, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": -101.65155723176817, "ci_upper": 28.772106885735404, "delta_ci_lower": -101.65155723176817, "delta_ci_upper": 28.772106885735404, "failure_count": 0, "left_ci_lower": 4277.09553734186, "left_ci_upper": 4593.252446322391, "left_mean": 4433.172961114906, "mean_delta": -26.711375072288018, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4261.088230798099, "right_ci_upper": 4546.9519170071, "right_mean": 4406.4615860426175, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "left_regime": "native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.125, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.35, "left_mean": 0.2833333333333333, "mean_delta": 0.058333333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2833333333333333, "right_ci_upper": 0.4, "right_mean": 0.3416666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 252.57954005576423, "ci_upper": 1516.8851235691543, "delta_ci_lower": 252.57954005576423, "delta_ci_upper": 1516.8851235691543, "failure_count": 0, "left_ci_lower": 39795.66939182831, "left_ci_upper": 40779.87758686841, "left_mean": 40285.01281493324, "mean_delta": 891.6559496865375, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40646.80112950363, "right_ci_upper": 41713.197493380045, "right_mean": 41176.668764619775, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -40.23375, "ci_upper": 139.03437499999998, "delta_ci_lower": -40.23375, "delta_ci_upper": 139.03437499999998, "failure_count": 0, "left_ci_lower": 5645.2162499999995, "left_ci_upper": 5777.133333333333, "left_mean": 5710.691666666667, "mean_delta": 49.108333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5689.199166666666, "right_ci_upper": 5831.044375, "right_mean": 5759.8, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -48.700625, "ci_upper": 119.50854166666667, "delta_ci_lower": -48.700625, "delta_ci_upper": 119.50854166666667, "failure_count": 0, "left_ci_lower": 5374.614791666667, "left_ci_upper": 5496.2335416666665, "left_mean": 5435.308333333333, "mean_delta": 35.31666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5406.029375, "right_ci_upper": 5534.316875, "right_mean": 5470.625, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.1, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6777777777777778, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7777777777777778, "right_mean": 0.6888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25555555555555554, "left_mean": 0.17222222222222222, "mean_delta": 0.08703703703703704, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25555555555555554, "left_mean": 0.17222222222222222, "mean_delta": 0.08703703703703704, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25555555555555554, "left_mean": 0.17222222222222222, "mean_delta": 0.08703703703703704, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25555555555555554, "left_mean": 0.17222222222222222, "mean_delta": 0.08703703703703704, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17777777777777778, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25925925925925924, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.044444444444444446, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.044444444444444446, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.044444444444444446, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.044444444444444446, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.044444444444444446, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.044444444444444446, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.044444444444444446, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.044444444444444446, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.26666666666666666, "left_mean": 0.17777777777777778, "mean_delta": 0.13333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2222222222222222, "right_ci_upper": 0.4, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -10.904770181393053, "ci_upper": 34.453490388502054, "delta_ci_lower": -10.904770181393053, "delta_ci_upper": 34.453490388502054, "failure_count": 0, "left_ci_lower": 4936.541536330382, "left_ci_upper": 5275.773601573188, "left_mean": 5091.637121876313, "mean_delta": 12.90898056856046, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4954.662945094412, "right_ci_upper": 5281.782615681876, "right_mean": 5104.546102444874, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037036, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037036, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037036, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.09444444444444444, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.09444444444444444, "failure_count": 0, "left_ci_lower": 0.03981481481481481, "left_ci_upper": 0.10462962962962963, "left_mean": 0.07037037037037036, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.08518518518518518, "right_ci_upper": 0.1685185185185185, "right_mean": 0.125, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06058259313115494, "ci_upper": 0.09707051149044613, "delta_ci_lower": -0.06058259313115494, "delta_ci_upper": 0.09707051149044613, "failure_count": 0, "left_ci_lower": 0.08625781159059558, "left_ci_upper": 0.2240467068053275, "left_mean": 0.1512871542663632, "mean_delta": 0.018671693470262322, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10369341563786018, "right_ci_upper": 0.2366255144032922, "right_mean": 0.1699588477366255, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_084b5c3ad8d7434afbe4e74f", "builder_key": "qwen3_0_6b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": 0.008333333333333335, "ci_upper": 0.125, "delta_ci_lower": 0.008333333333333335, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.19166666666666665, "left_ci_upper": 0.30833333333333335, "left_mean": 0.25, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.3833333333333333, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 271.0490215987132, "ci_upper": 1627.718148215572, "delta_ci_lower": 271.0490215987132, "delta_ci_upper": 1627.718148215572, "failure_count": 0, "left_ci_lower": 40879.82587321222, "left_ci_upper": 41904.88863006387, "left_mean": 41393.66053127742, "mean_delta": 936.8792388500879, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41828.72278075558, "right_ci_upper": 42835.523634858546, "right_mean": 42330.53977012751, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -37.20041666666667, "ci_upper": 139.49270833333333, "delta_ci_lower": -37.20041666666667, "delta_ci_upper": 139.49270833333333, "failure_count": 0, "left_ci_lower": 5837.822916666667, "left_ci_upper": 5974.825625, "left_mean": 5907.008333333333, "mean_delta": 49.15, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5889.074375, "right_ci_upper": 6020.352916666667, "right_mean": 5956.158333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.04444444444444445, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04444444444444445, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.04444444444444445, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04444444444444445, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.04444444444444445, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04444444444444445, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -26.567499999999992, "ci_upper": 141.5595833333333, "delta_ci_lower": -26.567499999999992, "delta_ci_upper": 141.5595833333333, "failure_count": 0, "left_ci_lower": 5478.996666666667, "left_ci_upper": 5606.9974999999995, "left_mean": 5543.341666666667, "mean_delta": 55.775, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.865833333333, "right_ci_upper": 5659.794166666667, "right_mean": 5599.116666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.15555555555555556, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.15555555555555556, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.6666666666666666, "left_ci_upper": 0.8222222222222223, "left_mean": 0.7444444444444445, "mean_delta": -0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6777777777777777, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 526.9144457924267, "ci_upper": 749.7519599863881, "delta_ci_lower": 526.9144457924267, "delta_ci_upper": 749.7519599863881, "failure_count": 0, "left_ci_lower": 4878.83497328934, "left_ci_upper": 5212.434231100852, "left_mean": 5029.757933390404, "mean_delta": 633.2354774019526, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.591286071693, "right_ci_upper": 5881.258940057354, "right_mean": 5662.993410792357, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148147, "left_ci_upper": 0.2064814814814815, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148147, "left_ci_upper": 0.2064814814814815, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148147, "left_ci_upper": 0.2064814814814815, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148147, "left_ci_upper": 0.2064814814814815, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0046119444803655605, "ci_upper": 0.13448273632484142, "delta_ci_lower": 0.0046119444803655605, "delta_ci_upper": 0.13448273632484142, "failure_count": 0, "left_ci_lower": 0.05574665574665574, "left_ci_upper": 0.17575757575757578, "left_mean": 0.1113022113022113, "mean_delta": 0.06881474776211617, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11345029239766082, "right_ci_upper": 0.24678362573099413, "right_mean": 0.18011695906432748, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.125, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.19166666666666668, "left_ci_upper": 0.30833333333333335, "left_mean": 0.25, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 271.0490215987132, "ci_upper": 1627.7181482155722, "delta_ci_lower": 271.0490215987132, "delta_ci_upper": 1627.7181482155722, "failure_count": 0, "left_ci_lower": 40879.82587321223, "left_ci_upper": 41904.88863006387, "left_mean": 41393.66053127742, "mean_delta": 936.8792388500879, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41828.72278075558, "right_ci_upper": 42835.523634858546, "right_mean": 42330.53977012751, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -37.20041666666667, "ci_upper": 139.49270833333333, "delta_ci_lower": -37.20041666666667, "delta_ci_upper": 139.49270833333333, "failure_count": 0, "left_ci_lower": 5837.822916666666, "left_ci_upper": 5974.8256249999995, "left_mean": 5907.008333333333, "mean_delta": 49.15, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5889.074375, "right_ci_upper": 6020.352916666667, "right_mean": 5956.158333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -26.567499999999992, "ci_upper": 141.5595833333333, "delta_ci_lower": -26.567499999999992, "delta_ci_upper": 141.5595833333333, "failure_count": 0, "left_ci_lower": 5478.996666666667, "left_ci_upper": 5606.9974999999995, "left_mean": 5543.341666666666, "mean_delta": 55.775, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.865833333333, "right_ci_upper": 5659.794166666667, "right_mean": 5599.116666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.15555555555555556, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.15555555555555556, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.6666666666666666, "left_ci_upper": 0.8222222222222222, "left_mean": 0.7444444444444445, "mean_delta": -0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6777777777777778, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 526.9144457924267, "ci_upper": 749.7519599863881, "delta_ci_lower": 526.9144457924267, "delta_ci_upper": 749.7519599863881, "failure_count": 0, "left_ci_lower": 4878.834973289341, "left_ci_upper": 5212.434231100851, "left_mean": 5029.757933390404, "mean_delta": 633.2354774019526, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.591286071693, "right_ci_upper": 5881.258940057354, "right_mean": 5662.993410792357, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148148, "left_ci_upper": 0.20648148148148146, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148148, "left_ci_upper": 0.20648148148148146, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148148, "left_ci_upper": 0.20648148148148146, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148148, "left_ci_upper": 0.20648148148148146, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0046119444803655605, "ci_upper": 0.13448273632484142, "delta_ci_lower": 0.0046119444803655605, "delta_ci_upper": 0.13448273632484142, "failure_count": 0, "left_ci_lower": 0.05574665574665574, "left_ci_upper": 0.17575757575757575, "left_mean": 0.1113022113022113, "mean_delta": 0.06881474776211619, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11345029239766083, "right_ci_upper": 0.24678362573099413, "right_mean": 0.18011695906432748, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": 0.025730307772561294, "ci_upper": 0.14723526343244653, "delta_ci_lower": 0.025730307772561294, "delta_ci_upper": 0.14723526343244653, "failure_count": 0, "left_ci_lower": 0.11828377673448096, "left_ci_upper": 0.23132498695878978, "left_mean": 0.17201356285863328, "mean_delta": 0.0856546687532603, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1921622326551904, "right_ci_upper": 0.3254434011476265, "right_mean": 0.25766823161189356, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 393.5328139116067, "ci_upper": 1882.9563047319982, "delta_ci_lower": 393.5328139116067, "delta_ci_upper": 1882.9563047319982, "failure_count": 0, "left_ci_lower": 40763.23559578018, "left_ci_upper": 41823.84417862456, "left_mean": 41297.92582250756, "mean_delta": 1122.265733025146, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41892.3344714184, "right_ci_upper": 42967.60957360036, "right_mean": 42420.19155553271, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -33.17553990610325, "ci_upper": 159.38962278299422, "delta_ci_lower": -33.17553990610325, "delta_ci_upper": 159.38962278299422, "failure_count": 0, "left_ci_lower": 5822.077027908191, "left_ci_upper": 5963.264703638498, "left_mean": 5892.608959311424, "mean_delta": 61.275208659363585, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5885.341073617633, "right_ci_upper": 6020.664130477308, "right_mean": 5953.8841679707875, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05179600886917961, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05179600886917961, "delta_ci_upper": 0.024124168514412417, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": -0.013244641537324462, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.036186252771618625, "right_mean": 0.012062084257206208, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05179600886917961, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05179600886917961, "delta_ci_upper": 0.024124168514412417, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": -0.013244641537324462, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.036186252771618625, "right_mean": 0.012062084257206208, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05179600886917961, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05179600886917961, "delta_ci_upper": 0.024124168514412417, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": -0.013244641537324462, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.036186252771618625, "right_mean": 0.012062084257206208, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -24.161553860198204, "ci_upper": 159.1983519170579, "delta_ci_lower": -24.161553860198204, "delta_ci_upper": 159.1983519170579, "failure_count": 0, "left_ci_lower": 5470.090891040689, "left_ci_upper": 5601.390643583725, "left_mean": 5535.830620761606, "mean_delta": 65.51275430359937, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.299820357329, "right_ci_upper": 5665.989763954095, "right_mean": 5601.343375065206, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.17064301552106428, "ci_upper": 0.02353288987435329, "delta_ci_lower": -0.17064301552106428, "delta_ci_upper": 0.02353288987435329, "failure_count": 0, "left_ci_lower": 0.6328159645232816, "left_ci_upper": 0.8040502586844049, "left_mean": 0.7190243902439024, "mean_delta": -0.0735550628233555, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.559260901699926, "right_ci_upper": 0.7310864745011085, "right_mean": 0.6454693274205469, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4253078344419808, "left_mean": 0.32756836659275684, "mean_delta": 0.06798965262379897, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4253078344419808, "left_mean": 0.32756836659275684, "mean_delta": 0.06798965262379897, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4253078344419808, "left_mean": 0.32756836659275684, "mean_delta": 0.06798965262379897, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4253078344419808, "left_mean": 0.32756836659275684, "mean_delta": 0.06798965262379897, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "failure_count": 0, "left_ci_lower": 0.24076866223207685, "left_ci_upper": 0.43500369549150036, "left_mean": 0.3361862527716186, "mean_delta": 0.10635624538063562, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "failure_count": 0, "left_ci_lower": 0.24076866223207685, "left_ci_upper": 0.43500369549150036, "left_mean": 0.3361862527716186, "mean_delta": 0.10635624538063562, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "failure_count": 0, "left_ci_lower": 0.24076866223207685, "left_ci_upper": 0.43500369549150036, "left_mean": 0.3361862527716186, "mean_delta": 0.10635624538063562, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "failure_count": 0, "left_ci_lower": 0.24076866223207685, "left_ci_upper": 0.43500369549150036, "left_mean": 0.3361862527716186, "mean_delta": 0.10635624538063562, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 567.6324449789646, "ci_upper": 829.2949133623489, "delta_ci_lower": 567.6324449789646, "delta_ci_upper": 829.2949133623489, "failure_count": 0, "left_ci_lower": 4908.321915209952, "left_ci_upper": 5321.0747022194755, "left_mean": 5093.9922289923015, "mean_delta": 692.0295378293279, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5551.1836992702865, "right_ci_upper": 6054.922030431886, "right_mean": 5786.021766821629, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008827605321507757, "ci_upper": 0.08065564178369056, "delta_ci_lower": -0.008827605321507757, "delta_ci_upper": 0.08065564178369056, "failure_count": 0, "left_ci_lower": 0.10663371520078838, "left_ci_upper": 0.20905426213353034, "left_mean": 0.15589554077358955, "mean_delta": 0.035444690810544466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008827605321507757, "ci_upper": 0.08065564178369056, "delta_ci_lower": -0.008827605321507757, "delta_ci_upper": 0.08065564178369056, "failure_count": 0, "left_ci_lower": 0.10663371520078838, "left_ci_upper": 0.20905426213353034, "left_mean": 0.15589554077358955, "mean_delta": 0.035444690810544466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008827605321507757, "ci_upper": 0.08065564178369056, "delta_ci_lower": -0.008827605321507757, "delta_ci_upper": 0.08065564178369056, "failure_count": 0, "left_ci_lower": 0.10663371520078838, "left_ci_upper": 0.20905426213353034, "left_mean": 0.15589554077358955, "mean_delta": 0.035444690810544466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008827605321507757, "ci_upper": 0.08065564178369056, "delta_ci_lower": -0.008827605321507757, "delta_ci_upper": 0.08065564178369056, "failure_count": 0, "left_ci_lower": 0.10663371520078838, "left_ci_upper": 0.20905426213353034, "left_mean": 0.15589554077358955, "mean_delta": 0.035444690810544466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.00561761464410552, "ci_upper": 0.1476682198913498, "delta_ci_lower": 0.00561761464410552, "delta_ci_upper": 0.1476682198913498, "failure_count": 0, "left_ci_lower": 0.06072533327522241, "left_ci_upper": 0.19139152052677552, "left_mean": 0.1214195772067169, "mean_delta": 0.07529571434811251, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12432800404559083, "right_ci_upper": 0.269693857704127, "right_mean": 0.19671529155482942, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": 0.008333333333333335, "ci_upper": 0.125, "delta_ci_lower": 0.008333333333333335, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.19166666666666665, "left_ci_upper": 0.30833333333333335, "left_mean": 0.25, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.3833333333333333, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 271.0490215987132, "ci_upper": 1627.718148215572, "delta_ci_lower": 271.0490215987132, "delta_ci_upper": 1627.718148215572, "failure_count": 0, "left_ci_lower": 40879.82587321222, "left_ci_upper": 41904.88863006387, "left_mean": 41393.66053127742, "mean_delta": 936.8792388500879, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41828.72278075558, "right_ci_upper": 42835.523634858546, "right_mean": 42330.53977012751, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -37.20041666666667, "ci_upper": 139.49270833333333, "delta_ci_lower": -37.20041666666667, "delta_ci_upper": 139.49270833333333, "failure_count": 0, "left_ci_lower": 5837.822916666667, "left_ci_upper": 5974.825625, "left_mean": 5907.008333333333, "mean_delta": 49.15, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5889.074375, "right_ci_upper": 6020.352916666667, "right_mean": 5956.158333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.04444444444444445, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04444444444444445, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.04444444444444445, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04444444444444445, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.04444444444444445, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04444444444444445, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -26.567499999999992, "ci_upper": 141.5595833333333, "delta_ci_lower": -26.567499999999992, "delta_ci_upper": 141.5595833333333, "failure_count": 0, "left_ci_lower": 5478.996666666667, "left_ci_upper": 5606.9974999999995, "left_mean": 5543.341666666667, "mean_delta": 55.775, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.865833333333, "right_ci_upper": 5659.794166666667, "right_mean": 5599.116666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.15555555555555556, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.15555555555555556, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.6666666666666666, "left_ci_upper": 0.8222222222222223, "left_mean": 0.7444444444444445, "mean_delta": -0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6777777777777777, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "failure_count": 0, "left_ci_lower": 0.2333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444445, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 526.9144457924267, "ci_upper": 749.7519599863881, "delta_ci_lower": 526.9144457924267, "delta_ci_upper": 749.7519599863881, "failure_count": 0, "left_ci_lower": 4878.83497328934, "left_ci_upper": 5212.434231100852, "left_mean": 5029.757933390404, "mean_delta": 633.2354774019526, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.591286071693, "right_ci_upper": 5881.258940057354, "right_mean": 5662.993410792357, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148147, "left_ci_upper": 0.2064814814814815, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148147, "left_ci_upper": 0.2064814814814815, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148147, "left_ci_upper": 0.2064814814814815, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148147, "left_ci_upper": 0.2064814814814815, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.2435185185185185, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0046119444803655605, "ci_upper": 0.13448273632484142, "delta_ci_lower": 0.0046119444803655605, "delta_ci_upper": 0.13448273632484142, "failure_count": 0, "left_ci_lower": 0.05574665574665574, "left_ci_upper": 0.17575757575757578, "left_mean": 0.1113022113022113, "mean_delta": 0.06881474776211617, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11345029239766082, "right_ci_upper": 0.24678362573099413, "right_mean": 0.18011695906432748, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.125, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.19166666666666668, "left_ci_upper": 0.30833333333333335, "left_mean": 0.25, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 271.0490215987132, "ci_upper": 1627.7181482155722, "delta_ci_lower": 271.0490215987132, "delta_ci_upper": 1627.7181482155722, "failure_count": 0, "left_ci_lower": 40879.82587321223, "left_ci_upper": 41904.88863006387, "left_mean": 41393.66053127742, "mean_delta": 936.8792388500879, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41828.72278075558, "right_ci_upper": 42835.523634858546, "right_mean": 42330.53977012751, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -37.20041666666667, "ci_upper": 139.49270833333333, "delta_ci_lower": -37.20041666666667, "delta_ci_upper": 139.49270833333333, "failure_count": 0, "left_ci_lower": 5837.822916666666, "left_ci_upper": 5974.8256249999995, "left_mean": 5907.008333333333, "mean_delta": 49.15, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5889.074375, "right_ci_upper": 6020.352916666667, "right_mean": 5956.158333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -26.567499999999992, "ci_upper": 141.5595833333333, "delta_ci_lower": -26.567499999999992, "delta_ci_upper": 141.5595833333333, "failure_count": 0, "left_ci_lower": 5478.996666666667, "left_ci_upper": 5606.9974999999995, "left_mean": 5543.341666666666, "mean_delta": 55.775, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.865833333333, "right_ci_upper": 5659.794166666667, "right_mean": 5599.116666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.15555555555555556, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.15555555555555556, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.6666666666666666, "left_ci_upper": 0.8222222222222222, "left_mean": 0.7444444444444445, "mean_delta": -0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6777777777777778, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 526.9144457924267, "ci_upper": 749.7519599863881, "delta_ci_lower": 526.9144457924267, "delta_ci_upper": 749.7519599863881, "failure_count": 0, "left_ci_lower": 4878.834973289341, "left_ci_upper": 5212.434231100851, "left_mean": 5029.757933390404, "mean_delta": 633.2354774019526, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.591286071693, "right_ci_upper": 5881.258940057354, "right_mean": 5662.993410792357, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148148, "left_ci_upper": 0.20648148148148146, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148148, "left_ci_upper": 0.20648148148148146, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148148, "left_ci_upper": 0.20648148148148146, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148148, "left_ci_upper": 0.20648148148148146, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0046119444803655605, "ci_upper": 0.13448273632484142, "delta_ci_lower": 0.0046119444803655605, "delta_ci_upper": 0.13448273632484142, "failure_count": 0, "left_ci_lower": 0.05574665574665574, "left_ci_upper": 0.17575757575757575, "left_mean": 0.1113022113022113, "mean_delta": 0.06881474776211619, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11345029239766083, "right_ci_upper": 0.24678362573099413, "right_mean": 0.18011695906432748, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": 0.025730307772561294, "ci_upper": 0.14723526343244653, "delta_ci_lower": 0.025730307772561294, "delta_ci_upper": 0.14723526343244653, "failure_count": 0, "left_ci_lower": 0.11828377673448096, "left_ci_upper": 0.23132498695878978, "left_mean": 0.17201356285863328, "mean_delta": 0.0856546687532603, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1921622326551904, "right_ci_upper": 0.3254434011476265, "right_mean": 0.25766823161189356, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 393.5328139116067, "ci_upper": 1882.9563047319982, "delta_ci_lower": 393.5328139116067, "delta_ci_upper": 1882.9563047319982, "failure_count": 0, "left_ci_lower": 40763.23559578018, "left_ci_upper": 41823.84417862456, "left_mean": 41297.92582250756, "mean_delta": 1122.265733025146, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41892.3344714184, "right_ci_upper": 42967.60957360036, "right_mean": 42420.19155553271, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -33.17553990610325, "ci_upper": 159.38962278299422, "delta_ci_lower": -33.17553990610325, "delta_ci_upper": 159.38962278299422, "failure_count": 0, "left_ci_lower": 5822.077027908191, "left_ci_upper": 5963.264703638498, "left_mean": 5892.608959311424, "mean_delta": 61.275208659363585, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5885.341073617633, "right_ci_upper": 6020.664130477308, "right_mean": 5953.8841679707875, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05179600886917961, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05179600886917961, "delta_ci_upper": 0.024124168514412417, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": -0.013244641537324462, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.036186252771618625, "right_mean": 0.012062084257206208, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05179600886917961, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05179600886917961, "delta_ci_upper": 0.024124168514412417, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": -0.013244641537324462, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.036186252771618625, "right_mean": 0.012062084257206208, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05179600886917961, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05179600886917961, "delta_ci_upper": 0.024124168514412417, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": -0.013244641537324462, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.036186252771618625, "right_mean": 0.012062084257206208, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -24.161553860198204, "ci_upper": 159.1983519170579, "delta_ci_lower": -24.161553860198204, "delta_ci_upper": 159.1983519170579, "failure_count": 0, "left_ci_lower": 5470.090891040689, "left_ci_upper": 5601.390643583725, "left_mean": 5535.830620761606, "mean_delta": 65.51275430359937, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.299820357329, "right_ci_upper": 5665.989763954095, "right_mean": 5601.343375065206, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.17064301552106428, "ci_upper": 0.02353288987435329, "delta_ci_lower": -0.17064301552106428, "delta_ci_upper": 0.02353288987435329, "failure_count": 0, "left_ci_lower": 0.6328159645232816, "left_ci_upper": 0.8040502586844049, "left_mean": 0.7190243902439024, "mean_delta": -0.0735550628233555, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.559260901699926, "right_ci_upper": 0.7310864745011085, "right_mean": 0.6454693274205469, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4253078344419808, "left_mean": 0.32756836659275684, "mean_delta": 0.06798965262379897, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4253078344419808, "left_mean": 0.32756836659275684, "mean_delta": 0.06798965262379897, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4253078344419808, "left_mean": 0.32756836659275684, "mean_delta": 0.06798965262379897, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4253078344419808, "left_mean": 0.32756836659275684, "mean_delta": 0.06798965262379897, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.30016204730229123, "right_ci_upper": 0.4923876570583888, "right_mean": 0.3955580192165558, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "failure_count": 0, "left_ci_lower": 0.24076866223207685, "left_ci_upper": 0.43500369549150036, "left_mean": 0.3361862527716186, "mean_delta": 0.10635624538063562, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "failure_count": 0, "left_ci_lower": 0.24076866223207685, "left_ci_upper": 0.43500369549150036, "left_mean": 0.3361862527716186, "mean_delta": 0.10635624538063562, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "failure_count": 0, "left_ci_lower": 0.24076866223207685, "left_ci_upper": 0.43500369549150036, "left_mean": 0.3361862527716186, "mean_delta": 0.10635624538063562, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "failure_count": 0, "left_ci_lower": 0.24076866223207685, "left_ci_upper": 0.43500369549150036, "left_mean": 0.3361862527716186, "mean_delta": 0.10635624538063562, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34135994087213595, "right_ci_upper": 0.5453954175905396, "right_mean": 0.44254249815225427, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 567.6324449789646, "ci_upper": 829.2949133623489, "delta_ci_lower": 567.6324449789646, "delta_ci_upper": 829.2949133623489, "failure_count": 0, "left_ci_lower": 4908.321915209952, "left_ci_upper": 5321.0747022194755, "left_mean": 5093.9922289923015, "mean_delta": 692.0295378293279, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5551.1836992702865, "right_ci_upper": 6054.922030431886, "right_mean": 5786.021766821629, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008827605321507757, "ci_upper": 0.08065564178369056, "delta_ci_lower": -0.008827605321507757, "delta_ci_upper": 0.08065564178369056, "failure_count": 0, "left_ci_lower": 0.10663371520078838, "left_ci_upper": 0.20905426213353034, "left_mean": 0.15589554077358955, "mean_delta": 0.035444690810544466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008827605321507757, "ci_upper": 0.08065564178369056, "delta_ci_lower": -0.008827605321507757, "delta_ci_upper": 0.08065564178369056, "failure_count": 0, "left_ci_lower": 0.10663371520078838, "left_ci_upper": 0.20905426213353034, "left_mean": 0.15589554077358955, "mean_delta": 0.035444690810544466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008827605321507757, "ci_upper": 0.08065564178369056, "delta_ci_lower": -0.008827605321507757, "delta_ci_upper": 0.08065564178369056, "failure_count": 0, "left_ci_lower": 0.10663371520078838, "left_ci_upper": 0.20905426213353034, "left_mean": 0.15589554077358955, "mean_delta": 0.035444690810544466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008827605321507757, "ci_upper": 0.08065564178369056, "delta_ci_lower": -0.008827605321507757, "delta_ci_upper": 0.08065564178369056, "failure_count": 0, "left_ci_lower": 0.10663371520078838, "left_ci_upper": 0.20905426213353034, "left_mean": 0.15589554077358955, "mean_delta": 0.035444690810544466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1441908105444691, "right_ci_upper": 0.24110630697216062, "right_mean": 0.19134023158413405, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.00561761464410552, "ci_upper": 0.1476682198913498, "delta_ci_lower": 0.00561761464410552, "delta_ci_upper": 0.1476682198913498, "failure_count": 0, "left_ci_lower": 0.06072533327522241, "left_ci_upper": 0.19139152052677552, "left_mean": 0.1214195772067169, "mean_delta": 0.07529571434811251, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12432800404559083, "right_ci_upper": 0.269693857704127, "right_mean": 0.19671529155482942, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 122.61049037935075, "ci_upper": 3060.9457473341413, "delta_ci_lower": 122.61049037935075, "delta_ci_upper": 3060.9457473341413, "failure_count": 0, "left_ci_lower": 40121.34920680556, "left_ci_upper": 42004.56700560201, "left_mean": 41055.823337527305, "mean_delta": 1596.59194307557, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41588.939856409175, "right_ci_upper": 43701.48378918704, "right_mean": 42652.41528060287, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -88.0708333333333, "ci_upper": 261.30083333333334, "delta_ci_lower": -88.0708333333333, "delta_ci_upper": 261.30083333333334, "failure_count": 0, "left_ci_lower": 5711.326666666667, "left_ci_upper": 5957.901666666666, "left_mean": 5834.466666666666, "mean_delta": 81.96666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5780.9975, "right_ci_upper": 6048.405833333332, "right_mean": 5916.433333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -85.23499999999999, "ci_upper": 250.53916666666657, "delta_ci_lower": -85.23499999999999, "delta_ci_upper": 250.53916666666657, "failure_count": 0, "left_ci_lower": 5376.699166666666, "left_ci_upper": 5606.835833333333, "left_mean": 5492.066666666667, "mean_delta": 78.06666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5443.5, "right_ci_upper": 5692.700833333333, "right_mean": 5570.133333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.9, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.25, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.25, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.11666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.25, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.25, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.11666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.25, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.25, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.11666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.25, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.25, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.11666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 465.82299339769327, "ci_upper": 828.3976789705531, "delta_ci_lower": 465.82299339769327, "delta_ci_upper": 828.3976789705531, "failure_count": 0, "left_ci_lower": 4638.425644203575, "left_ci_upper": 5169.466035369647, "left_mean": 4898.420611136437, "mean_delta": 641.642969485838, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5184.316084898892, "right_ci_upper": 5901.614248875607, "right_mean": 5540.063580622275, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04444444444444444, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2777777777777778, "left_mean": 0.16666666666666666, "mean_delta": 0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.28888888888888886, "right_mean": 0.20555555555555557, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04444444444444444, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2777777777777778, "left_mean": 0.16666666666666666, "mean_delta": 0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.28888888888888886, "right_mean": 0.20555555555555557, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04444444444444444, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2777777777777778, "left_mean": 0.16666666666666666, "mean_delta": 0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.28888888888888886, "right_mean": 0.20555555555555557, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04444444444444444, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2777777777777778, "left_mean": 0.16666666666666666, "mean_delta": 0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.28888888888888886, "right_mean": 0.20555555555555557, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": 0.06666666666666667, "ci_upper": 0.4, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": 0.23333333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -393.1828019251875, "ci_upper": 2344.052295302778, "delta_ci_lower": -393.1828019251875, "delta_ci_upper": 2344.052295302778, "failure_count": 0, "left_ci_lower": 40232.20954903741, "left_ci_upper": 42349.07260978323, "left_mean": 41287.515272301, "mean_delta": 961.8411471058304, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41286.55446408995, "right_ci_upper": 43217.64492817398, "right_mean": 42249.35641940683, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -140.23499999999999, "ci_upper": 237.5, "delta_ci_lower": -140.23499999999999, "delta_ci_upper": 237.5, "failure_count": 0, "left_ci_lower": 5758.197499999999, "left_ci_upper": 6033.034166666667, "left_mean": 5897.533333333334, "mean_delta": 46.666666666666664, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5824.530833333333, "right_ci_upper": 6060.369166666666, "right_mean": 5944.2, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -120.20083333333334, "ci_upper": 235.83333333333334, "delta_ci_lower": -120.20083333333334, "delta_ci_upper": 235.83333333333334, "failure_count": 0, "left_ci_lower": 5427.763333333333, "left_ci_upper": 5679.968333333333, "left_mean": 5554.7, "mean_delta": 55.5, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5491.089166666668, "right_ci_upper": 5725.1675000000005, "right_mean": 5610.2, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.3333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.3333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.175, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.175, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": -0.041666666666666664, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.35833333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.175, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.175, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": -0.041666666666666664, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.35833333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.175, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.175, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": -0.041666666666666664, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.35833333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.175, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.175, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": -0.041666666666666664, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.35833333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 492.16988373208255, "ci_upper": 1121.344444923355, "delta_ci_lower": 492.16988373208255, "delta_ci_upper": 1121.344444923355, "failure_count": 0, "left_ci_lower": 4576.070067648639, "left_ci_upper": 5675.247384790564, "left_mean": 5051.742793173374, "mean_delta": 778.734083143839, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5248.546441447494, "right_ci_upper": 6543.651199897479, "right_mean": 5830.476876317213, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.058333333333333334, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.06944444444444445, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.22777777777777777, "left_mean": 0.15277777777777776, "mean_delta": 0.005555555555555556, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.08055555555555555, "right_ci_upper": 0.24722222222222223, "right_mean": 0.15833333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.058333333333333334, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.06944444444444445, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.22777777777777777, "left_mean": 0.15277777777777776, "mean_delta": 0.005555555555555556, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.08055555555555555, "right_ci_upper": 0.24722222222222223, "right_mean": 0.15833333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.058333333333333334, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.06944444444444445, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.22777777777777777, "left_mean": 0.15277777777777776, "mean_delta": 0.005555555555555556, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.08055555555555555, "right_ci_upper": 0.24722222222222223, "right_mean": 0.15833333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.058333333333333334, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.06944444444444445, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.22777777777777777, "left_mean": 0.15277777777777776, "mean_delta": 0.005555555555555556, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.08055555555555555, "right_ci_upper": 0.24722222222222223, "right_mean": 0.15833333333333333, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.0072072072072072065, "ci_upper": 0.3660933660933661, "delta_ci_lower": -0.0072072072072072065, "delta_ci_upper": 0.3660933660933661, "failure_count": 0, "left_ci_lower": 0.1375102375102375, "left_ci_upper": 0.4666666666666667, "left_mean": 0.30057330057330056, "mean_delta": 0.1731109099530152, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6473684210526316, "right_mean": 0.4736842105263158, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -155.4899590379984, "ci_upper": 2735.281187439976, "delta_ci_lower": -155.4899590379984, "delta_ci_upper": 2735.281187439976, "failure_count": 0, "left_ci_lower": 40397.762694511424, "left_ci_upper": 42336.48408511983, "left_mean": 41384.67661386045, "mean_delta": 1273.2336555685226, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41650.353616532135, "right_ci_upper": 43607.017805086216, "right_mean": 42657.910269428976, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -95.0358333333333, "ci_upper": 286.8058333333333, "delta_ci_lower": -95.0358333333333, "delta_ci_upper": 286.8058333333333, "failure_count": 0, "left_ci_lower": 5792.091666666667, "left_ci_upper": 6075.802500000001, "left_mean": 5936.566666666667, "mean_delta": 99.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5907.1625, "right_ci_upper": 6150.636666666666, "right_mean": 6035.566666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -80.76833333333332, "ci_upper": 276.93333333333334, "delta_ci_lower": -80.76833333333332, "delta_ci_upper": 276.93333333333334, "failure_count": 0, "left_ci_lower": 5418.230833333334, "left_ci_upper": 5691.535, "left_mean": 5555.433333333333, "mean_delta": 100.66666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5530.7941666666675, "right_ci_upper": 5772.67, "right_mean": 5656.1, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 1.0, "left_ci_upper": 1.0, "left_mean": 1.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 1.0, "right_ci_upper": 1.0, "right_mean": 1.0, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.26666666666666666, "mean_delta": 0.15, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.26666666666666666, "mean_delta": 0.15, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.26666666666666666, "mean_delta": 0.15, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4166666666666667, "left_mean": 0.26666666666666666, "mean_delta": 0.15, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 646.9741753520794, "ci_upper": 1146.4071414540133, "delta_ci_lower": 646.9741753520794, "delta_ci_upper": 1146.4071414540133, "failure_count": 0, "left_ci_lower": 5599.1677559032305, "left_ci_upper": 6069.316803547942, "left_mean": 5830.300027791721, "mean_delta": 883.8726348088434, "missing_count": 0, "paired_count": 30, "right_ci_lower": 6361.460049305848, "right_ci_upper": 7068.833297913273, "right_mean": 6714.172662600565, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.005555555555555556, "ci_upper": 0.15555555555555556, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.15555555555555556, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.23333333333333334, "left_mean": 0.14444444444444443, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.3055555555555555, "right_mean": 0.21666666666666667, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.005555555555555556, "ci_upper": 0.15555555555555556, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.15555555555555556, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.23333333333333334, "left_mean": 0.14444444444444443, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.3055555555555555, "right_mean": 0.21666666666666667, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.005555555555555556, "ci_upper": 0.15555555555555556, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.15555555555555556, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.23333333333333334, "left_mean": 0.14444444444444443, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.3055555555555555, "right_mean": 0.21666666666666667, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.005555555555555556, "ci_upper": 0.15555555555555556, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.15555555555555556, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.23333333333333334, "left_mean": 0.14444444444444443, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.3055555555555555, "right_mean": 0.21666666666666667, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1234.6743135714007, "ci_upper": 1088.5986723306507, "delta_ci_lower": -1234.6743135714007, "delta_ci_upper": 1088.5986723306507, "failure_count": 0, "left_ci_lower": 40721.184353243836, "left_ci_upper": 42929.66932883408, "left_mean": 41846.62690142092, "mean_delta": -84.14979034957166, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40781.01252839299, "right_ci_upper": 42724.35241565846, "right_mean": 41762.47711107135, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -187.76749999999998, "ci_upper": 132.57833333333318, "delta_ci_lower": -187.76749999999998, "delta_ci_upper": 132.57833333333318, "failure_count": 0, "left_ci_lower": 5808.696666666667, "left_ci_upper": 6101.2375, "left_mean": 5959.466666666666, "mean_delta": -31.033333333333335, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5789.7625, "right_ci_upper": 6064.201666666666, "right_mean": 5928.433333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -157.46916666666664, "ci_upper": 142.2399999999999, "delta_ci_lower": -157.46916666666664, "delta_ci_upper": 142.2399999999999, "failure_count": 0, "left_ci_lower": 5434.5975, "left_ci_upper": 5700.235833333333, "left_mean": 5571.166666666667, "mean_delta": -11.133333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5434.629166666667, "right_ci_upper": 5682.1675000000005, "right_mean": 5560.033333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": 170.5328382481821, "ci_upper": 298.9961303902479, "delta_ci_lower": 170.5328382481821, "delta_ci_upper": 298.9961303902479, "failure_count": 0, "left_ci_lower": 4201.438734868231, "left_ci_upper": 4470.512599875995, "left_mean": 4338.5683014600845, "mean_delta": 228.69222216928998, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4417.8246837185, "right_ci_upper": 4709.836150834842, "right_mean": 4567.260523629375, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "left_regime": "native_lightrag", "metrics": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.125, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.19166666666666668, "left_ci_upper": 0.30833333333333335, "left_mean": 0.25, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 271.0490215987132, "ci_upper": 1627.7181482155722, "delta_ci_lower": 271.0490215987132, "delta_ci_upper": 1627.7181482155722, "failure_count": 0, "left_ci_lower": 40879.82587321223, "left_ci_upper": 41904.88863006387, "left_mean": 41393.66053127742, "mean_delta": 936.8792388500879, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41828.72278075558, "right_ci_upper": 42835.523634858546, "right_mean": 42330.53977012751, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -37.20041666666667, "ci_upper": 139.49270833333333, "delta_ci_lower": -37.20041666666667, "delta_ci_upper": 139.49270833333333, "failure_count": 0, "left_ci_lower": 5837.822916666666, "left_ci_upper": 5974.8256249999995, "left_mean": 5907.008333333333, "mean_delta": 49.15, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5889.074375, "right_ci_upper": 6020.352916666667, "right_mean": 5956.158333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.03333333333333333, "right_mean": 0.011111111111111112, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -26.567499999999992, "ci_upper": 141.5595833333333, "delta_ci_lower": -26.567499999999992, "delta_ci_upper": 141.5595833333333, "failure_count": 0, "left_ci_lower": 5478.996666666667, "left_ci_upper": 5606.9974999999995, "left_mean": 5543.341666666666, "mean_delta": 55.775, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5535.865833333333, "right_ci_upper": 5659.794166666667, "right_mean": 5599.116666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.15555555555555556, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.15555555555555556, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.6666666666666666, "left_ci_upper": 0.8222222222222222, "left_mean": 0.7444444444444445, "mean_delta": -0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.6, "right_ci_upper": 0.7555555555555555, "right_mean": 0.6777777777777778, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.075, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3027777777777777, "right_ci_upper": 0.49444444444444446, "right_mean": 0.3972222222222222, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.24444444444444444, "left_ci_upper": 0.43333333333333335, "left_mean": 0.3333333333333333, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.34444444444444444, "right_ci_upper": 0.5444444444444444, "right_mean": 0.4444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 526.9144457924267, "ci_upper": 749.7519599863881, "delta_ci_lower": 526.9144457924267, "delta_ci_upper": 749.7519599863881, "failure_count": 0, "left_ci_lower": 4878.834973289341, "left_ci_upper": 5212.434231100851, "left_mean": 5029.757933390404, "mean_delta": 633.2354774019526, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5467.591286071693, "right_ci_upper": 5881.258940057354, "right_mean": 5662.993410792357, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148148, "left_ci_upper": 0.20648148148148146, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148148, "left_ci_upper": 0.20648148148148146, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148148, "left_ci_upper": 0.20648148148148146, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.00462962962962963, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.00462962962962963, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.10648148148148148, "left_ci_upper": 0.20648148148148146, "left_mean": 0.15462962962962962, "mean_delta": 0.03888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14629629629629629, "right_ci_upper": 0.24351851851851852, "right_mean": 0.19351851851851853, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0046119444803655605, "ci_upper": 0.13448273632484142, "delta_ci_lower": 0.0046119444803655605, "delta_ci_upper": 0.13448273632484142, "failure_count": 0, "left_ci_lower": 0.05574665574665574, "left_ci_upper": 0.17575757575757575, "left_mean": 0.1113022113022113, "mean_delta": 0.06881474776211619, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11345029239766083, "right_ci_upper": 0.24678362573099413, "right_mean": 0.18011695906432748, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7333333333333333, "mean_delta": 0.0, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_0d6955c37af628650e9654ec", "builder_key": "qwen3_1_7b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.04166666666666667, "delta_ci_lower": -0.075, "delta_ci_upper": 0.04166666666666667, "failure_count": 0, "left_ci_lower": 0.275, "left_ci_upper": 0.39166666666666666, "left_mean": 0.3333333333333333, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1310.4182885755533, "ci_upper": 3051.72353987029, "delta_ci_lower": 1310.4182885755533, "delta_ci_upper": 3051.72353987029, "failure_count": 0, "left_ci_lower": 40114.55450774127, "left_ci_upper": 41157.19296042894, "left_mean": 40625.934432677845, "mean_delta": 2175.1236788152405, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42207.84878249038, "right_ci_upper": 43411.121257268875, "right_mean": 42801.05811149309, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 186.61541666666668, "ci_upper": 405.54291666666666, "delta_ci_lower": 186.61541666666668, "delta_ci_upper": 405.54291666666666, "failure_count": 0, "left_ci_lower": 5686.406249999999, "left_ci_upper": 5833.843958333333, "left_mean": 5758.783333333333, "mean_delta": 297.925, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5988.671666666667, "right_ci_upper": 6121.583958333334, "right_mean": 6056.708333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 174.64958333333337, "ci_upper": 378.33354166666663, "delta_ci_lower": 174.64958333333337, "delta_ci_upper": 378.33354166666663, "failure_count": 0, "left_ci_lower": 5345.249374999999, "left_ci_upper": 5479.368541666667, "left_mean": 5411.016666666666, "mean_delta": 278.23333333333335, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5626.307291666666, "right_ci_upper": 5749.158541666667, "right_mean": 5689.25, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.3, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666666, "left_mean": 0.6777777777777777, "mean_delta": -0.022222222222222227, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 253.91671067991413, "ci_upper": 437.8774886291891, "delta_ci_lower": 253.91671067991413, "delta_ci_upper": 437.8774886291891, "failure_count": 0, "left_ci_lower": 4917.346555884263, "left_ci_upper": 5247.851323856739, "left_mean": 5069.391614290847, "mean_delta": 342.45669303054456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5234.416852976235, "right_ci_upper": 5612.058798815754, "right_mean": 5411.848307321391, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.029012345679012345, "ci_upper": 0.09977926644593312, "delta_ci_lower": -0.029012345679012345, "delta_ci_upper": 0.09977926644593312, "failure_count": 0, "left_ci_lower": 0.09377711044377711, "left_ci_upper": 0.2290020148353481, "left_mean": 0.16009727676394342, "mean_delta": 0.03311259977926644, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12407407407407406, "right_ci_upper": 0.26851851851851855, "right_mean": 0.19320987654320987, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.3, "ci_upper": 0.0, "delta_ci_lower": -0.3, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.075, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.275, "left_ci_upper": 0.39166666666666666, "left_mean": 0.3333333333333333, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1310.4182885755533, "ci_upper": 3051.72353987029, "delta_ci_lower": 1310.4182885755533, "delta_ci_upper": 3051.72353987029, "failure_count": 0, "left_ci_lower": 40114.55450774127, "left_ci_upper": 41157.19296042895, "left_mean": 40625.934432677845, "mean_delta": 2175.1236788152405, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42207.84878249038, "right_ci_upper": 43411.121257268875, "right_mean": 42801.05811149309, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 186.61541666666668, "ci_upper": 405.54291666666666, "delta_ci_lower": 186.61541666666668, "delta_ci_upper": 405.54291666666666, "failure_count": 0, "left_ci_lower": 5686.40625, "left_ci_upper": 5833.843958333333, "left_mean": 5758.783333333334, "mean_delta": 297.925, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5988.671666666667, "right_ci_upper": 6121.583958333334, "right_mean": 6056.708333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 174.64958333333337, "ci_upper": 378.33354166666663, "delta_ci_lower": 174.64958333333337, "delta_ci_upper": 378.33354166666663, "failure_count": 0, "left_ci_lower": 5345.249374999999, "left_ci_upper": 5479.368541666667, "left_mean": 5411.016666666666, "mean_delta": 278.23333333333335, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5626.307291666666, "right_ci_upper": 5749.158541666667, "right_mean": 5689.25, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.3, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6777777777777778, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 253.91671067991413, "ci_upper": 437.8774886291891, "delta_ci_lower": 253.91671067991413, "delta_ci_upper": 437.8774886291891, "failure_count": 0, "left_ci_lower": 4917.346555884263, "left_ci_upper": 5247.851323856739, "left_mean": 5069.3916142908465, "mean_delta": 342.45669303054456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5234.416852976235, "right_ci_upper": 5612.058798815754, "right_mean": 5411.848307321391, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.029012345679012345, "ci_upper": 0.0997792664459331, "delta_ci_lower": -0.029012345679012345, "delta_ci_upper": 0.0997792664459331, "failure_count": 0, "left_ci_lower": 0.09377711044377711, "left_ci_upper": 0.22900201483534807, "left_mean": 0.16009727676394342, "mean_delta": 0.03311259977926644, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12407407407407407, "right_ci_upper": 0.26851851851851855, "right_mean": 0.19320987654320987, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.3, "ci_upper": 0.0, "delta_ci_lower": -0.3, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.05191868805425143, "ci_upper": 0.06782831246739696, "delta_ci_lower": -0.05191868805425143, "delta_ci_upper": 0.06782831246739696, "failure_count": 0, "left_ci_lower": 0.1832681272822118, "left_ci_upper": 0.3110221048513302, "left_mean": 0.24548774126238915, "mean_delta": 0.006624934793948878, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1837874934793949, "right_ci_upper": 0.32602047470005213, "right_mean": 0.252112676056338, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1479.4023206520815, "ci_upper": 3350.2229341906045, "delta_ci_lower": 1479.4023206520815, "delta_ci_upper": 3350.2229341906045, "failure_count": 0, "left_ci_lower": 40033.802451059986, "left_ci_upper": 41152.62090910808, "left_mean": 40573.498174974746, "mean_delta": 2420.2532836500163, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42339.755585766725, "right_ci_upper": 43676.15861682586, "right_mean": 42993.75145862477, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 214.87803827595204, "ci_upper": 445.1301757303077, "delta_ci_lower": 214.87803827595204, "delta_ci_upper": 445.1301757303077, "failure_count": 0, "left_ci_lower": 5665.089776017214, "left_ci_upper": 5821.634707876891, "left_mean": 5741.246817944705, "mean_delta": 332.48407668231613, "missing_count": 0, "paired_count": 120, "right_ci_lower": 6003.38585419927, "right_ci_upper": 6141.128401799687, "right_mean": 6073.7308946270205, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07646711012564669, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07646711012564669, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03392461197339246, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07646711012564669, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07646711012564669, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03392461197339246, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07646711012564669, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07646711012564669, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03392461197339246, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 199.91917807772563, "ci_upper": 411.6064622456964, "delta_ci_lower": 199.91917807772563, "delta_ci_upper": 411.6064622456964, "failure_count": 0, "left_ci_lower": 5328.097773539384, "left_ci_upper": 5470.805489371413, "left_mean": 5397.417201356286, "mean_delta": 308.2383411580594, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5640.854321531038, "right_ci_upper": 5766.685444053209, "right_mean": 5705.655542514345, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.3, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12997782705099778, "ci_upper": 0.07593237250554306, "delta_ci_lower": -0.12997782705099778, "delta_ci_upper": 0.07593237250554306, "failure_count": 0, "left_ci_lower": 0.5701844050258683, "left_ci_upper": 0.7540724316334073, "left_mean": 0.6632815964523281, "mean_delta": -0.029342202512934224, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5390561714708058, "right_ci_upper": 0.7282324464153731, "right_mean": 0.6339393939393939, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "failure_count": 0, "left_ci_lower": 0.13680635624538065, "left_ci_upper": 0.3069623059866962, "left_mean": 0.2195713229859571, "mean_delta": 0.11609756097560975, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "failure_count": 0, "left_ci_lower": 0.13680635624538065, "left_ci_upper": 0.3069623059866962, "left_mean": 0.2195713229859571, "mean_delta": 0.11609756097560975, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "failure_count": 0, "left_ci_lower": 0.13680635624538065, "left_ci_upper": 0.3069623059866962, "left_mean": 0.2195713229859571, "mean_delta": 0.11609756097560975, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "failure_count": 0, "left_ci_lower": 0.13680635624538065, "left_ci_upper": 0.3069623059866962, "left_mean": 0.2195713229859571, "mean_delta": 0.11609756097560975, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "failure_count": 0, "left_ci_lower": 0.14199556541019956, "left_ci_upper": 0.31442719881744274, "left_mean": 0.22589800443458977, "mean_delta": 0.12471544715447154, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "failure_count": 0, "left_ci_lower": 0.14199556541019956, "left_ci_upper": 0.31442719881744274, "left_mean": 0.22589800443458977, "mean_delta": 0.12471544715447154, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "failure_count": 0, "left_ci_lower": 0.14199556541019956, "left_ci_upper": 0.31442719881744274, "left_mean": 0.22589800443458977, "mean_delta": 0.12471544715447154, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "failure_count": 0, "left_ci_lower": 0.14199556541019956, "left_ci_upper": 0.31442719881744274, "left_mean": 0.22589800443458977, "mean_delta": 0.12471544715447154, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 254.33318552738734, "ci_upper": 405.53252003514575, "delta_ci_lower": 254.33318552738734, "delta_ci_upper": 405.53252003514575, "failure_count": 0, "left_ci_lower": 4947.22818745039, "left_ci_upper": 5356.025185420974, "left_mean": 5132.889462440984, "mean_delta": 324.5629240337903, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5255.5234806942435, "right_ci_upper": 5692.474553365757, "right_mean": 5457.452386474773, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "failure_count": 0, "left_ci_lower": 0.05594142645971915, "left_ci_upper": 0.1277809805370781, "left_mean": 0.09082532643508252, "mean_delta": 0.06859571322985956, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "failure_count": 0, "left_ci_lower": 0.05594142645971915, "left_ci_upper": 0.1277809805370781, "left_mean": 0.09082532643508252, "mean_delta": 0.06859571322985956, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "failure_count": 0, "left_ci_lower": 0.05594142645971915, "left_ci_upper": 0.1277809805370781, "left_mean": 0.09082532643508252, "mean_delta": 0.06859571322985956, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "failure_count": 0, "left_ci_lower": 0.05594142645971915, "left_ci_upper": 0.1277809805370781, "left_mean": 0.09082532643508252, "mean_delta": 0.06859571322985956, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.027618247020686038, "ci_upper": 0.10693353186036113, "delta_ci_lower": -0.027618247020686038, "delta_ci_upper": 0.10693353186036113, "failure_count": 0, "left_ci_lower": 0.09946570645351135, "left_ci_upper": 0.238256463780854, "left_mean": 0.16750249823420554, "mean_delta": 0.03712918444625761, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13124747474747475, "right_ci_upper": 0.2841241685144124, "right_mean": 0.20463168268046317, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.3, "ci_upper": 0.0, "delta_ci_lower": -0.3, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.04166666666666667, "delta_ci_lower": -0.075, "delta_ci_upper": 0.04166666666666667, "failure_count": 0, "left_ci_lower": 0.275, "left_ci_upper": 0.39166666666666666, "left_mean": 0.3333333333333333, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1310.4182885755533, "ci_upper": 3051.72353987029, "delta_ci_lower": 1310.4182885755533, "delta_ci_upper": 3051.72353987029, "failure_count": 0, "left_ci_lower": 40114.55450774127, "left_ci_upper": 41157.19296042894, "left_mean": 40625.934432677845, "mean_delta": 2175.1236788152405, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42207.84878249038, "right_ci_upper": 43411.121257268875, "right_mean": 42801.05811149309, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 186.61541666666668, "ci_upper": 405.54291666666666, "delta_ci_lower": 186.61541666666668, "delta_ci_upper": 405.54291666666666, "failure_count": 0, "left_ci_lower": 5686.406249999999, "left_ci_upper": 5833.843958333333, "left_mean": 5758.783333333333, "mean_delta": 297.925, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5988.671666666667, "right_ci_upper": 6121.583958333334, "right_mean": 6056.708333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 174.64958333333337, "ci_upper": 378.33354166666663, "delta_ci_lower": 174.64958333333337, "delta_ci_upper": 378.33354166666663, "failure_count": 0, "left_ci_lower": 5345.249374999999, "left_ci_upper": 5479.368541666667, "left_mean": 5411.016666666666, "mean_delta": 278.23333333333335, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5626.307291666666, "right_ci_upper": 5749.158541666667, "right_mean": 5689.25, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.3, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666666, "left_mean": 0.6777777777777777, "mean_delta": -0.022222222222222227, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333336, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444446, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444446, "right_ci_upper": 0.4444444444444444, "right_mean": 0.3444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 253.91671067991413, "ci_upper": 437.8774886291891, "delta_ci_lower": 253.91671067991413, "delta_ci_upper": 437.8774886291891, "failure_count": 0, "left_ci_lower": 4917.346555884263, "left_ci_upper": 5247.851323856739, "left_mean": 5069.391614290847, "mean_delta": 342.45669303054456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5234.416852976235, "right_ci_upper": 5612.058798815754, "right_mean": 5411.848307321391, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.2074074074074074, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.029012345679012345, "ci_upper": 0.09977926644593312, "delta_ci_lower": -0.029012345679012345, "delta_ci_upper": 0.09977926644593312, "failure_count": 0, "left_ci_lower": 0.09377711044377711, "left_ci_upper": 0.2290020148353481, "left_mean": 0.16009727676394342, "mean_delta": 0.03311259977926644, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12407407407407406, "right_ci_upper": 0.26851851851851855, "right_mean": 0.19320987654320987, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.3, "ci_upper": 0.0, "delta_ci_lower": -0.3, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.075, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.275, "left_ci_upper": 0.39166666666666666, "left_mean": 0.3333333333333333, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1310.4182885755533, "ci_upper": 3051.72353987029, "delta_ci_lower": 1310.4182885755533, "delta_ci_upper": 3051.72353987029, "failure_count": 0, "left_ci_lower": 40114.55450774127, "left_ci_upper": 41157.19296042895, "left_mean": 40625.934432677845, "mean_delta": 2175.1236788152405, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42207.84878249038, "right_ci_upper": 43411.121257268875, "right_mean": 42801.05811149309, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 186.61541666666668, "ci_upper": 405.54291666666666, "delta_ci_lower": 186.61541666666668, "delta_ci_upper": 405.54291666666666, "failure_count": 0, "left_ci_lower": 5686.40625, "left_ci_upper": 5833.843958333333, "left_mean": 5758.783333333334, "mean_delta": 297.925, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5988.671666666667, "right_ci_upper": 6121.583958333334, "right_mean": 6056.708333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 174.64958333333337, "ci_upper": 378.33354166666663, "delta_ci_lower": 174.64958333333337, "delta_ci_upper": 378.33354166666663, "failure_count": 0, "left_ci_lower": 5345.249374999999, "left_ci_upper": 5479.368541666667, "left_mean": 5411.016666666666, "mean_delta": 278.23333333333335, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5626.307291666666, "right_ci_upper": 5749.158541666667, "right_mean": 5689.25, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.3, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6777777777777778, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 253.91671067991413, "ci_upper": 437.8774886291891, "delta_ci_lower": 253.91671067991413, "delta_ci_upper": 437.8774886291891, "failure_count": 0, "left_ci_lower": 4917.346555884263, "left_ci_upper": 5247.851323856739, "left_mean": 5069.3916142908465, "mean_delta": 342.45669303054456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5234.416852976235, "right_ci_upper": 5612.058798815754, "right_mean": 5411.848307321391, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.029012345679012345, "ci_upper": 0.0997792664459331, "delta_ci_lower": -0.029012345679012345, "delta_ci_upper": 0.0997792664459331, "failure_count": 0, "left_ci_lower": 0.09377711044377711, "left_ci_upper": 0.22900201483534807, "left_mean": 0.16009727676394342, "mean_delta": 0.03311259977926644, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12407407407407407, "right_ci_upper": 0.26851851851851855, "right_mean": 0.19320987654320987, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.3, "ci_upper": 0.0, "delta_ci_lower": -0.3, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.05191868805425143, "ci_upper": 0.06782831246739696, "delta_ci_lower": -0.05191868805425143, "delta_ci_upper": 0.06782831246739696, "failure_count": 0, "left_ci_lower": 0.1832681272822118, "left_ci_upper": 0.3110221048513302, "left_mean": 0.24548774126238915, "mean_delta": 0.006624934793948878, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.1837874934793949, "right_ci_upper": 0.32602047470005213, "right_mean": 0.252112676056338, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1479.4023206520815, "ci_upper": 3350.2229341906045, "delta_ci_lower": 1479.4023206520815, "delta_ci_upper": 3350.2229341906045, "failure_count": 0, "left_ci_lower": 40033.802451059986, "left_ci_upper": 41152.62090910808, "left_mean": 40573.498174974746, "mean_delta": 2420.2532836500163, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42339.755585766725, "right_ci_upper": 43676.15861682586, "right_mean": 42993.75145862477, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 214.87803827595204, "ci_upper": 445.1301757303077, "delta_ci_lower": 214.87803827595204, "delta_ci_upper": 445.1301757303077, "failure_count": 0, "left_ci_lower": 5665.089776017214, "left_ci_upper": 5821.634707876891, "left_mean": 5741.246817944705, "mean_delta": 332.48407668231613, "missing_count": 0, "paired_count": 120, "right_ci_lower": 6003.38585419927, "right_ci_upper": 6141.128401799687, "right_mean": 6073.7308946270205, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07646711012564669, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07646711012564669, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03392461197339246, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07646711012564669, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07646711012564669, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03392461197339246, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07646711012564669, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07646711012564669, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03392461197339246, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07646711012564669, "right_mean": 0.03392461197339246, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 199.91917807772563, "ci_upper": 411.6064622456964, "delta_ci_lower": 199.91917807772563, "delta_ci_upper": 411.6064622456964, "failure_count": 0, "left_ci_lower": 5328.097773539384, "left_ci_upper": 5470.805489371413, "left_mean": 5397.417201356286, "mean_delta": 308.2383411580594, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5640.854321531038, "right_ci_upper": 5766.685444053209, "right_mean": 5705.655542514345, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.3, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12997782705099778, "ci_upper": 0.07593237250554306, "delta_ci_lower": -0.12997782705099778, "delta_ci_upper": 0.07593237250554306, "failure_count": 0, "left_ci_lower": 0.5701844050258683, "left_ci_upper": 0.7540724316334073, "left_mean": 0.6632815964523281, "mean_delta": -0.029342202512934224, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5390561714708058, "right_ci_upper": 0.7282324464153731, "right_mean": 0.6339393939393939, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "failure_count": 0, "left_ci_lower": 0.13680635624538065, "left_ci_upper": 0.3069623059866962, "left_mean": 0.2195713229859571, "mean_delta": 0.11609756097560975, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "failure_count": 0, "left_ci_lower": 0.13680635624538065, "left_ci_upper": 0.3069623059866962, "left_mean": 0.2195713229859571, "mean_delta": 0.11609756097560975, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "failure_count": 0, "left_ci_lower": 0.13680635624538065, "left_ci_upper": 0.3069623059866962, "left_mean": 0.2195713229859571, "mean_delta": 0.11609756097560975, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "failure_count": 0, "left_ci_lower": 0.13680635624538065, "left_ci_upper": 0.3069623059866962, "left_mean": 0.2195713229859571, "mean_delta": 0.11609756097560975, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2405691056910569, "right_ci_upper": 0.4336511456023652, "right_mean": 0.3356688839615669, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "failure_count": 0, "left_ci_lower": 0.14199556541019956, "left_ci_upper": 0.31442719881744274, "left_mean": 0.22589800443458977, "mean_delta": 0.12471544715447154, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "failure_count": 0, "left_ci_lower": 0.14199556541019956, "left_ci_upper": 0.31442719881744274, "left_mean": 0.22589800443458977, "mean_delta": 0.12471544715447154, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "failure_count": 0, "left_ci_lower": 0.14199556541019956, "left_ci_upper": 0.31442719881744274, "left_mean": 0.22589800443458977, "mean_delta": 0.12471544715447154, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "failure_count": 0, "left_ci_lower": 0.14199556541019956, "left_ci_upper": 0.31442719881744274, "left_mean": 0.22589800443458977, "mean_delta": 0.12471544715447154, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2523861788617886, "right_ci_upper": 0.45116038433111605, "right_mean": 0.3506134515890614, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 254.33318552738734, "ci_upper": 405.53252003514575, "delta_ci_lower": 254.33318552738734, "delta_ci_upper": 405.53252003514575, "failure_count": 0, "left_ci_lower": 4947.22818745039, "left_ci_upper": 5356.025185420974, "left_mean": 5132.889462440984, "mean_delta": 324.5629240337903, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5255.5234806942435, "right_ci_upper": 5692.474553365757, "right_mean": 5457.452386474773, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "failure_count": 0, "left_ci_lower": 0.05594142645971915, "left_ci_upper": 0.1277809805370781, "left_mean": 0.09082532643508252, "mean_delta": 0.06859571322985956, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "failure_count": 0, "left_ci_lower": 0.05594142645971915, "left_ci_upper": 0.1277809805370781, "left_mean": 0.09082532643508252, "mean_delta": 0.06859571322985956, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "failure_count": 0, "left_ci_lower": 0.05594142645971915, "left_ci_upper": 0.1277809805370781, "left_mean": 0.09082532643508252, "mean_delta": 0.06859571322985956, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "failure_count": 0, "left_ci_lower": 0.05594142645971915, "left_ci_upper": 0.1277809805370781, "left_mean": 0.09082532643508252, "mean_delta": 0.06859571322985956, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11068927075634391, "right_ci_upper": 0.21035778516876077, "right_mean": 0.1594210396649421, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.027618247020686038, "ci_upper": 0.10693353186036113, "delta_ci_lower": -0.027618247020686038, "delta_ci_upper": 0.10693353186036113, "failure_count": 0, "left_ci_lower": 0.09946570645351135, "left_ci_upper": 0.238256463780854, "left_mean": 0.16750249823420554, "mean_delta": 0.03712918444625761, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13124747474747475, "right_ci_upper": 0.2841241685144124, "right_mean": 0.20463168268046317, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.3, "ci_upper": 0.0, "delta_ci_lower": -0.3, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1118.4657857453572, "ci_upper": 4506.746578970924, "delta_ci_lower": 1118.4657857453572, "delta_ci_upper": 4506.746578970924, "failure_count": 0, "left_ci_lower": 39668.53502374278, "left_ci_upper": 42071.530374389746, "left_mean": 40823.234738855776, "mean_delta": 2875.779116607737, "missing_count": 0, "paired_count": 30, "right_ci_lower": 42631.46037315853, "right_ci_upper": 44738.1838764388, "right_mean": 43699.01385546351, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 168.16250000000002, "ci_upper": 638.2008333333334, "delta_ci_lower": 168.16250000000002, "delta_ci_upper": 638.2008333333334, "failure_count": 0, "left_ci_lower": 5581.147500000001, "left_ci_upper": 5911.6675000000005, "left_mean": 5739.533333333334, "mean_delta": 415.96666666666664, "missing_count": 0, "paired_count": 30, "right_ci_lower": 6025.165833333334, "right_ci_upper": 6275.3341666666665, "right_mean": 6155.5, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 154.8191666666668, "ci_upper": 579.335, "delta_ci_lower": 154.8191666666668, "delta_ci_upper": 579.335, "failure_count": 0, "left_ci_lower": 5250.5325, "left_ci_upper": 5556.5025, "left_mean": 5396.7, "mean_delta": 376.1666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5658.397499999999, "right_ci_upper": 5876.768333333333, "right_mean": 5772.866666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.3, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.3, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": -0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.45, "left_mean": 0.2833333333333333, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.6, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.45, "left_mean": 0.2833333333333333, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.6, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.45, "left_mean": 0.2833333333333333, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.6, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.45, "left_mean": 0.2833333333333333, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.6, "right_mean": 0.4166666666666667, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 91.56755551026438, "ci_upper": 384.4495698807683, "delta_ci_lower": 91.56755551026438, "delta_ci_upper": 384.4495698807683, "failure_count": 0, "left_ci_lower": 4683.1333559660325, "left_ci_upper": 5230.245975498983, "left_mean": 4952.042468000825, "mean_delta": 200.2964778492848, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4863.959420174167, "right_ci_upper": 5458.19790963064, "right_mean": 5152.338945850109, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.2111111111111111, "left_mean": 0.13333333333333333, "mean_delta": 0.09444444444444446, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.2111111111111111, "left_mean": 0.13333333333333333, "mean_delta": 0.09444444444444446, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.2111111111111111, "left_mean": 0.13333333333333333, "mean_delta": 0.09444444444444446, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.2111111111111111, "left_mean": 0.13333333333333333, "mean_delta": 0.09444444444444446, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.12777777777777777, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 592.9417432431368, "ci_upper": 4569.960961924904, "delta_ci_lower": 592.9417432431368, "delta_ci_upper": 4569.960961924904, "failure_count": 0, "left_ci_lower": 39415.31185803537, "left_ci_upper": 41102.85247646272, "left_mean": 40245.01729440332, "mean_delta": 2524.9112502400144, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41210.26349705683, "right_ci_upper": 44433.85313508586, "right_mean": 42769.928544643335, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 89.26666666666667, "ci_upper": 495.6691666666666, "delta_ci_lower": 89.26666666666667, "delta_ci_upper": 495.6691666666666, "failure_count": 0, "left_ci_lower": 5594.599166666667, "left_ci_upper": 5843.6375, "left_mean": 5716.266666666666, "mean_delta": 294.3, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5856.299166666667, "right_ci_upper": 6152.635, "right_mean": 6010.566666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 80.2966666666667, "ci_upper": 455.66833333333335, "delta_ci_lower": 80.2966666666667, "delta_ci_upper": 455.66833333333335, "failure_count": 0, "left_ci_lower": 5278.733333333334, "left_ci_upper": 5504.436666666667, "left_mean": 5388.4, "mean_delta": 270.8333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5521.5625, "right_ci_upper": 5788.569166666666, "right_mean": 5659.233333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 417.4862683667258, "ci_upper": 681.009893795902, "delta_ci_lower": 417.4862683667258, "delta_ci_upper": 681.009893795902, "failure_count": 0, "left_ci_lower": 4619.569706495192, "left_ci_upper": 5700.166928987019, "left_mean": 5089.011518102295, "mean_delta": 543.7234694176974, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5127.947456584273, "right_ci_upper": 6252.461882197531, "right_mean": 5632.734987519992, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.008333333333333333, "ci_upper": 0.07777777777777777, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.07777777777777777, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.10555555555555556, "left_mean": 0.05555555555555555, "mean_delta": 0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.15, "right_mean": 0.09444444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.008333333333333333, "ci_upper": 0.07777777777777777, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.07777777777777777, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.10555555555555556, "left_mean": 0.05555555555555555, "mean_delta": 0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.15, "right_mean": 0.09444444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.008333333333333333, "ci_upper": 0.07777777777777777, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.07777777777777777, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.10555555555555556, "left_mean": 0.05555555555555555, "mean_delta": 0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.15, "right_mean": 0.09444444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.008333333333333333, "ci_upper": 0.07777777777777777, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.07777777777777777, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.10555555555555556, "left_mean": 0.05555555555555555, "mean_delta": 0.03888888888888888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.15, "right_mean": 0.09444444444444443, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.07468622468622468, "ci_upper": 0.14378224378224377, "delta_ci_lower": -0.07468622468622468, "delta_ci_upper": 0.14378224378224377, "failure_count": 0, "left_ci_lower": 0.21362516362516362, "left_ci_upper": 0.5505943443443438, "left_mean": 0.3802918302918303, "mean_delta": 0.03267113267113267, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5851851851851853, "right_mean": 0.412962962962963, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 850.9180769303932, "ci_upper": 3825.6748806689084, "delta_ci_lower": 850.9180769303932, "delta_ci_upper": 3825.6748806689084, "failure_count": 0, "left_ci_lower": 39383.45389581324, "left_ci_upper": 41581.94373294944, "left_mean": 40458.00387095272, "mean_delta": 2379.1907096630894, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41938.19581352388, "right_ci_upper": 43760.346378324124, "right_mean": 42837.19458061581, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 185.32750000000004, "ci_upper": 577.4708333333333, "delta_ci_lower": 185.32750000000004, "delta_ci_upper": 577.4708333333333, "failure_count": 0, "left_ci_lower": 5576.694166666666, "left_ci_upper": 5862.768333333333, "left_mean": 5715.366666666667, "mean_delta": 385.46666666666664, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5987.766666666666, "right_ci_upper": 6210.933333333333, "right_mean": 6100.833333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 184.63166666666666, "ci_upper": 551.0033333333333, "delta_ci_lower": 184.63166666666666, "delta_ci_upper": 551.0033333333333, "failure_count": 0, "left_ci_lower": 5232.726666666667, "left_ci_upper": 5492.1, "left_mean": 5357.233333333334, "mean_delta": 370.96666666666664, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5619.365833333333, "right_ci_upper": 5832.073333333333, "right_mean": 5728.2, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4166666666666667, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4166666666666667, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4166666666666667, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4166666666666667, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 65.56365652688935, "ci_upper": 118.35836432922707, "delta_ci_lower": 65.56365652688935, "delta_ci_upper": 118.35836432922707, "failure_count": 0, "left_ci_lower": 5603.519684918574, "left_ci_upper": 6085.2231281836675, "left_mean": 5840.047733439133, "mean_delta": 92.49235271320988, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5695.5650768427095, "right_ci_upper": 6179.715352423179, "right_mean": 5932.540086152342, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.016666666666666666, "ci_upper": 0.1388888888888889, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.1388888888888889, "failure_count": 0, "left_ci_lower": 0.02222222222222222, "left_ci_upper": 0.13888888888888887, "left_mean": 0.07777777777777777, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.24444444444444444, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.1388888888888889, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.1388888888888889, "failure_count": 0, "left_ci_lower": 0.02222222222222222, "left_ci_upper": 0.13888888888888887, "left_mean": 0.07777777777777777, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.24444444444444444, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.1388888888888889, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.1388888888888889, "failure_count": 0, "left_ci_lower": 0.02222222222222222, "left_ci_upper": 0.13888888888888887, "left_mean": 0.07777777777777777, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.24444444444444444, "right_mean": 0.15, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.1388888888888889, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.1388888888888889, "failure_count": 0, "left_ci_lower": 0.02222222222222222, "left_ci_upper": 0.13888888888888887, "left_mean": 0.07777777777777777, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.24444444444444444, "right_mean": 0.15, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.3, "ci_upper": 0.0, "delta_ci_lower": -0.3, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": -0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -769.6341583540197, "ci_upper": 2649.365040305517, "delta_ci_lower": -769.6341583540197, "delta_ci_upper": 2649.365040305517, "failure_count": 0, "left_ci_lower": 40002.20094030946, "left_ci_upper": 42007.73703508428, "left_mean": 40977.48182649957, "mean_delta": 920.6136387501223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40784.901101205614, "right_ci_upper": 42994.98047569514, "right_mean": 41898.095465249695, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -129.9741666666666, "ci_upper": 324.76666666666665, "delta_ci_lower": -129.9741666666666, "delta_ci_upper": 324.76666666666665, "failure_count": 0, "left_ci_lower": 5716.598333333333, "left_ci_upper": 6016.8675, "left_mean": 5863.966666666666, "mean_delta": 95.96666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5811.2283333333335, "right_ci_upper": 6100.6675000000005, "right_mean": 5959.933333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -121.8483333333332, "ci_upper": 315.63833333333326, "delta_ci_lower": -121.8483333333332, "delta_ci_upper": 315.63833333333326, "failure_count": 0, "left_ci_lower": 5370.031666666667, "left_ci_upper": 5638.468333333333, "left_mean": 5501.733333333334, "mean_delta": 94.96666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5454.158333333334, "right_ci_upper": 5732.235, "right_mean": 5596.7, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.3, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": 240.11362162535085, "ci_upper": 862.8800288755641, "delta_ci_lower": 240.11362162535085, "delta_ci_upper": 862.8800288755641, "failure_count": 0, "left_ci_lower": 4255.061173800204, "left_ci_upper": 4529.883689318085, "left_mean": 4396.464737621136, "mean_delta": 533.3144721419861, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4632.838903043497, "right_ci_upper": 5245.907872540605, "right_mean": 4929.779209763122, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.3, "ci_upper": 0.0, "delta_ci_lower": -0.3, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": -0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "left_regime": "native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.075, "delta_ci_upper": 0.041666666666666664, "failure_count": 0, "left_ci_lower": 0.275, "left_ci_upper": 0.39166666666666666, "left_mean": 0.3333333333333333, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.25, "right_ci_upper": 0.38333333333333336, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1310.4182885755533, "ci_upper": 3051.72353987029, "delta_ci_lower": 1310.4182885755533, "delta_ci_upper": 3051.72353987029, "failure_count": 0, "left_ci_lower": 40114.55450774127, "left_ci_upper": 41157.19296042895, "left_mean": 40625.934432677845, "mean_delta": 2175.1236788152405, "missing_count": 0, "paired_count": 120, "right_ci_lower": 42207.84878249038, "right_ci_upper": 43411.121257268875, "right_mean": 42801.05811149309, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 186.61541666666668, "ci_upper": 405.54291666666666, "delta_ci_lower": 186.61541666666668, "delta_ci_upper": 405.54291666666666, "failure_count": 0, "left_ci_lower": 5686.40625, "left_ci_upper": 5833.843958333333, "left_mean": 5758.783333333334, "mean_delta": 297.925, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5988.671666666667, "right_ci_upper": 6121.583958333334, "right_mean": 6056.708333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 174.64958333333337, "ci_upper": 378.33354166666663, "delta_ci_lower": 174.64958333333337, "delta_ci_upper": 378.33354166666663, "failure_count": 0, "left_ci_lower": 5345.249374999999, "left_ci_upper": 5479.368541666667, "left_mean": 5411.016666666666, "mean_delta": 278.23333333333335, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5626.307291666666, "right_ci_upper": 5749.158541666667, "right_mean": 5689.25, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.0, "ci_upper": 0.3, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6777777777777778, "mean_delta": -0.022222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.3, "left_mean": 0.21666666666666667, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.4222222222222222, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3111111111111111, "left_mean": 0.2222222222222222, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.24444444444444444, "right_ci_upper": 0.4444444444444444, "right_mean": 0.34444444444444444, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 253.91671067991413, "ci_upper": 437.8774886291891, "delta_ci_lower": 253.91671067991413, "delta_ci_upper": 437.8774886291891, "failure_count": 0, "left_ci_lower": 4917.346555884263, "left_ci_upper": 5247.851323856739, "left_mean": 5069.3916142908465, "mean_delta": 342.45669303054456, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5234.416852976235, "right_ci_upper": 5612.058798815754, "right_mean": 5411.848307321391, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962963, "left_ci_upper": 0.12407407407407407, "left_mean": 0.08888888888888889, "mean_delta": 0.06851851851851852, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.10925925925925926, "right_ci_upper": 0.20740740740740743, "right_mean": 0.1574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.029012345679012345, "ci_upper": 0.0997792664459331, "delta_ci_lower": -0.029012345679012345, "delta_ci_upper": 0.0997792664459331, "failure_count": 0, "left_ci_lower": 0.09377711044377711, "left_ci_upper": 0.22900201483534807, "left_mean": 0.16009727676394342, "mean_delta": 0.03311259977926644, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12407407407407407, "right_ci_upper": 0.26851851851851855, "right_mean": 0.19320987654320987, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.3, "ci_upper": 0.0, "delta_ci_lower": -0.3, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_97ba3cce02889beea444bd79", "builder_key": "qwen3_4b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.075, "delta_ci_lower": -0.025, "delta_ci_upper": 0.075, "failure_count": 0, "left_ci_lower": 0.24166666666666664, "left_ci_upper": 0.35833333333333334, "left_mean": 0.3, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.275, "right_ci_upper": 0.3833333333333333, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -148.9437698170271, "ci_upper": 1287.1275023240257, "delta_ci_lower": -148.9437698170271, "delta_ci_upper": 1287.1275023240257, "failure_count": 0, "left_ci_lower": 39515.54894392876, "left_ci_upper": 40509.60972990188, "left_mean": 40007.73919057198, "mean_delta": 576.6342760519668, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39982.07462295866, "right_ci_upper": 41189.58696465987, "right_mean": 40584.37346662395, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -109.86854166666666, "ci_upper": 89.7704166666666, "delta_ci_lower": -109.86854166666666, "delta_ci_upper": 89.7704166666666, "failure_count": 0, "left_ci_lower": 5664.9, "left_ci_upper": 5802.320625, "left_mean": 5732.575, "mean_delta": -9.483333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5646.395833333333, "right_ci_upper": 5802.3099999999995, "right_mean": 5723.091666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -114.30854166666667, "ci_upper": 76.63437499999998, "delta_ci_lower": -114.30854166666667, "delta_ci_upper": 76.63437499999998, "failure_count": 0, "left_ci_lower": 5379.058125, "left_ci_upper": 5510.383541666666, "left_mean": 5443.383333333333, "mean_delta": -18.624999999999993, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5353.83625, "right_ci_upper": 5498.528125, "right_mean": 5424.758333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.08888888888888889, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5888888888888889, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.14444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444446, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.14444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444446, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.14444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444446, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.14444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444446, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 605.8316861177202, "ci_upper": 866.4617832715642, "delta_ci_lower": 605.8316861177202, "delta_ci_upper": 866.4617832715642, "failure_count": 0, "left_ci_lower": 4852.984939795594, "left_ci_upper": 5184.0880133946, "left_mean": 5004.107654827143, "mean_delta": 731.5641486328483, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5511.19005775734, "right_ci_upper": 6005.560850242521, "right_mean": 5735.671803459991, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.011111111111111108, "ci_upper": 0.05185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.05185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962962, "left_ci_upper": 0.14166666666666666, "left_mean": 0.09629629629629628, "mean_delta": 0.01944444444444444, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.011111111111111108, "ci_upper": 0.05185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.05185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962962, "left_ci_upper": 0.14166666666666666, "left_mean": 0.09629629629629628, "mean_delta": 0.01944444444444444, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.011111111111111108, "ci_upper": 0.05185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.05185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962962, "left_ci_upper": 0.14166666666666666, "left_mean": 0.09629629629629628, "mean_delta": 0.01944444444444444, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.011111111111111108, "ci_upper": 0.05185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.05185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962962, "left_ci_upper": 0.14166666666666666, "left_mean": 0.09629629629629628, "mean_delta": 0.01944444444444444, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.07222222222222223, "ci_upper": 0.03420479302832244, "delta_ci_lower": -0.07222222222222223, "delta_ci_upper": 0.03420479302832244, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.23222222222222222, "left_mean": 0.16740740740740742, "mean_delta": -0.01803129332541097, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0921865715983363, "right_ci_upper": 0.21048722519310756, "right_mean": 0.14937611408199644, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.075, "delta_ci_lower": -0.025, "delta_ci_upper": 0.075, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.35833333333333334, "left_mean": 0.3, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.275, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -148.94376981702712, "ci_upper": 1287.1275023240257, "delta_ci_lower": -148.94376981702712, "delta_ci_upper": 1287.1275023240257, "failure_count": 0, "left_ci_lower": 39515.548943928756, "left_ci_upper": 40509.60972990188, "left_mean": 40007.73919057198, "mean_delta": 576.6342760519668, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39982.07462295866, "right_ci_upper": 41189.58696465987, "right_mean": 40584.37346662395, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -109.86854166666664, "ci_upper": 89.7704166666666, "delta_ci_lower": -109.86854166666664, "delta_ci_upper": 89.7704166666666, "failure_count": 0, "left_ci_lower": 5664.9, "left_ci_upper": 5802.320625, "left_mean": 5732.575, "mean_delta": -9.483333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5646.395833333333, "right_ci_upper": 5802.3099999999995, "right_mean": 5723.091666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -114.30854166666667, "ci_upper": 76.63437499999999, "delta_ci_lower": -114.30854166666667, "delta_ci_upper": 76.63437499999999, "failure_count": 0, "left_ci_lower": 5379.058125, "left_ci_upper": 5510.383541666666, "left_mean": 5443.383333333333, "mean_delta": -18.625, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5353.836249999999, "right_ci_upper": 5498.528125, "right_mean": 5424.758333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.08888888888888889, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5888888888888889, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 605.8316861177202, "ci_upper": 866.4617832715642, "delta_ci_lower": 605.8316861177202, "delta_ci_upper": 866.4617832715642, "failure_count": 0, "left_ci_lower": 4852.984939795594, "left_ci_upper": 5184.0880133946, "left_mean": 5004.107654827142, "mean_delta": 731.5641486328483, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5511.19005775734, "right_ci_upper": 6005.560850242521, "right_mean": 5735.671803459991, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.011111111111111112, "ci_upper": 0.05185185185185186, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.05185185185185186, "failure_count": 0, "left_ci_lower": 0.054629629629629625, "left_ci_upper": 0.14166666666666666, "left_mean": 0.0962962962962963, "mean_delta": 0.019444444444444445, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.05185185185185186, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.05185185185185186, "failure_count": 0, "left_ci_lower": 0.054629629629629625, "left_ci_upper": 0.14166666666666666, "left_mean": 0.0962962962962963, "mean_delta": 0.019444444444444445, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.05185185185185186, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.05185185185185186, "failure_count": 0, "left_ci_lower": 0.054629629629629625, "left_ci_upper": 0.14166666666666666, "left_mean": 0.0962962962962963, "mean_delta": 0.019444444444444445, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.05185185185185186, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.05185185185185186, "failure_count": 0, "left_ci_lower": 0.054629629629629625, "left_ci_upper": 0.14166666666666666, "left_mean": 0.0962962962962963, "mean_delta": 0.019444444444444445, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.07222222222222222, "ci_upper": 0.03420479302832244, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.03420479302832244, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.23222222222222222, "left_mean": 0.1674074074074074, "mean_delta": -0.018031293325410973, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0921865715983363, "right_ci_upper": 0.21048722519310756, "right_mean": 0.14937611408199644, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.04295774647887324, "ci_upper": 0.05916112415232125, "delta_ci_lower": -0.04295774647887324, "delta_ci_upper": 0.05916112415232125, "failure_count": 0, "left_ci_lower": 0.16173708920187796, "left_ci_upper": 0.2857589984350548, "left_mean": 0.22254825247782994, "mean_delta": 0.008098591549295774, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.175169535732916, "right_ci_upper": 0.2908189880020866, "right_mean": 0.2306468440271257, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 64.19514763922707, "ci_upper": 1551.0492378399724, "delta_ci_lower": 64.19514763922707, "delta_ci_upper": 1551.0492378399724, "failure_count": 0, "left_ci_lower": 39441.92639508198, "left_ci_upper": 40491.945265754934, "left_mean": 39964.974515594535, "mean_delta": 806.6016516968223, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40104.50658229374, "right_ci_upper": 41451.50238721282, "right_mean": 40771.57616729136, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -83.9404773082942, "ci_upper": 119.9048027516953, "delta_ci_lower": -83.9404773082942, "delta_ci_upper": 119.9048027516953, "failure_count": 0, "left_ci_lower": 5652.976890323422, "left_ci_upper": 5795.825114110589, "left_mean": 5723.388849765258, "mean_delta": 18.480646844027117, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5659.237611502347, "right_ci_upper": 5825.668517540427, "right_mean": 5741.869496609285, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.43293916275428, "ci_upper": 106.3375270605112, "delta_ci_lower": -91.43293916275428, "delta_ci_upper": 106.3375270605112, "failure_count": 0, "left_ci_lower": 5367.4066712310905, "left_ci_upper": 5502.9684011476265, "left_mean": 5434.013145539906, "mean_delta": 7.861345852895152, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5365.963009585289, "right_ci_upper": 5521.156002543036, "right_mean": 5441.874491392801, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.09138211382113823, "ci_upper": 0.0891337767923132, "delta_ci_lower": -0.09138211382113823, "delta_ci_upper": 0.0891337767923132, "failure_count": 0, "left_ci_lower": 0.5615099778270511, "left_ci_upper": 0.7293569844789357, "left_mean": 0.6449223946784922, "mean_delta": 0.0005912786400591272, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5645232815964524, "right_ci_upper": 0.7276866223207686, "right_mean": 0.6455136733185514, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.027886178861788617, "ci_upper": 0.09768680709534368, "delta_ci_lower": -0.027886178861788617, "delta_ci_upper": 0.09768680709534368, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.03388026607538802, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.027886178861788617, "ci_upper": 0.09768680709534368, "delta_ci_lower": -0.027886178861788617, "delta_ci_upper": 0.09768680709534368, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.03388026607538802, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.027886178861788617, "ci_upper": 0.09768680709534368, "delta_ci_lower": -0.027886178861788617, "delta_ci_upper": 0.09768680709534368, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.03388026607538802, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.027886178861788617, "ci_upper": 0.09768680709534368, "delta_ci_lower": -0.027886178861788617, "delta_ci_upper": 0.09768680709534368, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.03388026607538802, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.015550628233555068, "ci_upper": 0.12811529933481153, "delta_ci_lower": -0.015550628233555068, "delta_ci_upper": 0.12811529933481153, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.05456023651145602, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.015550628233555068, "ci_upper": 0.12811529933481153, "delta_ci_lower": -0.015550628233555068, "delta_ci_upper": 0.12811529933481153, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.05456023651145602, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.015550628233555068, "ci_upper": 0.12811529933481153, "delta_ci_lower": -0.015550628233555068, "delta_ci_upper": 0.12811529933481153, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.05456023651145602, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.015550628233555068, "ci_upper": 0.12811529933481153, "delta_ci_lower": -0.015550628233555068, "delta_ci_upper": 0.12811529933481153, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.05456023651145602, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 616.6636428491375, "ci_upper": 916.1463125145885, "delta_ci_lower": 616.6636428491375, "delta_ci_upper": 916.1463125145885, "failure_count": 0, "left_ci_lower": 4886.199878766696, "left_ci_upper": 5296.183866870375, "left_mean": 5071.042800427802, "mean_delta": 759.7792742817978, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5563.320847513115, "right_ci_upper": 6162.935681198778, "right_mean": 5830.8220747096, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.015237866469573785, "ci_upper": 0.04741863759546681, "delta_ci_lower": -0.015237866469573785, "delta_ci_upper": 0.04741863759546681, "failure_count": 0, "left_ci_lower": 0.05727654594727765, "left_ci_upper": 0.15048373983739835, "left_mean": 0.10242670608524268, "mean_delta": 0.015072677999507265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.015237866469573785, "ci_upper": 0.04741863759546681, "delta_ci_lower": -0.015237866469573785, "delta_ci_upper": 0.04741863759546681, "failure_count": 0, "left_ci_lower": 0.05727654594727765, "left_ci_upper": 0.15048373983739835, "left_mean": 0.10242670608524268, "mean_delta": 0.015072677999507265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.015237866469573785, "ci_upper": 0.04741863759546681, "delta_ci_lower": -0.015237866469573785, "delta_ci_upper": 0.04741863759546681, "failure_count": 0, "left_ci_lower": 0.05727654594727765, "left_ci_upper": 0.15048373983739835, "left_mean": 0.10242670608524268, "mean_delta": 0.015072677999507265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.015237866469573785, "ci_upper": 0.04741863759546681, "delta_ci_lower": -0.015237866469573785, "delta_ci_upper": 0.04741863759546681, "failure_count": 0, "left_ci_lower": 0.05727654594727765, "left_ci_upper": 0.15048373983739835, "left_mean": 0.10242670608524268, "mean_delta": 0.015072677999507265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06663829201101927, "ci_upper": 0.033318551367331854, "delta_ci_lower": -0.06663829201101927, "delta_ci_upper": 0.033318551367331854, "failure_count": 0, "left_ci_lower": 0.111320029563932, "left_ci_upper": 0.24010347376201033, "left_mean": 0.17484700665188468, "mean_delta": -0.016130350063831216, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.09800799569979173, "right_ci_upper": 0.22229459786333394, "right_mean": 0.15871665658805345, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.075, "delta_ci_lower": -0.025, "delta_ci_upper": 0.075, "failure_count": 0, "left_ci_lower": 0.24166666666666664, "left_ci_upper": 0.35833333333333334, "left_mean": 0.3, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.275, "right_ci_upper": 0.3833333333333333, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -148.9437698170271, "ci_upper": 1287.1275023240257, "delta_ci_lower": -148.9437698170271, "delta_ci_upper": 1287.1275023240257, "failure_count": 0, "left_ci_lower": 39515.54894392876, "left_ci_upper": 40509.60972990188, "left_mean": 40007.73919057198, "mean_delta": 576.6342760519668, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39982.07462295866, "right_ci_upper": 41189.58696465987, "right_mean": 40584.37346662395, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -109.86854166666666, "ci_upper": 89.7704166666666, "delta_ci_lower": -109.86854166666666, "delta_ci_upper": 89.7704166666666, "failure_count": 0, "left_ci_lower": 5664.9, "left_ci_upper": 5802.320625, "left_mean": 5732.575, "mean_delta": -9.483333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5646.395833333333, "right_ci_upper": 5802.3099999999995, "right_mean": 5723.091666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -114.30854166666667, "ci_upper": 76.63437499999998, "delta_ci_lower": -114.30854166666667, "delta_ci_upper": 76.63437499999998, "failure_count": 0, "left_ci_lower": 5379.058125, "left_ci_upper": 5510.383541666666, "left_mean": 5443.383333333333, "mean_delta": -18.624999999999993, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5353.83625, "right_ci_upper": 5498.528125, "right_mean": 5424.758333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.08888888888888889, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5888888888888889, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.2333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.14444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444446, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.14444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444446, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.14444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444446, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.14444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444446, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 605.8316861177202, "ci_upper": 866.4617832715642, "delta_ci_lower": 605.8316861177202, "delta_ci_upper": 866.4617832715642, "failure_count": 0, "left_ci_lower": 4852.984939795594, "left_ci_upper": 5184.0880133946, "left_mean": 5004.107654827143, "mean_delta": 731.5641486328483, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5511.19005775734, "right_ci_upper": 6005.560850242521, "right_mean": 5735.671803459991, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.011111111111111108, "ci_upper": 0.05185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.05185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962962, "left_ci_upper": 0.14166666666666666, "left_mean": 0.09629629629629628, "mean_delta": 0.01944444444444444, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.011111111111111108, "ci_upper": 0.05185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.05185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962962, "left_ci_upper": 0.14166666666666666, "left_mean": 0.09629629629629628, "mean_delta": 0.01944444444444444, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.011111111111111108, "ci_upper": 0.05185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.05185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962962, "left_ci_upper": 0.14166666666666666, "left_mean": 0.09629629629629628, "mean_delta": 0.01944444444444444, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.011111111111111108, "ci_upper": 0.05185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.05185185185185185, "failure_count": 0, "left_ci_lower": 0.05462962962962962, "left_ci_upper": 0.14166666666666666, "left_mean": 0.09629629629629628, "mean_delta": 0.01944444444444444, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.07222222222222223, "ci_upper": 0.03420479302832244, "delta_ci_lower": -0.07222222222222223, "delta_ci_upper": 0.03420479302832244, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.23222222222222222, "left_mean": 0.16740740740740742, "mean_delta": -0.01803129332541097, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0921865715983363, "right_ci_upper": 0.21048722519310756, "right_mean": 0.14937611408199644, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.075, "delta_ci_lower": -0.025, "delta_ci_upper": 0.075, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.35833333333333334, "left_mean": 0.3, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.275, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -148.94376981702712, "ci_upper": 1287.1275023240257, "delta_ci_lower": -148.94376981702712, "delta_ci_upper": 1287.1275023240257, "failure_count": 0, "left_ci_lower": 39515.548943928756, "left_ci_upper": 40509.60972990188, "left_mean": 40007.73919057198, "mean_delta": 576.6342760519668, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39982.07462295866, "right_ci_upper": 41189.58696465987, "right_mean": 40584.37346662395, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -109.86854166666664, "ci_upper": 89.7704166666666, "delta_ci_lower": -109.86854166666664, "delta_ci_upper": 89.7704166666666, "failure_count": 0, "left_ci_lower": 5664.9, "left_ci_upper": 5802.320625, "left_mean": 5732.575, "mean_delta": -9.483333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5646.395833333333, "right_ci_upper": 5802.3099999999995, "right_mean": 5723.091666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -114.30854166666667, "ci_upper": 76.63437499999999, "delta_ci_lower": -114.30854166666667, "delta_ci_upper": 76.63437499999999, "failure_count": 0, "left_ci_lower": 5379.058125, "left_ci_upper": 5510.383541666666, "left_mean": 5443.383333333333, "mean_delta": -18.625, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5353.836249999999, "right_ci_upper": 5498.528125, "right_mean": 5424.758333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.08888888888888889, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5888888888888889, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 605.8316861177202, "ci_upper": 866.4617832715642, "delta_ci_lower": 605.8316861177202, "delta_ci_upper": 866.4617832715642, "failure_count": 0, "left_ci_lower": 4852.984939795594, "left_ci_upper": 5184.0880133946, "left_mean": 5004.107654827142, "mean_delta": 731.5641486328483, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5511.19005775734, "right_ci_upper": 6005.560850242521, "right_mean": 5735.671803459991, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.011111111111111112, "ci_upper": 0.05185185185185186, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.05185185185185186, "failure_count": 0, "left_ci_lower": 0.054629629629629625, "left_ci_upper": 0.14166666666666666, "left_mean": 0.0962962962962963, "mean_delta": 0.019444444444444445, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.05185185185185186, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.05185185185185186, "failure_count": 0, "left_ci_lower": 0.054629629629629625, "left_ci_upper": 0.14166666666666666, "left_mean": 0.0962962962962963, "mean_delta": 0.019444444444444445, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.05185185185185186, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.05185185185185186, "failure_count": 0, "left_ci_lower": 0.054629629629629625, "left_ci_upper": 0.14166666666666666, "left_mean": 0.0962962962962963, "mean_delta": 0.019444444444444445, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.05185185185185186, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.05185185185185186, "failure_count": 0, "left_ci_lower": 0.054629629629629625, "left_ci_upper": 0.14166666666666666, "left_mean": 0.0962962962962963, "mean_delta": 0.019444444444444445, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.07222222222222222, "ci_upper": 0.03420479302832244, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.03420479302832244, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.23222222222222222, "left_mean": 0.1674074074074074, "mean_delta": -0.018031293325410973, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0921865715983363, "right_ci_upper": 0.21048722519310756, "right_mean": 0.14937611408199644, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.04295774647887324, "ci_upper": 0.05916112415232125, "delta_ci_lower": -0.04295774647887324, "delta_ci_upper": 0.05916112415232125, "failure_count": 0, "left_ci_lower": 0.16173708920187796, "left_ci_upper": 0.2857589984350548, "left_mean": 0.22254825247782994, "mean_delta": 0.008098591549295774, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.175169535732916, "right_ci_upper": 0.2908189880020866, "right_mean": 0.2306468440271257, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 64.19514763922707, "ci_upper": 1551.0492378399724, "delta_ci_lower": 64.19514763922707, "delta_ci_upper": 1551.0492378399724, "failure_count": 0, "left_ci_lower": 39441.92639508198, "left_ci_upper": 40491.945265754934, "left_mean": 39964.974515594535, "mean_delta": 806.6016516968223, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40104.50658229374, "right_ci_upper": 41451.50238721282, "right_mean": 40771.57616729136, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -83.9404773082942, "ci_upper": 119.9048027516953, "delta_ci_lower": -83.9404773082942, "delta_ci_upper": 119.9048027516953, "failure_count": 0, "left_ci_lower": 5652.976890323422, "left_ci_upper": 5795.825114110589, "left_mean": 5723.388849765258, "mean_delta": 18.480646844027117, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5659.237611502347, "right_ci_upper": 5825.668517540427, "right_mean": 5741.869496609285, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.06326681448632668, "left_mean": 0.02530672579453067, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.43293916275428, "ci_upper": 106.3375270605112, "delta_ci_lower": -91.43293916275428, "delta_ci_upper": 106.3375270605112, "failure_count": 0, "left_ci_lower": 5367.4066712310905, "left_ci_upper": 5502.9684011476265, "left_mean": 5434.013145539906, "mean_delta": 7.861345852895152, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5365.963009585289, "right_ci_upper": 5521.156002543036, "right_mean": 5441.874491392801, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.09138211382113823, "ci_upper": 0.0891337767923132, "delta_ci_lower": -0.09138211382113823, "delta_ci_upper": 0.0891337767923132, "failure_count": 0, "left_ci_lower": 0.5615099778270511, "left_ci_upper": 0.7293569844789357, "left_mean": 0.6449223946784922, "mean_delta": 0.0005912786400591272, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5645232815964524, "right_ci_upper": 0.7276866223207686, "right_mean": 0.6455136733185514, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.027886178861788617, "ci_upper": 0.09768680709534368, "delta_ci_lower": -0.027886178861788617, "delta_ci_upper": 0.09768680709534368, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.03388026607538802, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.027886178861788617, "ci_upper": 0.09768680709534368, "delta_ci_lower": -0.027886178861788617, "delta_ci_upper": 0.09768680709534368, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.03388026607538802, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.027886178861788617, "ci_upper": 0.09768680709534368, "delta_ci_lower": -0.027886178861788617, "delta_ci_upper": 0.09768680709534368, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.03388026607538802, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.027886178861788617, "ci_upper": 0.09768680709534368, "delta_ci_lower": -0.027886178861788617, "delta_ci_upper": 0.09768680709534368, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.03388026607538802, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1508858093126386, "right_ci_upper": 0.3201847745750185, "right_mean": 0.23392461197339245, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.015550628233555068, "ci_upper": 0.12811529933481153, "delta_ci_lower": -0.015550628233555068, "delta_ci_upper": 0.12811529933481153, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.05456023651145602, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.015550628233555068, "ci_upper": 0.12811529933481153, "delta_ci_lower": -0.015550628233555068, "delta_ci_upper": 0.12811529933481153, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.05456023651145602, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.015550628233555068, "ci_upper": 0.12811529933481153, "delta_ci_lower": -0.015550628233555068, "delta_ci_upper": 0.12811529933481153, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.05456023651145602, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.015550628233555068, "ci_upper": 0.12811529933481153, "delta_ci_lower": -0.015550628233555068, "delta_ci_upper": 0.12811529933481153, "failure_count": 0, "left_ci_lower": 0.11954175905395417, "left_ci_upper": 0.28517368810051735, "left_mean": 0.20004434589800443, "mean_delta": 0.05456023651145602, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.3465901699926089, "right_mean": 0.25460458240946043, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 616.6636428491375, "ci_upper": 916.1463125145885, "delta_ci_lower": 616.6636428491375, "delta_ci_upper": 916.1463125145885, "failure_count": 0, "left_ci_lower": 4886.199878766696, "left_ci_upper": 5296.183866870375, "left_mean": 5071.042800427802, "mean_delta": 759.7792742817978, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5563.320847513115, "right_ci_upper": 6162.935681198778, "right_mean": 5830.8220747096, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.015237866469573785, "ci_upper": 0.04741863759546681, "delta_ci_lower": -0.015237866469573785, "delta_ci_upper": 0.04741863759546681, "failure_count": 0, "left_ci_lower": 0.05727654594727765, "left_ci_upper": 0.15048373983739835, "left_mean": 0.10242670608524268, "mean_delta": 0.015072677999507265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.015237866469573785, "ci_upper": 0.04741863759546681, "delta_ci_lower": -0.015237866469573785, "delta_ci_upper": 0.04741863759546681, "failure_count": 0, "left_ci_lower": 0.05727654594727765, "left_ci_upper": 0.15048373983739835, "left_mean": 0.10242670608524268, "mean_delta": 0.015072677999507265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.015237866469573785, "ci_upper": 0.04741863759546681, "delta_ci_lower": -0.015237866469573785, "delta_ci_upper": 0.04741863759546681, "failure_count": 0, "left_ci_lower": 0.05727654594727765, "left_ci_upper": 0.15048373983739835, "left_mean": 0.10242670608524268, "mean_delta": 0.015072677999507265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.015237866469573785, "ci_upper": 0.04741863759546681, "delta_ci_lower": -0.015237866469573785, "delta_ci_upper": 0.04741863759546681, "failure_count": 0, "left_ci_lower": 0.05727654594727765, "left_ci_upper": 0.15048373983739835, "left_mean": 0.10242670608524268, "mean_delta": 0.015072677999507265, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07245700911554571, "right_ci_upper": 0.16705555555555554, "right_mean": 0.11749938408474993, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06663829201101927, "ci_upper": 0.033318551367331854, "delta_ci_lower": -0.06663829201101927, "delta_ci_upper": 0.033318551367331854, "failure_count": 0, "left_ci_lower": 0.111320029563932, "left_ci_upper": 0.24010347376201033, "left_mean": 0.17484700665188468, "mean_delta": -0.016130350063831216, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.09800799569979173, "right_ci_upper": 0.22229459786333394, "right_mean": 0.15871665658805345, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -720.737605177079, "ci_upper": 1776.3036492558117, "delta_ci_lower": -720.737605177079, "delta_ci_upper": 1776.3036492558117, "failure_count": 0, "left_ci_lower": 38970.16804718723, "left_ci_upper": 40835.56753587269, "left_mean": 39863.75755558256, "mean_delta": 510.87273184675723, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39323.34644068828, "right_ci_upper": 41504.762821765624, "right_mean": 40374.63028742932, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -162.93416666666667, "ci_upper": 205.26833333333332, "delta_ci_lower": -162.93416666666667, "delta_ci_upper": 205.26833333333332, "failure_count": 0, "left_ci_lower": 5560.366666666667, "left_ci_upper": 5807.535833333333, "left_mean": 5678.7, "mean_delta": 18.966666666666665, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5562.764166666666, "right_ci_upper": 5845.138333333333, "right_mean": 5697.666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -159.40249999999997, "ci_upper": 199.5683333333333, "delta_ci_lower": -159.40249999999997, "delta_ci_upper": 199.5683333333333, "failure_count": 0, "left_ci_lower": 5272.863333333333, "left_ci_upper": 5504.435, "left_mean": 5384.566666666667, "mean_delta": 17.8, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5271.299166666667, "right_ci_upper": 5543.840833333333, "right_mean": 5402.366666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 195.94114167586667, "ci_upper": 339.9409213585508, "delta_ci_lower": 195.94114167586667, "delta_ci_upper": 339.9409213585508, "failure_count": 0, "left_ci_lower": 4635.682790185771, "left_ci_upper": 5170.812596298735, "left_mean": 4897.754873610877, "mean_delta": 258.8748805884582, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4897.908732524569, "right_ci_upper": 5425.881199653959, "right_mean": 5156.629754199336, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.06666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2833333333333333, "left_mean": 0.17222222222222222, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.26666666666666666, "right_mean": 0.15555555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2833333333333333, "left_mean": 0.17222222222222222, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.26666666666666666, "right_mean": 0.15555555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2833333333333333, "left_mean": 0.17222222222222222, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.26666666666666666, "right_mean": 0.15555555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.2833333333333333, "left_mean": 0.17222222222222222, "mean_delta": -0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06111111111111111, "right_ci_upper": 0.26666666666666666, "right_mean": 0.15555555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -434.3649377838785, "ci_upper": 2750.6450220110123, "delta_ci_lower": -434.3649377838785, "delta_ci_upper": 2750.6450220110123, "failure_count": 0, "left_ci_lower": 39324.93812088311, "left_ci_upper": 41556.88857759834, "left_mean": 40420.62789296421, "mean_delta": 1183.1674764398485, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40178.83263098716, "right_ci_upper": 43128.377232840874, "right_mean": 41603.795369404055, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -203.26833333333335, "ci_upper": 215.24499999999983, "delta_ci_lower": -203.26833333333335, "delta_ci_upper": 215.24499999999983, "failure_count": 0, "left_ci_lower": 5669.031666666667, "left_ci_upper": 5965.01, "left_mean": 5815.1, "mean_delta": 8.633333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5655.363333333334, "right_ci_upper": 5993.1675000000005, "right_mean": 5823.733333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -219.36833333333334, "ci_upper": 188.90833333333322, "delta_ci_lower": -219.36833333333334, "delta_ci_upper": 188.90833333333322, "failure_count": 0, "left_ci_lower": 5395.933333333333, "left_ci_upper": 5681.041666666667, "left_mean": 5534.833333333333, "mean_delta": -12.9, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5369.1625, "right_ci_upper": 5677.868333333333, "right_mean": 5521.933333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.35, "right_mean": 0.2, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.35, "right_mean": 0.2, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.35, "right_mean": 0.2, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.35, "right_mean": 0.2, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.4, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 865.1952129153264, "ci_upper": 1662.1192184716347, "delta_ci_lower": 865.1952129153264, "delta_ci_upper": 1662.1192184716347, "failure_count": 0, "left_ci_lower": 4546.880651847654, "left_ci_upper": 5639.650681415999, "left_mean": 5021.421718030858, "mean_delta": 1239.1386959391336, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5547.789246385026, "right_ci_upper": 7215.815814271336, "right_mean": 6260.560413969991, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.025, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.025, "delta_ci_upper": 0.06944444444444445, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.13333333333333333, "left_mean": 0.06666666666666667, "mean_delta": 0.01944444444444444, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.030555555555555555, "right_ci_upper": 0.15277777777777776, "right_mean": 0.0861111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.025, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.025, "delta_ci_upper": 0.06944444444444445, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.13333333333333333, "left_mean": 0.06666666666666667, "mean_delta": 0.01944444444444444, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.030555555555555555, "right_ci_upper": 0.15277777777777776, "right_mean": 0.0861111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.025, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.025, "delta_ci_upper": 0.06944444444444445, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.13333333333333333, "left_mean": 0.06666666666666667, "mean_delta": 0.01944444444444444, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.030555555555555555, "right_ci_upper": 0.15277777777777776, "right_mean": 0.0861111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.025, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.025, "delta_ci_upper": 0.06944444444444445, "failure_count": 0, "left_ci_lower": 0.016666666666666666, "left_ci_upper": 0.13333333333333333, "left_mean": 0.06666666666666667, "mean_delta": 0.01944444444444444, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.030555555555555555, "right_ci_upper": 0.15277777777777776, "right_mean": 0.0861111111111111, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.12712418300653594, "ci_upper": 0.09019607843137255, "delta_ci_lower": -0.12712418300653594, "delta_ci_upper": 0.09019607843137255, "failure_count": 0, "left_ci_lower": 0.2688888888888889, "left_ci_upper": 0.6022222222222222, "left_mean": 0.43555555555555553, "mean_delta": -0.020760546642899582, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.25, "right_ci_upper": 0.5833333333333334, "right_mean": 0.41479500891265597, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 444.1586562927117, "ci_upper": 2892.4260592519804, "delta_ci_lower": 444.1586562927117, "delta_ci_upper": 2892.4260592519804, "failure_count": 0, "left_ci_lower": 38314.34208965414, "left_ci_upper": 40079.41359955255, "left_mean": 39149.461234702416, "mean_delta": 1682.767861095878, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39623.97299340344, "right_ci_upper": 42083.61744634807, "right_mean": 40832.2290957983, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -13.074999999999925, "ci_upper": 324.63416666666666, "delta_ci_lower": -13.074999999999925, "delta_ci_upper": 324.63416666666666, "failure_count": 0, "left_ci_lower": 5487.365000000001, "left_ci_upper": 5739.005833333334, "left_mean": 5604.633333333333, "mean_delta": 154.9, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5589.428333333333, "right_ci_upper": 5937.0475, "right_mean": 5759.533333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -21.36833333333332, "ci_upper": 301.4024999999999, "delta_ci_lower": -21.36833333333332, "delta_ci_upper": 301.4024999999999, "failure_count": 0, "left_ci_lower": 5203.761666666667, "left_ci_upper": 5426.073333333333, "left_mean": 5307.2, "mean_delta": 139.3, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5296.522500000001, "right_ci_upper": 5604.5008333333335, "right_mean": 5446.5, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.8, "left_ci_upper": 1.0, "left_mean": 0.9, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.8, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03333333333333333, "ci_upper": 0.25, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.25, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.2, "left_mean": 0.1, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.25, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.25, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.2, "left_mean": 0.1, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.25, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.25, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.2, "left_mean": 0.1, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.25, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.25, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.2, "left_mean": 0.1, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.38333333333333336, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.06583333333334072, "ci_upper": 0.3, "delta_ci_lower": 0.06583333333334072, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.2, "left_mean": 0.1, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.06583333333334072, "ci_upper": 0.3, "delta_ci_lower": 0.06583333333334072, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.2, "left_mean": 0.1, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.06583333333334072, "ci_upper": 0.3, "delta_ci_lower": 0.06583333333334072, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.2, "left_mean": 0.1, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.06583333333334072, "ci_upper": 0.3, "delta_ci_lower": 0.06583333333334072, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.2, "left_mean": 0.1, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 692.3642194944357, "ci_upper": 1336.2850448878207, "delta_ci_lower": 692.3642194944357, "delta_ci_upper": 1336.2850448878207, "failure_count": 0, "left_ci_lower": 5559.035389846055, "left_ci_upper": 6028.3468749989215, "left_mean": 5788.48809163707, "mean_delta": 990.6404360818366, "missing_count": 0, "paired_count": 30, "right_ci_lower": 6386.484289014673, "right_ci_upper": 7198.93555996144, "right_mean": 6779.128527718906, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.11666666666666667, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1111111111111111, "left_mean": 0.05, "mean_delta": 0.05555555555555555, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.1722222222222222, "right_mean": 0.10555555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.11666666666666667, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1111111111111111, "left_mean": 0.05, "mean_delta": 0.05555555555555555, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.1722222222222222, "right_mean": 0.10555555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.11666666666666667, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1111111111111111, "left_mean": 0.05, "mean_delta": 0.05555555555555555, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.1722222222222222, "right_mean": 0.10555555555555556, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.11666666666666667, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1111111111111111, "left_mean": 0.05, "mean_delta": 0.05555555555555555, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.04444444444444444, "right_ci_upper": 0.1722222222222222, "right_mean": 0.10555555555555556, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2602.932547428063, "ci_upper": 422.1773987266345, "delta_ci_lower": -2602.932547428063, "delta_ci_upper": 422.1773987266345, "failure_count": 0, "left_ci_lower": 39563.69182429985, "left_ci_upper": 41639.0060278232, "left_mean": 40597.110079038735, "mean_delta": -1070.2709651746165, "missing_count": 0, "paired_count": 30, "right_ci_lower": 38652.44853058907, "right_ci_upper": 40460.88686143727, "right_mean": 39526.83911386412, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -440.50083333333333, "ci_upper": -5.93083333333337, "delta_ci_lower": -440.50083333333333, "delta_ci_upper": -5.93083333333337, "failure_count": 0, "left_ci_lower": 5683.230833333333, "left_ci_upper": 5981.7074999999995, "left_mean": 5831.866666666667, "mean_delta": -220.43333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5479.365833333333, "right_ci_upper": 5751.868333333333, "right_mean": 5611.433333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -426.1716666666667, "ci_upper": -16.399166666666677, "delta_ci_lower": -426.1716666666667, "delta_ci_upper": -16.399166666666677, "failure_count": 0, "left_ci_lower": 5401.631666666667, "left_ci_upper": 5693.135833333334, "left_mean": 5546.933333333333, "mean_delta": -218.7, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5201.597500000001, "right_ci_upper": 5462.201666666666, "right_mean": 5328.233333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": 368.2898614319857, "ci_upper": 512.5052433791765, "delta_ci_lower": 368.2898614319857, "delta_ci_upper": 512.5052433791765, "failure_count": 0, "left_ci_lower": 4166.1771259272555, "left_ci_upper": 4443.899659522479, "left_mean": 4308.765936029765, "mean_delta": 437.6025819219649, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4583.166345600039, "right_ci_upper": 4903.953574726281, "right_mean": 4746.36851795173, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "left_regime": "native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.075, "delta_ci_lower": -0.025, "delta_ci_upper": 0.075, "failure_count": 0, "left_ci_lower": 0.24166666666666667, "left_ci_upper": 0.35833333333333334, "left_mean": 0.3, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.275, "right_ci_upper": 0.38333333333333336, "right_mean": 0.325, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -148.94376981702712, "ci_upper": 1287.1275023240257, "delta_ci_lower": -148.94376981702712, "delta_ci_upper": 1287.1275023240257, "failure_count": 0, "left_ci_lower": 39515.548943928756, "left_ci_upper": 40509.60972990188, "left_mean": 40007.73919057198, "mean_delta": 576.6342760519668, "missing_count": 0, "paired_count": 120, "right_ci_lower": 39982.07462295866, "right_ci_upper": 41189.58696465987, "right_mean": 40584.37346662395, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -109.86854166666664, "ci_upper": 89.7704166666666, "delta_ci_lower": -109.86854166666664, "delta_ci_upper": 89.7704166666666, "failure_count": 0, "left_ci_lower": 5664.9, "left_ci_upper": 5802.320625, "left_mean": 5732.575, "mean_delta": -9.483333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5646.395833333333, "right_ci_upper": 5802.3099999999995, "right_mean": 5723.091666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.05555555555555555, "left_mean": 0.022222222222222223, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -114.30854166666667, "ci_upper": 76.63437499999999, "delta_ci_lower": -114.30854166666667, "delta_ci_upper": 76.63437499999999, "failure_count": 0, "left_ci_lower": 5379.058125, "left_ci_upper": 5510.383541666666, "left_mean": 5443.383333333333, "mean_delta": -18.625, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5353.836249999999, "right_ci_upper": 5498.528125, "right_mean": 5424.758333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.23333333333333334, "mean_delta": -0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.08888888888888889, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6666666666666666, "mean_delta": 0.0, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5888888888888889, "right_ci_upper": 0.7444444444444445, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1111111111111111, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.15, "right_ci_upper": 0.31666666666666665, "right_mean": 0.23333333333333334, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.0, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.1111111111111111, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18888888888888888, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.34444444444444444, "right_mean": 0.25555555555555554, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 605.8316861177202, "ci_upper": 866.4617832715642, "delta_ci_lower": 605.8316861177202, "delta_ci_upper": 866.4617832715642, "failure_count": 0, "left_ci_lower": 4852.984939795594, "left_ci_upper": 5184.0880133946, "left_mean": 5004.107654827142, "mean_delta": 731.5641486328483, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5511.19005775734, "right_ci_upper": 6005.560850242521, "right_mean": 5735.671803459991, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.011111111111111112, "ci_upper": 0.05185185185185186, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.05185185185185186, "failure_count": 0, "left_ci_lower": 0.054629629629629625, "left_ci_upper": 0.14166666666666666, "left_mean": 0.0962962962962963, "mean_delta": 0.019444444444444445, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.05185185185185186, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.05185185185185186, "failure_count": 0, "left_ci_lower": 0.054629629629629625, "left_ci_upper": 0.14166666666666666, "left_mean": 0.0962962962962963, "mean_delta": 0.019444444444444445, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.05185185185185186, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.05185185185185186, "failure_count": 0, "left_ci_lower": 0.054629629629629625, "left_ci_upper": 0.14166666666666666, "left_mean": 0.0962962962962963, "mean_delta": 0.019444444444444445, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.05185185185185186, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.05185185185185186, "failure_count": 0, "left_ci_lower": 0.054629629629629625, "left_ci_upper": 0.14166666666666666, "left_mean": 0.0962962962962963, "mean_delta": 0.019444444444444445, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.07314814814814814, "right_ci_upper": 0.16203703703703703, "right_mean": 0.11574074074074073, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.07222222222222222, "ci_upper": 0.03420479302832244, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.03420479302832244, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.23222222222222222, "left_mean": 0.1674074074074074, "mean_delta": -0.018031293325410973, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0921865715983363, "right_ci_upper": 0.21048722519310756, "right_mean": 0.14937611408199644, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.13333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_541d8b1af2513e6db17b19e0", "builder_key": "qwen3_8b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.05, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.20833333333333334, "left_ci_upper": 0.35833333333333334, "left_mean": 0.2833333333333333, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.3083333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 112.61695443688963, "ci_upper": 1349.274912524294, "delta_ci_lower": 112.61695443688963, "delta_ci_upper": 1349.274912524294, "failure_count": 0, "left_ci_lower": 40736.62982362315, "left_ci_upper": 41760.75604070933, "left_mean": 41244.14129516905, "mean_delta": 732.0115079860747, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41516.484434040176, "right_ci_upper": 42448.553917382385, "right_mean": 41976.15280315513, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 0.6481250000000169, "ci_upper": 174.44458333333316, "delta_ci_lower": 0.6481250000000169, "delta_ci_upper": 174.44458333333316, "failure_count": 0, "left_ci_lower": 5803.538124999999, "left_ci_upper": 5947.192916666667, "left_mean": 5874.633333333333, "mean_delta": 87.43333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5900.882083333333, "right_ci_upper": 6025.283541666668, "right_mean": 5962.066666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222223, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222223, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222223, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222223, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222223, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222223, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 8.432500000000008, "ci_upper": 170.1427083333333, "delta_ci_lower": 8.432500000000008, "delta_ci_upper": 170.1427083333333, "failure_count": 0, "left_ci_lower": 5479.172083333333, "left_ci_upper": 5612.252083333333, "left_mean": 5545.225, "mean_delta": 89.31666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5575.8150000000005, "right_ci_upper": 5694.642916666666, "right_mean": 5634.541666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.4666666666666667, "ci_upper": -0.1, "delta_ci_lower": -0.4666666666666667, "delta_ci_upper": -0.1, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": -0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.39999999999999997, "left_ci_upper": 0.5777777777777778, "left_mean": 0.48888888888888893, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4444444444444444, "right_ci_upper": 0.6222222222222222, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.01907407407407407, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.01907407407407407, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.25092592592592594, "left_ci_upper": 0.4277777777777778, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.01907407407407407, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.01907407407407407, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.25092592592592594, "left_ci_upper": 0.4277777777777778, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.01907407407407407, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.01907407407407407, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.25092592592592594, "left_ci_upper": 0.4277777777777778, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.01907407407407407, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.01907407407407407, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.25092592592592594, "left_ci_upper": 0.4277777777777778, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.04444444444444443, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.04444444444444443, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.04444444444444443, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.04444444444444443, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.04444444444444443, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.04444444444444443, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.04444444444444443, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.04444444444444443, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 654.5417801068106, "ci_upper": 887.1675237658443, "delta_ci_lower": 654.5417801068106, "delta_ci_upper": 887.1675237658443, "failure_count": 0, "left_ci_lower": 4880.954101685468, "left_ci_upper": 5198.208699688985, "left_mean": 5027.247623627773, "mean_delta": 768.6558177306626, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5595.773587267951, "right_ci_upper": 6019.4559516550125, "right_mean": 5795.903441358436, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.011111111111111108, "ci_upper": 0.09907407407407408, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.09907407407407408, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.22407407407407406, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.011111111111111108, "ci_upper": 0.09907407407407408, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.09907407407407408, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.22407407407407406, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.011111111111111108, "ci_upper": 0.09907407407407408, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.09907407407407408, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.22407407407407406, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.011111111111111108, "ci_upper": 0.09907407407407408, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.09907407407407408, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.22407407407407406, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.11777777777777777, "ci_upper": 0.02888888888888889, "delta_ci_lower": -0.11777777777777777, "delta_ci_upper": 0.02888888888888889, "failure_count": 0, "left_ci_lower": 0.16628703703703712, "left_ci_upper": 0.3214814814814815, "left_mean": 0.24074074074074078, "mean_delta": -0.04296296296296296, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1288888888888889, "right_ci_upper": 0.27, "right_mean": 0.1977777777777778, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.1, "ci_upper": 0.4666666666666667, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4666666666666667, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.05, "ci_upper": 0.1, "delta_ci_lower": -0.05, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.20833333333333334, "left_ci_upper": 0.35833333333333334, "left_mean": 0.2833333333333333, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.30833333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 112.61695443688961, "ci_upper": 1349.274912524294, "delta_ci_lower": 112.61695443688961, "delta_ci_upper": 1349.274912524294, "failure_count": 0, "left_ci_lower": 40736.62982362315, "left_ci_upper": 41760.75604070933, "left_mean": 41244.14129516905, "mean_delta": 732.0115079860747, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41516.484434040176, "right_ci_upper": 42448.55391738238, "right_mean": 41976.15280315513, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 0.6481250000000167, "ci_upper": 174.44458333333316, "delta_ci_lower": 0.6481250000000167, "delta_ci_upper": 174.44458333333316, "failure_count": 0, "left_ci_lower": 5803.538125, "left_ci_upper": 5947.192916666667, "left_mean": 5874.633333333333, "mean_delta": 87.43333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5900.882083333333, "right_ci_upper": 6025.283541666668, "right_mean": 5962.066666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 8.432500000000008, "ci_upper": 170.14270833333333, "delta_ci_lower": 8.432500000000008, "delta_ci_upper": 170.14270833333333, "failure_count": 0, "left_ci_lower": 5479.172083333333, "left_ci_upper": 5612.252083333333, "left_mean": 5545.225, "mean_delta": 89.31666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5575.8150000000005, "right_ci_upper": 5694.642916666666, "right_mean": 5634.541666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.4666666666666667, "ci_upper": -0.1, "delta_ci_lower": -0.4666666666666667, "delta_ci_upper": -0.1, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": -0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.4, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4888888888888889, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4444444444444444, "right_ci_upper": 0.6222222222222222, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.019074074074074073, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.019074074074074073, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.2509259259259259, "left_ci_upper": 0.42777777777777776, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.019074074074074073, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.019074074074074073, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.2509259259259259, "left_ci_upper": 0.42777777777777776, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.019074074074074073, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.019074074074074073, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.2509259259259259, "left_ci_upper": 0.42777777777777776, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.019074074074074073, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.019074074074074073, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.2509259259259259, "left_ci_upper": 0.42777777777777776, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 654.5417801068106, "ci_upper": 887.1675237658443, "delta_ci_lower": 654.5417801068106, "delta_ci_upper": 887.1675237658443, "failure_count": 0, "left_ci_lower": 4880.954101685468, "left_ci_upper": 5198.208699688985, "left_mean": 5027.247623627773, "mean_delta": 768.6558177306628, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5595.773587267952, "right_ci_upper": 6019.455951655012, "right_mean": 5795.903441358435, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09907407407407406, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09907407407407406, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.2240740740740741, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09907407407407406, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09907407407407406, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.2240740740740741, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09907407407407406, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09907407407407406, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.2240740740740741, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09907407407407406, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09907407407407406, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.2240740740740741, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.11777777777777777, "ci_upper": 0.02888888888888889, "delta_ci_lower": -0.11777777777777777, "delta_ci_upper": 0.02888888888888889, "failure_count": 0, "left_ci_lower": 0.16628703703703715, "left_ci_upper": 0.3214814814814815, "left_mean": 0.24074074074074076, "mean_delta": -0.04296296296296297, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1288888888888889, "right_ci_upper": 0.27, "right_mean": 0.19777777777777777, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.1, "ci_upper": 0.4666666666666667, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4666666666666667, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.095829420970266, "ci_upper": 0.05384878716744911, "delta_ci_lower": -0.095829420970266, "delta_ci_upper": 0.05384878716744911, "failure_count": 0, "left_ci_lower": 0.18218342462180492, "left_ci_upper": 0.3358916927490871, "left_mean": 0.2571987480438185, "mean_delta": -0.01980959833072509, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.17289710485133025, "right_ci_upper": 0.3064860459050599, "right_mean": 0.23738914971309336, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 258.24422440057305, "ci_upper": 1545.9414128692233, "delta_ci_lower": 258.24422440057305, "delta_ci_upper": 1545.9414128692233, "failure_count": 0, "left_ci_lower": 40769.71919036357, "left_ci_upper": 41884.87947257877, "left_mean": 41314.91573970723, "mean_delta": 896.6434145079354, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41721.159888766255, "right_ci_upper": 42697.54752614719, "right_mean": 42211.55915421516, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 19.148695226917056, "ci_upper": 200.072273082942, "delta_ci_lower": 19.148695226917056, "delta_ci_upper": 200.072273082942, "failure_count": 0, "left_ci_lower": 5796.664800795514, "left_ci_upper": 5946.749470852896, "left_mean": 5871.58895409494, "mean_delta": 109.31348461137193, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5917.531933033385, "right_ci_upper": 6044.602282537819, "right_mean": 5980.902438706312, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.021271249076127124, "ci_upper": 0.11846267553584626, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.11846267553584626, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06381374722838137, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.021271249076127124, "right_ci_upper": 0.11846267553584626, "right_mean": 0.06381374722838137, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.021271249076127124, "ci_upper": 0.11846267553584626, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.11846267553584626, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06381374722838137, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.021271249076127124, "right_ci_upper": 0.11846267553584626, "right_mean": 0.06381374722838137, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.021271249076127124, "ci_upper": 0.11846267553584626, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.11846267553584626, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06381374722838137, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.021271249076127124, "right_ci_upper": 0.11846267553584626, "right_mean": 0.06381374722838137, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 23.757595526864907, "ci_upper": 193.48943531559726, "delta_ci_lower": 23.757595526864907, "delta_ci_upper": 193.48943531559726, "failure_count": 0, "left_ci_lower": 5472.274419340114, "left_ci_upper": 5611.517892540427, "left_mean": 5541.545005216483, "mean_delta": 108.44406624934793, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5589.235001304121, "right_ci_upper": 5711.756839788733, "right_mean": 5649.989071465832, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.4666666666666667, "ci_upper": -0.1, "delta_ci_lower": -0.4666666666666667, "delta_ci_upper": -0.1, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": -0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05116149297856614, "ci_upper": 0.14356504065040646, "delta_ci_lower": -0.05116149297856614, "delta_ci_upper": 0.14356504065040646, "failure_count": 0, "left_ci_lower": 0.3695934959349593, "left_ci_upper": 0.5540728011825573, "left_mean": 0.4609756097560976, "mean_delta": 0.044212860310421286, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.40981522542498156, "right_ci_upper": 0.604050258684405, "right_mean": 0.5051884700665188, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.012746008869179598, "ci_upper": 0.11061378418329636, "delta_ci_lower": -0.012746008869179598, "delta_ci_upper": 0.11061378418329636, "failure_count": 0, "left_ci_lower": 0.24861911800936193, "left_ci_upper": 0.4291829268292683, "left_mean": 0.3373417097807342, "mean_delta": 0.0470169992609017, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.012746008869179598, "ci_upper": 0.11061378418329636, "delta_ci_lower": -0.012746008869179598, "delta_ci_upper": 0.11061378418329636, "failure_count": 0, "left_ci_lower": 0.24861911800936193, "left_ci_upper": 0.4291829268292683, "left_mean": 0.3373417097807342, "mean_delta": 0.0470169992609017, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.012746008869179598, "ci_upper": 0.11061378418329636, "delta_ci_lower": -0.012746008869179598, "delta_ci_upper": 0.11061378418329636, "failure_count": 0, "left_ci_lower": 0.24861911800936193, "left_ci_upper": 0.4291829268292683, "left_mean": 0.3373417097807342, "mean_delta": 0.0470169992609017, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.012746008869179598, "ci_upper": 0.11061378418329636, "delta_ci_lower": -0.012746008869179598, "delta_ci_upper": 0.11061378418329636, "failure_count": 0, "left_ci_lower": 0.24861911800936193, "left_ci_upper": 0.4291829268292683, "left_mean": 0.3373417097807342, "mean_delta": 0.0470169992609017, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.029253510716925345, "ci_upper": 0.13973392461197337, "delta_ci_lower": -0.029253510716925345, "delta_ci_upper": 0.13973392461197337, "failure_count": 0, "left_ci_lower": 0.32988913525498886, "left_ci_upper": 0.5385081300813007, "left_mean": 0.4327420546932742, "mean_delta": 0.05464892830746489, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.029253510716925345, "ci_upper": 0.13973392461197337, "delta_ci_lower": -0.029253510716925345, "delta_ci_upper": 0.13973392461197337, "failure_count": 0, "left_ci_lower": 0.32988913525498886, "left_ci_upper": 0.5385081300813007, "left_mean": 0.4327420546932742, "mean_delta": 0.05464892830746489, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.029253510716925345, "ci_upper": 0.13973392461197337, "delta_ci_lower": -0.029253510716925345, "delta_ci_upper": 0.13973392461197337, "failure_count": 0, "left_ci_lower": 0.32988913525498886, "left_ci_upper": 0.5385081300813007, "left_mean": 0.4327420546932742, "mean_delta": 0.05464892830746489, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.029253510716925345, "ci_upper": 0.13973392461197337, "delta_ci_lower": -0.029253510716925345, "delta_ci_upper": 0.13973392461197337, "failure_count": 0, "left_ci_lower": 0.32988913525498886, "left_ci_upper": 0.5385081300813007, "left_mean": 0.4327420546932742, "mean_delta": 0.05464892830746489, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 763.5584457790383, "ci_upper": 1045.2461069657993, "delta_ci_lower": 763.5584457790383, "delta_ci_upper": 1045.2461069657993, "failure_count": 0, "left_ci_lower": 4913.56049079725, "left_ci_upper": 5306.671520608933, "left_mean": 5092.611394336548, "mean_delta": 899.8674229189517, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5748.457323762111, "right_ci_upper": 6264.955909806173, "right_mean": 5992.4788172555, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.016124414880512444, "ci_upper": 0.10222487065779748, "delta_ci_lower": 0.016124414880512444, "delta_ci_upper": 0.10222487065779748, "failure_count": 0, "left_ci_lower": 0.13246557033752154, "left_ci_upper": 0.2213340108401084, "left_mean": 0.175580192165558, "mean_delta": 0.059275683665927566, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.016124414880512444, "ci_upper": 0.10222487065779748, "delta_ci_lower": 0.016124414880512444, "delta_ci_upper": 0.10222487065779748, "failure_count": 0, "left_ci_lower": 0.13246557033752154, "left_ci_upper": 0.2213340108401084, "left_mean": 0.175580192165558, "mean_delta": 0.059275683665927566, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.016124414880512444, "ci_upper": 0.10222487065779748, "delta_ci_lower": 0.016124414880512444, "delta_ci_upper": 0.10222487065779748, "failure_count": 0, "left_ci_lower": 0.13246557033752154, "left_ci_upper": 0.2213340108401084, "left_mean": 0.175580192165558, "mean_delta": 0.059275683665927566, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.016124414880512444, "ci_upper": 0.10222487065779748, "delta_ci_lower": 0.016124414880512444, "delta_ci_upper": 0.10222487065779748, "failure_count": 0, "left_ci_lower": 0.13246557033752154, "left_ci_upper": 0.2213340108401084, "left_mean": 0.175580192165558, "mean_delta": 0.059275683665927566, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.12079844789356985, "ci_upper": 0.03033084503572307, "delta_ci_lower": -0.12079844789356985, "delta_ci_upper": 0.03033084503572307, "failure_count": 0, "left_ci_lower": 0.17184464153732446, "left_ci_upper": 0.3308297117516629, "left_mean": 0.2488829761024883, "mean_delta": -0.04391919191919191, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13500369549150038, "right_ci_upper": 0.2782095343680709, "right_mean": 0.2049637841832964, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.1, "ci_upper": 0.4666666666666667, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4666666666666667, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.05, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.20833333333333334, "left_ci_upper": 0.35833333333333334, "left_mean": 0.2833333333333333, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.3083333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 112.61695443688963, "ci_upper": 1349.274912524294, "delta_ci_lower": 112.61695443688963, "delta_ci_upper": 1349.274912524294, "failure_count": 0, "left_ci_lower": 40736.62982362315, "left_ci_upper": 41760.75604070933, "left_mean": 41244.14129516905, "mean_delta": 732.0115079860747, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41516.484434040176, "right_ci_upper": 42448.553917382385, "right_mean": 41976.15280315513, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 0.6481250000000169, "ci_upper": 174.44458333333316, "delta_ci_lower": 0.6481250000000169, "delta_ci_upper": 174.44458333333316, "failure_count": 0, "left_ci_lower": 5803.538124999999, "left_ci_upper": 5947.192916666667, "left_mean": 5874.633333333333, "mean_delta": 87.43333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5900.882083333333, "right_ci_upper": 6025.283541666668, "right_mean": 5962.066666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222223, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222223, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222223, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222223, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222223, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222223, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 8.432500000000008, "ci_upper": 170.1427083333333, "delta_ci_lower": 8.432500000000008, "delta_ci_upper": 170.1427083333333, "failure_count": 0, "left_ci_lower": 5479.172083333333, "left_ci_upper": 5612.252083333333, "left_mean": 5545.225, "mean_delta": 89.31666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5575.8150000000005, "right_ci_upper": 5694.642916666666, "right_mean": 5634.541666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.4666666666666667, "ci_upper": -0.1, "delta_ci_lower": -0.4666666666666667, "delta_ci_upper": -0.1, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": -0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.39999999999999997, "left_ci_upper": 0.5777777777777778, "left_mean": 0.48888888888888893, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4444444444444444, "right_ci_upper": 0.6222222222222222, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.01907407407407407, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.01907407407407407, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.25092592592592594, "left_ci_upper": 0.4277777777777778, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.01907407407407407, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.01907407407407407, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.25092592592592594, "left_ci_upper": 0.4277777777777778, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.01907407407407407, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.01907407407407407, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.25092592592592594, "left_ci_upper": 0.4277777777777778, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.01907407407407407, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.01907407407407407, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.25092592592592594, "left_ci_upper": 0.4277777777777778, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666666, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.04444444444444443, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.04444444444444443, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.04444444444444443, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.04444444444444443, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.04444444444444443, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.04444444444444443, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.04444444444444443, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.04444444444444443, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777778, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 654.5417801068106, "ci_upper": 887.1675237658443, "delta_ci_lower": 654.5417801068106, "delta_ci_upper": 887.1675237658443, "failure_count": 0, "left_ci_lower": 4880.954101685468, "left_ci_upper": 5198.208699688985, "left_mean": 5027.247623627773, "mean_delta": 768.6558177306626, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5595.773587267951, "right_ci_upper": 6019.4559516550125, "right_mean": 5795.903441358436, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.011111111111111108, "ci_upper": 0.09907407407407408, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.09907407407407408, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.22407407407407406, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.011111111111111108, "ci_upper": 0.09907407407407408, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.09907407407407408, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.22407407407407406, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.011111111111111108, "ci_upper": 0.09907407407407408, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.09907407407407408, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.22407407407407406, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.011111111111111108, "ci_upper": 0.09907407407407408, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.09907407407407408, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.22407407407407406, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17499999999999996, "right_ci_upper": 0.2916666666666667, "right_mean": 0.2324074074074074, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.11777777777777777, "ci_upper": 0.02888888888888889, "delta_ci_lower": -0.11777777777777777, "delta_ci_upper": 0.02888888888888889, "failure_count": 0, "left_ci_lower": 0.16628703703703712, "left_ci_upper": 0.3214814814814815, "left_mean": 0.24074074074074078, "mean_delta": -0.04296296296296296, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1288888888888889, "right_ci_upper": 0.27, "right_mean": 0.1977777777777778, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.1, "ci_upper": 0.4666666666666667, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4666666666666667, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.05, "ci_upper": 0.1, "delta_ci_lower": -0.05, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.20833333333333334, "left_ci_upper": 0.35833333333333334, "left_mean": 0.2833333333333333, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.30833333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 112.61695443688961, "ci_upper": 1349.274912524294, "delta_ci_lower": 112.61695443688961, "delta_ci_upper": 1349.274912524294, "failure_count": 0, "left_ci_lower": 40736.62982362315, "left_ci_upper": 41760.75604070933, "left_mean": 41244.14129516905, "mean_delta": 732.0115079860747, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41516.484434040176, "right_ci_upper": 42448.55391738238, "right_mean": 41976.15280315513, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 0.6481250000000167, "ci_upper": 174.44458333333316, "delta_ci_lower": 0.6481250000000167, "delta_ci_upper": 174.44458333333316, "failure_count": 0, "left_ci_lower": 5803.538125, "left_ci_upper": 5947.192916666667, "left_mean": 5874.633333333333, "mean_delta": 87.43333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5900.882083333333, "right_ci_upper": 6025.283541666668, "right_mean": 5962.066666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 8.432500000000008, "ci_upper": 170.14270833333333, "delta_ci_lower": 8.432500000000008, "delta_ci_upper": 170.14270833333333, "failure_count": 0, "left_ci_lower": 5479.172083333333, "left_ci_upper": 5612.252083333333, "left_mean": 5545.225, "mean_delta": 89.31666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5575.8150000000005, "right_ci_upper": 5694.642916666666, "right_mean": 5634.541666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.4666666666666667, "ci_upper": -0.1, "delta_ci_lower": -0.4666666666666667, "delta_ci_upper": -0.1, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": -0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.4, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4888888888888889, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4444444444444444, "right_ci_upper": 0.6222222222222222, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.019074074074074073, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.019074074074074073, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.2509259259259259, "left_ci_upper": 0.42777777777777776, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.019074074074074073, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.019074074074074073, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.2509259259259259, "left_ci_upper": 0.42777777777777776, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.019074074074074073, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.019074074074074073, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.2509259259259259, "left_ci_upper": 0.42777777777777776, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.019074074074074073, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.019074074074074073, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.2509259259259259, "left_ci_upper": 0.42777777777777776, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 654.5417801068106, "ci_upper": 887.1675237658443, "delta_ci_lower": 654.5417801068106, "delta_ci_upper": 887.1675237658443, "failure_count": 0, "left_ci_lower": 4880.954101685468, "left_ci_upper": 5198.208699688985, "left_mean": 5027.247623627773, "mean_delta": 768.6558177306628, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5595.773587267952, "right_ci_upper": 6019.455951655012, "right_mean": 5795.903441358435, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09907407407407406, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09907407407407406, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.2240740740740741, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09907407407407406, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09907407407407406, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.2240740740740741, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09907407407407406, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09907407407407406, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.2240740740740741, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09907407407407406, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09907407407407406, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.2240740740740741, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.11777777777777777, "ci_upper": 0.02888888888888889, "delta_ci_lower": -0.11777777777777777, "delta_ci_upper": 0.02888888888888889, "failure_count": 0, "left_ci_lower": 0.16628703703703715, "left_ci_upper": 0.3214814814814815, "left_mean": 0.24074074074074076, "mean_delta": -0.04296296296296297, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1288888888888889, "right_ci_upper": 0.27, "right_mean": 0.19777777777777777, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.1, "ci_upper": 0.4666666666666667, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4666666666666667, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.095829420970266, "ci_upper": 0.05384878716744911, "delta_ci_lower": -0.095829420970266, "delta_ci_upper": 0.05384878716744911, "failure_count": 0, "left_ci_lower": 0.18218342462180492, "left_ci_upper": 0.3358916927490871, "left_mean": 0.2571987480438185, "mean_delta": -0.01980959833072509, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.17289710485133025, "right_ci_upper": 0.3064860459050599, "right_mean": 0.23738914971309336, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 258.24422440057305, "ci_upper": 1545.9414128692233, "delta_ci_lower": 258.24422440057305, "delta_ci_upper": 1545.9414128692233, "failure_count": 0, "left_ci_lower": 40769.71919036357, "left_ci_upper": 41884.87947257877, "left_mean": 41314.91573970723, "mean_delta": 896.6434145079354, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41721.159888766255, "right_ci_upper": 42697.54752614719, "right_mean": 42211.55915421516, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 19.148695226917056, "ci_upper": 200.072273082942, "delta_ci_lower": 19.148695226917056, "delta_ci_upper": 200.072273082942, "failure_count": 0, "left_ci_lower": 5796.664800795514, "left_ci_upper": 5946.749470852896, "left_mean": 5871.58895409494, "mean_delta": 109.31348461137193, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5917.531933033385, "right_ci_upper": 6044.602282537819, "right_mean": 5980.902438706312, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.021271249076127124, "ci_upper": 0.11846267553584626, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.11846267553584626, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06381374722838137, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.021271249076127124, "right_ci_upper": 0.11846267553584626, "right_mean": 0.06381374722838137, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.021271249076127124, "ci_upper": 0.11846267553584626, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.11846267553584626, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06381374722838137, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.021271249076127124, "right_ci_upper": 0.11846267553584626, "right_mean": 0.06381374722838137, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.021271249076127124, "ci_upper": 0.11846267553584626, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.11846267553584626, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06381374722838137, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.021271249076127124, "right_ci_upper": 0.11846267553584626, "right_mean": 0.06381374722838137, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 23.757595526864907, "ci_upper": 193.48943531559726, "delta_ci_lower": 23.757595526864907, "delta_ci_upper": 193.48943531559726, "failure_count": 0, "left_ci_lower": 5472.274419340114, "left_ci_upper": 5611.517892540427, "left_mean": 5541.545005216483, "mean_delta": 108.44406624934793, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5589.235001304121, "right_ci_upper": 5711.756839788733, "right_mean": 5649.989071465832, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.4666666666666667, "ci_upper": -0.1, "delta_ci_lower": -0.4666666666666667, "delta_ci_upper": -0.1, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": -0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05116149297856614, "ci_upper": 0.14356504065040646, "delta_ci_lower": -0.05116149297856614, "delta_ci_upper": 0.14356504065040646, "failure_count": 0, "left_ci_lower": 0.3695934959349593, "left_ci_upper": 0.5540728011825573, "left_mean": 0.4609756097560976, "mean_delta": 0.044212860310421286, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.40981522542498156, "right_ci_upper": 0.604050258684405, "right_mean": 0.5051884700665188, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.012746008869179598, "ci_upper": 0.11061378418329636, "delta_ci_lower": -0.012746008869179598, "delta_ci_upper": 0.11061378418329636, "failure_count": 0, "left_ci_lower": 0.24861911800936193, "left_ci_upper": 0.4291829268292683, "left_mean": 0.3373417097807342, "mean_delta": 0.0470169992609017, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.012746008869179598, "ci_upper": 0.11061378418329636, "delta_ci_lower": -0.012746008869179598, "delta_ci_upper": 0.11061378418329636, "failure_count": 0, "left_ci_lower": 0.24861911800936193, "left_ci_upper": 0.4291829268292683, "left_mean": 0.3373417097807342, "mean_delta": 0.0470169992609017, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.012746008869179598, "ci_upper": 0.11061378418329636, "delta_ci_lower": -0.012746008869179598, "delta_ci_upper": 0.11061378418329636, "failure_count": 0, "left_ci_lower": 0.24861911800936193, "left_ci_upper": 0.4291829268292683, "left_mean": 0.3373417097807342, "mean_delta": 0.0470169992609017, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.012746008869179598, "ci_upper": 0.11061378418329636, "delta_ci_lower": -0.012746008869179598, "delta_ci_upper": 0.11061378418329636, "failure_count": 0, "left_ci_lower": 0.24861911800936193, "left_ci_upper": 0.4291829268292683, "left_mean": 0.3373417097807342, "mean_delta": 0.0470169992609017, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2948625030795762, "right_ci_upper": 0.4763938778024144, "right_mean": 0.3843587090416359, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.029253510716925345, "ci_upper": 0.13973392461197337, "delta_ci_lower": -0.029253510716925345, "delta_ci_upper": 0.13973392461197337, "failure_count": 0, "left_ci_lower": 0.32988913525498886, "left_ci_upper": 0.5385081300813007, "left_mean": 0.4327420546932742, "mean_delta": 0.05464892830746489, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.029253510716925345, "ci_upper": 0.13973392461197337, "delta_ci_lower": -0.029253510716925345, "delta_ci_upper": 0.13973392461197337, "failure_count": 0, "left_ci_lower": 0.32988913525498886, "left_ci_upper": 0.5385081300813007, "left_mean": 0.4327420546932742, "mean_delta": 0.05464892830746489, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.029253510716925345, "ci_upper": 0.13973392461197337, "delta_ci_lower": -0.029253510716925345, "delta_ci_upper": 0.13973392461197337, "failure_count": 0, "left_ci_lower": 0.32988913525498886, "left_ci_upper": 0.5385081300813007, "left_mean": 0.4327420546932742, "mean_delta": 0.05464892830746489, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.029253510716925345, "ci_upper": 0.13973392461197337, "delta_ci_lower": -0.029253510716925345, "delta_ci_upper": 0.13973392461197337, "failure_count": 0, "left_ci_lower": 0.32988913525498886, "left_ci_upper": 0.5385081300813007, "left_mean": 0.4327420546932742, "mean_delta": 0.05464892830746489, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3855617147080562, "right_ci_upper": 0.5897106430155208, "right_mean": 0.4873909830007391, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 763.5584457790383, "ci_upper": 1045.2461069657993, "delta_ci_lower": 763.5584457790383, "delta_ci_upper": 1045.2461069657993, "failure_count": 0, "left_ci_lower": 4913.56049079725, "left_ci_upper": 5306.671520608933, "left_mean": 5092.611394336548, "mean_delta": 899.8674229189517, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5748.457323762111, "right_ci_upper": 6264.955909806173, "right_mean": 5992.4788172555, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.016124414880512444, "ci_upper": 0.10222487065779748, "delta_ci_lower": 0.016124414880512444, "delta_ci_upper": 0.10222487065779748, "failure_count": 0, "left_ci_lower": 0.13246557033752154, "left_ci_upper": 0.2213340108401084, "left_mean": 0.175580192165558, "mean_delta": 0.059275683665927566, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.016124414880512444, "ci_upper": 0.10222487065779748, "delta_ci_lower": 0.016124414880512444, "delta_ci_upper": 0.10222487065779748, "failure_count": 0, "left_ci_lower": 0.13246557033752154, "left_ci_upper": 0.2213340108401084, "left_mean": 0.175580192165558, "mean_delta": 0.059275683665927566, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.016124414880512444, "ci_upper": 0.10222487065779748, "delta_ci_lower": 0.016124414880512444, "delta_ci_upper": 0.10222487065779748, "failure_count": 0, "left_ci_lower": 0.13246557033752154, "left_ci_upper": 0.2213340108401084, "left_mean": 0.175580192165558, "mean_delta": 0.059275683665927566, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.016124414880512444, "ci_upper": 0.10222487065779748, "delta_ci_lower": 0.016124414880512444, "delta_ci_upper": 0.10222487065779748, "failure_count": 0, "left_ci_lower": 0.13246557033752154, "left_ci_upper": 0.2213340108401084, "left_mean": 0.175580192165558, "mean_delta": 0.059275683665927566, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17763476225671343, "right_ci_upper": 0.29390915250061583, "right_mean": 0.23485587583148557, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.12079844789356985, "ci_upper": 0.03033084503572307, "delta_ci_lower": -0.12079844789356985, "delta_ci_upper": 0.03033084503572307, "failure_count": 0, "left_ci_lower": 0.17184464153732446, "left_ci_upper": 0.3308297117516629, "left_mean": 0.2488829761024883, "mean_delta": -0.04391919191919191, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13500369549150038, "right_ci_upper": 0.2782095343680709, "right_mean": 0.2049637841832964, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.1, "ci_upper": 0.4666666666666667, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4666666666666667, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 115.87185853830313, "ci_upper": 2210.181810267192, "delta_ci_lower": 115.87185853830313, "delta_ci_upper": 2210.181810267192, "failure_count": 0, "left_ci_lower": 40776.65885899672, "left_ci_upper": 42978.599317851964, "left_mean": 41870.472818019334, "mean_delta": 1166.409282157353, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41972.10613591694, "right_ci_upper": 44041.35676995289, "right_mean": 43036.882100176685, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -39.77333333333327, "ci_upper": 252.26833333333332, "delta_ci_lower": -39.77333333333327, "delta_ci_upper": 252.26833333333332, "failure_count": 0, "left_ci_lower": 5742.765833333333, "left_ci_upper": 6024.0025, "left_mean": 5882.033333333334, "mean_delta": 104.8, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5854.028333333334, "right_ci_upper": 6117.404166666666, "right_mean": 5986.833333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -49.000833333333325, "ci_upper": 228.53416666666664, "delta_ci_lower": -49.000833333333325, "delta_ci_upper": 228.53416666666664, "failure_count": 0, "left_ci_lower": 5415.633333333333, "left_ci_upper": 5681.900833333332, "left_mean": 5547.966666666666, "mean_delta": 88.86666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5515.9991666666665, "right_ci_upper": 5754.236666666667, "right_mean": 5636.833333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.04277777777777778, "ci_upper": 0.265, "delta_ci_lower": 0.04277777777777778, "delta_ci_upper": 0.265, "failure_count": 0, "left_ci_lower": 0.1638888888888889, "left_ci_upper": 0.4666666666666667, "left_mean": 0.30833333333333335, "mean_delta": 0.14277777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2911111111111111, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45111111111111113, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.04277777777777778, "ci_upper": 0.265, "delta_ci_lower": 0.04277777777777778, "delta_ci_upper": 0.265, "failure_count": 0, "left_ci_lower": 0.1638888888888889, "left_ci_upper": 0.4666666666666667, "left_mean": 0.30833333333333335, "mean_delta": 0.14277777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2911111111111111, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45111111111111113, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.04277777777777778, "ci_upper": 0.265, "delta_ci_lower": 0.04277777777777778, "delta_ci_upper": 0.265, "failure_count": 0, "left_ci_lower": 0.1638888888888889, "left_ci_upper": 0.4666666666666667, "left_mean": 0.30833333333333335, "mean_delta": 0.14277777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2911111111111111, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45111111111111113, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.04277777777777778, "ci_upper": 0.265, "delta_ci_lower": 0.04277777777777778, "delta_ci_upper": 0.265, "failure_count": 0, "left_ci_lower": 0.1638888888888889, "left_ci_upper": 0.4666666666666667, "left_mean": 0.30833333333333335, "mean_delta": 0.14277777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2911111111111111, "right_ci_upper": 0.6166666666666667, "right_mean": 0.45111111111111113, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 997.6501485287251, "ci_upper": 1678.552372463261, "delta_ci_lower": 997.6501485287251, "delta_ci_upper": 1678.552372463261, "failure_count": 0, "left_ci_lower": 4654.278513139483, "left_ci_upper": 5185.479572410793, "left_mean": 4913.676470793628, "mean_delta": 1316.4066917456996, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5800.04775115347, "right_ci_upper": 6670.021898779863, "right_mean": 6230.083162539328, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.06111111111111111, "ci_upper": 0.20555555555555555, "delta_ci_lower": 0.06111111111111111, "delta_ci_upper": 0.20555555555555555, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18333333333333332, "mean_delta": 0.12777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.43333333333333335, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.06111111111111111, "ci_upper": 0.20555555555555555, "delta_ci_lower": 0.06111111111111111, "delta_ci_upper": 0.20555555555555555, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18333333333333332, "mean_delta": 0.12777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.43333333333333335, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.06111111111111111, "ci_upper": 0.20555555555555555, "delta_ci_lower": 0.06111111111111111, "delta_ci_upper": 0.20555555555555555, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18333333333333332, "mean_delta": 0.12777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.43333333333333335, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.06111111111111111, "ci_upper": 0.20555555555555555, "delta_ci_lower": 0.06111111111111111, "delta_ci_upper": 0.20555555555555555, "failure_count": 0, "left_ci_lower": 0.10555555555555556, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18333333333333332, "mean_delta": 0.12777777777777777, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.43333333333333335, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -617.8192975754305, "ci_upper": 1919.7916292830873, "delta_ci_lower": -617.8192975754305, "delta_ci_upper": 1919.7916292830873, "failure_count": 0, "left_ci_lower": 39705.4266498685, "left_ci_upper": 41764.03917754729, "left_mean": 40739.075077930465, "mean_delta": 650.9463693636159, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40647.352602621926, "right_ci_upper": 42116.567317849454, "right_mean": 41390.02144729408, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -75.20083333333334, "ci_upper": 285.03666666666663, "delta_ci_lower": -75.20083333333334, "delta_ci_upper": 285.03666666666663, "failure_count": 0, "left_ci_lower": 5694.365, "left_ci_upper": 5985.702499999999, "left_mean": 5839.666666666667, "mean_delta": 104.66666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5830.764166666667, "right_ci_upper": 6054.501666666667, "right_mean": 5944.333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -59.00499999999995, "ci_upper": 278.7041666666666, "delta_ci_lower": -59.00499999999995, "delta_ci_upper": 278.7041666666666, "failure_count": 0, "left_ci_lower": 5386.530000000001, "left_ci_upper": 5644.3375, "left_mean": 5514.966666666666, "mean_delta": 109.63333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5505.996666666667, "right_ci_upper": 5736.133333333333, "right_mean": 5624.6, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.3, "left_mean": 0.16666666666666666, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.10555555555555556, "ci_upper": 0.11124999999999799, "delta_ci_lower": -0.10555555555555556, "delta_ci_upper": 0.11124999999999799, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.5277777777777778, "left_mean": 0.36666666666666664, "mean_delta": 1.8503717077085942e-18, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5277777777777778, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.10555555555555556, "ci_upper": 0.11124999999999799, "delta_ci_lower": -0.10555555555555556, "delta_ci_upper": 0.11124999999999799, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.5277777777777778, "left_mean": 0.36666666666666664, "mean_delta": 1.8503717077085942e-18, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5277777777777778, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.10555555555555556, "ci_upper": 0.11124999999999799, "delta_ci_lower": -0.10555555555555556, "delta_ci_upper": 0.11124999999999799, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.5277777777777778, "left_mean": 0.36666666666666664, "mean_delta": 1.8503717077085942e-18, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5277777777777778, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.10555555555555556, "ci_upper": 0.11124999999999799, "delta_ci_lower": -0.10555555555555556, "delta_ci_upper": 0.11124999999999799, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.5277777777777778, "left_mean": 0.36666666666666664, "mean_delta": 1.8503717077085942e-18, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5277777777777778, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 759.794996198325, "ci_upper": 1099.4987274193168, "delta_ci_lower": 759.794996198325, "delta_ci_upper": 1099.4987274193168, "failure_count": 0, "left_ci_lower": 4587.733172194276, "left_ci_upper": 5628.981841364197, "left_mean": 5044.983879166345, "mean_delta": 926.6777278312171, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5437.641642073091, "right_ci_upper": 6641.918030304173, "right_mean": 5971.661606997562, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.050069444444443834, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.050069444444443834, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.09166666666666666, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15, "mean_delta": 0.01388888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1638888888888889, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.050069444444443834, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.050069444444443834, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.09166666666666666, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15, "mean_delta": 0.01388888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1638888888888889, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.050069444444443834, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.050069444444443834, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.09166666666666666, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15, "mean_delta": 0.01388888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1638888888888889, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.050069444444443834, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.050069444444443834, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.09166666666666666, "left_ci_upper": 0.2111111111111111, "left_mean": 0.15, "mean_delta": 0.01388888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1638888888888889, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.15777777777777777, "ci_upper": 0.11333333333333331, "delta_ci_lower": -0.15777777777777777, "delta_ci_upper": 0.11333333333333331, "failure_count": 0, "left_ci_lower": 0.31666666666666665, "left_ci_upper": 0.6511111111111112, "left_mean": 0.48444444444444446, "mean_delta": -0.024444444444444442, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.29333333333333333, "right_ci_upper": 0.6333333333333333, "right_mean": 0.46, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.13333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 121.23861346384166, "ci_upper": 2863.8998521867325, "delta_ci_lower": 121.23861346384166, "delta_ci_upper": 2863.8998521867325, "failure_count": 0, "left_ci_lower": 40598.296640339344, "left_ci_upper": 42536.884270424685, "left_mean": 41575.327773663834, "mean_delta": 1517.319787402327, "missing_count": 0, "paired_count": 30, "right_ci_lower": 42152.57300410342, "right_ci_upper": 44033.392467421945, "right_mean": 43092.647561066166, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 30.69750000000002, "ci_upper": 402.50166666666667, "delta_ci_lower": 30.69750000000002, "delta_ci_upper": 402.50166666666667, "failure_count": 0, "left_ci_lower": 5761.6658333333335, "left_ci_upper": 6026.275, "left_mean": 5896.333333333333, "mean_delta": 220.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 6003.6325, "right_ci_upper": 6217.966666666666, "right_mean": 6116.433333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 51.05666666666676, "ci_upper": 397.8366666666666, "delta_ci_lower": 51.05666666666676, "delta_ci_upper": 397.8366666666666, "failure_count": 0, "left_ci_lower": 5435.93, "left_ci_upper": 5683.034166666667, "left_mean": 5561.733333333334, "mean_delta": 226.46666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5685.530000000001, "right_ci_upper": 5882.3, "right_mean": 5788.2, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.6, "left_ci_upper": 0.9, "left_mean": 0.7666666666666667, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.6333333333333333, "right_ci_upper": 0.9333333333333333, "right_mean": 0.8, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.1277777777777778, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.1277777777777778, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.1888888888888889, "left_ci_upper": 0.49444444444444446, "left_mean": 0.33888888888888885, "mean_delta": -0.027777777777777776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.1277777777777778, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.1277777777777778, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.1888888888888889, "left_ci_upper": 0.49444444444444446, "left_mean": 0.33888888888888885, "mean_delta": -0.027777777777777776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.1277777777777778, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.1277777777777778, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.1888888888888889, "left_ci_upper": 0.49444444444444446, "left_mean": 0.33888888888888885, "mean_delta": -0.027777777777777776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.1277777777777778, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.1277777777777778, "delta_ci_upper": 0.05555555555555556, "failure_count": 0, "left_ci_lower": 0.1888888888888889, "left_ci_upper": 0.49444444444444446, "left_mean": 0.33888888888888885, "mean_delta": -0.027777777777777776, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3111111111111111, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.26666666666666666, "left_ci_upper": 0.6, "left_mean": 0.43333333333333335, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 363.2844481380501, "ci_upper": 841.5739545526836, "delta_ci_lower": 363.2844481380501, "delta_ci_upper": 841.5739545526836, "failure_count": 0, "left_ci_lower": 5584.138157749742, "left_ci_upper": 6046.487199377346, "left_mean": 5810.820730550525, "mean_delta": 591.329023692136, "missing_count": 0, "paired_count": 30, "right_ci_lower": 6050.210562108163, "right_ci_upper": 6799.927510588313, "right_mean": 6402.149754242661, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.06666666666666667, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.11111111111111112, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.28888888888888886, "left_mean": 0.2, "mean_delta": 0.022222222222222223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.34444444444444444, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.11111111111111112, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.28888888888888886, "left_mean": 0.2, "mean_delta": 0.022222222222222223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.34444444444444444, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.11111111111111112, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.28888888888888886, "left_mean": 0.2, "mean_delta": 0.022222222222222223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.34444444444444444, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.11111111111111112, "failure_count": 0, "left_ci_lower": 0.11666666666666667, "left_ci_upper": 0.28888888888888886, "left_mean": 0.2, "mean_delta": 0.022222222222222223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.34444444444444444, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.16666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.03333333333333333, "left_ci_upper": 0.2711111111111111, "left_mean": 0.1377777777777778, "mean_delta": -0.03777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": 0.1, "ci_upper": 0.43416666666665454, "delta_ci_lower": 0.1, "delta_ci_upper": 0.43416666666665454, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.26666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.9, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1551.8490542657669, "ci_upper": 710.8779863571783, "delta_ci_lower": -1551.8490542657669, "delta_ci_upper": 710.8779863571783, "failure_count": 0, "left_ci_lower": 39818.952936319794, "left_ci_upper": 41732.468848901815, "left_mean": 40791.68951106258, "mean_delta": -406.6294069789971, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39454.97244301019, "right_ci_upper": 41287.093893659374, "right_mean": 40385.06010408358, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -255.87333333333328, "ci_upper": 89.37833333333316, "delta_ci_lower": -255.87333333333328, "delta_ci_upper": 89.37833333333316, "failure_count": 0, "left_ci_lower": 5735.465833333334, "left_ci_upper": 6019.269166666667, "left_mean": 5880.5, "mean_delta": -79.83333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5663.565833333333, "right_ci_upper": 5937.0025, "right_mean": 5800.666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -233.43416666666667, "ci_upper": 90.90166666666666, "delta_ci_lower": -233.43416666666667, "delta_ci_upper": 90.90166666666666, "failure_count": 0, "left_ci_lower": 5417.665, "left_ci_upper": 5688.600833333334, "left_mean": 5556.233333333334, "mean_delta": -67.7, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5354.498333333333, "right_ci_upper": 5624.870833333333, "right_mean": 5488.533333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.43416666666665926, "ci_upper": -0.1, "delta_ci_lower": -0.43416666666665926, "delta_ci_upper": -0.1, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": -0.26666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": 170.88104282602825, "ci_upper": 344.5114453654969, "delta_ci_lower": 170.88104282602825, "delta_ci_upper": 344.5114453654969, "failure_count": 0, "left_ci_lower": 4202.723305813075, "left_ci_upper": 4472.8012335017165, "left_mean": 4339.509414000592, "mean_delta": 240.20982765359804, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4403.638204973734, "right_ci_upper": 4768.9002708854005, "right_mean": 4579.71924165419, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": 0.1, "ci_upper": 0.43416666666665454, "delta_ci_lower": 0.1, "delta_ci_upper": 0.43416666666665454, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.26666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.9, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "left_regime": "native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.05, "ci_upper": 0.1, "delta_ci_lower": -0.05, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.20833333333333334, "left_ci_upper": 0.35833333333333334, "left_mean": 0.2833333333333333, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.30833333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 112.61695443688961, "ci_upper": 1349.274912524294, "delta_ci_lower": 112.61695443688961, "delta_ci_upper": 1349.274912524294, "failure_count": 0, "left_ci_lower": 40736.62982362315, "left_ci_upper": 41760.75604070933, "left_mean": 41244.14129516905, "mean_delta": 732.0115079860747, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41516.484434040176, "right_ci_upper": 42448.55391738238, "right_mean": 41976.15280315513, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 0.6481250000000167, "ci_upper": 174.44458333333316, "delta_ci_lower": 0.6481250000000167, "delta_ci_upper": 174.44458333333316, "failure_count": 0, "left_ci_lower": 5803.538125, "left_ci_upper": 5947.192916666667, "left_mean": 5874.633333333333, "mean_delta": 87.43333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5900.882083333333, "right_ci_upper": 6025.283541666668, "right_mean": 5962.066666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.022222222222222223, "right_ci_upper": 0.12222222222222222, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 8.432500000000008, "ci_upper": 170.14270833333333, "delta_ci_lower": 8.432500000000008, "delta_ci_upper": 170.14270833333333, "failure_count": 0, "left_ci_lower": 5479.172083333333, "left_ci_upper": 5612.252083333333, "left_mean": 5545.225, "mean_delta": 89.31666666666666, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5575.8150000000005, "right_ci_upper": 5694.642916666666, "right_mean": 5634.541666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.4666666666666667, "ci_upper": -0.1, "delta_ci_lower": -0.4666666666666667, "delta_ci_upper": -0.1, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": -0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.4, "left_ci_upper": 0.5777777777777777, "left_mean": 0.4888888888888889, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4444444444444444, "right_ci_upper": 0.6222222222222222, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.019074074074074073, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.019074074074074073, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.2509259259259259, "left_ci_upper": 0.42777777777777776, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.019074074074074073, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.019074074074074073, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.2509259259259259, "left_ci_upper": 0.42777777777777776, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.019074074074074073, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.019074074074074073, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.2509259259259259, "left_ci_upper": 0.42777777777777776, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.019074074074074073, "ci_upper": 0.09944444444444445, "delta_ci_lower": -0.019074074074074073, "delta_ci_upper": 0.09944444444444445, "failure_count": 0, "left_ci_lower": 0.2509259259259259, "left_ci_upper": 0.42777777777777776, "left_mean": 0.33796296296296297, "mean_delta": 0.03833333333333334, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.28814814814814815, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3762962962962963, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.37777777777777777, "right_ci_upper": 0.5777777777777777, "right_mean": 0.4777777777777778, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 654.5417801068106, "ci_upper": 887.1675237658443, "delta_ci_lower": 654.5417801068106, "delta_ci_upper": 887.1675237658443, "failure_count": 0, "left_ci_lower": 4880.954101685468, "left_ci_upper": 5198.208699688985, "left_mean": 5027.247623627773, "mean_delta": 768.6558177306628, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5595.773587267952, "right_ci_upper": 6019.455951655012, "right_mean": 5795.903441358435, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09907407407407406, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09907407407407406, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.2240740740740741, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09907407407407406, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09907407407407406, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.2240740740740741, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09907407407407406, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09907407407407406, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.2240740740740741, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09907407407407406, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09907407407407406, "failure_count": 0, "left_ci_lower": 0.13425925925925927, "left_ci_upper": 0.2240740740740741, "left_mean": 0.17777777777777778, "mean_delta": 0.05462962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.175, "right_ci_upper": 0.2916666666666667, "right_mean": 0.23240740740740742, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.11777777777777777, "ci_upper": 0.02888888888888889, "delta_ci_lower": -0.11777777777777777, "delta_ci_upper": 0.02888888888888889, "failure_count": 0, "left_ci_lower": 0.16628703703703715, "left_ci_upper": 0.3214814814814815, "left_mean": 0.24074074074074076, "mean_delta": -0.04296296296296297, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1288888888888889, "right_ci_upper": 0.27, "right_mean": 0.19777777777777777, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.1, "ci_upper": 0.4666666666666667, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4666666666666667, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.26666666666666666, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5666666666666667, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7333333333333333, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_91358cb1f88dec176a28953b", "builder_key": "gemma3_270m", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.35833333333333334, "left_mean": 0.29166666666666663, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.225, "right_ci_upper": 0.35833333333333334, "right_mean": 0.29166666666666663, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -394.3194854061099, "ci_upper": 938.1001071991825, "delta_ci_lower": -394.3194854061099, "delta_ci_upper": 938.1001071991825, "failure_count": 0, "left_ci_lower": 40650.59020971576, "left_ci_upper": 41528.6612264211, "left_mean": 41090.10258130923, "mean_delta": 278.7759384314995, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40829.1620273972, "right_ci_upper": 41898.598330081244, "right_mean": 41368.87851974073, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -88.1458333333333, "ci_upper": 102.27624999999999, "delta_ci_lower": -88.1458333333333, "delta_ci_upper": 102.27624999999999, "failure_count": 0, "left_ci_lower": 5825.74875, "left_ci_upper": 5945.042916666667, "left_mean": 5886.325, "mean_delta": 9.15, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5818.6866666666665, "right_ci_upper": 5969.795833333334, "right_mean": 5895.475, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555556, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555556, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555556, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -44.743125, "ci_upper": 135.75, "delta_ci_lower": -44.743125, "delta_ci_upper": 135.75, "failure_count": 0, "left_ci_lower": 5432.1658333333335, "left_ci_upper": 5541.826249999999, "left_mean": 5487.25, "mean_delta": 47.7, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5462.208124999999, "right_ci_upper": 5604.834583333334, "right_mean": 5534.95, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5777777777777778, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222223, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.005555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.23518518518518516, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185185, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.005555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.23518518518518516, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185185, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.005555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.23518518518518516, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185185, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.005555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.23518518518518516, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185185, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 59.29706898449998, "ci_upper": 95.01763902706443, "delta_ci_lower": 59.29706898449998, "delta_ci_upper": 95.01763902706443, "failure_count": 0, "left_ci_lower": 4776.143478862965, "left_ci_upper": 5104.308273662681, "left_mean": 4925.692393681189, "mean_delta": 78.50421915839736, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4860.273321196533, "right_ci_upper": 5171.594064889311, "right_mean": 5004.196612839587, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.028703703703703703, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703703, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074074, "left_ci_upper": 0.20833333333333334, "left_mean": 0.1611111111111111, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.028703703703703703, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703703, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074074, "left_ci_upper": 0.20833333333333334, "left_mean": 0.1611111111111111, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.028703703703703703, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703703, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074074, "left_ci_upper": 0.20833333333333334, "left_mean": 0.1611111111111111, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.028703703703703703, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703703, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074074, "left_ci_upper": 0.20833333333333334, "left_mean": 0.1611111111111111, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03232323232323233, "ci_upper": 0.07508417508417509, "delta_ci_lower": -0.03232323232323233, "delta_ci_upper": 0.07508417508417509, "failure_count": 0, "left_ci_lower": 0.09158249158249158, "left_ci_upper": 0.23099800084175084, "left_mean": 0.1589436026936027, "mean_delta": 0.01952861952861953, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11111111111111112, "right_ci_upper": 0.25555555555555554, "right_mean": 0.17847222222222223, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.35833333333333334, "left_mean": 0.2916666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.225, "right_ci_upper": 0.35833333333333334, "right_mean": 0.2916666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -394.3194854061099, "ci_upper": 938.1001071991825, "delta_ci_lower": -394.3194854061099, "delta_ci_upper": 938.1001071991825, "failure_count": 0, "left_ci_lower": 40650.59020971577, "left_ci_upper": 41528.6612264211, "left_mean": 41090.102581309235, "mean_delta": 278.7759384314995, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40829.1620273972, "right_ci_upper": 41898.598330081244, "right_mean": 41368.878519740734, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -88.1458333333333, "ci_upper": 102.27624999999999, "delta_ci_lower": -88.1458333333333, "delta_ci_upper": 102.27624999999999, "failure_count": 0, "left_ci_lower": 5825.74875, "left_ci_upper": 5945.042916666667, "left_mean": 5886.325, "mean_delta": 9.15, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5818.6866666666665, "right_ci_upper": 5969.795833333334, "right_mean": 5895.475, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -44.74312499999999, "ci_upper": 135.75, "delta_ci_lower": -44.74312499999999, "delta_ci_upper": 135.75, "failure_count": 0, "left_ci_lower": 5432.1658333333335, "left_ci_upper": 5541.826249999999, "left_mean": 5487.25, "mean_delta": 47.7, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5462.208124999999, "right_ci_upper": 5604.834583333333, "right_mean": 5534.95, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5777777777777777, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.005555555555555556, "ci_upper": 0.1, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2351851851851852, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.005555555555555556, "ci_upper": 0.1, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2351851851851852, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.005555555555555556, "ci_upper": 0.1, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2351851851851852, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.005555555555555556, "ci_upper": 0.1, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2351851851851852, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 59.29706898449998, "ci_upper": 95.01763902706443, "delta_ci_lower": 59.29706898449998, "delta_ci_upper": 95.01763902706443, "failure_count": 0, "left_ci_lower": 4776.143478862966, "left_ci_upper": 5104.308273662681, "left_mean": 4925.69239368119, "mean_delta": 78.50421915839736, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4860.273321196533, "right_ci_upper": 5171.594064889311, "right_mean": 5004.196612839587, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.028703703703703707, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703707, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074073, "left_ci_upper": 0.20833333333333334, "left_mean": 0.16111111111111112, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.028703703703703707, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703707, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074073, "left_ci_upper": 0.20833333333333334, "left_mean": 0.16111111111111112, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.028703703703703707, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703707, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074073, "left_ci_upper": 0.20833333333333334, "left_mean": 0.16111111111111112, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.028703703703703707, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703707, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074073, "left_ci_upper": 0.20833333333333334, "left_mean": 0.16111111111111112, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03232323232323232, "ci_upper": 0.07508417508417509, "delta_ci_lower": -0.03232323232323232, "delta_ci_upper": 0.07508417508417509, "failure_count": 0, "left_ci_lower": 0.09158249158249158, "left_ci_upper": 0.23099800084175082, "left_mean": 0.1589436026936027, "mean_delta": 0.019528619528619527, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.25555555555555554, "right_mean": 0.17847222222222223, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.0378716744913928, "ci_upper": 0.06752738654147106, "delta_ci_lower": -0.0378716744913928, "delta_ci_upper": 0.06752738654147106, "failure_count": 0, "left_ci_lower": 0.15237056598852375, "left_ci_upper": 0.28388399843505474, "left_mean": 0.21610589462702137, "mean_delta": 0.01343244653103808, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.16443661971830986, "right_ci_upper": 0.2981875978090767, "right_mean": 0.22953834115805946, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -491.5549024516817, "ci_upper": 983.088815250855, "delta_ci_lower": -491.5549024516817, "delta_ci_upper": 983.088815250855, "failure_count": 0, "left_ci_lower": 40685.888241802575, "left_ci_upper": 41653.99409416703, "left_mean": 41168.85448178083, "mean_delta": 261.38541883323586, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40847.63246582968, "right_ci_upper": 42007.20597952188, "right_mean": 41430.23990061407, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -100.04898441575378, "ci_upper": 105.5623353547209, "delta_ci_lower": -100.04898441575378, "delta_ci_upper": 105.5623353547209, "failure_count": 0, "left_ci_lower": 5825.437508476787, "left_ci_upper": 5954.669734285342, "left_mean": 5891.105516431925, "mean_delta": 4.063080333854982, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5814.009746022431, "right_ci_upper": 5975.059711789254, "right_mean": 5895.1685967657795, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.012653362897265335, "ci_upper": 0.10747967479674796, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.10747967479674796, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03796008869179601, "left_mean": 0.012653362897265335, "mean_delta": 0.045986696230598666, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.012653362897265335, "right_ci_upper": 0.11383592017738359, "right_mean": 0.058640059127864005, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.012653362897265335, "ci_upper": 0.10747967479674796, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.10747967479674796, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03796008869179601, "left_mean": 0.012653362897265335, "mean_delta": 0.045986696230598666, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.012653362897265335, "right_ci_upper": 0.11383592017738359, "right_mean": 0.058640059127864005, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.012653362897265335, "ci_upper": 0.10747967479674796, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.10747967479674796, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03796008869179601, "left_mean": 0.012653362897265335, "mean_delta": 0.045986696230598666, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.012653362897265335, "right_ci_upper": 0.11383592017738359, "right_mean": 0.058640059127864005, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -55.085528169014076, "ci_upper": 141.0686218701095, "delta_ci_lower": -55.085528169014076, "delta_ci_upper": 141.0686218701095, "failure_count": 0, "left_ci_lower": 5430.868008607198, "left_ci_upper": 5550.908614045383, "left_mean": 5491.173148148148, "mean_delta": 44.20865936358894, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5458.401364110589, "right_ci_upper": 5609.516691770997, "right_mean": 5535.381807511737, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.13396895787139687, "ci_upper": 0.056866223207686625, "delta_ci_lower": -0.13396895787139687, "delta_ci_upper": 0.056866223207686625, "failure_count": 0, "left_ci_lower": 0.5592893569844788, "left_ci_upper": 0.7351219512195122, "left_mean": 0.6483665927568366, "mean_delta": -0.03855136733185514, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5143976348854398, "right_ci_upper": 0.702320768662232, "right_mean": 0.6098152254249816, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0008745996550874589, "ci_upper": 0.10189954422271495, "delta_ci_lower": 0.0008745996550874589, "delta_ci_upper": 0.10189954422271495, "failure_count": 0, "left_ci_lower": 0.23730450849963045, "left_ci_upper": 0.4227075634392708, "left_mean": 0.3268957871396896, "mean_delta": 0.05105937423010594, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0008745996550874589, "ci_upper": 0.10189954422271495, "delta_ci_lower": 0.0008745996550874589, "delta_ci_upper": 0.10189954422271495, "failure_count": 0, "left_ci_lower": 0.23730450849963045, "left_ci_upper": 0.4227075634392708, "left_mean": 0.3268957871396896, "mean_delta": 0.05105937423010594, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0008745996550874589, "ci_upper": 0.10189954422271495, "delta_ci_lower": 0.0008745996550874589, "delta_ci_upper": 0.10189954422271495, "failure_count": 0, "left_ci_lower": 0.23730450849963045, "left_ci_upper": 0.4227075634392708, "left_mean": 0.3268957871396896, "mean_delta": 0.05105937423010594, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0008745996550874589, "ci_upper": 0.10189954422271495, "delta_ci_lower": 0.0008745996550874589, "delta_ci_upper": 0.10189954422271495, "failure_count": 0, "left_ci_lower": 0.23730450849963045, "left_ci_upper": 0.4227075634392708, "left_mean": 0.3268957871396896, "mean_delta": 0.05105937423010594, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.013791574279379156, "ci_upper": 0.16731596452328137, "delta_ci_lower": 0.013791574279379156, "delta_ci_upper": 0.16731596452328137, "failure_count": 0, "left_ci_lower": 0.28331116038433113, "left_ci_upper": 0.4850258684405026, "left_mean": 0.3815816703621581, "mean_delta": 0.08912047302291205, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.013791574279379156, "ci_upper": 0.16731596452328137, "delta_ci_lower": 0.013791574279379156, "delta_ci_upper": 0.16731596452328137, "failure_count": 0, "left_ci_lower": 0.28331116038433113, "left_ci_upper": 0.4850258684405026, "left_mean": 0.3815816703621581, "mean_delta": 0.08912047302291205, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.013791574279379156, "ci_upper": 0.16731596452328137, "delta_ci_lower": 0.013791574279379156, "delta_ci_upper": 0.16731596452328137, "failure_count": 0, "left_ci_lower": 0.28331116038433113, "left_ci_upper": 0.4850258684405026, "left_mean": 0.3815816703621581, "mean_delta": 0.08912047302291205, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.013791574279379156, "ci_upper": 0.16731596452328137, "delta_ci_lower": 0.013791574279379156, "delta_ci_upper": 0.16731596452328137, "failure_count": 0, "left_ci_lower": 0.28331116038433113, "left_ci_upper": 0.4850258684405026, "left_mean": 0.3815816703621581, "mean_delta": 0.08912047302291205, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 49.25807667995032, "ci_upper": 90.75733758819354, "delta_ci_lower": 49.25807667995032, "delta_ci_upper": 90.75733758819354, "failure_count": 0, "left_ci_lower": 4810.8228496986485, "left_ci_upper": 5218.721030291031, "left_mean": 4994.959939288597, "mean_delta": 72.19319736556812, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4891.376951175775, "right_ci_upper": 5276.478286191422, "right_mean": 5067.153136654165, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.028218588322246857, "ci_upper": 0.11066642030056661, "delta_ci_lower": 0.028218588322246857, "delta_ci_upper": 0.11066642030056661, "failure_count": 0, "left_ci_lower": 0.11680339985218037, "left_ci_upper": 0.21197222222222217, "left_mean": 0.1629317565902932, "mean_delta": 0.06913279132791328, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.028218588322246857, "ci_upper": 0.11066642030056661, "delta_ci_lower": 0.028218588322246857, "delta_ci_upper": 0.11066642030056661, "failure_count": 0, "left_ci_lower": 0.11680339985218037, "left_ci_upper": 0.21197222222222217, "left_mean": 0.1629317565902932, "mean_delta": 0.06913279132791328, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.028218588322246857, "ci_upper": 0.11066642030056661, "delta_ci_lower": 0.028218588322246857, "delta_ci_upper": 0.11066642030056661, "failure_count": 0, "left_ci_lower": 0.11680339985218037, "left_ci_upper": 0.21197222222222217, "left_mean": 0.1629317565902932, "mean_delta": 0.06913279132791328, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.028218588322246857, "ci_upper": 0.11066642030056661, "delta_ci_lower": 0.028218588322246857, "delta_ci_upper": 0.11066642030056661, "failure_count": 0, "left_ci_lower": 0.11680339985218037, "left_ci_upper": 0.21197222222222217, "left_mean": 0.1629317565902932, "mean_delta": 0.06913279132791328, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.02987435328898743, "ci_upper": 0.07681515823422698, "delta_ci_lower": -0.02987435328898743, "delta_ci_upper": 0.07681515823422698, "failure_count": 0, "left_ci_lower": 0.09439763488543976, "left_ci_upper": 0.23626688167708118, "left_mean": 0.16280588591009873, "mean_delta": 0.021200026876301823, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11179600886917959, "right_ci_upper": 0.25929046563192903, "right_mean": 0.18400591278640058, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.35833333333333334, "left_mean": 0.29166666666666663, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.225, "right_ci_upper": 0.35833333333333334, "right_mean": 0.29166666666666663, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -394.3194854061099, "ci_upper": 938.1001071991825, "delta_ci_lower": -394.3194854061099, "delta_ci_upper": 938.1001071991825, "failure_count": 0, "left_ci_lower": 40650.59020971576, "left_ci_upper": 41528.6612264211, "left_mean": 41090.10258130923, "mean_delta": 278.7759384314995, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40829.1620273972, "right_ci_upper": 41898.598330081244, "right_mean": 41368.87851974073, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -88.1458333333333, "ci_upper": 102.27624999999999, "delta_ci_lower": -88.1458333333333, "delta_ci_upper": 102.27624999999999, "failure_count": 0, "left_ci_lower": 5825.74875, "left_ci_upper": 5945.042916666667, "left_mean": 5886.325, "mean_delta": 9.15, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5818.6866666666665, "right_ci_upper": 5969.795833333334, "right_mean": 5895.475, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555556, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555556, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555556, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -44.743125, "ci_upper": 135.75, "delta_ci_lower": -44.743125, "delta_ci_upper": 135.75, "failure_count": 0, "left_ci_lower": 5432.1658333333335, "left_ci_upper": 5541.826249999999, "left_mean": 5487.25, "mean_delta": 47.7, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5462.208124999999, "right_ci_upper": 5604.834583333334, "right_mean": 5534.95, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5777777777777778, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222223, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.005555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.23518518518518516, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185185, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.005555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.23518518518518516, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185185, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.005555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.23518518518518516, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185185, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.005555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.23518518518518516, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185185, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.4648148148148148, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3666666666666667, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 59.29706898449998, "ci_upper": 95.01763902706443, "delta_ci_lower": 59.29706898449998, "delta_ci_upper": 95.01763902706443, "failure_count": 0, "left_ci_lower": 4776.143478862965, "left_ci_upper": 5104.308273662681, "left_mean": 4925.692393681189, "mean_delta": 78.50421915839736, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4860.273321196533, "right_ci_upper": 5171.594064889311, "right_mean": 5004.196612839587, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.028703703703703703, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703703, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074074, "left_ci_upper": 0.20833333333333334, "left_mean": 0.1611111111111111, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.028703703703703703, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703703, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074074, "left_ci_upper": 0.20833333333333334, "left_mean": 0.1611111111111111, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.028703703703703703, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703703, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074074, "left_ci_upper": 0.20833333333333334, "left_mean": 0.1611111111111111, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.028703703703703703, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703703, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074074, "left_ci_upper": 0.20833333333333334, "left_mean": 0.1611111111111111, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.22870370370370371, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03232323232323233, "ci_upper": 0.07508417508417509, "delta_ci_lower": -0.03232323232323233, "delta_ci_upper": 0.07508417508417509, "failure_count": 0, "left_ci_lower": 0.09158249158249158, "left_ci_upper": 0.23099800084175084, "left_mean": 0.1589436026936027, "mean_delta": 0.01952861952861953, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11111111111111112, "right_ci_upper": 0.25555555555555554, "right_mean": 0.17847222222222223, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.35833333333333334, "left_mean": 0.2916666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.225, "right_ci_upper": 0.35833333333333334, "right_mean": 0.2916666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -394.3194854061099, "ci_upper": 938.1001071991825, "delta_ci_lower": -394.3194854061099, "delta_ci_upper": 938.1001071991825, "failure_count": 0, "left_ci_lower": 40650.59020971577, "left_ci_upper": 41528.6612264211, "left_mean": 41090.102581309235, "mean_delta": 278.7759384314995, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40829.1620273972, "right_ci_upper": 41898.598330081244, "right_mean": 41368.878519740734, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -88.1458333333333, "ci_upper": 102.27624999999999, "delta_ci_lower": -88.1458333333333, "delta_ci_upper": 102.27624999999999, "failure_count": 0, "left_ci_lower": 5825.74875, "left_ci_upper": 5945.042916666667, "left_mean": 5886.325, "mean_delta": 9.15, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5818.6866666666665, "right_ci_upper": 5969.795833333334, "right_mean": 5895.475, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -44.74312499999999, "ci_upper": 135.75, "delta_ci_lower": -44.74312499999999, "delta_ci_upper": 135.75, "failure_count": 0, "left_ci_lower": 5432.1658333333335, "left_ci_upper": 5541.826249999999, "left_mean": 5487.25, "mean_delta": 47.7, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5462.208124999999, "right_ci_upper": 5604.834583333333, "right_mean": 5534.95, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5777777777777777, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.005555555555555556, "ci_upper": 0.1, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2351851851851852, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.005555555555555556, "ci_upper": 0.1, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2351851851851852, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.005555555555555556, "ci_upper": 0.1, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2351851851851852, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.005555555555555556, "ci_upper": 0.1, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2351851851851852, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 59.29706898449998, "ci_upper": 95.01763902706443, "delta_ci_lower": 59.29706898449998, "delta_ci_upper": 95.01763902706443, "failure_count": 0, "left_ci_lower": 4776.143478862966, "left_ci_upper": 5104.308273662681, "left_mean": 4925.69239368119, "mean_delta": 78.50421915839736, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4860.273321196533, "right_ci_upper": 5171.594064889311, "right_mean": 5004.196612839587, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.028703703703703707, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703707, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074073, "left_ci_upper": 0.20833333333333334, "left_mean": 0.16111111111111112, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.028703703703703707, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703707, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074073, "left_ci_upper": 0.20833333333333334, "left_mean": 0.16111111111111112, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.028703703703703707, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703707, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074073, "left_ci_upper": 0.20833333333333334, "left_mean": 0.16111111111111112, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.028703703703703707, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703707, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074073, "left_ci_upper": 0.20833333333333334, "left_mean": 0.16111111111111112, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03232323232323232, "ci_upper": 0.07508417508417509, "delta_ci_lower": -0.03232323232323232, "delta_ci_upper": 0.07508417508417509, "failure_count": 0, "left_ci_lower": 0.09158249158249158, "left_ci_upper": 0.23099800084175082, "left_mean": 0.1589436026936027, "mean_delta": 0.019528619528619527, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.25555555555555554, "right_mean": 0.17847222222222223, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.0378716744913928, "ci_upper": 0.06752738654147106, "delta_ci_lower": -0.0378716744913928, "delta_ci_upper": 0.06752738654147106, "failure_count": 0, "left_ci_lower": 0.15237056598852375, "left_ci_upper": 0.28388399843505474, "left_mean": 0.21610589462702137, "mean_delta": 0.01343244653103808, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.16443661971830986, "right_ci_upper": 0.2981875978090767, "right_mean": 0.22953834115805946, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -491.5549024516817, "ci_upper": 983.088815250855, "delta_ci_lower": -491.5549024516817, "delta_ci_upper": 983.088815250855, "failure_count": 0, "left_ci_lower": 40685.888241802575, "left_ci_upper": 41653.99409416703, "left_mean": 41168.85448178083, "mean_delta": 261.38541883323586, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40847.63246582968, "right_ci_upper": 42007.20597952188, "right_mean": 41430.23990061407, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -100.04898441575378, "ci_upper": 105.5623353547209, "delta_ci_lower": -100.04898441575378, "delta_ci_upper": 105.5623353547209, "failure_count": 0, "left_ci_lower": 5825.437508476787, "left_ci_upper": 5954.669734285342, "left_mean": 5891.105516431925, "mean_delta": 4.063080333854982, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5814.009746022431, "right_ci_upper": 5975.059711789254, "right_mean": 5895.1685967657795, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.012653362897265335, "ci_upper": 0.10747967479674796, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.10747967479674796, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03796008869179601, "left_mean": 0.012653362897265335, "mean_delta": 0.045986696230598666, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.012653362897265335, "right_ci_upper": 0.11383592017738359, "right_mean": 0.058640059127864005, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.012653362897265335, "ci_upper": 0.10747967479674796, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.10747967479674796, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03796008869179601, "left_mean": 0.012653362897265335, "mean_delta": 0.045986696230598666, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.012653362897265335, "right_ci_upper": 0.11383592017738359, "right_mean": 0.058640059127864005, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.012653362897265335, "ci_upper": 0.10747967479674796, "delta_ci_lower": -0.012653362897265335, "delta_ci_upper": 0.10747967479674796, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03796008869179601, "left_mean": 0.012653362897265335, "mean_delta": 0.045986696230598666, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.012653362897265335, "right_ci_upper": 0.11383592017738359, "right_mean": 0.058640059127864005, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -55.085528169014076, "ci_upper": 141.0686218701095, "delta_ci_lower": -55.085528169014076, "delta_ci_upper": 141.0686218701095, "failure_count": 0, "left_ci_lower": 5430.868008607198, "left_ci_upper": 5550.908614045383, "left_mean": 5491.173148148148, "mean_delta": 44.20865936358894, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5458.401364110589, "right_ci_upper": 5609.516691770997, "right_mean": 5535.381807511737, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.13396895787139687, "ci_upper": 0.056866223207686625, "delta_ci_lower": -0.13396895787139687, "delta_ci_upper": 0.056866223207686625, "failure_count": 0, "left_ci_lower": 0.5592893569844788, "left_ci_upper": 0.7351219512195122, "left_mean": 0.6483665927568366, "mean_delta": -0.03855136733185514, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5143976348854398, "right_ci_upper": 0.702320768662232, "right_mean": 0.6098152254249816, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0008745996550874589, "ci_upper": 0.10189954422271495, "delta_ci_lower": 0.0008745996550874589, "delta_ci_upper": 0.10189954422271495, "failure_count": 0, "left_ci_lower": 0.23730450849963045, "left_ci_upper": 0.4227075634392708, "left_mean": 0.3268957871396896, "mean_delta": 0.05105937423010594, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0008745996550874589, "ci_upper": 0.10189954422271495, "delta_ci_lower": 0.0008745996550874589, "delta_ci_upper": 0.10189954422271495, "failure_count": 0, "left_ci_lower": 0.23730450849963045, "left_ci_upper": 0.4227075634392708, "left_mean": 0.3268957871396896, "mean_delta": 0.05105937423010594, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0008745996550874589, "ci_upper": 0.10189954422271495, "delta_ci_lower": 0.0008745996550874589, "delta_ci_upper": 0.10189954422271495, "failure_count": 0, "left_ci_lower": 0.23730450849963045, "left_ci_upper": 0.4227075634392708, "left_mean": 0.3268957871396896, "mean_delta": 0.05105937423010594, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0008745996550874589, "ci_upper": 0.10189954422271495, "delta_ci_lower": 0.0008745996550874589, "delta_ci_upper": 0.10189954422271495, "failure_count": 0, "left_ci_lower": 0.23730450849963045, "left_ci_upper": 0.4227075634392708, "left_mean": 0.3268957871396896, "mean_delta": 0.05105937423010594, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2882951465878295, "right_ci_upper": 0.4693846390736635, "right_mean": 0.37795516136979546, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.013791574279379156, "ci_upper": 0.16731596452328137, "delta_ci_lower": 0.013791574279379156, "delta_ci_upper": 0.16731596452328137, "failure_count": 0, "left_ci_lower": 0.28331116038433113, "left_ci_upper": 0.4850258684405026, "left_mean": 0.3815816703621581, "mean_delta": 0.08912047302291205, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.013791574279379156, "ci_upper": 0.16731596452328137, "delta_ci_lower": 0.013791574279379156, "delta_ci_upper": 0.16731596452328137, "failure_count": 0, "left_ci_lower": 0.28331116038433113, "left_ci_upper": 0.4850258684405026, "left_mean": 0.3815816703621581, "mean_delta": 0.08912047302291205, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.013791574279379156, "ci_upper": 0.16731596452328137, "delta_ci_lower": 0.013791574279379156, "delta_ci_upper": 0.16731596452328137, "failure_count": 0, "left_ci_lower": 0.28331116038433113, "left_ci_upper": 0.4850258684405026, "left_mean": 0.3815816703621581, "mean_delta": 0.08912047302291205, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.013791574279379156, "ci_upper": 0.16731596452328137, "delta_ci_lower": 0.013791574279379156, "delta_ci_upper": 0.16731596452328137, "failure_count": 0, "left_ci_lower": 0.28331116038433113, "left_ci_upper": 0.4850258684405026, "left_mean": 0.3815816703621581, "mean_delta": 0.08912047302291205, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36385698447893566, "right_ci_upper": 0.5752856614929786, "right_mean": 0.47070214338507016, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 49.25807667995032, "ci_upper": 90.75733758819354, "delta_ci_lower": 49.25807667995032, "delta_ci_upper": 90.75733758819354, "failure_count": 0, "left_ci_lower": 4810.8228496986485, "left_ci_upper": 5218.721030291031, "left_mean": 4994.959939288597, "mean_delta": 72.19319736556812, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4891.376951175775, "right_ci_upper": 5276.478286191422, "right_mean": 5067.153136654165, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.028218588322246857, "ci_upper": 0.11066642030056661, "delta_ci_lower": 0.028218588322246857, "delta_ci_upper": 0.11066642030056661, "failure_count": 0, "left_ci_lower": 0.11680339985218037, "left_ci_upper": 0.21197222222222217, "left_mean": 0.1629317565902932, "mean_delta": 0.06913279132791328, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.028218588322246857, "ci_upper": 0.11066642030056661, "delta_ci_lower": 0.028218588322246857, "delta_ci_upper": 0.11066642030056661, "failure_count": 0, "left_ci_lower": 0.11680339985218037, "left_ci_upper": 0.21197222222222217, "left_mean": 0.1629317565902932, "mean_delta": 0.06913279132791328, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.028218588322246857, "ci_upper": 0.11066642030056661, "delta_ci_lower": 0.028218588322246857, "delta_ci_upper": 0.11066642030056661, "failure_count": 0, "left_ci_lower": 0.11680339985218037, "left_ci_upper": 0.21197222222222217, "left_mean": 0.1629317565902932, "mean_delta": 0.06913279132791328, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.028218588322246857, "ci_upper": 0.11066642030056661, "delta_ci_lower": 0.028218588322246857, "delta_ci_upper": 0.11066642030056661, "failure_count": 0, "left_ci_lower": 0.11680339985218037, "left_ci_upper": 0.21197222222222217, "left_mean": 0.1629317565902932, "mean_delta": 0.06913279132791328, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17320645479182065, "right_ci_upper": 0.29535002463660986, "right_mean": 0.23206454791820647, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.02987435328898743, "ci_upper": 0.07681515823422698, "delta_ci_lower": -0.02987435328898743, "delta_ci_upper": 0.07681515823422698, "failure_count": 0, "left_ci_lower": 0.09439763488543976, "left_ci_upper": 0.23626688167708118, "left_mean": 0.16280588591009873, "mean_delta": 0.021200026876301823, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11179600886917959, "right_ci_upper": 0.25929046563192903, "right_mean": 0.18400591278640058, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1311.5979641440206, "ci_upper": 1652.5371386007948, "delta_ci_lower": -1311.5979641440206, "delta_ci_upper": 1652.5371386007948, "failure_count": 0, "left_ci_lower": 41226.160139726904, "left_ci_upper": 43183.06406249554, "left_mean": 42191.521855583414, "mean_delta": 209.1706957357625, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41215.05697663544, "right_ci_upper": 43556.10574968858, "right_mean": 42400.692551319175, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -224.90916666666658, "ci_upper": 164.90249999999997, "delta_ci_lower": -224.90916666666658, "delta_ci_upper": 164.90249999999997, "failure_count": 0, "left_ci_lower": 5886.088333333334, "left_ci_upper": 6121.401666666666, "left_mean": 6005.766666666666, "mean_delta": -23.7, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5818.863333333334, "right_ci_upper": 6138.240833333333, "right_mean": 5982.066666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.2, "right_mean": 0.1, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.2, "right_mean": 0.1, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.2, "right_mean": 0.1, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -171.40083333333334, "ci_upper": 192.96916666666664, "delta_ci_lower": -171.40083333333334, "delta_ci_upper": 192.96916666666664, "failure_count": 0, "left_ci_lower": 5475.631666666666, "left_ci_upper": 5685.2725, "left_mean": 5582.833333333333, "mean_delta": 16.666666666666668, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5447.329166666666, "right_ci_upper": 5748.134166666667, "right_mean": 5599.5, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.3333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.3333333333333333, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.6666666666666666, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": -0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1388888888888889, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1388888888888889, "failure_count": 0, "left_ci_lower": 0.15, "left_ci_upper": 0.46111111111111114, "left_mean": 0.29444444444444445, "mean_delta": 0.06111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5055555555555555, "right_mean": 0.3555555555555555, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1388888888888889, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1388888888888889, "failure_count": 0, "left_ci_lower": 0.15, "left_ci_upper": 0.46111111111111114, "left_mean": 0.29444444444444445, "mean_delta": 0.06111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5055555555555555, "right_mean": 0.3555555555555555, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1388888888888889, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1388888888888889, "failure_count": 0, "left_ci_lower": 0.15, "left_ci_upper": 0.46111111111111114, "left_mean": 0.29444444444444445, "mean_delta": 0.06111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5055555555555555, "right_mean": 0.3555555555555555, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.1388888888888889, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.1388888888888889, "failure_count": 0, "left_ci_lower": 0.15, "left_ci_upper": 0.46111111111111114, "left_mean": 0.29444444444444445, "mean_delta": 0.06111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.21666666666666667, "right_ci_upper": 0.5055555555555555, "right_mean": 0.3555555555555555, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.7, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.7, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.7, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.7, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 59.151206938355855, "ci_upper": 100.85642742691562, "delta_ci_lower": 59.151206938355855, "delta_ci_upper": 100.85642742691562, "failure_count": 0, "left_ci_lower": 4549.487625469628, "left_ci_upper": 5080.208079939669, "left_mean": 4808.5992207595455, "mean_delta": 80.17847927597661, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4628.636995753816, "right_ci_upper": 5160.641343493092, "right_mean": 4888.777700035523, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.16666666666666666, "mean_delta": 0.11666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.2833333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.16666666666666666, "mean_delta": 0.11666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.2833333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.16666666666666666, "mean_delta": 0.11666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.2833333333333333, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.26666666666666666, "left_mean": 0.16666666666666666, "mean_delta": 0.11666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.41111111111111115, "right_mean": 0.2833333333333333, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1198.2180832375889, "ci_upper": 1585.84253855816, "delta_ci_lower": -1198.2180832375889, "delta_ci_upper": 1585.84253855816, "failure_count": 0, "left_ci_lower": 39509.69281584568, "left_ci_upper": 41261.81501980551, "left_mean": 40385.03162099514, "mean_delta": 228.71883463424942, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39574.255571877584, "right_ci_upper": 41665.45535198491, "right_mean": 40613.75045562939, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -195.4033333333333, "ci_upper": 206.22083333333302, "delta_ci_lower": -195.4033333333333, "delta_ci_upper": 206.22083333333302, "failure_count": 0, "left_ci_lower": 5671.099166666667, "left_ci_upper": 5935.067499999999, "left_mean": 5802.3, "mean_delta": 11.866666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5672.099166666667, "right_ci_upper": 5958.235833333333, "right_mean": 5814.166666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -135.7, "ci_upper": 249.36749999999998, "delta_ci_lower": -135.7, "delta_ci_upper": 249.36749999999998, "failure_count": 0, "left_ci_lower": 5297.1, "left_ci_upper": 5546.838333333333, "left_mean": 5420.533333333334, "mean_delta": 62.86666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5347.431666666666, "right_ci_upper": 5619.833333333333, "right_mean": 5483.4, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.06666666666666667, "ci_upper": 0.1388888888888889, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.1388888888888889, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.1388888888888889, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.1388888888888889, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.1388888888888889, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.1388888888888889, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.1388888888888889, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.1388888888888889, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5666666666666667, "left_mean": 0.4, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -33.937093190324894, "ci_upper": 78.07880779282033, "delta_ci_lower": -33.937093190324894, "delta_ci_upper": 78.07880779282033, "failure_count": 0, "left_ci_lower": 4511.174975611211, "left_ci_upper": 5598.890149278838, "left_mean": 4982.787434690787, "mean_delta": 29.344005475286394, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4570.362673925119, "right_ci_upper": 5576.117022075146, "right_mean": 5012.131440166074, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.013888888888888888, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.013888888888888888, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25, "left_mean": 0.17222222222222222, "mean_delta": 0.025, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11388888888888889, "right_ci_upper": 0.2916666666666667, "right_mean": 0.19722222222222224, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.013888888888888888, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.013888888888888888, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25, "left_mean": 0.17222222222222222, "mean_delta": 0.025, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11388888888888889, "right_ci_upper": 0.2916666666666667, "right_mean": 0.19722222222222224, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.013888888888888888, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.013888888888888888, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25, "left_mean": 0.17222222222222222, "mean_delta": 0.025, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11388888888888889, "right_ci_upper": 0.2916666666666667, "right_mean": 0.19722222222222224, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.013888888888888888, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.013888888888888888, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.25, "left_mean": 0.17222222222222222, "mean_delta": 0.025, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11388888888888889, "right_ci_upper": 0.2916666666666667, "right_mean": 0.19722222222222224, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06666666666666667, "ci_upper": 0.19191919191919193, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.19191919191919193, "failure_count": 0, "left_ci_lower": 0.1888888888888889, "left_ci_upper": 0.5101641414141415, "left_mean": 0.3434974747474747, "mean_delta": 0.05858585858585859, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23541666666666666, "right_ci_upper": 0.56875, "right_mean": 0.40208333333333335, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -915.1880729642775, "ci_upper": 1598.5614948870098, "delta_ci_lower": -915.1880729642775, "delta_ci_upper": 1598.5614948870098, "failure_count": 0, "left_ci_lower": 39979.293156385924, "left_ci_upper": 41930.07822398077, "left_mean": 40923.83912366737, "mean_delta": 349.55661239800975, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40131.6298174373, "right_ci_upper": 42411.167800277464, "right_mean": 41273.39573606538, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -162.4, "ci_upper": 207.3683333333333, "delta_ci_lower": -162.4, "delta_ci_upper": 207.3683333333333, "failure_count": 0, "left_ci_lower": 5725.196666666667, "left_ci_upper": 5972.2, "left_mean": 5848.033333333334, "mean_delta": 22.733333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5709.495, "right_ci_upper": 6028.268333333333, "right_mean": 5870.766666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -132.06749999999997, "ci_upper": 229.6008333333333, "delta_ci_lower": -132.06749999999997, "delta_ci_upper": 229.6008333333333, "failure_count": 0, "left_ci_lower": 5340.293333333333, "left_ci_upper": 5571.835, "left_mean": 5456.533333333334, "mean_delta": 49.43333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5359.261666666666, "right_ci_upper": 5650.239166666666, "right_mean": 5505.966666666666, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7333333333333333, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7333333333333333, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8666666666666667, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.011111111111111112, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4277777777777778, "left_mean": 0.2722222222222222, "mean_delta": 0.061111111111111116, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4277777777777778, "left_mean": 0.2722222222222222, "mean_delta": 0.061111111111111116, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4277777777777778, "left_mean": 0.2722222222222222, "mean_delta": 0.061111111111111116, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4277777777777778, "left_mean": 0.2722222222222222, "mean_delta": 0.061111111111111116, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 85.88755532973059, "ci_upper": 130.14940085258178, "delta_ci_lower": 85.88755532973059, "delta_ci_upper": 130.14940085258178, "failure_count": 0, "left_ci_lower": 5448.778818530748, "left_ci_upper": 5922.668057065554, "left_mean": 5679.701654050344, "mean_delta": 107.78550986433402, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5553.346236770157, "right_ci_upper": 6030.481072272911, "right_mean": 5787.487163914678, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.22222222222222224, "left_mean": 0.14444444444444443, "mean_delta": 0.06111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.3055555555555555, "right_mean": 0.20555555555555555, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.22222222222222224, "left_mean": 0.14444444444444443, "mean_delta": 0.06111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.3055555555555555, "right_mean": 0.20555555555555555, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.22222222222222224, "left_mean": 0.14444444444444443, "mean_delta": 0.06111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.3055555555555555, "right_mean": 0.20555555555555555, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.07222222222222222, "left_ci_upper": 0.22222222222222224, "left_mean": 0.14444444444444443, "mean_delta": 0.06111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.11666666666666667, "right_ci_upper": 0.3055555555555555, "right_mean": 0.20555555555555555, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -873.281072594497, "ci_upper": 1437.4032358763118, "delta_ci_lower": -873.281072594497, "delta_ci_upper": 1437.4032358763118, "failure_count": 0, "left_ci_lower": 40101.83137055312, "left_ci_upper": 41610.872393481746, "left_mean": 40860.017724991, "mean_delta": 327.65761095797643, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40223.8227419821, "right_ci_upper": 42113.864580362766, "right_mean": 41187.675335948974, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -159.5708333333333, "ci_upper": 194.5041666666666, "delta_ci_lower": -159.5708333333333, "delta_ci_upper": 194.5041666666666, "failure_count": 0, "left_ci_lower": 5777.6641666666665, "left_ci_upper": 6000.634166666667, "left_mean": 5889.2, "mean_delta": 25.7, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5772.263333333333, "right_ci_upper": 6052.4675, "right_mean": 5914.9, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -102.36916666666663, "ci_upper": 214.03499999999997, "delta_ci_lower": -102.36916666666663, "delta_ci_upper": 214.03499999999997, "failure_count": 0, "left_ci_lower": 5391.1325, "left_ci_upper": 5584.100833333334, "left_mean": 5489.1, "mean_delta": 61.833333333333336, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5415.0, "right_ci_upper": 5682.034166666667, "right_mean": 5550.933333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": 65.72306937800025, "ci_upper": 126.1065132287331, "delta_ci_lower": 65.72306937800025, "delta_ci_upper": 126.1065132287331, "failure_count": 0, "left_ci_lower": 4098.45086826778, "left_ci_upper": 4361.357628572054, "left_mean": 4231.6812652240815, "mean_delta": 96.70888201799244, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4188.00099354994, "right_ci_upper": 4461.797702918023, "right_mean": 4328.390147242074, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "left_regime": "native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.35833333333333334, "left_mean": 0.2916666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.225, "right_ci_upper": 0.35833333333333334, "right_mean": 0.2916666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -394.3194854061099, "ci_upper": 938.1001071991825, "delta_ci_lower": -394.3194854061099, "delta_ci_upper": 938.1001071991825, "failure_count": 0, "left_ci_lower": 40650.59020971577, "left_ci_upper": 41528.6612264211, "left_mean": 41090.102581309235, "mean_delta": 278.7759384314995, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40829.1620273972, "right_ci_upper": 41898.598330081244, "right_mean": 41368.878519740734, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -88.1458333333333, "ci_upper": 102.27624999999999, "delta_ci_lower": -88.1458333333333, "delta_ci_upper": 102.27624999999999, "failure_count": 0, "left_ci_lower": 5825.74875, "left_ci_upper": 5945.042916666667, "left_mean": 5886.325, "mean_delta": 9.15, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5818.6866666666665, "right_ci_upper": 5969.795833333334, "right_mean": 5895.475, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.03333333333333333, "left_mean": 0.011111111111111112, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.1111111111111111, "right_mean": 0.05555555555555555, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -44.74312499999999, "ci_upper": 135.75, "delta_ci_lower": -44.74312499999999, "delta_ci_upper": 135.75, "failure_count": 0, "left_ci_lower": 5432.1658333333335, "left_ci_upper": 5541.826249999999, "left_mean": 5487.25, "mean_delta": 47.7, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5462.208124999999, "right_ci_upper": 5604.834583333333, "right_mean": 5534.95, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.05555555555555555, "failure_count": 0, "left_ci_lower": 0.5777777777777777, "left_ci_upper": 0.7444444444444445, "left_mean": 0.6666666666666666, "mean_delta": -0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.005555555555555556, "ci_upper": 0.1, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2351851851851852, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.005555555555555556, "ci_upper": 0.1, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2351851851851852, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.005555555555555556, "ci_upper": 0.1, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2351851851851852, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.005555555555555556, "ci_upper": 0.1, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.2351851851851852, "left_ci_upper": 0.4166666666666667, "left_mean": 0.32222222222222224, "mean_delta": 0.05185185185185186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2851851851851852, "right_ci_upper": 0.46481481481481485, "right_mean": 0.37407407407407406, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.2777777777777778, "left_ci_upper": 0.4777777777777778, "left_mean": 0.37777777777777777, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 59.29706898449998, "ci_upper": 95.01763902706443, "delta_ci_lower": 59.29706898449998, "delta_ci_upper": 95.01763902706443, "failure_count": 0, "left_ci_lower": 4776.143478862966, "left_ci_upper": 5104.308273662681, "left_mean": 4925.69239368119, "mean_delta": 78.50421915839736, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4860.273321196533, "right_ci_upper": 5171.594064889311, "right_mean": 5004.196612839587, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.028703703703703707, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703707, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074073, "left_ci_upper": 0.20833333333333334, "left_mean": 0.16111111111111112, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.028703703703703707, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703707, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074073, "left_ci_upper": 0.20833333333333334, "left_mean": 0.16111111111111112, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.028703703703703707, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703707, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074073, "left_ci_upper": 0.20833333333333334, "left_mean": 0.16111111111111112, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.028703703703703707, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.028703703703703707, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.11574074074074073, "left_ci_upper": 0.20833333333333334, "left_mean": 0.16111111111111112, "mean_delta": 0.06759259259259259, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17129629629629628, "right_ci_upper": 0.2898148148148148, "right_mean": 0.2287037037037037, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03232323232323232, "ci_upper": 0.07508417508417509, "delta_ci_lower": -0.03232323232323232, "delta_ci_upper": 0.07508417508417509, "failure_count": 0, "left_ci_lower": 0.09158249158249158, "left_ci_upper": 0.23099800084175082, "left_mean": 0.1589436026936027, "mean_delta": 0.019528619528619527, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1111111111111111, "right_ci_upper": 0.25555555555555554, "right_mean": 0.17847222222222223, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.5666666666666667, "left_ci_upper": 0.9, "left_mean": 0.7333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_85df22828efa71c2b6754a25", "builder_key": "gemma3_1b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.075, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.075, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.36666666666666664, "left_mean": 0.29166666666666663, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.3666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1296.0433208966908, "ci_upper": 150.18584979935736, "delta_ci_lower": -1296.0433208966908, "delta_ci_upper": 150.18584979935736, "failure_count": 0, "left_ci_lower": 40780.083640153054, "left_ci_upper": 41861.17233269301, "left_mean": 41309.31789856113, "mean_delta": -583.2629596804812, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40217.91196457072, "right_ci_upper": 41240.5163017513, "right_mean": 40726.05493888065, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -185.67624999999998, "ci_upper": 15.634166666666651, "delta_ci_lower": -185.67624999999998, "delta_ci_upper": 15.634166666666651, "failure_count": 0, "left_ci_lower": 5829.807083333333, "left_ci_upper": 5975.5287499999995, "left_mean": 5901.725, "mean_delta": -85.42500000000001, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5746.182708333333, "right_ci_upper": 5886.9591666666665, "right_mean": 5816.299999999999, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.04472222222221977, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04472222222221977, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.04472222222221977, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04472222222221977, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.04472222222221977, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04472222222221977, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -173.64395833333322, "ci_upper": 14.451666666666641, "delta_ci_lower": -173.64395833333322, "delta_ci_upper": 14.451666666666641, "failure_count": 0, "left_ci_lower": 5466.015625, "left_ci_upper": 5601.508333333333, "left_mean": 5534.008333333333, "mean_delta": -80.13333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5389.366666666667, "right_ci_upper": 5519.3618750000005, "right_mean": 5453.875, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.011111111111111108, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.45555555555555555, "left_ci_upper": 0.6333333333333333, "left_mean": 0.5444444444444444, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.01388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.01388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.01388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.01388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 73.72721057462816, "ci_upper": 109.95408074777514, "delta_ci_lower": 73.72721057462816, "delta_ci_upper": 109.95408074777514, "failure_count": 0, "left_ci_lower": 4790.501605299918, "left_ci_upper": 5135.821469616397, "left_mean": 4947.464828852874, "mean_delta": 91.71886526358624, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4888.331322275869, "right_ci_upper": 5219.842476081928, "right_mean": 5039.18369411646, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555557, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555557, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555557, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555557, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05949288806431663, "ci_upper": 0.054648526077097505, "delta_ci_lower": -0.05949288806431663, "delta_ci_upper": 0.054648526077097505, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.26666666666666666, "left_mean": 0.1897959183673469, "mean_delta": -0.0019171304885590597, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1212121212121212, "right_ci_upper": 0.25555555555555554, "right_mean": 0.18787878787878787, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.075, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.075, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2916666666666667, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.36666666666666664, "right_mean": 0.3, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1296.0433208966906, "ci_upper": 150.18584979935736, "delta_ci_lower": -1296.0433208966906, "delta_ci_upper": 150.18584979935736, "failure_count": 0, "left_ci_lower": 40780.083640153054, "left_ci_upper": 41861.172332693, "left_mean": 41309.31789856113, "mean_delta": -583.2629596804812, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40217.91196457072, "right_ci_upper": 41240.51630175129, "right_mean": 40726.05493888065, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -185.67624999999998, "ci_upper": 15.634166666666655, "delta_ci_lower": -185.67624999999998, "delta_ci_upper": 15.634166666666655, "failure_count": 0, "left_ci_lower": 5829.807083333333, "left_ci_upper": 5975.5287499999995, "left_mean": 5901.725, "mean_delta": -85.425, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5746.182708333333, "right_ci_upper": 5886.9591666666665, "right_mean": 5816.3, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -173.64395833333322, "ci_upper": 14.451666666666641, "delta_ci_lower": -173.64395833333322, "delta_ci_upper": 14.451666666666641, "failure_count": 0, "left_ci_lower": 5466.015625, "left_ci_upper": 5601.508333333333, "left_mean": 5534.008333333333, "mean_delta": -80.13333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5389.366666666667, "right_ci_upper": 5519.3618750000005, "right_mean": 5453.875, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.45555555555555555, "left_ci_upper": 0.6333333333333333, "left_mean": 0.5444444444444444, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.013888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.013888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.013888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.013888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 73.72721057462816, "ci_upper": 109.95408074777515, "delta_ci_lower": 73.72721057462816, "delta_ci_upper": 109.95408074777515, "failure_count": 0, "left_ci_lower": 4790.501605299918, "left_ci_upper": 5135.821469616397, "left_mean": 4947.464828852874, "mean_delta": 91.71886526358624, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4888.331322275869, "right_ci_upper": 5219.842476081928, "right_mean": 5039.183694116461, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.059492888064316636, "ci_upper": 0.054648526077097505, "delta_ci_lower": -0.059492888064316636, "delta_ci_upper": 0.054648526077097505, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18979591836734694, "mean_delta": -0.0019171304885590601, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1212121212121212, "right_ci_upper": 0.25555555555555554, "right_mean": 0.1878787878787879, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.04958496348461136, "ci_upper": 0.06346146322378714, "delta_ci_lower": -0.04958496348461136, "delta_ci_upper": 0.06346146322378714, "failure_count": 0, "left_ci_lower": 0.1689687663015128, "left_ci_upper": 0.3082296557120501, "left_mean": 0.23677621283255085, "mean_delta": 0.006442357850808556, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.17657505216484093, "right_ci_upper": 0.31148995826812725, "right_mean": 0.24321857068335942, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1357.4307121257743, "ci_upper": 203.47585357263088, "delta_ci_lower": -1357.4307121257743, "delta_ci_upper": 203.47585357263088, "failure_count": 0, "left_ci_lower": 40776.76545514737, "left_ci_upper": 41989.19122985036, "left_mean": 41376.92299547502, "mean_delta": -584.1064902335548, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40259.15811939756, "right_ci_upper": 41345.00762448039, "right_mean": 40792.816505241455, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -188.02323063380283, "ci_upper": 23.8408460485133, "delta_ci_lower": -188.02323063380283, "delta_ci_upper": 23.8408460485133, "failure_count": 0, "left_ci_lower": 5820.634798187272, "left_ci_upper": 5976.795600547731, "left_mean": 5897.703638497653, "mean_delta": -82.57369587897757, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5743.25910732916, "right_ci_upper": 5888.900354720919, "right_mean": 5815.129942618674, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05265927568366352, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05265927568366352, "delta_ci_upper": 0.024124168514412417, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.09600886917960089, "left_mean": 0.045986696230598666, "mean_delta": -0.013244641537324462, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07410199556541021, "right_mean": 0.0327420546932742, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05265927568366352, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05265927568366352, "delta_ci_upper": 0.024124168514412417, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.09600886917960089, "left_mean": 0.045986696230598666, "mean_delta": -0.013244641537324462, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07410199556541021, "right_mean": 0.0327420546932742, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05265927568366352, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05265927568366352, "delta_ci_upper": 0.024124168514412417, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.09600886917960089, "left_mean": 0.045986696230598666, "mean_delta": -0.013244641537324462, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07410199556541021, "right_mean": 0.0327420546932742, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -173.58105438184663, "ci_upper": 23.71165818988001, "delta_ci_lower": -173.58105438184663, "delta_ci_upper": 23.71165818988001, "failure_count": 0, "left_ci_lower": 5454.133869653103, "left_ci_upper": 5597.053615349505, "left_mean": 5525.394157537819, "mean_delta": -75.89976525821596, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5383.113166405842, "right_ci_upper": 5518.433193466353, "right_mean": 5449.494392279604, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0005901699926090262, "ci_upper": 0.18394678492239466, "delta_ci_lower": 0.0005901699926090262, "delta_ci_upper": 0.18394678492239466, "failure_count": 0, "left_ci_lower": 0.4183887657058389, "left_ci_upper": 0.6114855875831485, "left_mean": 0.5143976348854398, "mean_delta": 0.09197339246119733, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5137941611234296, "right_ci_upper": 0.6983444198078346, "right_mean": 0.6063710273466371, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.08277568366592757, "ci_upper": 0.0649830623306233, "delta_ci_lower": -0.08277568366592757, "delta_ci_upper": 0.0649830623306233, "failure_count": 0, "left_ci_lower": 0.2863278208918452, "left_ci_upper": 0.4768935082532644, "left_mean": 0.3789763488543976, "mean_delta": -0.009902685390490268, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.08277568366592757, "ci_upper": 0.0649830623306233, "delta_ci_lower": -0.08277568366592757, "delta_ci_upper": 0.0649830623306233, "failure_count": 0, "left_ci_lower": 0.2863278208918452, "left_ci_upper": 0.4768935082532644, "left_mean": 0.3789763488543976, "mean_delta": -0.009902685390490268, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.08277568366592757, "ci_upper": 0.0649830623306233, "delta_ci_lower": -0.08277568366592757, "delta_ci_upper": 0.0649830623306233, "failure_count": 0, "left_ci_lower": 0.2863278208918452, "left_ci_upper": 0.4768935082532644, "left_mean": 0.3789763488543976, "mean_delta": -0.009902685390490268, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.08277568366592757, "ci_upper": 0.0649830623306233, "delta_ci_lower": -0.08277568366592757, "delta_ci_upper": 0.0649830623306233, "failure_count": 0, "left_ci_lower": 0.2863278208918452, "left_ci_upper": 0.4768935082532644, "left_mean": 0.3789763488543976, "mean_delta": -0.009902685390490268, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.052239467849223946, "ci_upper": 0.12186252771618625, "delta_ci_lower": -0.052239467849223946, "delta_ci_upper": 0.12186252771618625, "failure_count": 0, "left_ci_lower": 0.3385070214338507, "left_ci_upper": 0.54430155210643, "left_mean": 0.44081300813008134, "mean_delta": 0.034515890613451596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.052239467849223946, "ci_upper": 0.12186252771618625, "delta_ci_lower": -0.052239467849223946, "delta_ci_upper": 0.12186252771618625, "failure_count": 0, "left_ci_lower": 0.3385070214338507, "left_ci_upper": 0.54430155210643, "left_mean": 0.44081300813008134, "mean_delta": 0.034515890613451596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.052239467849223946, "ci_upper": 0.12186252771618625, "delta_ci_lower": -0.052239467849223946, "delta_ci_upper": 0.12186252771618625, "failure_count": 0, "left_ci_lower": 0.3385070214338507, "left_ci_upper": 0.54430155210643, "left_mean": 0.44081300813008134, "mean_delta": 0.034515890613451596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.052239467849223946, "ci_upper": 0.12186252771618625, "delta_ci_lower": -0.052239467849223946, "delta_ci_upper": 0.12186252771618625, "failure_count": 0, "left_ci_lower": 0.3385070214338507, "left_ci_upper": 0.54430155210643, "left_mean": 0.44081300813008134, "mean_delta": 0.034515890613451596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 75.77072559212733, "ci_upper": 108.6848683516188, "delta_ci_lower": 75.77072559212733, "delta_ci_upper": 108.6848683516188, "failure_count": 0, "left_ci_lower": 4822.203728600751, "left_ci_upper": 5248.450239517373, "left_mean": 5012.715012263442, "mean_delta": 92.56464500842486, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4921.183187055231, "right_ci_upper": 5330.962228964641, "right_mean": 5105.279657271867, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04014387780241438, "ci_upper": 0.05586899482631189, "delta_ci_lower": -0.04014387780241438, "delta_ci_upper": 0.05586899482631189, "failure_count": 0, "left_ci_lower": 0.16206762749445677, "left_ci_upper": 0.28072216063069716, "left_mean": 0.2195540773589554, "mean_delta": 0.006605075141660507, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04014387780241438, "ci_upper": 0.05586899482631189, "delta_ci_lower": -0.04014387780241438, "delta_ci_upper": 0.05586899482631189, "failure_count": 0, "left_ci_lower": 0.16206762749445677, "left_ci_upper": 0.28072216063069716, "left_mean": 0.2195540773589554, "mean_delta": 0.006605075141660507, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04014387780241438, "ci_upper": 0.05586899482631189, "delta_ci_lower": -0.04014387780241438, "delta_ci_upper": 0.05586899482631189, "failure_count": 0, "left_ci_lower": 0.16206762749445677, "left_ci_upper": 0.28072216063069716, "left_mean": 0.2195540773589554, "mean_delta": 0.006605075141660507, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04014387780241438, "ci_upper": 0.05586899482631189, "delta_ci_lower": -0.04014387780241438, "delta_ci_upper": 0.05586899482631189, "failure_count": 0, "left_ci_lower": 0.16206762749445677, "left_ci_upper": 0.28072216063069716, "left_mean": 0.2195540773589554, "mean_delta": 0.006605075141660507, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.057782348577407175, "ci_upper": 0.059819547573111025, "delta_ci_lower": -0.057782348577407175, "delta_ci_upper": 0.059819547573111025, "failure_count": 0, "left_ci_lower": 0.12294161123429416, "left_ci_upper": 0.27463519465435837, "left_mean": 0.19689005535695428, "mean_delta": 0.0007717063846300466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12579453067257945, "right_ci_upper": 0.2717220990391722, "right_mean": 0.19766176174158434, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.075, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.075, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.36666666666666664, "left_mean": 0.29166666666666663, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.3666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1296.0433208966908, "ci_upper": 150.18584979935736, "delta_ci_lower": -1296.0433208966908, "delta_ci_upper": 150.18584979935736, "failure_count": 0, "left_ci_lower": 40780.083640153054, "left_ci_upper": 41861.17233269301, "left_mean": 41309.31789856113, "mean_delta": -583.2629596804812, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40217.91196457072, "right_ci_upper": 41240.5163017513, "right_mean": 40726.05493888065, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -185.67624999999998, "ci_upper": 15.634166666666651, "delta_ci_lower": -185.67624999999998, "delta_ci_upper": 15.634166666666651, "failure_count": 0, "left_ci_lower": 5829.807083333333, "left_ci_upper": 5975.5287499999995, "left_mean": 5901.725, "mean_delta": -85.42500000000001, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5746.182708333333, "right_ci_upper": 5886.9591666666665, "right_mean": 5816.299999999999, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.04472222222221977, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04472222222221977, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.04472222222221977, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04472222222221977, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.04472222222221977, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04472222222221977, "delta_ci_upper": 0.022222222222222227, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -173.64395833333322, "ci_upper": 14.451666666666641, "delta_ci_lower": -173.64395833333322, "delta_ci_upper": 14.451666666666641, "failure_count": 0, "left_ci_lower": 5466.015625, "left_ci_upper": 5601.508333333333, "left_mean": 5534.008333333333, "mean_delta": -80.13333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5389.366666666667, "right_ci_upper": 5519.3618750000005, "right_mean": 5453.875, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.011111111111111108, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.45555555555555555, "left_ci_upper": 0.6333333333333333, "left_mean": 0.5444444444444444, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.01388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.01388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.01388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.01388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592592, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222223, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666666, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 73.72721057462816, "ci_upper": 109.95408074777514, "delta_ci_lower": 73.72721057462816, "delta_ci_upper": 109.95408074777514, "failure_count": 0, "left_ci_lower": 4790.501605299918, "left_ci_upper": 5135.821469616397, "left_mean": 4947.464828852874, "mean_delta": 91.71886526358624, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4888.331322275869, "right_ci_upper": 5219.842476081928, "right_mean": 5039.18369411646, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555557, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555557, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555557, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555557, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.27777777777777773, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.05949288806431663, "ci_upper": 0.054648526077097505, "delta_ci_lower": -0.05949288806431663, "delta_ci_upper": 0.054648526077097505, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.26666666666666666, "left_mean": 0.1897959183673469, "mean_delta": -0.0019171304885590597, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1212121212121212, "right_ci_upper": 0.25555555555555554, "right_mean": 0.18787878787878787, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.075, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.075, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2916666666666667, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.36666666666666664, "right_mean": 0.3, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1296.0433208966906, "ci_upper": 150.18584979935736, "delta_ci_lower": -1296.0433208966906, "delta_ci_upper": 150.18584979935736, "failure_count": 0, "left_ci_lower": 40780.083640153054, "left_ci_upper": 41861.172332693, "left_mean": 41309.31789856113, "mean_delta": -583.2629596804812, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40217.91196457072, "right_ci_upper": 41240.51630175129, "right_mean": 40726.05493888065, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -185.67624999999998, "ci_upper": 15.634166666666655, "delta_ci_lower": -185.67624999999998, "delta_ci_upper": 15.634166666666655, "failure_count": 0, "left_ci_lower": 5829.807083333333, "left_ci_upper": 5975.5287499999995, "left_mean": 5901.725, "mean_delta": -85.425, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5746.182708333333, "right_ci_upper": 5886.9591666666665, "right_mean": 5816.3, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -173.64395833333322, "ci_upper": 14.451666666666641, "delta_ci_lower": -173.64395833333322, "delta_ci_upper": 14.451666666666641, "failure_count": 0, "left_ci_lower": 5466.015625, "left_ci_upper": 5601.508333333333, "left_mean": 5534.008333333333, "mean_delta": -80.13333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5389.366666666667, "right_ci_upper": 5519.3618750000005, "right_mean": 5453.875, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.45555555555555555, "left_ci_upper": 0.6333333333333333, "left_mean": 0.5444444444444444, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.013888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.013888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.013888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.013888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 73.72721057462816, "ci_upper": 109.95408074777515, "delta_ci_lower": 73.72721057462816, "delta_ci_upper": 109.95408074777515, "failure_count": 0, "left_ci_lower": 4790.501605299918, "left_ci_upper": 5135.821469616397, "left_mean": 4947.464828852874, "mean_delta": 91.71886526358624, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4888.331322275869, "right_ci_upper": 5219.842476081928, "right_mean": 5039.183694116461, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.059492888064316636, "ci_upper": 0.054648526077097505, "delta_ci_lower": -0.059492888064316636, "delta_ci_upper": 0.054648526077097505, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18979591836734694, "mean_delta": -0.0019171304885590601, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1212121212121212, "right_ci_upper": 0.25555555555555554, "right_mean": 0.1878787878787879, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.04958496348461136, "ci_upper": 0.06346146322378714, "delta_ci_lower": -0.04958496348461136, "delta_ci_upper": 0.06346146322378714, "failure_count": 0, "left_ci_lower": 0.1689687663015128, "left_ci_upper": 0.3082296557120501, "left_mean": 0.23677621283255085, "mean_delta": 0.006442357850808556, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.17657505216484093, "right_ci_upper": 0.31148995826812725, "right_mean": 0.24321857068335942, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1357.4307121257743, "ci_upper": 203.47585357263088, "delta_ci_lower": -1357.4307121257743, "delta_ci_upper": 203.47585357263088, "failure_count": 0, "left_ci_lower": 40776.76545514737, "left_ci_upper": 41989.19122985036, "left_mean": 41376.92299547502, "mean_delta": -584.1064902335548, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40259.15811939756, "right_ci_upper": 41345.00762448039, "right_mean": 40792.816505241455, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -188.02323063380283, "ci_upper": 23.8408460485133, "delta_ci_lower": -188.02323063380283, "delta_ci_upper": 23.8408460485133, "failure_count": 0, "left_ci_lower": 5820.634798187272, "left_ci_upper": 5976.795600547731, "left_mean": 5897.703638497653, "mean_delta": -82.57369587897757, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5743.25910732916, "right_ci_upper": 5888.900354720919, "right_mean": 5815.129942618674, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05265927568366352, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05265927568366352, "delta_ci_upper": 0.024124168514412417, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.09600886917960089, "left_mean": 0.045986696230598666, "mean_delta": -0.013244641537324462, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07410199556541021, "right_mean": 0.0327420546932742, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05265927568366352, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05265927568366352, "delta_ci_upper": 0.024124168514412417, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.09600886917960089, "left_mean": 0.045986696230598666, "mean_delta": -0.013244641537324462, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07410199556541021, "right_mean": 0.0327420546932742, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05265927568366352, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05265927568366352, "delta_ci_upper": 0.024124168514412417, "failure_count": 0, "left_ci_lower": 0.008617886178861788, "left_ci_upper": 0.09600886917960089, "left_mean": 0.045986696230598666, "mean_delta": -0.013244641537324462, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07410199556541021, "right_mean": 0.0327420546932742, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -173.58105438184663, "ci_upper": 23.71165818988001, "delta_ci_lower": -173.58105438184663, "delta_ci_upper": 23.71165818988001, "failure_count": 0, "left_ci_lower": 5454.133869653103, "left_ci_upper": 5597.053615349505, "left_mean": 5525.394157537819, "mean_delta": -75.89976525821596, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5383.113166405842, "right_ci_upper": 5518.433193466353, "right_mean": 5449.494392279604, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0005901699926090262, "ci_upper": 0.18394678492239466, "delta_ci_lower": 0.0005901699926090262, "delta_ci_upper": 0.18394678492239466, "failure_count": 0, "left_ci_lower": 0.4183887657058389, "left_ci_upper": 0.6114855875831485, "left_mean": 0.5143976348854398, "mean_delta": 0.09197339246119733, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5137941611234296, "right_ci_upper": 0.6983444198078346, "right_mean": 0.6063710273466371, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.08277568366592757, "ci_upper": 0.0649830623306233, "delta_ci_lower": -0.08277568366592757, "delta_ci_upper": 0.0649830623306233, "failure_count": 0, "left_ci_lower": 0.2863278208918452, "left_ci_upper": 0.4768935082532644, "left_mean": 0.3789763488543976, "mean_delta": -0.009902685390490268, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.08277568366592757, "ci_upper": 0.0649830623306233, "delta_ci_lower": -0.08277568366592757, "delta_ci_upper": 0.0649830623306233, "failure_count": 0, "left_ci_lower": 0.2863278208918452, "left_ci_upper": 0.4768935082532644, "left_mean": 0.3789763488543976, "mean_delta": -0.009902685390490268, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.08277568366592757, "ci_upper": 0.0649830623306233, "delta_ci_lower": -0.08277568366592757, "delta_ci_upper": 0.0649830623306233, "failure_count": 0, "left_ci_lower": 0.2863278208918452, "left_ci_upper": 0.4768935082532644, "left_mean": 0.3789763488543976, "mean_delta": -0.009902685390490268, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.08277568366592757, "ci_upper": 0.0649830623306233, "delta_ci_lower": -0.08277568366592757, "delta_ci_upper": 0.0649830623306233, "failure_count": 0, "left_ci_lower": 0.2863278208918452, "left_ci_upper": 0.4768935082532644, "left_mean": 0.3789763488543976, "mean_delta": -0.009902685390490268, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2806967233308697, "right_ci_upper": 0.459869610741562, "right_mean": 0.36907366346390735, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.052239467849223946, "ci_upper": 0.12186252771618625, "delta_ci_lower": -0.052239467849223946, "delta_ci_upper": 0.12186252771618625, "failure_count": 0, "left_ci_lower": 0.3385070214338507, "left_ci_upper": 0.54430155210643, "left_mean": 0.44081300813008134, "mean_delta": 0.034515890613451596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.052239467849223946, "ci_upper": 0.12186252771618625, "delta_ci_lower": -0.052239467849223946, "delta_ci_upper": 0.12186252771618625, "failure_count": 0, "left_ci_lower": 0.3385070214338507, "left_ci_upper": 0.54430155210643, "left_mean": 0.44081300813008134, "mean_delta": 0.034515890613451596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.052239467849223946, "ci_upper": 0.12186252771618625, "delta_ci_lower": -0.052239467849223946, "delta_ci_upper": 0.12186252771618625, "failure_count": 0, "left_ci_lower": 0.3385070214338507, "left_ci_upper": 0.54430155210643, "left_mean": 0.44081300813008134, "mean_delta": 0.034515890613451596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.052239467849223946, "ci_upper": 0.12186252771618625, "delta_ci_lower": -0.052239467849223946, "delta_ci_upper": 0.12186252771618625, "failure_count": 0, "left_ci_lower": 0.3385070214338507, "left_ci_upper": 0.54430155210643, "left_mean": 0.44081300813008134, "mean_delta": 0.034515890613451596, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3678935698447893, "right_ci_upper": 0.5799556541019956, "right_mean": 0.47532889874353285, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 75.77072559212733, "ci_upper": 108.6848683516188, "delta_ci_lower": 75.77072559212733, "delta_ci_upper": 108.6848683516188, "failure_count": 0, "left_ci_lower": 4822.203728600751, "left_ci_upper": 5248.450239517373, "left_mean": 5012.715012263442, "mean_delta": 92.56464500842486, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4921.183187055231, "right_ci_upper": 5330.962228964641, "right_mean": 5105.279657271867, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04014387780241438, "ci_upper": 0.05586899482631189, "delta_ci_lower": -0.04014387780241438, "delta_ci_upper": 0.05586899482631189, "failure_count": 0, "left_ci_lower": 0.16206762749445677, "left_ci_upper": 0.28072216063069716, "left_mean": 0.2195540773589554, "mean_delta": 0.006605075141660507, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04014387780241438, "ci_upper": 0.05586899482631189, "delta_ci_lower": -0.04014387780241438, "delta_ci_upper": 0.05586899482631189, "failure_count": 0, "left_ci_lower": 0.16206762749445677, "left_ci_upper": 0.28072216063069716, "left_mean": 0.2195540773589554, "mean_delta": 0.006605075141660507, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04014387780241438, "ci_upper": 0.05586899482631189, "delta_ci_lower": -0.04014387780241438, "delta_ci_upper": 0.05586899482631189, "failure_count": 0, "left_ci_lower": 0.16206762749445677, "left_ci_upper": 0.28072216063069716, "left_mean": 0.2195540773589554, "mean_delta": 0.006605075141660507, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04014387780241438, "ci_upper": 0.05586899482631189, "delta_ci_lower": -0.04014387780241438, "delta_ci_upper": 0.05586899482631189, "failure_count": 0, "left_ci_lower": 0.16206762749445677, "left_ci_upper": 0.28072216063069716, "left_mean": 0.2195540773589554, "mean_delta": 0.006605075141660507, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.17193354274451833, "right_ci_upper": 0.2817546809559004, "right_mean": 0.2261591525006159, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.057782348577407175, "ci_upper": 0.059819547573111025, "delta_ci_lower": -0.057782348577407175, "delta_ci_upper": 0.059819547573111025, "failure_count": 0, "left_ci_lower": 0.12294161123429416, "left_ci_upper": 0.27463519465435837, "left_mean": 0.19689005535695428, "mean_delta": 0.0007717063846300466, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12579453067257945, "right_ci_upper": 0.2717220990391722, "right_mean": 0.19766176174158434, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2317.482186306539, "ci_upper": 1154.2182539522762, "delta_ci_lower": -2317.482186306539, "delta_ci_upper": 1154.2182539522762, "failure_count": 0, "left_ci_lower": 40620.24947423595, "left_ci_upper": 43063.08422521872, "left_mean": 41845.479502722934, "mean_delta": -605.4485860513523, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40025.80574141214, "right_ci_upper": 42509.10344862573, "right_mean": 41240.03091667158, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -298.00083333333333, "ci_upper": 140.64083333333323, "delta_ci_lower": -298.00083333333333, "delta_ci_upper": 140.64083333333323, "failure_count": 0, "left_ci_lower": 5747.899166666666, "left_ci_upper": 6042.701666666666, "left_mean": 5896.166666666667, "mean_delta": -81.4, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5659.266666666666, "right_ci_upper": 5978.300833333334, "right_mean": 5814.766666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -280.3016666666667, "ci_upper": 130.06999999999996, "delta_ci_lower": -280.3016666666667, "delta_ci_upper": 130.06999999999996, "failure_count": 0, "left_ci_lower": 5376.33, "left_ci_upper": 5631.5, "left_mean": 5504.033333333334, "mean_delta": -76.96666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5287.095833333333, "right_ci_upper": 5574.4475, "right_mean": 5427.066666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.3333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.3333333333333333, "failure_count": 0, "left_ci_lower": 0.36666666666666664, "left_ci_upper": 0.7, "left_mean": 0.5333333333333333, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.09444444444444446, "ci_upper": 0.14444444444444443, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5555555555555556, "left_mean": 0.3888888888888889, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2611111111111111, "right_ci_upper": 0.5555555555555556, "right_mean": 0.40555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.09444444444444446, "ci_upper": 0.14444444444444443, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5555555555555556, "left_mean": 0.3888888888888889, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2611111111111111, "right_ci_upper": 0.5555555555555556, "right_mean": 0.40555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.09444444444444446, "ci_upper": 0.14444444444444443, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5555555555555556, "left_mean": 0.3888888888888889, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2611111111111111, "right_ci_upper": 0.5555555555555556, "right_mean": 0.40555555555555556, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.09444444444444446, "ci_upper": 0.14444444444444443, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5555555555555556, "left_mean": 0.3888888888888889, "mean_delta": 0.016666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2611111111111111, "right_ci_upper": 0.5555555555555556, "right_mean": 0.40555555555555556, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 81.05571876027778, "ci_upper": 125.48910249150744, "delta_ci_lower": 81.05571876027778, "delta_ci_upper": 125.48910249150744, "failure_count": 0, "left_ci_lower": 4548.179161540078, "left_ci_upper": 5090.297310640938, "left_mean": 4814.192716660909, "mean_delta": 103.70045276358724, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4652.76763204912, "right_ci_upper": 5193.343207032303, "right_mean": 4917.893169424497, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.07777777777777778, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3611111111111111, "left_mean": 0.25, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.3277777777777778, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.07777777777777778, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3611111111111111, "left_mean": 0.25, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.3277777777777778, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.07777777777777778, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3611111111111111, "left_mean": 0.25, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.3277777777777778, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.07777777777777778, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.07777777777777778, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.3611111111111111, "left_mean": 0.25, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1722222222222222, "right_ci_upper": 0.3277777777777778, "right_mean": 0.25, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1692.5377148682792, "ci_upper": 947.2390228075282, "delta_ci_lower": -1692.5377148682792, "delta_ci_upper": 947.2390228075282, "failure_count": 0, "left_ci_lower": 39412.98092077564, "left_ci_upper": 41714.8961767369, "left_mean": 40556.78979716419, "mean_delta": -378.36761944927275, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39459.6387934287, "right_ci_upper": 40875.92687466163, "right_mean": 40178.422177714914, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -241.0391666666666, "ci_upper": 152.96999999999997, "delta_ci_lower": -241.0391666666666, "delta_ci_upper": 152.96999999999997, "failure_count": 0, "left_ci_lower": 5656.229166666667, "left_ci_upper": 5966.202499999999, "left_mean": 5808.5, "mean_delta": -42.53333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5659.2941666666675, "right_ci_upper": 5869.2, "right_mean": 5765.966666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -207.0, "ci_upper": 153.135, "delta_ci_lower": -207.0, "delta_ci_upper": 153.135, "failure_count": 0, "left_ci_lower": 5298.331666666666, "left_ci_upper": 5593.235833333333, "left_mean": 5442.266666666666, "mean_delta": -27.033333333333335, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5311.9991666666665, "right_ci_upper": 5516.569166666666, "right_mean": 5415.233333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.14444444444444443, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5777777777777777, "left_mean": 0.41111111111111115, "mean_delta": -0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.14444444444444443, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5777777777777777, "left_mean": 0.41111111111111115, "mean_delta": -0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.14444444444444443, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5777777777777777, "left_mean": 0.41111111111111115, "mean_delta": -0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.14444444444444443, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.25, "left_ci_upper": 0.5777777777777777, "left_mean": 0.41111111111111115, "mean_delta": -0.01111111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.3, "left_ci_upper": 0.6333333333333333, "left_mean": 0.4666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 29.644981960882454, "ci_upper": 104.11636170077448, "delta_ci_lower": 29.644981960882454, "delta_ci_upper": 104.11636170077448, "failure_count": 0, "left_ci_lower": 4503.699889471366, "left_ci_upper": 5647.720919408894, "left_mean": 4994.582800148055, "mean_delta": 69.18009294507404, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4594.920245871957, "right_ci_upper": 5683.800948855156, "right_mean": 5063.762893093129, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.05277777777777778, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.05277777777777778, "delta_ci_upper": 0.11666666666666667, "failure_count": 0, "left_ci_lower": 0.11944444444444444, "left_ci_upper": 0.3, "left_mean": 0.20555555555555557, "mean_delta": 0.022222222222222223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.125, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.05277777777777778, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.05277777777777778, "delta_ci_upper": 0.11666666666666667, "failure_count": 0, "left_ci_lower": 0.11944444444444444, "left_ci_upper": 0.3, "left_mean": 0.20555555555555557, "mean_delta": 0.022222222222222223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.125, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.05277777777777778, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.05277777777777778, "delta_ci_upper": 0.11666666666666667, "failure_count": 0, "left_ci_lower": 0.11944444444444444, "left_ci_upper": 0.3, "left_mean": 0.20555555555555557, "mean_delta": 0.022222222222222223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.125, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.05277777777777778, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.05277777777777778, "delta_ci_upper": 0.11666666666666667, "failure_count": 0, "left_ci_lower": 0.11944444444444444, "left_ci_upper": 0.3, "left_mean": 0.20555555555555557, "mean_delta": 0.022222222222222223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.125, "right_ci_upper": 0.33888888888888885, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06938775510204082, "ci_upper": 0.19183673469387755, "delta_ci_lower": -0.06938775510204082, "delta_ci_upper": 0.19183673469387755, "failure_count": 0, "left_ci_lower": 0.23333333333333334, "left_ci_upper": 0.5721088435374149, "left_mean": 0.40272108843537413, "mean_delta": 0.06091527520098949, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.29696969696969694, "right_ci_upper": 0.6333333333333333, "right_mean": 0.4636363636363636, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2062.2627749133003, "ci_upper": 209.04661310264294, "delta_ci_lower": -2062.2627749133003, "delta_ci_upper": 209.04661310264294, "failure_count": 0, "left_ci_lower": 41260.51439707759, "left_ci_upper": 43146.20621163456, "left_mean": 42241.165095800534, "mean_delta": -921.4336748467758, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40196.117880571204, "right_ci_upper": 42378.206049825145, "right_mean": 41319.73142095376, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -309.2041666666666, "ci_upper": 16.66833333333331, "delta_ci_lower": -309.2041666666666, "delta_ci_upper": 16.66833333333331, "failure_count": 0, "left_ci_lower": 5909.298333333333, "left_ci_upper": 6172.202499999999, "left_mean": 6046.466666666666, "mean_delta": -145.83333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5744.597500000001, "right_ci_upper": 6047.933333333333, "right_mean": 5900.633333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -296.24916666666655, "ci_upper": 7.469999999999952, "delta_ci_lower": -296.24916666666655, "delta_ci_upper": 7.469999999999952, "failure_count": 0, "left_ci_lower": 5550.320833333333, "left_ci_upper": 5801.906666666666, "left_mean": 5682.466666666666, "mean_delta": -144.96666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5396.461666666667, "right_ci_upper": 5670.935, "right_mean": 5537.5, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.17777777777777778, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.17777777777777778, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.4777777777777778, "left_mean": 0.3194444444444445, "mean_delta": -0.04722222222222223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.4166666666666667, "right_mean": 0.2722222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.17777777777777778, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.17777777777777778, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.4777777777777778, "left_mean": 0.3194444444444445, "mean_delta": -0.04722222222222223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.4166666666666667, "right_mean": 0.2722222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.17777777777777778, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.17777777777777778, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.4777777777777778, "left_mean": 0.3194444444444445, "mean_delta": -0.04722222222222223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.4166666666666667, "right_mean": 0.2722222222222222, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.17777777777777778, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.17777777777777778, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.4777777777777778, "left_mean": 0.3194444444444445, "mean_delta": -0.04722222222222223, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.4166666666666667, "right_mean": 0.2722222222222222, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 90.58332448573007, "ci_upper": 143.0981970129263, "delta_ci_lower": 90.58332448573007, "delta_ci_upper": 143.0981970129263, "failure_count": 0, "left_ci_lower": 5488.530159487176, "left_ci_upper": 5950.906757572762, "left_mean": 5715.123466607959, "mean_delta": 116.96531813358888, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5600.6130322872195, "right_ci_upper": 6070.676429478335, "right_mean": 5832.088784741548, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.08333333333333333, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.3, "left_mean": 0.19444444444444445, "mean_delta": -0.005555555555555554, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.28888888888888886, "right_mean": 0.18888888888888886, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.08333333333333333, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.3, "left_mean": 0.19444444444444445, "mean_delta": -0.005555555555555554, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.28888888888888886, "right_mean": 0.18888888888888886, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.08333333333333333, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.3, "left_mean": 0.19444444444444445, "mean_delta": -0.005555555555555554, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.28888888888888886, "right_mean": 0.18888888888888886, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.08333333333333333, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.08333333333333333, "delta_ci_upper": 0.07222222222222222, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.3, "left_mean": 0.19444444444444445, "mean_delta": -0.005555555555555554, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.28888888888888886, "right_mean": 0.18888888888888886, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1892.2039366356325, "ci_upper": 1083.526192428059, "delta_ci_lower": -1892.2039366356325, "delta_ci_upper": 1083.526192428059, "failure_count": 0, "left_ci_lower": 39673.881442171696, "left_ci_upper": 41534.12237568662, "left_mean": 40593.83719855687, "mean_delta": -427.80195837452385, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39141.93655450789, "right_ci_upper": 41202.51292292222, "right_mean": 40166.03524018234, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -293.1708333333333, "ci_upper": 153.3424999999999, "delta_ci_lower": -293.1708333333333, "delta_ci_upper": 153.3424999999999, "failure_count": 0, "left_ci_lower": 5717.461666666666, "left_ci_upper": 5999.571666666666, "left_mean": 5855.766666666666, "mean_delta": -71.93333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5631.194166666666, "right_ci_upper": 5937.600833333334, "right_mean": 5783.833333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -279.4449999999999, "ci_upper": 143.8358333333333, "delta_ci_lower": -279.4449999999999, "delta_ci_upper": 143.8358333333333, "failure_count": 0, "left_ci_lower": 5374.058333333333, "left_ci_upper": 5646.5, "left_mean": 5507.266666666666, "mean_delta": -71.56666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5295.8325, "right_ci_upper": 5575.1, "right_mean": 5435.7, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": 26.537014071363963, "ci_upper": 132.30062060698395, "delta_ci_lower": 26.537014071363963, "delta_ci_upper": 132.30062060698395, "failure_count": 0, "left_ci_lower": 4120.262071136967, "left_ci_upper": 4411.359655941486, "left_mean": 4265.9603319945745, "mean_delta": 77.02959721209481, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4207.45037564872, "right_ci_upper": 4470.243486610125, "right_mean": 4342.989929206669, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "left_regime": "native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.075, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.075, "failure_count": 0, "left_ci_lower": 0.225, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2916666666666667, "mean_delta": 0.008333333333333333, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.36666666666666664, "right_mean": 0.3, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1296.0433208966906, "ci_upper": 150.18584979935736, "delta_ci_lower": -1296.0433208966906, "delta_ci_upper": 150.18584979935736, "failure_count": 0, "left_ci_lower": 40780.083640153054, "left_ci_upper": 41861.172332693, "left_mean": 41309.31789856113, "mean_delta": -583.2629596804812, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40217.91196457072, "right_ci_upper": 41240.51630175129, "right_mean": 40726.05493888065, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -185.67624999999998, "ci_upper": 15.634166666666655, "delta_ci_lower": -185.67624999999998, "delta_ci_upper": 15.634166666666655, "failure_count": 0, "left_ci_lower": 5829.807083333333, "left_ci_upper": 5975.5287499999995, "left_mean": 5901.725, "mean_delta": -85.425, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5746.182708333333, "right_ci_upper": 5886.9591666666665, "right_mean": 5816.3, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "failure_count": 0, "left_ci_lower": 0.011111111111111112, "left_ci_upper": 0.08888888888888889, "left_mean": 0.044444444444444446, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.07777777777777778, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -173.64395833333322, "ci_upper": 14.451666666666641, "delta_ci_lower": -173.64395833333322, "delta_ci_upper": 14.451666666666641, "failure_count": 0, "left_ci_lower": 5466.015625, "left_ci_upper": 5601.508333333333, "left_mean": 5534.008333333333, "mean_delta": -80.13333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5389.366666666667, "right_ci_upper": 5519.3618750000005, "right_mean": 5453.875, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17777777777777778, "failure_count": 0, "left_ci_lower": 0.45555555555555555, "left_ci_upper": 0.6333333333333333, "left_mean": 0.5444444444444444, "mean_delta": 0.08888888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5444444444444444, "right_ci_upper": 0.7222222222222222, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.013888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.013888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.013888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.08703703703703704, "ci_upper": 0.06018518518518518, "delta_ci_lower": -0.08703703703703704, "delta_ci_upper": 0.06018518518518518, "failure_count": 0, "left_ci_lower": 0.28055555555555556, "left_ci_upper": 0.4703703703703704, "left_mean": 0.3731481481481482, "mean_delta": -0.013888888888888888, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.4481481481481482, "right_mean": 0.3592592592592593, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.5333333333333333, "left_mean": 0.43333333333333335, "mean_delta": 0.03333333333333333, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3663888888888913, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4666666666666667, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 73.72721057462816, "ci_upper": 109.95408074777515, "delta_ci_lower": 73.72721057462816, "delta_ci_upper": 109.95408074777515, "failure_count": 0, "left_ci_lower": 4790.501605299918, "left_ci_upper": 5135.821469616397, "left_mean": 4947.464828852874, "mean_delta": 91.71886526358624, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4888.331322275869, "right_ci_upper": 5219.842476081928, "right_mean": 5039.183694116461, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04074074074074074, "ci_upper": 0.05462962962962963, "delta_ci_lower": -0.04074074074074074, "delta_ci_upper": 0.05462962962962963, "failure_count": 0, "left_ci_lower": 0.16018518518518518, "left_ci_upper": 0.27685185185185185, "left_mean": 0.21666666666666667, "mean_delta": 0.005555555555555556, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1685185185185185, "right_ci_upper": 0.2777777777777778, "right_mean": 0.2222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.059492888064316636, "ci_upper": 0.054648526077097505, "delta_ci_lower": -0.059492888064316636, "delta_ci_upper": 0.054648526077097505, "failure_count": 0, "left_ci_lower": 0.12222222222222222, "left_ci_upper": 0.26666666666666666, "left_mean": 0.18979591836734694, "mean_delta": -0.0019171304885590601, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1212121212121212, "right_ci_upper": 0.25555555555555554, "right_mean": 0.1878787878787879, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5, "right_ci_upper": 0.8333333333333334, "right_mean": 0.6666666666666666, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_610489cf60d95841fd51d01c", "builder_key": "gemma3_4b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.08333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.08333333333333334, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.35000000000000003, "left_mean": 0.2833333333333333, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.3083333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 114.81101544198022, "ci_upper": 1509.5413271511402, "delta_ci_lower": 114.81101544198022, "delta_ci_upper": 1509.5413271511402, "failure_count": 0, "left_ci_lower": 40237.57386295234, "left_ci_upper": 41344.88429747311, "left_mean": 40787.69442848764, "mean_delta": 814.645586751673, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41062.82390244325, "right_ci_upper": 42126.035157770915, "right_mean": 41602.340015239315, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -5.609999999999984, "ci_upper": 196.86937499999993, "delta_ci_lower": -5.609999999999984, "delta_ci_upper": 196.86937499999993, "failure_count": 0, "left_ci_lower": 5749.931875, "left_ci_upper": 5899.983333333334, "left_mean": 5824.508333333333, "mean_delta": 94.84166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5843.232916666667, "right_ci_upper": 5992.258333333333, "right_mean": 5919.349999999999, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -18.90041666666666, "ci_upper": 172.3956249999999, "delta_ci_lower": -18.90041666666666, "delta_ci_upper": 172.3956249999999, "failure_count": 0, "left_ci_lower": 5438.14125, "left_ci_upper": 5575.900208333333, "left_mean": 5507.033333333334, "mean_delta": 76.04166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5513.247083333334, "right_ci_upper": 5649.775624999999, "right_mean": 5583.075, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.16666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666666, "left_mean": 0.6777777777777777, "mean_delta": -0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5111111111111111, "right_ci_upper": 0.688888888888889, "right_mean": 0.6, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.3685185185185185, "left_mean": 0.27685185185185185, "mean_delta": 0.07129629629629629, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.3685185185185185, "left_mean": 0.27685185185185185, "mean_delta": 0.07129629629629629, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.3685185185185185, "left_mean": 0.27685185185185185, "mean_delta": 0.07129629629629629, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.3685185185185185, "left_mean": 0.27685185185185185, "mean_delta": 0.07129629629629629, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.11111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.11111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.11111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.11111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 106.0849729658609, "ci_upper": 145.25354083300047, "delta_ci_lower": 106.0849729658609, "delta_ci_upper": 145.25354083300047, "failure_count": 0, "left_ci_lower": 4837.277265916782, "left_ci_upper": 5178.656351488462, "left_mean": 4991.465120594754, "mean_delta": 125.59599363691329, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4963.373221337485, "right_ci_upper": 5298.347845634271, "right_mean": 5117.061114231668, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03390496443128022, "ci_upper": 0.09717670649688194, "delta_ci_lower": -0.03390496443128022, "delta_ci_upper": 0.09717670649688194, "failure_count": 0, "left_ci_lower": 0.0907936507936508, "left_ci_upper": 0.2333333333333333, "left_mean": 0.15830687830687828, "mean_delta": 0.031022083829101377, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11379585326953746, "right_ci_upper": 0.2666033138401559, "right_mean": 0.1893289621359797, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.35, "left_mean": 0.2833333333333333, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.30833333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 114.81101544198022, "ci_upper": 1509.5413271511402, "delta_ci_lower": 114.81101544198022, "delta_ci_upper": 1509.5413271511402, "failure_count": 0, "left_ci_lower": 40237.57386295234, "left_ci_upper": 41344.884297473116, "left_mean": 40787.694428487644, "mean_delta": 814.645586751673, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41062.82390244325, "right_ci_upper": 42126.035157770915, "right_mean": 41602.340015239315, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -5.609999999999985, "ci_upper": 196.86937499999996, "delta_ci_lower": -5.609999999999985, "delta_ci_upper": 196.86937499999996, "failure_count": 0, "left_ci_lower": 5749.931875, "left_ci_upper": 5899.983333333334, "left_mean": 5824.508333333333, "mean_delta": 94.84166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5843.232916666667, "right_ci_upper": 5992.258333333333, "right_mean": 5919.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -18.90041666666666, "ci_upper": 172.39562499999994, "delta_ci_lower": -18.90041666666666, "delta_ci_upper": 172.39562499999994, "failure_count": 0, "left_ci_lower": 5438.14125, "left_ci_upper": 5575.900208333333, "left_mean": 5507.033333333334, "mean_delta": 76.04166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5513.247083333334, "right_ci_upper": 5649.775624999999, "right_mean": 5583.075, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.16666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6777777777777778, "mean_delta": -0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5111111111111111, "right_ci_upper": 0.6888888888888889, "right_mean": 0.6, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.36851851851851847, "left_mean": 0.27685185185185185, "mean_delta": 0.0712962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.36851851851851847, "left_mean": 0.27685185185185185, "mean_delta": 0.0712962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.36851851851851847, "left_mean": 0.27685185185185185, "mean_delta": 0.0712962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.36851851851851847, "left_mean": 0.27685185185185185, "mean_delta": 0.0712962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 106.0849729658609, "ci_upper": 145.25354083300044, "delta_ci_lower": 106.0849729658609, "delta_ci_upper": 145.25354083300044, "failure_count": 0, "left_ci_lower": 4837.277265916782, "left_ci_upper": 5178.656351488462, "left_mean": 4991.465120594755, "mean_delta": 125.59599363691329, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4963.373221337484, "right_ci_upper": 5298.347845634271, "right_mean": 5117.0611142316675, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03390496443128022, "ci_upper": 0.09717670649688194, "delta_ci_lower": -0.03390496443128022, "delta_ci_upper": 0.09717670649688194, "failure_count": 0, "left_ci_lower": 0.09079365079365079, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1583068783068783, "mean_delta": 0.031022083829101377, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11379585326953748, "right_ci_upper": 0.2666033138401559, "right_mean": 0.1893289621359797, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.038032081377151764, "ci_upper": 0.0840245174752217, "delta_ci_lower": -0.038032081377151764, "delta_ci_upper": 0.0840245174752217, "failure_count": 0, "left_ci_lower": 0.1540395148669797, "left_ci_upper": 0.2887203312467397, "left_mean": 0.2194183620239958, "mean_delta": 0.022170057381324985, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.17326551904016696, "right_ci_upper": 0.3133173578508085, "right_mean": 0.2415884194053208, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 73.86724375063216, "ci_upper": 1597.9099416369818, "delta_ci_lower": 73.86724375063216, "delta_ci_upper": 1597.9099416369818, "failure_count": 0, "left_ci_lower": 40202.70374079956, "left_ci_upper": 41419.8197982909, "left_mean": 40810.40670798122, "mean_delta": 831.2977672817063, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41061.132870895985, "right_ci_upper": 42193.339316517435, "right_mean": 41641.70447526292, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -14.065308424621795, "ci_upper": 211.6795934402712, "delta_ci_lower": -14.065308424621795, "delta_ci_upper": 211.6795934402712, "failure_count": 0, "left_ci_lower": 5738.103185641627, "left_ci_upper": 5898.031875326031, "left_mean": 5817.618844548774, "mean_delta": 97.83187271778822, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5837.23021746218, "right_ci_upper": 5990.698602960354, "right_mean": 5915.450717266562, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -25.950892018779324, "ci_upper": 186.46104818727173, "delta_ci_lower": -25.950892018779324, "delta_ci_upper": 186.46104818727173, "failure_count": 0, "left_ci_lower": 5428.563339853939, "left_ci_upper": 5575.517207550861, "left_mean": 5501.542527386542, "mean_delta": 79.89942618675013, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5509.433606546688, "right_ci_upper": 5650.073129890454, "right_mean": 5581.441953573291, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.17926090169992606, "ci_upper": 0.005173688100517368, "delta_ci_lower": -0.17926090169992606, "delta_ci_upper": 0.005173688100517368, "failure_count": 0, "left_ci_lower": 0.566090169992609, "left_ci_upper": 0.7575166297117516, "left_mean": 0.6620990391722099, "mean_delta": -0.0856171470805617, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4816112342941611, "right_ci_upper": 0.6713525498891353, "right_mean": 0.5764818920916482, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "failure_count": 0, "left_ci_lower": 0.18447530179847252, "left_ci_upper": 0.36564794284306473, "left_mean": 0.2731313131313131, "mean_delta": 0.07111850209411186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "failure_count": 0, "left_ci_lower": 0.18447530179847252, "left_ci_upper": 0.36564794284306473, "left_mean": 0.2731313131313131, "mean_delta": 0.07111850209411186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "failure_count": 0, "left_ci_lower": 0.18447530179847252, "left_ci_upper": 0.36564794284306473, "left_mean": 0.2731313131313131, "mean_delta": 0.07111850209411186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "failure_count": 0, "left_ci_lower": 0.18447530179847252, "left_ci_upper": 0.36564794284306473, "left_mean": 0.2731313131313131, "mean_delta": 0.07111850209411186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "failure_count": 0, "left_ci_lower": 0.2108662232076867, "left_ci_upper": 0.4033998521803399, "left_mean": 0.3045824094604582, "mean_delta": 0.1086178861788618, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "failure_count": 0, "left_ci_lower": 0.2108662232076867, "left_ci_upper": 0.4033998521803399, "left_mean": 0.3045824094604582, "mean_delta": 0.1086178861788618, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "failure_count": 0, "left_ci_lower": 0.2108662232076867, "left_ci_upper": 0.4033998521803399, "left_mean": 0.3045824094604582, "mean_delta": 0.1086178861788618, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "failure_count": 0, "left_ci_lower": 0.2108662232076867, "left_ci_upper": 0.4033998521803399, "left_mean": 0.3045824094604582, "mean_delta": 0.1086178861788618, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 102.40687596077167, "ci_upper": 149.65748870256252, "delta_ci_lower": 102.40687596077167, "delta_ci_upper": 149.65748870256252, "failure_count": 0, "left_ci_lower": 4866.4013993135095, "left_ci_upper": 5289.26964816119, "left_mean": 5056.390900251762, "mean_delta": 126.19598376940648, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4996.960195901354, "right_ci_upper": 5409.009372503601, "right_mean": 5182.586884021169, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "failure_count": 0, "left_ci_lower": 0.08595583887657059, "left_ci_upper": 0.18167645971914262, "left_mean": 0.1317639812761764, "mean_delta": 0.04516383345651638, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "failure_count": 0, "left_ci_lower": 0.08595583887657059, "left_ci_upper": 0.18167645971914262, "left_mean": 0.1317639812761764, "mean_delta": 0.04516383345651638, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "failure_count": 0, "left_ci_lower": 0.08595583887657059, "left_ci_upper": 0.18167645971914262, "left_mean": 0.1317639812761764, "mean_delta": 0.04516383345651638, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "failure_count": 0, "left_ci_lower": 0.08595583887657059, "left_ci_upper": 0.18167645971914262, "left_mean": 0.1317639812761764, "mean_delta": 0.04516383345651638, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.038767688521848837, "ci_upper": 0.10113346433004501, "delta_ci_lower": -0.038767688521848837, "delta_ci_upper": 0.10113346433004501, "failure_count": 0, "left_ci_lower": 0.09238653785239162, "left_ci_upper": 0.23727858726639214, "left_mean": 0.16250913314327947, "mean_delta": 0.030429802248684266, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11890747833098166, "right_ci_upper": 0.27109184445693957, "right_mean": 0.19293893539196372, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.08333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.08333333333333334, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.35000000000000003, "left_mean": 0.2833333333333333, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.3083333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 114.81101544198022, "ci_upper": 1509.5413271511402, "delta_ci_lower": 114.81101544198022, "delta_ci_upper": 1509.5413271511402, "failure_count": 0, "left_ci_lower": 40237.57386295234, "left_ci_upper": 41344.88429747311, "left_mean": 40787.69442848764, "mean_delta": 814.645586751673, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41062.82390244325, "right_ci_upper": 42126.035157770915, "right_mean": 41602.340015239315, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -5.609999999999984, "ci_upper": 196.86937499999993, "delta_ci_lower": -5.609999999999984, "delta_ci_upper": 196.86937499999993, "failure_count": 0, "left_ci_lower": 5749.931875, "left_ci_upper": 5899.983333333334, "left_mean": 5824.508333333333, "mean_delta": 94.84166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5843.232916666667, "right_ci_upper": 5992.258333333333, "right_mean": 5919.349999999999, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -18.90041666666666, "ci_upper": 172.3956249999999, "delta_ci_lower": -18.90041666666666, "delta_ci_upper": 172.3956249999999, "failure_count": 0, "left_ci_lower": 5438.14125, "left_ci_upper": 5575.900208333333, "left_mean": 5507.033333333334, "mean_delta": 76.04166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5513.247083333334, "right_ci_upper": 5649.775624999999, "right_mean": 5583.075, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.16666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666666, "left_mean": 0.6777777777777777, "mean_delta": -0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5111111111111111, "right_ci_upper": 0.688888888888889, "right_mean": 0.6, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.3685185185185185, "left_mean": 0.27685185185185185, "mean_delta": 0.07129629629629629, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.3685185185185185, "left_mean": 0.27685185185185185, "mean_delta": 0.07129629629629629, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.3685185185185185, "left_mean": 0.27685185185185185, "mean_delta": 0.07129629629629629, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.3685185185185185, "left_mean": 0.27685185185185185, "mean_delta": 0.07129629629629629, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.11111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.11111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.11111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.11111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 106.0849729658609, "ci_upper": 145.25354083300047, "delta_ci_lower": 106.0849729658609, "delta_ci_upper": 145.25354083300047, "failure_count": 0, "left_ci_lower": 4837.277265916782, "left_ci_upper": 5178.656351488462, "left_mean": 4991.465120594754, "mean_delta": 125.59599363691329, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4963.373221337485, "right_ci_upper": 5298.347845634271, "right_mean": 5117.061114231668, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148148, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03390496443128022, "ci_upper": 0.09717670649688194, "delta_ci_lower": -0.03390496443128022, "delta_ci_upper": 0.09717670649688194, "failure_count": 0, "left_ci_lower": 0.0907936507936508, "left_ci_upper": 0.2333333333333333, "left_mean": 0.15830687830687828, "mean_delta": 0.031022083829101377, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11379585326953746, "right_ci_upper": 0.2666033138401559, "right_mean": 0.1893289621359797, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.35, "left_mean": 0.2833333333333333, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.30833333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 114.81101544198022, "ci_upper": 1509.5413271511402, "delta_ci_lower": 114.81101544198022, "delta_ci_upper": 1509.5413271511402, "failure_count": 0, "left_ci_lower": 40237.57386295234, "left_ci_upper": 41344.884297473116, "left_mean": 40787.694428487644, "mean_delta": 814.645586751673, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41062.82390244325, "right_ci_upper": 42126.035157770915, "right_mean": 41602.340015239315, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -5.609999999999985, "ci_upper": 196.86937499999996, "delta_ci_lower": -5.609999999999985, "delta_ci_upper": 196.86937499999996, "failure_count": 0, "left_ci_lower": 5749.931875, "left_ci_upper": 5899.983333333334, "left_mean": 5824.508333333333, "mean_delta": 94.84166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5843.232916666667, "right_ci_upper": 5992.258333333333, "right_mean": 5919.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -18.90041666666666, "ci_upper": 172.39562499999994, "delta_ci_lower": -18.90041666666666, "delta_ci_upper": 172.39562499999994, "failure_count": 0, "left_ci_lower": 5438.14125, "left_ci_upper": 5575.900208333333, "left_mean": 5507.033333333334, "mean_delta": 76.04166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5513.247083333334, "right_ci_upper": 5649.775624999999, "right_mean": 5583.075, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.16666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6777777777777778, "mean_delta": -0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5111111111111111, "right_ci_upper": 0.6888888888888889, "right_mean": 0.6, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.36851851851851847, "left_mean": 0.27685185185185185, "mean_delta": 0.0712962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.36851851851851847, "left_mean": 0.27685185185185185, "mean_delta": 0.0712962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.36851851851851847, "left_mean": 0.27685185185185185, "mean_delta": 0.0712962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.36851851851851847, "left_mean": 0.27685185185185185, "mean_delta": 0.0712962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 106.0849729658609, "ci_upper": 145.25354083300044, "delta_ci_lower": 106.0849729658609, "delta_ci_upper": 145.25354083300044, "failure_count": 0, "left_ci_lower": 4837.277265916782, "left_ci_upper": 5178.656351488462, "left_mean": 4991.465120594755, "mean_delta": 125.59599363691329, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4963.373221337484, "right_ci_upper": 5298.347845634271, "right_mean": 5117.0611142316675, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03390496443128022, "ci_upper": 0.09717670649688194, "delta_ci_lower": -0.03390496443128022, "delta_ci_upper": 0.09717670649688194, "failure_count": 0, "left_ci_lower": 0.09079365079365079, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1583068783068783, "mean_delta": 0.031022083829101377, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11379585326953748, "right_ci_upper": 0.2666033138401559, "right_mean": 0.1893289621359797, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.038032081377151764, "ci_upper": 0.0840245174752217, "delta_ci_lower": -0.038032081377151764, "delta_ci_upper": 0.0840245174752217, "failure_count": 0, "left_ci_lower": 0.1540395148669797, "left_ci_upper": 0.2887203312467397, "left_mean": 0.2194183620239958, "mean_delta": 0.022170057381324985, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.17326551904016696, "right_ci_upper": 0.3133173578508085, "right_mean": 0.2415884194053208, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 73.86724375063216, "ci_upper": 1597.9099416369818, "delta_ci_lower": 73.86724375063216, "delta_ci_upper": 1597.9099416369818, "failure_count": 0, "left_ci_lower": 40202.70374079956, "left_ci_upper": 41419.8197982909, "left_mean": 40810.40670798122, "mean_delta": 831.2977672817063, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41061.132870895985, "right_ci_upper": 42193.339316517435, "right_mean": 41641.70447526292, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -14.065308424621795, "ci_upper": 211.6795934402712, "delta_ci_lower": -14.065308424621795, "delta_ci_upper": 211.6795934402712, "failure_count": 0, "left_ci_lower": 5738.103185641627, "left_ci_upper": 5898.031875326031, "left_mean": 5817.618844548774, "mean_delta": 97.83187271778822, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5837.23021746218, "right_ci_upper": 5990.698602960354, "right_mean": 5915.450717266562, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07646711012564669, "left_mean": 0.03392461197339246, "mean_delta": -0.008617886178861788, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.06326681448632668, "right_mean": 0.02530672579453067, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -25.950892018779324, "ci_upper": 186.46104818727173, "delta_ci_lower": -25.950892018779324, "delta_ci_upper": 186.46104818727173, "failure_count": 0, "left_ci_lower": 5428.563339853939, "left_ci_upper": 5575.517207550861, "left_mean": 5501.542527386542, "mean_delta": 79.89942618675013, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5509.433606546688, "right_ci_upper": 5650.073129890454, "right_mean": 5581.441953573291, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.17926090169992606, "ci_upper": 0.005173688100517368, "delta_ci_lower": -0.17926090169992606, "delta_ci_upper": 0.005173688100517368, "failure_count": 0, "left_ci_lower": 0.566090169992609, "left_ci_upper": 0.7575166297117516, "left_mean": 0.6620990391722099, "mean_delta": -0.0856171470805617, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4816112342941611, "right_ci_upper": 0.6713525498891353, "right_mean": 0.5764818920916482, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "failure_count": 0, "left_ci_lower": 0.18447530179847252, "left_ci_upper": 0.36564794284306473, "left_mean": 0.2731313131313131, "mean_delta": 0.07111850209411186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "failure_count": 0, "left_ci_lower": 0.18447530179847252, "left_ci_upper": 0.36564794284306473, "left_mean": 0.2731313131313131, "mean_delta": 0.07111850209411186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "failure_count": 0, "left_ci_lower": 0.18447530179847252, "left_ci_upper": 0.36564794284306473, "left_mean": 0.2731313131313131, "mean_delta": 0.07111850209411186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "failure_count": 0, "left_ci_lower": 0.18447530179847252, "left_ci_upper": 0.36564794284306473, "left_mean": 0.2731313131313131, "mean_delta": 0.07111850209411186, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25402050997782705, "right_ci_upper": 0.43678658536585363, "right_mean": 0.344249815225425, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "failure_count": 0, "left_ci_lower": 0.2108662232076867, "left_ci_upper": 0.4033998521803399, "left_mean": 0.3045824094604582, "mean_delta": 0.1086178861788618, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "failure_count": 0, "left_ci_lower": 0.2108662232076867, "left_ci_upper": 0.4033998521803399, "left_mean": 0.3045824094604582, "mean_delta": 0.1086178861788618, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "failure_count": 0, "left_ci_lower": 0.2108662232076867, "left_ci_upper": 0.4033998521803399, "left_mean": 0.3045824094604582, "mean_delta": 0.1086178861788618, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "failure_count": 0, "left_ci_lower": 0.2108662232076867, "left_ci_upper": 0.4033998521803399, "left_mean": 0.3045824094604582, "mean_delta": 0.1086178861788618, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.31320029563932, "right_ci_upper": 0.5166012564671102, "right_mean": 0.41320029563932004, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 102.40687596077167, "ci_upper": 149.65748870256252, "delta_ci_lower": 102.40687596077167, "delta_ci_upper": 149.65748870256252, "failure_count": 0, "left_ci_lower": 4866.4013993135095, "left_ci_upper": 5289.26964816119, "left_mean": 5056.390900251762, "mean_delta": 126.19598376940648, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4996.960195901354, "right_ci_upper": 5409.009372503601, "right_mean": 5182.586884021169, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "failure_count": 0, "left_ci_lower": 0.08595583887657059, "left_ci_upper": 0.18167645971914262, "left_mean": 0.1317639812761764, "mean_delta": 0.04516383345651638, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "failure_count": 0, "left_ci_lower": 0.08595583887657059, "left_ci_upper": 0.18167645971914262, "left_mean": 0.1317639812761764, "mean_delta": 0.04516383345651638, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "failure_count": 0, "left_ci_lower": 0.08595583887657059, "left_ci_upper": 0.18167645971914262, "left_mean": 0.1317639812761764, "mean_delta": 0.04516383345651638, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "failure_count": 0, "left_ci_lower": 0.08595583887657059, "left_ci_upper": 0.18167645971914262, "left_mean": 0.1317639812761764, "mean_delta": 0.04516383345651638, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.12903646218280362, "right_ci_upper": 0.22810187238236013, "right_mean": 0.17692781473269278, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.038767688521848837, "ci_upper": 0.10113346433004501, "delta_ci_lower": -0.038767688521848837, "delta_ci_upper": 0.10113346433004501, "failure_count": 0, "left_ci_lower": 0.09238653785239162, "left_ci_upper": 0.23727858726639214, "left_mean": 0.16250913314327947, "mean_delta": 0.030429802248684266, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11890747833098166, "right_ci_upper": 0.27109184445693957, "right_mean": 0.19293893539196372, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -317.1306920675366, "ci_upper": 2266.4075718750237, "delta_ci_lower": -317.1306920675366, "delta_ci_upper": 2266.4075718750237, "failure_count": 0, "left_ci_lower": 40236.80845180352, "left_ci_upper": 42764.80221214782, "left_mean": 41453.592748617906, "mean_delta": 962.8232152007209, "missing_count": 0, "paired_count": 30, "right_ci_lower": 41379.62399068619, "right_ci_upper": 43412.403833515324, "right_mean": 42416.41596381863, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -76.70833333333327, "ci_upper": 316.40083333333325, "delta_ci_lower": -76.70833333333327, "delta_ci_upper": 316.40083333333325, "failure_count": 0, "left_ci_lower": 5705.196666666667, "left_ci_upper": 6015.036666666667, "left_mean": 5856.4, "mean_delta": 121.16666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5846.4991666666665, "right_ci_upper": 6100.903333333333, "right_mean": 5977.566666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -82.5033333333333, "ci_upper": 282.9041666666666, "delta_ci_lower": -82.5033333333333, "delta_ci_upper": 282.9041666666666, "failure_count": 0, "left_ci_lower": 5396.0599999999995, "left_ci_upper": 5675.969999999999, "left_mean": 5533.566666666667, "mean_delta": 103.66666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5524.363333333334, "right_ci_upper": 5743.268333333333, "right_mean": 5637.233333333334, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "failure_count": 0, "left_ci_lower": 0.5333333333333333, "left_ci_upper": 0.8666666666666667, "left_mean": 0.7, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4666666666666667, "right_ci_upper": 0.8, "right_mean": 0.6333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.18333333333333332, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 78.20923412878378, "ci_upper": 193.3566117431231, "delta_ci_lower": 78.20923412878378, "delta_ci_upper": 193.3566117431231, "failure_count": 0, "left_ci_lower": 4610.522627090589, "left_ci_upper": 5143.936197094251, "left_mean": 4873.216148671539, "mean_delta": 133.42408747024214, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4740.116914019454, "right_ci_upper": 5281.7772624957925, "right_mean": 5006.640236141781, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.09444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.09444444444444446, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.2611111111111111, "left_mean": 0.15, "mean_delta": 0.04444444444444444, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.09444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.09444444444444446, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.2611111111111111, "left_mean": 0.15, "mean_delta": 0.04444444444444444, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.09444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.09444444444444446, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.2611111111111111, "left_mean": 0.15, "mean_delta": 0.04444444444444444, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.09444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.09444444444444446, "failure_count": 0, "left_ci_lower": 0.06111111111111111, "left_ci_upper": 0.2611111111111111, "left_mean": 0.15, "mean_delta": 0.04444444444444444, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -447.1116751566295, "ci_upper": 2614.9860806257734, "delta_ci_lower": -447.1116751566295, "delta_ci_upper": 2614.9860806257734, "failure_count": 0, "left_ci_lower": 39004.29720360165, "left_ci_upper": 41103.42347349001, "left_mean": 40027.652230622094, "mean_delta": 1096.7580207817566, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39996.78022659132, "right_ci_upper": 42206.636764757175, "right_mean": 41124.410251403846, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -102.53666666666663, "ci_upper": 355.87833333333316, "delta_ci_lower": -102.53666666666663, "delta_ci_upper": 355.87833333333316, "failure_count": 0, "left_ci_lower": 5603.030000000001, "left_ci_upper": 5899.3341666666665, "left_mean": 5748.266666666666, "mean_delta": 126.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5709.266666666666, "right_ci_upper": 6033.766666666666, "right_mean": 5874.466666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -118.70416666666664, "ci_upper": 318.5724999999999, "delta_ci_lower": -118.70416666666664, "delta_ci_upper": 318.5724999999999, "failure_count": 0, "left_ci_lower": 5310.53, "left_ci_upper": 5585.971666666666, "left_mean": 5446.533333333334, "mean_delta": 101.23333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5394.896666666666, "right_ci_upper": 5694.304166666667, "right_mean": 5547.766666666666, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.36666666666666664, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.36666666666666664, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.3333333333333333, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5, "mean_delta": -0.16666666666666666, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.5, "right_mean": 0.3333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.04444444444444444, "ci_upper": 0.20277777777777778, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.20277777777777778, "failure_count": 0, "left_ci_lower": 0.10833333333333334, "left_ci_upper": 0.4083333333333333, "left_mean": 0.25277777777777777, "mean_delta": 0.075, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.04444444444444444, "ci_upper": 0.20277777777777778, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.20277777777777778, "failure_count": 0, "left_ci_lower": 0.10833333333333334, "left_ci_upper": 0.4083333333333333, "left_mean": 0.25277777777777777, "mean_delta": 0.075, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.04444444444444444, "ci_upper": 0.20277777777777778, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.20277777777777778, "failure_count": 0, "left_ci_lower": 0.10833333333333334, "left_ci_upper": 0.4083333333333333, "left_mean": 0.25277777777777777, "mean_delta": 0.075, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.04444444444444444, "ci_upper": 0.20277777777777778, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.20277777777777778, "failure_count": 0, "left_ci_lower": 0.10833333333333334, "left_ci_upper": 0.4083333333333333, "left_mean": 0.25277777777777777, "mean_delta": 0.075, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.17777777777777776, "right_ci_upper": 0.48333333333333334, "right_mean": 0.3277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.4666666666666667, "left_mean": 0.3, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 81.31933682326539, "ci_upper": 150.19367596183048, "delta_ci_lower": 81.31933682326539, "delta_ci_upper": 150.19367596183048, "failure_count": 0, "left_ci_lower": 4523.8273608832005, "left_ci_upper": 5653.826494955283, "left_mean": 5010.66564739837, "mean_delta": 118.93295120292653, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4654.12751484837, "right_ci_upper": 5752.125592315958, "right_mean": 5129.5985986012965, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.01944444444444444, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.01944444444444444, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.041666666666666664, "left_ci_upper": 0.14444444444444443, "left_mean": 0.09166666666666666, "mean_delta": 0.030555555555555558, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.18055555555555552, "right_mean": 0.12222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.01944444444444444, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.01944444444444444, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.041666666666666664, "left_ci_upper": 0.14444444444444443, "left_mean": 0.09166666666666666, "mean_delta": 0.030555555555555558, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.18055555555555552, "right_mean": 0.12222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.01944444444444444, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.01944444444444444, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.041666666666666664, "left_ci_upper": 0.14444444444444443, "left_mean": 0.09166666666666666, "mean_delta": 0.030555555555555558, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.18055555555555552, "right_mean": 0.12222222222222222, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.01944444444444444, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.01944444444444444, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.041666666666666664, "left_ci_upper": 0.14444444444444443, "left_mean": 0.09166666666666666, "mean_delta": 0.030555555555555558, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.06666666666666667, "right_ci_upper": 0.18055555555555552, "right_mean": 0.12222222222222222, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06647679805574543, "ci_upper": 0.19364573048783573, "delta_ci_lower": -0.06647679805574543, "delta_ci_upper": 0.19364573048783573, "failure_count": 0, "left_ci_lower": 0.14603174603174604, "left_ci_upper": 0.473015873015873, "left_mean": 0.3063492063492063, "mean_delta": 0.06163768005873269, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.20302542973595608, "right_ci_upper": 0.5381623250044303, "right_mean": 0.36798688640793903, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1481.3281157145198, "ci_upper": 1688.550865303162, "delta_ci_lower": -1481.3281157145198, "delta_ci_upper": 1688.550865303162, "failure_count": 0, "left_ci_lower": 40017.38776207833, "left_ci_upper": 42169.11225483694, "left_mean": 41071.030423572905, "mean_delta": 158.74660136178136, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40135.180878090905, "right_ci_upper": 42352.410191057716, "right_mean": 41229.77702493469, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -208.97583333333327, "ci_upper": 227.1091666666665, "delta_ci_lower": -208.97583333333327, "delta_ci_upper": 227.1091666666665, "failure_count": 0, "left_ci_lower": 5692.931666666666, "left_ci_upper": 5985.835833333333, "left_mean": 5838.533333333334, "mean_delta": 12.866666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5712.3983333333335, "right_ci_upper": 5986.7675, "right_mean": 5851.4, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.1, "left_mean": 0.03333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.0, "right_mean": 0.0, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -202.73333333333332, "ci_upper": 216.9675, "delta_ci_lower": -202.73333333333332, "delta_ci_upper": 216.9675, "failure_count": 0, "left_ci_lower": 5377.490833333333, "left_ci_upper": 5653.7375, "left_mean": 5515.533333333334, "mean_delta": 10.633333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5396.0, "right_ci_upper": 5655.833333333333, "right_mean": 5526.166666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7, "right_ci_upper": 0.9666666666666667, "right_mean": 0.8333333333333334, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.07222222222222222, "ci_upper": 0.21666666666666667, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.21666666666666667, "failure_count": 0, "left_ci_lower": 0.1611111111111111, "left_ci_upper": 0.4722222222222222, "left_mean": 0.3111111111111111, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5333333333333333, "right_mean": 0.38333333333333336, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.07222222222222222, "ci_upper": 0.21666666666666667, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.21666666666666667, "failure_count": 0, "left_ci_lower": 0.1611111111111111, "left_ci_upper": 0.4722222222222222, "left_mean": 0.3111111111111111, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5333333333333333, "right_mean": 0.38333333333333336, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.07222222222222222, "ci_upper": 0.21666666666666667, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.21666666666666667, "failure_count": 0, "left_ci_lower": 0.1611111111111111, "left_ci_upper": 0.4722222222222222, "left_mean": 0.3111111111111111, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5333333333333333, "right_mean": 0.38333333333333336, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.07222222222222222, "ci_upper": 0.21666666666666667, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.21666666666666667, "failure_count": 0, "left_ci_lower": 0.1611111111111111, "left_ci_upper": 0.4722222222222222, "left_mean": 0.3111111111111111, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5333333333333333, "right_mean": 0.38333333333333336, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.3, "failure_count": 0, "left_ci_lower": 0.2, "left_ci_upper": 0.5333333333333333, "left_mean": 0.36666666666666664, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.6666666666666666, "right_mean": 0.5, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 99.759581850376, "ci_upper": 158.6524735575464, "delta_ci_lower": 99.759581850376, "delta_ci_upper": 158.6524735575464, "failure_count": 0, "left_ci_lower": 5547.131134309457, "left_ci_upper": 6015.401721209637, "left_mean": 5777.6005848388495, "mean_delta": 127.79616936265181, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5669.977646500726, "right_ci_upper": 6148.385552919935, "right_mean": 5905.396754201502, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.02777777777777778, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.02777777777777778, "delta_ci_upper": 0.1611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.25555555555555554, "left_mean": 0.1611111111111111, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.31666666666666665, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.02777777777777778, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.02777777777777778, "delta_ci_upper": 0.1611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.25555555555555554, "left_mean": 0.1611111111111111, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.31666666666666665, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.02777777777777778, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.02777777777777778, "delta_ci_upper": 0.1611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.25555555555555554, "left_mean": 0.1611111111111111, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.31666666666666665, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.02777777777777778, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.02777777777777778, "delta_ci_upper": 0.1611111111111111, "failure_count": 0, "left_ci_lower": 0.08333333333333333, "left_ci_upper": 0.25555555555555554, "left_mean": 0.1611111111111111, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.31666666666666665, "right_mean": 0.22777777777777777, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.005714285714285714, "ci_upper": 0.1, "delta_ci_lower": -0.005714285714285714, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.001904761904761905, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1019047619047619, "mean_delta": 0.03142857142857143, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -80.5051199745503, "ci_upper": 2151.9705446332223, "delta_ci_lower": -80.5051199745503, "delta_ci_upper": 2151.9705446332223, "failure_count": 0, "left_ci_lower": 39518.7331473417, "left_ci_upper": 41638.46283702927, "left_mean": 40598.50231113766, "mean_delta": 1040.2545096624333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40563.8040424897, "right_ci_upper": 42681.97976235339, "right_mean": 41638.756820800096, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -42.77083333333329, "ci_upper": 278.56833333333327, "delta_ci_lower": -42.77083333333329, "delta_ci_upper": 278.56833333333327, "failure_count": 0, "left_ci_lower": 5696.595833333333, "left_ci_upper": 6006.308333333333, "left_mean": 5854.833333333333, "mean_delta": 119.13333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5812.1883333333335, "right_ci_upper": 6133.6050000000005, "right_mean": 5973.966666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -60.845833333333225, "ci_upper": 235.76916666666665, "delta_ci_lower": -60.845833333333225, "delta_ci_upper": 235.76916666666665, "failure_count": 0, "left_ci_lower": 5392.766666666666, "left_ci_upper": 5668.833333333333, "left_mean": 5532.5, "mean_delta": 88.63333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5474.6625, "right_ci_upper": 5766.735833333333, "right_mean": 5621.133333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": 100.42270699263706, "ci_upper": 143.65650589509943, "delta_ci_lower": 100.42270699263706, "delta_ci_upper": 143.65650589509943, "failure_count": 0, "left_ci_lower": 4163.1775075206915, "left_ci_upper": 4440.316294467678, "left_mean": 4304.378101470259, "mean_delta": 122.23076651183267, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4284.535511589494, "right_ci_upper": 4563.610080307699, "right_mean": 4426.608867982092, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "left_regime": "native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.08333333333333333, "failure_count": 0, "left_ci_lower": 0.21666666666666667, "left_ci_upper": 0.35, "left_mean": 0.2833333333333333, "mean_delta": 0.025, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.24166666666666667, "right_ci_upper": 0.375, "right_mean": 0.30833333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 114.81101544198022, "ci_upper": 1509.5413271511402, "delta_ci_lower": 114.81101544198022, "delta_ci_upper": 1509.5413271511402, "failure_count": 0, "left_ci_lower": 40237.57386295234, "left_ci_upper": 41344.884297473116, "left_mean": 40787.694428487644, "mean_delta": 814.645586751673, "missing_count": 0, "paired_count": 120, "right_ci_lower": 41062.82390244325, "right_ci_upper": 42126.035157770915, "right_mean": 41602.340015239315, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -5.609999999999985, "ci_upper": 196.86937499999996, "delta_ci_lower": -5.609999999999985, "delta_ci_upper": 196.86937499999996, "failure_count": 0, "left_ci_lower": 5749.931875, "left_ci_upper": 5899.983333333334, "left_mean": 5824.508333333333, "mean_delta": 94.84166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5843.232916666667, "right_ci_upper": 5992.258333333333, "right_mean": 5919.35, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.07777777777777778, "left_mean": 0.03333333333333333, "mean_delta": -0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.0, "right_ci_upper": 0.05555555555555555, "right_mean": 0.022222222222222223, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -18.90041666666666, "ci_upper": 172.39562499999994, "delta_ci_lower": -18.90041666666666, "delta_ci_upper": 172.39562499999994, "failure_count": 0, "left_ci_lower": 5438.14125, "left_ci_upper": 5575.900208333333, "left_mean": 5507.033333333334, "mean_delta": 76.04166666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5513.247083333334, "right_ci_upper": 5649.775624999999, "right_mean": 5583.075, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": -0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.13333333333333333, "right_ci_upper": 0.4666666666666667, "right_mean": 0.3, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.16666666666666666, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.011111111111111112, "failure_count": 0, "left_ci_lower": 0.5888888888888889, "left_ci_upper": 0.7666666666666667, "left_mean": 0.6777777777777778, "mean_delta": -0.07777777777777778, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5111111111111111, "right_ci_upper": 0.6888888888888889, "right_mean": 0.6, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.36851851851851847, "left_mean": 0.27685185185185185, "mean_delta": 0.0712962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.36851851851851847, "left_mean": 0.27685185185185185, "mean_delta": 0.0712962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.36851851851851847, "left_mean": 0.27685185185185185, "mean_delta": 0.0712962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "failure_count": 0, "left_ci_lower": 0.1898148148148148, "left_ci_upper": 0.36851851851851847, "left_mean": 0.27685185185185185, "mean_delta": 0.0712962962962963, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.25925925925925924, "right_ci_upper": 0.4388888888888889, "right_mean": 0.34814814814814815, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.1111111111111111, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3222222222222223, "right_ci_upper": 0.5222222222222223, "right_mean": 0.4222222222222222, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 106.0849729658609, "ci_upper": 145.25354083300044, "delta_ci_lower": 106.0849729658609, "delta_ci_upper": 145.25354083300044, "failure_count": 0, "left_ci_lower": 4837.277265916782, "left_ci_upper": 5178.656351488462, "left_mean": 4991.465120594755, "mean_delta": 125.59599363691329, "missing_count": 0, "paired_count": 120, "right_ci_lower": 4963.373221337484, "right_ci_upper": 5298.347845634271, "right_mean": 5117.0611142316675, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "failure_count": 0, "left_ci_lower": 0.08888888888888889, "left_ci_upper": 0.18333333333333332, "left_mean": 0.13425925925925924, "mean_delta": 0.04722222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.13425925925925927, "right_ci_upper": 0.23148148148148145, "right_mean": 0.18148148148148147, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03390496443128022, "ci_upper": 0.09717670649688194, "delta_ci_lower": -0.03390496443128022, "delta_ci_upper": 0.09717670649688194, "failure_count": 0, "left_ci_lower": 0.09079365079365079, "left_ci_upper": 0.23333333333333334, "left_mean": 0.1583068783068783, "mean_delta": 0.031022083829101377, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.11379585326953748, "right_ci_upper": 0.2666033138401559, "right_mean": 0.1893289621359797, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.5, "left_ci_upper": 0.8333333333333334, "left_mean": 0.6666666666666666, "mean_delta": 0.03333333333333333, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.5333333333333333, "right_ci_upper": 0.8666666666666667, "right_mean": 0.7, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_e3bd699ce1aa4c5d8745f8a7", "builder_key": "gemma3_12b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -1.734723475976807e-18, "ci_upper": 0.125, "delta_ci_lower": -1.734723475976807e-18, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.2583333333333333, "left_ci_upper": 0.38333333333333336, "left_mean": 0.31666666666666665, "mean_delta": 0.058333333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.31666666666666665, "right_ci_upper": 0.44166666666666665, "right_mean": 0.375, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -645.2292854326755, "ci_upper": 822.0944103344177, "delta_ci_lower": -645.2292854326755, "delta_ci_upper": 822.0944103344177, "failure_count": 0, "left_ci_lower": 40809.56975701582, "left_ci_upper": 41910.0932461864, "left_mean": 41352.154886120115, "mean_delta": 81.77895480087804, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40805.23073442334, "right_ci_upper": 42088.64963408026, "right_mean": 41433.93384092099, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -160.41791666666668, "ci_upper": 35.95666666666658, "delta_ci_lower": -160.41791666666668, "delta_ci_upper": 35.95666666666658, "failure_count": 0, "left_ci_lower": 5810.895416666666, "left_ci_upper": 5958.8525, "left_mean": 5884.191666666667, "mean_delta": -61.65, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.779166666666, "right_ci_upper": 5902.512083333334, "right_mean": 5822.541666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -186.02583333333334, "ci_upper": 0.7522916666666342, "delta_ci_lower": -186.02583333333334, "delta_ci_upper": 0.7522916666666342, "failure_count": 0, "left_ci_lower": 5536.49125, "left_ci_upper": 5671.25, "left_mean": 5603.575, "mean_delta": -92.26666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5439.783125, "right_ci_upper": 5585.667083333333, "right_mean": 5511.308333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777778, "mean_delta": 0.011111111111111113, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777777, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03979166666666687, "ci_upper": 0.19074074074074074, "delta_ci_lower": 0.03979166666666687, "delta_ci_upper": 0.19074074074074074, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.3444444444444445, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03979166666666687, "ci_upper": 0.19074074074074074, "delta_ci_lower": 0.03979166666666687, "delta_ci_upper": 0.19074074074074074, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.3444444444444445, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03979166666666687, "ci_upper": 0.19074074074074074, "delta_ci_lower": 0.03979166666666687, "delta_ci_upper": 0.19074074074074074, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.3444444444444445, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03979166666666687, "ci_upper": 0.19074074074074074, "delta_ci_lower": 0.03979166666666687, "delta_ci_upper": 0.19074074074074074, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.3444444444444445, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222227, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222227, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222227, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222227, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 260.89145708043367, "ci_upper": 406.1482141164743, "delta_ci_lower": 260.89145708043367, "delta_ci_upper": 406.1482141164743, "failure_count": 0, "left_ci_lower": 4829.62871292686, "left_ci_upper": 5174.983032107922, "left_mean": 4985.1775670511415, "mean_delta": 323.5020517090258, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5135.1972237139125, "right_ci_upper": 5513.926223845725, "right_mean": 5308.679618760167, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.01574074074074074, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.01574074074074074, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.06203703703703703, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.01574074074074074, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.01574074074074074, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.06203703703703703, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.01574074074074074, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.01574074074074074, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.06203703703703703, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.01574074074074074, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.01574074074074074, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.06203703703703703, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.022555884756034678, "ci_upper": 0.11048850574712643, "delta_ci_lower": -0.022555884756034678, "delta_ci_upper": 0.11048850574712643, "failure_count": 0, "left_ci_lower": 0.1030086721685454, "left_ci_upper": 0.23923871108427266, "left_mean": 0.1680186527106817, "mean_delta": 0.04288872428864932, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.141005291005291, "right_ci_upper": 0.2865687526607067, "right_mean": 0.21090737699933101, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.125, "delta_ci_lower": 0.0, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.25833333333333336, "left_ci_upper": 0.38333333333333336, "left_mean": 0.31666666666666665, "mean_delta": 0.058333333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.31666666666666665, "right_ci_upper": 0.44166666666666665, "right_mean": 0.375, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -645.2292854326755, "ci_upper": 822.0944103344178, "delta_ci_lower": -645.2292854326755, "delta_ci_upper": 822.0944103344178, "failure_count": 0, "left_ci_lower": 40809.56975701583, "left_ci_upper": 41910.0932461864, "left_mean": 41352.154886120115, "mean_delta": 81.77895480087803, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40805.23073442334, "right_ci_upper": 42088.64963408026, "right_mean": 41433.933840920996, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -160.41791666666666, "ci_upper": 35.95666666666658, "delta_ci_lower": -160.41791666666666, "delta_ci_upper": 35.95666666666658, "failure_count": 0, "left_ci_lower": 5810.895416666666, "left_ci_upper": 5958.8525, "left_mean": 5884.191666666667, "mean_delta": -61.65, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.779166666667, "right_ci_upper": 5902.512083333334, "right_mean": 5822.541666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -186.02583333333334, "ci_upper": 0.7522916666666333, "delta_ci_lower": -186.02583333333334, "delta_ci_upper": 0.7522916666666333, "failure_count": 0, "left_ci_lower": 5536.49125, "left_ci_upper": 5671.25, "left_mean": 5603.575, "mean_delta": -92.26666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5439.783125000001, "right_ci_upper": 5585.667083333334, "right_mean": 5511.308333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.1, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777777, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777778, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03979166666666688, "ci_upper": 0.19074074074074077, "delta_ci_lower": 0.03979166666666688, "delta_ci_upper": 0.19074074074074077, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.34444444444444444, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03979166666666688, "ci_upper": 0.19074074074074077, "delta_ci_lower": 0.03979166666666688, "delta_ci_upper": 0.19074074074074077, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.34444444444444444, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03979166666666688, "ci_upper": 0.19074074074074077, "delta_ci_lower": 0.03979166666666688, "delta_ci_upper": 0.19074074074074077, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.34444444444444444, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03979166666666688, "ci_upper": 0.19074074074074077, "delta_ci_lower": 0.03979166666666688, "delta_ci_upper": 0.19074074074074077, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.34444444444444444, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 260.89145708043367, "ci_upper": 406.1482141164743, "delta_ci_lower": 260.89145708043367, "delta_ci_upper": 406.1482141164743, "failure_count": 0, "left_ci_lower": 4829.62871292686, "left_ci_upper": 5174.983032107921, "left_mean": 4985.1775670511415, "mean_delta": 323.5020517090258, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5135.197223713912, "right_ci_upper": 5513.926223845725, "right_mean": 5308.679618760168, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.015740740740740743, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.015740740740740743, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.062037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.015740740740740743, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.015740740740740743, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.062037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.015740740740740743, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.015740740740740743, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.062037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.015740740740740743, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.015740740740740743, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.062037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.02255588475603468, "ci_upper": 0.11048850574712643, "delta_ci_lower": -0.02255588475603468, "delta_ci_upper": 0.11048850574712643, "failure_count": 0, "left_ci_lower": 0.10300867216854538, "left_ci_upper": 0.23923871108427266, "left_mean": 0.1680186527106817, "mean_delta": 0.04288872428864932, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.141005291005291, "right_ci_upper": 0.2865687526607067, "right_mean": 0.21090737699933101, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.0050629238393322664, "ci_upper": 0.12436098069900887, "delta_ci_lower": -0.0050629238393322664, "delta_ci_upper": 0.12436098069900887, "failure_count": 0, "left_ci_lower": 0.1749188184663537, "left_ci_upper": 0.30761834898278556, "left_mean": 0.2381585811163276, "mean_delta": 0.0584246218049035, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2275169535732916, "right_ci_upper": 0.37107850808555026, "right_mean": 0.2965832029212311, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -442.5926591882125, "ci_upper": 1161.0030125544029, "delta_ci_lower": -442.5926591882125, "delta_ci_upper": 1161.0030125544029, "failure_count": 0, "left_ci_lower": 40593.38678009156, "left_ci_upper": 41836.048988168695, "left_mean": 41200.926598812875, "mean_delta": 352.2602082868962, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40826.404685246984, "right_ci_upper": 42294.138833692385, "right_mean": 41553.18680709977, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -145.2662102243088, "ci_upper": 64.10910243870629, "delta_ci_lower": -145.2662102243088, "delta_ci_upper": 64.10910243870629, "failure_count": 0, "left_ci_lower": 5779.918081311946, "left_ci_upper": 5940.674443140324, "left_mean": 5858.878364632238, "mean_delta": -40.508685446009395, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5732.917693988002, "right_ci_upper": 5904.316909559207, "right_mean": 5818.3696791862285, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09600886917960089, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09600886917960089, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.045986696230598666, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.008617886178861788, "right_ci_upper": 0.09600886917960089, "right_mean": 0.045986696230598666, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09600886917960089, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09600886917960089, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.045986696230598666, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.008617886178861788, "right_ci_upper": 0.09600886917960089, "right_mean": 0.045986696230598666, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09600886917960089, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09600886917960089, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.045986696230598666, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.008617886178861788, "right_ci_upper": 0.09600886917960089, "right_mean": 0.045986696230598666, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -172.70184304903492, "ci_upper": 23.239317618674878, "delta_ci_lower": -172.70184304903492, "delta_ci_upper": 23.239317618674878, "failure_count": 0, "left_ci_lower": 5512.142428273343, "left_ci_upper": 5657.056424100157, "left_mean": 5583.2444444444445, "mean_delta": -75.22192227438707, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5428.8214609415745, "right_ci_upper": 5588.396101330203, "right_mean": 5508.0225221700575, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.09262121212121202, "ci_upper": 0.09252032520325203, "delta_ci_lower": -0.09262121212121202, "delta_ci_upper": 0.09252032520325203, "failure_count": 0, "left_ci_lower": 0.45753141167775313, "left_ci_upper": 0.6471840354767184, "left_mean": 0.5523577235772358, "mean_delta": 0.0005469327420546936, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4608869179600887, "right_ci_upper": 0.6442867701404286, "right_mean": 0.5529046563192904, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03902235772357725, "ci_upper": 0.18726114806602612, "delta_ci_lower": 0.03902235772357725, "delta_ci_upper": 0.18726114806602612, "failure_count": 0, "left_ci_lower": 0.17164966740576498, "left_ci_upper": 0.3408791574279379, "left_mean": 0.2523454052722346, "mean_delta": 0.11114067504311405, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03902235772357725, "ci_upper": 0.18726114806602612, "delta_ci_lower": 0.03902235772357725, "delta_ci_upper": 0.18726114806602612, "failure_count": 0, "left_ci_lower": 0.17164966740576498, "left_ci_upper": 0.3408791574279379, "left_mean": 0.2523454052722346, "mean_delta": 0.11114067504311405, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03902235772357725, "ci_upper": 0.18726114806602612, "delta_ci_lower": 0.03902235772357725, "delta_ci_upper": 0.18726114806602612, "failure_count": 0, "left_ci_lower": 0.17164966740576498, "left_ci_upper": 0.3408791574279379, "left_mean": 0.2523454052722346, "mean_delta": 0.11114067504311405, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03902235772357725, "ci_upper": 0.18726114806602612, "delta_ci_lower": 0.03902235772357725, "delta_ci_upper": 0.18726114806602612, "failure_count": 0, "left_ci_lower": 0.17164966740576498, "left_ci_upper": 0.3408791574279379, "left_mean": 0.2523454052722346, "mean_delta": 0.11114067504311405, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.02239615668883973, "ci_upper": 0.207450110864745, "delta_ci_lower": 0.02239615668883973, "delta_ci_upper": 0.207450110864745, "failure_count": 0, "left_ci_lower": 0.21605321507760528, "left_ci_upper": 0.4057062084257205, "left_mean": 0.3080266075388026, "mean_delta": 0.11379157427937915, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.02239615668883973, "ci_upper": 0.207450110864745, "delta_ci_lower": 0.02239615668883973, "delta_ci_upper": 0.207450110864745, "failure_count": 0, "left_ci_lower": 0.21605321507760528, "left_ci_upper": 0.4057062084257205, "left_mean": 0.3080266075388026, "mean_delta": 0.11379157427937915, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.02239615668883973, "ci_upper": 0.207450110864745, "delta_ci_lower": 0.02239615668883973, "delta_ci_upper": 0.207450110864745, "failure_count": 0, "left_ci_lower": 0.21605321507760528, "left_ci_upper": 0.4057062084257205, "left_mean": 0.3080266075388026, "mean_delta": 0.11379157427937915, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.02239615668883973, "ci_upper": 0.207450110864745, "delta_ci_lower": 0.02239615668883973, "delta_ci_upper": 0.207450110864745, "failure_count": 0, "left_ci_lower": 0.21605321507760528, "left_ci_upper": 0.4057062084257205, "left_mean": 0.3080266075388026, "mean_delta": 0.11379157427937915, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 271.105327516274, "ci_upper": 382.61522008898174, "delta_ci_lower": 271.105327516274, "delta_ci_upper": 382.61522008898174, "failure_count": 0, "left_ci_lower": 4864.133784352415, "left_ci_upper": 5290.415724121249, "left_mean": 5053.60490478293, "mean_delta": 321.49096311002893, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5171.284794389009, "right_ci_upper": 5619.4051464880295, "right_mean": 5375.095867892959, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.012951465878295147, "ci_upper": 0.10354847253017983, "delta_ci_lower": 0.012951465878295147, "delta_ci_upper": 0.10354847253017983, "failure_count": 0, "left_ci_lower": 0.09145565410199555, "left_ci_upper": 0.17521729490022167, "left_mean": 0.1317467356491747, "mean_delta": 0.05896772604089676, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.012951465878295147, "ci_upper": 0.10354847253017983, "delta_ci_lower": 0.012951465878295147, "delta_ci_upper": 0.10354847253017983, "failure_count": 0, "left_ci_lower": 0.09145565410199555, "left_ci_upper": 0.17521729490022167, "left_mean": 0.1317467356491747, "mean_delta": 0.05896772604089676, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.012951465878295147, "ci_upper": 0.10354847253017983, "delta_ci_lower": 0.012951465878295147, "delta_ci_upper": 0.10354847253017983, "failure_count": 0, "left_ci_lower": 0.09145565410199555, "left_ci_upper": 0.17521729490022167, "left_mean": 0.1317467356491747, "mean_delta": 0.05896772604089676, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.012951465878295147, "ci_upper": 0.10354847253017983, "delta_ci_lower": 0.012951465878295147, "delta_ci_upper": 0.10354847253017983, "failure_count": 0, "left_ci_lower": 0.09145565410199555, "left_ci_upper": 0.17521729490022167, "left_mean": 0.1317467356491747, "mean_delta": 0.05896772604089676, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.01760223174760414, "ci_upper": 0.124409740805872, "delta_ci_lower": -0.01760223174760414, "delta_ci_upper": 0.124409740805872, "failure_count": 0, "left_ci_lower": 0.10845176580224303, "left_ci_upper": 0.25083133562560916, "left_mean": 0.1766931242434954, "mean_delta": 0.05118622190330239, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.152266952839703, "right_ci_upper": 0.3090537156983751, "right_mean": 0.22787934614679778, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -1.734723475976807e-18, "ci_upper": 0.125, "delta_ci_lower": -1.734723475976807e-18, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.2583333333333333, "left_ci_upper": 0.38333333333333336, "left_mean": 0.31666666666666665, "mean_delta": 0.058333333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.31666666666666665, "right_ci_upper": 0.44166666666666665, "right_mean": 0.375, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -645.2292854326755, "ci_upper": 822.0944103344177, "delta_ci_lower": -645.2292854326755, "delta_ci_upper": 822.0944103344177, "failure_count": 0, "left_ci_lower": 40809.56975701582, "left_ci_upper": 41910.0932461864, "left_mean": 41352.154886120115, "mean_delta": 81.77895480087804, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40805.23073442334, "right_ci_upper": 42088.64963408026, "right_mean": 41433.93384092099, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -160.41791666666668, "ci_upper": 35.95666666666658, "delta_ci_lower": -160.41791666666668, "delta_ci_upper": 35.95666666666658, "failure_count": 0, "left_ci_lower": 5810.895416666666, "left_ci_upper": 5958.8525, "left_mean": 5884.191666666667, "mean_delta": -61.65, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.779166666666, "right_ci_upper": 5902.512083333334, "right_mean": 5822.541666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -186.02583333333334, "ci_upper": 0.7522916666666342, "delta_ci_lower": -186.02583333333334, "delta_ci_upper": 0.7522916666666342, "failure_count": 0, "left_ci_lower": 5536.49125, "left_ci_upper": 5671.25, "left_mean": 5603.575, "mean_delta": -92.26666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5439.783125, "right_ci_upper": 5585.667083333333, "right_mean": 5511.308333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.09999999999999999, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777778, "mean_delta": 0.011111111111111113, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777777, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03979166666666687, "ci_upper": 0.19074074074074074, "delta_ci_lower": 0.03979166666666687, "delta_ci_upper": 0.19074074074074074, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.3444444444444445, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03979166666666687, "ci_upper": 0.19074074074074074, "delta_ci_lower": 0.03979166666666687, "delta_ci_upper": 0.19074074074074074, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.3444444444444445, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03979166666666687, "ci_upper": 0.19074074074074074, "delta_ci_lower": 0.03979166666666687, "delta_ci_upper": 0.19074074074074074, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.3444444444444445, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03979166666666687, "ci_upper": 0.19074074074074074, "delta_ci_lower": 0.03979166666666687, "delta_ci_upper": 0.19074074074074074, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.3444444444444445, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.4648148148148148, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222227, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222227, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222227, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222227, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.41111111111111115, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222223, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 260.89145708043367, "ci_upper": 406.1482141164743, "delta_ci_lower": 260.89145708043367, "delta_ci_upper": 406.1482141164743, "failure_count": 0, "left_ci_lower": 4829.62871292686, "left_ci_upper": 5174.983032107922, "left_mean": 4985.1775670511415, "mean_delta": 323.5020517090258, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5135.1972237139125, "right_ci_upper": 5513.926223845725, "right_mean": 5308.679618760167, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.01574074074074074, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.01574074074074074, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.06203703703703703, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.01574074074074074, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.01574074074074074, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.06203703703703703, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.01574074074074074, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.01574074074074074, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.06203703703703703, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.01574074074074074, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.01574074074074074, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.06203703703703703, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444446, "right_ci_upper": 0.2518518518518518, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.022555884756034678, "ci_upper": 0.11048850574712643, "delta_ci_lower": -0.022555884756034678, "delta_ci_upper": 0.11048850574712643, "failure_count": 0, "left_ci_lower": 0.1030086721685454, "left_ci_upper": 0.23923871108427266, "left_mean": 0.1680186527106817, "mean_delta": 0.04288872428864932, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.141005291005291, "right_ci_upper": 0.2865687526607067, "right_mean": 0.21090737699933101, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.125, "delta_ci_lower": 0.0, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.25833333333333336, "left_ci_upper": 0.38333333333333336, "left_mean": 0.31666666666666665, "mean_delta": 0.058333333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.31666666666666665, "right_ci_upper": 0.44166666666666665, "right_mean": 0.375, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -645.2292854326755, "ci_upper": 822.0944103344178, "delta_ci_lower": -645.2292854326755, "delta_ci_upper": 822.0944103344178, "failure_count": 0, "left_ci_lower": 40809.56975701583, "left_ci_upper": 41910.0932461864, "left_mean": 41352.154886120115, "mean_delta": 81.77895480087803, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40805.23073442334, "right_ci_upper": 42088.64963408026, "right_mean": 41433.933840920996, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -160.41791666666666, "ci_upper": 35.95666666666658, "delta_ci_lower": -160.41791666666666, "delta_ci_upper": 35.95666666666658, "failure_count": 0, "left_ci_lower": 5810.895416666666, "left_ci_upper": 5958.8525, "left_mean": 5884.191666666667, "mean_delta": -61.65, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.779166666667, "right_ci_upper": 5902.512083333334, "right_mean": 5822.541666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -186.02583333333334, "ci_upper": 0.7522916666666333, "delta_ci_lower": -186.02583333333334, "delta_ci_upper": 0.7522916666666333, "failure_count": 0, "left_ci_lower": 5536.49125, "left_ci_upper": 5671.25, "left_mean": 5603.575, "mean_delta": -92.26666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5439.783125000001, "right_ci_upper": 5585.667083333334, "right_mean": 5511.308333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.1, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777777, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777778, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03979166666666688, "ci_upper": 0.19074074074074077, "delta_ci_lower": 0.03979166666666688, "delta_ci_upper": 0.19074074074074077, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.34444444444444444, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03979166666666688, "ci_upper": 0.19074074074074077, "delta_ci_lower": 0.03979166666666688, "delta_ci_upper": 0.19074074074074077, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.34444444444444444, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03979166666666688, "ci_upper": 0.19074074074074077, "delta_ci_lower": 0.03979166666666688, "delta_ci_upper": 0.19074074074074077, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.34444444444444444, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03979166666666688, "ci_upper": 0.19074074074074077, "delta_ci_lower": 0.03979166666666688, "delta_ci_upper": 0.19074074074074077, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.34444444444444444, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 260.89145708043367, "ci_upper": 406.1482141164743, "delta_ci_lower": 260.89145708043367, "delta_ci_upper": 406.1482141164743, "failure_count": 0, "left_ci_lower": 4829.62871292686, "left_ci_upper": 5174.983032107921, "left_mean": 4985.1775670511415, "mean_delta": 323.5020517090258, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5135.197223713912, "right_ci_upper": 5513.926223845725, "right_mean": 5308.679618760168, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.015740740740740743, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.015740740740740743, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.062037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.015740740740740743, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.015740740740740743, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.062037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.015740740740740743, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.015740740740740743, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.062037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.015740740740740743, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.015740740740740743, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.062037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.02255588475603468, "ci_upper": 0.11048850574712643, "delta_ci_lower": -0.02255588475603468, "delta_ci_upper": 0.11048850574712643, "failure_count": 0, "left_ci_lower": 0.10300867216854538, "left_ci_upper": 0.23923871108427266, "left_mean": 0.1680186527106817, "mean_delta": 0.04288872428864932, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.141005291005291, "right_ci_upper": 0.2865687526607067, "right_mean": 0.21090737699933101, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.0050629238393322664, "ci_upper": 0.12436098069900887, "delta_ci_lower": -0.0050629238393322664, "delta_ci_upper": 0.12436098069900887, "failure_count": 0, "left_ci_lower": 0.1749188184663537, "left_ci_upper": 0.30761834898278556, "left_mean": 0.2381585811163276, "mean_delta": 0.0584246218049035, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.2275169535732916, "right_ci_upper": 0.37107850808555026, "right_mean": 0.2965832029212311, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -442.5926591882125, "ci_upper": 1161.0030125544029, "delta_ci_lower": -442.5926591882125, "delta_ci_upper": 1161.0030125544029, "failure_count": 0, "left_ci_lower": 40593.38678009156, "left_ci_upper": 41836.048988168695, "left_mean": 41200.926598812875, "mean_delta": 352.2602082868962, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40826.404685246984, "right_ci_upper": 42294.138833692385, "right_mean": 41553.18680709977, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -145.2662102243088, "ci_upper": 64.10910243870629, "delta_ci_lower": -145.2662102243088, "delta_ci_upper": 64.10910243870629, "failure_count": 0, "left_ci_lower": 5779.918081311946, "left_ci_upper": 5940.674443140324, "left_mean": 5858.878364632238, "mean_delta": -40.508685446009395, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5732.917693988002, "right_ci_upper": 5904.316909559207, "right_mean": 5818.3696791862285, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09600886917960089, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09600886917960089, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.045986696230598666, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.008617886178861788, "right_ci_upper": 0.09600886917960089, "right_mean": 0.045986696230598666, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09600886917960089, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09600886917960089, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.045986696230598666, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.008617886178861788, "right_ci_upper": 0.09600886917960089, "right_mean": 0.045986696230598666, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09600886917960089, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09600886917960089, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.045986696230598666, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.008617886178861788, "right_ci_upper": 0.09600886917960089, "right_mean": 0.045986696230598666, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -172.70184304903492, "ci_upper": 23.239317618674878, "delta_ci_lower": -172.70184304903492, "delta_ci_upper": 23.239317618674878, "failure_count": 0, "left_ci_lower": 5512.142428273343, "left_ci_upper": 5657.056424100157, "left_mean": 5583.2444444444445, "mean_delta": -75.22192227438707, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5428.8214609415745, "right_ci_upper": 5588.396101330203, "right_mean": 5508.0225221700575, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.09262121212121202, "ci_upper": 0.09252032520325203, "delta_ci_lower": -0.09262121212121202, "delta_ci_upper": 0.09252032520325203, "failure_count": 0, "left_ci_lower": 0.45753141167775313, "left_ci_upper": 0.6471840354767184, "left_mean": 0.5523577235772358, "mean_delta": 0.0005469327420546936, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.4608869179600887, "right_ci_upper": 0.6442867701404286, "right_mean": 0.5529046563192904, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03902235772357725, "ci_upper": 0.18726114806602612, "delta_ci_lower": 0.03902235772357725, "delta_ci_upper": 0.18726114806602612, "failure_count": 0, "left_ci_lower": 0.17164966740576498, "left_ci_upper": 0.3408791574279379, "left_mean": 0.2523454052722346, "mean_delta": 0.11114067504311405, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03902235772357725, "ci_upper": 0.18726114806602612, "delta_ci_lower": 0.03902235772357725, "delta_ci_upper": 0.18726114806602612, "failure_count": 0, "left_ci_lower": 0.17164966740576498, "left_ci_upper": 0.3408791574279379, "left_mean": 0.2523454052722346, "mean_delta": 0.11114067504311405, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03902235772357725, "ci_upper": 0.18726114806602612, "delta_ci_lower": 0.03902235772357725, "delta_ci_upper": 0.18726114806602612, "failure_count": 0, "left_ci_lower": 0.17164966740576498, "left_ci_upper": 0.3408791574279379, "left_mean": 0.2523454052722346, "mean_delta": 0.11114067504311405, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03902235772357725, "ci_upper": 0.18726114806602612, "delta_ci_lower": 0.03902235772357725, "delta_ci_upper": 0.18726114806602612, "failure_count": 0, "left_ci_lower": 0.17164966740576498, "left_ci_upper": 0.3408791574279379, "left_mean": 0.2523454052722346, "mean_delta": 0.11114067504311405, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2709582409460459, "right_ci_upper": 0.45911468341956135, "right_mean": 0.36348608031534857, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.02239615668883973, "ci_upper": 0.207450110864745, "delta_ci_lower": 0.02239615668883973, "delta_ci_upper": 0.207450110864745, "failure_count": 0, "left_ci_lower": 0.21605321507760528, "left_ci_upper": 0.4057062084257205, "left_mean": 0.3080266075388026, "mean_delta": 0.11379157427937915, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.02239615668883973, "ci_upper": 0.207450110864745, "delta_ci_lower": 0.02239615668883973, "delta_ci_upper": 0.207450110864745, "failure_count": 0, "left_ci_lower": 0.21605321507760528, "left_ci_upper": 0.4057062084257205, "left_mean": 0.3080266075388026, "mean_delta": 0.11379157427937915, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.02239615668883973, "ci_upper": 0.207450110864745, "delta_ci_lower": 0.02239615668883973, "delta_ci_upper": 0.207450110864745, "failure_count": 0, "left_ci_lower": 0.21605321507760528, "left_ci_upper": 0.4057062084257205, "left_mean": 0.3080266075388026, "mean_delta": 0.11379157427937915, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.02239615668883973, "ci_upper": 0.207450110864745, "delta_ci_lower": 0.02239615668883973, "delta_ci_upper": 0.207450110864745, "failure_count": 0, "left_ci_lower": 0.21605321507760528, "left_ci_upper": 0.4057062084257205, "left_mean": 0.3080266075388026, "mean_delta": 0.11379157427937915, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.32117036215816713, "right_ci_upper": 0.5264571322985955, "right_mean": 0.4218181818181818, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 271.105327516274, "ci_upper": 382.61522008898174, "delta_ci_lower": 271.105327516274, "delta_ci_upper": 382.61522008898174, "failure_count": 0, "left_ci_lower": 4864.133784352415, "left_ci_upper": 5290.415724121249, "left_mean": 5053.60490478293, "mean_delta": 321.49096311002893, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5171.284794389009, "right_ci_upper": 5619.4051464880295, "right_mean": 5375.095867892959, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.012951465878295147, "ci_upper": 0.10354847253017983, "delta_ci_lower": 0.012951465878295147, "delta_ci_upper": 0.10354847253017983, "failure_count": 0, "left_ci_lower": 0.09145565410199555, "left_ci_upper": 0.17521729490022167, "left_mean": 0.1317467356491747, "mean_delta": 0.05896772604089676, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.012951465878295147, "ci_upper": 0.10354847253017983, "delta_ci_lower": 0.012951465878295147, "delta_ci_upper": 0.10354847253017983, "failure_count": 0, "left_ci_lower": 0.09145565410199555, "left_ci_upper": 0.17521729490022167, "left_mean": 0.1317467356491747, "mean_delta": 0.05896772604089676, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.012951465878295147, "ci_upper": 0.10354847253017983, "delta_ci_lower": 0.012951465878295147, "delta_ci_upper": 0.10354847253017983, "failure_count": 0, "left_ci_lower": 0.09145565410199555, "left_ci_upper": 0.17521729490022167, "left_mean": 0.1317467356491747, "mean_delta": 0.05896772604089676, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.012951465878295147, "ci_upper": 0.10354847253017983, "delta_ci_lower": 0.012951465878295147, "delta_ci_upper": 0.10354847253017983, "failure_count": 0, "left_ci_lower": 0.09145565410199555, "left_ci_upper": 0.17521729490022167, "left_mean": 0.1317467356491747, "mean_delta": 0.05896772604089676, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.1383813131313131, "right_ci_upper": 0.2471619857107662, "right_mean": 0.19071446169007145, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.01760223174760414, "ci_upper": 0.124409740805872, "delta_ci_lower": -0.01760223174760414, "delta_ci_upper": 0.124409740805872, "failure_count": 0, "left_ci_lower": 0.10845176580224303, "left_ci_upper": 0.25083133562560916, "left_mean": 0.1766931242434954, "mean_delta": 0.05118622190330239, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.152266952839703, "right_ci_upper": 0.3090537156983751, "right_mean": 0.22787934614679778, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -810.9854887490895, "ci_upper": 2301.978421521198, "delta_ci_lower": -810.9854887490895, "delta_ci_upper": 2301.978421521198, "failure_count": 0, "left_ci_lower": 40215.29016637496, "left_ci_upper": 42650.86582404037, "left_mean": 41393.13948752824, "mean_delta": 718.5369539928312, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40736.26152947545, "right_ci_upper": 43454.98646073141, "right_mean": 42111.67644152107, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -175.66916666666665, "ci_upper": 227.36749999999998, "delta_ci_lower": -175.66916666666665, "delta_ci_upper": 227.36749999999998, "failure_count": 0, "left_ci_lower": 5682.698333333333, "left_ci_upper": 5990.401666666666, "left_mean": 5834.633333333333, "mean_delta": 25.4, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5688.3, "right_ci_upper": 6028.8675, "right_mean": 5860.033333333334, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.16666666666666666, "right_mean": 0.06666666666666667, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -202.70083333333332, "ci_upper": 174.33999999999992, "delta_ci_lower": -202.70083333333332, "delta_ci_upper": 174.33999999999992, "failure_count": 0, "left_ci_lower": 5423.3325, "left_ci_upper": 5696.1, "left_mean": 5558.7, "mean_delta": -15.266666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5389.13, "right_ci_upper": 5694.634166666667, "right_mean": 5543.433333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.4666666666666667, "left_ci_upper": 0.8, "left_mean": 0.6333333333333333, "mean_delta": -0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.4, "right_ci_upper": 0.7333333333333333, "right_mean": 0.5666666666666667, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.005555555555555556, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.15555555555555556, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.24444444444444444, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.005555555555555556, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.15555555555555556, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.24444444444444444, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.005555555555555556, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.15555555555555556, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.24444444444444444, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.005555555555555556, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.15555555555555556, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.4, "left_mean": 0.24444444444444444, "mean_delta": 0.07222222222222222, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.16666666666666666, "right_ci_upper": 0.48333333333333334, "right_mean": 0.31666666666666665, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "failure_count": 0, "left_ci_lower": 0.13333333333333333, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 378.6093067929809, "ci_upper": 647.537219916315, "delta_ci_lower": 378.6093067929809, "delta_ci_upper": 647.537219916315, "failure_count": 0, "left_ci_lower": 4617.708755528826, "left_ci_upper": 5144.034181616541, "left_mean": 4876.919125012743, "mean_delta": 498.5505485131095, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5045.286765209943, "right_ci_upper": 5723.192433781612, "right_mean": 5375.469673525852, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.016666666666666666, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.05, "left_ci_upper": 0.1888888888888889, "left_mean": 0.11666666666666667, "mean_delta": 0.07777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.05, "left_ci_upper": 0.1888888888888889, "left_mean": 0.11666666666666667, "mean_delta": 0.07777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.05, "left_ci_upper": 0.1888888888888889, "left_mean": 0.11666666666666667, "mean_delta": 0.07777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.14444444444444443, "failure_count": 0, "left_ci_lower": 0.05, "left_ci_upper": 0.1888888888888889, "left_mean": 0.11666666666666667, "mean_delta": 0.07777777777777778, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.3055555555555555, "right_mean": 0.19444444444444445, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.03333333333333333, "right_ci_upper": 0.26666666666666666, "right_mean": 0.13333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "inference": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.26666666666666666, "right_ci_upper": 0.6, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -680.9620308329855, "ci_upper": 2632.3279819856766, "delta_ci_lower": -680.9620308329855, "delta_ci_upper": 2632.3279819856766, "failure_count": 0, "left_ci_lower": 39548.886981153046, "left_ci_upper": 41982.142185264, "left_mean": 40784.22045836536, "mean_delta": 916.5897165192291, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40225.04758121155, "right_ci_upper": 43362.768045862125, "right_mean": 41700.81017488459, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -249.96666666666667, "ci_upper": 159.01166666666649, "delta_ci_lower": -249.96666666666667, "delta_ci_upper": 159.01166666666649, "failure_count": 0, "left_ci_lower": 5677.4, "left_ci_upper": 5978.435, "left_mean": 5831.966666666666, "mean_delta": -51.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5629.633333333333, "right_ci_upper": 5934.505, "right_mean": 5780.966666666666, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -276.5025, "ci_upper": 105.60083333333331, "delta_ci_lower": -276.5025, "delta_ci_upper": 105.60083333333331, "failure_count": 0, "left_ci_lower": 5436.4625, "left_ci_upper": 5715.352499999999, "left_mean": 5579.0, "mean_delta": -90.43333333333334, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5336.0650000000005, "right_ci_upper": 5642.200833333333, "right_mean": 5488.566666666667, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": -0.2, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.2, "delta_ci_upper": 0.16666666666666666, "failure_count": 0, "left_ci_lower": 0.1, "left_ci_upper": 0.43333333333333335, "left_mean": 0.26666666666666666, "mean_delta": 0.0, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1, "right_ci_upper": 0.43333333333333335, "right_mean": 0.26666666666666666, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.013888888888888888, "ci_upper": 0.29444444444444445, "delta_ci_lower": -0.013888888888888888, "delta_ci_upper": 0.29444444444444445, "failure_count": 0, "left_ci_lower": 0.10277777777777779, "left_ci_upper": 0.3722222222222222, "left_mean": 0.23055555555555557, "mean_delta": 0.1361111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.013888888888888888, "ci_upper": 0.29444444444444445, "delta_ci_lower": -0.013888888888888888, "delta_ci_upper": 0.29444444444444445, "failure_count": 0, "left_ci_lower": 0.10277777777777779, "left_ci_upper": 0.3722222222222222, "left_mean": 0.23055555555555557, "mean_delta": 0.1361111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.013888888888888888, "ci_upper": 0.29444444444444445, "delta_ci_lower": -0.013888888888888888, "delta_ci_upper": 0.29444444444444445, "failure_count": 0, "left_ci_lower": 0.10277777777777779, "left_ci_upper": 0.3722222222222222, "left_mean": 0.23055555555555557, "mean_delta": 0.1361111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.013888888888888888, "ci_upper": 0.29444444444444445, "delta_ci_lower": -0.013888888888888888, "delta_ci_upper": 0.29444444444444445, "failure_count": 0, "left_ci_lower": 0.10277777777777779, "left_ci_upper": 0.3722222222222222, "left_mean": 0.23055555555555557, "mean_delta": 0.1361111111111111, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2, "right_ci_upper": 0.5333333333333333, "right_mean": 0.36666666666666664, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.1, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.1, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.1, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.1, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.26666666666666666, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.06666666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.23333333333333334, "right_ci_upper": 0.5666666666666667, "right_mean": 0.4, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 152.82963916746667, "ci_upper": 207.03848359456362, "delta_ci_lower": 152.82963916746667, "delta_ci_upper": 207.03848359456362, "failure_count": 0, "left_ci_lower": 4529.370646673682, "left_ci_upper": 5675.99027261914, "left_mean": 5020.774170934844, "mean_delta": 180.82504162254432, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4714.363933859083, "right_ci_upper": 5844.017268090587, "right_mean": 5201.599212557388, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.075, "ci_upper": 0.09722222222222222, "delta_ci_lower": -0.075, "delta_ci_upper": 0.09722222222222222, "failure_count": 0, "left_ci_lower": 0.06388888888888888, "left_ci_upper": 0.20555555555555555, "left_mean": 0.13055555555555556, "mean_delta": 0.01388888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.22777777777777777, "right_mean": 0.14444444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.075, "ci_upper": 0.09722222222222222, "delta_ci_lower": -0.075, "delta_ci_upper": 0.09722222222222222, "failure_count": 0, "left_ci_lower": 0.06388888888888888, "left_ci_upper": 0.20555555555555555, "left_mean": 0.13055555555555556, "mean_delta": 0.01388888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.22777777777777777, "right_mean": 0.14444444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.075, "ci_upper": 0.09722222222222222, "delta_ci_lower": -0.075, "delta_ci_upper": 0.09722222222222222, "failure_count": 0, "left_ci_lower": 0.06388888888888888, "left_ci_upper": 0.20555555555555555, "left_mean": 0.13055555555555556, "mean_delta": 0.01388888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.22777777777777777, "right_mean": 0.14444444444444443, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.075, "ci_upper": 0.09722222222222222, "delta_ci_lower": -0.075, "delta_ci_upper": 0.09722222222222222, "failure_count": 0, "left_ci_lower": 0.06388888888888888, "left_ci_upper": 0.20555555555555555, "left_mean": 0.13055555555555556, "mean_delta": 0.01388888888888889, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.07222222222222222, "right_ci_upper": 0.22777777777777777, "right_mean": 0.14444444444444443, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06883023518002894, "ci_upper": 0.26501987473525135, "delta_ci_lower": -0.06883023518002894, "delta_ci_upper": 0.26501987473525135, "failure_count": 0, "left_ci_lower": 0.20856481481481481, "left_ci_upper": 0.5375, "left_mean": 0.37072262479871176, "mean_delta": 0.09533283953261465, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.29833059660645866, "right_ci_upper": 0.6396825396825396, "right_mean": 0.4660554643313264, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "temporal": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1527.5583970673806, "ci_upper": 1038.7605741160223, "delta_ci_lower": -1527.5583970673806, "delta_ci_upper": 1038.7605741160223, "failure_count": 0, "left_ci_lower": 39888.68448201402, "left_ci_upper": 41981.83029657685, "left_mean": 40937.971461137444, "mean_delta": -244.38469032756984, "missing_count": 0, "paired_count": 30, "right_ci_lower": 39574.668429716454, "right_ci_upper": 41841.17834698021, "right_mean": 40693.586770809874, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -254.9, "ci_upper": 132.77249999999992, "delta_ci_lower": -254.9, "delta_ci_upper": 132.77249999999992, "failure_count": 0, "left_ci_lower": 5698.0975, "left_ci_upper": 6001.733333333334, "left_mean": 5847.666666666667, "mean_delta": -60.8, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5628.799166666667, "right_ci_upper": 5950.170833333334, "right_mean": 5786.866666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -271.5691666666666, "ci_upper": 85.60999999999984, "delta_ci_lower": -271.5691666666666, "delta_ci_upper": 85.60999999999984, "failure_count": 0, "left_ci_lower": 5422.795833333333, "left_ci_upper": 5688.8, "left_mean": 5552.5, "mean_delta": -92.66666666666667, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5322.032500000001, "right_ci_upper": 5601.87, "right_mean": 5459.833333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.7, "left_ci_upper": 0.9666666666666667, "left_mean": 0.8333333333333334, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.8333333333333334, "right_ci_upper": 1.0, "right_mean": 0.9333333333333333, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.005555555555555556, "ci_upper": 0.2777777777777778, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.2777777777777778, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.45555555555555555, "left_mean": 0.29444444444444445, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.005555555555555556, "ci_upper": 0.2777777777777778, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.2777777777777778, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.45555555555555555, "left_mean": 0.29444444444444445, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.005555555555555556, "ci_upper": 0.2777777777777778, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.2777777777777778, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.45555555555555555, "left_mean": 0.29444444444444445, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4277777777777778, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.005555555555555556, "ci_upper": 0.2777777777777778, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.2777777777777778, "failure_count": 0, "left_ci_lower": 0.14444444444444443, "left_ci_upper": 0.45555555555555555, "left_mean": 0.29444444444444445, "mean_delta": 0.13333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.2722222222222222, "right_ci_upper": 0.5833333333333334, "right_mean": 0.4277777777777778, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.4, "delta_ci_lower": 0.0, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.7, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.4, "delta_ci_lower": 0.0, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.7, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.4, "delta_ci_lower": 0.0, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.7, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.4, "delta_ci_lower": 0.0, "delta_ci_upper": 0.4, "failure_count": 0, "left_ci_lower": 0.16666666666666666, "left_ci_upper": 0.5, "left_mean": 0.3333333333333333, "mean_delta": 0.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.36666666666666664, "right_ci_upper": 0.7, "right_mean": 0.5333333333333333, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 194.42241916714315, "ci_upper": 248.03439842022877, "delta_ci_lower": 194.42241916714315, "delta_ci_upper": 248.03439842022877, "failure_count": 0, "left_ci_lower": 5523.409494177808, "left_ci_upper": 5991.0770323135275, "left_mean": 5753.445154191771, "mean_delta": 221.32617230915153, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5752.343115349649, "right_ci_upper": 6207.43954218827, "right_mean": 5974.771326500922, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.01111111111111111, "ci_upper": 0.17777777777777776, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.17777777777777776, "failure_count": 0, "left_ci_lower": 0.07777777777777777, "left_ci_upper": 0.23888888888888887, "left_mean": 0.15555555555555556, "mean_delta": 0.09444444444444443, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.35, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.01111111111111111, "ci_upper": 0.17777777777777776, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.17777777777777776, "failure_count": 0, "left_ci_lower": 0.07777777777777777, "left_ci_upper": 0.23888888888888887, "left_mean": 0.15555555555555556, "mean_delta": 0.09444444444444443, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.35, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.01111111111111111, "ci_upper": 0.17777777777777776, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.17777777777777776, "failure_count": 0, "left_ci_lower": 0.07777777777777777, "left_ci_upper": 0.23888888888888887, "left_mean": 0.15555555555555556, "mean_delta": 0.09444444444444443, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.35, "right_mean": 0.25, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.01111111111111111, "ci_upper": 0.17777777777777776, "delta_ci_lower": 0.01111111111111111, "delta_ci_upper": 0.17777777777777776, "failure_count": 0, "left_ci_lower": 0.07777777777777777, "left_ci_upper": 0.23888888888888887, "left_mean": 0.15555555555555556, "mean_delta": 0.09444444444444443, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.1611111111111111, "right_ci_upper": 0.35, "right_mean": 0.25, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.16666666666666666, "left_mean": 0.06666666666666667, "mean_delta": -0.03333333333333333, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.1, "right_mean": 0.03333333333333333, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null } }, "unanswerable": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.6666666666666666, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2442.2148003845355, "ci_upper": 335.6976579040443, "delta_ci_lower": -2442.2148003845355, "delta_ci_upper": 335.6976579040443, "failure_count": 0, "left_ci_lower": 41385.00060034372, "left_ci_upper": 43168.65437021954, "left_mean": 42293.28813744942, "mean_delta": -1063.6261609809783, "missing_count": 0, "paired_count": 30, "right_ci_lower": 40195.00912794998, "right_ci_upper": 42243.828070440984, "right_mean": 41229.66197646844, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -363.01166666666654, "ci_upper": 41.0358333333333, "delta_ci_lower": -363.01166666666654, "delta_ci_upper": 41.0358333333333, "failure_count": 0, "left_ci_lower": 5885.891666666666, "left_ci_upper": 6144.5408333333335, "left_mean": 6022.5, "mean_delta": -160.2, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5713.1, "right_ci_upper": 6008.574166666666, "right_mean": 5862.3, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "context_token_count": { "ci_lower": -371.6083333333333, "ci_upper": 26.900833333333317, "delta_ci_lower": -371.6083333333333, "delta_ci_upper": 26.900833333333317, "failure_count": 0, "left_ci_lower": 5591.1325, "left_ci_upper": 5844.7, "left_mean": 5724.1, "mean_delta": -170.7, "missing_count": 0, "paired_count": 30, "right_ci_lower": 5405.794166666667, "right_ci_upper": 5695.2091666666665, "right_mean": 5553.4, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.3333333333333333, "left_mean": 0.2, "mean_delta": -0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_latency_ms": { "ci_lower": 199.22948819750067, "ci_upper": 698.194755851194, "delta_ci_lower": 199.22948819750067, "delta_ci_upper": 698.194755851194, "failure_count": 0, "left_ci_lower": 4150.186123590587, "left_ci_upper": 4425.0688992951955, "left_mean": 4289.571818065208, "mean_delta": 393.3064443912978, "missing_count": 0, "paired_count": 30, "right_ci_lower": 4449.112777659903, "right_ci_upper": 4959.264082630204, "right_mean": 4682.8782624565065, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "failure_count": 0, "left_ci_lower": null, "left_ci_upper": null, "left_mean": null, "mean_delta": null, "missing_count": 30, "paired_count": 0, "right_ci_lower": null, "right_ci_upper": null, "right_mean": null }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.6666666666666666, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.1, "missing_count": 0, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "left_regime": "native_lightrag", "metrics": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.125, "delta_ci_lower": 0.0, "delta_ci_upper": 0.125, "failure_count": 0, "left_ci_lower": 0.25833333333333336, "left_ci_upper": 0.38333333333333336, "left_mean": 0.31666666666666665, "mean_delta": 0.058333333333333334, "missing_count": 0, "paired_count": 120, "right_ci_lower": 0.31666666666666665, "right_ci_upper": 0.44166666666666665, "right_mean": 0.375, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -645.2292854326755, "ci_upper": 822.0944103344178, "delta_ci_lower": -645.2292854326755, "delta_ci_upper": 822.0944103344178, "failure_count": 0, "left_ci_lower": 40809.56975701583, "left_ci_upper": 41910.0932461864, "left_mean": 41352.154886120115, "mean_delta": 81.77895480087803, "missing_count": 0, "paired_count": 120, "right_ci_lower": 40805.23073442334, "right_ci_upper": 42088.64963408026, "right_mean": 41433.933840920996, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -160.41791666666666, "ci_upper": 35.95666666666658, "delta_ci_lower": -160.41791666666666, "delta_ci_upper": 35.95666666666658, "failure_count": 0, "left_ci_lower": 5810.895416666666, "left_ci_upper": 5958.8525, "left_mean": 5884.191666666667, "mean_delta": -61.65, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5745.779166666667, "right_ci_upper": 5902.512083333334, "right_mean": 5822.541666666667, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "failure_count": 0, "left_ci_lower": 0.0, "left_ci_upper": 0.0, "left_mean": 0.0, "mean_delta": 0.044444444444444446, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.011111111111111112, "right_ci_upper": 0.08888888888888889, "right_mean": 0.044444444444444446, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -186.02583333333334, "ci_upper": 0.7522916666666333, "delta_ci_lower": -186.02583333333334, "delta_ci_upper": 0.7522916666666333, "failure_count": 0, "left_ci_lower": 5536.49125, "left_ci_upper": 5671.25, "left_mean": 5603.575, "mean_delta": -92.26666666666667, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5439.783125000001, "right_ci_upper": 5585.667083333334, "right_mean": 5511.308333333333, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "failure_count": 0, "left_ci_lower": 0.06666666666666667, "left_ci_upper": 0.36666666666666664, "left_mean": 0.2, "mean_delta": -0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.0, "right_ci_upper": 0.23333333333333334, "right_mean": 0.1, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.07777777777777778, "ci_upper": 0.1, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.1, "failure_count": 0, "left_ci_lower": 0.4888888888888889, "left_ci_upper": 0.6666666666666666, "left_mean": 0.5777777777777777, "mean_delta": 0.011111111111111112, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.5, "right_ci_upper": 0.6777777777777778, "right_mean": 0.5888888888888889, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03979166666666688, "ci_upper": 0.19074074074074077, "delta_ci_lower": 0.03979166666666688, "delta_ci_upper": 0.19074074074074077, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.34444444444444444, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03979166666666688, "ci_upper": 0.19074074074074077, "delta_ci_lower": 0.03979166666666688, "delta_ci_upper": 0.19074074074074077, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.34444444444444444, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03979166666666688, "ci_upper": 0.19074074074074077, "delta_ci_lower": 0.03979166666666688, "delta_ci_upper": 0.19074074074074077, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.34444444444444444, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03979166666666688, "ci_upper": 0.19074074074074077, "delta_ci_lower": 0.03979166666666688, "delta_ci_upper": 0.19074074074074077, "failure_count": 0, "left_ci_lower": 0.17592592592592593, "left_ci_upper": 0.34444444444444444, "left_mean": 0.2564814814814815, "mean_delta": 0.11388888888888889, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.2796296296296296, "right_ci_upper": 0.46481481481481485, "right_mean": 0.3703703703703704, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2222222222222222, "failure_count": 0, "left_ci_lower": 0.2222222222222222, "left_ci_upper": 0.4111111111111111, "left_mean": 0.3111111111111111, "mean_delta": 0.12222222222222222, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.3333333333333333, "right_ci_upper": 0.5333333333333333, "right_mean": 0.43333333333333335, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 260.89145708043367, "ci_upper": 406.1482141164743, "delta_ci_lower": 260.89145708043367, "delta_ci_upper": 406.1482141164743, "failure_count": 0, "left_ci_lower": 4829.62871292686, "left_ci_upper": 5174.983032107921, "left_mean": 4985.1775670511415, "mean_delta": 323.5020517090258, "missing_count": 0, "paired_count": 120, "right_ci_lower": 5135.197223713912, "right_ci_upper": 5513.926223845725, "right_mean": 5308.679618760168, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.015740740740740743, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.015740740740740743, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.062037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.015740740740740743, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.015740740740740743, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.062037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.015740740740740743, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.015740740740740743, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.062037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.015740740740740743, "ci_upper": 0.1074074074074074, "delta_ci_lower": 0.015740740740740743, "delta_ci_upper": 0.1074074074074074, "failure_count": 0, "left_ci_lower": 0.09351851851851851, "left_ci_upper": 0.1787037037037037, "left_mean": 0.13425925925925927, "mean_delta": 0.062037037037037036, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.14444444444444443, "right_ci_upper": 0.2518518518518519, "right_mean": 0.1962962962962963, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.02255588475603468, "ci_upper": 0.11048850574712643, "delta_ci_lower": -0.02255588475603468, "delta_ci_upper": 0.11048850574712643, "failure_count": 0, "left_ci_lower": 0.10300867216854538, "left_ci_upper": 0.23923871108427266, "left_mean": 0.1680186527106817, "mean_delta": 0.04288872428864932, "missing_count": 30, "paired_count": 90, "right_ci_lower": 0.141005291005291, "right_ci_upper": 0.2865687526607067, "right_mean": 0.21090737699933101, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "failure_count": 0, "left_ci_lower": 0.6333333333333333, "left_ci_upper": 0.9333333333333333, "left_mean": 0.8, "mean_delta": 0.1, "missing_count": 90, "paired_count": 30, "right_ci_lower": 0.7666666666666667, "right_ci_upper": 1.0, "right_mean": 0.9, "schema_version": "3.0.0" } }, "paired_question_count": 120, "right_regime": "advanced_lightrag_er_rr", "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 } ], "comparison_count": 12, "comparison_key": "er_rr_minus_native", "effect_direction": "advanced_lightrag_er_rr_minus_native_lightrag", "hypothesis_family": "12_builder_conditions_er_rr_vs_native", "left_regime": "native_lightrag", "multiple_comparison_scope": "12_primary_within_builder_effects", "right_regime": "advanced_lightrag_er_rr" }, "secondary": { "builders": [ { "base_run_id": "base_83aca3d6aa4f4a035bf5d21c", "builder_key": "qwen35_0_8b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.15833333333333333, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.15833333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.43333333333333335, "er_mean": 0.3666666666666667, "failure_count": 0, "mean_delta": 0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.22499999999999998, "native_ci_upper": 0.3416666666666667, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -755.628912399867, "ci_upper": 621.8448707034255, "delta_ci_lower": -755.628912399867, "delta_ci_upper": 621.8448707034255, "er_ci_lower": 40753.08725444415, "er_ci_upper": 41902.86537312738, "er_mean": 41332.47017427736, "failure_count": 0, "mean_delta": -53.68165348675879, "missing_count": 0, "native_ci_lower": 40813.57040004467, "native_ci_upper": 41961.25290083918, "native_mean": 41386.151827764115, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -101.15562499999994, "ci_upper": 91.34166666666667, "delta_ci_lower": -101.15562499999994, "delta_ci_upper": 91.34166666666667, "er_ci_lower": 5804.632083333333, "er_ci_upper": 5953.433541666667, "er_mean": 5879.433333333333, "failure_count": 0, "mean_delta": -2.8166666666666687, "missing_count": 0, "native_ci_lower": 5805.391041666667, "native_ci_upper": 5958.333750000001, "native_mean": 5882.25, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555556, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555556, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555556, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.59604166666662, "ci_upper": 91.81020833333329, "delta_ci_lower": -91.59604166666662, "delta_ci_upper": 91.81020833333329, "er_ci_lower": 5470.223541666667, "er_ci_upper": 5605.017291666666, "er_mean": 5537.833333333334, "failure_count": 0, "mean_delta": 1.2250000000000008, "missing_count": 0, "native_ci_lower": 5466.049791666666, "native_ci_upper": 5606.953333333334, "native_mean": 5536.608333333334, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.5555555555555555, "er_ci_upper": 0.7333333333333334, "er_mean": 0.6444444444444445, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222223, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.011111111111111108, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.2333333333333333, "er_ci_upper": 0.40740740740740744, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037037, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.33888888888888885, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.011111111111111108, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.2333333333333333, "er_ci_upper": 0.40740740740740744, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037037, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.33888888888888885, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.011111111111111108, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.2333333333333333, "er_ci_upper": 0.40740740740740744, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037037, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.33888888888888885, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.011111111111111108, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.2333333333333333, "er_ci_upper": 0.40740740740740744, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037037, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.33888888888888885, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2333333333333333, "er_ci_lower": 0.2888888888888889, "er_ci_upper": 0.48888888888888893, "er_mean": 0.38888888888888884, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2333333333333333, "er_ci_lower": 0.2888888888888889, "er_ci_upper": 0.48888888888888893, "er_mean": 0.38888888888888884, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2333333333333333, "er_ci_lower": 0.2888888888888889, "er_ci_upper": 0.48888888888888893, "er_mean": 0.38888888888888884, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2333333333333333, "er_ci_lower": 0.2888888888888889, "er_ci_upper": 0.48888888888888893, "er_mean": 0.38888888888888884, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 355.8329126011814, "ci_upper": 842.510653020363, "delta_ci_lower": 355.8329126011814, "delta_ci_upper": 842.510653020363, "er_ci_lower": 5509.5491275928125, "er_ci_upper": 6226.075410702421, "er_mean": 5841.95291250168, "failure_count": 0, "mean_delta": 578.7013395805843, "missing_count": 0, "native_ci_lower": 5046.812993837205, "native_ci_upper": 5563.935274897401, "native_mean": 5263.251572921096, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666665, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666665, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666665, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666665, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.004385964912280704, "ci_upper": 0.17105263157894737, "delta_ci_lower": 0.004385964912280704, "delta_ci_upper": 0.17105263157894737, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.29444444444444445, "er_mean": 0.21666666666666667, "failure_count": 0, "mean_delta": 0.08771929824561404, "missing_count": 30, "native_ci_lower": 0.06900584795321636, "native_ci_upper": 0.1912280701754386, "native_mean": 0.12894736842105262, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.15833333333333333, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.15833333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.43333333333333335, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.3416666666666667, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -755.628912399867, "ci_upper": 621.8448707034256, "delta_ci_lower": -755.628912399867, "delta_ci_upper": 621.8448707034256, "er_ci_lower": 40753.08725444415, "er_ci_upper": 41902.86537312737, "er_mean": 41332.470174277354, "failure_count": 0, "mean_delta": -53.68165348675878, "missing_count": 0, "native_ci_lower": 40813.57040004467, "native_ci_upper": 41961.25290083917, "native_mean": 41386.151827764115, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -101.15562499999996, "ci_upper": 91.34166666666667, "delta_ci_lower": -101.15562499999996, "delta_ci_upper": 91.34166666666667, "er_ci_lower": 5804.632083333333, "er_ci_upper": 5953.433541666667, "er_mean": 5879.433333333333, "failure_count": 0, "mean_delta": -2.816666666666667, "missing_count": 0, "native_ci_lower": 5805.391041666667, "native_ci_upper": 5958.33375, "native_mean": 5882.25, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.59604166666662, "ci_upper": 91.8102083333333, "delta_ci_lower": -91.59604166666662, "delta_ci_upper": 91.8102083333333, "er_ci_lower": 5470.223541666667, "er_ci_upper": 5605.017291666666, "er_mean": 5537.833333333333, "failure_count": 0, "mean_delta": 1.225, "missing_count": 0, "native_ci_lower": 5466.049791666666, "native_ci_upper": 5606.953333333333, "native_mean": 5536.608333333334, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.5555555555555556, "er_ci_upper": 0.7333333333333333, "er_mean": 0.6444444444444445, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222222, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.011111111111111112, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4074074074074074, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037036, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3388888888888889, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4074074074074074, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037036, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3388888888888889, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4074074074074074, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037036, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3388888888888889, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4074074074074074, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037036, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3388888888888889, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.28888888888888886, "er_ci_upper": 0.4888888888888889, "er_mean": 0.3888888888888889, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.34444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.28888888888888886, "er_ci_upper": 0.4888888888888889, "er_mean": 0.3888888888888889, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.34444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.28888888888888886, "er_ci_upper": 0.4888888888888889, "er_mean": 0.3888888888888889, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.34444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.28888888888888886, "er_ci_upper": 0.4888888888888889, "er_mean": 0.3888888888888889, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.34444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 355.8329126011814, "ci_upper": 842.510653020363, "delta_ci_lower": 355.8329126011814, "delta_ci_upper": 842.510653020363, "er_ci_lower": 5509.5491275928125, "er_ci_upper": 6226.075410702421, "er_mean": 5841.952912501681, "failure_count": 0, "mean_delta": 578.7013395805843, "missing_count": 0, "native_ci_lower": 5046.812993837205, "native_ci_upper": 5563.9352748974, "native_mean": 5263.251572921096, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0043859649122807015, "ci_upper": 0.17105263157894737, "delta_ci_lower": 0.0043859649122807015, "delta_ci_upper": 0.17105263157894737, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.29444444444444445, "er_mean": 0.21666666666666667, "failure_count": 0, "mean_delta": 0.08771929824561403, "missing_count": 30, "native_ci_lower": 0.06900584795321638, "native_ci_upper": 0.19122807017543858, "native_mean": 0.12894736842105262, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": 0.015124543557642176, "ci_upper": 0.1752647365675534, "delta_ci_lower": 0.015124543557642176, "delta_ci_upper": 0.1752647365675534, "er_ci_lower": 0.22511443661971833, "er_ci_upper": 0.37024843505477295, "er_mean": 0.2963354199269692, "failure_count": 0, "mean_delta": 0.09507042253521127, "missing_count": 0, "native_ci_lower": 0.14413145539906103, "native_ci_upper": 0.26296296296296295, "native_mean": 0.20126499739175796, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -603.2578264414616, "ci_upper": 875.3507936849023, "delta_ci_lower": -603.2578264414616, "delta_ci_upper": 875.3507936849023, "er_ci_lower": 40750.94010141395, "er_ci_upper": 42037.26870817173, "er_mean": 41393.68229490895, "failure_count": 0, "mean_delta": 139.69307516302356, "missing_count": 0, "native_ci_lower": 40622.55474416604, "native_ci_upper": 41897.184120441816, "native_mean": 41253.98921974593, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -77.8601040036515, "ci_upper": 127.2379926317162, "delta_ci_lower": -77.8601040036515, "delta_ci_upper": 127.2379926317162, "er_ci_lower": 5796.226518648931, "er_ci_upper": 5959.5006791210235, "er_mean": 5877.478651538863, "failure_count": 0, "mean_delta": 25.66614501825769, "missing_count": 0, "native_ci_lower": 5767.5291409102765, "native_ci_upper": 5937.201668948879, "native_mean": 5851.812506520605, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.012653362897265335, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05519586104951959, "native_mean": 0.021271249076127124, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.012653362897265335, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05519586104951959, "native_mean": 0.021271249076127124, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.012653362897265335, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05519586104951959, "native_mean": 0.021271249076127124, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -74.82944281429317, "ci_upper": 119.09329355764213, "delta_ci_lower": -74.82944281429317, "delta_ci_upper": 119.09329355764213, "er_ci_lower": 5462.125210615545, "er_ci_upper": 5609.534061358894, "er_mean": 5535.465193009912, "failure_count": 0, "mean_delta": 23.08544600938967, "missing_count": 0, "native_ci_lower": 5435.564612350026, "native_ci_upper": 5589.699857198748, "native_mean": 5512.379747000522, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.09831633407243164, "ci_upper": 0.11254988913525497, "delta_ci_lower": -0.09831633407243164, "delta_ci_upper": 0.11254988913525497, "er_ci_lower": 0.5229575018477458, "er_ci_upper": 0.7189652623798964, "er_mean": 0.6206947524020695, "failure_count": 0, "mean_delta": 0.006844050258684403, "missing_count": 30, "native_ci_lower": 0.5178861788617886, "native_ci_upper": 0.7092682926829268, "native_mean": 0.6138507021433851, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.006089430894308951, "ci_upper": 0.16305875831485583, "delta_ci_lower": 0.006089430894308951, "delta_ci_upper": 0.16305875831485583, "er_ci_lower": 0.23747875092387288, "er_ci_upper": 0.41822862774082287, "er_mean": 0.3269376693766938, "failure_count": 0, "mean_delta": 0.08353042621335303, "missing_count": 30, "native_ci_lower": 0.1563340724316334, "native_ci_upper": 0.33221101256467106, "native_mean": 0.2434072431633407, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.006089430894308951, "ci_upper": 0.16305875831485583, "delta_ci_lower": 0.006089430894308951, "delta_ci_upper": 0.16305875831485583, "er_ci_lower": 0.23747875092387288, "er_ci_upper": 0.41822862774082287, "er_mean": 0.3269376693766938, "failure_count": 0, "mean_delta": 0.08353042621335303, "missing_count": 30, "native_ci_lower": 0.1563340724316334, "native_ci_upper": 0.33221101256467106, "native_mean": 0.2434072431633407, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.006089430894308951, "ci_upper": 0.16305875831485583, "delta_ci_lower": 0.006089430894308951, "delta_ci_upper": 0.16305875831485583, "er_ci_lower": 0.23747875092387288, "er_ci_upper": 0.41822862774082287, "er_mean": 0.3269376693766938, "failure_count": 0, "mean_delta": 0.08353042621335303, "missing_count": 30, "native_ci_lower": 0.1563340724316334, "native_ci_upper": 0.33221101256467106, "native_mean": 0.2434072431633407, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.006089430894308951, "ci_upper": 0.16305875831485583, "delta_ci_lower": 0.006089430894308951, "delta_ci_upper": 0.16305875831485583, "er_ci_lower": 0.23747875092387288, "er_ci_upper": 0.41822862774082287, "er_mean": 0.3269376693766938, "failure_count": 0, "mean_delta": 0.08353042621335303, "missing_count": 30, "native_ci_lower": 0.1563340724316334, "native_ci_upper": 0.33221101256467106, "native_mean": 0.2434072431633407, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.054589800443458986, "ci_upper": 0.23796008869179602, "delta_ci_lower": 0.054589800443458986, "delta_ci_upper": 0.23796008869179602, "er_ci_lower": 0.2925635624538063, "er_ci_upper": 0.49315705838876567, "er_mean": 0.39197339246119733, "failure_count": 0, "mean_delta": 0.14425720620842572, "missing_count": 30, "native_ci_lower": 0.16032520325203253, "native_ci_upper": 0.33677753141167777, "native_mean": 0.24771618625277161, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.054589800443458986, "ci_upper": 0.23796008869179602, "delta_ci_lower": 0.054589800443458986, "delta_ci_upper": 0.23796008869179602, "er_ci_lower": 0.2925635624538063, "er_ci_upper": 0.49315705838876567, "er_mean": 0.39197339246119733, "failure_count": 0, "mean_delta": 0.14425720620842572, "missing_count": 30, "native_ci_lower": 0.16032520325203253, "native_ci_upper": 0.33677753141167777, "native_mean": 0.24771618625277161, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.054589800443458986, "ci_upper": 0.23796008869179602, "delta_ci_lower": 0.054589800443458986, "delta_ci_upper": 0.23796008869179602, "er_ci_lower": 0.2925635624538063, "er_ci_upper": 0.49315705838876567, "er_mean": 0.39197339246119733, "failure_count": 0, "mean_delta": 0.14425720620842572, "missing_count": 30, "native_ci_lower": 0.16032520325203253, "native_ci_upper": 0.33677753141167777, "native_mean": 0.24771618625277161, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.054589800443458986, "ci_upper": 0.23796008869179602, "delta_ci_lower": 0.054589800443458986, "delta_ci_upper": 0.23796008869179602, "er_ci_lower": 0.2925635624538063, "er_ci_upper": 0.49315705838876567, "er_mean": 0.39197339246119733, "failure_count": 0, "mean_delta": 0.14425720620842572, "missing_count": 30, "native_ci_lower": 0.16032520325203253, "native_ci_upper": 0.33677753141167777, "native_mean": 0.24771618625277161, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 466.14282054628495, "ci_upper": 1085.9342614522848, "delta_ci_lower": 466.14282054628495, "delta_ci_upper": 1085.9342614522848, "er_ci_lower": 5704.653264722998, "er_ci_upper": 6608.805200708022, "er_mean": 6125.614938866685, "failure_count": 0, "mean_delta": 750.4812842653187, "missing_count": 0, "native_ci_lower": 5109.276865756126, "native_ci_upper": 5755.156866194887, "native_mean": 5375.133654601366, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03904656319290465, "ci_upper": 0.127029933481153, "delta_ci_lower": 0.03904656319290465, "delta_ci_upper": 0.127029933481153, "er_ci_lower": 0.14125369549150038, "er_ci_upper": 0.25196218280364624, "er_mean": 0.1956639566395664, "failure_count": 0, "mean_delta": 0.08262133530426213, "missing_count": 30, "native_ci_lower": 0.07008474993840848, "native_ci_upper": 0.1588845158906134, "native_mean": 0.11304262133530425, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03904656319290465, "ci_upper": 0.127029933481153, "delta_ci_lower": 0.03904656319290465, "delta_ci_upper": 0.127029933481153, "er_ci_lower": 0.14125369549150038, "er_ci_upper": 0.25196218280364624, "er_mean": 0.1956639566395664, "failure_count": 0, "mean_delta": 0.08262133530426213, "missing_count": 30, "native_ci_lower": 0.07008474993840848, "native_ci_upper": 0.1588845158906134, "native_mean": 0.11304262133530425, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03904656319290465, "ci_upper": 0.127029933481153, "delta_ci_lower": 0.03904656319290465, "delta_ci_upper": 0.127029933481153, "er_ci_lower": 0.14125369549150038, "er_ci_upper": 0.25196218280364624, "er_mean": 0.1956639566395664, "failure_count": 0, "mean_delta": 0.08262133530426213, "missing_count": 30, "native_ci_lower": 0.07008474993840848, "native_ci_upper": 0.1588845158906134, "native_mean": 0.11304262133530425, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03904656319290465, "ci_upper": 0.127029933481153, "delta_ci_lower": 0.03904656319290465, "delta_ci_upper": 0.127029933481153, "er_ci_lower": 0.14125369549150038, "er_ci_upper": 0.25196218280364624, "er_mean": 0.1956639566395664, "failure_count": 0, "mean_delta": 0.08262133530426213, "missing_count": 30, "native_ci_lower": 0.07008474993840848, "native_ci_upper": 0.1588845158906134, "native_mean": 0.11304262133530425, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.008840063017855067, "ci_upper": 0.18621042906601315, "delta_ci_lower": 0.008840063017855067, "delta_ci_upper": 0.18621042906601315, "er_ci_lower": 0.15136733185513673, "er_ci_upper": 0.3120473022912047, "er_mean": 0.23068736141906873, "failure_count": 0, "mean_delta": 0.09759209553818025, "missing_count": 30, "native_ci_lower": 0.07237250554323725, "native_ci_upper": 0.1981670362158167, "native_mean": 0.13309526588088846, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.15833333333333333, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.15833333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.43333333333333335, "er_mean": 0.3666666666666667, "failure_count": 0, "mean_delta": 0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.22499999999999998, "native_ci_upper": 0.3416666666666667, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -755.628912399867, "ci_upper": 621.8448707034255, "delta_ci_lower": -755.628912399867, "delta_ci_upper": 621.8448707034255, "er_ci_lower": 40753.08725444415, "er_ci_upper": 41902.86537312738, "er_mean": 41332.47017427736, "failure_count": 0, "mean_delta": -53.68165348675879, "missing_count": 0, "native_ci_lower": 40813.57040004467, "native_ci_upper": 41961.25290083918, "native_mean": 41386.151827764115, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -101.15562499999994, "ci_upper": 91.34166666666667, "delta_ci_lower": -101.15562499999994, "delta_ci_upper": 91.34166666666667, "er_ci_lower": 5804.632083333333, "er_ci_upper": 5953.433541666667, "er_mean": 5879.433333333333, "failure_count": 0, "mean_delta": -2.8166666666666687, "missing_count": 0, "native_ci_lower": 5805.391041666667, "native_ci_upper": 5958.333750000001, "native_mean": 5882.25, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555556, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555556, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555556, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.59604166666662, "ci_upper": 91.81020833333329, "delta_ci_lower": -91.59604166666662, "delta_ci_upper": 91.81020833333329, "er_ci_lower": 5470.223541666667, "er_ci_upper": 5605.017291666666, "er_mean": 5537.833333333334, "failure_count": 0, "mean_delta": 1.2250000000000008, "missing_count": 0, "native_ci_lower": 5466.049791666666, "native_ci_upper": 5606.953333333334, "native_mean": 5536.608333333334, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.5555555555555555, "er_ci_upper": 0.7333333333333334, "er_mean": 0.6444444444444445, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222223, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.011111111111111108, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.2333333333333333, "er_ci_upper": 0.40740740740740744, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037037, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.33888888888888885, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.011111111111111108, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.2333333333333333, "er_ci_upper": 0.40740740740740744, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037037, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.33888888888888885, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.011111111111111108, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.2333333333333333, "er_ci_upper": 0.40740740740740744, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037037, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.33888888888888885, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.011111111111111108, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111108, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.2333333333333333, "er_ci_upper": 0.40740740740740744, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037037, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.33888888888888885, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2333333333333333, "er_ci_lower": 0.2888888888888889, "er_ci_upper": 0.48888888888888893, "er_mean": 0.38888888888888884, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2333333333333333, "er_ci_lower": 0.2888888888888889, "er_ci_upper": 0.48888888888888893, "er_mean": 0.38888888888888884, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2333333333333333, "er_ci_lower": 0.2888888888888889, "er_ci_upper": 0.48888888888888893, "er_mean": 0.38888888888888884, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2333333333333333, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2333333333333333, "er_ci_lower": 0.2888888888888889, "er_ci_upper": 0.48888888888888893, "er_mean": 0.38888888888888884, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 355.8329126011814, "ci_upper": 842.510653020363, "delta_ci_lower": 355.8329126011814, "delta_ci_upper": 842.510653020363, "er_ci_lower": 5509.5491275928125, "er_ci_upper": 6226.075410702421, "er_mean": 5841.95291250168, "failure_count": 0, "mean_delta": 578.7013395805843, "missing_count": 0, "native_ci_lower": 5046.812993837205, "native_ci_upper": 5563.935274897401, "native_mean": 5263.251572921096, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666665, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666665, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666665, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666665, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.004385964912280704, "ci_upper": 0.17105263157894737, "delta_ci_lower": 0.004385964912280704, "delta_ci_upper": 0.17105263157894737, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.29444444444444445, "er_mean": 0.21666666666666667, "failure_count": 0, "mean_delta": 0.08771929824561404, "missing_count": 30, "native_ci_lower": 0.06900584795321636, "native_ci_upper": 0.1912280701754386, "native_mean": 0.12894736842105262, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.15833333333333333, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.15833333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.43333333333333335, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.3416666666666667, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -755.628912399867, "ci_upper": 621.8448707034256, "delta_ci_lower": -755.628912399867, "delta_ci_upper": 621.8448707034256, "er_ci_lower": 40753.08725444415, "er_ci_upper": 41902.86537312737, "er_mean": 41332.470174277354, "failure_count": 0, "mean_delta": -53.68165348675878, "missing_count": 0, "native_ci_lower": 40813.57040004467, "native_ci_upper": 41961.25290083917, "native_mean": 41386.151827764115, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -101.15562499999996, "ci_upper": 91.34166666666667, "delta_ci_lower": -101.15562499999996, "delta_ci_upper": 91.34166666666667, "er_ci_lower": 5804.632083333333, "er_ci_upper": 5953.433541666667, "er_mean": 5879.433333333333, "failure_count": 0, "mean_delta": -2.816666666666667, "missing_count": 0, "native_ci_lower": 5805.391041666667, "native_ci_upper": 5958.33375, "native_mean": 5882.25, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.59604166666662, "ci_upper": 91.8102083333333, "delta_ci_lower": -91.59604166666662, "delta_ci_upper": 91.8102083333333, "er_ci_lower": 5470.223541666667, "er_ci_upper": 5605.017291666666, "er_mean": 5537.833333333333, "failure_count": 0, "mean_delta": 1.225, "missing_count": 0, "native_ci_lower": 5466.049791666666, "native_ci_upper": 5606.953333333333, "native_mean": 5536.608333333334, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.5555555555555556, "er_ci_upper": 0.7333333333333333, "er_mean": 0.6444444444444445, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222222, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.011111111111111112, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4074074074074074, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037036, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3388888888888889, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4074074074074074, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037036, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3388888888888889, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4074074074074074, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037036, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3388888888888889, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4074074074074074, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037036, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3388888888888889, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.28888888888888886, "er_ci_upper": 0.4888888888888889, "er_mean": 0.3888888888888889, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.34444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.28888888888888886, "er_ci_upper": 0.4888888888888889, "er_mean": 0.3888888888888889, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.34444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.28888888888888886, "er_ci_upper": 0.4888888888888889, "er_mean": 0.3888888888888889, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.34444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.28888888888888886, "er_ci_upper": 0.4888888888888889, "er_mean": 0.3888888888888889, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.34444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 355.8329126011814, "ci_upper": 842.510653020363, "delta_ci_lower": 355.8329126011814, "delta_ci_upper": 842.510653020363, "er_ci_lower": 5509.5491275928125, "er_ci_upper": 6226.075410702421, "er_mean": 5841.952912501681, "failure_count": 0, "mean_delta": 578.7013395805843, "missing_count": 0, "native_ci_lower": 5046.812993837205, "native_ci_upper": 5563.9352748974, "native_mean": 5263.251572921096, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0043859649122807015, "ci_upper": 0.17105263157894737, "delta_ci_lower": 0.0043859649122807015, "delta_ci_upper": 0.17105263157894737, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.29444444444444445, "er_mean": 0.21666666666666667, "failure_count": 0, "mean_delta": 0.08771929824561403, "missing_count": 30, "native_ci_lower": 0.06900584795321638, "native_ci_upper": 0.19122807017543858, "native_mean": 0.12894736842105262, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": 0.015124543557642176, "ci_upper": 0.1752647365675534, "delta_ci_lower": 0.015124543557642176, "delta_ci_upper": 0.1752647365675534, "er_ci_lower": 0.22511443661971833, "er_ci_upper": 0.37024843505477295, "er_mean": 0.2963354199269692, "failure_count": 0, "mean_delta": 0.09507042253521127, "missing_count": 0, "native_ci_lower": 0.14413145539906103, "native_ci_upper": 0.26296296296296295, "native_mean": 0.20126499739175796, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -603.2578264414616, "ci_upper": 875.3507936849023, "delta_ci_lower": -603.2578264414616, "delta_ci_upper": 875.3507936849023, "er_ci_lower": 40750.94010141395, "er_ci_upper": 42037.26870817173, "er_mean": 41393.68229490895, "failure_count": 0, "mean_delta": 139.69307516302356, "missing_count": 0, "native_ci_lower": 40622.55474416604, "native_ci_upper": 41897.184120441816, "native_mean": 41253.98921974593, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -77.8601040036515, "ci_upper": 127.2379926317162, "delta_ci_lower": -77.8601040036515, "delta_ci_upper": 127.2379926317162, "er_ci_lower": 5796.226518648931, "er_ci_upper": 5959.5006791210235, "er_mean": 5877.478651538863, "failure_count": 0, "mean_delta": 25.66614501825769, "missing_count": 0, "native_ci_lower": 5767.5291409102765, "native_ci_upper": 5937.201668948879, "native_mean": 5851.812506520605, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.012653362897265335, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05519586104951959, "native_mean": 0.021271249076127124, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.012653362897265335, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05519586104951959, "native_mean": 0.021271249076127124, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.012653362897265335, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05519586104951959, "native_mean": 0.021271249076127124, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -74.82944281429317, "ci_upper": 119.09329355764213, "delta_ci_lower": -74.82944281429317, "delta_ci_upper": 119.09329355764213, "er_ci_lower": 5462.125210615545, "er_ci_upper": 5609.534061358894, "er_mean": 5535.465193009912, "failure_count": 0, "mean_delta": 23.08544600938967, "missing_count": 0, "native_ci_lower": 5435.564612350026, "native_ci_upper": 5589.699857198748, "native_mean": 5512.379747000522, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.09831633407243164, "ci_upper": 0.11254988913525497, "delta_ci_lower": -0.09831633407243164, "delta_ci_upper": 0.11254988913525497, "er_ci_lower": 0.5229575018477458, "er_ci_upper": 0.7189652623798964, "er_mean": 0.6206947524020695, "failure_count": 0, "mean_delta": 0.006844050258684403, "missing_count": 30, "native_ci_lower": 0.5178861788617886, "native_ci_upper": 0.7092682926829268, "native_mean": 0.6138507021433851, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.006089430894308951, "ci_upper": 0.16305875831485583, "delta_ci_lower": 0.006089430894308951, "delta_ci_upper": 0.16305875831485583, "er_ci_lower": 0.23747875092387288, "er_ci_upper": 0.41822862774082287, "er_mean": 0.3269376693766938, "failure_count": 0, "mean_delta": 0.08353042621335303, "missing_count": 30, "native_ci_lower": 0.1563340724316334, "native_ci_upper": 0.33221101256467106, "native_mean": 0.2434072431633407, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.006089430894308951, "ci_upper": 0.16305875831485583, "delta_ci_lower": 0.006089430894308951, "delta_ci_upper": 0.16305875831485583, "er_ci_lower": 0.23747875092387288, "er_ci_upper": 0.41822862774082287, "er_mean": 0.3269376693766938, "failure_count": 0, "mean_delta": 0.08353042621335303, "missing_count": 30, "native_ci_lower": 0.1563340724316334, "native_ci_upper": 0.33221101256467106, "native_mean": 0.2434072431633407, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.006089430894308951, "ci_upper": 0.16305875831485583, "delta_ci_lower": 0.006089430894308951, "delta_ci_upper": 0.16305875831485583, "er_ci_lower": 0.23747875092387288, "er_ci_upper": 0.41822862774082287, "er_mean": 0.3269376693766938, "failure_count": 0, "mean_delta": 0.08353042621335303, "missing_count": 30, "native_ci_lower": 0.1563340724316334, "native_ci_upper": 0.33221101256467106, "native_mean": 0.2434072431633407, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.006089430894308951, "ci_upper": 0.16305875831485583, "delta_ci_lower": 0.006089430894308951, "delta_ci_upper": 0.16305875831485583, "er_ci_lower": 0.23747875092387288, "er_ci_upper": 0.41822862774082287, "er_mean": 0.3269376693766938, "failure_count": 0, "mean_delta": 0.08353042621335303, "missing_count": 30, "native_ci_lower": 0.1563340724316334, "native_ci_upper": 0.33221101256467106, "native_mean": 0.2434072431633407, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.054589800443458986, "ci_upper": 0.23796008869179602, "delta_ci_lower": 0.054589800443458986, "delta_ci_upper": 0.23796008869179602, "er_ci_lower": 0.2925635624538063, "er_ci_upper": 0.49315705838876567, "er_mean": 0.39197339246119733, "failure_count": 0, "mean_delta": 0.14425720620842572, "missing_count": 30, "native_ci_lower": 0.16032520325203253, "native_ci_upper": 0.33677753141167777, "native_mean": 0.24771618625277161, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.054589800443458986, "ci_upper": 0.23796008869179602, "delta_ci_lower": 0.054589800443458986, "delta_ci_upper": 0.23796008869179602, "er_ci_lower": 0.2925635624538063, "er_ci_upper": 0.49315705838876567, "er_mean": 0.39197339246119733, "failure_count": 0, "mean_delta": 0.14425720620842572, "missing_count": 30, "native_ci_lower": 0.16032520325203253, "native_ci_upper": 0.33677753141167777, "native_mean": 0.24771618625277161, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.054589800443458986, "ci_upper": 0.23796008869179602, "delta_ci_lower": 0.054589800443458986, "delta_ci_upper": 0.23796008869179602, "er_ci_lower": 0.2925635624538063, "er_ci_upper": 0.49315705838876567, "er_mean": 0.39197339246119733, "failure_count": 0, "mean_delta": 0.14425720620842572, "missing_count": 30, "native_ci_lower": 0.16032520325203253, "native_ci_upper": 0.33677753141167777, "native_mean": 0.24771618625277161, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.054589800443458986, "ci_upper": 0.23796008869179602, "delta_ci_lower": 0.054589800443458986, "delta_ci_upper": 0.23796008869179602, "er_ci_lower": 0.2925635624538063, "er_ci_upper": 0.49315705838876567, "er_mean": 0.39197339246119733, "failure_count": 0, "mean_delta": 0.14425720620842572, "missing_count": 30, "native_ci_lower": 0.16032520325203253, "native_ci_upper": 0.33677753141167777, "native_mean": 0.24771618625277161, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 466.14282054628495, "ci_upper": 1085.9342614522848, "delta_ci_lower": 466.14282054628495, "delta_ci_upper": 1085.9342614522848, "er_ci_lower": 5704.653264722998, "er_ci_upper": 6608.805200708022, "er_mean": 6125.614938866685, "failure_count": 0, "mean_delta": 750.4812842653187, "missing_count": 0, "native_ci_lower": 5109.276865756126, "native_ci_upper": 5755.156866194887, "native_mean": 5375.133654601366, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03904656319290465, "ci_upper": 0.127029933481153, "delta_ci_lower": 0.03904656319290465, "delta_ci_upper": 0.127029933481153, "er_ci_lower": 0.14125369549150038, "er_ci_upper": 0.25196218280364624, "er_mean": 0.1956639566395664, "failure_count": 0, "mean_delta": 0.08262133530426213, "missing_count": 30, "native_ci_lower": 0.07008474993840848, "native_ci_upper": 0.1588845158906134, "native_mean": 0.11304262133530425, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03904656319290465, "ci_upper": 0.127029933481153, "delta_ci_lower": 0.03904656319290465, "delta_ci_upper": 0.127029933481153, "er_ci_lower": 0.14125369549150038, "er_ci_upper": 0.25196218280364624, "er_mean": 0.1956639566395664, "failure_count": 0, "mean_delta": 0.08262133530426213, "missing_count": 30, "native_ci_lower": 0.07008474993840848, "native_ci_upper": 0.1588845158906134, "native_mean": 0.11304262133530425, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03904656319290465, "ci_upper": 0.127029933481153, "delta_ci_lower": 0.03904656319290465, "delta_ci_upper": 0.127029933481153, "er_ci_lower": 0.14125369549150038, "er_ci_upper": 0.25196218280364624, "er_mean": 0.1956639566395664, "failure_count": 0, "mean_delta": 0.08262133530426213, "missing_count": 30, "native_ci_lower": 0.07008474993840848, "native_ci_upper": 0.1588845158906134, "native_mean": 0.11304262133530425, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03904656319290465, "ci_upper": 0.127029933481153, "delta_ci_lower": 0.03904656319290465, "delta_ci_upper": 0.127029933481153, "er_ci_lower": 0.14125369549150038, "er_ci_upper": 0.25196218280364624, "er_mean": 0.1956639566395664, "failure_count": 0, "mean_delta": 0.08262133530426213, "missing_count": 30, "native_ci_lower": 0.07008474993840848, "native_ci_upper": 0.1588845158906134, "native_mean": 0.11304262133530425, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.008840063017855067, "ci_upper": 0.18621042906601315, "delta_ci_lower": 0.008840063017855067, "delta_ci_upper": 0.18621042906601315, "er_ci_lower": 0.15136733185513673, "er_ci_upper": 0.3120473022912047, "er_mean": 0.23068736141906873, "failure_count": 0, "mean_delta": 0.09759209553818025, "missing_count": 30, "native_ci_lower": 0.07237250554323725, "native_ci_upper": 0.1981670362158167, "native_mean": 0.13309526588088846, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -433.47465468405653, "ci_upper": 2407.780419482442, "delta_ci_lower": -433.47465468405653, "delta_ci_upper": 2407.780419482442, "er_ci_lower": 40496.89934536873, "er_ci_upper": 43192.701802263226, "er_mean": 41865.34691938044, "failure_count": 0, "mean_delta": 976.1871208359177, "missing_count": 0, "native_ci_lower": 39664.52908450874, "native_ci_upper": 42164.66559797439, "native_mean": 40889.15979854452, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -57.20166666666666, "ci_upper": 326.8033333333333, "delta_ci_lower": -57.20166666666666, "delta_ci_upper": 326.8033333333333, "er_ci_lower": 5720.464999999999, "er_ci_upper": 6051.2675, "er_mean": 5889.866666666667, "failure_count": 0, "mean_delta": 131.56666666666666, "missing_count": 0, "native_ci_lower": 5589.930833333333, "native_ci_upper": 5932.266666666666, "native_mean": 5758.3, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -54.43833333333328, "ci_upper": 294.30083333333334, "delta_ci_lower": -54.43833333333328, "delta_ci_upper": 294.30083333333334, "er_ci_lower": 5393.329166666666, "er_ci_upper": 5688.8741666666665, "er_mean": 5544.033333333334, "failure_count": 0, "mean_delta": 116.23333333333333, "missing_count": 0, "native_ci_lower": 5280.123333333334, "native_ci_upper": 5580.933333333333, "native_mean": 5427.8, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.43333333333333335, "er_ci_upper": 0.7666666666666667, "er_mean": 0.6, "failure_count": 0, "mean_delta": -0.1, "missing_count": 0, "native_ci_lower": 0.5333333333333333, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.027777777777777776, "ci_upper": 0.21666666666666667, "delta_ci_lower": 0.027777777777777776, "delta_ci_upper": 0.21666666666666667, "er_ci_lower": 0.21666666666666667, "er_ci_upper": 0.55, "er_mean": 0.3777777777777778, "failure_count": 0, "mean_delta": 0.11111111111111112, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.027777777777777776, "ci_upper": 0.21666666666666667, "delta_ci_lower": 0.027777777777777776, "delta_ci_upper": 0.21666666666666667, "er_ci_lower": 0.21666666666666667, "er_ci_upper": 0.55, "er_mean": 0.3777777777777778, "failure_count": 0, "mean_delta": 0.11111111111111112, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.027777777777777776, "ci_upper": 0.21666666666666667, "delta_ci_lower": 0.027777777777777776, "delta_ci_upper": 0.21666666666666667, "er_ci_lower": 0.21666666666666667, "er_ci_upper": 0.55, "er_mean": 0.3777777777777778, "failure_count": 0, "mean_delta": 0.11111111111111112, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.027777777777777776, "ci_upper": 0.21666666666666667, "delta_ci_lower": 0.027777777777777776, "delta_ci_upper": 0.21666666666666667, "er_ci_lower": 0.21666666666666667, "er_ci_upper": 0.55, "er_mean": 0.3777777777777778, "failure_count": 0, "mean_delta": 0.11111111111111112, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.3, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.3, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.3, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.3, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 332.901966557547, "ci_upper": 915.0470182690575, "delta_ci_lower": 332.901966557547, "delta_ci_upper": 915.0470182690575, "er_ci_lower": 5348.895238207382, "er_ci_upper": 6262.326916185945, "er_mean": 5777.581288851798, "failure_count": 0, "mean_delta": 603.7834442802705, "missing_count": 0, "native_ci_lower": 4892.113907096985, "native_ci_upper": 5475.040902008671, "native_mean": 5173.797844571527, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03888888888888888, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.03888888888888888, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.35, "er_mean": 0.2388888888888889, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.05555555555555555, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1388888888888889, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03888888888888888, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.03888888888888888, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.35, "er_mean": 0.2388888888888889, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.05555555555555555, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1388888888888889, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03888888888888888, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.03888888888888888, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.35, "er_mean": 0.2388888888888889, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.05555555555555555, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1388888888888889, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03888888888888888, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.03888888888888888, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.35, "er_mean": 0.2388888888888889, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.05555555555555555, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1388888888888889, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "inference": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.3333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.3333333333333333, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1463.1165065484429, "ci_upper": 1362.1603494700196, "delta_ci_lower": -1463.1165065484429, "delta_ci_upper": 1362.1603494700196, "er_ci_lower": 39909.165874538594, "er_ci_upper": 42137.2563445927, "er_mean": 41021.7946957564, "failure_count": 0, "mean_delta": -80.7181056550083, "missing_count": 0, "native_ci_lower": 39997.14045956518, "native_ci_upper": 42198.00036730061, "native_mean": 41102.51280141141, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -192.6358333333333, "ci_upper": 205.13833333333326, "delta_ci_lower": -192.6358333333333, "delta_ci_upper": 205.13833333333326, "er_ci_lower": 5703.5841666666665, "er_ci_upper": 5999.135, "er_mean": 5852.1, "failure_count": 0, "mean_delta": 1.9666666666666666, "missing_count": 0, "native_ci_lower": 5693.128333333333, "native_ci_upper": 6007.534166666667, "native_mean": 5850.133333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -194.93583333333333, "ci_upper": 183.33833333333328, "delta_ci_lower": -194.93583333333333, "delta_ci_upper": 183.33833333333328, "er_ci_lower": 5385.333333333333, "er_ci_upper": 5654.435, "er_mean": 5519.8, "failure_count": 0, "mean_delta": -7.8, "missing_count": 0, "native_ci_lower": 5381.766666666666, "native_ci_upper": 5673.735, "native_mean": 5527.6, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.3, "delta_ci_lower": -0.1, "delta_ci_upper": 0.3, "er_ci_lower": 0.3, "er_ci_upper": 0.6333333333333333, "er_mean": 0.4666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.48333333333333334, "er_mean": 0.31666666666666665, "failure_count": 0, "mean_delta": 0.15, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.48333333333333334, "er_mean": 0.31666666666666665, "failure_count": 0, "mean_delta": 0.15, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.48333333333333334, "er_mean": 0.31666666666666665, "failure_count": 0, "mean_delta": 0.15, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.48333333333333334, "er_mean": 0.31666666666666665, "failure_count": 0, "mean_delta": 0.15, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.06666666666666667, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.36666666666666664, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.2, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.06666666666666667, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.36666666666666664, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.2, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.06666666666666667, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.36666666666666664, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.2, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.06666666666666667, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.36666666666666664, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.2, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 998.024470761981, "ci_upper": 2791.8065560373348, "delta_ci_lower": 998.024470761981, "delta_ci_upper": 2791.8065560373348, "er_ci_lower": 6107.949065475064, "er_ci_upper": 8743.421441256458, "er_mean": 7294.3512000221135, "failure_count": 0, "mean_delta": 1801.5770390241717, "missing_count": 0, "native_ci_lower": 4781.898261449629, "native_ci_upper": 6563.491861164705, "native_mean": 5492.774160997942, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.030555555555555555, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.030555555555555555, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.075, "er_ci_upper": 0.225, "er_mean": 0.14722222222222223, "failure_count": 0, "mean_delta": 0.09166666666666666, "missing_count": 0, "native_ci_lower": 0.01111111111111111, "native_ci_upper": 0.10555555555555556, "native_mean": 0.05555555555555555, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.030555555555555555, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.030555555555555555, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.075, "er_ci_upper": 0.225, "er_mean": 0.14722222222222223, "failure_count": 0, "mean_delta": 0.09166666666666666, "missing_count": 0, "native_ci_lower": 0.01111111111111111, "native_ci_upper": 0.10555555555555556, "native_mean": 0.05555555555555555, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.030555555555555555, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.030555555555555555, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.075, "er_ci_upper": 0.225, "er_mean": 0.14722222222222223, "failure_count": 0, "mean_delta": 0.09166666666666666, "missing_count": 0, "native_ci_lower": 0.01111111111111111, "native_ci_upper": 0.10555555555555556, "native_mean": 0.05555555555555555, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.030555555555555555, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.030555555555555555, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.075, "er_ci_upper": 0.225, "er_mean": 0.14722222222222223, "failure_count": 0, "mean_delta": 0.09166666666666666, "missing_count": 0, "native_ci_lower": 0.01111111111111111, "native_ci_upper": 0.10555555555555556, "native_mean": 0.05555555555555555, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.07017543859649122, "ci_upper": 0.3333333333333333, "delta_ci_lower": -0.07017543859649122, "delta_ci_upper": 0.3333333333333333, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.6333333333333333, "er_mean": 0.45, "failure_count": 0, "mean_delta": 0.1298245614035088, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.48684210526315785, "native_mean": 0.3201754385964912, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "temporal": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1739.1318914017754, "ci_upper": 1155.2819873598244, "delta_ci_lower": -1739.1318914017754, "delta_ci_upper": 1155.2819873598244, "er_ci_lower": 40249.66621916101, "er_ci_upper": 42587.27872757261, "er_mean": 41405.907969456166, "failure_count": 0, "mean_delta": -278.46034303850803, "missing_count": 0, "native_ci_lower": 40427.1227358953, "native_ci_upper": 42962.43643153963, "native_mean": 41684.36831249468, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -211.66916666666665, "ci_upper": 184.37333333333322, "delta_ci_lower": -211.66916666666665, "delta_ci_upper": 184.37333333333322, "er_ci_lower": 5744.066666666667, "er_ci_upper": 6040.801666666667, "er_mean": 5891.1, "failure_count": 0, "mean_delta": -17.866666666666667, "missing_count": 0, "native_ci_lower": 5753.498333333333, "native_ci_upper": 6060.035, "native_mean": 5908.966666666666, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -199.00416666666663, "ci_upper": 187.40166666666664, "delta_ci_lower": -199.00416666666663, "delta_ci_upper": 187.40166666666664, "er_ci_lower": 5406.3983333333335, "er_ci_upper": 5670.335, "er_mean": 5537.1, "failure_count": 0, "mean_delta": -10.5, "missing_count": 0, "native_ci_lower": 5404.599166666667, "native_ci_upper": 5688.934166666667, "native_mean": 5547.6, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.7, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.21666666666666667, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.21666666666666667, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.05, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.48333333333333334, "native_mean": 0.31666666666666665, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.21666666666666667, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.21666666666666667, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.05, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.48333333333333334, "native_mean": 0.31666666666666665, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.21666666666666667, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.21666666666666667, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.05, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.48333333333333334, "native_mean": 0.31666666666666665, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.21666666666666667, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.21666666666666667, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.05, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.48333333333333334, "native_mean": 0.31666666666666665, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -276.3789054441925, "ci_upper": -34.13183408925164, "delta_ci_lower": -276.3789054441925, "delta_ci_upper": -34.13183408925164, "er_ci_lower": 5651.802111393189, "er_ci_upper": 6136.817151410893, "er_mean": 5887.276573642157, "failure_count": 0, "mean_delta": -146.94410264492035, "missing_count": 0, "native_ci_lower": 5748.110679638921, "native_ci_upper": 6346.358297526991, "native_mean": 6034.220676287077, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.0611111111111111, "ci_upper": 0.15, "delta_ci_lower": -0.0611111111111111, "delta_ci_upper": 0.15, "er_ci_lower": 0.10555555555555556, "er_ci_upper": 0.3055555555555555, "er_mean": 0.2, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.25, "native_mean": 0.15555555555555553, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.0611111111111111, "ci_upper": 0.15, "delta_ci_lower": -0.0611111111111111, "delta_ci_upper": 0.15, "er_ci_lower": 0.10555555555555556, "er_ci_upper": 0.3055555555555555, "er_mean": 0.2, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.25, "native_mean": 0.15555555555555553, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.0611111111111111, "ci_upper": 0.15, "delta_ci_lower": -0.0611111111111111, "delta_ci_upper": 0.15, "er_ci_lower": 0.10555555555555556, "er_ci_upper": 0.3055555555555555, "er_mean": 0.2, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.25, "native_mean": 0.15555555555555553, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.0611111111111111, "ci_upper": 0.15, "delta_ci_lower": -0.0611111111111111, "delta_ci_upper": 0.15, "er_ci_lower": 0.10555555555555556, "er_ci_upper": 0.3055555555555555, "er_mean": 0.2, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.25, "native_mean": 0.15555555555555553, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "unanswerable": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2079.5014366006944, "ci_upper": 453.199660461784, "delta_ci_lower": -2079.5014366006944, "delta_ci_upper": 453.199660461784, "er_ci_lower": 40129.55952138135, "er_ci_upper": 41935.834714309894, "er_mean": 41036.831112516425, "failure_count": 0, "mean_delta": -831.7352860894365, "missing_count": 0, "native_ci_lower": 40969.91729311635, "native_ci_upper": 42774.35450321587, "native_mean": 41868.56639860586, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -310.0041666666666, "ci_upper": 62.07416666666656, "delta_ci_lower": -310.0041666666666, "delta_ci_upper": 62.07416666666656, "er_ci_lower": 5753.755, "er_ci_upper": 6013.136666666666, "er_mean": 5884.666666666667, "failure_count": 0, "mean_delta": -126.93333333333334, "missing_count": 0, "native_ci_lower": 5885.726666666667, "native_ci_upper": 6139.0391666666665, "native_mean": 6011.6, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "context_token_count": { "ci_lower": -264.8733333333333, "ci_upper": 86.67499999999988, "delta_ci_lower": -264.8733333333333, "delta_ci_upper": 86.67499999999988, "er_ci_lower": 5430.8308333333325, "er_ci_upper": 5668.134166666667, "er_mean": 5550.4, "failure_count": 0, "mean_delta": -93.03333333333333, "missing_count": 0, "native_ci_lower": 5523.7325, "native_ci_upper": 5764.333333333333, "native_mean": 5643.433333333333, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_latency_ms": { "ci_lower": 0.6035193855253488, "ci_upper": 127.42223735384563, "delta_ci_lower": 0.6035193855253488, "delta_ci_upper": 127.42223735384563, "er_ci_lower": 4269.878751568225, "er_ci_upper": 4537.731462228694, "er_mean": 4408.602587490653, "failure_count": 0, "mean_delta": 56.3889776628154, "missing_count": 0, "native_ci_lower": 4217.558040168951, "native_ci_upper": 4482.442404047858, "native_mean": 4352.213609827838, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "metrics": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.15833333333333333, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.15833333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.43333333333333335, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.3416666666666667, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -755.628912399867, "ci_upper": 621.8448707034256, "delta_ci_lower": -755.628912399867, "delta_ci_upper": 621.8448707034256, "er_ci_lower": 40753.08725444415, "er_ci_upper": 41902.86537312737, "er_mean": 41332.470174277354, "failure_count": 0, "mean_delta": -53.68165348675878, "missing_count": 0, "native_ci_lower": 40813.57040004467, "native_ci_upper": 41961.25290083917, "native_mean": 41386.151827764115, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -101.15562499999996, "ci_upper": 91.34166666666667, "delta_ci_lower": -101.15562499999996, "delta_ci_upper": 91.34166666666667, "er_ci_lower": 5804.632083333333, "er_ci_upper": 5953.433541666667, "er_mean": 5879.433333333333, "failure_count": 0, "mean_delta": -2.816666666666667, "missing_count": 0, "native_ci_lower": 5805.391041666667, "native_ci_upper": 5958.33375, "native_mean": 5882.25, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.59604166666662, "ci_upper": 91.8102083333333, "delta_ci_lower": -91.59604166666662, "delta_ci_upper": 91.8102083333333, "er_ci_lower": 5470.223541666667, "er_ci_upper": 5605.017291666666, "er_mean": 5537.833333333333, "failure_count": 0, "mean_delta": 1.225, "missing_count": 0, "native_ci_lower": 5466.049791666666, "native_ci_upper": 5606.953333333333, "native_mean": 5536.608333333334, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.5555555555555556, "er_ci_upper": 0.7333333333333333, "er_mean": 0.6444444444444445, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222222, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.011111111111111112, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4074074074074074, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037036, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3388888888888889, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4074074074074074, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037036, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3388888888888889, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4074074074074074, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037036, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3388888888888889, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.15185185185185185, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.15185185185185185, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4074074074074074, "er_mean": 0.32037037037037036, "failure_count": 0, "mean_delta": 0.07037037037037036, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.3388888888888889, "native_mean": 0.25, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.28888888888888886, "er_ci_upper": 0.4888888888888889, "er_mean": 0.3888888888888889, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.34444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.28888888888888886, "er_ci_upper": 0.4888888888888889, "er_mean": 0.3888888888888889, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.34444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.28888888888888886, "er_ci_upper": 0.4888888888888889, "er_mean": 0.3888888888888889, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.34444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.28888888888888886, "er_ci_upper": 0.4888888888888889, "er_mean": 0.3888888888888889, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 30, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.34444444444444444, "native_mean": 0.25555555555555554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 355.8329126011814, "ci_upper": 842.510653020363, "delta_ci_lower": 355.8329126011814, "delta_ci_upper": 842.510653020363, "er_ci_lower": 5509.5491275928125, "er_ci_upper": 6226.075410702421, "er_mean": 5841.952912501681, "failure_count": 0, "mean_delta": 578.7013395805843, "missing_count": 0, "native_ci_lower": 5046.812993837205, "native_ci_upper": 5563.9352748974, "native_mean": 5263.251572921096, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.032407407407407406, "ci_upper": 0.125, "delta_ci_lower": 0.032407407407407406, "delta_ci_upper": 0.125, "er_ci_lower": 0.14166666666666666, "er_ci_upper": 0.2518518518518518, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.0787037037037037, "missing_count": 30, "native_ci_lower": 0.07407407407407407, "native_ci_upper": 0.16296296296296295, "native_mean": 0.11666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0043859649122807015, "ci_upper": 0.17105263157894737, "delta_ci_lower": 0.0043859649122807015, "delta_ci_upper": 0.17105263157894737, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.29444444444444445, "er_mean": 0.21666666666666667, "failure_count": 0, "mean_delta": 0.08771929824561403, "missing_count": 30, "native_ci_lower": 0.06900584795321638, "native_ci_upper": 0.19122807017543858, "native_mean": 0.12894736842105262, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "paired_question_count": 120, "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_6ff2fb588647938593c42b5a", "builder_key": "qwen35_2b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "er_ci_lower": 0.27499999999999997, "er_ci_upper": 0.41666666666666663, "er_mean": 0.3416666666666667, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.3333333333333333, "native_mean": 0.26666666666666666, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1003.8489016120487, "ci_upper": 310.59857510384353, "delta_ci_lower": -1003.8489016120487, "delta_ci_upper": 310.59857510384353, "er_ci_lower": 40059.976913758146, "er_ci_upper": 41038.852672963934, "er_mean": 40557.29525103234, "failure_count": 0, "mean_delta": -342.39385250548366, "missing_count": 0, "native_ci_lower": 40338.10420836458, "native_ci_upper": 41453.173268402825, "native_mean": 40899.68910353782, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -129.50020833333332, "ci_upper": 49.82729166666664, "delta_ci_lower": -129.50020833333332, "delta_ci_upper": 49.82729166666664, "er_ci_lower": 5718.140416666666, "er_ci_upper": 5848.327499999999, "er_mean": 5784.091666666667, "failure_count": 0, "mean_delta": -39.099999999999994, "missing_count": 0, "native_ci_lower": 5749.232291666667, "native_ci_upper": 5897.727083333334, "native_mean": 5823.191666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -130.56666666666666, "ci_upper": 34.91874999999997, "delta_ci_lower": -130.56666666666666, "delta_ci_upper": 34.91874999999997, "er_ci_lower": 5410.549166666667, "er_ci_upper": 5537.625416666667, "er_mean": 5474.658333333333, "failure_count": 0, "mean_delta": -47.48333333333333, "missing_count": 0, "native_ci_lower": 5454.614375, "native_ci_upper": 5589.913541666666, "native_mean": 5522.141666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.14444444444444446, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.14444444444444446, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.5111111111111112, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5888888888888889, "failure_count": 0, "mean_delta": -0.04444444444444445, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222222, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.025925925925925925, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.025925925925925925, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481483, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.025925925925925925, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.025925925925925925, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481483, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.025925925925925925, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.025925925925925925, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481483, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.025925925925925925, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.025925925925925925, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481483, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2555555555555556, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.19999999999999998, "native_ci_upper": 0.37777777777777777, "native_mean": 0.2888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2555555555555556, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.19999999999999998, "native_ci_upper": 0.37777777777777777, "native_mean": 0.2888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2555555555555556, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.19999999999999998, "native_ci_upper": 0.37777777777777777, "native_mean": 0.2888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2555555555555556, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.19999999999999998, "native_ci_upper": 0.37777777777777777, "native_mean": 0.2888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 99.35613279276974, "ci_upper": 135.35426678279086, "delta_ci_lower": 99.35613279276974, "delta_ci_upper": 135.35426678279086, "er_ci_lower": 4954.895927178925, "er_ci_upper": 5274.953622981314, "er_mean": 5102.492640250905, "failure_count": 0, "mean_delta": 116.6961249517044, "missing_count": 0, "native_ci_lower": 4838.490769426959, "native_ci_upper": 5159.939575374495, "native_mean": 4985.796515299202, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.01018518518518518, "ci_upper": 0.07222222222222223, "delta_ci_lower": -0.01018518518518518, "delta_ci_upper": 0.07222222222222223, "er_ci_lower": 0.11203703703703703, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925924, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407405, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.01018518518518518, "ci_upper": 0.07222222222222223, "delta_ci_lower": -0.01018518518518518, "delta_ci_upper": 0.07222222222222223, "er_ci_lower": 0.11203703703703703, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925924, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407405, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.01018518518518518, "ci_upper": 0.07222222222222223, "delta_ci_lower": -0.01018518518518518, "delta_ci_upper": 0.07222222222222223, "er_ci_lower": 0.11203703703703703, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925924, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407405, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.01018518518518518, "ci_upper": 0.07222222222222223, "delta_ci_lower": -0.01018518518518518, "delta_ci_upper": 0.07222222222222223, "er_ci_lower": 0.11203703703703703, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925924, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407405, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.001926700222477083, "ci_upper": 0.17312900495345562, "delta_ci_lower": 0.001926700222477083, "delta_ci_upper": 0.17312900495345562, "er_ci_lower": 0.17329988851727982, "er_ci_upper": 0.32051282051282054, "er_mean": 0.24640777901647468, "failure_count": 0, "mean_delta": 0.08711400495567552, "missing_count": 30, "native_ci_lower": 0.09818266294968804, "native_ci_upper": 0.2244789592459843, "native_mean": 0.15929377406079914, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "er_ci_lower": 0.275, "er_ci_upper": 0.4166666666666667, "er_mean": 0.3416666666666667, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.3333333333333333, "native_mean": 0.26666666666666666, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1003.8489016120486, "ci_upper": 310.59857510384353, "delta_ci_lower": -1003.8489016120486, "delta_ci_upper": 310.59857510384353, "er_ci_lower": 40059.976913758146, "er_ci_upper": 41038.852672963934, "er_mean": 40557.29525103234, "failure_count": 0, "mean_delta": -342.39385250548366, "missing_count": 0, "native_ci_lower": 40338.10420836458, "native_ci_upper": 41453.173268402825, "native_mean": 40899.68910353782, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -129.50020833333332, "ci_upper": 49.82729166666664, "delta_ci_lower": -129.50020833333332, "delta_ci_upper": 49.82729166666664, "er_ci_lower": 5718.140416666666, "er_ci_upper": 5848.327499999999, "er_mean": 5784.091666666666, "failure_count": 0, "mean_delta": -39.1, "missing_count": 0, "native_ci_lower": 5749.232291666667, "native_ci_upper": 5897.727083333334, "native_mean": 5823.191666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -130.56666666666666, "ci_upper": 34.91874999999997, "delta_ci_lower": -130.56666666666666, "delta_ci_upper": 34.91874999999997, "er_ci_lower": 5410.549166666667, "er_ci_upper": 5537.625416666667, "er_mean": 5474.658333333334, "failure_count": 0, "mean_delta": -47.483333333333334, "missing_count": 0, "native_ci_lower": 5454.614375, "native_ci_upper": 5589.913541666667, "native_mean": 5522.141666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.14444444444444443, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.5111111111111111, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5888888888888889, "failure_count": 0, "mean_delta": -0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222222, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02592592592592593, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.02592592592592593, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481481, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02592592592592593, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.02592592592592593, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481481, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02592592592592593, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.02592592592592593, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481481, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02592592592592593, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.02592592592592593, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481481, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.25555555555555554, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.2, "native_ci_upper": 0.37777777777777777, "native_mean": 0.28888888888888886, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.25555555555555554, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.2, "native_ci_upper": 0.37777777777777777, "native_mean": 0.28888888888888886, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.25555555555555554, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.2, "native_ci_upper": 0.37777777777777777, "native_mean": 0.28888888888888886, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.25555555555555554, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.2, "native_ci_upper": 0.37777777777777777, "native_mean": 0.28888888888888886, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 99.35613279276974, "ci_upper": 135.35426678279083, "delta_ci_lower": 99.35613279276974, "delta_ci_upper": 135.35426678279083, "er_ci_lower": 4954.895927178926, "er_ci_upper": 5274.953622981314, "er_mean": 5102.492640250905, "failure_count": 0, "mean_delta": 116.6961249517044, "missing_count": 0, "native_ci_lower": 4838.490769426959, "native_ci_upper": 5159.939575374495, "native_mean": 4985.796515299201, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.010185185185185184, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.010185185185185184, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.11203703703703705, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925927, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407408, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.010185185185185184, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.010185185185185184, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.11203703703703705, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925927, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407408, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.010185185185185184, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.010185185185185184, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.11203703703703705, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925927, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407408, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.010185185185185184, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.010185185185185184, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.11203703703703705, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925927, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407408, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0019267002224770838, "ci_upper": 0.17312900495345565, "delta_ci_lower": 0.0019267002224770838, "delta_ci_upper": 0.17312900495345565, "er_ci_lower": 0.17329988851727982, "er_ci_upper": 0.32051282051282054, "er_mean": 0.24640777901647468, "failure_count": 0, "mean_delta": 0.08711400495567552, "missing_count": 30, "native_ci_lower": 0.09818266294968804, "native_ci_upper": 0.22447895924598432, "native_mean": 0.15929377406079914, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": 0.001773604590505998, "ci_upper": 0.1607850808555034, "delta_ci_lower": 0.001773604590505998, "delta_ci_upper": 0.1607850808555034, "er_ci_lower": 0.21800991131977046, "er_ci_upper": 0.36543003390714657, "er_mean": 0.290753781950965, "failure_count": 0, "mean_delta": 0.08034689619196661, "missing_count": 0, "native_ci_lower": 0.148206507563902, "native_ci_upper": 0.2755754434011476, "native_mean": 0.21040688575899844, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1025.3204466611928, "ci_upper": 410.8410938435863, "delta_ci_lower": -1025.3204466611928, "delta_ci_upper": 410.8410938435863, "er_ci_lower": 40053.76224056054, "er_ci_upper": 41185.15119765851, "er_mean": 40628.48111860495, "failure_count": 0, "mean_delta": -301.9646464399237, "missing_count": 0, "native_ci_lower": 40298.98093666653, "native_ci_upper": 41562.897264272295, "native_mean": 40930.445765044875, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -118.33192618675014, "ci_upper": 69.36230275169534, "delta_ci_lower": -118.33192618675014, "delta_ci_upper": 69.36230275169534, "er_ci_lower": 5710.674153951486, "er_ci_upper": 5859.317998826291, "er_mean": 5785.590792905581, "failure_count": 0, "mean_delta": -24.289332290036512, "missing_count": 0, "native_ci_lower": 5731.482076160668, "native_ci_upper": 5890.379273604591, "native_mean": 5809.880125195618, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.008617886178861788, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.008617886178861788, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.008617886178861788, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -124.21857785602501, "ci_upper": 50.11348526343241, "delta_ci_lower": -124.21857785602501, "delta_ci_upper": 50.11348526343241, "er_ci_lower": 5402.499995109546, "er_ci_upper": 5544.093843896713, "er_mean": 5473.5741523213355, "failure_count": 0, "mean_delta": -36.863510693792385, "missing_count": 0, "native_ci_lower": 5439.23459246218, "native_ci_upper": 5583.044050273865, "native_mean": 5510.437663015127, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.1580033259423502, "ci_upper": 0.061610125646710805, "delta_ci_lower": -0.1580033259423502, "delta_ci_upper": 0.061610125646710805, "er_ci_lower": 0.4747671840354767, "er_ci_upper": 0.6414929785661491, "er_mean": 0.5587139689578714, "failure_count": 0, "mean_delta": -0.04706577974870658, "missing_count": 30, "native_ci_lower": 0.5120916481892092, "native_ci_upper": 0.7006060606060606, "native_mean": 0.605779748706578, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.045454730229120464, "ci_upper": 0.140169992609017, "delta_ci_lower": -0.045454730229120464, "delta_ci_upper": 0.140169992609017, "er_ci_lower": 0.22321655580192173, "er_ci_upper": 0.4082557280118256, "er_mean": 0.3137694013303769, "failure_count": 0, "mean_delta": 0.046496674057649665, "missing_count": 30, "native_ci_lower": 0.17933444198078344, "native_ci_upper": 0.35921655580192163, "native_mean": 0.2672727272727273, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.045454730229120464, "ci_upper": 0.140169992609017, "delta_ci_lower": -0.045454730229120464, "delta_ci_upper": 0.140169992609017, "er_ci_lower": 0.22321655580192173, "er_ci_upper": 0.4082557280118256, "er_mean": 0.3137694013303769, "failure_count": 0, "mean_delta": 0.046496674057649665, "missing_count": 30, "native_ci_lower": 0.17933444198078344, "native_ci_upper": 0.35921655580192163, "native_mean": 0.2672727272727273, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.045454730229120464, "ci_upper": 0.140169992609017, "delta_ci_lower": -0.045454730229120464, "delta_ci_upper": 0.140169992609017, "er_ci_lower": 0.22321655580192173, "er_ci_upper": 0.4082557280118256, "er_mean": 0.3137694013303769, "failure_count": 0, "mean_delta": 0.046496674057649665, "missing_count": 30, "native_ci_lower": 0.17933444198078344, "native_ci_upper": 0.35921655580192163, "native_mean": 0.2672727272727273, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.045454730229120464, "ci_upper": 0.140169992609017, "delta_ci_lower": -0.045454730229120464, "delta_ci_upper": 0.140169992609017, "er_ci_lower": 0.22321655580192173, "er_ci_upper": 0.4082557280118256, "er_mean": 0.3137694013303769, "failure_count": 0, "mean_delta": 0.046496674057649665, "missing_count": 30, "native_ci_lower": 0.17933444198078344, "native_ci_upper": 0.35921655580192163, "native_mean": 0.2672727272727273, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.05463451589061345, "ci_upper": 0.1511160384331116, "delta_ci_lower": -0.05463451589061345, "delta_ci_upper": 0.1511160384331116, "er_ci_lower": 0.24362379896526248, "er_ci_upper": 0.43738137472283795, "er_mean": 0.3390539541759054, "failure_count": 0, "mean_delta": 0.04708056171470806, "missing_count": 30, "native_ci_lower": 0.19995565410199553, "native_ci_upper": 0.3874478935698446, "native_mean": 0.2919733924611973, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.05463451589061345, "ci_upper": 0.1511160384331116, "delta_ci_lower": -0.05463451589061345, "delta_ci_upper": 0.1511160384331116, "er_ci_lower": 0.24362379896526248, "er_ci_upper": 0.43738137472283795, "er_mean": 0.3390539541759054, "failure_count": 0, "mean_delta": 0.04708056171470806, "missing_count": 30, "native_ci_lower": 0.19995565410199553, "native_ci_upper": 0.3874478935698446, "native_mean": 0.2919733924611973, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.05463451589061345, "ci_upper": 0.1511160384331116, "delta_ci_lower": -0.05463451589061345, "delta_ci_upper": 0.1511160384331116, "er_ci_lower": 0.24362379896526248, "er_ci_upper": 0.43738137472283795, "er_mean": 0.3390539541759054, "failure_count": 0, "mean_delta": 0.04708056171470806, "missing_count": 30, "native_ci_lower": 0.19995565410199553, "native_ci_upper": 0.3874478935698446, "native_mean": 0.2919733924611973, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.05463451589061345, "ci_upper": 0.1511160384331116, "delta_ci_lower": -0.05463451589061345, "delta_ci_upper": 0.1511160384331116, "er_ci_lower": 0.24362379896526248, "er_ci_upper": 0.43738137472283795, "er_mean": 0.3390539541759054, "failure_count": 0, "mean_delta": 0.04708056171470806, "missing_count": 30, "native_ci_lower": 0.19995565410199553, "native_ci_upper": 0.3874478935698446, "native_mean": 0.2919733924611973, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 97.57070262375294, "ci_upper": 141.58029185685845, "delta_ci_lower": 97.57070262375294, "delta_ci_upper": 141.58029185685845, "er_ci_lower": 4996.334310583516, "er_ci_upper": 5386.867795857503, "er_mean": 5175.86773644587, "failure_count": 0, "mean_delta": 118.7527932459944, "missing_count": 0, "native_ci_lower": 4875.793038895916, "native_ci_upper": 5276.558739071043, "native_mean": 5057.114943199876, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.018494826311899477, "ci_upper": 0.061957009115545685, "delta_ci_lower": -0.018494826311899477, "delta_ci_upper": 0.061957009115545685, "er_ci_lower": 0.10453769401330376, "er_ci_upper": 0.205240330130574, "er_mean": 0.15201527469820153, "failure_count": 0, "mean_delta": 0.021529933481152994, "missing_count": 30, "native_ci_lower": 0.08455149051490515, "native_ci_upper": 0.17947591771372257, "native_mean": 0.13048534121704852, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.018494826311899477, "ci_upper": 0.061957009115545685, "delta_ci_lower": -0.018494826311899477, "delta_ci_upper": 0.061957009115545685, "er_ci_lower": 0.10453769401330376, "er_ci_upper": 0.205240330130574, "er_mean": 0.15201527469820153, "failure_count": 0, "mean_delta": 0.021529933481152994, "missing_count": 30, "native_ci_lower": 0.08455149051490515, "native_ci_upper": 0.17947591771372257, "native_mean": 0.13048534121704852, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.018494826311899477, "ci_upper": 0.061957009115545685, "delta_ci_lower": -0.018494826311899477, "delta_ci_upper": 0.061957009115545685, "er_ci_lower": 0.10453769401330376, "er_ci_upper": 0.205240330130574, "er_mean": 0.15201527469820153, "failure_count": 0, "mean_delta": 0.021529933481152994, "missing_count": 30, "native_ci_lower": 0.08455149051490515, "native_ci_upper": 0.17947591771372257, "native_mean": 0.13048534121704852, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.018494826311899477, "ci_upper": 0.061957009115545685, "delta_ci_lower": -0.018494826311899477, "delta_ci_upper": 0.061957009115545685, "er_ci_lower": 0.10453769401330376, "er_ci_upper": 0.205240330130574, "er_mean": 0.15201527469820153, "failure_count": 0, "mean_delta": 0.021529933481152994, "missing_count": 30, "native_ci_lower": 0.08455149051490515, "native_ci_upper": 0.17947591771372257, "native_mean": 0.13048534121704852, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.003678631720228584, "ci_upper": 0.1820401191037937, "delta_ci_lower": 0.003678631720228584, "delta_ci_upper": 0.1820401191037937, "er_ci_lower": 0.18470066518847006, "er_ci_upper": 0.34040577485434326, "er_mean": 0.2623826650549875, "failure_count": 0, "mean_delta": 0.09230824129999719, "missing_count": 30, "native_ci_lower": 0.10569109505757815, "native_ci_upper": 0.23825310434531513, "native_mean": 0.17007442375499024, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "er_ci_lower": 0.27499999999999997, "er_ci_upper": 0.41666666666666663, "er_mean": 0.3416666666666667, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.3333333333333333, "native_mean": 0.26666666666666666, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1003.8489016120487, "ci_upper": 310.59857510384353, "delta_ci_lower": -1003.8489016120487, "delta_ci_upper": 310.59857510384353, "er_ci_lower": 40059.976913758146, "er_ci_upper": 41038.852672963934, "er_mean": 40557.29525103234, "failure_count": 0, "mean_delta": -342.39385250548366, "missing_count": 0, "native_ci_lower": 40338.10420836458, "native_ci_upper": 41453.173268402825, "native_mean": 40899.68910353782, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -129.50020833333332, "ci_upper": 49.82729166666664, "delta_ci_lower": -129.50020833333332, "delta_ci_upper": 49.82729166666664, "er_ci_lower": 5718.140416666666, "er_ci_upper": 5848.327499999999, "er_mean": 5784.091666666667, "failure_count": 0, "mean_delta": -39.099999999999994, "missing_count": 0, "native_ci_lower": 5749.232291666667, "native_ci_upper": 5897.727083333334, "native_mean": 5823.191666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -130.56666666666666, "ci_upper": 34.91874999999997, "delta_ci_lower": -130.56666666666666, "delta_ci_upper": 34.91874999999997, "er_ci_lower": 5410.549166666667, "er_ci_upper": 5537.625416666667, "er_mean": 5474.658333333333, "failure_count": 0, "mean_delta": -47.48333333333333, "missing_count": 0, "native_ci_lower": 5454.614375, "native_ci_upper": 5589.913541666666, "native_mean": 5522.141666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.14444444444444446, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.14444444444444446, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.5111111111111112, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5888888888888889, "failure_count": 0, "mean_delta": -0.04444444444444445, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222222, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.025925925925925925, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.025925925925925925, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481483, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.025925925925925925, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.025925925925925925, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481483, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.025925925925925925, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.025925925925925925, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481483, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.025925925925925925, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.025925925925925925, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481483, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2555555555555556, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.19999999999999998, "native_ci_upper": 0.37777777777777777, "native_mean": 0.2888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2555555555555556, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.19999999999999998, "native_ci_upper": 0.37777777777777777, "native_mean": 0.2888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2555555555555556, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.19999999999999998, "native_ci_upper": 0.37777777777777777, "native_mean": 0.2888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2555555555555556, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.19999999999999998, "native_ci_upper": 0.37777777777777777, "native_mean": 0.2888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 99.35613279276974, "ci_upper": 135.35426678279086, "delta_ci_lower": 99.35613279276974, "delta_ci_upper": 135.35426678279086, "er_ci_lower": 4954.895927178925, "er_ci_upper": 5274.953622981314, "er_mean": 5102.492640250905, "failure_count": 0, "mean_delta": 116.6961249517044, "missing_count": 0, "native_ci_lower": 4838.490769426959, "native_ci_upper": 5159.939575374495, "native_mean": 4985.796515299202, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.01018518518518518, "ci_upper": 0.07222222222222223, "delta_ci_lower": -0.01018518518518518, "delta_ci_upper": 0.07222222222222223, "er_ci_lower": 0.11203703703703703, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925924, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407405, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.01018518518518518, "ci_upper": 0.07222222222222223, "delta_ci_lower": -0.01018518518518518, "delta_ci_upper": 0.07222222222222223, "er_ci_lower": 0.11203703703703703, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925924, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407405, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.01018518518518518, "ci_upper": 0.07222222222222223, "delta_ci_lower": -0.01018518518518518, "delta_ci_upper": 0.07222222222222223, "er_ci_lower": 0.11203703703703703, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925924, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407405, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.01018518518518518, "ci_upper": 0.07222222222222223, "delta_ci_lower": -0.01018518518518518, "delta_ci_upper": 0.07222222222222223, "er_ci_lower": 0.11203703703703703, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925924, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407405, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.001926700222477083, "ci_upper": 0.17312900495345562, "delta_ci_lower": 0.001926700222477083, "delta_ci_upper": 0.17312900495345562, "er_ci_lower": 0.17329988851727982, "er_ci_upper": 0.32051282051282054, "er_mean": 0.24640777901647468, "failure_count": 0, "mean_delta": 0.08711400495567552, "missing_count": 30, "native_ci_lower": 0.09818266294968804, "native_ci_upper": 0.2244789592459843, "native_mean": 0.15929377406079914, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "er_ci_lower": 0.275, "er_ci_upper": 0.4166666666666667, "er_mean": 0.3416666666666667, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.3333333333333333, "native_mean": 0.26666666666666666, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1003.8489016120486, "ci_upper": 310.59857510384353, "delta_ci_lower": -1003.8489016120486, "delta_ci_upper": 310.59857510384353, "er_ci_lower": 40059.976913758146, "er_ci_upper": 41038.852672963934, "er_mean": 40557.29525103234, "failure_count": 0, "mean_delta": -342.39385250548366, "missing_count": 0, "native_ci_lower": 40338.10420836458, "native_ci_upper": 41453.173268402825, "native_mean": 40899.68910353782, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -129.50020833333332, "ci_upper": 49.82729166666664, "delta_ci_lower": -129.50020833333332, "delta_ci_upper": 49.82729166666664, "er_ci_lower": 5718.140416666666, "er_ci_upper": 5848.327499999999, "er_mean": 5784.091666666666, "failure_count": 0, "mean_delta": -39.1, "missing_count": 0, "native_ci_lower": 5749.232291666667, "native_ci_upper": 5897.727083333334, "native_mean": 5823.191666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -130.56666666666666, "ci_upper": 34.91874999999997, "delta_ci_lower": -130.56666666666666, "delta_ci_upper": 34.91874999999997, "er_ci_lower": 5410.549166666667, "er_ci_upper": 5537.625416666667, "er_mean": 5474.658333333334, "failure_count": 0, "mean_delta": -47.483333333333334, "missing_count": 0, "native_ci_lower": 5454.614375, "native_ci_upper": 5589.913541666667, "native_mean": 5522.141666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.14444444444444443, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.5111111111111111, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5888888888888889, "failure_count": 0, "mean_delta": -0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222222, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02592592592592593, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.02592592592592593, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481481, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02592592592592593, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.02592592592592593, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481481, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02592592592592593, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.02592592592592593, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481481, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02592592592592593, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.02592592592592593, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481481, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.25555555555555554, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.2, "native_ci_upper": 0.37777777777777777, "native_mean": 0.28888888888888886, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.25555555555555554, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.2, "native_ci_upper": 0.37777777777777777, "native_mean": 0.28888888888888886, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.25555555555555554, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.2, "native_ci_upper": 0.37777777777777777, "native_mean": 0.28888888888888886, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.25555555555555554, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.2, "native_ci_upper": 0.37777777777777777, "native_mean": 0.28888888888888886, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 99.35613279276974, "ci_upper": 135.35426678279083, "delta_ci_lower": 99.35613279276974, "delta_ci_upper": 135.35426678279083, "er_ci_lower": 4954.895927178926, "er_ci_upper": 5274.953622981314, "er_mean": 5102.492640250905, "failure_count": 0, "mean_delta": 116.6961249517044, "missing_count": 0, "native_ci_lower": 4838.490769426959, "native_ci_upper": 5159.939575374495, "native_mean": 4985.796515299201, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.010185185185185184, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.010185185185185184, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.11203703703703705, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925927, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407408, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.010185185185185184, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.010185185185185184, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.11203703703703705, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925927, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407408, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.010185185185185184, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.010185185185185184, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.11203703703703705, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925927, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407408, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.010185185185185184, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.010185185185185184, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.11203703703703705, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925927, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407408, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0019267002224770838, "ci_upper": 0.17312900495345565, "delta_ci_lower": 0.0019267002224770838, "delta_ci_upper": 0.17312900495345565, "er_ci_lower": 0.17329988851727982, "er_ci_upper": 0.32051282051282054, "er_mean": 0.24640777901647468, "failure_count": 0, "mean_delta": 0.08711400495567552, "missing_count": 30, "native_ci_lower": 0.09818266294968804, "native_ci_upper": 0.22447895924598432, "native_mean": 0.15929377406079914, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": 0.001773604590505998, "ci_upper": 0.1607850808555034, "delta_ci_lower": 0.001773604590505998, "delta_ci_upper": 0.1607850808555034, "er_ci_lower": 0.21800991131977046, "er_ci_upper": 0.36543003390714657, "er_mean": 0.290753781950965, "failure_count": 0, "mean_delta": 0.08034689619196661, "missing_count": 0, "native_ci_lower": 0.148206507563902, "native_ci_upper": 0.2755754434011476, "native_mean": 0.21040688575899844, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1025.3204466611928, "ci_upper": 410.8410938435863, "delta_ci_lower": -1025.3204466611928, "delta_ci_upper": 410.8410938435863, "er_ci_lower": 40053.76224056054, "er_ci_upper": 41185.15119765851, "er_mean": 40628.48111860495, "failure_count": 0, "mean_delta": -301.9646464399237, "missing_count": 0, "native_ci_lower": 40298.98093666653, "native_ci_upper": 41562.897264272295, "native_mean": 40930.445765044875, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -118.33192618675014, "ci_upper": 69.36230275169534, "delta_ci_lower": -118.33192618675014, "delta_ci_upper": 69.36230275169534, "er_ci_lower": 5710.674153951486, "er_ci_upper": 5859.317998826291, "er_mean": 5785.590792905581, "failure_count": 0, "mean_delta": -24.289332290036512, "missing_count": 0, "native_ci_lower": 5731.482076160668, "native_ci_upper": 5890.379273604591, "native_mean": 5809.880125195618, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.008617886178861788, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.008617886178861788, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.025853658536585365, "delta_ci_lower": 0.0, "delta_ci_upper": 0.025853658536585365, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.008617886178861788, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -124.21857785602501, "ci_upper": 50.11348526343241, "delta_ci_lower": -124.21857785602501, "delta_ci_upper": 50.11348526343241, "er_ci_lower": 5402.499995109546, "er_ci_upper": 5544.093843896713, "er_mean": 5473.5741523213355, "failure_count": 0, "mean_delta": -36.863510693792385, "missing_count": 0, "native_ci_lower": 5439.23459246218, "native_ci_upper": 5583.044050273865, "native_mean": 5510.437663015127, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.1580033259423502, "ci_upper": 0.061610125646710805, "delta_ci_lower": -0.1580033259423502, "delta_ci_upper": 0.061610125646710805, "er_ci_lower": 0.4747671840354767, "er_ci_upper": 0.6414929785661491, "er_mean": 0.5587139689578714, "failure_count": 0, "mean_delta": -0.04706577974870658, "missing_count": 30, "native_ci_lower": 0.5120916481892092, "native_ci_upper": 0.7006060606060606, "native_mean": 0.605779748706578, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.045454730229120464, "ci_upper": 0.140169992609017, "delta_ci_lower": -0.045454730229120464, "delta_ci_upper": 0.140169992609017, "er_ci_lower": 0.22321655580192173, "er_ci_upper": 0.4082557280118256, "er_mean": 0.3137694013303769, "failure_count": 0, "mean_delta": 0.046496674057649665, "missing_count": 30, "native_ci_lower": 0.17933444198078344, "native_ci_upper": 0.35921655580192163, "native_mean": 0.2672727272727273, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.045454730229120464, "ci_upper": 0.140169992609017, "delta_ci_lower": -0.045454730229120464, "delta_ci_upper": 0.140169992609017, "er_ci_lower": 0.22321655580192173, "er_ci_upper": 0.4082557280118256, "er_mean": 0.3137694013303769, "failure_count": 0, "mean_delta": 0.046496674057649665, "missing_count": 30, "native_ci_lower": 0.17933444198078344, "native_ci_upper": 0.35921655580192163, "native_mean": 0.2672727272727273, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.045454730229120464, "ci_upper": 0.140169992609017, "delta_ci_lower": -0.045454730229120464, "delta_ci_upper": 0.140169992609017, "er_ci_lower": 0.22321655580192173, "er_ci_upper": 0.4082557280118256, "er_mean": 0.3137694013303769, "failure_count": 0, "mean_delta": 0.046496674057649665, "missing_count": 30, "native_ci_lower": 0.17933444198078344, "native_ci_upper": 0.35921655580192163, "native_mean": 0.2672727272727273, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.045454730229120464, "ci_upper": 0.140169992609017, "delta_ci_lower": -0.045454730229120464, "delta_ci_upper": 0.140169992609017, "er_ci_lower": 0.22321655580192173, "er_ci_upper": 0.4082557280118256, "er_mean": 0.3137694013303769, "failure_count": 0, "mean_delta": 0.046496674057649665, "missing_count": 30, "native_ci_lower": 0.17933444198078344, "native_ci_upper": 0.35921655580192163, "native_mean": 0.2672727272727273, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.05463451589061345, "ci_upper": 0.1511160384331116, "delta_ci_lower": -0.05463451589061345, "delta_ci_upper": 0.1511160384331116, "er_ci_lower": 0.24362379896526248, "er_ci_upper": 0.43738137472283795, "er_mean": 0.3390539541759054, "failure_count": 0, "mean_delta": 0.04708056171470806, "missing_count": 30, "native_ci_lower": 0.19995565410199553, "native_ci_upper": 0.3874478935698446, "native_mean": 0.2919733924611973, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.05463451589061345, "ci_upper": 0.1511160384331116, "delta_ci_lower": -0.05463451589061345, "delta_ci_upper": 0.1511160384331116, "er_ci_lower": 0.24362379896526248, "er_ci_upper": 0.43738137472283795, "er_mean": 0.3390539541759054, "failure_count": 0, "mean_delta": 0.04708056171470806, "missing_count": 30, "native_ci_lower": 0.19995565410199553, "native_ci_upper": 0.3874478935698446, "native_mean": 0.2919733924611973, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.05463451589061345, "ci_upper": 0.1511160384331116, "delta_ci_lower": -0.05463451589061345, "delta_ci_upper": 0.1511160384331116, "er_ci_lower": 0.24362379896526248, "er_ci_upper": 0.43738137472283795, "er_mean": 0.3390539541759054, "failure_count": 0, "mean_delta": 0.04708056171470806, "missing_count": 30, "native_ci_lower": 0.19995565410199553, "native_ci_upper": 0.3874478935698446, "native_mean": 0.2919733924611973, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.05463451589061345, "ci_upper": 0.1511160384331116, "delta_ci_lower": -0.05463451589061345, "delta_ci_upper": 0.1511160384331116, "er_ci_lower": 0.24362379896526248, "er_ci_upper": 0.43738137472283795, "er_mean": 0.3390539541759054, "failure_count": 0, "mean_delta": 0.04708056171470806, "missing_count": 30, "native_ci_lower": 0.19995565410199553, "native_ci_upper": 0.3874478935698446, "native_mean": 0.2919733924611973, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 97.57070262375294, "ci_upper": 141.58029185685845, "delta_ci_lower": 97.57070262375294, "delta_ci_upper": 141.58029185685845, "er_ci_lower": 4996.334310583516, "er_ci_upper": 5386.867795857503, "er_mean": 5175.86773644587, "failure_count": 0, "mean_delta": 118.7527932459944, "missing_count": 0, "native_ci_lower": 4875.793038895916, "native_ci_upper": 5276.558739071043, "native_mean": 5057.114943199876, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.018494826311899477, "ci_upper": 0.061957009115545685, "delta_ci_lower": -0.018494826311899477, "delta_ci_upper": 0.061957009115545685, "er_ci_lower": 0.10453769401330376, "er_ci_upper": 0.205240330130574, "er_mean": 0.15201527469820153, "failure_count": 0, "mean_delta": 0.021529933481152994, "missing_count": 30, "native_ci_lower": 0.08455149051490515, "native_ci_upper": 0.17947591771372257, "native_mean": 0.13048534121704852, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.018494826311899477, "ci_upper": 0.061957009115545685, "delta_ci_lower": -0.018494826311899477, "delta_ci_upper": 0.061957009115545685, "er_ci_lower": 0.10453769401330376, "er_ci_upper": 0.205240330130574, "er_mean": 0.15201527469820153, "failure_count": 0, "mean_delta": 0.021529933481152994, "missing_count": 30, "native_ci_lower": 0.08455149051490515, "native_ci_upper": 0.17947591771372257, "native_mean": 0.13048534121704852, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.018494826311899477, "ci_upper": 0.061957009115545685, "delta_ci_lower": -0.018494826311899477, "delta_ci_upper": 0.061957009115545685, "er_ci_lower": 0.10453769401330376, "er_ci_upper": 0.205240330130574, "er_mean": 0.15201527469820153, "failure_count": 0, "mean_delta": 0.021529933481152994, "missing_count": 30, "native_ci_lower": 0.08455149051490515, "native_ci_upper": 0.17947591771372257, "native_mean": 0.13048534121704852, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.018494826311899477, "ci_upper": 0.061957009115545685, "delta_ci_lower": -0.018494826311899477, "delta_ci_upper": 0.061957009115545685, "er_ci_lower": 0.10453769401330376, "er_ci_upper": 0.205240330130574, "er_mean": 0.15201527469820153, "failure_count": 0, "mean_delta": 0.021529933481152994, "missing_count": 30, "native_ci_lower": 0.08455149051490515, "native_ci_upper": 0.17947591771372257, "native_mean": 0.13048534121704852, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.003678631720228584, "ci_upper": 0.1820401191037937, "delta_ci_lower": 0.003678631720228584, "delta_ci_upper": 0.1820401191037937, "er_ci_lower": 0.18470066518847006, "er_ci_upper": 0.34040577485434326, "er_mean": 0.2623826650549875, "failure_count": 0, "mean_delta": 0.09230824129999719, "missing_count": 30, "native_ci_lower": 0.10569109505757815, "native_ci_upper": 0.23825310434531513, "native_mean": 0.17007442375499024, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "er_ci_lower": 0.0, "er_ci_upper": 0.2, "er_mean": 0.1, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -3051.5000224091145, "ci_upper": 6.196335648904352, "delta_ci_lower": -3051.5000224091145, "delta_ci_upper": 6.196335648904352, "er_ci_lower": 39425.133772716894, "er_ci_upper": 41802.36215545641, "er_mean": 40586.78889725512, "failure_count": 0, "mean_delta": -1490.6923638423905, "missing_count": 0, "native_ci_lower": 40705.25714056731, "native_ci_upper": 43455.23202607049, "native_mean": 42077.48126109751, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -389.4025, "ci_upper": -8.764166666666704, "delta_ci_lower": -389.4025, "delta_ci_upper": -8.764166666666704, "er_ci_lower": 5560.165, "er_ci_upper": 5863.066666666667, "er_mean": 5710.366666666667, "failure_count": 0, "mean_delta": -196.06666666666666, "missing_count": 0, "native_ci_lower": 5751.133333333333, "native_ci_upper": 6057.839999999999, "native_mean": 5906.433333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -360.17083333333335, "ci_upper": -15.698333333333355, "delta_ci_lower": -360.17083333333335, "delta_ci_upper": -15.698333333333355, "er_ci_lower": 5258.1975, "er_ci_upper": 5542.635833333334, "er_mean": 5400.233333333334, "failure_count": 0, "mean_delta": -186.66666666666666, "missing_count": 0, "native_ci_lower": 5446.565, "native_ci_upper": 5720.900833333332, "native_mean": 5586.9, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.13333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.23333333333333334, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.11666666666666667, "er_ci_upper": 0.4166666666666667, "er_mean": 0.25, "failure_count": 0, "mean_delta": -0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.23333333333333334, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.11666666666666667, "er_ci_upper": 0.4166666666666667, "er_mean": 0.25, "failure_count": 0, "mean_delta": -0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.23333333333333334, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.11666666666666667, "er_ci_upper": 0.4166666666666667, "er_mean": 0.25, "failure_count": 0, "mean_delta": -0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.23333333333333334, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.11666666666666667, "er_ci_upper": 0.4166666666666667, "er_mean": 0.25, "failure_count": 0, "mean_delta": -0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 86.80949703159665, "ci_upper": 164.1913236975476, "delta_ci_lower": 86.80949703159665, "delta_ci_upper": 164.1913236975476, "er_ci_lower": 4753.590507701738, "er_ci_upper": 5279.876414056828, "er_mean": 5010.9895152815925, "failure_count": 0, "mean_delta": 125.07215697939198, "missing_count": 0, "native_ci_lower": 4617.700102491654, "native_ci_upper": 5167.0838276974, "native_mean": 4885.917358302201, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.09444444444444446, "ci_upper": 0.027777777777777776, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.027777777777777776, "er_ci_lower": 0.05555555555555555, "er_ci_upper": 0.2611111111111111, "er_mean": 0.15, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.08888888888888888, "native_ci_upper": 0.29444444444444445, "native_mean": 0.18333333333333332, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.09444444444444446, "ci_upper": 0.027777777777777776, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.027777777777777776, "er_ci_lower": 0.05555555555555555, "er_ci_upper": 0.2611111111111111, "er_mean": 0.15, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.08888888888888888, "native_ci_upper": 0.29444444444444445, "native_mean": 0.18333333333333332, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.09444444444444446, "ci_upper": 0.027777777777777776, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.027777777777777776, "er_ci_lower": 0.05555555555555555, "er_ci_upper": 0.2611111111111111, "er_mean": 0.15, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.08888888888888888, "native_ci_upper": 0.29444444444444445, "native_mean": 0.18333333333333332, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.09444444444444446, "ci_upper": 0.027777777777777776, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.027777777777777776, "er_ci_lower": 0.05555555555555555, "er_ci_upper": 0.2611111111111111, "er_mean": 0.15, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.08888888888888888, "native_ci_upper": 0.29444444444444445, "native_mean": 0.18333333333333332, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "er_ci_lower": 0.0, "er_ci_upper": 0.2, "er_mean": 0.1, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "inference": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.3, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -727.254310417435, "ci_upper": 1675.170853668241, "delta_ci_lower": -727.254310417435, "delta_ci_upper": 1675.170853668241, "er_ci_lower": 39460.31851425592, "er_ci_upper": 41394.77611416717, "er_mean": 40425.204238776736, "failure_count": 0, "mean_delta": 433.3410205707575, "missing_count": 0, "native_ci_lower": 38937.381294226216, "native_ci_upper": 41065.43876045869, "native_mean": 39991.86321820598, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -32.73749999999996, "ci_upper": 279.23916666666656, "delta_ci_lower": -32.73749999999996, "delta_ci_upper": 279.23916666666656, "er_ci_lower": 5670.733333333334, "er_ci_upper": 5944.6, "er_mean": 5806.0, "failure_count": 0, "mean_delta": 120.13333333333334, "missing_count": 0, "native_ci_lower": 5542.333333333333, "native_ci_upper": 5835.8675, "native_mean": 5685.866666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -58.3033333333333, "ci_upper": 236.10999999999984, "delta_ci_lower": -58.3033333333333, "delta_ci_upper": 236.10999999999984, "er_ci_lower": 5374.5275, "er_ci_upper": 5632.071666666666, "er_mean": 5501.0, "failure_count": 0, "mean_delta": 87.2, "missing_count": 0, "native_ci_lower": 5282.126666666666, "native_ci_upper": 5550.939166666667, "native_mean": 5413.8, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.4, "ci_upper": 0.0, "delta_ci_lower": -0.4, "delta_ci_upper": 0.0, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.2, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.10555555555555556, "ci_upper": 0.22222222222222224, "delta_ci_lower": -0.10555555555555556, "delta_ci_upper": 0.22222222222222224, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.45, "er_mean": 0.2833333333333333, "failure_count": 0, "mean_delta": 0.061111111111111116, "missing_count": 0, "native_ci_lower": 0.08888888888888888, "native_ci_upper": 0.3777777777777778, "native_mean": 0.22222222222222224, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.10555555555555556, "ci_upper": 0.22222222222222224, "delta_ci_lower": -0.10555555555555556, "delta_ci_upper": 0.22222222222222224, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.45, "er_mean": 0.2833333333333333, "failure_count": 0, "mean_delta": 0.061111111111111116, "missing_count": 0, "native_ci_lower": 0.08888888888888888, "native_ci_upper": 0.3777777777777778, "native_mean": 0.22222222222222224, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.10555555555555556, "ci_upper": 0.22222222222222224, "delta_ci_lower": -0.10555555555555556, "delta_ci_upper": 0.22222222222222224, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.45, "er_mean": 0.2833333333333333, "failure_count": 0, "mean_delta": 0.061111111111111116, "missing_count": 0, "native_ci_lower": 0.08888888888888888, "native_ci_upper": 0.3777777777777778, "native_mean": 0.22222222222222224, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.10555555555555556, "ci_upper": 0.22222222222222224, "delta_ci_lower": -0.10555555555555556, "delta_ci_upper": 0.22222222222222224, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.45, "er_mean": 0.2833333333333333, "failure_count": 0, "mean_delta": 0.061111111111111116, "missing_count": 0, "native_ci_lower": 0.08888888888888888, "native_ci_upper": 0.3777777777777778, "native_mean": 0.22222222222222224, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 77.43939028499882, "ci_upper": 183.03938763778808, "delta_ci_lower": 77.43939028499882, "delta_ci_upper": 183.03938763778808, "er_ci_lower": 4687.331562786325, "er_ci_upper": 5727.378244528663, "er_mean": 5148.125968050833, "failure_count": 0, "mean_delta": 127.20553044928238, "missing_count": 0, "native_ci_lower": 4562.051826929965, "native_ci_upper": 5613.96442765273, "native_mean": 5020.9204376015505, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.058333333333333334, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.04444444444444444, "er_ci_upper": 0.15833333333333333, "er_mean": 0.1, "failure_count": 0, "mean_delta": 0.01111111111111111, "missing_count": 0, "native_ci_lower": 0.03611111111111111, "native_ci_upper": 0.14722222222222223, "native_mean": 0.08888888888888888, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.058333333333333334, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.04444444444444444, "er_ci_upper": 0.15833333333333333, "er_mean": 0.1, "failure_count": 0, "mean_delta": 0.01111111111111111, "missing_count": 0, "native_ci_lower": 0.03611111111111111, "native_ci_upper": 0.14722222222222223, "native_mean": 0.08888888888888888, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.058333333333333334, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.04444444444444444, "er_ci_upper": 0.15833333333333333, "er_mean": 0.1, "failure_count": 0, "mean_delta": 0.01111111111111111, "missing_count": 0, "native_ci_lower": 0.03611111111111111, "native_ci_upper": 0.14722222222222223, "native_mean": 0.08888888888888888, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.058333333333333334, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.04444444444444444, "er_ci_upper": 0.15833333333333333, "er_mean": 0.1, "failure_count": 0, "mean_delta": 0.01111111111111111, "missing_count": 0, "native_ci_lower": 0.03611111111111111, "native_ci_upper": 0.14722222222222223, "native_mean": 0.08888888888888888, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.030795036621474172, "ci_upper": 0.3496186758197041, "delta_ci_lower": -0.030795036621474172, "delta_ci_upper": 0.3496186758197041, "er_ci_lower": 0.40033444816053515, "er_ci_upper": 0.7336701040505388, "er_mean": 0.5725566703827574, "failure_count": 0, "mean_delta": 0.16134201486702657, "missing_count": 0, "native_ci_lower": 0.2513181999203505, "native_ci_upper": 0.5798566308243728, "native_mean": 0.4112146555157308, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "temporal": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -386.61581448230794, "ci_upper": 2136.267212805105, "delta_ci_lower": -386.61581448230794, "delta_ci_upper": 2136.267212805105, "er_ci_lower": 40421.542715689866, "er_ci_upper": 42357.01376215244, "er_mean": 41385.69587221524, "failure_count": 0, "mean_delta": 867.3198526763978, "missing_count": 0, "native_ci_lower": 39534.56096899735, "native_ci_upper": 41490.9779236716, "native_mean": 40518.376019538846, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -58.567499999999995, "ci_upper": 289.4383333333333, "delta_ci_lower": -58.567499999999995, "delta_ci_upper": 289.4383333333333, "er_ci_lower": 5772.431666666667, "er_ci_upper": 6031.534166666667, "er_mean": 5902.766666666666, "failure_count": 0, "mean_delta": 113.26666666666667, "missing_count": 0, "native_ci_lower": 5643.8966666666665, "native_ci_upper": 5936.1050000000005, "native_mean": 5789.5, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -85.33499999999998, "ci_upper": 246.74249999999986, "delta_ci_lower": -85.33499999999998, "delta_ci_upper": 246.74249999999986, "er_ci_lower": 5432.166666666667, "er_ci_upper": 5693.7, "er_mean": 5563.2, "failure_count": 0, "mean_delta": 76.73333333333333, "missing_count": 0, "native_ci_lower": 5352.294166666667, "native_ci_upper": 5621.800833333334, "native_mean": 5486.466666666666, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.7666666666666667, "native_ci_upper": 1.0, "native_mean": 0.9, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.05, "delta_ci_upper": 0.38333333333333336, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.6166666666666667, "er_mean": 0.45, "failure_count": 0, "mean_delta": 0.21666666666666667, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.38333333333333336, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.05, "delta_ci_upper": 0.38333333333333336, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.6166666666666667, "er_mean": 0.45, "failure_count": 0, "mean_delta": 0.21666666666666667, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.38333333333333336, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.05, "delta_ci_upper": 0.38333333333333336, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.6166666666666667, "er_mean": 0.45, "failure_count": 0, "mean_delta": 0.21666666666666667, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.38333333333333336, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.05, "delta_ci_upper": 0.38333333333333336, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.6166666666666667, "er_mean": 0.45, "failure_count": 0, "mean_delta": 0.21666666666666667, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.38333333333333336, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.06666666666666667, "ci_upper": 0.4, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.4, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.06666666666666667, "ci_upper": 0.4, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.4, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.06666666666666667, "ci_upper": 0.4, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.4, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.06666666666666667, "ci_upper": 0.4, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.4, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 82.20180710273173, "ci_upper": 116.72590004289911, "delta_ci_lower": 82.20180710273173, "delta_ci_upper": 116.72590004289911, "er_ci_lower": 5628.085275168996, "er_ci_upper": 6108.614389191303, "er_mean": 5864.300499879755, "failure_count": 0, "mean_delta": 99.65996379420783, "missing_count": 0, "native_ci_lower": 5536.7302608594755, "native_ci_upper": 6002.154727630259, "native_mean": 5764.640536085547, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.3222222222222222, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.11666666666666667, "missing_count": 0, "native_ci_lower": 0.04444444444444444, "native_ci_upper": 0.18333333333333332, "native_mean": 0.1111111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.3222222222222222, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.11666666666666667, "missing_count": 0, "native_ci_lower": 0.04444444444444444, "native_ci_upper": 0.18333333333333332, "native_mean": 0.1111111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.3222222222222222, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.11666666666666667, "missing_count": 0, "native_ci_lower": 0.04444444444444444, "native_ci_upper": 0.18333333333333332, "native_mean": 0.1111111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.3222222222222222, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.11666666666666667, "missing_count": 0, "native_ci_lower": 0.04444444444444444, "native_ci_upper": 0.18333333333333332, "native_mean": 0.1111111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "unanswerable": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2328.7277400383996, "ci_upper": 10.581308369969502, "delta_ci_lower": -2328.7277400383996, "delta_ci_upper": 10.581308369969502, "er_ci_lower": 39173.47770213771, "er_ci_upper": 40511.61781038759, "er_mean": 39831.49199588224, "failure_count": 0, "mean_delta": -1179.5439194266994, "missing_count": 0, "native_ci_lower": 40017.46717789996, "native_ci_upper": 41951.44779267304, "native_mean": 41011.035915308945, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -365.3016666666667, "ci_upper": -12.626666666666765, "delta_ci_lower": -365.3016666666667, "delta_ci_upper": -12.626666666666765, "er_ci_lower": 5625.266666666666, "er_ci_upper": 5809.301666666667, "er_mean": 5717.233333333334, "failure_count": 0, "mean_delta": -193.73333333333332, "missing_count": 0, "native_ci_lower": 5766.099166666668, "native_ci_upper": 6050.5008333333335, "native_mean": 5910.966666666666, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "context_token_count": { "ci_lower": -328.6683333333333, "ci_upper": 0.3016666666666424, "delta_ci_lower": -328.6683333333333, "delta_ci_upper": 0.3016666666666424, "er_ci_lower": 5343.933333333333, "er_ci_upper": 5523.005, "er_mean": 5434.2, "failure_count": 0, "mean_delta": -167.2, "missing_count": 0, "native_ci_lower": 5467.4591666666665, "native_ci_upper": 5730.069166666666, "native_mean": 5601.4, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_latency_ms": { "ci_lower": 91.84118195058547, "ci_upper": 138.4554374247091, "delta_ci_lower": 91.84118195058547, "delta_ci_upper": 138.4554374247091, "er_ci_lower": 4242.769114929834, "er_ci_upper": 4526.36403711338, "er_mean": 4386.554577791442, "failure_count": 0, "mean_delta": 114.84684858393545, "missing_count": 0, "native_ci_lower": 4136.259879195713, "native_ci_upper": 4401.325619132744, "native_mean": 4271.707729207507, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "metrics": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "er_ci_lower": 0.275, "er_ci_upper": 0.4166666666666667, "er_mean": 0.3416666666666667, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.3333333333333333, "native_mean": 0.26666666666666666, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1003.8489016120486, "ci_upper": 310.59857510384353, "delta_ci_lower": -1003.8489016120486, "delta_ci_upper": 310.59857510384353, "er_ci_lower": 40059.976913758146, "er_ci_upper": 41038.852672963934, "er_mean": 40557.29525103234, "failure_count": 0, "mean_delta": -342.39385250548366, "missing_count": 0, "native_ci_lower": 40338.10420836458, "native_ci_upper": 41453.173268402825, "native_mean": 40899.68910353782, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -129.50020833333332, "ci_upper": 49.82729166666664, "delta_ci_lower": -129.50020833333332, "delta_ci_upper": 49.82729166666664, "er_ci_lower": 5718.140416666666, "er_ci_upper": 5848.327499999999, "er_mean": 5784.091666666666, "failure_count": 0, "mean_delta": -39.1, "missing_count": 0, "native_ci_lower": 5749.232291666667, "native_ci_upper": 5897.727083333334, "native_mean": 5823.191666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -130.56666666666666, "ci_upper": 34.91874999999997, "delta_ci_lower": -130.56666666666666, "delta_ci_upper": 34.91874999999997, "er_ci_lower": 5410.549166666667, "er_ci_upper": 5537.625416666667, "er_mean": 5474.658333333334, "failure_count": 0, "mean_delta": -47.483333333333334, "missing_count": 0, "native_ci_lower": 5454.614375, "native_ci_upper": 5589.913541666667, "native_mean": 5522.141666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.14444444444444443, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.5111111111111111, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5888888888888889, "failure_count": 0, "mean_delta": -0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222222, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.02592592592592593, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.02592592592592593, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481481, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.02592592592592593, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.02592592592592593, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481481, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.02592592592592593, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.02592592592592593, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481481, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.02592592592592593, "ci_upper": 0.1574074074074074, "delta_ci_lower": -0.02592592592592593, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2388888888888889, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.06481481481481481, "missing_count": 30, "native_ci_lower": 0.17777777777777778, "native_ci_upper": 0.35185185185185186, "native_mean": 0.26296296296296295, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.25555555555555554, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.2, "native_ci_upper": 0.37777777777777777, "native_mean": 0.28888888888888886, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.25555555555555554, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.2, "native_ci_upper": 0.37777777777777777, "native_mean": 0.28888888888888886, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.25555555555555554, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.2, "native_ci_upper": 0.37777777777777777, "native_mean": 0.28888888888888886, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.25555555555555554, "er_ci_upper": 0.45555555555555555, "er_mean": 0.35555555555555557, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.2, "native_ci_upper": 0.37777777777777777, "native_mean": 0.28888888888888886, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 99.35613279276974, "ci_upper": 135.35426678279083, "delta_ci_lower": 99.35613279276974, "delta_ci_upper": 135.35426678279083, "er_ci_lower": 4954.895927178926, "er_ci_upper": 5274.953622981314, "er_mean": 5102.492640250905, "failure_count": 0, "mean_delta": 116.6961249517044, "missing_count": 0, "native_ci_lower": 4838.490769426959, "native_ci_upper": 5159.939575374495, "native_mean": 4985.796515299201, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.010185185185185184, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.010185185185185184, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.11203703703703705, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925927, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407408, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.010185185185185184, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.010185185185185184, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.11203703703703705, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925927, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407408, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.010185185185185184, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.010185185185185184, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.11203703703703705, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925927, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407408, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.010185185185185184, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.010185185185185184, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.11203703703703705, "er_ci_upper": 0.2111111111111111, "er_mean": 0.15925925925925927, "failure_count": 0, "mean_delta": 0.03148148148148148, "missing_count": 30, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.17407407407407408, "native_mean": 0.12777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0019267002224770838, "ci_upper": 0.17312900495345565, "delta_ci_lower": 0.0019267002224770838, "delta_ci_upper": 0.17312900495345565, "er_ci_lower": 0.17329988851727982, "er_ci_upper": 0.32051282051282054, "er_mean": 0.24640777901647468, "failure_count": 0, "mean_delta": 0.08711400495567552, "missing_count": 30, "native_ci_lower": 0.09818266294968804, "native_ci_upper": 0.22447895924598432, "native_mean": 0.15929377406079914, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "paired_question_count": 120, "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_fade67868ef8d6d4b7d790eb", "builder_key": "qwen35_4b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.2583333333333333, "er_ci_upper": 0.375, "er_mean": 0.3166666666666667, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.2333333333333333, "native_ci_upper": 0.35833333333333334, "native_mean": 0.29166666666666663, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -807.8254385307081, "ci_upper": 553.2098124391142, "delta_ci_lower": -807.8254385307081, "delta_ci_upper": 553.2098124391142, "er_ci_lower": 39637.103477167744, "er_ci_upper": 40658.23479707629, "er_mean": 40154.35908018844, "failure_count": 0, "mean_delta": -139.78668264462613, "missing_count": 0, "native_ci_lower": 39750.57121856696, "native_ci_upper": 40831.632254658645, "native_mean": 40294.14576283307, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -106.82812499999999, "ci_upper": 91.82145833333327, "delta_ci_lower": -106.82812499999999, "delta_ci_upper": 91.82145833333327, "er_ci_lower": 5649.179166666667, "er_ci_upper": 5790.13375, "er_mean": 5720.591666666667, "failure_count": 0, "mean_delta": -8.349999999999998, "missing_count": 0, "native_ci_lower": 5655.4825, "native_ci_upper": 5803.716875, "native_mean": 5728.941666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222227, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222227, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222227, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.20020833333334, "ci_upper": 95.51916666666662, "delta_ci_lower": -91.20020833333334, "delta_ci_upper": 95.51916666666662, "er_ci_lower": 5337.564375, "er_ci_upper": 5471.411875, "er_mean": 5405.0, "failure_count": 0, "mean_delta": 1.375, "missing_count": 0, "native_ci_lower": 5334.6660416666655, "native_ci_upper": 5472.077708333333, "native_mean": 5403.625, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.36666666666666664, "er_mean": 0.2, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.5777777777777778, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222223, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.13888888888888887, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.13888888888888887, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.13888888888888887, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.13888888888888887, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.41111111111111115, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.32222222222222224, "native_mean": 0.2333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.41111111111111115, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.32222222222222224, "native_mean": 0.2333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.41111111111111115, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.32222222222222224, "native_mean": 0.2333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.41111111111111115, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.32222222222222224, "native_mean": 0.2333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 93.80784330288103, "ci_upper": 147.7601683998364, "delta_ci_lower": 93.80784330288103, "delta_ci_upper": 147.7601683998364, "er_ci_lower": 4987.635538241592, "er_ci_upper": 5336.066899391201, "er_mean": 5144.1981142445, "failure_count": 0, "mean_delta": 120.8124829659937, "missing_count": 0, "native_ci_lower": 4870.1456050733395, "native_ci_upper": 5201.023199787814, "native_mean": 5023.3856312785065, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407405, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.061111111111111116, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407405, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.061111111111111116, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407405, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.061111111111111116, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407405, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.061111111111111116, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03825595906151461, "ci_upper": 0.06405194805194801, "delta_ci_lower": -0.03825595906151461, "delta_ci_upper": 0.06405194805194801, "er_ci_lower": 0.10492320693709582, "er_ci_upper": 0.23349757495590825, "er_mean": 0.16788653733098177, "failure_count": 0, "mean_delta": 0.01207424776869221, "missing_count": 30, "native_ci_lower": 0.09356902356902357, "native_ci_upper": 0.22359006734006734, "native_mean": 0.15581228956228957, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.6333333333333333, "er_ci_upper": 0.9333333333333333, "er_mean": 0.8, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.25833333333333336, "er_ci_upper": 0.375, "er_mean": 0.31666666666666665, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.35833333333333334, "native_mean": 0.2916666666666667, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -807.8254385307081, "ci_upper": 553.2098124391142, "delta_ci_lower": -807.8254385307081, "delta_ci_upper": 553.2098124391142, "er_ci_lower": 39637.103477167744, "er_ci_upper": 40658.23479707629, "er_mean": 40154.35908018844, "failure_count": 0, "mean_delta": -139.78668264462613, "missing_count": 0, "native_ci_lower": 39750.57121856696, "native_ci_upper": 40831.632254658645, "native_mean": 40294.14576283307, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -106.82812499999999, "ci_upper": 91.82145833333327, "delta_ci_lower": -106.82812499999999, "delta_ci_upper": 91.82145833333327, "er_ci_lower": 5649.179166666667, "er_ci_upper": 5790.13375, "er_mean": 5720.591666666666, "failure_count": 0, "mean_delta": -8.35, "missing_count": 0, "native_ci_lower": 5655.4825, "native_ci_upper": 5803.716874999999, "native_mean": 5728.941666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.20020833333334, "ci_upper": 95.51916666666662, "delta_ci_lower": -91.20020833333334, "delta_ci_upper": 95.51916666666662, "er_ci_lower": 5337.564375, "er_ci_upper": 5471.411875000001, "er_mean": 5405.0, "failure_count": 0, "mean_delta": 1.375, "missing_count": 0, "native_ci_lower": 5334.666041666666, "native_ci_upper": 5472.077708333333, "native_mean": 5403.625, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.36666666666666664, "er_mean": 0.2, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.5777777777777777, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222222, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.1388888888888889, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.1388888888888889, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.1388888888888889, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.1388888888888889, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.4111111111111111, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.32222222222222224, "native_mean": 0.23333333333333334, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.4111111111111111, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.32222222222222224, "native_mean": 0.23333333333333334, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.4111111111111111, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.32222222222222224, "native_mean": 0.23333333333333334, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.4111111111111111, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.32222222222222224, "native_mean": 0.23333333333333334, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 93.80784330288103, "ci_upper": 147.7601683998364, "delta_ci_lower": 93.80784330288103, "delta_ci_upper": 147.7601683998364, "er_ci_lower": 4987.635538241592, "er_ci_upper": 5336.066899391201, "er_mean": 5144.1981142445, "failure_count": 0, "mean_delta": 120.8124829659937, "missing_count": 0, "native_ci_lower": 4870.1456050733395, "native_ci_upper": 5201.023199787814, "native_mean": 5023.3856312785065, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407408, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407408, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407408, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407408, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03825595906151461, "ci_upper": 0.06405194805194803, "delta_ci_lower": -0.03825595906151461, "delta_ci_upper": 0.06405194805194803, "er_ci_lower": 0.10492320693709584, "er_ci_upper": 0.23349757495590825, "er_mean": 0.16788653733098177, "failure_count": 0, "mean_delta": 0.012074247768692212, "missing_count": 30, "native_ci_lower": 0.09356902356902358, "native_ci_upper": 0.22359006734006737, "native_mean": 0.15581228956228957, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.6333333333333333, "er_ci_upper": 0.9333333333333333, "er_mean": 0.8, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.019131455399061033, "ci_upper": 0.0733568075117371, "delta_ci_lower": -0.019131455399061033, "delta_ci_upper": 0.0733568075117371, "er_ci_lower": 0.1787235915492958, "er_ci_upper": 0.30556859676577985, "er_mean": 0.24067553468961922, "failure_count": 0, "mean_delta": 0.02509128847157016, "missing_count": 0, "native_ci_lower": 0.15564749608763706, "native_ci_upper": 0.2800730307772561, "native_mean": 0.21558424621804903, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -771.3952000594796, "ci_upper": 667.089373062954, "delta_ci_lower": -771.3952000594796, "delta_ci_upper": 667.089373062954, "er_ci_lower": 39676.031724730856, "er_ci_upper": 40771.41450833615, "er_mean": 40221.71315302746, "failure_count": 0, "mean_delta": -65.43457441054375, "missing_count": 0, "native_ci_lower": 39717.128606914695, "native_ci_upper": 40846.92162640593, "native_mean": 40287.147727438, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -111.41725417318727, "ci_upper": 96.41285667709961, "delta_ci_lower": -111.41725417318727, "delta_ci_upper": 96.41285667709961, "er_ci_lower": 5642.555622065727, "er_ci_upper": 5791.944069835681, "er_mean": 5717.489058424622, "failure_count": 0, "mean_delta": -7.346765779864367, "missing_count": 0, "native_ci_lower": 5648.22315108242, "native_ci_upper": 5802.376403560251, "native_mean": 5724.835824204486, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.06326681448632668, "ci_upper": 0.017235772357723576, "delta_ci_lower": -0.06326681448632668, "delta_ci_upper": 0.017235772357723576, "er_ci_lower": 0.0, "er_ci_upper": 0.025853658536585365, "er_mean": 0.008617886178861788, "failure_count": 0, "mean_delta": -0.01668883961566888, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.06326681448632668, "ci_upper": 0.017235772357723576, "delta_ci_lower": -0.06326681448632668, "delta_ci_upper": 0.017235772357723576, "er_ci_lower": 0.0, "er_ci_upper": 0.025853658536585365, "er_mean": 0.008617886178861788, "failure_count": 0, "mean_delta": -0.01668883961566888, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.06326681448632668, "ci_upper": 0.017235772357723576, "delta_ci_lower": -0.06326681448632668, "delta_ci_upper": 0.017235772357723576, "er_ci_lower": 0.0, "er_ci_upper": 0.025853658536585365, "er_mean": 0.008617886178861788, "failure_count": 0, "mean_delta": -0.01668883961566888, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.49595331246739, "ci_upper": 102.42380281690137, "delta_ci_lower": -91.49595331246739, "delta_ci_upper": 102.42380281690137, "er_ci_lower": 5337.659360328638, "er_ci_upper": 5477.916123826291, "er_mean": 5407.362584767867, "failure_count": 0, "mean_delta": 5.4339071465832, "missing_count": 0, "native_ci_lower": 5330.513984415754, "native_ci_upper": 5473.691723721961, "native_mean": 5401.928677621284, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.36666666666666664, "er_mean": 0.2, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06897265336289726, "ci_upper": 0.12127235772357721, "delta_ci_lower": -0.06897265336289726, "delta_ci_upper": 0.12127235772357721, "er_ci_lower": 0.5523577235772358, "er_ci_upper": 0.734530672579453, "er_mean": 0.643739837398374, "failure_count": 0, "mean_delta": 0.025853658536585365, "missing_count": 30, "native_ci_lower": 0.5241977087952697, "native_ci_upper": 0.711529933481153, "native_mean": 0.6178861788617886, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "er_ci_lower": 0.20086363636363638, "er_ci_upper": 0.3879379157427938, "er_mean": 0.29311160384331114, "failure_count": 0, "mean_delta": 0.06302537570830254, "missing_count": 30, "native_ci_lower": 0.14503079576250308, "native_ci_upper": 0.3199507267799951, "native_mean": 0.23008622813500865, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "er_ci_lower": 0.20086363636363638, "er_ci_upper": 0.3879379157427938, "er_mean": 0.29311160384331114, "failure_count": 0, "mean_delta": 0.06302537570830254, "missing_count": 30, "native_ci_lower": 0.14503079576250308, "native_ci_upper": 0.3199507267799951, "native_mean": 0.23008622813500865, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "er_ci_lower": 0.20086363636363638, "er_ci_upper": 0.3879379157427938, "er_mean": 0.29311160384331114, "failure_count": 0, "mean_delta": 0.06302537570830254, "missing_count": 30, "native_ci_lower": 0.14503079576250308, "native_ci_upper": 0.3199507267799951, "native_mean": 0.23008622813500865, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "er_ci_lower": 0.20086363636363638, "er_ci_upper": 0.3879379157427938, "er_mean": 0.29311160384331114, "failure_count": 0, "mean_delta": 0.06302537570830254, "missing_count": 30, "native_ci_lower": 0.14503079576250308, "native_ci_upper": 0.3199507267799951, "native_mean": 0.23008622813500865, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "er_ci_lower": 0.2086178861788618, "er_ci_upper": 0.3971914264597191, "er_mean": 0.3017294900221729, "failure_count": 0, "mean_delta": 0.0568810051736881, "missing_count": 30, "native_ci_lower": 0.15578603104212863, "native_ci_upper": 0.3379009608277901, "native_mean": 0.24484848484848482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "er_ci_lower": 0.2086178861788618, "er_ci_upper": 0.3971914264597191, "er_mean": 0.3017294900221729, "failure_count": 0, "mean_delta": 0.0568810051736881, "missing_count": 30, "native_ci_lower": 0.15578603104212863, "native_ci_upper": 0.3379009608277901, "native_mean": 0.24484848484848482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "er_ci_lower": 0.2086178861788618, "er_ci_upper": 0.3971914264597191, "er_mean": 0.3017294900221729, "failure_count": 0, "mean_delta": 0.0568810051736881, "missing_count": 30, "native_ci_lower": 0.15578603104212863, "native_ci_upper": 0.3379009608277901, "native_mean": 0.24484848484848482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "er_ci_lower": 0.2086178861788618, "er_ci_upper": 0.3971914264597191, "er_mean": 0.3017294900221729, "failure_count": 0, "mean_delta": 0.0568810051736881, "missing_count": 30, "native_ci_lower": 0.15578603104212863, "native_ci_upper": 0.3379009608277901, "native_mean": 0.24484848484848482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 92.79561212780428, "ci_upper": 159.34647750167198, "delta_ci_lower": 92.79561212780428, "delta_ci_upper": 159.34647750167198, "er_ci_lower": 5021.679323279578, "er_ci_upper": 5452.9752706967665, "er_mean": 5214.7839851245335, "failure_count": 0, "mean_delta": 126.26720016696542, "missing_count": 0, "native_ci_lower": 4901.489049700173, "native_ci_upper": 5309.518221388222, "native_mean": 5088.516784957568, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "er_ci_lower": 0.08473256959842325, "er_ci_upper": 0.1664115545700911, "er_mean": 0.12515151515151512, "failure_count": 0, "mean_delta": 0.017267799950726772, "missing_count": 30, "native_ci_lower": 0.06471760285784676, "native_ci_upper": 0.1546811406750431, "native_mean": 0.10788371520078836, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "er_ci_lower": 0.08473256959842325, "er_ci_upper": 0.1664115545700911, "er_mean": 0.12515151515151512, "failure_count": 0, "mean_delta": 0.017267799950726772, "missing_count": 30, "native_ci_lower": 0.06471760285784676, "native_ci_upper": 0.1546811406750431, "native_mean": 0.10788371520078836, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "er_ci_lower": 0.08473256959842325, "er_ci_upper": 0.1664115545700911, "er_mean": 0.12515151515151512, "failure_count": 0, "mean_delta": 0.017267799950726772, "missing_count": 30, "native_ci_lower": 0.06471760285784676, "native_ci_upper": 0.1546811406750431, "native_mean": 0.10788371520078836, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "er_ci_lower": 0.08473256959842325, "er_ci_upper": 0.1664115545700911, "er_mean": 0.12515151515151512, "failure_count": 0, "mean_delta": 0.017267799950726772, "missing_count": 30, "native_ci_lower": 0.06471760285784676, "native_ci_upper": 0.1546811406750431, "native_mean": 0.10788371520078836, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.027290194842522975, "ci_upper": 0.07384957685822431, "delta_ci_lower": -0.027290194842522975, "delta_ci_upper": 0.07384957685822431, "er_ci_lower": 0.11248386302044838, "er_ci_upper": 0.24885572331913797, "er_mean": 0.17940262086603548, "failure_count": 0, "mean_delta": 0.02058732825029942, "missing_count": 30, "native_ci_lower": 0.09619313982396026, "native_ci_upper": 0.2263858093126386, "native_mean": 0.15881529261573607, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.6333333333333333, "er_ci_upper": 0.9333333333333333, "er_mean": 0.8, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.2583333333333333, "er_ci_upper": 0.375, "er_mean": 0.3166666666666667, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.2333333333333333, "native_ci_upper": 0.35833333333333334, "native_mean": 0.29166666666666663, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -807.8254385307081, "ci_upper": 553.2098124391142, "delta_ci_lower": -807.8254385307081, "delta_ci_upper": 553.2098124391142, "er_ci_lower": 39637.103477167744, "er_ci_upper": 40658.23479707629, "er_mean": 40154.35908018844, "failure_count": 0, "mean_delta": -139.78668264462613, "missing_count": 0, "native_ci_lower": 39750.57121856696, "native_ci_upper": 40831.632254658645, "native_mean": 40294.14576283307, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -106.82812499999999, "ci_upper": 91.82145833333327, "delta_ci_lower": -106.82812499999999, "delta_ci_upper": 91.82145833333327, "er_ci_lower": 5649.179166666667, "er_ci_upper": 5790.13375, "er_mean": 5720.591666666667, "failure_count": 0, "mean_delta": -8.349999999999998, "missing_count": 0, "native_ci_lower": 5655.4825, "native_ci_upper": 5803.716875, "native_mean": 5728.941666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222227, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222227, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222227, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.20020833333334, "ci_upper": 95.51916666666662, "delta_ci_lower": -91.20020833333334, "delta_ci_upper": 95.51916666666662, "er_ci_lower": 5337.564375, "er_ci_upper": 5471.411875, "er_mean": 5405.0, "failure_count": 0, "mean_delta": 1.375, "missing_count": 0, "native_ci_lower": 5334.6660416666655, "native_ci_upper": 5472.077708333333, "native_mean": 5403.625, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.36666666666666664, "er_mean": 0.2, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.5777777777777778, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222223, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.13888888888888887, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.13888888888888887, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.13888888888888887, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.003703703703703702, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.003703703703703702, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.13888888888888887, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.41111111111111115, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.32222222222222224, "native_mean": 0.2333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.41111111111111115, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.32222222222222224, "native_mean": 0.2333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.41111111111111115, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.32222222222222224, "native_mean": 0.2333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111106, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111106, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.41111111111111115, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.32222222222222224, "native_mean": 0.2333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 93.80784330288103, "ci_upper": 147.7601683998364, "delta_ci_lower": 93.80784330288103, "delta_ci_upper": 147.7601683998364, "er_ci_lower": 4987.635538241592, "er_ci_upper": 5336.066899391201, "er_mean": 5144.1981142445, "failure_count": 0, "mean_delta": 120.8124829659937, "missing_count": 0, "native_ci_lower": 4870.1456050733395, "native_ci_upper": 5201.023199787814, "native_mean": 5023.3856312785065, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407405, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.061111111111111116, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407405, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.061111111111111116, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407405, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.061111111111111116, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333338, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333338, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407405, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.061111111111111116, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03825595906151461, "ci_upper": 0.06405194805194801, "delta_ci_lower": -0.03825595906151461, "delta_ci_upper": 0.06405194805194801, "er_ci_lower": 0.10492320693709582, "er_ci_upper": 0.23349757495590825, "er_mean": 0.16788653733098177, "failure_count": 0, "mean_delta": 0.01207424776869221, "missing_count": 30, "native_ci_lower": 0.09356902356902357, "native_ci_upper": 0.22359006734006734, "native_mean": 0.15581228956228957, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.6333333333333333, "er_ci_upper": 0.9333333333333333, "er_mean": 0.8, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.25833333333333336, "er_ci_upper": 0.375, "er_mean": 0.31666666666666665, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.35833333333333334, "native_mean": 0.2916666666666667, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -807.8254385307081, "ci_upper": 553.2098124391142, "delta_ci_lower": -807.8254385307081, "delta_ci_upper": 553.2098124391142, "er_ci_lower": 39637.103477167744, "er_ci_upper": 40658.23479707629, "er_mean": 40154.35908018844, "failure_count": 0, "mean_delta": -139.78668264462613, "missing_count": 0, "native_ci_lower": 39750.57121856696, "native_ci_upper": 40831.632254658645, "native_mean": 40294.14576283307, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -106.82812499999999, "ci_upper": 91.82145833333327, "delta_ci_lower": -106.82812499999999, "delta_ci_upper": 91.82145833333327, "er_ci_lower": 5649.179166666667, "er_ci_upper": 5790.13375, "er_mean": 5720.591666666666, "failure_count": 0, "mean_delta": -8.35, "missing_count": 0, "native_ci_lower": 5655.4825, "native_ci_upper": 5803.716874999999, "native_mean": 5728.941666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.20020833333334, "ci_upper": 95.51916666666662, "delta_ci_lower": -91.20020833333334, "delta_ci_upper": 95.51916666666662, "er_ci_lower": 5337.564375, "er_ci_upper": 5471.411875000001, "er_mean": 5405.0, "failure_count": 0, "mean_delta": 1.375, "missing_count": 0, "native_ci_lower": 5334.666041666666, "native_ci_upper": 5472.077708333333, "native_mean": 5403.625, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.36666666666666664, "er_mean": 0.2, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.5777777777777777, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222222, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.1388888888888889, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.1388888888888889, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.1388888888888889, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.1388888888888889, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.4111111111111111, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.32222222222222224, "native_mean": 0.23333333333333334, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.4111111111111111, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.32222222222222224, "native_mean": 0.23333333333333334, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.4111111111111111, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.32222222222222224, "native_mean": 0.23333333333333334, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.4111111111111111, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.32222222222222224, "native_mean": 0.23333333333333334, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 93.80784330288103, "ci_upper": 147.7601683998364, "delta_ci_lower": 93.80784330288103, "delta_ci_upper": 147.7601683998364, "er_ci_lower": 4987.635538241592, "er_ci_upper": 5336.066899391201, "er_mean": 5144.1981142445, "failure_count": 0, "mean_delta": 120.8124829659937, "missing_count": 0, "native_ci_lower": 4870.1456050733395, "native_ci_upper": 5201.023199787814, "native_mean": 5023.3856312785065, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407408, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407408, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407408, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407408, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03825595906151461, "ci_upper": 0.06405194805194803, "delta_ci_lower": -0.03825595906151461, "delta_ci_upper": 0.06405194805194803, "er_ci_lower": 0.10492320693709584, "er_ci_upper": 0.23349757495590825, "er_mean": 0.16788653733098177, "failure_count": 0, "mean_delta": 0.012074247768692212, "missing_count": 30, "native_ci_lower": 0.09356902356902358, "native_ci_upper": 0.22359006734006737, "native_mean": 0.15581228956228957, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.6333333333333333, "er_ci_upper": 0.9333333333333333, "er_mean": 0.8, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.019131455399061033, "ci_upper": 0.0733568075117371, "delta_ci_lower": -0.019131455399061033, "delta_ci_upper": 0.0733568075117371, "er_ci_lower": 0.1787235915492958, "er_ci_upper": 0.30556859676577985, "er_mean": 0.24067553468961922, "failure_count": 0, "mean_delta": 0.02509128847157016, "missing_count": 0, "native_ci_lower": 0.15564749608763706, "native_ci_upper": 0.2800730307772561, "native_mean": 0.21558424621804903, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -771.3952000594796, "ci_upper": 667.089373062954, "delta_ci_lower": -771.3952000594796, "delta_ci_upper": 667.089373062954, "er_ci_lower": 39676.031724730856, "er_ci_upper": 40771.41450833615, "er_mean": 40221.71315302746, "failure_count": 0, "mean_delta": -65.43457441054375, "missing_count": 0, "native_ci_lower": 39717.128606914695, "native_ci_upper": 40846.92162640593, "native_mean": 40287.147727438, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -111.41725417318727, "ci_upper": 96.41285667709961, "delta_ci_lower": -111.41725417318727, "delta_ci_upper": 96.41285667709961, "er_ci_lower": 5642.555622065727, "er_ci_upper": 5791.944069835681, "er_mean": 5717.489058424622, "failure_count": 0, "mean_delta": -7.346765779864367, "missing_count": 0, "native_ci_lower": 5648.22315108242, "native_ci_upper": 5802.376403560251, "native_mean": 5724.835824204486, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.06326681448632668, "ci_upper": 0.017235772357723576, "delta_ci_lower": -0.06326681448632668, "delta_ci_upper": 0.017235772357723576, "er_ci_lower": 0.0, "er_ci_upper": 0.025853658536585365, "er_mean": 0.008617886178861788, "failure_count": 0, "mean_delta": -0.01668883961566888, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.06326681448632668, "ci_upper": 0.017235772357723576, "delta_ci_lower": -0.06326681448632668, "delta_ci_upper": 0.017235772357723576, "er_ci_lower": 0.0, "er_ci_upper": 0.025853658536585365, "er_mean": 0.008617886178861788, "failure_count": 0, "mean_delta": -0.01668883961566888, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.06326681448632668, "ci_upper": 0.017235772357723576, "delta_ci_lower": -0.06326681448632668, "delta_ci_upper": 0.017235772357723576, "er_ci_lower": 0.0, "er_ci_upper": 0.025853658536585365, "er_mean": 0.008617886178861788, "failure_count": 0, "mean_delta": -0.01668883961566888, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.49595331246739, "ci_upper": 102.42380281690137, "delta_ci_lower": -91.49595331246739, "delta_ci_upper": 102.42380281690137, "er_ci_lower": 5337.659360328638, "er_ci_upper": 5477.916123826291, "er_mean": 5407.362584767867, "failure_count": 0, "mean_delta": 5.4339071465832, "missing_count": 0, "native_ci_lower": 5330.513984415754, "native_ci_upper": 5473.691723721961, "native_mean": 5401.928677621284, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.36666666666666664, "er_mean": 0.2, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06897265336289726, "ci_upper": 0.12127235772357721, "delta_ci_lower": -0.06897265336289726, "delta_ci_upper": 0.12127235772357721, "er_ci_lower": 0.5523577235772358, "er_ci_upper": 0.734530672579453, "er_mean": 0.643739837398374, "failure_count": 0, "mean_delta": 0.025853658536585365, "missing_count": 30, "native_ci_lower": 0.5241977087952697, "native_ci_upper": 0.711529933481153, "native_mean": 0.6178861788617886, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "er_ci_lower": 0.20086363636363638, "er_ci_upper": 0.3879379157427938, "er_mean": 0.29311160384331114, "failure_count": 0, "mean_delta": 0.06302537570830254, "missing_count": 30, "native_ci_lower": 0.14503079576250308, "native_ci_upper": 0.3199507267799951, "native_mean": 0.23008622813500865, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "er_ci_lower": 0.20086363636363638, "er_ci_upper": 0.3879379157427938, "er_mean": 0.29311160384331114, "failure_count": 0, "mean_delta": 0.06302537570830254, "missing_count": 30, "native_ci_lower": 0.14503079576250308, "native_ci_upper": 0.3199507267799951, "native_mean": 0.23008622813500865, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "er_ci_lower": 0.20086363636363638, "er_ci_upper": 0.3879379157427938, "er_mean": 0.29311160384331114, "failure_count": 0, "mean_delta": 0.06302537570830254, "missing_count": 30, "native_ci_lower": 0.14503079576250308, "native_ci_upper": 0.3199507267799951, "native_mean": 0.23008622813500865, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.012912047302291204, "ci_upper": 0.1397230845035723, "delta_ci_lower": -0.012912047302291204, "delta_ci_upper": 0.1397230845035723, "er_ci_lower": 0.20086363636363638, "er_ci_upper": 0.3879379157427938, "er_mean": 0.29311160384331114, "failure_count": 0, "mean_delta": 0.06302537570830254, "missing_count": 30, "native_ci_lower": 0.14503079576250308, "native_ci_upper": 0.3199507267799951, "native_mean": 0.23008622813500865, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "er_ci_lower": 0.2086178861788618, "er_ci_upper": 0.3971914264597191, "er_mean": 0.3017294900221729, "failure_count": 0, "mean_delta": 0.0568810051736881, "missing_count": 30, "native_ci_lower": 0.15578603104212863, "native_ci_upper": 0.3379009608277901, "native_mean": 0.24484848484848482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "er_ci_lower": 0.2086178861788618, "er_ci_upper": 0.3971914264597191, "er_mean": 0.3017294900221729, "failure_count": 0, "mean_delta": 0.0568810051736881, "missing_count": 30, "native_ci_lower": 0.15578603104212863, "native_ci_upper": 0.3379009608277901, "native_mean": 0.24484848484848482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "er_ci_lower": 0.2086178861788618, "er_ci_upper": 0.3971914264597191, "er_mean": 0.3017294900221729, "failure_count": 0, "mean_delta": 0.0568810051736881, "missing_count": 30, "native_ci_lower": 0.15578603104212863, "native_ci_upper": 0.3379009608277901, "native_mean": 0.24484848484848482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.028203991130820394, "ci_upper": 0.1408277900960828, "delta_ci_lower": -0.028203991130820394, "delta_ci_upper": 0.1408277900960828, "er_ci_lower": 0.2086178861788618, "er_ci_upper": 0.3971914264597191, "er_mean": 0.3017294900221729, "failure_count": 0, "mean_delta": 0.0568810051736881, "missing_count": 30, "native_ci_lower": 0.15578603104212863, "native_ci_upper": 0.3379009608277901, "native_mean": 0.24484848484848482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 92.79561212780428, "ci_upper": 159.34647750167198, "delta_ci_lower": 92.79561212780428, "delta_ci_upper": 159.34647750167198, "er_ci_lower": 5021.679323279578, "er_ci_upper": 5452.9752706967665, "er_mean": 5214.7839851245335, "failure_count": 0, "mean_delta": 126.26720016696542, "missing_count": 0, "native_ci_lower": 4901.489049700173, "native_ci_upper": 5309.518221388222, "native_mean": 5088.516784957568, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "er_ci_lower": 0.08473256959842325, "er_ci_upper": 0.1664115545700911, "er_mean": 0.12515151515151512, "failure_count": 0, "mean_delta": 0.017267799950726772, "missing_count": 30, "native_ci_lower": 0.06471760285784676, "native_ci_upper": 0.1546811406750431, "native_mean": 0.10788371520078836, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "er_ci_lower": 0.08473256959842325, "er_ci_upper": 0.1664115545700911, "er_mean": 0.12515151515151512, "failure_count": 0, "mean_delta": 0.017267799950726772, "missing_count": 30, "native_ci_lower": 0.06471760285784676, "native_ci_upper": 0.1546811406750431, "native_mean": 0.10788371520078836, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "er_ci_lower": 0.08473256959842325, "er_ci_upper": 0.1664115545700911, "er_mean": 0.12515151515151512, "failure_count": 0, "mean_delta": 0.017267799950726772, "missing_count": 30, "native_ci_lower": 0.06471760285784676, "native_ci_upper": 0.1546811406750431, "native_mean": 0.10788371520078836, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.019522234540527216, "ci_upper": 0.05381892091648189, "delta_ci_lower": -0.019522234540527216, "delta_ci_upper": 0.05381892091648189, "er_ci_lower": 0.08473256959842325, "er_ci_upper": 0.1664115545700911, "er_mean": 0.12515151515151512, "failure_count": 0, "mean_delta": 0.017267799950726772, "missing_count": 30, "native_ci_lower": 0.06471760285784676, "native_ci_upper": 0.1546811406750431, "native_mean": 0.10788371520078836, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.027290194842522975, "ci_upper": 0.07384957685822431, "delta_ci_lower": -0.027290194842522975, "delta_ci_upper": 0.07384957685822431, "er_ci_lower": 0.11248386302044838, "er_ci_upper": 0.24885572331913797, "er_mean": 0.17940262086603548, "failure_count": 0, "mean_delta": 0.02058732825029942, "missing_count": 30, "native_ci_lower": 0.09619313982396026, "native_ci_upper": 0.2263858093126386, "native_mean": 0.15881529261573607, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.6333333333333333, "er_ci_upper": 0.9333333333333333, "er_mean": 0.8, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1844.8739615877269, "ci_upper": 908.6354211770229, "delta_ci_lower": -1844.8739615877269, "delta_ci_upper": 908.6354211770229, "er_ci_lower": 39523.864393138014, "er_ci_upper": 41769.76466173907, "er_mean": 40614.764241563775, "failure_count": 0, "mean_delta": -494.015041727107, "missing_count": 0, "native_ci_lower": 39987.75080429972, "native_ci_upper": 42222.43603239757, "native_mean": 41108.77928329088, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -309.96666666666664, "ci_upper": 63.8358333333333, "delta_ci_lower": -309.96666666666664, "delta_ci_upper": 63.8358333333333, "er_ci_lower": 5567.195, "er_ci_upper": 5873.968333333333, "er_mean": 5717.2, "failure_count": 0, "mean_delta": -123.3, "missing_count": 0, "native_ci_lower": 5696.1658333333335, "native_ci_upper": 5987.670833333334, "native_mean": 5840.5, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -277.1016666666667, "ci_upper": 69.2758333333332, "delta_ci_lower": -277.1016666666667, "delta_ci_upper": 69.2758333333332, "er_ci_lower": 5271.865, "er_ci_upper": 5560.303333333333, "er_mean": 5412.133333333333, "failure_count": 0, "mean_delta": -103.1, "missing_count": 0, "native_ci_lower": 5374.223333333334, "native_ci_upper": 5655.903333333333, "native_mean": 5515.233333333334, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.2, "ci_upper": 0.2, "delta_ci_lower": -0.2, "delta_ci_upper": 0.2, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.9, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.09444444444444446, "ci_upper": 0.18333333333333332, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.18333333333333332, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.03888888888888889, "missing_count": 0, "native_ci_lower": 0.11666666666666667, "native_ci_upper": 0.4166666666666667, "native_mean": 0.2611111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.09444444444444446, "ci_upper": 0.18333333333333332, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.18333333333333332, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.03888888888888889, "missing_count": 0, "native_ci_lower": 0.11666666666666667, "native_ci_upper": 0.4166666666666667, "native_mean": 0.2611111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.09444444444444446, "ci_upper": 0.18333333333333332, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.18333333333333332, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.03888888888888889, "missing_count": 0, "native_ci_lower": 0.11666666666666667, "native_ci_upper": 0.4166666666666667, "native_mean": 0.2611111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.09444444444444446, "ci_upper": 0.18333333333333332, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.18333333333333332, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.03888888888888889, "missing_count": 0, "native_ci_lower": 0.11666666666666667, "native_ci_upper": 0.4166666666666667, "native_mean": 0.2611111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 138.69361421452294, "ci_upper": 191.56509988950953, "delta_ci_lower": 138.69361421452294, "delta_ci_upper": 191.56509988950953, "er_ci_lower": 4757.758340723037, "er_ci_upper": 5287.324902382486, "er_mean": 5018.138948595151, "failure_count": 0, "mean_delta": 164.47813186096027, "missing_count": 0, "native_ci_lower": 4589.893785346843, "native_ci_upper": 5129.447176649022, "native_mean": 4853.660816734191, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.11666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.11666666666666667, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.06111111111111111, "er_ci_upper": 0.2111111111111111, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.03888888888888889, "missing_count": 0, "native_ci_lower": 0.07777777777777777, "native_ci_upper": 0.2833333333333333, "native_mean": 0.17222222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.11666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.11666666666666667, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.06111111111111111, "er_ci_upper": 0.2111111111111111, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.03888888888888889, "missing_count": 0, "native_ci_lower": 0.07777777777777777, "native_ci_upper": 0.2833333333333333, "native_mean": 0.17222222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.11666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.11666666666666667, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.06111111111111111, "er_ci_upper": 0.2111111111111111, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.03888888888888889, "missing_count": 0, "native_ci_lower": 0.07777777777777777, "native_ci_upper": 0.2833333333333333, "native_mean": 0.17222222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.11666666666666667, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.11666666666666667, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.06111111111111111, "er_ci_upper": 0.2111111111111111, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.03888888888888889, "missing_count": 0, "native_ci_lower": 0.07777777777777777, "native_ci_upper": 0.2833333333333333, "native_mean": 0.17222222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "inference": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1207.9879187842978, "ci_upper": 1622.9219476802002, "delta_ci_lower": -1207.9879187842978, "delta_ci_upper": 1622.9219476802002, "er_ci_lower": 38798.13432680928, "er_ci_upper": 40515.7429054653, "er_mean": 39652.82288060989, "failure_count": 0, "mean_delta": 265.01018200845766, "missing_count": 0, "native_ci_lower": 38375.48370893531, "native_ci_upper": 40480.95331847124, "native_mean": 39387.81269860143, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -201.03333333333333, "ci_upper": 214.1683333333333, "delta_ci_lower": -201.03333333333333, "delta_ci_upper": 214.1683333333333, "er_ci_lower": 5532.798333333333, "er_ci_upper": 5773.335, "er_mean": 5652.133333333333, "failure_count": 0, "mean_delta": 14.433333333333334, "missing_count": 0, "native_ci_lower": 5491.795, "native_ci_upper": 5797.235833333333, "native_mean": 5637.7, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -163.935, "ci_upper": 222.8358333333333, "delta_ci_lower": -163.935, "delta_ci_upper": 222.8358333333333, "er_ci_lower": 5244.4975, "er_ci_upper": 5470.1125, "er_mean": 5356.033333333334, "failure_count": 0, "mean_delta": 35.733333333333334, "missing_count": 0, "native_ci_lower": 5187.3966666666665, "native_ci_upper": 5464.6675000000005, "native_mean": 5320.3, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 5.42584461421939, "ci_upper": 199.9489371189459, "delta_ci_lower": 5.42584461421939, "delta_ci_upper": 199.9489371189459, "er_ci_lower": 4708.467774163777, "er_ci_upper": 5873.02058533649, "er_mean": 5212.625108341065, "failure_count": 0, "mean_delta": 101.75087356862302, "missing_count": 0, "native_ci_lower": 4630.936518100401, "native_ci_upper": 5730.252329928722, "native_mean": 5110.874234772443, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "er_ci_lower": 0.027777777777777776, "er_ci_upper": 0.12777777777777777, "er_mean": 0.075, "failure_count": 0, "mean_delta": -0.002777777777777777, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.125, "native_mean": 0.07777777777777777, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "er_ci_lower": 0.027777777777777776, "er_ci_upper": 0.12777777777777777, "er_mean": 0.075, "failure_count": 0, "mean_delta": -0.002777777777777777, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.125, "native_mean": 0.07777777777777777, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "er_ci_lower": 0.027777777777777776, "er_ci_upper": 0.12777777777777777, "er_mean": 0.075, "failure_count": 0, "mean_delta": -0.002777777777777777, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.125, "native_mean": 0.07777777777777777, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.041666666666666664, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.041666666666666664, "er_ci_lower": 0.027777777777777776, "er_ci_upper": 0.12777777777777777, "er_mean": 0.075, "failure_count": 0, "mean_delta": -0.002777777777777777, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.125, "native_mean": 0.07777777777777777, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.020090388007054674, "ci_upper": 0.18469001022126016, "delta_ci_lower": -0.020090388007054674, "delta_ci_upper": 0.18469001022126016, "er_ci_lower": 0.27150903880070554, "er_ci_upper": 0.6131834215167549, "er_mean": 0.43699294532627864, "failure_count": 0, "mean_delta": 0.06955607663940996, "missing_count": 0, "native_ci_lower": 0.2049368686868687, "native_ci_upper": 0.5374368686868688, "native_mean": 0.3674368686868687, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "temporal": { "answer_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -687.7914472455934, "ci_upper": 1653.6680225576854, "delta_ci_lower": -687.7914472455934, "delta_ci_upper": 1653.6680225576854, "er_ci_lower": 39625.03107630919, "er_ci_upper": 41940.329428956225, "er_mean": 40774.65442911101, "failure_count": 0, "mean_delta": 492.02304303180426, "missing_count": 0, "native_ci_lower": 39371.84793698921, "native_ci_upper": 41316.1319555153, "native_mean": 40282.63138607921, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -4.569166666666645, "ci_upper": 368.93583333333333, "delta_ci_lower": -4.569166666666645, "delta_ci_upper": 368.93583333333333, "er_ci_lower": 5670.099166666668, "er_ci_upper": 5979.768333333333, "er_mean": 5824.166666666667, "failure_count": 0, "mean_delta": 185.36666666666667, "missing_count": 0, "native_ci_lower": 5531.795833333334, "native_ci_upper": 5758.370833333333, "native_mean": 5638.8, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 1.6583333333334072, "ci_upper": 352.4675, "delta_ci_lower": 1.6583333333334072, "delta_ci_upper": 352.4675, "er_ci_lower": 5356.5625, "er_ci_upper": 5648.503333333333, "er_mean": 5501.8, "failure_count": 0, "mean_delta": 181.03333333333333, "missing_count": 0, "native_ci_lower": 5223.065833333333, "native_ci_upper": 5430.300833333334, "native_mean": 5320.766666666666, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.6333333333333333, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.1, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.1, "delta_ci_upper": 0.38333333333333336, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.1, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.1, "delta_ci_upper": 0.38333333333333336, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.1, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.1, "delta_ci_upper": 0.38333333333333336, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.1, "ci_upper": 0.38333333333333336, "delta_ci_lower": 0.1, "delta_ci_upper": 0.38333333333333336, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.1, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.1, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.1, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.1, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.1, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.1, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.1, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.1, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 95.42999948889096, "ci_upper": 142.5603377196239, "delta_ci_lower": 95.42999948889096, "delta_ci_upper": 142.5603377196239, "er_ci_lower": 5676.955629027603, "er_ci_upper": 6145.439299453088, "er_mean": 5907.107408375789, "failure_count": 0, "mean_delta": 119.12649313841636, "missing_count": 0, "native_ci_lower": 5555.358046344481, "native_ci_upper": 6030.276319297069, "native_mean": 5787.980915237374, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.06111111111111111, "ci_upper": 0.2, "delta_ci_lower": 0.06111111111111111, "delta_ci_upper": 0.2, "er_ci_lower": 0.1, "er_ci_upper": 0.2833333333333333, "er_mean": 0.18333333333333332, "failure_count": 0, "mean_delta": 0.12777777777777777, "missing_count": 0, "native_ci_lower": 0.01111111111111111, "native_ci_upper": 0.11111111111111112, "native_mean": 0.05555555555555555, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.06111111111111111, "ci_upper": 0.2, "delta_ci_lower": 0.06111111111111111, "delta_ci_upper": 0.2, "er_ci_lower": 0.1, "er_ci_upper": 0.2833333333333333, "er_mean": 0.18333333333333332, "failure_count": 0, "mean_delta": 0.12777777777777777, "missing_count": 0, "native_ci_lower": 0.01111111111111111, "native_ci_upper": 0.11111111111111112, "native_mean": 0.05555555555555555, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.06111111111111111, "ci_upper": 0.2, "delta_ci_lower": 0.06111111111111111, "delta_ci_upper": 0.2, "er_ci_lower": 0.1, "er_ci_upper": 0.2833333333333333, "er_mean": 0.18333333333333332, "failure_count": 0, "mean_delta": 0.12777777777777777, "missing_count": 0, "native_ci_lower": 0.01111111111111111, "native_ci_upper": 0.11111111111111112, "native_mean": 0.05555555555555555, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.06111111111111111, "ci_upper": 0.2, "delta_ci_lower": 0.06111111111111111, "delta_ci_upper": 0.2, "er_ci_lower": 0.1, "er_ci_upper": 0.2833333333333333, "er_mean": 0.18333333333333332, "failure_count": 0, "mean_delta": 0.12777777777777777, "missing_count": 0, "native_ci_lower": 0.01111111111111111, "native_ci_upper": 0.11111111111111112, "native_mean": 0.05555555555555555, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "unanswerable": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.6666666666666666, "er_ci_upper": 0.9333333333333333, "er_mean": 0.8, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2242.092374623171, "ci_upper": 632.9844837751195, "delta_ci_lower": -2242.092374623171, "delta_ci_upper": 632.9844837751195, "er_ci_lower": 38698.2479447755, "er_ci_upper": 40482.93037436379, "er_mean": 39575.19476946909, "failure_count": 0, "mean_delta": -822.1649138916595, "missing_count": 0, "native_ci_lower": 39244.33150157459, "native_ci_upper": 41597.41681868482, "native_mean": 40397.35968336075, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -315.73749999999995, "ci_upper": 100.77083333333327, "delta_ci_lower": -315.73749999999995, "delta_ci_upper": 100.77083333333327, "er_ci_lower": 5562.6975, "er_ci_upper": 5819.469166666667, "er_mean": 5688.866666666667, "failure_count": 0, "mean_delta": -109.9, "missing_count": 0, "native_ci_lower": 5630.8324999999995, "native_ci_upper": 5974.1375, "native_mean": 5798.766666666666, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "context_token_count": { "ci_lower": -299.7683333333333, "ci_upper": 91.23499999999999, "delta_ci_lower": -299.7683333333333, "delta_ci_upper": 91.23499999999999, "er_ci_lower": 5226.565833333333, "er_ci_upper": 5479.471666666666, "er_mean": 5350.033333333334, "failure_count": 0, "mean_delta": -108.16666666666667, "missing_count": 0, "native_ci_lower": 5309.498333333333, "native_ci_upper": 5616.233333333334, "native_mean": 5458.2, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.3333333333333333, "er_mean": 0.2, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_latency_ms": { "ci_lower": 70.92864597623704, "ci_upper": 126.74670579843222, "delta_ci_lower": 70.92864597623704, "delta_ci_upper": 126.74670579843222, "er_ci_lower": 4303.884737550786, "er_ci_upper": 4567.617108614843, "er_mean": 4438.920991665994, "failure_count": 0, "mean_delta": 97.89443329597513, "missing_count": 0, "native_ci_lower": 4200.995357613914, "native_ci_upper": 4477.23953148224, "native_mean": 4341.026558370019, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.6666666666666666, "er_ci_upper": 0.9333333333333333, "er_mean": 0.8, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.25833333333333336, "er_ci_upper": 0.375, "er_mean": 0.31666666666666665, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.35833333333333334, "native_mean": 0.2916666666666667, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -807.8254385307081, "ci_upper": 553.2098124391142, "delta_ci_lower": -807.8254385307081, "delta_ci_upper": 553.2098124391142, "er_ci_lower": 39637.103477167744, "er_ci_upper": 40658.23479707629, "er_mean": 40154.35908018844, "failure_count": 0, "mean_delta": -139.78668264462613, "missing_count": 0, "native_ci_lower": 39750.57121856696, "native_ci_upper": 40831.632254658645, "native_mean": 40294.14576283307, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -106.82812499999999, "ci_upper": 91.82145833333327, "delta_ci_lower": -106.82812499999999, "delta_ci_upper": 91.82145833333327, "er_ci_lower": 5649.179166666667, "er_ci_upper": 5790.13375, "er_mean": 5720.591666666666, "failure_count": 0, "mean_delta": -8.35, "missing_count": 0, "native_ci_lower": 5655.4825, "native_ci_upper": 5803.716874999999, "native_mean": 5728.941666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -91.20020833333334, "ci_upper": 95.51916666666662, "delta_ci_lower": -91.20020833333334, "delta_ci_upper": 95.51916666666662, "er_ci_lower": 5337.564375, "er_ci_upper": 5471.411875000001, "er_mean": 5405.0, "failure_count": 0, "mean_delta": 1.375, "missing_count": 0, "native_ci_lower": 5334.666041666666, "native_ci_upper": 5472.077708333333, "native_mean": 5403.625, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.1, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.1, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.36666666666666664, "er_mean": 0.2, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.5777777777777777, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.5444444444444444, "native_ci_upper": 0.7222222222222222, "native_mean": 0.6333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.1388888888888889, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.1388888888888889, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.1388888888888889, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0037037037037037043, "ci_upper": 0.1574074074074074, "delta_ci_lower": 0.0037037037037037043, "delta_ci_upper": 0.1574074074074074, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.39444444444444443, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.07962962962962963, "missing_count": 30, "native_ci_lower": 0.1388888888888889, "native_ci_upper": 0.3055555555555556, "native_mean": 0.22037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.4111111111111111, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.32222222222222224, "native_mean": 0.23333333333333334, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.4111111111111111, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.32222222222222224, "native_mean": 0.23333333333333334, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.4111111111111111, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.32222222222222224, "native_mean": 0.23333333333333334, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.011111111111111112, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.2222222222222222, "er_ci_upper": 0.4111111111111111, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.32222222222222224, "native_mean": 0.23333333333333334, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 93.80784330288103, "ci_upper": 147.7601683998364, "delta_ci_lower": 93.80784330288103, "delta_ci_upper": 147.7601683998364, "er_ci_lower": 4987.635538241592, "er_ci_upper": 5336.066899391201, "er_mean": 5144.1981142445, "failure_count": 0, "mean_delta": 120.8124829659937, "missing_count": 0, "native_ci_lower": 4870.1456050733395, "native_ci_upper": 5201.023199787814, "native_mean": 5023.3856312785065, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407408, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407408, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407408, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333333, "ci_upper": 0.06574074074074074, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.06574074074074074, "er_ci_lower": 0.08888888888888889, "er_ci_upper": 0.17407407407407408, "er_mean": 0.13055555555555556, "failure_count": 0, "mean_delta": 0.0287037037037037, "missing_count": 30, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.14629629629629629, "native_mean": 0.10185185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03825595906151461, "ci_upper": 0.06405194805194803, "delta_ci_lower": -0.03825595906151461, "delta_ci_upper": 0.06405194805194803, "er_ci_lower": 0.10492320693709584, "er_ci_upper": 0.23349757495590825, "er_mean": 0.16788653733098177, "failure_count": 0, "mean_delta": 0.012074247768692212, "missing_count": 30, "native_ci_lower": 0.09356902356902358, "native_ci_upper": 0.22359006734006737, "native_mean": 0.15581228956228957, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.6333333333333333, "er_ci_upper": 0.9333333333333333, "er_mean": 0.8, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "paired_question_count": 120, "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_098496a4a666032d4809338b", "builder_key": "qwen35_9b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.14166666666666666, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.14166666666666666, "er_ci_lower": 0.3, "er_ci_upper": 0.4166666666666667, "er_mean": 0.35833333333333334, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.35, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -503.23539079402207, "ci_upper": 744.1292423778212, "delta_ci_lower": -503.23539079402207, "delta_ci_upper": 744.1292423778212, "er_ci_lower": 39891.88007188801, "er_ci_upper": 40907.41048973757, "er_mean": 40395.878561388236, "failure_count": 0, "mean_delta": 110.86574645499546, "missing_count": 0, "native_ci_lower": 39795.66939182831, "native_ci_upper": 40779.87758686841, "native_mean": 40285.01281493324, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -46.66770833333332, "ci_upper": 134.72666666666663, "delta_ci_lower": -46.66770833333332, "delta_ci_upper": 134.72666666666663, "er_ci_lower": 5682.913125, "er_ci_upper": 5823.609166666667, "er_mean": 5752.858333333334, "failure_count": 0, "mean_delta": 42.166666666666664, "missing_count": 0, "native_ci_lower": 5645.21625, "native_ci_upper": 5777.133333333333, "native_mean": 5710.691666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -54.583749999999995, "ci_upper": 115.88395833333333, "delta_ci_lower": -54.583749999999995, "delta_ci_upper": 115.88395833333333, "er_ci_lower": 5400.124791666666, "er_ci_upper": 5529.55, "er_mean": 5464.291666666666, "failure_count": 0, "mean_delta": 28.983333333333327, "missing_count": 0, "native_ci_lower": 5374.614791666667, "native_ci_upper": 5496.2335416666665, "native_mean": 5435.308333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.5888888888888889, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666666, "native_mean": 0.6777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.011111111111111108, "ci_upper": 0.1722222222222222, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.1722222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35000000000000003, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.25555555555555554, "native_mean": 0.1722222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.011111111111111108, "ci_upper": 0.1722222222222222, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.1722222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35000000000000003, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.25555555555555554, "native_mean": 0.1722222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.011111111111111108, "ci_upper": 0.1722222222222222, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.1722222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35000000000000003, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.25555555555555554, "native_mean": 0.1722222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.011111111111111108, "ci_upper": 0.1722222222222222, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.1722222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35000000000000003, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.25555555555555554, "native_mean": 0.1722222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -24.88226589268985, "ci_upper": 15.431430405951687, "delta_ci_lower": -24.88226589268985, "delta_ci_upper": 15.431430405951687, "er_ci_lower": 4938.837641257123, "er_ci_upper": 5266.633054244594, "er_mean": 5088.230897922767, "failure_count": 0, "mean_delta": -3.406223953546336, "missing_count": 0, "native_ci_lower": 4936.541536330382, "native_ci_upper": 5275.773601573188, "native_mean": 5091.637121876313, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.012962962962962963, "ci_upper": 0.0898148148148148, "delta_ci_lower": 0.012962962962962963, "delta_ci_upper": 0.0898148148148148, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592593, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037037, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.012962962962962963, "ci_upper": 0.0898148148148148, "delta_ci_lower": 0.012962962962962963, "delta_ci_upper": 0.0898148148148148, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592593, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037037, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.012962962962962963, "ci_upper": 0.0898148148148148, "delta_ci_lower": 0.012962962962962963, "delta_ci_upper": 0.0898148148148148, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592593, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037037, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.012962962962962963, "ci_upper": 0.0898148148148148, "delta_ci_lower": 0.012962962962962963, "delta_ci_upper": 0.0898148148148148, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592593, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037037, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.037106221745829004, "ci_upper": 0.11863066171551631, "delta_ci_lower": -0.037106221745829004, "delta_ci_upper": 0.11863066171551631, "er_ci_lower": 0.12551440329218108, "er_ci_upper": 0.25884773662551436, "er_mean": 0.19218106995884773, "failure_count": 0, "mean_delta": 0.04089391569248455, "missing_count": 30, "native_ci_lower": 0.08625781159059556, "native_ci_upper": 0.22404670680532748, "native_mean": 0.1512871542663632, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.14166666666666666, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.14166666666666666, "er_ci_lower": 0.3, "er_ci_upper": 0.4166666666666667, "er_mean": 0.35833333333333334, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.35, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -503.235390794022, "ci_upper": 744.1292423778212, "delta_ci_lower": -503.235390794022, "delta_ci_upper": 744.1292423778212, "er_ci_lower": 39891.88007188801, "er_ci_upper": 40907.410489737566, "er_mean": 40395.878561388236, "failure_count": 0, "mean_delta": 110.86574645499543, "missing_count": 0, "native_ci_lower": 39795.66939182831, "native_ci_upper": 40779.87758686841, "native_mean": 40285.01281493324, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -46.66770833333332, "ci_upper": 134.72666666666663, "delta_ci_lower": -46.66770833333332, "delta_ci_upper": 134.72666666666663, "er_ci_lower": 5682.913125000001, "er_ci_upper": 5823.609166666667, "er_mean": 5752.858333333334, "failure_count": 0, "mean_delta": 42.166666666666664, "missing_count": 0, "native_ci_lower": 5645.2162499999995, "native_ci_upper": 5777.133333333333, "native_mean": 5710.691666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -54.583749999999995, "ci_upper": 115.88395833333333, "delta_ci_lower": -54.583749999999995, "delta_ci_upper": 115.88395833333333, "er_ci_lower": 5400.124791666666, "er_ci_upper": 5529.55, "er_mean": 5464.291666666667, "failure_count": 0, "mean_delta": 28.983333333333334, "missing_count": 0, "native_ci_lower": 5374.614791666667, "native_ci_upper": 5496.2335416666665, "native_mean": 5435.308333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.5888888888888889, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666667, "native_mean": 0.6777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.25555555555555554, "native_mean": 0.17222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.25555555555555554, "native_mean": 0.17222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.25555555555555554, "native_mean": 0.17222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.25555555555555554, "native_mean": 0.17222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -24.88226589268985, "ci_upper": 15.431430405951685, "delta_ci_lower": -24.88226589268985, "delta_ci_upper": 15.431430405951685, "er_ci_lower": 4938.837641257123, "er_ci_upper": 5266.633054244594, "er_mean": 5088.230897922767, "failure_count": 0, "mean_delta": -3.4062239535463354, "missing_count": 0, "native_ci_lower": 4936.541536330382, "native_ci_upper": 5275.773601573188, "native_mean": 5091.637121876313, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.01296296296296296, "ci_upper": 0.08981481481481482, "delta_ci_lower": 0.01296296296296296, "delta_ci_upper": 0.08981481481481482, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592592, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.01296296296296296, "ci_upper": 0.08981481481481482, "delta_ci_lower": 0.01296296296296296, "delta_ci_upper": 0.08981481481481482, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592592, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.01296296296296296, "ci_upper": 0.08981481481481482, "delta_ci_lower": 0.01296296296296296, "delta_ci_upper": 0.08981481481481482, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592592, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.01296296296296296, "ci_upper": 0.08981481481481482, "delta_ci_lower": 0.01296296296296296, "delta_ci_upper": 0.08981481481481482, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592592, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.037106221745829, "ci_upper": 0.11863066171551631, "delta_ci_lower": -0.037106221745829, "delta_ci_upper": 0.11863066171551631, "er_ci_lower": 0.12551440329218105, "er_ci_upper": 0.2588477366255144, "er_mean": 0.19218106995884776, "failure_count": 0, "mean_delta": 0.040893915692484545, "missing_count": 30, "native_ci_lower": 0.08625781159059558, "native_ci_upper": 0.2240467068053275, "native_mean": 0.1512871542663632, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.003367240479916507, "ci_upper": 0.1473288341158059, "delta_ci_lower": -0.003367240479916507, "delta_ci_upper": 0.1473288341158059, "er_ci_lower": 0.21571465832029213, "er_ci_upper": 0.3454355764214919, "er_mean": 0.2804512258737611, "failure_count": 0, "mean_delta": 0.07142670839853939, "missing_count": 0, "native_ci_lower": 0.14655712050078248, "native_ci_upper": 0.2764374673969744, "native_mean": 0.2090245174752217, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -357.6349242753962, "ci_upper": 999.6552901303509, "delta_ci_lower": -357.6349242753962, "delta_ci_upper": 999.6552901303509, "er_ci_lower": 39893.15960694531, "er_ci_upper": 41020.38250451509, "er_mean": 40449.231018891645, "failure_count": 0, "mean_delta": 314.2800508107882, "missing_count": 0, "native_ci_lower": 39630.46230666473, "native_ci_upper": 40651.731268376425, "native_mean": 40134.950968080855, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -24.135310054773065, "ci_upper": 176.49988556338025, "delta_ci_lower": -24.135310054773065, "delta_ci_upper": 176.49988556338025, "er_ci_lower": 5673.871624282733, "er_ci_upper": 5827.418746413667, "er_mean": 5750.370070422535, "failure_count": 0, "mean_delta": 74.71304121022432, "missing_count": 0, "native_ci_lower": 5607.973663275952, "native_ci_upper": 5745.2616999217535, "native_mean": 5675.6570292123115, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "er_ci_lower": 0.0, "er_ci_upper": 0.03796008869179601, "er_mean": 0.012653362897265335, "failure_count": 0, "mean_delta": 0.012653362897265335, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "er_ci_lower": 0.0, "er_ci_upper": 0.03796008869179601, "er_mean": 0.012653362897265335, "failure_count": 0, "mean_delta": 0.012653362897265335, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "er_ci_lower": 0.0, "er_ci_upper": 0.03796008869179601, "er_mean": 0.012653362897265335, "failure_count": 0, "mean_delta": 0.012653362897265335, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -31.629600612936873, "ci_upper": 155.4840352764735, "delta_ci_lower": -31.629600612936873, "delta_ci_upper": 155.4840352764735, "er_ci_lower": 5393.20696596244, "er_ci_upper": 5534.862648669797, "er_mean": 5463.715832029212, "failure_count": 0, "mean_delta": 60.814006259780896, "missing_count": 0, "native_ci_lower": 5340.370498174231, "native_ci_upper": 5466.523474830465, "native_mean": 5402.9018257694315, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.10860310421286032, "ci_upper": 0.07129342202512934, "delta_ci_lower": -0.10860310421286032, "delta_ci_upper": 0.07129342202512934, "er_ci_lower": 0.5500960827790096, "er_ci_upper": 0.7310864745011085, "er_mean": 0.6402956393200295, "failure_count": 0, "mean_delta": -0.018359201773835918, "missing_count": 30, "native_ci_lower": 0.560918699186992, "native_ci_upper": 0.751219512195122, "native_mean": 0.6586548410938654, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.00467110125646711, "ci_upper": 0.16430155210643013, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.16430155210643013, "er_ci_lower": 0.1677464892830747, "er_ci_upper": 0.3390171840354767, "er_mean": 0.25167775314116775, "failure_count": 0, "mean_delta": 0.07838876570583887, "missing_count": 30, "native_ci_lower": 0.09938839615668901, "native_ci_upper": 0.2560532150776053, "native_mean": 0.17328898743532892, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.00467110125646711, "ci_upper": 0.16430155210643013, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.16430155210643013, "er_ci_lower": 0.1677464892830747, "er_ci_upper": 0.3390171840354767, "er_mean": 0.25167775314116775, "failure_count": 0, "mean_delta": 0.07838876570583887, "missing_count": 30, "native_ci_lower": 0.09938839615668901, "native_ci_upper": 0.2560532150776053, "native_mean": 0.17328898743532892, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.00467110125646711, "ci_upper": 0.16430155210643013, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.16430155210643013, "er_ci_lower": 0.1677464892830747, "er_ci_upper": 0.3390171840354767, "er_mean": 0.25167775314116775, "failure_count": 0, "mean_delta": 0.07838876570583887, "missing_count": 30, "native_ci_lower": 0.09938839615668901, "native_ci_upper": 0.2560532150776053, "native_mean": 0.17328898743532892, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.00467110125646711, "ci_upper": 0.16430155210643013, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.16430155210643013, "er_ci_lower": 0.1677464892830747, "er_ci_upper": 0.3390171840354767, "er_mean": 0.25167775314116775, "failure_count": 0, "mean_delta": 0.07838876570583887, "missing_count": 30, "native_ci_lower": 0.09938839615668901, "native_ci_upper": 0.2560532150776053, "native_mean": 0.17328898743532892, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.013690317812269133, "ci_upper": 0.20679970436067996, "delta_ci_lower": 0.013690317812269133, "delta_ci_upper": 0.20679970436067996, "er_ci_lower": 0.1965546932742055, "er_ci_upper": 0.38099039172209903, "er_mean": 0.28730229120473016, "failure_count": 0, "mean_delta": 0.10798226164079823, "missing_count": 30, "native_ci_lower": 0.10344419807834443, "native_ci_upper": 0.26446156688839595, "native_mean": 0.179320029563932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.013690317812269133, "ci_upper": 0.20679970436067996, "delta_ci_lower": 0.013690317812269133, "delta_ci_upper": 0.20679970436067996, "er_ci_lower": 0.1965546932742055, "er_ci_upper": 0.38099039172209903, "er_mean": 0.28730229120473016, "failure_count": 0, "mean_delta": 0.10798226164079823, "missing_count": 30, "native_ci_lower": 0.10344419807834443, "native_ci_upper": 0.26446156688839595, "native_mean": 0.179320029563932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.013690317812269133, "ci_upper": 0.20679970436067996, "delta_ci_lower": 0.013690317812269133, "delta_ci_upper": 0.20679970436067996, "er_ci_lower": 0.1965546932742055, "er_ci_upper": 0.38099039172209903, "er_mean": 0.28730229120473016, "failure_count": 0, "mean_delta": 0.10798226164079823, "missing_count": 30, "native_ci_lower": 0.10344419807834443, "native_ci_upper": 0.26446156688839595, "native_mean": 0.179320029563932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.013690317812269133, "ci_upper": 0.20679970436067996, "delta_ci_lower": 0.013690317812269133, "delta_ci_upper": 0.20679970436067996, "er_ci_lower": 0.1965546932742055, "er_ci_upper": 0.38099039172209903, "er_mean": 0.28730229120473016, "failure_count": 0, "mean_delta": 0.10798226164079823, "missing_count": 30, "native_ci_lower": 0.10344419807834443, "native_ci_upper": 0.26446156688839595, "native_mean": 0.179320029563932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -17.733323753823036, "ci_upper": 16.547804887613086, "delta_ci_lower": -17.733323753823036, "delta_ci_upper": 16.547804887613086, "er_ci_lower": 4968.7338753089225, "er_ci_upper": 5375.820890576332, "er_mean": 5152.106880790659, "failure_count": 0, "mean_delta": -0.4603382121344919, "missing_count": 0, "native_ci_lower": 4964.486672077949, "native_ci_upper": 5381.880955745734, "native_mean": 5152.567219002793, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.006914387780241444, "ci_upper": 0.08458000739098298, "delta_ci_lower": 0.006914387780241444, "delta_ci_upper": 0.08458000739098298, "er_ci_lower": 0.07667633653609263, "er_ci_upper": 0.1608407859078591, "er_mean": 0.11613205222961322, "failure_count": 0, "mean_delta": 0.044951958610495196, "missing_count": 30, "native_ci_lower": 0.039893508253264355, "native_ci_upper": 0.1061889627987189, "native_mean": 0.071180093619118, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.006914387780241444, "ci_upper": 0.08458000739098298, "delta_ci_lower": 0.006914387780241444, "delta_ci_upper": 0.08458000739098298, "er_ci_lower": 0.07667633653609263, "er_ci_upper": 0.1608407859078591, "er_mean": 0.11613205222961322, "failure_count": 0, "mean_delta": 0.044951958610495196, "missing_count": 30, "native_ci_lower": 0.039893508253264355, "native_ci_upper": 0.1061889627987189, "native_mean": 0.071180093619118, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.006914387780241444, "ci_upper": 0.08458000739098298, "delta_ci_lower": 0.006914387780241444, "delta_ci_upper": 0.08458000739098298, "er_ci_lower": 0.07667633653609263, "er_ci_upper": 0.1608407859078591, "er_mean": 0.11613205222961322, "failure_count": 0, "mean_delta": 0.044951958610495196, "missing_count": 30, "native_ci_lower": 0.039893508253264355, "native_ci_upper": 0.1061889627987189, "native_mean": 0.071180093619118, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.006914387780241444, "ci_upper": 0.08458000739098298, "delta_ci_lower": 0.006914387780241444, "delta_ci_upper": 0.08458000739098298, "er_ci_lower": 0.07667633653609263, "er_ci_upper": 0.1608407859078591, "er_mean": 0.11613205222961322, "failure_count": 0, "mean_delta": 0.044951958610495196, "missing_count": 30, "native_ci_lower": 0.039893508253264355, "native_ci_upper": 0.1061889627987189, "native_mean": 0.071180093619118, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03442747116240248, "ci_upper": 0.12817598059874483, "delta_ci_lower": -0.03442747116240248, "delta_ci_upper": 0.12817598059874483, "er_ci_lower": 0.13536338999753633, "er_ci_upper": 0.2772566587282034, "er_mean": 0.20552133804166323, "failure_count": 0, "mean_delta": 0.046991720756789444, "missing_count": 30, "native_ci_lower": 0.09052254795946973, "native_ci_upper": 0.23334340456291675, "native_mean": 0.15852961728487378, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.14166666666666666, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.14166666666666666, "er_ci_lower": 0.3, "er_ci_upper": 0.4166666666666667, "er_mean": 0.35833333333333334, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.35, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -503.23539079402207, "ci_upper": 744.1292423778212, "delta_ci_lower": -503.23539079402207, "delta_ci_upper": 744.1292423778212, "er_ci_lower": 39891.88007188801, "er_ci_upper": 40907.41048973757, "er_mean": 40395.878561388236, "failure_count": 0, "mean_delta": 110.86574645499546, "missing_count": 0, "native_ci_lower": 39795.66939182831, "native_ci_upper": 40779.87758686841, "native_mean": 40285.01281493324, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -46.66770833333332, "ci_upper": 134.72666666666663, "delta_ci_lower": -46.66770833333332, "delta_ci_upper": 134.72666666666663, "er_ci_lower": 5682.913125, "er_ci_upper": 5823.609166666667, "er_mean": 5752.858333333334, "failure_count": 0, "mean_delta": 42.166666666666664, "missing_count": 0, "native_ci_lower": 5645.21625, "native_ci_upper": 5777.133333333333, "native_mean": 5710.691666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -54.583749999999995, "ci_upper": 115.88395833333333, "delta_ci_lower": -54.583749999999995, "delta_ci_upper": 115.88395833333333, "er_ci_lower": 5400.124791666666, "er_ci_upper": 5529.55, "er_mean": 5464.291666666666, "failure_count": 0, "mean_delta": 28.983333333333327, "missing_count": 0, "native_ci_lower": 5374.614791666667, "native_ci_upper": 5496.2335416666665, "native_mean": 5435.308333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.5888888888888889, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666666, "native_mean": 0.6777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.011111111111111108, "ci_upper": 0.1722222222222222, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.1722222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35000000000000003, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.25555555555555554, "native_mean": 0.1722222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.011111111111111108, "ci_upper": 0.1722222222222222, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.1722222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35000000000000003, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.25555555555555554, "native_mean": 0.1722222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.011111111111111108, "ci_upper": 0.1722222222222222, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.1722222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35000000000000003, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.25555555555555554, "native_mean": 0.1722222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.011111111111111108, "ci_upper": 0.1722222222222222, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.1722222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35000000000000003, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.25555555555555554, "native_mean": 0.1722222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.09999999999999999, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -24.88226589268985, "ci_upper": 15.431430405951687, "delta_ci_lower": -24.88226589268985, "delta_ci_upper": 15.431430405951687, "er_ci_lower": 4938.837641257123, "er_ci_upper": 5266.633054244594, "er_mean": 5088.230897922767, "failure_count": 0, "mean_delta": -3.406223953546336, "missing_count": 0, "native_ci_lower": 4936.541536330382, "native_ci_upper": 5275.773601573188, "native_mean": 5091.637121876313, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.012962962962962963, "ci_upper": 0.0898148148148148, "delta_ci_lower": 0.012962962962962963, "delta_ci_upper": 0.0898148148148148, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592593, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037037, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.012962962962962963, "ci_upper": 0.0898148148148148, "delta_ci_lower": 0.012962962962962963, "delta_ci_upper": 0.0898148148148148, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592593, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037037, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.012962962962962963, "ci_upper": 0.0898148148148148, "delta_ci_lower": 0.012962962962962963, "delta_ci_upper": 0.0898148148148148, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592593, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037037, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.012962962962962963, "ci_upper": 0.0898148148148148, "delta_ci_lower": 0.012962962962962963, "delta_ci_upper": 0.0898148148148148, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592593, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037037, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.037106221745829004, "ci_upper": 0.11863066171551631, "delta_ci_lower": -0.037106221745829004, "delta_ci_upper": 0.11863066171551631, "er_ci_lower": 0.12551440329218108, "er_ci_upper": 0.25884773662551436, "er_mean": 0.19218106995884773, "failure_count": 0, "mean_delta": 0.04089391569248455, "missing_count": 30, "native_ci_lower": 0.08625781159059556, "native_ci_upper": 0.22404670680532748, "native_mean": 0.1512871542663632, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.14166666666666666, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.14166666666666666, "er_ci_lower": 0.3, "er_ci_upper": 0.4166666666666667, "er_mean": 0.35833333333333334, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.35, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -503.235390794022, "ci_upper": 744.1292423778212, "delta_ci_lower": -503.235390794022, "delta_ci_upper": 744.1292423778212, "er_ci_lower": 39891.88007188801, "er_ci_upper": 40907.410489737566, "er_mean": 40395.878561388236, "failure_count": 0, "mean_delta": 110.86574645499543, "missing_count": 0, "native_ci_lower": 39795.66939182831, "native_ci_upper": 40779.87758686841, "native_mean": 40285.01281493324, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -46.66770833333332, "ci_upper": 134.72666666666663, "delta_ci_lower": -46.66770833333332, "delta_ci_upper": 134.72666666666663, "er_ci_lower": 5682.913125000001, "er_ci_upper": 5823.609166666667, "er_mean": 5752.858333333334, "failure_count": 0, "mean_delta": 42.166666666666664, "missing_count": 0, "native_ci_lower": 5645.2162499999995, "native_ci_upper": 5777.133333333333, "native_mean": 5710.691666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -54.583749999999995, "ci_upper": 115.88395833333333, "delta_ci_lower": -54.583749999999995, "delta_ci_upper": 115.88395833333333, "er_ci_lower": 5400.124791666666, "er_ci_upper": 5529.55, "er_mean": 5464.291666666667, "failure_count": 0, "mean_delta": 28.983333333333334, "missing_count": 0, "native_ci_lower": 5374.614791666667, "native_ci_upper": 5496.2335416666665, "native_mean": 5435.308333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.5888888888888889, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666667, "native_mean": 0.6777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.25555555555555554, "native_mean": 0.17222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.25555555555555554, "native_mean": 0.17222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.25555555555555554, "native_mean": 0.17222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.25555555555555554, "native_mean": 0.17222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -24.88226589268985, "ci_upper": 15.431430405951685, "delta_ci_lower": -24.88226589268985, "delta_ci_upper": 15.431430405951685, "er_ci_lower": 4938.837641257123, "er_ci_upper": 5266.633054244594, "er_mean": 5088.230897922767, "failure_count": 0, "mean_delta": -3.4062239535463354, "missing_count": 0, "native_ci_lower": 4936.541536330382, "native_ci_upper": 5275.773601573188, "native_mean": 5091.637121876313, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.01296296296296296, "ci_upper": 0.08981481481481482, "delta_ci_lower": 0.01296296296296296, "delta_ci_upper": 0.08981481481481482, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592592, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.01296296296296296, "ci_upper": 0.08981481481481482, "delta_ci_lower": 0.01296296296296296, "delta_ci_upper": 0.08981481481481482, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592592, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.01296296296296296, "ci_upper": 0.08981481481481482, "delta_ci_lower": 0.01296296296296296, "delta_ci_upper": 0.08981481481481482, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592592, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.01296296296296296, "ci_upper": 0.08981481481481482, "delta_ci_lower": 0.01296296296296296, "delta_ci_upper": 0.08981481481481482, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592592, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.037106221745829, "ci_upper": 0.11863066171551631, "delta_ci_lower": -0.037106221745829, "delta_ci_upper": 0.11863066171551631, "er_ci_lower": 0.12551440329218105, "er_ci_upper": 0.2588477366255144, "er_mean": 0.19218106995884776, "failure_count": 0, "mean_delta": 0.040893915692484545, "missing_count": 30, "native_ci_lower": 0.08625781159059558, "native_ci_upper": 0.2240467068053275, "native_mean": 0.1512871542663632, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.003367240479916507, "ci_upper": 0.1473288341158059, "delta_ci_lower": -0.003367240479916507, "delta_ci_upper": 0.1473288341158059, "er_ci_lower": 0.21571465832029213, "er_ci_upper": 0.3454355764214919, "er_mean": 0.2804512258737611, "failure_count": 0, "mean_delta": 0.07142670839853939, "missing_count": 0, "native_ci_lower": 0.14655712050078248, "native_ci_upper": 0.2764374673969744, "native_mean": 0.2090245174752217, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -357.6349242753962, "ci_upper": 999.6552901303509, "delta_ci_lower": -357.6349242753962, "delta_ci_upper": 999.6552901303509, "er_ci_lower": 39893.15960694531, "er_ci_upper": 41020.38250451509, "er_mean": 40449.231018891645, "failure_count": 0, "mean_delta": 314.2800508107882, "missing_count": 0, "native_ci_lower": 39630.46230666473, "native_ci_upper": 40651.731268376425, "native_mean": 40134.950968080855, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -24.135310054773065, "ci_upper": 176.49988556338025, "delta_ci_lower": -24.135310054773065, "delta_ci_upper": 176.49988556338025, "er_ci_lower": 5673.871624282733, "er_ci_upper": 5827.418746413667, "er_mean": 5750.370070422535, "failure_count": 0, "mean_delta": 74.71304121022432, "missing_count": 0, "native_ci_lower": 5607.973663275952, "native_ci_upper": 5745.2616999217535, "native_mean": 5675.6570292123115, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "er_ci_lower": 0.0, "er_ci_upper": 0.03796008869179601, "er_mean": 0.012653362897265335, "failure_count": 0, "mean_delta": 0.012653362897265335, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "er_ci_lower": 0.0, "er_ci_upper": 0.03796008869179601, "er_mean": 0.012653362897265335, "failure_count": 0, "mean_delta": 0.012653362897265335, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03796008869179601, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03796008869179601, "er_ci_lower": 0.0, "er_ci_upper": 0.03796008869179601, "er_mean": 0.012653362897265335, "failure_count": 0, "mean_delta": 0.012653362897265335, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -31.629600612936873, "ci_upper": 155.4840352764735, "delta_ci_lower": -31.629600612936873, "delta_ci_upper": 155.4840352764735, "er_ci_lower": 5393.20696596244, "er_ci_upper": 5534.862648669797, "er_mean": 5463.715832029212, "failure_count": 0, "mean_delta": 60.814006259780896, "missing_count": 0, "native_ci_lower": 5340.370498174231, "native_ci_upper": 5466.523474830465, "native_mean": 5402.9018257694315, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.10860310421286032, "ci_upper": 0.07129342202512934, "delta_ci_lower": -0.10860310421286032, "delta_ci_upper": 0.07129342202512934, "er_ci_lower": 0.5500960827790096, "er_ci_upper": 0.7310864745011085, "er_mean": 0.6402956393200295, "failure_count": 0, "mean_delta": -0.018359201773835918, "missing_count": 30, "native_ci_lower": 0.560918699186992, "native_ci_upper": 0.751219512195122, "native_mean": 0.6586548410938654, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.00467110125646711, "ci_upper": 0.16430155210643013, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.16430155210643013, "er_ci_lower": 0.1677464892830747, "er_ci_upper": 0.3390171840354767, "er_mean": 0.25167775314116775, "failure_count": 0, "mean_delta": 0.07838876570583887, "missing_count": 30, "native_ci_lower": 0.09938839615668901, "native_ci_upper": 0.2560532150776053, "native_mean": 0.17328898743532892, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.00467110125646711, "ci_upper": 0.16430155210643013, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.16430155210643013, "er_ci_lower": 0.1677464892830747, "er_ci_upper": 0.3390171840354767, "er_mean": 0.25167775314116775, "failure_count": 0, "mean_delta": 0.07838876570583887, "missing_count": 30, "native_ci_lower": 0.09938839615668901, "native_ci_upper": 0.2560532150776053, "native_mean": 0.17328898743532892, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.00467110125646711, "ci_upper": 0.16430155210643013, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.16430155210643013, "er_ci_lower": 0.1677464892830747, "er_ci_upper": 0.3390171840354767, "er_mean": 0.25167775314116775, "failure_count": 0, "mean_delta": 0.07838876570583887, "missing_count": 30, "native_ci_lower": 0.09938839615668901, "native_ci_upper": 0.2560532150776053, "native_mean": 0.17328898743532892, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.00467110125646711, "ci_upper": 0.16430155210643013, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.16430155210643013, "er_ci_lower": 0.1677464892830747, "er_ci_upper": 0.3390171840354767, "er_mean": 0.25167775314116775, "failure_count": 0, "mean_delta": 0.07838876570583887, "missing_count": 30, "native_ci_lower": 0.09938839615668901, "native_ci_upper": 0.2560532150776053, "native_mean": 0.17328898743532892, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.013690317812269133, "ci_upper": 0.20679970436067996, "delta_ci_lower": 0.013690317812269133, "delta_ci_upper": 0.20679970436067996, "er_ci_lower": 0.1965546932742055, "er_ci_upper": 0.38099039172209903, "er_mean": 0.28730229120473016, "failure_count": 0, "mean_delta": 0.10798226164079823, "missing_count": 30, "native_ci_lower": 0.10344419807834443, "native_ci_upper": 0.26446156688839595, "native_mean": 0.179320029563932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.013690317812269133, "ci_upper": 0.20679970436067996, "delta_ci_lower": 0.013690317812269133, "delta_ci_upper": 0.20679970436067996, "er_ci_lower": 0.1965546932742055, "er_ci_upper": 0.38099039172209903, "er_mean": 0.28730229120473016, "failure_count": 0, "mean_delta": 0.10798226164079823, "missing_count": 30, "native_ci_lower": 0.10344419807834443, "native_ci_upper": 0.26446156688839595, "native_mean": 0.179320029563932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.013690317812269133, "ci_upper": 0.20679970436067996, "delta_ci_lower": 0.013690317812269133, "delta_ci_upper": 0.20679970436067996, "er_ci_lower": 0.1965546932742055, "er_ci_upper": 0.38099039172209903, "er_mean": 0.28730229120473016, "failure_count": 0, "mean_delta": 0.10798226164079823, "missing_count": 30, "native_ci_lower": 0.10344419807834443, "native_ci_upper": 0.26446156688839595, "native_mean": 0.179320029563932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.013690317812269133, "ci_upper": 0.20679970436067996, "delta_ci_lower": 0.013690317812269133, "delta_ci_upper": 0.20679970436067996, "er_ci_lower": 0.1965546932742055, "er_ci_upper": 0.38099039172209903, "er_mean": 0.28730229120473016, "failure_count": 0, "mean_delta": 0.10798226164079823, "missing_count": 30, "native_ci_lower": 0.10344419807834443, "native_ci_upper": 0.26446156688839595, "native_mean": 0.179320029563932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -17.733323753823036, "ci_upper": 16.547804887613086, "delta_ci_lower": -17.733323753823036, "delta_ci_upper": 16.547804887613086, "er_ci_lower": 4968.7338753089225, "er_ci_upper": 5375.820890576332, "er_mean": 5152.106880790659, "failure_count": 0, "mean_delta": -0.4603382121344919, "missing_count": 0, "native_ci_lower": 4964.486672077949, "native_ci_upper": 5381.880955745734, "native_mean": 5152.567219002793, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.006914387780241444, "ci_upper": 0.08458000739098298, "delta_ci_lower": 0.006914387780241444, "delta_ci_upper": 0.08458000739098298, "er_ci_lower": 0.07667633653609263, "er_ci_upper": 0.1608407859078591, "er_mean": 0.11613205222961322, "failure_count": 0, "mean_delta": 0.044951958610495196, "missing_count": 30, "native_ci_lower": 0.039893508253264355, "native_ci_upper": 0.1061889627987189, "native_mean": 0.071180093619118, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.006914387780241444, "ci_upper": 0.08458000739098298, "delta_ci_lower": 0.006914387780241444, "delta_ci_upper": 0.08458000739098298, "er_ci_lower": 0.07667633653609263, "er_ci_upper": 0.1608407859078591, "er_mean": 0.11613205222961322, "failure_count": 0, "mean_delta": 0.044951958610495196, "missing_count": 30, "native_ci_lower": 0.039893508253264355, "native_ci_upper": 0.1061889627987189, "native_mean": 0.071180093619118, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.006914387780241444, "ci_upper": 0.08458000739098298, "delta_ci_lower": 0.006914387780241444, "delta_ci_upper": 0.08458000739098298, "er_ci_lower": 0.07667633653609263, "er_ci_upper": 0.1608407859078591, "er_mean": 0.11613205222961322, "failure_count": 0, "mean_delta": 0.044951958610495196, "missing_count": 30, "native_ci_lower": 0.039893508253264355, "native_ci_upper": 0.1061889627987189, "native_mean": 0.071180093619118, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.006914387780241444, "ci_upper": 0.08458000739098298, "delta_ci_lower": 0.006914387780241444, "delta_ci_upper": 0.08458000739098298, "er_ci_lower": 0.07667633653609263, "er_ci_upper": 0.1608407859078591, "er_mean": 0.11613205222961322, "failure_count": 0, "mean_delta": 0.044951958610495196, "missing_count": 30, "native_ci_lower": 0.039893508253264355, "native_ci_upper": 0.1061889627987189, "native_mean": 0.071180093619118, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03442747116240248, "ci_upper": 0.12817598059874483, "delta_ci_lower": -0.03442747116240248, "delta_ci_upper": 0.12817598059874483, "er_ci_lower": 0.13536338999753633, "er_ci_upper": 0.2772566587282034, "er_mean": 0.20552133804166323, "failure_count": 0, "mean_delta": 0.046991720756789444, "missing_count": 30, "native_ci_lower": 0.09052254795946973, "native_ci_upper": 0.23334340456291675, "native_mean": 0.15852961728487378, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -933.0963450367561, "ci_upper": 1858.226620713831, "delta_ci_lower": -933.0963450367561, "delta_ci_upper": 1858.226620713831, "er_ci_lower": 39683.10447755231, "er_ci_upper": 41672.89535949686, "er_mean": 40654.97725681247, "failure_count": 0, "mean_delta": 481.07387341248494, "missing_count": 0, "native_ci_lower": 39185.19421168477, "native_ci_upper": 41217.959597999776, "native_mean": 40173.90338339998, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -112.74083333333327, "ci_upper": 294.83583333333326, "delta_ci_lower": -112.74083333333327, "delta_ci_upper": 294.83583333333326, "er_ci_lower": 5588.498333333334, "er_ci_upper": 5861.869166666666, "er_mean": 5722.9, "failure_count": 0, "mean_delta": 94.06666666666666, "missing_count": 0, "native_ci_lower": 5502.230833333334, "native_ci_upper": 5768.402499999999, "native_mean": 5628.833333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -112.21333333333322, "ci_upper": 267.3808333333331, "delta_ci_lower": -112.21333333333322, "delta_ci_upper": 267.3808333333331, "er_ci_lower": 5304.966666666666, "er_ci_upper": 5555.3375, "er_mean": 5427.833333333333, "failure_count": 0, "mean_delta": 80.76666666666667, "missing_count": 0, "native_ci_lower": 5230.1658333333335, "native_ci_upper": 5477.404999999999, "native_mean": 5347.066666666667, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.2, "delta_ci_lower": -0.1, "delta_ci_upper": 0.2, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.9, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.5333333333333333, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.18333333333333332, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.18333333333333332, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.2833333333333333, "er_mean": 0.15, "failure_count": 0, "mean_delta": -0.05, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.18333333333333332, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.18333333333333332, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.2833333333333333, "er_mean": 0.15, "failure_count": 0, "mean_delta": -0.05, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.18333333333333332, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.18333333333333332, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.2833333333333333, "er_mean": 0.15, "failure_count": 0, "mean_delta": -0.05, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.18333333333333332, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.18333333333333332, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.2833333333333333, "er_mean": 0.15, "failure_count": 0, "mean_delta": -0.05, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.3, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -0.710389963642228, "ci_upper": 61.41802316929291, "delta_ci_lower": -0.710389963642228, "delta_ci_upper": 61.41802316929291, "er_ci_lower": 4710.26779421935, "er_ci_upper": 5242.40384741143, "er_mean": 4971.10375983951, "failure_count": 0, "mean_delta": 27.03219453881805, "missing_count": 0, "native_ci_lower": 4683.077584213266, "native_ci_upper": 5215.701731096681, "native_mean": 4944.071565300692, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.07222222222222222, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.016666666666666666, "er_ci_upper": 0.18333333333333332, "er_mean": 0.09444444444444446, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.16666666666666666, "native_mean": 0.09444444444444446, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.07222222222222222, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.016666666666666666, "er_ci_upper": 0.18333333333333332, "er_mean": 0.09444444444444446, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.16666666666666666, "native_mean": 0.09444444444444446, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.07222222222222222, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.016666666666666666, "er_ci_upper": 0.18333333333333332, "er_mean": 0.09444444444444446, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.16666666666666666, "native_mean": 0.09444444444444446, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.07222222222222222, "ci_upper": 0.07222222222222222, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.07222222222222222, "er_ci_lower": 0.016666666666666666, "er_ci_upper": 0.18333333333333332, "er_mean": 0.09444444444444446, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.16666666666666666, "native_mean": 0.09444444444444446, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "inference": { "answer_correct": { "ci_lower": 0.06666666666666667, "ci_upper": 0.4008333333333213, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.4008333333333213, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1.235922249325034, "ci_upper": 2321.879489574057, "delta_ci_lower": -1.235922249325034, "delta_ci_upper": 2321.879489574057, "er_ci_lower": 39514.92007445447, "er_ci_upper": 41908.26473660826, "er_mean": 40703.58319856847, "failure_count": 0, "mean_delta": 1145.2289416027877, "missing_count": 0, "native_ci_lower": 38807.67185351802, "native_ci_upper": 40342.38479181416, "native_mean": 39558.354256965686, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 31.361666666666714, "ci_upper": 401.83583333333326, "delta_ci_lower": 31.361666666666714, "delta_ci_upper": 401.83583333333326, "er_ci_lower": 5667.597500000001, "er_ci_upper": 5990.145833333333, "er_mean": 5826.433333333333, "failure_count": 0, "mean_delta": 214.33333333333334, "missing_count": 0, "native_ci_lower": 5502.131666666666, "native_ci_upper": 5729.433333333333, "native_mean": 5612.1, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 28.69583333333337, "ci_upper": 375.9383333333333, "delta_ci_lower": 28.69583333333337, "delta_ci_upper": 375.9383333333333, "er_ci_lower": 5415.894166666666, "er_ci_upper": 5707.200833333333, "er_mean": 5559.2, "failure_count": 0, "mean_delta": 200.23333333333332, "missing_count": 0, "native_ci_lower": 5256.765833333333, "native_ci_upper": 5465.800833333334, "native_mean": 5358.966666666666, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.3, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.3, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.31666666666666665, "delta_ci_lower": 0.0, "delta_ci_upper": 0.31666666666666665, "er_ci_lower": 0.15, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.15, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.2833333333333333, "native_mean": 0.15, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.31666666666666665, "delta_ci_lower": 0.0, "delta_ci_upper": 0.31666666666666665, "er_ci_lower": 0.15, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.15, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.2833333333333333, "native_mean": 0.15, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.31666666666666665, "delta_ci_lower": 0.0, "delta_ci_upper": 0.31666666666666665, "er_ci_lower": 0.15, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.15, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.2833333333333333, "native_mean": 0.15, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.31666666666666665, "delta_ci_lower": 0.0, "delta_ci_upper": 0.31666666666666665, "er_ci_lower": 0.15, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.15, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.2833333333333333, "native_mean": 0.15, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.0, "delta_ci_upper": 0.36666666666666664, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.0, "delta_ci_upper": 0.36666666666666664, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.0, "delta_ci_upper": 0.36666666666666664, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.0, "delta_ci_upper": 0.36666666666666664, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -72.49984246106276, "ci_upper": -6.9935244606070555, "delta_ci_lower": -72.49984246106276, "delta_ci_upper": -6.9935244606070555, "er_ci_lower": 4629.960146633675, "er_ci_upper": 5708.641414702675, "er_mean": 5098.37484578602, "failure_count": 0, "mean_delta": -37.62206950535377, "missing_count": 0, "native_ci_lower": 4654.022911575254, "native_ci_upper": 5770.756050851972, "native_mean": 5135.996915291374, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.002777777777777777, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.002777777777777777, "delta_ci_upper": 0.11111111111111112, "er_ci_lower": 0.05, "er_ci_upper": 0.15833333333333333, "er_mean": 0.10277777777777777, "failure_count": 0, "mean_delta": 0.05277777777777778, "missing_count": 0, "native_ci_lower": 0.01111111111111111, "native_ci_upper": 0.09166666666666666, "native_mean": 0.05, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.002777777777777777, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.002777777777777777, "delta_ci_upper": 0.11111111111111112, "er_ci_lower": 0.05, "er_ci_upper": 0.15833333333333333, "er_mean": 0.10277777777777777, "failure_count": 0, "mean_delta": 0.05277777777777778, "missing_count": 0, "native_ci_lower": 0.01111111111111111, "native_ci_upper": 0.09166666666666666, "native_mean": 0.05, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.002777777777777777, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.002777777777777777, "delta_ci_upper": 0.11111111111111112, "er_ci_lower": 0.05, "er_ci_upper": 0.15833333333333333, "er_mean": 0.10277777777777777, "failure_count": 0, "mean_delta": 0.05277777777777778, "missing_count": 0, "native_ci_lower": 0.01111111111111111, "native_ci_upper": 0.09166666666666666, "native_mean": 0.05, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.002777777777777777, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.002777777777777777, "delta_ci_upper": 0.11111111111111112, "er_ci_lower": 0.05, "er_ci_upper": 0.15833333333333333, "er_mean": 0.10277777777777777, "failure_count": 0, "mean_delta": 0.05277777777777778, "missing_count": 0, "native_ci_lower": 0.01111111111111111, "native_ci_upper": 0.09166666666666666, "native_mean": 0.05, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.020648341122479055, "ci_upper": 0.3571428571428571, "delta_ci_lower": 0.020648341122479055, "delta_ci_upper": 0.3571428571428571, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6814814814814815, "er_mean": 0.5074074074074074, "failure_count": 0, "mean_delta": 0.18687927794165118, "missing_count": 0, "native_ci_lower": 0.16849505175633475, "native_ci_upper": 0.4859872153989801, "native_mean": 0.3205281294657562, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "temporal": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2082.1426812732043, "ci_upper": 721.0441227168969, "delta_ci_lower": -2082.1426812732043, "delta_ci_upper": 721.0441227168969, "er_ci_lower": 38968.80091408074, "er_ci_upper": 40684.626106104886, "er_mean": 39807.58500560963, "failure_count": 0, "mean_delta": -663.0193387546266, "missing_count": 0, "native_ci_lower": 39399.1605723787, "native_ci_upper": 41599.04793573534, "native_mean": 40470.604344364256, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -269.63416666666666, "ci_upper": 112.0675, "delta_ci_lower": -269.63416666666666, "delta_ci_upper": 112.0675, "er_ci_lower": 5534.399166666667, "er_ci_upper": 5785.1066666666675, "er_mean": 5654.9, "failure_count": 0, "mean_delta": -79.4, "missing_count": 0, "native_ci_lower": 5591.2975, "native_ci_upper": 5883.74, "native_mean": 5734.3, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -269.9766666666666, "ci_upper": 77.23499999999999, "delta_ci_lower": -269.9766666666666, "delta_ci_upper": 77.23499999999999, "er_ci_lower": 5245.099166666667, "er_ci_upper": 5479.169166666667, "er_mean": 5357.5, "failure_count": 0, "mean_delta": -97.16666666666667, "missing_count": 0, "native_ci_lower": 5316.196666666667, "native_ci_upper": 5596.37, "native_mean": 5454.666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.8333333333333334, "er_ci_upper": 1.0, "er_mean": 0.9333333333333333, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.7333333333333333, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.06666666666666667, "ci_upper": 0.2833333333333333, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.2833333333333333, "er_ci_lower": 0.18333333333333332, "er_ci_upper": 0.48333333333333334, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.06666666666666667, "ci_upper": 0.2833333333333333, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.2833333333333333, "er_ci_lower": 0.18333333333333332, "er_ci_upper": 0.48333333333333334, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.06666666666666667, "ci_upper": 0.2833333333333333, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.2833333333333333, "er_ci_lower": 0.18333333333333332, "er_ci_upper": 0.48333333333333334, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.06666666666666667, "ci_upper": 0.2833333333333333, "delta_ci_lower": 0.06666666666666667, "delta_ci_upper": 0.2833333333333333, "er_ci_lower": 0.18333333333333332, "er_ci_upper": 0.48333333333333334, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.1, "ci_upper": 0.4, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.1, "ci_upper": 0.4, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.1, "ci_upper": 0.4, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.1, "ci_upper": 0.4, "delta_ci_lower": 0.1, "delta_ci_upper": 0.4, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.23333333333333334, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 7.678614595982563, "ci_upper": 44.37079373766513, "delta_ci_lower": 7.678614595982563, "delta_ci_upper": 44.37079373766513, "er_ci_lower": 5649.658781039761, "er_ci_upper": 6116.486549120163, "er_mean": 5879.182815287883, "failure_count": 0, "mean_delta": 25.875769489600014, "missing_count": 0, "native_ci_lower": 5623.038959451466, "native_ci_upper": 6092.313032979728, "native_mean": 5853.307045798283, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03888888888888888, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.03888888888888888, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.09444444444444443, "er_ci_upper": 0.24444444444444444, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.016666666666666666, "native_ci_upper": 0.12777777777777777, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03888888888888888, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.03888888888888888, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.09444444444444443, "er_ci_upper": 0.24444444444444444, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.016666666666666666, "native_ci_upper": 0.12777777777777777, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03888888888888888, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.03888888888888888, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.09444444444444443, "er_ci_upper": 0.24444444444444444, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.016666666666666666, "native_ci_upper": 0.12777777777777777, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03888888888888888, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.03888888888888888, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.09444444444444443, "er_ci_upper": 0.24444444444444444, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.016666666666666666, "native_ci_upper": 0.12777777777777777, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.13333333333333333, "ci_upper": 0.07160493827160493, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.07160493827160493, "er_ci_lower": 0.0, "er_ci_upper": 0.10493827160493827, "er_mean": 0.03580246913580246, "failure_count": 0, "mean_delta": -0.0308641975308642, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "unanswerable": { "answer_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1497.685434286444, "ci_upper": 500.081387834507, "delta_ci_lower": -1497.685434286444, "delta_ci_upper": 500.081387834507, "er_ci_lower": 39553.22759500259, "er_ci_upper": 41279.313745017665, "er_mean": 40417.36878456237, "failure_count": 0, "mean_delta": -519.8204904406642, "missing_count": 0, "native_ci_lower": 39942.04919362062, "native_ci_upper": 41939.90414434947, "native_mean": 40937.18927500304, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -198.4708333333333, "ci_upper": 84.16833333333331, "delta_ci_lower": -198.4708333333333, "delta_ci_upper": 84.16833333333331, "er_ci_lower": 5682.530833333333, "er_ci_upper": 5930.8425, "er_mean": 5807.2, "failure_count": 0, "mean_delta": -60.333333333333336, "missing_count": 0, "native_ci_lower": 5731.7325, "native_ci_upper": 6002.001666666667, "native_mean": 5867.533333333334, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "context_token_count": { "ci_lower": -203.835, "ci_upper": 73.9683333333333, "delta_ci_lower": -203.835, "delta_ci_upper": 73.9683333333333, "er_ci_lower": 5397.598333333333, "er_ci_upper": 5628.471666666666, "er_mean": 5512.633333333333, "failure_count": 0, "mean_delta": -67.9, "missing_count": 0, "native_ci_lower": 5462.265833333333, "native_ci_upper": 5695.033333333334, "native_mean": 5580.533333333334, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_latency_ms": { "ci_lower": -100.43582093863127, "ci_upper": 23.092809195125785, "delta_ci_lower": -100.43582093863127, "delta_ci_upper": 23.092809195125785, "er_ci_lower": 4267.3525179976905, "er_ci_upper": 4534.770220833986, "er_mean": 4404.262170777656, "failure_count": 0, "mean_delta": -28.910790337249637, "missing_count": 0, "native_ci_lower": 4277.09553734186, "native_ci_upper": 4593.252446322391, "native_mean": 4433.172961114906, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "metrics": { "answer_correct": { "ci_lower": 0.008333333333333333, "ci_upper": 0.14166666666666666, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.14166666666666666, "er_ci_lower": 0.3, "er_ci_upper": 0.4166666666666667, "er_mean": 0.35833333333333334, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.35, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -503.235390794022, "ci_upper": 744.1292423778212, "delta_ci_lower": -503.235390794022, "delta_ci_upper": 744.1292423778212, "er_ci_lower": 39891.88007188801, "er_ci_upper": 40907.410489737566, "er_mean": 40395.878561388236, "failure_count": 0, "mean_delta": 110.86574645499543, "missing_count": 0, "native_ci_lower": 39795.66939182831, "native_ci_upper": 40779.87758686841, "native_mean": 40285.01281493324, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -46.66770833333332, "ci_upper": 134.72666666666663, "delta_ci_lower": -46.66770833333332, "delta_ci_upper": 134.72666666666663, "er_ci_lower": 5682.913125000001, "er_ci_upper": 5823.609166666667, "er_mean": 5752.858333333334, "failure_count": 0, "mean_delta": 42.166666666666664, "missing_count": 0, "native_ci_lower": 5645.2162499999995, "native_ci_upper": 5777.133333333333, "native_mean": 5710.691666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.03333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -54.583749999999995, "ci_upper": 115.88395833333333, "delta_ci_lower": -54.583749999999995, "delta_ci_upper": 115.88395833333333, "er_ci_lower": 5400.124791666666, "er_ci_upper": 5529.55, "er_mean": 5464.291666666667, "failure_count": 0, "mean_delta": 28.983333333333334, "missing_count": 0, "native_ci_lower": 5374.614791666667, "native_ci_upper": 5496.2335416666665, "native_mean": 5435.308333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.08888888888888889, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.08888888888888889, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.5888888888888889, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666667, "native_mean": 0.6777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.25555555555555554, "native_mean": 0.17222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.25555555555555554, "native_mean": 0.17222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.25555555555555554, "native_mean": 0.17222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.17222222222222222, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.17222222222222222, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35, "er_mean": 0.2611111111111111, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.25555555555555554, "native_mean": 0.17222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.2222222222222222, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.2222222222222222, "er_ci_lower": 0.2111111111111111, "er_ci_upper": 0.3888888888888889, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.1, "native_ci_upper": 0.26666666666666666, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -24.88226589268985, "ci_upper": 15.431430405951685, "delta_ci_lower": -24.88226589268985, "delta_ci_upper": 15.431430405951685, "er_ci_lower": 4938.837641257123, "er_ci_upper": 5266.633054244594, "er_mean": 5088.230897922767, "failure_count": 0, "mean_delta": -3.4062239535463354, "missing_count": 0, "native_ci_lower": 4936.541536330382, "native_ci_upper": 5275.773601573188, "native_mean": 5091.637121876313, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.01296296296296296, "ci_upper": 0.08981481481481482, "delta_ci_lower": 0.01296296296296296, "delta_ci_upper": 0.08981481481481482, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592592, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.01296296296296296, "ci_upper": 0.08981481481481482, "delta_ci_lower": 0.01296296296296296, "delta_ci_upper": 0.08981481481481482, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592592, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.01296296296296296, "ci_upper": 0.08981481481481482, "delta_ci_lower": 0.01296296296296296, "delta_ci_upper": 0.08981481481481482, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592592, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.01296296296296296, "ci_upper": 0.08981481481481482, "delta_ci_lower": 0.01296296296296296, "delta_ci_upper": 0.08981481481481482, "er_ci_lower": 0.0824074074074074, "er_ci_upper": 0.1648148148148148, "er_mean": 0.12129629629629629, "failure_count": 0, "mean_delta": 0.05092592592592592, "missing_count": 30, "native_ci_lower": 0.03981481481481481, "native_ci_upper": 0.10462962962962963, "native_mean": 0.07037037037037036, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.037106221745829, "ci_upper": 0.11863066171551631, "delta_ci_lower": -0.037106221745829, "delta_ci_upper": 0.11863066171551631, "er_ci_lower": 0.12551440329218105, "er_ci_upper": 0.2588477366255144, "er_mean": 0.19218106995884776, "failure_count": 0, "mean_delta": 0.040893915692484545, "missing_count": 30, "native_ci_lower": 0.08625781159059558, "native_ci_upper": 0.2240467068053275, "native_mean": 0.1512871542663632, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "paired_question_count": 120, "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_084b5c3ad8d7434afbe4e74f", "builder_key": "qwen3_0_6b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.24166666666666664, "er_ci_upper": 0.36666666666666664, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.049999999999999996, "missing_count": 0, "native_ci_lower": 0.19166666666666665, "native_ci_upper": 0.30833333333333335, "native_mean": 0.25, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 837.835717042035, "ci_upper": 2306.8892163560186, "delta_ci_lower": 837.835717042035, "delta_ci_upper": 2306.8892163560186, "er_ci_lower": 42379.1101328676, "er_ci_upper": 43566.07493818922, "er_mean": 42952.98629094614, "failure_count": 0, "mean_delta": 1559.325759668718, "missing_count": 0, "native_ci_lower": 40879.82587321222, "native_ci_upper": 41904.88863006387, "native_mean": 41393.66053127742, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -48.95374999999997, "ci_upper": 136.2420833333333, "delta_ci_lower": -48.95374999999997, "delta_ci_upper": 136.2420833333333, "er_ci_lower": 5884.6987500000005, "er_ci_upper": 6014.926458333333, "er_mean": 5949.875, "failure_count": 0, "mean_delta": 42.86666666666667, "missing_count": 0, "native_ci_lower": 5837.822916666667, "native_ci_upper": 5974.825625, "native_mean": 5907.008333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555556, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555556, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555556, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -43.507291666666525, "ci_upper": 132.43416666666664, "delta_ci_lower": -43.507291666666525, "delta_ci_upper": 132.43416666666664, "er_ci_lower": 5523.666041666667, "er_ci_upper": 5649.45625, "er_mean": 5586.658333333333, "failure_count": 0, "mean_delta": 43.31666666666666, "missing_count": 0, "native_ci_lower": 5478.996666666667, "native_ci_upper": 5606.9974999999995, "native_mean": 5543.341666666667, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.14444444444444446, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.14444444444444446, "delta_ci_upper": 0.011111111111111112, "er_ci_lower": 0.6, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6777777777777777, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.6666666666666666, "native_ci_upper": 0.8222222222222223, "native_mean": 0.7444444444444445, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.2333333333333333, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.2333333333333333, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.2333333333333333, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.2333333333333333, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444445, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444445, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444445, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444445, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1328.5834135999662, "ci_upper": 1938.402243338302, "delta_ci_lower": 1328.5834135999662, "delta_ci_upper": 1938.402243338302, "er_ci_lower": 6293.856961385027, "er_ci_upper": 7027.167155987456, "er_mean": 6635.978331246103, "failure_count": 0, "mean_delta": 1606.2203978556984, "missing_count": 0, "native_ci_lower": 4878.83497328934, "native_ci_upper": 5212.434231100852, "native_mean": 5029.757933390404, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.0046296296296296285, "ci_upper": 0.08703703703703702, "delta_ci_lower": -0.0046296296296296285, "delta_ci_upper": 0.08703703703703702, "er_ci_lower": 0.1472222222222222, "er_ci_upper": 0.24629629629629632, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148147, "native_ci_upper": 0.2064814814814815, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.0046296296296296285, "ci_upper": 0.08703703703703702, "delta_ci_lower": -0.0046296296296296285, "delta_ci_upper": 0.08703703703703702, "er_ci_lower": 0.1472222222222222, "er_ci_upper": 0.24629629629629632, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148147, "native_ci_upper": 0.2064814814814815, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.0046296296296296285, "ci_upper": 0.08703703703703702, "delta_ci_lower": -0.0046296296296296285, "delta_ci_upper": 0.08703703703703702, "er_ci_lower": 0.1472222222222222, "er_ci_upper": 0.24629629629629632, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148147, "native_ci_upper": 0.2064814814814815, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.0046296296296296285, "ci_upper": 0.08703703703703702, "delta_ci_lower": -0.0046296296296296285, "delta_ci_upper": 0.08703703703703702, "er_ci_lower": 0.1472222222222222, "er_ci_upper": 0.24629629629629632, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148147, "native_ci_upper": 0.2064814814814815, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.0036036036036036032, "ci_upper": 0.11981981981981982, "delta_ci_lower": -0.0036036036036036032, "delta_ci_upper": 0.11981981981981982, "er_ci_lower": 0.09999999999999999, "er_ci_upper": 0.23232323232323235, "er_mean": 0.16565656565656564, "failure_count": 0, "mean_delta": 0.05435435435435435, "missing_count": 30, "native_ci_lower": 0.05574665574665574, "native_ci_upper": 0.17575757575757578, "native_mean": 0.1113022113022113, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.36666666666666664, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.19166666666666668, "native_ci_upper": 0.30833333333333335, "native_mean": 0.25, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 837.835717042035, "ci_upper": 2306.8892163560186, "delta_ci_lower": 837.835717042035, "delta_ci_upper": 2306.8892163560186, "er_ci_lower": 42379.110132867594, "er_ci_upper": 43566.07493818922, "er_mean": 42952.98629094614, "failure_count": 0, "mean_delta": 1559.325759668718, "missing_count": 0, "native_ci_lower": 40879.82587321223, "native_ci_upper": 41904.88863006387, "native_mean": 41393.66053127742, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -48.95374999999997, "ci_upper": 136.2420833333333, "delta_ci_lower": -48.95374999999997, "delta_ci_upper": 136.2420833333333, "er_ci_lower": 5884.6987500000005, "er_ci_upper": 6014.926458333333, "er_mean": 5949.875, "failure_count": 0, "mean_delta": 42.86666666666667, "missing_count": 0, "native_ci_lower": 5837.822916666666, "native_ci_upper": 5974.8256249999995, "native_mean": 5907.008333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -43.50729166666653, "ci_upper": 132.43416666666664, "delta_ci_lower": -43.50729166666653, "delta_ci_upper": 132.43416666666664, "er_ci_lower": 5523.666041666667, "er_ci_upper": 5649.45625, "er_mean": 5586.658333333334, "failure_count": 0, "mean_delta": 43.31666666666667, "missing_count": 0, "native_ci_lower": 5478.996666666667, "native_ci_upper": 5606.9974999999995, "native_mean": 5543.341666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.14444444444444443, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.011111111111111112, "er_ci_lower": 0.6, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6777777777777778, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.6666666666666666, "native_ci_upper": 0.8222222222222222, "native_mean": 0.7444444444444445, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.34444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444444, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.34444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444444, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.34444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444444, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.34444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444444, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1328.5834135999662, "ci_upper": 1938.402243338302, "delta_ci_lower": 1328.5834135999662, "delta_ci_upper": 1938.402243338302, "er_ci_lower": 6293.856961385027, "er_ci_upper": 7027.167155987457, "er_mean": 6635.978331246103, "failure_count": 0, "mean_delta": 1606.2203978556984, "missing_count": 0, "native_ci_lower": 4878.834973289341, "native_ci_upper": 5212.434231100851, "native_mean": 5029.757933390404, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.004629629629629629, "ci_upper": 0.08703703703703704, "delta_ci_lower": -0.004629629629629629, "delta_ci_upper": 0.08703703703703704, "er_ci_lower": 0.14722222222222223, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148148, "native_ci_upper": 0.20648148148148146, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.004629629629629629, "ci_upper": 0.08703703703703704, "delta_ci_lower": -0.004629629629629629, "delta_ci_upper": 0.08703703703703704, "er_ci_lower": 0.14722222222222223, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148148, "native_ci_upper": 0.20648148148148146, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.004629629629629629, "ci_upper": 0.08703703703703704, "delta_ci_lower": -0.004629629629629629, "delta_ci_upper": 0.08703703703703704, "er_ci_lower": 0.14722222222222223, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148148, "native_ci_upper": 0.20648148148148146, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.004629629629629629, "ci_upper": 0.08703703703703704, "delta_ci_lower": -0.004629629629629629, "delta_ci_upper": 0.08703703703703704, "er_ci_lower": 0.14722222222222223, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148148, "native_ci_upper": 0.20648148148148146, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.0036036036036036032, "ci_upper": 0.11981981981981983, "delta_ci_lower": -0.0036036036036036032, "delta_ci_upper": 0.11981981981981983, "er_ci_lower": 0.1, "er_ci_upper": 0.23232323232323232, "er_mean": 0.16565656565656564, "failure_count": 0, "mean_delta": 0.05435435435435436, "missing_count": 30, "native_ci_lower": 0.05574665574665574, "native_ci_upper": 0.17575757575757575, "native_mean": 0.1113022113022113, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": 0.007850808555033907, "ci_upper": 0.12317423056859657, "delta_ci_lower": 0.007850808555033907, "delta_ci_upper": 0.12317423056859657, "er_ci_lower": 0.17201356285863328, "er_ci_upper": 0.3041601460615545, "er_mean": 0.2363849765258216, "failure_count": 0, "mean_delta": 0.0643714136671883, "missing_count": 0, "native_ci_lower": 0.11828377673448096, "native_ci_upper": 0.23132498695878978, "native_mean": 0.17201356285863328, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1104.4583402403325, "ci_upper": 2718.674028661883, "delta_ci_lower": 1104.4583402403325, "delta_ci_upper": 2718.674028661883, "er_ci_lower": 42533.688940389155, "er_ci_upper": 43905.483869144184, "er_mean": 43196.129735191, "failure_count": 0, "mean_delta": 1898.2039126834425, "missing_count": 0, "native_ci_lower": 40763.23559578018, "native_ci_upper": 41823.84417862456, "native_mean": 41297.92582250756, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -49.16890747261346, "ci_upper": 150.36710028690663, "delta_ci_lower": -49.16890747261346, "delta_ci_upper": 150.36710028690663, "er_ci_lower": 5872.473333333333, "er_ci_upper": 6012.939508346374, "er_mean": 5942.527490871153, "failure_count": 0, "mean_delta": 49.91853155972874, "missing_count": 0, "native_ci_lower": 5822.077027908191, "native_ci_upper": 5963.264703638498, "native_mean": 5892.608959311424, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05061345158906134, "ci_upper": 0.03791574279379157, "delta_ci_lower": -0.05061345158906134, "delta_ci_upper": 0.03791574279379157, "er_ci_lower": 0.0, "er_ci_upper": 0.0534220251293422, "er_mean": 0.020679970436067993, "failure_count": 0, "mean_delta": -0.004626755358462674, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05061345158906134, "ci_upper": 0.03791574279379157, "delta_ci_lower": -0.05061345158906134, "delta_ci_upper": 0.03791574279379157, "er_ci_lower": 0.0, "er_ci_upper": 0.0534220251293422, "er_mean": 0.020679970436067993, "failure_count": 0, "mean_delta": -0.004626755358462674, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05061345158906134, "ci_upper": 0.03791574279379157, "delta_ci_lower": -0.05061345158906134, "delta_ci_upper": 0.03791574279379157, "er_ci_lower": 0.0, "er_ci_upper": 0.0534220251293422, "er_mean": 0.020679970436067993, "failure_count": 0, "mean_delta": -0.004626755358462674, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -48.451250326030255, "ci_upper": 143.83502510432962, "delta_ci_lower": -48.451250326030255, "delta_ci_upper": 143.83502510432962, "er_ci_lower": 5514.14816281951, "er_ci_upper": 5649.760848004695, "er_mean": 5582.392749087116, "failure_count": 0, "mean_delta": 46.5621283255086, "missing_count": 0, "native_ci_lower": 5470.090891040689, "native_ci_upper": 5601.390643583725, "native_mean": 5535.830620761606, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.1603547671840355, "ci_upper": 0.012062084257206208, "delta_ci_lower": -0.1603547671840355, "delta_ci_upper": 0.012062084257206208, "er_ci_lower": 0.5580783444198079, "er_ci_upper": 0.7316777531411677, "er_mean": 0.6448780487804878, "failure_count": 0, "mean_delta": -0.07414634146341464, "missing_count": 30, "native_ci_lower": 0.6328159645232816, "native_ci_upper": 0.8040502586844049, "native_mean": 0.7190243902439024, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "er_ci_lower": 0.30016204730229123, "er_ci_upper": 0.4923876570583888, "er_mean": 0.3955580192165558, "failure_count": 0, "mean_delta": 0.06798965262379897, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4253078344419808, "native_mean": 0.32756836659275684, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "er_ci_lower": 0.30016204730229123, "er_ci_upper": 0.4923876570583888, "er_mean": 0.3955580192165558, "failure_count": 0, "mean_delta": 0.06798965262379897, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4253078344419808, "native_mean": 0.32756836659275684, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "er_ci_lower": 0.30016204730229123, "er_ci_upper": 0.4923876570583888, "er_mean": 0.3955580192165558, "failure_count": 0, "mean_delta": 0.06798965262379897, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4253078344419808, "native_mean": 0.32756836659275684, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "er_ci_lower": 0.30016204730229123, "er_ci_upper": 0.4923876570583888, "er_mean": 0.3955580192165558, "failure_count": 0, "mean_delta": 0.06798965262379897, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4253078344419808, "native_mean": 0.32756836659275684, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "er_ci_lower": 0.34135994087213595, "er_ci_upper": 0.5453954175905396, "er_mean": 0.44254249815225427, "failure_count": 0, "mean_delta": 0.10635624538063562, "missing_count": 30, "native_ci_lower": 0.24076866223207685, "native_ci_upper": 0.43500369549150036, "native_mean": 0.3361862527716186, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "er_ci_lower": 0.34135994087213595, "er_ci_upper": 0.5453954175905396, "er_mean": 0.44254249815225427, "failure_count": 0, "mean_delta": 0.10635624538063562, "missing_count": 30, "native_ci_lower": 0.24076866223207685, "native_ci_upper": 0.43500369549150036, "native_mean": 0.3361862527716186, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "er_ci_lower": 0.34135994087213595, "er_ci_upper": 0.5453954175905396, "er_mean": 0.44254249815225427, "failure_count": 0, "mean_delta": 0.10635624538063562, "missing_count": 30, "native_ci_lower": 0.24076866223207685, "native_ci_upper": 0.43500369549150036, "native_mean": 0.3361862527716186, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "er_ci_lower": 0.34135994087213595, "er_ci_upper": 0.5453954175905396, "er_mean": 0.44254249815225427, "failure_count": 0, "mean_delta": 0.10635624538063562, "missing_count": 30, "native_ci_lower": 0.24076866223207685, "native_ci_upper": 0.43500369549150036, "native_mean": 0.3361862527716186, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1314.0177728431665, "ci_upper": 1798.5984323461914, "delta_ci_lower": 1314.0177728431665, "delta_ci_upper": 1798.5984323461914, "er_ci_lower": 6305.4678067806835, "er_ci_upper": 7005.065824487619, "er_mean": 6638.009595082445, "failure_count": 0, "mean_delta": 1544.017366090143, "missing_count": 0, "native_ci_lower": 4908.321915209952, "native_ci_upper": 5321.0747022194755, "native_mean": 5093.9922289923015, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008229736388272962, "ci_upper": 0.0827751293422025, "delta_ci_lower": -0.008229736388272962, "delta_ci_upper": 0.0827751293422025, "er_ci_lower": 0.14489246119733923, "er_ci_upper": 0.2428436191180093, "er_mean": 0.19277654594727764, "failure_count": 0, "mean_delta": 0.03688100517368809, "missing_count": 30, "native_ci_lower": 0.10663371520078838, "native_ci_upper": 0.20905426213353034, "native_mean": 0.15589554077358955, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008229736388272962, "ci_upper": 0.0827751293422025, "delta_ci_lower": -0.008229736388272962, "delta_ci_upper": 0.0827751293422025, "er_ci_lower": 0.14489246119733923, "er_ci_upper": 0.2428436191180093, "er_mean": 0.19277654594727764, "failure_count": 0, "mean_delta": 0.03688100517368809, "missing_count": 30, "native_ci_lower": 0.10663371520078838, "native_ci_upper": 0.20905426213353034, "native_mean": 0.15589554077358955, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008229736388272962, "ci_upper": 0.0827751293422025, "delta_ci_lower": -0.008229736388272962, "delta_ci_upper": 0.0827751293422025, "er_ci_lower": 0.14489246119733923, "er_ci_upper": 0.2428436191180093, "er_mean": 0.19277654594727764, "failure_count": 0, "mean_delta": 0.03688100517368809, "missing_count": 30, "native_ci_lower": 0.10663371520078838, "native_ci_upper": 0.20905426213353034, "native_mean": 0.15589554077358955, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008229736388272962, "ci_upper": 0.0827751293422025, "delta_ci_lower": -0.008229736388272962, "delta_ci_upper": 0.0827751293422025, "er_ci_lower": 0.14489246119733923, "er_ci_upper": 0.2428436191180093, "er_mean": 0.19277654594727764, "failure_count": 0, "mean_delta": 0.03688100517368809, "missing_count": 30, "native_ci_lower": 0.10663371520078838, "native_ci_upper": 0.20905426213353034, "native_mean": 0.15589554077358955, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.003912027326661472, "ci_upper": 0.1312605021873314, "delta_ci_lower": -0.003912027326661472, "delta_ci_upper": 0.1312605021873314, "er_ci_lower": 0.10864476248068267, "er_ci_upper": 0.2544863266814486, "er_mean": 0.1810172680239199, "failure_count": 0, "mean_delta": 0.059597690817203015, "missing_count": 30, "native_ci_lower": 0.06072533327522241, "native_ci_upper": 0.19139152052677552, "native_mean": 0.1214195772067169, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.24166666666666664, "er_ci_upper": 0.36666666666666664, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.049999999999999996, "missing_count": 0, "native_ci_lower": 0.19166666666666665, "native_ci_upper": 0.30833333333333335, "native_mean": 0.25, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 837.835717042035, "ci_upper": 2306.8892163560186, "delta_ci_lower": 837.835717042035, "delta_ci_upper": 2306.8892163560186, "er_ci_lower": 42379.1101328676, "er_ci_upper": 43566.07493818922, "er_mean": 42952.98629094614, "failure_count": 0, "mean_delta": 1559.325759668718, "missing_count": 0, "native_ci_lower": 40879.82587321222, "native_ci_upper": 41904.88863006387, "native_mean": 41393.66053127742, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -48.95374999999997, "ci_upper": 136.2420833333333, "delta_ci_lower": -48.95374999999997, "delta_ci_upper": 136.2420833333333, "er_ci_lower": 5884.6987500000005, "er_ci_upper": 6014.926458333333, "er_mean": 5949.875, "failure_count": 0, "mean_delta": 42.86666666666667, "missing_count": 0, "native_ci_lower": 5837.822916666667, "native_ci_upper": 5974.825625, "native_mean": 5907.008333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555556, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555556, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555556, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -43.507291666666525, "ci_upper": 132.43416666666664, "delta_ci_lower": -43.507291666666525, "delta_ci_upper": 132.43416666666664, "er_ci_lower": 5523.666041666667, "er_ci_upper": 5649.45625, "er_mean": 5586.658333333333, "failure_count": 0, "mean_delta": 43.31666666666666, "missing_count": 0, "native_ci_lower": 5478.996666666667, "native_ci_upper": 5606.9974999999995, "native_mean": 5543.341666666667, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.14444444444444446, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.14444444444444446, "delta_ci_upper": 0.011111111111111112, "er_ci_lower": 0.6, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6777777777777777, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.6666666666666666, "native_ci_upper": 0.8222222222222223, "native_mean": 0.7444444444444445, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.2333333333333333, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.2333333333333333, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.2333333333333333, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -4.625929269271485e-18, "ci_upper": 0.15277777777777776, "delta_ci_lower": -4.625929269271485e-18, "delta_ci_upper": 0.15277777777777776, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.2333333333333333, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444445, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444445, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444445, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222227, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222227, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444445, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1328.5834135999662, "ci_upper": 1938.402243338302, "delta_ci_lower": 1328.5834135999662, "delta_ci_upper": 1938.402243338302, "er_ci_lower": 6293.856961385027, "er_ci_upper": 7027.167155987456, "er_mean": 6635.978331246103, "failure_count": 0, "mean_delta": 1606.2203978556984, "missing_count": 0, "native_ci_lower": 4878.83497328934, "native_ci_upper": 5212.434231100852, "native_mean": 5029.757933390404, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.0046296296296296285, "ci_upper": 0.08703703703703702, "delta_ci_lower": -0.0046296296296296285, "delta_ci_upper": 0.08703703703703702, "er_ci_lower": 0.1472222222222222, "er_ci_upper": 0.24629629629629632, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148147, "native_ci_upper": 0.2064814814814815, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.0046296296296296285, "ci_upper": 0.08703703703703702, "delta_ci_lower": -0.0046296296296296285, "delta_ci_upper": 0.08703703703703702, "er_ci_lower": 0.1472222222222222, "er_ci_upper": 0.24629629629629632, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148147, "native_ci_upper": 0.2064814814814815, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.0046296296296296285, "ci_upper": 0.08703703703703702, "delta_ci_lower": -0.0046296296296296285, "delta_ci_upper": 0.08703703703703702, "er_ci_lower": 0.1472222222222222, "er_ci_upper": 0.24629629629629632, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148147, "native_ci_upper": 0.2064814814814815, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.0046296296296296285, "ci_upper": 0.08703703703703702, "delta_ci_lower": -0.0046296296296296285, "delta_ci_upper": 0.08703703703703702, "er_ci_lower": 0.1472222222222222, "er_ci_upper": 0.24629629629629632, "er_mean": 0.1953703703703704, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148147, "native_ci_upper": 0.2064814814814815, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.0036036036036036032, "ci_upper": 0.11981981981981982, "delta_ci_lower": -0.0036036036036036032, "delta_ci_upper": 0.11981981981981982, "er_ci_lower": 0.09999999999999999, "er_ci_upper": 0.23232323232323235, "er_mean": 0.16565656565656564, "failure_count": 0, "mean_delta": 0.05435435435435435, "missing_count": 30, "native_ci_lower": 0.05574665574665574, "native_ci_upper": 0.17575757575757578, "native_mean": 0.1113022113022113, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.36666666666666664, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.19166666666666668, "native_ci_upper": 0.30833333333333335, "native_mean": 0.25, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 837.835717042035, "ci_upper": 2306.8892163560186, "delta_ci_lower": 837.835717042035, "delta_ci_upper": 2306.8892163560186, "er_ci_lower": 42379.110132867594, "er_ci_upper": 43566.07493818922, "er_mean": 42952.98629094614, "failure_count": 0, "mean_delta": 1559.325759668718, "missing_count": 0, "native_ci_lower": 40879.82587321223, "native_ci_upper": 41904.88863006387, "native_mean": 41393.66053127742, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -48.95374999999997, "ci_upper": 136.2420833333333, "delta_ci_lower": -48.95374999999997, "delta_ci_upper": 136.2420833333333, "er_ci_lower": 5884.6987500000005, "er_ci_upper": 6014.926458333333, "er_mean": 5949.875, "failure_count": 0, "mean_delta": 42.86666666666667, "missing_count": 0, "native_ci_lower": 5837.822916666666, "native_ci_upper": 5974.8256249999995, "native_mean": 5907.008333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -43.50729166666653, "ci_upper": 132.43416666666664, "delta_ci_lower": -43.50729166666653, "delta_ci_upper": 132.43416666666664, "er_ci_lower": 5523.666041666667, "er_ci_upper": 5649.45625, "er_mean": 5586.658333333334, "failure_count": 0, "mean_delta": 43.31666666666667, "missing_count": 0, "native_ci_lower": 5478.996666666667, "native_ci_upper": 5606.9974999999995, "native_mean": 5543.341666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.14444444444444443, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.011111111111111112, "er_ci_lower": 0.6, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6777777777777778, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.6666666666666666, "native_ci_upper": 0.8222222222222222, "native_mean": 0.7444444444444445, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.34444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444444, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.34444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444444, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.34444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444444, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.34444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444444, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1328.5834135999662, "ci_upper": 1938.402243338302, "delta_ci_lower": 1328.5834135999662, "delta_ci_upper": 1938.402243338302, "er_ci_lower": 6293.856961385027, "er_ci_upper": 7027.167155987457, "er_mean": 6635.978331246103, "failure_count": 0, "mean_delta": 1606.2203978556984, "missing_count": 0, "native_ci_lower": 4878.834973289341, "native_ci_upper": 5212.434231100851, "native_mean": 5029.757933390404, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.004629629629629629, "ci_upper": 0.08703703703703704, "delta_ci_lower": -0.004629629629629629, "delta_ci_upper": 0.08703703703703704, "er_ci_lower": 0.14722222222222223, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148148, "native_ci_upper": 0.20648148148148146, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.004629629629629629, "ci_upper": 0.08703703703703704, "delta_ci_lower": -0.004629629629629629, "delta_ci_upper": 0.08703703703703704, "er_ci_lower": 0.14722222222222223, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148148, "native_ci_upper": 0.20648148148148146, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.004629629629629629, "ci_upper": 0.08703703703703704, "delta_ci_lower": -0.004629629629629629, "delta_ci_upper": 0.08703703703703704, "er_ci_lower": 0.14722222222222223, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148148, "native_ci_upper": 0.20648148148148146, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.004629629629629629, "ci_upper": 0.08703703703703704, "delta_ci_lower": -0.004629629629629629, "delta_ci_upper": 0.08703703703703704, "er_ci_lower": 0.14722222222222223, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148148, "native_ci_upper": 0.20648148148148146, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.0036036036036036032, "ci_upper": 0.11981981981981983, "delta_ci_lower": -0.0036036036036036032, "delta_ci_upper": 0.11981981981981983, "er_ci_lower": 0.1, "er_ci_upper": 0.23232323232323232, "er_mean": 0.16565656565656564, "failure_count": 0, "mean_delta": 0.05435435435435436, "missing_count": 30, "native_ci_lower": 0.05574665574665574, "native_ci_upper": 0.17575757575757575, "native_mean": 0.1113022113022113, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": 0.007850808555033907, "ci_upper": 0.12317423056859657, "delta_ci_lower": 0.007850808555033907, "delta_ci_upper": 0.12317423056859657, "er_ci_lower": 0.17201356285863328, "er_ci_upper": 0.3041601460615545, "er_mean": 0.2363849765258216, "failure_count": 0, "mean_delta": 0.0643714136671883, "missing_count": 0, "native_ci_lower": 0.11828377673448096, "native_ci_upper": 0.23132498695878978, "native_mean": 0.17201356285863328, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1104.4583402403325, "ci_upper": 2718.674028661883, "delta_ci_lower": 1104.4583402403325, "delta_ci_upper": 2718.674028661883, "er_ci_lower": 42533.688940389155, "er_ci_upper": 43905.483869144184, "er_mean": 43196.129735191, "failure_count": 0, "mean_delta": 1898.2039126834425, "missing_count": 0, "native_ci_lower": 40763.23559578018, "native_ci_upper": 41823.84417862456, "native_mean": 41297.92582250756, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -49.16890747261346, "ci_upper": 150.36710028690663, "delta_ci_lower": -49.16890747261346, "delta_ci_upper": 150.36710028690663, "er_ci_lower": 5872.473333333333, "er_ci_upper": 6012.939508346374, "er_mean": 5942.527490871153, "failure_count": 0, "mean_delta": 49.91853155972874, "missing_count": 0, "native_ci_lower": 5822.077027908191, "native_ci_upper": 5963.264703638498, "native_mean": 5892.608959311424, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05061345158906134, "ci_upper": 0.03791574279379157, "delta_ci_lower": -0.05061345158906134, "delta_ci_upper": 0.03791574279379157, "er_ci_lower": 0.0, "er_ci_upper": 0.0534220251293422, "er_mean": 0.020679970436067993, "failure_count": 0, "mean_delta": -0.004626755358462674, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05061345158906134, "ci_upper": 0.03791574279379157, "delta_ci_lower": -0.05061345158906134, "delta_ci_upper": 0.03791574279379157, "er_ci_lower": 0.0, "er_ci_upper": 0.0534220251293422, "er_mean": 0.020679970436067993, "failure_count": 0, "mean_delta": -0.004626755358462674, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05061345158906134, "ci_upper": 0.03791574279379157, "delta_ci_lower": -0.05061345158906134, "delta_ci_upper": 0.03791574279379157, "er_ci_lower": 0.0, "er_ci_upper": 0.0534220251293422, "er_mean": 0.020679970436067993, "failure_count": 0, "mean_delta": -0.004626755358462674, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -48.451250326030255, "ci_upper": 143.83502510432962, "delta_ci_lower": -48.451250326030255, "delta_ci_upper": 143.83502510432962, "er_ci_lower": 5514.14816281951, "er_ci_upper": 5649.760848004695, "er_mean": 5582.392749087116, "failure_count": 0, "mean_delta": 46.5621283255086, "missing_count": 0, "native_ci_lower": 5470.090891040689, "native_ci_upper": 5601.390643583725, "native_mean": 5535.830620761606, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.1603547671840355, "ci_upper": 0.012062084257206208, "delta_ci_lower": -0.1603547671840355, "delta_ci_upper": 0.012062084257206208, "er_ci_lower": 0.5580783444198079, "er_ci_upper": 0.7316777531411677, "er_mean": 0.6448780487804878, "failure_count": 0, "mean_delta": -0.07414634146341464, "missing_count": 30, "native_ci_lower": 0.6328159645232816, "native_ci_upper": 0.8040502586844049, "native_mean": 0.7190243902439024, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "er_ci_lower": 0.30016204730229123, "er_ci_upper": 0.4923876570583888, "er_mean": 0.3955580192165558, "failure_count": 0, "mean_delta": 0.06798965262379897, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4253078344419808, "native_mean": 0.32756836659275684, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "er_ci_lower": 0.30016204730229123, "er_ci_upper": 0.4923876570583888, "er_mean": 0.3955580192165558, "failure_count": 0, "mean_delta": 0.06798965262379897, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4253078344419808, "native_mean": 0.32756836659275684, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "er_ci_lower": 0.30016204730229123, "er_ci_upper": 0.4923876570583888, "er_mean": 0.3955580192165558, "failure_count": 0, "mean_delta": 0.06798965262379897, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4253078344419808, "native_mean": 0.32756836659275684, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.009723577235772319, "ci_upper": 0.1462936067997043, "delta_ci_lower": -0.009723577235772319, "delta_ci_upper": 0.1462936067997043, "er_ci_lower": 0.30016204730229123, "er_ci_upper": 0.4923876570583888, "er_mean": 0.3955580192165558, "failure_count": 0, "mean_delta": 0.06798965262379897, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4253078344419808, "native_mean": 0.32756836659275684, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "er_ci_lower": 0.34135994087213595, "er_ci_upper": 0.5453954175905396, "er_mean": 0.44254249815225427, "failure_count": 0, "mean_delta": 0.10635624538063562, "missing_count": 30, "native_ci_lower": 0.24076866223207685, "native_ci_upper": 0.43500369549150036, "native_mean": 0.3361862527716186, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "er_ci_lower": 0.34135994087213595, "er_ci_upper": 0.5453954175905396, "er_mean": 0.44254249815225427, "failure_count": 0, "mean_delta": 0.10635624538063562, "missing_count": 30, "native_ci_lower": 0.24076866223207685, "native_ci_upper": 0.43500369549150036, "native_mean": 0.3361862527716186, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "er_ci_lower": 0.34135994087213595, "er_ci_upper": 0.5453954175905396, "er_mean": 0.44254249815225427, "failure_count": 0, "mean_delta": 0.10635624538063562, "missing_count": 30, "native_ci_lower": 0.24076866223207685, "native_ci_upper": 0.43500369549150036, "native_mean": 0.3361862527716186, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.021271249076127124, "ci_upper": 0.19484109386548412, "delta_ci_lower": 0.021271249076127124, "delta_ci_upper": 0.19484109386548412, "er_ci_lower": 0.34135994087213595, "er_ci_upper": 0.5453954175905396, "er_mean": 0.44254249815225427, "failure_count": 0, "mean_delta": 0.10635624538063562, "missing_count": 30, "native_ci_lower": 0.24076866223207685, "native_ci_upper": 0.43500369549150036, "native_mean": 0.3361862527716186, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1314.0177728431665, "ci_upper": 1798.5984323461914, "delta_ci_lower": 1314.0177728431665, "delta_ci_upper": 1798.5984323461914, "er_ci_lower": 6305.4678067806835, "er_ci_upper": 7005.065824487619, "er_mean": 6638.009595082445, "failure_count": 0, "mean_delta": 1544.017366090143, "missing_count": 0, "native_ci_lower": 4908.321915209952, "native_ci_upper": 5321.0747022194755, "native_mean": 5093.9922289923015, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008229736388272962, "ci_upper": 0.0827751293422025, "delta_ci_lower": -0.008229736388272962, "delta_ci_upper": 0.0827751293422025, "er_ci_lower": 0.14489246119733923, "er_ci_upper": 0.2428436191180093, "er_mean": 0.19277654594727764, "failure_count": 0, "mean_delta": 0.03688100517368809, "missing_count": 30, "native_ci_lower": 0.10663371520078838, "native_ci_upper": 0.20905426213353034, "native_mean": 0.15589554077358955, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008229736388272962, "ci_upper": 0.0827751293422025, "delta_ci_lower": -0.008229736388272962, "delta_ci_upper": 0.0827751293422025, "er_ci_lower": 0.14489246119733923, "er_ci_upper": 0.2428436191180093, "er_mean": 0.19277654594727764, "failure_count": 0, "mean_delta": 0.03688100517368809, "missing_count": 30, "native_ci_lower": 0.10663371520078838, "native_ci_upper": 0.20905426213353034, "native_mean": 0.15589554077358955, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008229736388272962, "ci_upper": 0.0827751293422025, "delta_ci_lower": -0.008229736388272962, "delta_ci_upper": 0.0827751293422025, "er_ci_lower": 0.14489246119733923, "er_ci_upper": 0.2428436191180093, "er_mean": 0.19277654594727764, "failure_count": 0, "mean_delta": 0.03688100517368809, "missing_count": 30, "native_ci_lower": 0.10663371520078838, "native_ci_upper": 0.20905426213353034, "native_mean": 0.15589554077358955, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008229736388272962, "ci_upper": 0.0827751293422025, "delta_ci_lower": -0.008229736388272962, "delta_ci_upper": 0.0827751293422025, "er_ci_lower": 0.14489246119733923, "er_ci_upper": 0.2428436191180093, "er_mean": 0.19277654594727764, "failure_count": 0, "mean_delta": 0.03688100517368809, "missing_count": 30, "native_ci_lower": 0.10663371520078838, "native_ci_upper": 0.20905426213353034, "native_mean": 0.15589554077358955, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.003912027326661472, "ci_upper": 0.1312605021873314, "delta_ci_lower": -0.003912027326661472, "delta_ci_upper": 0.1312605021873314, "er_ci_lower": 0.10864476248068267, "er_ci_upper": 0.2544863266814486, "er_mean": 0.1810172680239199, "failure_count": 0, "mean_delta": 0.059597690817203015, "missing_count": 30, "native_ci_lower": 0.06072533327522241, "native_ci_upper": 0.19139152052677552, "native_mean": 0.1214195772067169, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 73.13637903707291, "ci_upper": 2615.1583526537675, "delta_ci_lower": 73.13637903707291, "delta_ci_upper": 2615.1583526537675, "er_ci_lower": 41316.953551496656, "er_ci_upper": 43476.3940028596, "er_mean": 42409.85973050507, "failure_count": 0, "mean_delta": 1354.0363929777716, "missing_count": 0, "native_ci_lower": 40121.34920680556, "native_ci_upper": 42004.56700560201, "native_mean": 41055.823337527305, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -67.06833333333331, "ci_upper": 260.3041666666666, "delta_ci_lower": -67.06833333333331, "delta_ci_upper": 260.3041666666666, "er_ci_lower": 5785.932500000001, "er_ci_upper": 6073.471666666666, "er_mean": 5931.366666666667, "failure_count": 0, "mean_delta": 96.9, "missing_count": 0, "native_ci_lower": 5711.326666666667, "native_ci_upper": 5957.901666666666, "native_mean": 5834.466666666666, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -77.2708333333333, "ci_upper": 239.2041666666666, "delta_ci_lower": -77.2708333333333, "delta_ci_upper": 239.2041666666666, "er_ci_lower": 5434.621666666667, "er_ci_upper": 5707.633333333333, "er_mean": 5572.933333333333, "failure_count": 0, "mean_delta": 80.86666666666666, "missing_count": 0, "native_ci_lower": 5376.699166666666, "native_ci_upper": 5606.835833333333, "native_mean": 5492.066666666667, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7, "failure_count": 0, "mean_delta": -0.1, "missing_count": 0, "native_ci_lower": 0.6333333333333333, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.25, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.25, "er_ci_lower": 0.25, "er_ci_upper": 0.5833333333333334, "er_mean": 0.4166666666666667, "failure_count": 0, "mean_delta": 0.11666666666666667, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.25, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.25, "er_ci_lower": 0.25, "er_ci_upper": 0.5833333333333334, "er_mean": 0.4166666666666667, "failure_count": 0, "mean_delta": 0.11666666666666667, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.25, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.25, "er_ci_lower": 0.25, "er_ci_upper": 0.5833333333333334, "er_mean": 0.4166666666666667, "failure_count": 0, "mean_delta": 0.11666666666666667, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.25, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.25, "er_ci_lower": 0.25, "er_ci_upper": 0.5833333333333334, "er_mean": 0.4166666666666667, "failure_count": 0, "mean_delta": 0.11666666666666667, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.6333333333333333, "er_mean": 0.4666666666666667, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.6333333333333333, "er_mean": 0.4666666666666667, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.6333333333333333, "er_mean": 0.4666666666666667, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.6333333333333333, "er_mean": 0.4666666666666667, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 853.6897967547219, "ci_upper": 1796.212601411098, "delta_ci_lower": 853.6897967547219, "delta_ci_upper": 1796.212601411098, "er_ci_lower": 5626.1234991886895, "er_ci_upper": 6790.6467111393185, "er_mean": 6177.516841810818, "failure_count": 0, "mean_delta": 1279.0962306743797, "missing_count": 0, "native_ci_lower": 4638.425644203575, "native_ci_upper": 5169.466035369647, "native_mean": 4898.420611136437, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04444444444444444, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.12777777777777777, "er_ci_upper": 0.28888888888888886, "er_mean": 0.20555555555555557, "failure_count": 0, "mean_delta": 0.03888888888888888, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.2777777777777778, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04444444444444444, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.12777777777777777, "er_ci_upper": 0.28888888888888886, "er_mean": 0.20555555555555557, "failure_count": 0, "mean_delta": 0.03888888888888888, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.2777777777777778, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04444444444444444, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.12777777777777777, "er_ci_upper": 0.28888888888888886, "er_mean": 0.20555555555555557, "failure_count": 0, "mean_delta": 0.03888888888888888, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.2777777777777778, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04444444444444444, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.12777777777777777, "er_ci_upper": 0.28888888888888886, "er_mean": 0.20555555555555557, "failure_count": 0, "mean_delta": 0.03888888888888888, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.2777777777777778, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "inference": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 2253.5465300171445, "ci_upper": 5972.206139904155, "delta_ci_lower": 2253.5465300171445, "delta_ci_upper": 5972.206139904155, "er_ci_lower": 43797.17165966945, "er_ci_upper": 47074.76586977951, "er_mean": 45299.81632356066, "failure_count": 0, "mean_delta": 4012.3010512596616, "missing_count": 0, "native_ci_lower": 40232.20954903741, "native_ci_upper": 42349.07260978323, "native_mean": 41287.515272301, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -188.1683333333333, "ci_upper": 231.25166666666638, "delta_ci_lower": -188.1683333333333, "delta_ci_upper": 231.25166666666638, "er_ci_lower": 5789.060833333333, "er_ci_upper": 6043.466666666666, "er_mean": 5917.333333333333, "failure_count": 0, "mean_delta": 19.8, "missing_count": 0, "native_ci_lower": 5758.197499999999, "native_ci_upper": 6033.034166666667, "native_mean": 5897.533333333334, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -177.9, "ci_upper": 221.50166666666664, "delta_ci_lower": -177.9, "delta_ci_upper": 221.50166666666664, "er_ci_lower": 5448.933333333333, "er_ci_upper": 5702.067499999999, "er_mean": 5575.966666666666, "failure_count": 0, "mean_delta": 21.266666666666666, "missing_count": 0, "native_ci_lower": 5427.763333333333, "native_ci_upper": 5679.968333333333, "native_mean": 5554.7, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.3, "ci_upper": 0.1, "delta_ci_lower": -0.3, "delta_ci_upper": 0.1, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 0, "native_ci_lower": 0.26666666666666666, "native_ci_upper": 0.6, "native_mean": 0.43333333333333335, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.175, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.175, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.35833333333333334, "failure_count": 0, "mean_delta": -0.041666666666666664, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.175, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.175, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.35833333333333334, "failure_count": 0, "mean_delta": -0.041666666666666664, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.175, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.175, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.35833333333333334, "failure_count": 0, "mean_delta": -0.041666666666666664, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.175, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.175, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.35833333333333334, "failure_count": 0, "mean_delta": -0.041666666666666664, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1761.4003717604403, "ci_upper": 2546.753613488981, "delta_ci_lower": 1761.4003717604403, "delta_ci_upper": 2546.753613488981, "er_ci_lower": 6470.426009497217, "er_ci_upper": 8069.241126632162, "er_mean": 7194.973000014822, "failure_count": 0, "mean_delta": 2143.230206841448, "missing_count": 0, "native_ci_lower": 4576.070067648639, "native_ci_upper": 5675.247384790564, "native_mean": 5051.742793173374, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.058333333333333334, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.06944444444444445, "er_ci_lower": 0.08055555555555555, "er_ci_upper": 0.24722222222222223, "er_mean": 0.15833333333333333, "failure_count": 0, "mean_delta": 0.005555555555555556, "missing_count": 0, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.22777777777777777, "native_mean": 0.15277777777777776, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.058333333333333334, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.06944444444444445, "er_ci_lower": 0.08055555555555555, "er_ci_upper": 0.24722222222222223, "er_mean": 0.15833333333333333, "failure_count": 0, "mean_delta": 0.005555555555555556, "missing_count": 0, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.22777777777777777, "native_mean": 0.15277777777777776, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.058333333333333334, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.06944444444444445, "er_ci_lower": 0.08055555555555555, "er_ci_upper": 0.24722222222222223, "er_mean": 0.15833333333333333, "failure_count": 0, "mean_delta": 0.005555555555555556, "missing_count": 0, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.22777777777777777, "native_mean": 0.15277777777777776, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.058333333333333334, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.06944444444444445, "er_ci_lower": 0.08055555555555555, "er_ci_upper": 0.24722222222222223, "er_mean": 0.15833333333333333, "failure_count": 0, "mean_delta": 0.005555555555555556, "missing_count": 0, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.22777777777777777, "native_mean": 0.15277777777777776, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04054054054054054, "ci_upper": 0.3, "delta_ci_lower": -0.04054054054054054, "delta_ci_upper": 0.3, "er_ci_lower": 0.2636363636363636, "er_ci_upper": 0.6, "er_mean": 0.4303030303030303, "failure_count": 0, "mean_delta": 0.12972972972972974, "missing_count": 0, "native_ci_lower": 0.1375102375102375, "native_ci_upper": 0.4666666666666667, "native_mean": 0.30057330057330056, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -844.1708070733388, "ci_upper": 1899.510427015775, "delta_ci_lower": -844.1708070733388, "delta_ci_upper": 1899.510427015775, "er_ci_lower": 41058.29674063037, "er_ci_upper": 42722.3560572695, "er_mean": 41939.83883611703, "failure_count": 0, "mean_delta": 555.1622222565735, "missing_count": 0, "native_ci_lower": 40397.762694511424, "native_ci_upper": 42336.48408511983, "native_mean": 41384.67661386045, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -157.9008333333333, "ci_upper": 235.3, "delta_ci_lower": -157.9008333333333, "delta_ci_upper": 235.3, "er_ci_lower": 5855.266666666666, "er_ci_upper": 6088.503333333333, "er_mean": 5979.133333333333, "failure_count": 0, "mean_delta": 42.56666666666667, "missing_count": 0, "native_ci_lower": 5792.091666666667, "native_ci_upper": 6075.802500000001, "native_mean": 5936.566666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -150.3, "ci_upper": 219.0683333333333, "delta_ci_lower": -150.3, "delta_ci_upper": 219.0683333333333, "er_ci_lower": 5470.4325, "er_ci_upper": 5707.0008333333335, "er_mean": 5594.533333333334, "failure_count": 0, "mean_delta": 39.1, "missing_count": 0, "native_ci_lower": 5418.230833333334, "native_ci_upper": 5691.535, "native_mean": 5555.433333333333, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 1.0, "er_ci_upper": 1.0, "er_mean": 1.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 1.0, "native_ci_upper": 1.0, "native_mean": 1.0, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "er_ci_lower": 0.25, "er_ci_upper": 0.5833333333333334, "er_mean": 0.4166666666666667, "failure_count": 0, "mean_delta": 0.15, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4166666666666667, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "er_ci_lower": 0.25, "er_ci_upper": 0.5833333333333334, "er_mean": 0.4166666666666667, "failure_count": 0, "mean_delta": 0.15, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4166666666666667, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "er_ci_lower": 0.25, "er_ci_upper": 0.5833333333333334, "er_mean": 0.4166666666666667, "failure_count": 0, "mean_delta": 0.15, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4166666666666667, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.3, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.3, "er_ci_lower": 0.25, "er_ci_upper": 0.5833333333333334, "er_mean": 0.4166666666666667, "failure_count": 0, "mean_delta": 0.15, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4166666666666667, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.6333333333333333, "er_mean": 0.4666666666666667, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.6333333333333333, "er_mean": 0.4666666666666667, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.6333333333333333, "er_mean": 0.4666666666666667, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.3333333333333333, "delta_ci_lower": 0.0, "delta_ci_upper": 0.3333333333333333, "er_ci_lower": 0.3, "er_ci_upper": 0.6333333333333333, "er_mean": 0.4666666666666667, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 505.7970655735699, "ci_upper": 919.3189105552543, "delta_ci_lower": 505.7970655735699, "delta_ci_upper": 919.3189105552543, "er_ci_lower": 6255.237441202432, "er_ci_upper": 6829.718195054641, "er_mean": 6535.821531907034, "failure_count": 0, "mean_delta": 705.5215041153133, "missing_count": 0, "native_ci_lower": 5599.1677559032305, "native_ci_upper": 6069.316803547942, "native_mean": 5830.300027791721, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.005555555555555554, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.005555555555555554, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.12777777777777777, "er_ci_upper": 0.31666666666666665, "er_mean": 0.2222222222222222, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.23333333333333334, "native_mean": 0.14444444444444443, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.005555555555555554, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.005555555555555554, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.12777777777777777, "er_ci_upper": 0.31666666666666665, "er_mean": 0.2222222222222222, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.23333333333333334, "native_mean": 0.14444444444444443, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.005555555555555554, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.005555555555555554, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.12777777777777777, "er_ci_upper": 0.31666666666666665, "er_mean": 0.2222222222222222, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.23333333333333334, "native_mean": 0.14444444444444443, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.005555555555555554, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.005555555555555554, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.12777777777777777, "er_ci_upper": 0.31666666666666665, "er_mean": 0.2222222222222222, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.23333333333333334, "native_mean": 0.14444444444444443, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "unanswerable": { "answer_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.9, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -923.3047338417961, "ci_upper": 1646.9630339516634, "delta_ci_lower": -923.3047338417961, "delta_ci_upper": 1646.9630339516634, "er_ci_lower": 41228.78917628841, "er_ci_upper": 43082.09302433863, "er_mean": 42162.430273601785, "failure_count": 0, "mean_delta": 315.80337218086544, "missing_count": 0, "native_ci_lower": 40721.184353243836, "native_ci_upper": 42929.66932883408, "native_mean": 41846.62690142092, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -148.23749999999995, "ci_upper": 187.76749999999998, "delta_ci_lower": -148.23749999999995, "delta_ci_upper": 187.76749999999998, "er_ci_lower": 5846.966666666666, "er_ci_upper": 6096.866666666667, "er_mean": 5971.666666666667, "failure_count": 0, "mean_delta": 12.2, "missing_count": 0, "native_ci_lower": 5808.696666666667, "native_ci_upper": 6101.2375, "native_mean": 5959.466666666666, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "context_token_count": { "ci_lower": -120.20083333333334, "ci_upper": 200.2358333333333, "delta_ci_lower": -120.20083333333334, "delta_ci_upper": 200.2358333333333, "er_ci_lower": 5479.426666666666, "er_ci_upper": 5725.235833333333, "er_mean": 5603.2, "failure_count": 0, "mean_delta": 32.03333333333333, "missing_count": 0, "native_ci_lower": 5434.5975, "native_ci_upper": 5700.235833333333, "native_mean": 5571.166666666667, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.1, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_latency_ms": { "ci_lower": 1396.5999818505952, "ci_upper": 3462.2476658883775, "delta_ci_lower": 1396.5999818505952, "delta_ci_upper": 3462.2476658883775, "er_ci_lower": 5700.123399759177, "er_ci_upper": 7809.823837894946, "er_mean": 6635.601951251738, "failure_count": 0, "mean_delta": 2297.033649791653, "missing_count": 0, "native_ci_lower": 4201.438734868231, "native_ci_upper": 4470.512599875995, "native_mean": 4338.5683014600845, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.9, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.36666666666666664, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.19166666666666668, "native_ci_upper": 0.30833333333333335, "native_mean": 0.25, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 837.835717042035, "ci_upper": 2306.8892163560186, "delta_ci_lower": 837.835717042035, "delta_ci_upper": 2306.8892163560186, "er_ci_lower": 42379.110132867594, "er_ci_upper": 43566.07493818922, "er_mean": 42952.98629094614, "failure_count": 0, "mean_delta": 1559.325759668718, "missing_count": 0, "native_ci_lower": 40879.82587321223, "native_ci_upper": 41904.88863006387, "native_mean": 41393.66053127742, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -48.95374999999997, "ci_upper": 136.2420833333333, "delta_ci_lower": -48.95374999999997, "delta_ci_upper": 136.2420833333333, "er_ci_lower": 5884.6987500000005, "er_ci_upper": 6014.926458333333, "er_mean": 5949.875, "failure_count": 0, "mean_delta": 42.86666666666667, "missing_count": 0, "native_ci_lower": 5837.822916666666, "native_ci_upper": 5974.8256249999995, "native_mean": 5907.008333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.044444444444444446, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.044444444444444446, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -43.50729166666653, "ci_upper": 132.43416666666664, "delta_ci_lower": -43.50729166666653, "delta_ci_upper": 132.43416666666664, "er_ci_lower": 5523.666041666667, "er_ci_upper": 5649.45625, "er_mean": 5586.658333333334, "failure_count": 0, "mean_delta": 43.31666666666667, "missing_count": 0, "native_ci_lower": 5478.996666666667, "native_ci_upper": 5606.9974999999995, "native_mean": 5543.341666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.14444444444444443, "ci_upper": 0.011111111111111112, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.011111111111111112, "er_ci_lower": 0.6, "er_ci_upper": 0.7555555555555555, "er_mean": 0.6777777777777778, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.6666666666666666, "native_ci_upper": 0.8222222222222222, "native_mean": 0.7444444444444445, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.1527777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1527777777777778, "er_ci_lower": 0.3027777777777777, "er_ci_upper": 0.49444444444444446, "er_mean": 0.3972222222222222, "failure_count": 0, "mean_delta": 0.075, "missing_count": 30, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.34444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444444, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.34444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444444, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.34444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444444, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.34444444444444444, "er_ci_upper": 0.5444444444444444, "er_mean": 0.4444444444444444, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.24444444444444444, "native_ci_upper": 0.43333333333333335, "native_mean": 0.3333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1328.5834135999662, "ci_upper": 1938.402243338302, "delta_ci_lower": 1328.5834135999662, "delta_ci_upper": 1938.402243338302, "er_ci_lower": 6293.856961385027, "er_ci_upper": 7027.167155987457, "er_mean": 6635.978331246103, "failure_count": 0, "mean_delta": 1606.2203978556984, "missing_count": 0, "native_ci_lower": 4878.834973289341, "native_ci_upper": 5212.434231100851, "native_mean": 5029.757933390404, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.004629629629629629, "ci_upper": 0.08703703703703704, "delta_ci_lower": -0.004629629629629629, "delta_ci_upper": 0.08703703703703704, "er_ci_lower": 0.14722222222222223, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148148, "native_ci_upper": 0.20648148148148146, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.004629629629629629, "ci_upper": 0.08703703703703704, "delta_ci_lower": -0.004629629629629629, "delta_ci_upper": 0.08703703703703704, "er_ci_lower": 0.14722222222222223, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148148, "native_ci_upper": 0.20648148148148146, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.004629629629629629, "ci_upper": 0.08703703703703704, "delta_ci_lower": -0.004629629629629629, "delta_ci_upper": 0.08703703703703704, "er_ci_lower": 0.14722222222222223, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148148, "native_ci_upper": 0.20648148148148146, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.004629629629629629, "ci_upper": 0.08703703703703704, "delta_ci_lower": -0.004629629629629629, "delta_ci_upper": 0.08703703703703704, "er_ci_lower": 0.14722222222222223, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19537037037037036, "failure_count": 0, "mean_delta": 0.04074074074074074, "missing_count": 30, "native_ci_lower": 0.10648148148148148, "native_ci_upper": 0.20648148148148146, "native_mean": 0.15462962962962962, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.0036036036036036032, "ci_upper": 0.11981981981981983, "delta_ci_lower": -0.0036036036036036032, "delta_ci_upper": 0.11981981981981983, "er_ci_lower": 0.1, "er_ci_upper": 0.23232323232323232, "er_mean": 0.16565656565656564, "failure_count": 0, "mean_delta": 0.05435435435435436, "missing_count": 30, "native_ci_lower": 0.05574665574665574, "native_ci_upper": 0.17575757575757575, "native_mean": 0.1113022113022113, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "paired_question_count": 120, "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_0d6955c37af628650e9654ec", "builder_key": "qwen3_1_7b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.025, "delta_ci_lower": -0.075, "delta_ci_upper": 0.025, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.375, "er_mean": 0.3083333333333333, "failure_count": 0, "mean_delta": -0.025, "missing_count": 0, "native_ci_lower": 0.275, "native_ci_upper": 0.39166666666666666, "native_mean": 0.3333333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1900.787619530893, "ci_upper": 3542.4322626054345, "delta_ci_lower": 1900.787619530893, "delta_ci_upper": 3542.4322626054345, "er_ci_lower": 42790.66657114755, "er_ci_upper": 43931.669892758655, "er_mean": 43360.47619063174, "failure_count": 0, "mean_delta": 2734.541757953896, "missing_count": 0, "native_ci_lower": 40114.55450774127, "native_ci_upper": 41157.19296042894, "native_mean": 40625.934432677845, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 185.34916666666666, "ci_upper": 401.76708333333335, "delta_ci_lower": 185.34916666666666, "delta_ci_upper": 401.76708333333335, "er_ci_lower": 5986.516041666667, "er_ci_upper": 6118.017083333333, "er_mean": 6053.650000000001, "failure_count": 0, "mean_delta": 294.8666666666667, "missing_count": 0, "native_ci_lower": 5686.406249999999, "native_ci_upper": 5833.843958333333, "native_mean": 5758.783333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 173.04833333333335, "ci_upper": 373.35854166666667, "delta_ci_lower": 173.04833333333335, "delta_ci_upper": 373.35854166666667, "er_ci_lower": 5623.323125, "er_ci_upper": 5745.284791666666, "er_mean": 5685.775, "failure_count": 0, "mean_delta": 274.7583333333333, "missing_count": 0, "native_ci_lower": 5345.249374999999, "native_ci_upper": 5479.368541666667, "native_mean": 5411.016666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.7444444444444445, "er_mean": 0.6555555555555556, "failure_count": 0, "mean_delta": -0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666666, "native_mean": 0.6777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333336, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333336, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333336, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333336, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444446, "er_ci_upper": 0.4444444444444444, "er_mean": 0.3444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222223, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444446, "er_ci_upper": 0.4444444444444444, "er_mean": 0.3444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222223, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444446, "er_ci_upper": 0.4444444444444444, "er_mean": 0.3444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222223, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444446, "er_ci_upper": 0.4444444444444444, "er_mean": 0.3444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222223, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 90.51938459788896, "ci_upper": 205.52169115386877, "delta_ci_lower": 90.51938459788896, "delta_ci_upper": 205.52169115386877, "er_ci_lower": 5049.749905925468, "er_ci_upper": 5401.179799245825, "er_mean": 5213.8608486119965, "failure_count": 0, "mean_delta": 144.46923432115, "missing_count": 0, "native_ci_lower": 4917.346555884263, "native_ci_upper": 5247.851323856739, "native_mean": 5069.391614290847, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.2074074074074074, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.2074074074074074, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.2074074074074074, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.2074074074074074, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.037020770770770775, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.037020770770770775, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.11481481481481481, "er_ci_upper": 0.254320987654321, "er_mean": 0.18209876543209877, "failure_count": 0, "mean_delta": 0.022001488668155333, "missing_count": 30, "native_ci_lower": 0.09377711044377711, "native_ci_upper": 0.2290020148353481, "native_mean": 0.16009727676394342, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.7333333333333333, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.025, "delta_ci_lower": -0.075, "delta_ci_upper": 0.025, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.375, "er_mean": 0.30833333333333335, "failure_count": 0, "mean_delta": -0.025, "missing_count": 0, "native_ci_lower": 0.275, "native_ci_upper": 0.39166666666666666, "native_mean": 0.3333333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1900.787619530893, "ci_upper": 3542.4322626054345, "delta_ci_lower": 1900.787619530893, "delta_ci_upper": 3542.4322626054345, "er_ci_lower": 42790.66657114755, "er_ci_upper": 43931.669892758655, "er_mean": 43360.47619063174, "failure_count": 0, "mean_delta": 2734.5417579538966, "missing_count": 0, "native_ci_lower": 40114.55450774127, "native_ci_upper": 41157.19296042895, "native_mean": 40625.934432677845, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 185.34916666666666, "ci_upper": 401.76708333333335, "delta_ci_lower": 185.34916666666666, "delta_ci_upper": 401.76708333333335, "er_ci_lower": 5986.516041666667, "er_ci_upper": 6118.017083333333, "er_mean": 6053.65, "failure_count": 0, "mean_delta": 294.8666666666667, "missing_count": 0, "native_ci_lower": 5686.40625, "native_ci_upper": 5833.843958333333, "native_mean": 5758.783333333334, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 173.04833333333335, "ci_upper": 373.35854166666667, "delta_ci_lower": 173.04833333333335, "delta_ci_upper": 373.35854166666667, "er_ci_lower": 5623.323125, "er_ci_upper": 5745.284791666667, "er_mean": 5685.775, "failure_count": 0, "mean_delta": 274.7583333333333, "missing_count": 0, "native_ci_lower": 5345.249374999999, "native_ci_upper": 5479.368541666667, "native_mean": 5411.016666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.7444444444444445, "er_mean": 0.6555555555555556, "failure_count": 0, "mean_delta": -0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666667, "native_mean": 0.6777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444444, "er_ci_upper": 0.4444444444444444, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444444, "er_ci_upper": 0.4444444444444444, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444444, "er_ci_upper": 0.4444444444444444, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444444, "er_ci_upper": 0.4444444444444444, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 90.51938459788896, "ci_upper": 205.5216911538688, "delta_ci_lower": 90.51938459788896, "delta_ci_upper": 205.5216911538688, "er_ci_lower": 5049.749905925468, "er_ci_upper": 5401.179799245825, "er_mean": 5213.8608486119965, "failure_count": 0, "mean_delta": 144.46923432115, "missing_count": 0, "native_ci_lower": 4917.346555884263, "native_ci_upper": 5247.851323856739, "native_mean": 5069.3916142908465, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.20740740740740743, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.20740740740740743, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.20740740740740743, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.20740740740740743, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03702077077077077, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.03702077077077077, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.11481481481481483, "er_ci_upper": 0.254320987654321, "er_mean": 0.18209876543209877, "failure_count": 0, "mean_delta": 0.022001488668155336, "missing_count": 30, "native_ci_lower": 0.09377711044377711, "native_ci_upper": 0.22900201483534807, "native_mean": 0.16009727676394342, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.7333333333333333, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.05752477829942619, "ci_upper": 0.05035211267605634, "delta_ci_lower": -0.05752477829942619, "delta_ci_upper": 0.05035211267605634, "er_ci_lower": 0.17492175273865415, "er_ci_upper": 0.3110602503912363, "er_mean": 0.24094940010432966, "failure_count": 0, "mean_delta": -0.004538341158059468, "missing_count": 0, "native_ci_lower": 0.1832681272822118, "native_ci_upper": 0.3110221048513302, "native_mean": 0.24548774126238915, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 2194.232515885334, "ci_upper": 3973.4560583070243, "delta_ci_lower": 2194.232515885334, "delta_ci_upper": 3973.4560583070243, "er_ci_lower": 43035.94260031087, "er_ci_upper": 44303.54050006651, "er_mean": 43669.74010271362, "failure_count": 0, "mean_delta": 3096.241927738875, "missing_count": 0, "native_ci_lower": 40033.802451059986, "native_ci_upper": 41152.62090910808, "native_mean": 40573.498174974746, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 225.70714364893064, "ci_upper": 453.3085762258737, "delta_ci_lower": 225.70714364893064, "delta_ci_upper": 453.3085762258737, "er_ci_lower": 6013.116715571205, "er_ci_upper": 6149.190068140323, "er_mean": 6082.851525821597, "failure_count": 0, "mean_delta": 341.604707876891, "missing_count": 0, "native_ci_lower": 5665.089776017214, "native_ci_upper": 5821.634707876891, "native_mean": 5741.246817944705, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07646711012564669, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07646711012564669, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.03392461197339246, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07646711012564669, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07646711012564669, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.03392461197339246, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07646711012564669, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07646711012564669, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.03392461197339246, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 210.2886049165363, "ci_upper": 417.7730386019822, "delta_ci_lower": 210.2886049165363, "delta_ci_upper": 417.7730386019822, "er_ci_lower": 5649.848562532603, "er_ci_upper": 5773.551257824726, "er_mean": 5713.724660928535, "failure_count": 0, "mean_delta": 316.3074595722483, "missing_count": 0, "native_ci_lower": 5328.097773539384, "native_ci_upper": 5470.805489371413, "native_mean": 5397.417201356286, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12993458980044345, "ci_upper": 0.07646821877309679, "delta_ci_lower": -0.12993458980044345, "delta_ci_upper": 0.07646821877309679, "er_ci_lower": 0.542009238728751, "er_ci_upper": 0.7281744271988174, "er_mean": 0.634530672579453, "failure_count": 0, "mean_delta": -0.028750923872875093, "missing_count": 30, "native_ci_lower": 0.5701844050258683, "native_ci_upper": 0.7540724316334073, "native_mean": 0.6632815964523281, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "er_ci_lower": 0.2405691056910569, "er_ci_upper": 0.4336511456023652, "er_mean": 0.3356688839615669, "failure_count": 0, "mean_delta": 0.11609756097560975, "missing_count": 30, "native_ci_lower": 0.13680635624538065, "native_ci_upper": 0.3069623059866962, "native_mean": 0.2195713229859571, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "er_ci_lower": 0.2405691056910569, "er_ci_upper": 0.4336511456023652, "er_mean": 0.3356688839615669, "failure_count": 0, "mean_delta": 0.11609756097560975, "missing_count": 30, "native_ci_lower": 0.13680635624538065, "native_ci_upper": 0.3069623059866962, "native_mean": 0.2195713229859571, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "er_ci_lower": 0.2405691056910569, "er_ci_upper": 0.4336511456023652, "er_mean": 0.3356688839615669, "failure_count": 0, "mean_delta": 0.11609756097560975, "missing_count": 30, "native_ci_lower": 0.13680635624538065, "native_ci_upper": 0.3069623059866962, "native_mean": 0.2195713229859571, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "er_ci_lower": 0.2405691056910569, "er_ci_upper": 0.4336511456023652, "er_mean": 0.3356688839615669, "failure_count": 0, "mean_delta": 0.11609756097560975, "missing_count": 30, "native_ci_lower": 0.13680635624538065, "native_ci_upper": 0.3069623059866962, "native_mean": 0.2195713229859571, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "er_ci_lower": 0.2523861788617886, "er_ci_upper": 0.45116038433111605, "er_mean": 0.3506134515890614, "failure_count": 0, "mean_delta": 0.12471544715447154, "missing_count": 30, "native_ci_lower": 0.14199556541019956, "native_ci_upper": 0.31442719881744274, "native_mean": 0.22589800443458977, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "er_ci_lower": 0.2523861788617886, "er_ci_upper": 0.45116038433111605, "er_mean": 0.3506134515890614, "failure_count": 0, "mean_delta": 0.12471544715447154, "missing_count": 30, "native_ci_lower": 0.14199556541019956, "native_ci_upper": 0.31442719881744274, "native_mean": 0.22589800443458977, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "er_ci_lower": 0.2523861788617886, "er_ci_upper": 0.45116038433111605, "er_mean": 0.3506134515890614, "failure_count": 0, "mean_delta": 0.12471544715447154, "missing_count": 30, "native_ci_lower": 0.14199556541019956, "native_ci_upper": 0.31442719881744274, "native_mean": 0.22589800443458977, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "er_ci_lower": 0.2523861788617886, "er_ci_upper": 0.45116038433111605, "er_mean": 0.3506134515890614, "failure_count": 0, "mean_delta": 0.12471544715447154, "missing_count": 30, "native_ci_lower": 0.14199556541019956, "native_ci_upper": 0.31442719881744274, "native_mean": 0.22589800443458977, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 80.3940821891981, "ci_upper": 158.78408078772463, "delta_ci_lower": 80.3940821891981, "delta_ci_upper": 158.78408078772463, "er_ci_lower": 5060.469433812903, "er_ci_upper": 5480.046690669164, "er_mean": 5251.104853213845, "failure_count": 0, "mean_delta": 118.2153907728613, "missing_count": 0, "native_ci_lower": 4947.22818745039, "native_ci_upper": 5356.025185420974, "native_mean": 5132.889462440984, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "er_ci_lower": 0.11068927075634391, "er_ci_upper": 0.21035778516876077, "er_mean": 0.1594210396649421, "failure_count": 0, "mean_delta": 0.06859571322985956, "missing_count": 30, "native_ci_lower": 0.05594142645971915, "native_ci_upper": 0.1277809805370781, "native_mean": 0.09082532643508252, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "er_ci_lower": 0.11068927075634391, "er_ci_upper": 0.21035778516876077, "er_mean": 0.1594210396649421, "failure_count": 0, "mean_delta": 0.06859571322985956, "missing_count": 30, "native_ci_lower": 0.05594142645971915, "native_ci_upper": 0.1277809805370781, "native_mean": 0.09082532643508252, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "er_ci_lower": 0.11068927075634391, "er_ci_upper": 0.21035778516876077, "er_mean": 0.1594210396649421, "failure_count": 0, "mean_delta": 0.06859571322985956, "missing_count": 30, "native_ci_lower": 0.05594142645971915, "native_ci_upper": 0.1277809805370781, "native_mean": 0.09082532643508252, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "er_ci_lower": 0.11068927075634391, "er_ci_upper": 0.21035778516876077, "er_mean": 0.1594210396649421, "failure_count": 0, "mean_delta": 0.06859571322985956, "missing_count": 30, "native_ci_lower": 0.05594142645971915, "native_ci_upper": 0.1277809805370781, "native_mean": 0.09082532643508252, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.036956717420132054, "ci_upper": 0.08821907017028968, "delta_ci_lower": -0.036956717420132054, "delta_ci_upper": 0.08821907017028968, "er_ci_lower": 0.12113020448386307, "er_ci_upper": 0.2675289480167529, "er_mean": 0.19197831978319782, "failure_count": 0, "mean_delta": 0.024475821548992277, "missing_count": 30, "native_ci_lower": 0.09946570645351135, "native_ci_upper": 0.238256463780854, "native_mean": 0.16750249823420554, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.7333333333333333, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8666666666666667, "paired_count": 30, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.025, "delta_ci_lower": -0.075, "delta_ci_upper": 0.025, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.375, "er_mean": 0.3083333333333333, "failure_count": 0, "mean_delta": -0.025, "missing_count": 0, "native_ci_lower": 0.275, "native_ci_upper": 0.39166666666666666, "native_mean": 0.3333333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1900.787619530893, "ci_upper": 3542.4322626054345, "delta_ci_lower": 1900.787619530893, "delta_ci_upper": 3542.4322626054345, "er_ci_lower": 42790.66657114755, "er_ci_upper": 43931.669892758655, "er_mean": 43360.47619063174, "failure_count": 0, "mean_delta": 2734.541757953896, "missing_count": 0, "native_ci_lower": 40114.55450774127, "native_ci_upper": 41157.19296042894, "native_mean": 40625.934432677845, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 185.34916666666666, "ci_upper": 401.76708333333335, "delta_ci_lower": 185.34916666666666, "delta_ci_upper": 401.76708333333335, "er_ci_lower": 5986.516041666667, "er_ci_upper": 6118.017083333333, "er_mean": 6053.650000000001, "failure_count": 0, "mean_delta": 294.8666666666667, "missing_count": 0, "native_ci_lower": 5686.406249999999, "native_ci_upper": 5833.843958333333, "native_mean": 5758.783333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 173.04833333333335, "ci_upper": 373.35854166666667, "delta_ci_lower": 173.04833333333335, "delta_ci_upper": 373.35854166666667, "er_ci_lower": 5623.323125, "er_ci_upper": 5745.284791666666, "er_mean": 5685.775, "failure_count": 0, "mean_delta": 274.7583333333333, "missing_count": 0, "native_ci_lower": 5345.249374999999, "native_ci_upper": 5479.368541666667, "native_mean": 5411.016666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.7444444444444445, "er_mean": 0.6555555555555556, "failure_count": 0, "mean_delta": -0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666666, "native_mean": 0.6777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333336, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333336, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333336, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.049999999999999996, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.049999999999999996, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333336, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444446, "er_ci_upper": 0.4444444444444444, "er_mean": 0.3444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222223, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444446, "er_ci_upper": 0.4444444444444444, "er_mean": 0.3444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222223, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444446, "er_ci_upper": 0.4444444444444444, "er_mean": 0.3444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222223, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.05555555555555556, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555556, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444446, "er_ci_upper": 0.4444444444444444, "er_mean": 0.3444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222223, "missing_count": 30, "native_ci_lower": 0.14444444444444446, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 90.51938459788896, "ci_upper": 205.52169115386877, "delta_ci_lower": 90.51938459788896, "delta_ci_upper": 205.52169115386877, "er_ci_lower": 5049.749905925468, "er_ci_upper": 5401.179799245825, "er_mean": 5213.8608486119965, "failure_count": 0, "mean_delta": 144.46923432115, "missing_count": 0, "native_ci_lower": 4917.346555884263, "native_ci_upper": 5247.851323856739, "native_mean": 5069.391614290847, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.2074074074074074, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.2074074074074074, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.2074074074074074, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185186, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185186, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.2074074074074074, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.037020770770770775, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.037020770770770775, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.11481481481481481, "er_ci_upper": 0.254320987654321, "er_mean": 0.18209876543209877, "failure_count": 0, "mean_delta": 0.022001488668155333, "missing_count": 30, "native_ci_lower": 0.09377711044377711, "native_ci_upper": 0.2290020148353481, "native_mean": 0.16009727676394342, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.7333333333333333, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.025, "delta_ci_lower": -0.075, "delta_ci_upper": 0.025, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.375, "er_mean": 0.30833333333333335, "failure_count": 0, "mean_delta": -0.025, "missing_count": 0, "native_ci_lower": 0.275, "native_ci_upper": 0.39166666666666666, "native_mean": 0.3333333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1900.787619530893, "ci_upper": 3542.4322626054345, "delta_ci_lower": 1900.787619530893, "delta_ci_upper": 3542.4322626054345, "er_ci_lower": 42790.66657114755, "er_ci_upper": 43931.669892758655, "er_mean": 43360.47619063174, "failure_count": 0, "mean_delta": 2734.5417579538966, "missing_count": 0, "native_ci_lower": 40114.55450774127, "native_ci_upper": 41157.19296042895, "native_mean": 40625.934432677845, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 185.34916666666666, "ci_upper": 401.76708333333335, "delta_ci_lower": 185.34916666666666, "delta_ci_upper": 401.76708333333335, "er_ci_lower": 5986.516041666667, "er_ci_upper": 6118.017083333333, "er_mean": 6053.65, "failure_count": 0, "mean_delta": 294.8666666666667, "missing_count": 0, "native_ci_lower": 5686.40625, "native_ci_upper": 5833.843958333333, "native_mean": 5758.783333333334, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 173.04833333333335, "ci_upper": 373.35854166666667, "delta_ci_lower": 173.04833333333335, "delta_ci_upper": 373.35854166666667, "er_ci_lower": 5623.323125, "er_ci_upper": 5745.284791666667, "er_mean": 5685.775, "failure_count": 0, "mean_delta": 274.7583333333333, "missing_count": 0, "native_ci_lower": 5345.249374999999, "native_ci_upper": 5479.368541666667, "native_mean": 5411.016666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.7444444444444445, "er_mean": 0.6555555555555556, "failure_count": 0, "mean_delta": -0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666667, "native_mean": 0.6777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444444, "er_ci_upper": 0.4444444444444444, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444444, "er_ci_upper": 0.4444444444444444, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444444, "er_ci_upper": 0.4444444444444444, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444444, "er_ci_upper": 0.4444444444444444, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 90.51938459788896, "ci_upper": 205.5216911538688, "delta_ci_lower": 90.51938459788896, "delta_ci_upper": 205.5216911538688, "er_ci_lower": 5049.749905925468, "er_ci_upper": 5401.179799245825, "er_mean": 5213.8608486119965, "failure_count": 0, "mean_delta": 144.46923432115, "missing_count": 0, "native_ci_lower": 4917.346555884263, "native_ci_upper": 5247.851323856739, "native_mean": 5069.3916142908465, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.20740740740740743, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.20740740740740743, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.20740740740740743, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.20740740740740743, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03702077077077077, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.03702077077077077, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.11481481481481483, "er_ci_upper": 0.254320987654321, "er_mean": 0.18209876543209877, "failure_count": 0, "mean_delta": 0.022001488668155336, "missing_count": 30, "native_ci_lower": 0.09377711044377711, "native_ci_upper": 0.22900201483534807, "native_mean": 0.16009727676394342, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.7333333333333333, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.05752477829942619, "ci_upper": 0.05035211267605634, "delta_ci_lower": -0.05752477829942619, "delta_ci_upper": 0.05035211267605634, "er_ci_lower": 0.17492175273865415, "er_ci_upper": 0.3110602503912363, "er_mean": 0.24094940010432966, "failure_count": 0, "mean_delta": -0.004538341158059468, "missing_count": 0, "native_ci_lower": 0.1832681272822118, "native_ci_upper": 0.3110221048513302, "native_mean": 0.24548774126238915, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 2194.232515885334, "ci_upper": 3973.4560583070243, "delta_ci_lower": 2194.232515885334, "delta_ci_upper": 3973.4560583070243, "er_ci_lower": 43035.94260031087, "er_ci_upper": 44303.54050006651, "er_mean": 43669.74010271362, "failure_count": 0, "mean_delta": 3096.241927738875, "missing_count": 0, "native_ci_lower": 40033.802451059986, "native_ci_upper": 41152.62090910808, "native_mean": 40573.498174974746, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 225.70714364893064, "ci_upper": 453.3085762258737, "delta_ci_lower": 225.70714364893064, "delta_ci_upper": 453.3085762258737, "er_ci_lower": 6013.116715571205, "er_ci_upper": 6149.190068140323, "er_mean": 6082.851525821597, "failure_count": 0, "mean_delta": 341.604707876891, "missing_count": 0, "native_ci_lower": 5665.089776017214, "native_ci_upper": 5821.634707876891, "native_mean": 5741.246817944705, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07646711012564669, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07646711012564669, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.03392461197339246, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07646711012564669, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07646711012564669, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.03392461197339246, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07646711012564669, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07646711012564669, "er_ci_lower": 0.0, "er_ci_upper": 0.07646711012564669, "er_mean": 0.03392461197339246, "failure_count": 0, "mean_delta": 0.03392461197339246, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 210.2886049165363, "ci_upper": 417.7730386019822, "delta_ci_lower": 210.2886049165363, "delta_ci_upper": 417.7730386019822, "er_ci_lower": 5649.848562532603, "er_ci_upper": 5773.551257824726, "er_mean": 5713.724660928535, "failure_count": 0, "mean_delta": 316.3074595722483, "missing_count": 0, "native_ci_lower": 5328.097773539384, "native_ci_upper": 5470.805489371413, "native_mean": 5397.417201356286, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12993458980044345, "ci_upper": 0.07646821877309679, "delta_ci_lower": -0.12993458980044345, "delta_ci_upper": 0.07646821877309679, "er_ci_lower": 0.542009238728751, "er_ci_upper": 0.7281744271988174, "er_mean": 0.634530672579453, "failure_count": 0, "mean_delta": -0.028750923872875093, "missing_count": 30, "native_ci_lower": 0.5701844050258683, "native_ci_upper": 0.7540724316334073, "native_mean": 0.6632815964523281, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "er_ci_lower": 0.2405691056910569, "er_ci_upper": 0.4336511456023652, "er_mean": 0.3356688839615669, "failure_count": 0, "mean_delta": 0.11609756097560975, "missing_count": 30, "native_ci_lower": 0.13680635624538065, "native_ci_upper": 0.3069623059866962, "native_mean": 0.2195713229859571, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "er_ci_lower": 0.2405691056910569, "er_ci_upper": 0.4336511456023652, "er_mean": 0.3356688839615669, "failure_count": 0, "mean_delta": 0.11609756097560975, "missing_count": 30, "native_ci_lower": 0.13680635624538065, "native_ci_upper": 0.3069623059866962, "native_mean": 0.2195713229859571, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "er_ci_lower": 0.2405691056910569, "er_ci_upper": 0.4336511456023652, "er_mean": 0.3356688839615669, "failure_count": 0, "mean_delta": 0.11609756097560975, "missing_count": 30, "native_ci_lower": 0.13680635624538065, "native_ci_upper": 0.3069623059866962, "native_mean": 0.2195713229859571, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05373983739837398, "ci_upper": 0.18739781966001468, "delta_ci_lower": 0.05373983739837398, "delta_ci_upper": 0.18739781966001468, "er_ci_lower": 0.2405691056910569, "er_ci_upper": 0.4336511456023652, "er_mean": 0.3356688839615669, "failure_count": 0, "mean_delta": 0.11609756097560975, "missing_count": 30, "native_ci_lower": 0.13680635624538065, "native_ci_upper": 0.3069623059866962, "native_mean": 0.2195713229859571, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "er_ci_lower": 0.2523861788617886, "er_ci_upper": 0.45116038433111605, "er_mean": 0.3506134515890614, "failure_count": 0, "mean_delta": 0.12471544715447154, "missing_count": 30, "native_ci_lower": 0.14199556541019956, "native_ci_upper": 0.31442719881744274, "native_mean": 0.22589800443458977, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "er_ci_lower": 0.2523861788617886, "er_ci_upper": 0.45116038433111605, "er_mean": 0.3506134515890614, "failure_count": 0, "mean_delta": 0.12471544715447154, "missing_count": 30, "native_ci_lower": 0.14199556541019956, "native_ci_upper": 0.31442719881744274, "native_mean": 0.22589800443458977, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "er_ci_lower": 0.2523861788617886, "er_ci_upper": 0.45116038433111605, "er_mean": 0.3506134515890614, "failure_count": 0, "mean_delta": 0.12471544715447154, "missing_count": 30, "native_ci_lower": 0.14199556541019956, "native_ci_upper": 0.31442719881744274, "native_mean": 0.22589800443458977, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.058640059127864005, "ci_upper": 0.19827050997782705, "delta_ci_lower": 0.058640059127864005, "delta_ci_upper": 0.19827050997782705, "er_ci_lower": 0.2523861788617886, "er_ci_upper": 0.45116038433111605, "er_mean": 0.3506134515890614, "failure_count": 0, "mean_delta": 0.12471544715447154, "missing_count": 30, "native_ci_lower": 0.14199556541019956, "native_ci_upper": 0.31442719881744274, "native_mean": 0.22589800443458977, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 80.3940821891981, "ci_upper": 158.78408078772463, "delta_ci_lower": 80.3940821891981, "delta_ci_upper": 158.78408078772463, "er_ci_lower": 5060.469433812903, "er_ci_upper": 5480.046690669164, "er_mean": 5251.104853213845, "failure_count": 0, "mean_delta": 118.2153907728613, "missing_count": 0, "native_ci_lower": 4947.22818745039, "native_ci_upper": 5356.025185420974, "native_mean": 5132.889462440984, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "er_ci_lower": 0.11068927075634391, "er_ci_upper": 0.21035778516876077, "er_mean": 0.1594210396649421, "failure_count": 0, "mean_delta": 0.06859571322985956, "missing_count": 30, "native_ci_lower": 0.05594142645971915, "native_ci_upper": 0.1277809805370781, "native_mean": 0.09082532643508252, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "er_ci_lower": 0.11068927075634391, "er_ci_upper": 0.21035778516876077, "er_mean": 0.1594210396649421, "failure_count": 0, "mean_delta": 0.06859571322985956, "missing_count": 30, "native_ci_lower": 0.05594142645971915, "native_ci_upper": 0.1277809805370781, "native_mean": 0.09082532643508252, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "er_ci_lower": 0.11068927075634391, "er_ci_upper": 0.21035778516876077, "er_mean": 0.1594210396649421, "failure_count": 0, "mean_delta": 0.06859571322985956, "missing_count": 30, "native_ci_lower": 0.05594142645971915, "native_ci_upper": 0.1277809805370781, "native_mean": 0.09082532643508252, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03739972899728998, "ci_upper": 0.10298897511702389, "delta_ci_lower": 0.03739972899728998, "delta_ci_upper": 0.10298897511702389, "er_ci_lower": 0.11068927075634391, "er_ci_upper": 0.21035778516876077, "er_mean": 0.1594210396649421, "failure_count": 0, "mean_delta": 0.06859571322985956, "missing_count": 30, "native_ci_lower": 0.05594142645971915, "native_ci_upper": 0.1277809805370781, "native_mean": 0.09082532643508252, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.036956717420132054, "ci_upper": 0.08821907017028968, "delta_ci_lower": -0.036956717420132054, "delta_ci_upper": 0.08821907017028968, "er_ci_lower": 0.12113020448386307, "er_ci_upper": 0.2675289480167529, "er_mean": 0.19197831978319782, "failure_count": 0, "mean_delta": 0.024475821548992277, "missing_count": 30, "native_ci_lower": 0.09946570645351135, "native_ci_upper": 0.238256463780854, "native_mean": 0.16750249823420554, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.7333333333333333, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8666666666666667, "paired_count": 30, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1857.5614477547554, "ci_upper": 5208.0133687475845, "delta_ci_lower": 1857.5614477547554, "delta_ci_upper": 5208.0133687475845, "er_ci_lower": 43282.054651918785, "er_ci_upper": 45500.829067821614, "er_mean": 44412.929884747915, "failure_count": 0, "mean_delta": 3589.6951458921344, "missing_count": 0, "native_ci_lower": 39668.53502374278, "native_ci_upper": 42071.530374389746, "native_mean": 40823.234738855776, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 175.26333333333338, "ci_upper": 637.6674999999999, "delta_ci_lower": 175.26333333333338, "delta_ci_upper": 637.6674999999999, "er_ci_lower": 6026.864166666666, "er_ci_upper": 6277.805833333334, "er_mean": 6157.666666666667, "failure_count": 0, "mean_delta": 418.1333333333333, "missing_count": 0, "native_ci_lower": 5581.147500000001, "native_ci_upper": 5911.6675000000005, "native_mean": 5739.533333333334, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 160.69750000000002, "ci_upper": 575.8333333333334, "delta_ci_lower": 160.69750000000002, "delta_ci_upper": 575.8333333333334, "er_ci_lower": 5659.161666666667, "er_ci_upper": 5881.934166666667, "er_mean": 5775.633333333333, "failure_count": 0, "mean_delta": 378.93333333333334, "missing_count": 0, "native_ci_lower": 5250.5325, "native_ci_upper": 5556.5025, "native_mean": 5396.7, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.26666666666666666, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.25, "er_ci_upper": 0.6, "er_mean": 0.4166666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.45, "native_mean": 0.2833333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.25, "er_ci_upper": 0.6, "er_mean": 0.4166666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.45, "native_mean": 0.2833333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.25, "er_ci_upper": 0.6, "er_mean": 0.4166666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.45, "native_mean": 0.2833333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.25, "er_ci_upper": 0.6, "er_mean": 0.4166666666666667, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.45, "native_mean": 0.2833333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 9.44706579291963, "ci_upper": 114.47938712430187, "delta_ci_lower": 9.44706579291963, "delta_ci_upper": 114.47938712430187, "er_ci_lower": 4747.495565184121, "er_ci_upper": 5285.727539147677, "er_mean": 5012.988293147646, "failure_count": 0, "mean_delta": 60.94582514682164, "missing_count": 0, "native_ci_lower": 4683.1333559660325, "native_ci_upper": 5230.245975498983, "native_mean": 4952.042468000825, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.12777777777777777, "er_ci_upper": 0.33888888888888885, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.09444444444444446, "missing_count": 0, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.2111111111111111, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.12777777777777777, "er_ci_upper": 0.33888888888888885, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.09444444444444446, "missing_count": 0, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.2111111111111111, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.12777777777777777, "er_ci_upper": 0.33888888888888885, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.09444444444444446, "missing_count": 0, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.2111111111111111, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.12777777777777777, "er_ci_upper": 0.33888888888888885, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.09444444444444446, "missing_count": 0, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.2111111111111111, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "inference": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1741.8566869473823, "ci_upper": 5370.3396821262595, "delta_ci_lower": 1741.8566869473823, "delta_ci_upper": 5370.3396821262595, "er_ci_lower": 42428.65906303127, "er_ci_upper": 45217.58935977084, "er_mean": 43806.05925416263, "failure_count": 0, "mean_delta": 3561.0419597593136, "missing_count": 0, "native_ci_lower": 39415.31185803537, "native_ci_upper": 41102.85247646272, "native_mean": 40245.01729440332, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 150.69583333333335, "ci_upper": 543.4683333333332, "delta_ci_lower": 150.69583333333335, "delta_ci_upper": 543.4683333333332, "er_ci_lower": 5930.030000000001, "er_ci_upper": 6197.5375, "er_mean": 6069.3, "failure_count": 0, "mean_delta": 353.03333333333336, "missing_count": 0, "native_ci_lower": 5594.599166666667, "native_ci_upper": 5843.6375, "native_mean": 5716.266666666666, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 135.59833333333333, "ci_upper": 501.90333333333325, "delta_ci_lower": 135.59833333333333, "delta_ci_upper": 501.90333333333325, "er_ci_lower": 5584.323333333333, "er_ci_upper": 5832.435833333334, "er_mean": 5713.166666666667, "failure_count": 0, "mean_delta": 324.76666666666665, "missing_count": 0, "native_ci_lower": 5278.733333333334, "native_ci_upper": 5504.436666666667, "native_mean": 5388.4, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.26666666666666666, "native_ci_upper": 0.6, "native_mean": 0.43333333333333335, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 76.90032797516326, "ci_upper": 229.92617652266432, "delta_ci_lower": 76.90032797516326, "delta_ci_upper": 229.92617652266432, "er_ci_lower": 4756.9399715071395, "er_ci_upper": 5870.283629517459, "er_mean": 5236.3778194024535, "failure_count": 0, "mean_delta": 147.36630130015934, "missing_count": 0, "native_ci_lower": 4619.569706495192, "native_ci_upper": 5700.166928987019, "native_mean": 5089.011518102295, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.008333333333333333, "ci_upper": 0.07777777777777777, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.07777777777777777, "er_ci_lower": 0.04444444444444444, "er_ci_upper": 0.15, "er_mean": 0.09444444444444443, "failure_count": 0, "mean_delta": 0.03888888888888888, "missing_count": 0, "native_ci_lower": 0.016666666666666666, "native_ci_upper": 0.10555555555555556, "native_mean": 0.05555555555555555, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.008333333333333333, "ci_upper": 0.07777777777777777, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.07777777777777777, "er_ci_lower": 0.04444444444444444, "er_ci_upper": 0.15, "er_mean": 0.09444444444444443, "failure_count": 0, "mean_delta": 0.03888888888888888, "missing_count": 0, "native_ci_lower": 0.016666666666666666, "native_ci_upper": 0.10555555555555556, "native_mean": 0.05555555555555555, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.008333333333333333, "ci_upper": 0.07777777777777777, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.07777777777777777, "er_ci_lower": 0.04444444444444444, "er_ci_upper": 0.15, "er_mean": 0.09444444444444443, "failure_count": 0, "mean_delta": 0.03888888888888888, "missing_count": 0, "native_ci_lower": 0.016666666666666666, "native_ci_upper": 0.10555555555555556, "native_mean": 0.05555555555555555, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.008333333333333333, "ci_upper": 0.07777777777777777, "delta_ci_lower": 0.008333333333333333, "delta_ci_upper": 0.07777777777777777, "er_ci_lower": 0.04444444444444444, "er_ci_upper": 0.15, "er_mean": 0.09444444444444443, "failure_count": 0, "mean_delta": 0.03888888888888888, "missing_count": 0, "native_ci_lower": 0.016666666666666666, "native_ci_upper": 0.10555555555555556, "native_mean": 0.05555555555555555, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.07468622468622468, "ci_upper": 0.14378224378224377, "delta_ci_lower": -0.07468622468622468, "delta_ci_upper": 0.14378224378224377, "er_ci_lower": 0.25, "er_ci_upper": 0.5851851851851853, "er_mean": 0.412962962962963, "failure_count": 0, "mean_delta": 0.03267113267113267, "missing_count": 0, "native_ci_lower": 0.21362516362516362, "native_ci_upper": 0.5505943443443438, "native_mean": 0.3802918302918303, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "temporal": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1265.8385163901646, "ci_upper": 4257.645789547338, "delta_ci_lower": 1265.8385163901646, "delta_ci_upper": 4257.645789547338, "er_ci_lower": 42352.697141219396, "er_ci_upper": 44228.258401425555, "er_mean": 43278.531088959426, "failure_count": 0, "mean_delta": 2820.5272180067063, "missing_count": 0, "native_ci_lower": 39383.45389581324, "native_ci_upper": 41581.94373294944, "native_mean": 40458.00387095272, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 166.76416666666668, "ci_upper": 563.9008333333333, "delta_ci_lower": 166.76416666666668, "delta_ci_upper": 563.9008333333333, "er_ci_lower": 5967.7300000000005, "er_ci_upper": 6197.339166666667, "er_mean": 6085.033333333334, "failure_count": 0, "mean_delta": 369.6666666666667, "missing_count": 0, "native_ci_lower": 5576.694166666666, "native_ci_upper": 5862.768333333333, "native_mean": 5715.366666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 166.0616666666667, "ci_upper": 535.8399999999999, "delta_ci_lower": 166.0616666666667, "delta_ci_upper": 535.8399999999999, "er_ci_lower": 5601.365, "er_ci_upper": 5817.601666666667, "er_mean": 5712.233333333334, "failure_count": 0, "mean_delta": 355.0, "missing_count": 0, "native_ci_lower": 5232.726666666667, "native_ci_upper": 5492.1, "native_mean": 5357.233333333334, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.7, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4166666666666667, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4166666666666667, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4166666666666667, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0, "ci_upper": 0.15, "delta_ci_lower": 0.0, "delta_ci_upper": 0.15, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4166666666666667, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 40.07153716559211, "ci_upper": 89.96221388340928, "delta_ci_lower": 40.07153716559211, "delta_ci_upper": 89.96221388340928, "er_ci_lower": 5676.444195982574, "er_ci_upper": 6141.343779049736, "er_mean": 5905.64703332105, "failure_count": 0, "mean_delta": 65.59929988191773, "missing_count": 0, "native_ci_lower": 5603.519684918574, "native_ci_upper": 6085.2231281836675, "native_mean": 5840.047733439133, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.016666666666666666, "ci_upper": 0.1388888888888889, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.1388888888888889, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.24444444444444444, "er_mean": 0.15, "failure_count": 0, "mean_delta": 0.07222222222222222, "missing_count": 0, "native_ci_lower": 0.02222222222222222, "native_ci_upper": 0.13888888888888887, "native_mean": 0.07777777777777777, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.1388888888888889, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.1388888888888889, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.24444444444444444, "er_mean": 0.15, "failure_count": 0, "mean_delta": 0.07222222222222222, "missing_count": 0, "native_ci_lower": 0.02222222222222222, "native_ci_upper": 0.13888888888888887, "native_mean": 0.07777777777777777, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.1388888888888889, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.1388888888888889, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.24444444444444444, "er_mean": 0.15, "failure_count": 0, "mean_delta": 0.07222222222222222, "missing_count": 0, "native_ci_lower": 0.02222222222222222, "native_ci_upper": 0.13888888888888887, "native_mean": 0.07777777777777777, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.1388888888888889, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.1388888888888889, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.24444444444444444, "er_mean": 0.15, "failure_count": 0, "mean_delta": 0.07222222222222222, "missing_count": 0, "native_ci_lower": 0.02222222222222222, "native_ci_upper": 0.13888888888888887, "native_mean": 0.07777777777777777, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "unanswerable": { "answer_correct": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.7333333333333333, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -558.4687962382062, "ci_upper": 2505.0431874713586, "delta_ci_lower": -558.4687962382062, "delta_ci_upper": 2505.0431874713586, "er_ci_lower": 40822.84498414704, "er_ci_upper": 43039.02252009759, "er_mean": 41944.384534657, "failure_count": 0, "mean_delta": 966.9027081574313, "missing_count": 0, "native_ci_lower": 40002.20094030946, "native_ci_upper": 42007.73703508428, "native_mean": 40977.48182649957, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -179.60249999999996, "ci_upper": 256.1016666666667, "delta_ci_lower": -179.60249999999996, "delta_ci_upper": 256.1016666666667, "er_ci_lower": 5752.461666666666, "er_ci_upper": 6046.108333333334, "er_mean": 5902.6, "failure_count": 0, "mean_delta": 38.63333333333333, "missing_count": 0, "native_ci_lower": 5716.598333333333, "native_ci_upper": 6016.8675, "native_mean": 5863.966666666666, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "context_token_count": { "ci_lower": -170.2166666666665, "ci_upper": 251.73833333333326, "delta_ci_lower": -170.2166666666665, "delta_ci_upper": 251.73833333333326, "er_ci_lower": 5400.864166666666, "er_ci_upper": 5679.668333333334, "er_mean": 5542.066666666667, "failure_count": 0, "mean_delta": 40.333333333333336, "missing_count": 0, "native_ci_lower": 5370.031666666667, "native_ci_upper": 5638.468333333333, "native_mean": 5501.733333333334, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_latency_ms": { "ci_lower": 114.78302313616345, "ci_upper": 526.8522783231068, "delta_ci_lower": 114.78302313616345, "delta_ci_upper": 526.8522783231068, "er_ci_lower": 4471.757035663662, "er_ci_upper": 4955.021336028779, "er_mean": 4700.430248576838, "failure_count": 0, "mean_delta": 303.9655109557013, "missing_count": 0, "native_ci_lower": 4255.061173800204, "native_ci_upper": 4529.883689318085, "native_mean": 4396.464737621136, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.7333333333333333, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8666666666666667, "paired_count": 30, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.025, "delta_ci_lower": -0.075, "delta_ci_upper": 0.025, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.375, "er_mean": 0.30833333333333335, "failure_count": 0, "mean_delta": -0.025, "missing_count": 0, "native_ci_lower": 0.275, "native_ci_upper": 0.39166666666666666, "native_mean": 0.3333333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1900.787619530893, "ci_upper": 3542.4322626054345, "delta_ci_lower": 1900.787619530893, "delta_ci_upper": 3542.4322626054345, "er_ci_lower": 42790.66657114755, "er_ci_upper": 43931.669892758655, "er_mean": 43360.47619063174, "failure_count": 0, "mean_delta": 2734.5417579538966, "missing_count": 0, "native_ci_lower": 40114.55450774127, "native_ci_upper": 41157.19296042895, "native_mean": 40625.934432677845, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 185.34916666666666, "ci_upper": 401.76708333333335, "delta_ci_lower": 185.34916666666666, "delta_ci_upper": 401.76708333333335, "er_ci_lower": 5986.516041666667, "er_ci_upper": 6118.017083333333, "er_mean": 6053.65, "failure_count": 0, "mean_delta": 294.8666666666667, "missing_count": 0, "native_ci_lower": 5686.40625, "native_ci_upper": 5833.843958333333, "native_mean": 5758.783333333334, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.07777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 173.04833333333335, "ci_upper": 373.35854166666667, "delta_ci_lower": 173.04833333333335, "delta_ci_upper": 373.35854166666667, "er_ci_lower": 5623.323125, "er_ci_upper": 5745.284791666667, "er_mean": 5685.775, "failure_count": 0, "mean_delta": 274.7583333333333, "missing_count": 0, "native_ci_lower": 5345.249374999999, "native_ci_upper": 5479.368541666667, "native_mean": 5411.016666666666, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.7444444444444445, "er_mean": 0.6555555555555556, "failure_count": 0, "mean_delta": -0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666667, "native_mean": 0.6777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.05, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.05, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.4222222222222222, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.3, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444444, "er_ci_upper": 0.4444444444444444, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444444, "er_ci_upper": 0.4444444444444444, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444444, "er_ci_upper": 0.4444444444444444, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.05555555555555555, "ci_upper": 0.18888888888888888, "delta_ci_lower": 0.05555555555555555, "delta_ci_upper": 0.18888888888888888, "er_ci_lower": 0.24444444444444444, "er_ci_upper": 0.4444444444444444, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.12222222222222222, "missing_count": 30, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3111111111111111, "native_mean": 0.2222222222222222, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 90.51938459788896, "ci_upper": 205.5216911538688, "delta_ci_lower": 90.51938459788896, "delta_ci_upper": 205.5216911538688, "er_ci_lower": 5049.749905925468, "er_ci_upper": 5401.179799245825, "er_mean": 5213.8608486119965, "failure_count": 0, "mean_delta": 144.46923432115, "missing_count": 0, "native_ci_lower": 4917.346555884263, "native_ci_upper": 5247.851323856739, "native_mean": 5069.3916142908465, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.20740740740740743, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.20740740740740743, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.20740740740740743, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.03796296296296296, "ci_upper": 0.10185185185185185, "delta_ci_lower": 0.03796296296296296, "delta_ci_upper": 0.10185185185185185, "er_ci_lower": 0.10925925925925926, "er_ci_upper": 0.20740740740740743, "er_mean": 0.1574074074074074, "failure_count": 0, "mean_delta": 0.06851851851851852, "missing_count": 30, "native_ci_lower": 0.05462962962962963, "native_ci_upper": 0.12407407407407407, "native_mean": 0.08888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03702077077077077, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.03702077077077077, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.11481481481481483, "er_ci_upper": 0.254320987654321, "er_mean": 0.18209876543209877, "failure_count": 0, "mean_delta": 0.022001488668155336, "missing_count": 30, "native_ci_lower": 0.09377711044377711, "native_ci_upper": 0.22900201483534807, "native_mean": 0.16009727676394342, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": -0.13333333333333333, "missing_count": 90, "native_ci_lower": 0.7333333333333333, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "paired_question_count": 120, "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_97ba3cce02889beea444bd79", "builder_key": "qwen3_4b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.075, "delta_ci_lower": -0.025, "delta_ci_upper": 0.075, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.38333333333333336, "er_mean": 0.325, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.24166666666666664, "native_ci_upper": 0.35833333333333334, "native_mean": 0.3, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -40.18840903421123, "ci_upper": 1468.3982314057357, "delta_ci_lower": -40.18840903421123, "delta_ci_upper": 1468.3982314057357, "er_ci_lower": 40156.11003673689, "er_ci_upper": 41293.1477564439, "er_mean": 40715.59547289896, "failure_count": 0, "mean_delta": 707.8562823269749, "missing_count": 0, "native_ci_lower": 39515.54894392876, "native_ci_upper": 40509.60972990188, "native_mean": 40007.73919057198, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -83.2133333333333, "ci_upper": 130.78229166666657, "delta_ci_lower": -83.2133333333333, "delta_ci_upper": 130.78229166666657, "er_ci_lower": 5677.638541666666, "er_ci_upper": 5837.2525, "er_mean": 5755.325, "failure_count": 0, "mean_delta": 22.749999999999996, "missing_count": 0, "native_ci_lower": 5664.9, "native_ci_upper": 5802.320625, "native_mean": 5732.575, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -89.6452083333333, "ci_upper": 115.27729166666664, "delta_ci_lower": -89.6452083333333, "delta_ci_upper": 115.27729166666664, "er_ci_lower": 5383.124791666666, "er_ci_upper": 5532.858333333334, "er_mean": 5455.441666666667, "failure_count": 0, "mean_delta": 12.058333333333328, "missing_count": 0, "native_ci_lower": 5379.058125, "native_ci_upper": 5510.383541666666, "native_mean": 5443.383333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.0, "delta_ci_lower": -0.2, "delta_ci_upper": 0.0, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.6111111111111112, "er_ci_upper": 0.7666666666666666, "er_mean": 0.688888888888889, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7444444444444445, "native_mean": 0.6666666666666666, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.005555555555555559, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.005555555555555559, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444446, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.005555555555555559, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.005555555555555559, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444446, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.005555555555555559, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.005555555555555559, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444446, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.005555555555555559, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.005555555555555559, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444446, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.011111111111111108, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.011111111111111108, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.011111111111111108, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.011111111111111108, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 447.48428649172035, "ci_upper": 745.0844326044897, "delta_ci_lower": 447.48428649172035, "delta_ci_upper": 745.0844326044897, "er_ci_lower": 5351.2371790623, "er_ci_upper": 5895.427547897803, "er_mean": 5587.285278782171, "failure_count": 0, "mean_delta": 583.1776239550285, "missing_count": 0, "native_ci_lower": 4852.984939795594, "native_ci_upper": 5184.0880133946, "native_mean": 5004.107654827143, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148147, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148147, "er_ci_lower": 0.07685185185185184, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444442, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.05462962962962962, "native_ci_upper": 0.14166666666666666, "native_mean": 0.09629629629629628, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148147, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148147, "er_ci_lower": 0.07685185185185184, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444442, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.05462962962962962, "native_ci_upper": 0.14166666666666666, "native_mean": 0.09629629629629628, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148147, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148147, "er_ci_lower": 0.07685185185185184, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444442, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.05462962962962962, "native_ci_upper": 0.14166666666666666, "native_mean": 0.09629629629629628, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148147, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148147, "er_ci_lower": 0.07685185185185184, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444442, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.05462962962962962, "native_ci_upper": 0.14166666666666666, "native_mean": 0.09629629629629628, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06797979797979799, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.06797979797979799, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0909090909090909, "er_ci_upper": 0.21212121212121213, "er_mean": 0.151010101010101, "failure_count": 0, "mean_delta": -0.016397306397306396, "missing_count": 30, "native_ci_lower": 0.10555555555555556, "native_ci_upper": 0.23222222222222222, "native_mean": 0.16740740740740742, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.075, "delta_ci_lower": -0.025, "delta_ci_upper": 0.075, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.38333333333333336, "er_mean": 0.325, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.24166666666666667, "native_ci_upper": 0.35833333333333334, "native_mean": 0.3, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -40.188409034211254, "ci_upper": 1468.3982314057355, "delta_ci_lower": -40.188409034211254, "delta_ci_upper": 1468.3982314057355, "er_ci_lower": 40156.11003673689, "er_ci_upper": 41293.1477564439, "er_mean": 40715.59547289895, "failure_count": 0, "mean_delta": 707.8562823269749, "missing_count": 0, "native_ci_lower": 39515.548943928756, "native_ci_upper": 40509.60972990188, "native_mean": 40007.73919057198, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -83.21333333333328, "ci_upper": 130.78229166666657, "delta_ci_lower": -83.21333333333328, "delta_ci_upper": 130.78229166666657, "er_ci_lower": 5677.638541666666, "er_ci_upper": 5837.2525, "er_mean": 5755.325, "failure_count": 0, "mean_delta": 22.75, "missing_count": 0, "native_ci_lower": 5664.9, "native_ci_upper": 5802.320625, "native_mean": 5732.575, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -89.6452083333333, "ci_upper": 115.27729166666664, "delta_ci_lower": -89.6452083333333, "delta_ci_upper": 115.27729166666664, "er_ci_lower": 5383.124791666666, "er_ci_upper": 5532.858333333334, "er_mean": 5455.441666666667, "failure_count": 0, "mean_delta": 12.058333333333334, "missing_count": 0, "native_ci_lower": 5379.058125, "native_ci_upper": 5510.383541666666, "native_mean": 5443.383333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.0, "delta_ci_lower": -0.2, "delta_ci_upper": 0.0, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.6111111111111112, "er_ci_upper": 0.7666666666666667, "er_mean": 0.6888888888888889, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7444444444444445, "native_mean": 0.6666666666666666, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444444, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444444, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444444, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444444, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.011111111111111112, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 447.48428649172035, "ci_upper": 745.0844326044897, "delta_ci_lower": 447.48428649172035, "delta_ci_upper": 745.0844326044897, "er_ci_lower": 5351.237179062301, "er_ci_upper": 5895.427547897803, "er_mean": 5587.285278782171, "failure_count": 0, "mean_delta": 583.1776239550285, "missing_count": 0, "native_ci_lower": 4852.984939795594, "native_ci_upper": 5184.0880133946, "native_mean": 5004.107654827142, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148148, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148148, "er_ci_lower": 0.07685185185185185, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444445, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.054629629629629625, "native_ci_upper": 0.14166666666666666, "native_mean": 0.0962962962962963, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148148, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148148, "er_ci_lower": 0.07685185185185185, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444445, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.054629629629629625, "native_ci_upper": 0.14166666666666666, "native_mean": 0.0962962962962963, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148148, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148148, "er_ci_lower": 0.07685185185185185, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444445, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.054629629629629625, "native_ci_upper": 0.14166666666666666, "native_mean": 0.0962962962962963, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148148, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148148, "er_ci_lower": 0.07685185185185185, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444445, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.054629629629629625, "native_ci_upper": 0.14166666666666666, "native_mean": 0.0962962962962963, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06797979797979797, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.06797979797979797, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.09090909090909091, "er_ci_upper": 0.2121212121212121, "er_mean": 0.151010101010101, "failure_count": 0, "mean_delta": -0.016397306397306396, "missing_count": 30, "native_ci_lower": 0.10555555555555556, "native_ci_upper": 0.23222222222222222, "native_mean": 0.1674074074074074, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.03105112154407929, "ci_upper": 0.06194574856546688, "delta_ci_lower": -0.03105112154407929, "delta_ci_upper": 0.06194574856546688, "er_ci_lower": 0.17934272300469484, "er_ci_upper": 0.29842201356285863, "er_mean": 0.23736306729264478, "failure_count": 0, "mean_delta": 0.014814814814814817, "missing_count": 0, "native_ci_lower": 0.16173708920187796, "native_ci_upper": 0.2857589984350548, "native_mean": 0.22254825247782994, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 171.61391077199005, "ci_upper": 1685.6509591039992, "delta_ci_lower": 171.61391077199005, "delta_ci_upper": 1685.6509591039992, "er_ci_lower": 40289.5433284864, "er_ci_upper": 41514.62958789826, "er_mean": 40888.95643920209, "failure_count": 0, "mean_delta": 923.9819236075565, "missing_count": 0, "native_ci_lower": 39441.92639508198, "native_ci_upper": 40491.945265754934, "native_mean": 39964.974515594535, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -58.019605503390714, "ci_upper": 154.11569835680743, "delta_ci_lower": -58.019605503390714, "delta_ci_upper": 154.11569835680743, "er_ci_lower": 5688.676369653103, "er_ci_upper": 5859.105632824727, "er_mean": 5771.549321857068, "failure_count": 0, "mean_delta": 48.16047209181011, "missing_count": 0, "native_ci_lower": 5652.976890323422, "native_ci_upper": 5795.825114110589, "native_mean": 5723.388849765258, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.06326681448632668, "er_mean": 0.02530672579453067, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.06326681448632668, "er_mean": 0.02530672579453067, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.06326681448632668, "er_mean": 0.02530672579453067, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -66.78712995565988, "ci_upper": 138.64809891757952, "delta_ci_lower": -66.78712995565988, "delta_ci_upper": 138.64809891757952, "er_ci_lower": 5393.430694444444, "er_ci_upper": 5551.287831572769, "er_mean": 5470.213706311945, "failure_count": 0, "mean_delta": 36.20056077203964, "missing_count": 0, "native_ci_lower": 5367.4066712310905, "native_ci_upper": 5502.9684011476265, "native_mean": 5434.013145539906, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.0, "delta_ci_lower": -0.2, "delta_ci_upper": 0.0, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06436067997043593, "ci_upper": 0.10521803399852181, "delta_ci_lower": -0.06436067997043593, "delta_ci_upper": 0.10521803399852181, "er_ci_lower": 0.5862257945306726, "er_ci_upper": 0.7478333333333331, "er_mean": 0.6661936437546193, "failure_count": 0, "mean_delta": 0.021271249076127124, "missing_count": 30, "native_ci_lower": 0.5615099778270511, "native_ci_upper": 0.7293569844789357, "native_mean": 0.6449223946784922, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.01927679231337767, "ci_upper": 0.11605339985218033, "delta_ci_lower": -0.01927679231337767, "delta_ci_upper": 0.11605339985218033, "er_ci_lower": 0.1609035476718404, "er_ci_upper": 0.33396895787139685, "er_mean": 0.24657797487065777, "failure_count": 0, "mean_delta": 0.04653362897265336, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.01927679231337767, "ci_upper": 0.11605339985218033, "delta_ci_lower": -0.01927679231337767, "delta_ci_upper": 0.11605339985218033, "er_ci_lower": 0.1609035476718404, "er_ci_upper": 0.33396895787139685, "er_mean": 0.24657797487065777, "failure_count": 0, "mean_delta": 0.04653362897265336, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.01927679231337767, "ci_upper": 0.11605339985218033, "delta_ci_lower": -0.01927679231337767, "delta_ci_upper": 0.11605339985218033, "er_ci_lower": 0.1609035476718404, "er_ci_upper": 0.33396895787139685, "er_mean": 0.24657797487065777, "failure_count": 0, "mean_delta": 0.04653362897265336, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.01927679231337767, "ci_upper": 0.11605339985218033, "delta_ci_lower": -0.01927679231337767, "delta_ci_upper": 0.11605339985218033, "er_ci_lower": 0.1609035476718404, "er_ci_upper": 0.33396895787139685, "er_mean": 0.24657797487065777, "failure_count": 0, "mean_delta": 0.04653362897265336, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.00467110125646711, "ci_upper": 0.14535107169253508, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.14535107169253508, "er_ci_lower": 0.17753399852180346, "er_ci_upper": 0.35923133776792315, "er_mean": 0.26725794530672575, "failure_count": 0, "mean_delta": 0.06721359940872135, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.00467110125646711, "ci_upper": 0.14535107169253508, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.14535107169253508, "er_ci_lower": 0.17753399852180346, "er_ci_upper": 0.35923133776792315, "er_mean": 0.26725794530672575, "failure_count": 0, "mean_delta": 0.06721359940872135, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.00467110125646711, "ci_upper": 0.14535107169253508, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.14535107169253508, "er_ci_lower": 0.17753399852180346, "er_ci_upper": 0.35923133776792315, "er_mean": 0.26725794530672575, "failure_count": 0, "mean_delta": 0.06721359940872135, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.00467110125646711, "ci_upper": 0.14535107169253508, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.14535107169253508, "er_ci_lower": 0.17753399852180346, "er_ci_upper": 0.35923133776792315, "er_mean": 0.26725794530672575, "failure_count": 0, "mean_delta": 0.06721359940872135, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 477.2958882095749, "ci_upper": 839.3646283103413, "delta_ci_lower": 477.2958882095749, "delta_ci_upper": 839.3646283103413, "er_ci_lower": 5421.4448977921065, "er_ci_upper": 6098.645224342358, "er_mean": 5711.111151838444, "failure_count": 0, "mean_delta": 640.0683514106415, "missing_count": 0, "native_ci_lower": 4886.199878766696, "native_ci_upper": 5296.183866870375, "native_mean": 5071.042800427802, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.01237269031781227, "ci_upper": 0.05256966001478196, "delta_ci_lower": -0.01237269031781227, "delta_ci_upper": 0.05256966001478196, "er_ci_lower": 0.07654465385562947, "er_ci_upper": 0.17104557772850454, "er_mean": 0.1217171717171717, "failure_count": 0, "mean_delta": 0.019290465631929047, "missing_count": 30, "native_ci_lower": 0.05727654594727765, "native_ci_upper": 0.15048373983739835, "native_mean": 0.10242670608524268, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.01237269031781227, "ci_upper": 0.05256966001478196, "delta_ci_lower": -0.01237269031781227, "delta_ci_upper": 0.05256966001478196, "er_ci_lower": 0.07654465385562947, "er_ci_upper": 0.17104557772850454, "er_mean": 0.1217171717171717, "failure_count": 0, "mean_delta": 0.019290465631929047, "missing_count": 30, "native_ci_lower": 0.05727654594727765, "native_ci_upper": 0.15048373983739835, "native_mean": 0.10242670608524268, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.01237269031781227, "ci_upper": 0.05256966001478196, "delta_ci_lower": -0.01237269031781227, "delta_ci_upper": 0.05256966001478196, "er_ci_lower": 0.07654465385562947, "er_ci_upper": 0.17104557772850454, "er_mean": 0.1217171717171717, "failure_count": 0, "mean_delta": 0.019290465631929047, "missing_count": 30, "native_ci_lower": 0.05727654594727765, "native_ci_upper": 0.15048373983739835, "native_mean": 0.10242670608524268, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.01237269031781227, "ci_upper": 0.05256966001478196, "delta_ci_lower": -0.01237269031781227, "delta_ci_upper": 0.05256966001478196, "er_ci_lower": 0.07654465385562947, "er_ci_upper": 0.17104557772850454, "er_mean": 0.1217171717171717, "failure_count": 0, "mean_delta": 0.019290465631929047, "missing_count": 30, "native_ci_lower": 0.05727654594727765, "native_ci_upper": 0.15048373983739835, "native_mean": 0.10242670608524268, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06232399381845058, "ci_upper": 0.032457972183027615, "delta_ci_lower": -0.06232399381845058, "delta_ci_upper": 0.032457972183027615, "er_ci_lower": 0.09759322717194115, "er_ci_upper": 0.22573540280857354, "er_mean": 0.16049049250823086, "failure_count": 0, "mean_delta": -0.014356514143653833, "missing_count": 30, "native_ci_lower": 0.111320029563932, "native_ci_upper": 0.24010347376201033, "native_mean": 0.17484700665188468, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.075, "delta_ci_lower": -0.025, "delta_ci_upper": 0.075, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.38333333333333336, "er_mean": 0.325, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.24166666666666664, "native_ci_upper": 0.35833333333333334, "native_mean": 0.3, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -40.18840903421123, "ci_upper": 1468.3982314057357, "delta_ci_lower": -40.18840903421123, "delta_ci_upper": 1468.3982314057357, "er_ci_lower": 40156.11003673689, "er_ci_upper": 41293.1477564439, "er_mean": 40715.59547289896, "failure_count": 0, "mean_delta": 707.8562823269749, "missing_count": 0, "native_ci_lower": 39515.54894392876, "native_ci_upper": 40509.60972990188, "native_mean": 40007.73919057198, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -83.2133333333333, "ci_upper": 130.78229166666657, "delta_ci_lower": -83.2133333333333, "delta_ci_upper": 130.78229166666657, "er_ci_lower": 5677.638541666666, "er_ci_upper": 5837.2525, "er_mean": 5755.325, "failure_count": 0, "mean_delta": 22.749999999999996, "missing_count": 0, "native_ci_lower": 5664.9, "native_ci_upper": 5802.320625, "native_mean": 5732.575, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -89.6452083333333, "ci_upper": 115.27729166666664, "delta_ci_lower": -89.6452083333333, "delta_ci_upper": 115.27729166666664, "er_ci_lower": 5383.124791666666, "er_ci_upper": 5532.858333333334, "er_mean": 5455.441666666667, "failure_count": 0, "mean_delta": 12.058333333333328, "missing_count": 0, "native_ci_lower": 5379.058125, "native_ci_upper": 5510.383541666666, "native_mean": 5443.383333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.0, "delta_ci_lower": -0.2, "delta_ci_upper": 0.0, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.6111111111111112, "er_ci_upper": 0.7666666666666666, "er_mean": 0.688888888888889, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7444444444444445, "native_mean": 0.6666666666666666, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.005555555555555559, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.005555555555555559, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444446, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.005555555555555559, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.005555555555555559, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444446, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.005555555555555559, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.005555555555555559, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444446, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.005555555555555559, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.005555555555555559, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444446, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.011111111111111108, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.011111111111111108, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.011111111111111108, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.011111111111111108, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111108, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 447.48428649172035, "ci_upper": 745.0844326044897, "delta_ci_lower": 447.48428649172035, "delta_ci_upper": 745.0844326044897, "er_ci_lower": 5351.2371790623, "er_ci_upper": 5895.427547897803, "er_mean": 5587.285278782171, "failure_count": 0, "mean_delta": 583.1776239550285, "missing_count": 0, "native_ci_lower": 4852.984939795594, "native_ci_upper": 5184.0880133946, "native_mean": 5004.107654827143, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148147, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148147, "er_ci_lower": 0.07685185185185184, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444442, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.05462962962962962, "native_ci_upper": 0.14166666666666666, "native_mean": 0.09629629629629628, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148147, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148147, "er_ci_lower": 0.07685185185185184, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444442, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.05462962962962962, "native_ci_upper": 0.14166666666666666, "native_mean": 0.09629629629629628, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148147, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148147, "er_ci_lower": 0.07685185185185184, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444442, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.05462962962962962, "native_ci_upper": 0.14166666666666666, "native_mean": 0.09629629629629628, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148147, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148147, "er_ci_lower": 0.07685185185185184, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444442, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.05462962962962962, "native_ci_upper": 0.14166666666666666, "native_mean": 0.09629629629629628, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06797979797979799, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.06797979797979799, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0909090909090909, "er_ci_upper": 0.21212121212121213, "er_mean": 0.151010101010101, "failure_count": 0, "mean_delta": -0.016397306397306396, "missing_count": 30, "native_ci_lower": 0.10555555555555556, "native_ci_upper": 0.23222222222222222, "native_mean": 0.16740740740740742, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.075, "delta_ci_lower": -0.025, "delta_ci_upper": 0.075, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.38333333333333336, "er_mean": 0.325, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.24166666666666667, "native_ci_upper": 0.35833333333333334, "native_mean": 0.3, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -40.188409034211254, "ci_upper": 1468.3982314057355, "delta_ci_lower": -40.188409034211254, "delta_ci_upper": 1468.3982314057355, "er_ci_lower": 40156.11003673689, "er_ci_upper": 41293.1477564439, "er_mean": 40715.59547289895, "failure_count": 0, "mean_delta": 707.8562823269749, "missing_count": 0, "native_ci_lower": 39515.548943928756, "native_ci_upper": 40509.60972990188, "native_mean": 40007.73919057198, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -83.21333333333328, "ci_upper": 130.78229166666657, "delta_ci_lower": -83.21333333333328, "delta_ci_upper": 130.78229166666657, "er_ci_lower": 5677.638541666666, "er_ci_upper": 5837.2525, "er_mean": 5755.325, "failure_count": 0, "mean_delta": 22.75, "missing_count": 0, "native_ci_lower": 5664.9, "native_ci_upper": 5802.320625, "native_mean": 5732.575, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -89.6452083333333, "ci_upper": 115.27729166666664, "delta_ci_lower": -89.6452083333333, "delta_ci_upper": 115.27729166666664, "er_ci_lower": 5383.124791666666, "er_ci_upper": 5532.858333333334, "er_mean": 5455.441666666667, "failure_count": 0, "mean_delta": 12.058333333333334, "missing_count": 0, "native_ci_lower": 5379.058125, "native_ci_upper": 5510.383541666666, "native_mean": 5443.383333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.0, "delta_ci_lower": -0.2, "delta_ci_upper": 0.0, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.6111111111111112, "er_ci_upper": 0.7666666666666667, "er_mean": 0.6888888888888889, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7444444444444445, "native_mean": 0.6666666666666666, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444444, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444444, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444444, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444444, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.011111111111111112, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 447.48428649172035, "ci_upper": 745.0844326044897, "delta_ci_lower": 447.48428649172035, "delta_ci_upper": 745.0844326044897, "er_ci_lower": 5351.237179062301, "er_ci_upper": 5895.427547897803, "er_mean": 5587.285278782171, "failure_count": 0, "mean_delta": 583.1776239550285, "missing_count": 0, "native_ci_lower": 4852.984939795594, "native_ci_upper": 5184.0880133946, "native_mean": 5004.107654827142, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148148, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148148, "er_ci_lower": 0.07685185185185185, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444445, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.054629629629629625, "native_ci_upper": 0.14166666666666666, "native_mean": 0.0962962962962963, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148148, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148148, "er_ci_lower": 0.07685185185185185, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444445, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.054629629629629625, "native_ci_upper": 0.14166666666666666, "native_mean": 0.0962962962962963, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148148, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148148, "er_ci_lower": 0.07685185185185185, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444445, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.054629629629629625, "native_ci_upper": 0.14166666666666666, "native_mean": 0.0962962962962963, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148148, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148148, "er_ci_lower": 0.07685185185185185, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444445, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.054629629629629625, "native_ci_upper": 0.14166666666666666, "native_mean": 0.0962962962962963, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06797979797979797, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.06797979797979797, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.09090909090909091, "er_ci_upper": 0.2121212121212121, "er_mean": 0.151010101010101, "failure_count": 0, "mean_delta": -0.016397306397306396, "missing_count": 30, "native_ci_lower": 0.10555555555555556, "native_ci_upper": 0.23222222222222222, "native_mean": 0.1674074074074074, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.03105112154407929, "ci_upper": 0.06194574856546688, "delta_ci_lower": -0.03105112154407929, "delta_ci_upper": 0.06194574856546688, "er_ci_lower": 0.17934272300469484, "er_ci_upper": 0.29842201356285863, "er_mean": 0.23736306729264478, "failure_count": 0, "mean_delta": 0.014814814814814817, "missing_count": 0, "native_ci_lower": 0.16173708920187796, "native_ci_upper": 0.2857589984350548, "native_mean": 0.22254825247782994, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 171.61391077199005, "ci_upper": 1685.6509591039992, "delta_ci_lower": 171.61391077199005, "delta_ci_upper": 1685.6509591039992, "er_ci_lower": 40289.5433284864, "er_ci_upper": 41514.62958789826, "er_mean": 40888.95643920209, "failure_count": 0, "mean_delta": 923.9819236075565, "missing_count": 0, "native_ci_lower": 39441.92639508198, "native_ci_upper": 40491.945265754934, "native_mean": 39964.974515594535, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -58.019605503390714, "ci_upper": 154.11569835680743, "delta_ci_lower": -58.019605503390714, "delta_ci_upper": 154.11569835680743, "er_ci_lower": 5688.676369653103, "er_ci_upper": 5859.105632824727, "er_mean": 5771.549321857068, "failure_count": 0, "mean_delta": 48.16047209181011, "missing_count": 0, "native_ci_lower": 5652.976890323422, "native_ci_upper": 5795.825114110589, "native_mean": 5723.388849765258, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.06326681448632668, "er_mean": 0.02530672579453067, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.06326681448632668, "er_mean": 0.02530672579453067, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.06326681448632668, "er_mean": 0.02530672579453067, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.06326681448632668, "native_mean": 0.02530672579453067, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -66.78712995565988, "ci_upper": 138.64809891757952, "delta_ci_lower": -66.78712995565988, "delta_ci_upper": 138.64809891757952, "er_ci_lower": 5393.430694444444, "er_ci_upper": 5551.287831572769, "er_mean": 5470.213706311945, "failure_count": 0, "mean_delta": 36.20056077203964, "missing_count": 0, "native_ci_lower": 5367.4066712310905, "native_ci_upper": 5502.9684011476265, "native_mean": 5434.013145539906, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.0, "delta_ci_lower": -0.2, "delta_ci_upper": 0.0, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.06436067997043593, "ci_upper": 0.10521803399852181, "delta_ci_lower": -0.06436067997043593, "delta_ci_upper": 0.10521803399852181, "er_ci_lower": 0.5862257945306726, "er_ci_upper": 0.7478333333333331, "er_mean": 0.6661936437546193, "failure_count": 0, "mean_delta": 0.021271249076127124, "missing_count": 30, "native_ci_lower": 0.5615099778270511, "native_ci_upper": 0.7293569844789357, "native_mean": 0.6449223946784922, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.01927679231337767, "ci_upper": 0.11605339985218033, "delta_ci_lower": -0.01927679231337767, "delta_ci_upper": 0.11605339985218033, "er_ci_lower": 0.1609035476718404, "er_ci_upper": 0.33396895787139685, "er_mean": 0.24657797487065777, "failure_count": 0, "mean_delta": 0.04653362897265336, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.01927679231337767, "ci_upper": 0.11605339985218033, "delta_ci_lower": -0.01927679231337767, "delta_ci_upper": 0.11605339985218033, "er_ci_lower": 0.1609035476718404, "er_ci_upper": 0.33396895787139685, "er_mean": 0.24657797487065777, "failure_count": 0, "mean_delta": 0.04653362897265336, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.01927679231337767, "ci_upper": 0.11605339985218033, "delta_ci_lower": -0.01927679231337767, "delta_ci_upper": 0.11605339985218033, "er_ci_lower": 0.1609035476718404, "er_ci_upper": 0.33396895787139685, "er_mean": 0.24657797487065777, "failure_count": 0, "mean_delta": 0.04653362897265336, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.01927679231337767, "ci_upper": 0.11605339985218033, "delta_ci_lower": -0.01927679231337767, "delta_ci_upper": 0.11605339985218033, "er_ci_lower": 0.1609035476718404, "er_ci_upper": 0.33396895787139685, "er_mean": 0.24657797487065777, "failure_count": 0, "mean_delta": 0.04653362897265336, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.00467110125646711, "ci_upper": 0.14535107169253508, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.14535107169253508, "er_ci_lower": 0.17753399852180346, "er_ci_upper": 0.35923133776792315, "er_mean": 0.26725794530672575, "failure_count": 0, "mean_delta": 0.06721359940872135, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.00467110125646711, "ci_upper": 0.14535107169253508, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.14535107169253508, "er_ci_lower": 0.17753399852180346, "er_ci_upper": 0.35923133776792315, "er_mean": 0.26725794530672575, "failure_count": 0, "mean_delta": 0.06721359940872135, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.00467110125646711, "ci_upper": 0.14535107169253508, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.14535107169253508, "er_ci_lower": 0.17753399852180346, "er_ci_upper": 0.35923133776792315, "er_mean": 0.26725794530672575, "failure_count": 0, "mean_delta": 0.06721359940872135, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.00467110125646711, "ci_upper": 0.14535107169253508, "delta_ci_lower": -0.00467110125646711, "delta_ci_upper": 0.14535107169253508, "er_ci_lower": 0.17753399852180346, "er_ci_upper": 0.35923133776792315, "er_mean": 0.26725794530672575, "failure_count": 0, "mean_delta": 0.06721359940872135, "missing_count": 30, "native_ci_lower": 0.11954175905395417, "native_ci_upper": 0.28517368810051735, "native_mean": 0.20004434589800443, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 477.2958882095749, "ci_upper": 839.3646283103413, "delta_ci_lower": 477.2958882095749, "delta_ci_upper": 839.3646283103413, "er_ci_lower": 5421.4448977921065, "er_ci_upper": 6098.645224342358, "er_mean": 5711.111151838444, "failure_count": 0, "mean_delta": 640.0683514106415, "missing_count": 0, "native_ci_lower": 4886.199878766696, "native_ci_upper": 5296.183866870375, "native_mean": 5071.042800427802, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.01237269031781227, "ci_upper": 0.05256966001478196, "delta_ci_lower": -0.01237269031781227, "delta_ci_upper": 0.05256966001478196, "er_ci_lower": 0.07654465385562947, "er_ci_upper": 0.17104557772850454, "er_mean": 0.1217171717171717, "failure_count": 0, "mean_delta": 0.019290465631929047, "missing_count": 30, "native_ci_lower": 0.05727654594727765, "native_ci_upper": 0.15048373983739835, "native_mean": 0.10242670608524268, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.01237269031781227, "ci_upper": 0.05256966001478196, "delta_ci_lower": -0.01237269031781227, "delta_ci_upper": 0.05256966001478196, "er_ci_lower": 0.07654465385562947, "er_ci_upper": 0.17104557772850454, "er_mean": 0.1217171717171717, "failure_count": 0, "mean_delta": 0.019290465631929047, "missing_count": 30, "native_ci_lower": 0.05727654594727765, "native_ci_upper": 0.15048373983739835, "native_mean": 0.10242670608524268, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.01237269031781227, "ci_upper": 0.05256966001478196, "delta_ci_lower": -0.01237269031781227, "delta_ci_upper": 0.05256966001478196, "er_ci_lower": 0.07654465385562947, "er_ci_upper": 0.17104557772850454, "er_mean": 0.1217171717171717, "failure_count": 0, "mean_delta": 0.019290465631929047, "missing_count": 30, "native_ci_lower": 0.05727654594727765, "native_ci_upper": 0.15048373983739835, "native_mean": 0.10242670608524268, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.01237269031781227, "ci_upper": 0.05256966001478196, "delta_ci_lower": -0.01237269031781227, "delta_ci_upper": 0.05256966001478196, "er_ci_lower": 0.07654465385562947, "er_ci_upper": 0.17104557772850454, "er_mean": 0.1217171717171717, "failure_count": 0, "mean_delta": 0.019290465631929047, "missing_count": 30, "native_ci_lower": 0.05727654594727765, "native_ci_upper": 0.15048373983739835, "native_mean": 0.10242670608524268, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06232399381845058, "ci_upper": 0.032457972183027615, "delta_ci_lower": -0.06232399381845058, "delta_ci_upper": 0.032457972183027615, "er_ci_lower": 0.09759322717194115, "er_ci_upper": 0.22573540280857354, "er_mean": 0.16049049250823086, "failure_count": 0, "mean_delta": -0.014356514143653833, "missing_count": 30, "native_ci_lower": 0.111320029563932, "native_ci_upper": 0.24010347376201033, "native_mean": 0.17484700665188468, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -60.994198279901305, "ci_upper": 2652.441379383187, "delta_ci_lower": -60.994198279901305, "delta_ci_upper": 2652.441379383187, "er_ci_lower": 40042.23686560368, "er_ci_upper": 42293.440491821195, "er_mean": 41149.91832077503, "failure_count": 0, "mean_delta": 1286.1607651924714, "missing_count": 0, "native_ci_lower": 38970.16804718723, "native_ci_upper": 40835.56753587269, "native_mean": 39863.75755558256, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -98.93499999999999, "ci_upper": 291.94166666666655, "delta_ci_lower": -98.93499999999999, "delta_ci_upper": 291.94166666666655, "er_ci_lower": 5628.1, "er_ci_upper": 5931.568333333333, "er_mean": 5775.966666666666, "failure_count": 0, "mean_delta": 97.26666666666667, "missing_count": 0, "native_ci_lower": 5560.366666666667, "native_ci_upper": 5807.535833333333, "native_mean": 5678.7, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -97.5033333333333, "ci_upper": 281.20916666666653, "delta_ci_lower": -97.5033333333333, "delta_ci_upper": 281.20916666666653, "er_ci_lower": 5333.865000000001, "er_ci_upper": 5622.869166666666, "er_mean": 5475.633333333333, "failure_count": 0, "mean_delta": 91.06666666666666, "missing_count": 0, "native_ci_lower": 5272.863333333333, "native_ci_upper": 5504.435, "native_mean": 5384.566666666667, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.7, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8333333333333334, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.6333333333333333, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 100.13986022017589, "ci_upper": 215.62765649510158, "delta_ci_lower": 100.13986022017589, "delta_ci_upper": 215.62765649510158, "er_ci_lower": 4777.247597996223, "er_ci_upper": 5334.519345505589, "er_mean": 5051.620130559119, "failure_count": 0, "mean_delta": 153.86525694824135, "missing_count": 0, "native_ci_lower": 4635.682790185771, "native_ci_upper": 5170.812596298735, "native_mean": 4897.754873610877, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.06666666666666667, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.07222222222222222, "er_ci_upper": 0.2777777777777778, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.005555555555555556, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.2833333333333333, "native_mean": 0.17222222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.07222222222222222, "er_ci_upper": 0.2777777777777778, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.005555555555555556, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.2833333333333333, "native_mean": 0.17222222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.07222222222222222, "er_ci_upper": 0.2777777777777778, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.005555555555555556, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.2833333333333333, "native_mean": 0.17222222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.07222222222222222, "er_ci_upper": 0.2777777777777778, "er_mean": 0.16666666666666666, "failure_count": 0, "mean_delta": -0.005555555555555556, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.2833333333333333, "native_mean": 0.17222222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "inference": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -806.5813529942534, "ci_upper": 2294.192428726528, "delta_ci_lower": -806.5813529942534, "delta_ci_upper": 2294.192428726528, "er_ci_lower": 39980.34494428934, "er_ci_upper": 42403.56891909187, "er_mean": 41179.36758746704, "failure_count": 0, "mean_delta": 758.7396945028255, "missing_count": 0, "native_ci_lower": 39324.93812088311, "native_ci_upper": 41556.88857759834, "native_mean": 40420.62789296421, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -211.13416666666666, "ci_upper": 207.76833333333332, "delta_ci_lower": -211.13416666666666, "delta_ci_upper": 207.76833333333332, "er_ci_lower": 5646.795, "er_ci_upper": 5986.3675, "er_mean": 5815.533333333334, "failure_count": 0, "mean_delta": 0.43333333333333335, "missing_count": 0, "native_ci_lower": 5669.031666666667, "native_ci_upper": 5965.01, "native_mean": 5815.1, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -226.46666666666667, "ci_upper": 183.80416666666662, "delta_ci_lower": -226.46666666666667, "delta_ci_upper": 183.80416666666662, "er_ci_lower": 5361.1641666666665, "er_ci_upper": 5671.138333333333, "er_mean": 5515.233333333334, "failure_count": 0, "mean_delta": -19.6, "missing_count": 0, "native_ci_lower": 5395.933333333333, "native_ci_upper": 5681.041666666667, "native_mean": 5534.833333333333, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.35, "er_mean": 0.2, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.35, "er_mean": 0.2, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.35, "er_mean": 0.2, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.35, "er_mean": 0.2, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 931.2070457874992, "ci_upper": 2002.298392580414, "delta_ci_lower": 931.2070457874992, "delta_ci_upper": 2002.298392580414, "er_ci_lower": 5616.094865617731, "er_ci_upper": 7568.065097706275, "er_mean": 6437.240818049759, "failure_count": 0, "mean_delta": 1415.819100018901, "missing_count": 0, "native_ci_lower": 4546.880651847654, "native_ci_upper": 5639.650681415999, "native_mean": 5021.421718030858, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.025, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.025, "delta_ci_upper": 0.06944444444444445, "er_ci_lower": 0.030555555555555555, "er_ci_upper": 0.15277777777777776, "er_mean": 0.0861111111111111, "failure_count": 0, "mean_delta": 0.01944444444444444, "missing_count": 0, "native_ci_lower": 0.016666666666666666, "native_ci_upper": 0.13333333333333333, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.025, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.025, "delta_ci_upper": 0.06944444444444445, "er_ci_lower": 0.030555555555555555, "er_ci_upper": 0.15277777777777776, "er_mean": 0.0861111111111111, "failure_count": 0, "mean_delta": 0.01944444444444444, "missing_count": 0, "native_ci_lower": 0.016666666666666666, "native_ci_upper": 0.13333333333333333, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.025, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.025, "delta_ci_upper": 0.06944444444444445, "er_ci_lower": 0.030555555555555555, "er_ci_upper": 0.15277777777777776, "er_mean": 0.0861111111111111, "failure_count": 0, "mean_delta": 0.01944444444444444, "missing_count": 0, "native_ci_lower": 0.016666666666666666, "native_ci_upper": 0.13333333333333333, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.025, "ci_upper": 0.06944444444444445, "delta_ci_lower": -0.025, "delta_ci_upper": 0.06944444444444445, "er_ci_lower": 0.030555555555555555, "er_ci_upper": 0.15277777777777776, "er_mean": 0.0861111111111111, "failure_count": 0, "mean_delta": 0.01944444444444444, "missing_count": 0, "native_ci_lower": 0.016666666666666666, "native_ci_upper": 0.13333333333333333, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.11666666666666667, "ci_upper": 0.08890909090909062, "delta_ci_lower": -0.11666666666666667, "delta_ci_upper": 0.08890909090909062, "er_ci_lower": 0.25, "er_ci_upper": 0.6, "er_mean": 0.41969696969696973, "failure_count": 0, "mean_delta": -0.01585858585858586, "missing_count": 0, "native_ci_lower": 0.2688888888888889, "native_ci_upper": 0.6022222222222222, "native_mean": 0.43555555555555553, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "temporal": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 196.1163636576388, "ci_upper": 2686.164492398093, "delta_ci_lower": 196.1163636576388, "delta_ci_upper": 2686.164492398093, "er_ci_lower": 39415.2124076292, "er_ci_upper": 41796.87197680216, "er_mean": 40585.16572217923, "failure_count": 0, "mean_delta": 1435.7044874768083, "missing_count": 0, "native_ci_lower": 38314.34208965414, "native_ci_upper": 40079.41359955255, "native_mean": 39149.461234702416, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -19.56833333333332, "ci_upper": 316.4, "delta_ci_lower": -19.56833333333332, "delta_ci_upper": 316.4, "er_ci_lower": 5584.894166666667, "er_ci_upper": 5926.579999999999, "er_mean": 5751.8, "failure_count": 0, "mean_delta": 147.16666666666666, "missing_count": 0, "native_ci_lower": 5487.365000000001, "native_ci_upper": 5739.005833333334, "native_mean": 5604.633333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -27.6, "ci_upper": 296.24166666666656, "delta_ci_lower": -27.6, "delta_ci_upper": 296.24166666666656, "er_ci_lower": 5291.158333333334, "er_ci_upper": 5597.268333333333, "er_mean": 5440.4, "failure_count": 0, "mean_delta": 133.2, "missing_count": 0, "native_ci_lower": 5203.761666666667, "native_ci_upper": 5426.073333333333, "native_mean": 5307.2, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.8333333333333334, "er_ci_upper": 1.0, "er_mean": 0.9333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.8, "native_ci_upper": 1.0, "native_mean": 0.9, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03333333333333333, "ci_upper": 0.25, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.25, "er_ci_lower": 0.1, "er_ci_upper": 0.38333333333333336, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.2, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.25, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.25, "er_ci_lower": 0.1, "er_ci_upper": 0.38333333333333336, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.2, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.25, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.25, "er_ci_lower": 0.1, "er_ci_upper": 0.38333333333333336, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.2, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.25, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.25, "er_ci_lower": 0.1, "er_ci_upper": 0.38333333333333336, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.2, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.06583333333334072, "ci_upper": 0.3, "delta_ci_lower": 0.06583333333334072, "delta_ci_upper": 0.3, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.2, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.06583333333334072, "ci_upper": 0.3, "delta_ci_lower": 0.06583333333334072, "delta_ci_upper": 0.3, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.2, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.06583333333334072, "ci_upper": 0.3, "delta_ci_lower": 0.06583333333334072, "delta_ci_upper": 0.3, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.2, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.06583333333334072, "ci_upper": 0.3, "delta_ci_lower": 0.06583333333334072, "delta_ci_upper": 0.3, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.2, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 243.31728796212707, "ci_upper": 642.8854008864921, "delta_ci_lower": 243.31728796212707, "delta_ci_upper": 642.8854008864921, "er_ci_lower": 5941.917451272603, "er_ci_upper": 6489.698257545436, "er_mean": 6211.632747125502, "failure_count": 0, "mean_delta": 423.14465548843145, "missing_count": 0, "native_ci_lower": 5559.035389846055, "native_ci_upper": 6028.3468749989215, "native_mean": 5788.48809163707, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.11666666666666667, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.04444444444444444, "er_ci_upper": 0.1722222222222222, "er_mean": 0.10555555555555556, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1111111111111111, "native_mean": 0.05, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.11666666666666667, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.04444444444444444, "er_ci_upper": 0.1722222222222222, "er_mean": 0.10555555555555556, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1111111111111111, "native_mean": 0.05, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.11666666666666667, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.04444444444444444, "er_ci_upper": 0.1722222222222222, "er_mean": 0.10555555555555556, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1111111111111111, "native_mean": 0.05, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.11666666666666667, "delta_ci_lower": 0.0, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.04444444444444444, "er_ci_upper": 0.1722222222222222, "er_mean": 0.10555555555555556, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1111111111111111, "native_mean": 0.05, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "unanswerable": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -2393.0125787911434, "ci_upper": 1074.63087164176, "delta_ci_lower": -2393.0125787911434, "delta_ci_upper": 1074.63087164176, "er_ci_lower": 38963.57029693628, "er_ci_upper": 40959.943044123356, "er_mean": 39947.93026117453, "failure_count": 0, "mean_delta": -649.1798178642057, "missing_count": 0, "native_ci_lower": 39563.69182429985, "native_ci_upper": 41639.0060278232, "native_mean": 40597.110079038735, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -402.10249999999996, "ci_upper": 92.43416666666666, "delta_ci_lower": -402.10249999999996, "delta_ci_upper": 92.43416666666666, "er_ci_lower": 5535.199166666666, "er_ci_upper": 5825.269166666667, "er_mean": 5678.0, "failure_count": 0, "mean_delta": -153.86666666666667, "missing_count": 0, "native_ci_lower": 5683.230833333333, "native_ci_upper": 5981.7074999999995, "native_mean": 5831.866666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "context_token_count": { "ci_lower": -392.10166666666663, "ci_upper": 75.14166666666655, "delta_ci_lower": -392.10166666666663, "delta_ci_upper": 75.14166666666655, "er_ci_lower": 5255.132500000001, "er_ci_upper": 5529.504166666667, "er_mean": 5390.5, "failure_count": 0, "mean_delta": -156.43333333333334, "missing_count": 0, "native_ci_lower": 5401.631666666667, "native_ci_upper": 5693.135833333334, "native_mean": 5546.933333333333, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.0, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.0, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_latency_ms": { "ci_lower": 248.65674309025056, "ci_upper": 444.9906622877461, "delta_ci_lower": 248.65674309025056, "delta_ci_upper": 444.9906622877461, "er_ci_lower": 4473.715360247686, "er_ci_upper": 4835.814966846375, "er_mean": 4648.647419394304, "failure_count": 0, "mean_delta": 339.88148336453986, "missing_count": 0, "native_ci_lower": 4166.1771259272555, "native_ci_upper": 4443.899659522479, "native_mean": 4308.765936029765, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.025, "ci_upper": 0.075, "delta_ci_lower": -0.025, "delta_ci_upper": 0.075, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.38333333333333336, "er_mean": 0.325, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.24166666666666667, "native_ci_upper": 0.35833333333333334, "native_mean": 0.3, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -40.188409034211254, "ci_upper": 1468.3982314057355, "delta_ci_lower": -40.188409034211254, "delta_ci_upper": 1468.3982314057355, "er_ci_lower": 40156.11003673689, "er_ci_upper": 41293.1477564439, "er_mean": 40715.59547289895, "failure_count": 0, "mean_delta": 707.8562823269749, "missing_count": 0, "native_ci_lower": 39515.548943928756, "native_ci_upper": 40509.60972990188, "native_mean": 40007.73919057198, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -83.21333333333328, "ci_upper": 130.78229166666657, "delta_ci_lower": -83.21333333333328, "delta_ci_upper": 130.78229166666657, "er_ci_lower": 5677.638541666666, "er_ci_upper": 5837.2525, "er_mean": 5755.325, "failure_count": 0, "mean_delta": 22.75, "missing_count": 0, "native_ci_lower": 5664.9, "native_ci_upper": 5802.320625, "native_mean": 5732.575, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.05555555555555555, "native_mean": 0.022222222222222223, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -89.6452083333333, "ci_upper": 115.27729166666664, "delta_ci_lower": -89.6452083333333, "delta_ci_upper": 115.27729166666664, "er_ci_lower": 5383.124791666666, "er_ci_upper": 5532.858333333334, "er_mean": 5455.441666666667, "failure_count": 0, "mean_delta": 12.058333333333334, "missing_count": 0, "native_ci_lower": 5379.058125, "native_ci_upper": 5510.383541666666, "native_mean": 5443.383333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.0, "delta_ci_lower": -0.2, "delta_ci_upper": 0.0, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.23333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.6111111111111112, "er_ci_upper": 0.7666666666666667, "er_mean": 0.6888888888888889, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7444444444444445, "native_mean": 0.6666666666666666, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444444, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444444, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444444, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.005555555555555556, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.005555555555555556, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.16111111111111115, "er_ci_upper": 0.3277777777777778, "er_mean": 0.24444444444444444, "failure_count": 0, "mean_delta": 0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.011111111111111112, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.17777777777777778, "er_ci_upper": 0.35555555555555557, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 30, "native_ci_lower": 0.1111111111111111, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18888888888888888, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 447.48428649172035, "ci_upper": 745.0844326044897, "delta_ci_lower": 447.48428649172035, "delta_ci_upper": 745.0844326044897, "er_ci_lower": 5351.237179062301, "er_ci_upper": 5895.427547897803, "er_mean": 5587.285278782171, "failure_count": 0, "mean_delta": 583.1776239550285, "missing_count": 0, "native_ci_lower": 4852.984939795594, "native_ci_upper": 5184.0880133946, "native_mean": 5004.107654827142, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148148, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148148, "er_ci_lower": 0.07685185185185185, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444445, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.054629629629629625, "native_ci_upper": 0.14166666666666666, "native_mean": 0.0962962962962963, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148148, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148148, "er_ci_lower": 0.07685185185185185, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444445, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.054629629629629625, "native_ci_upper": 0.14166666666666666, "native_mean": 0.0962962962962963, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148148, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148148, "er_ci_lower": 0.07685185185185185, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444445, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.054629629629629625, "native_ci_upper": 0.14166666666666666, "native_mean": 0.0962962962962963, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333333, "ci_upper": 0.05648148148148148, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.05648148148148148, "er_ci_lower": 0.07685185185185185, "er_ci_upper": 0.16574074074074074, "er_mean": 0.11944444444444445, "failure_count": 0, "mean_delta": 0.023148148148148143, "missing_count": 30, "native_ci_lower": 0.054629629629629625, "native_ci_upper": 0.14166666666666666, "native_mean": 0.0962962962962963, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06797979797979797, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.06797979797979797, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.09090909090909091, "er_ci_upper": 0.2121212121212121, "er_mean": 0.151010101010101, "failure_count": 0, "mean_delta": -0.016397306397306396, "missing_count": 30, "native_ci_lower": 0.10555555555555556, "native_ci_upper": 0.23222222222222222, "native_mean": 0.1674074074074074, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.7333333333333333, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "paired_question_count": 120, "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_541d8b1af2513e6db17b19e0", "builder_key": "qwen3_8b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.04166666666666667, "ci_upper": 0.09166666666666667, "delta_ci_lower": -0.04166666666666667, "delta_ci_upper": 0.09166666666666667, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.375, "er_mean": 0.30833333333333335, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.20833333333333334, "native_ci_upper": 0.35833333333333334, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1430.800129760537, "ci_upper": 3087.853023602316, "delta_ci_lower": 1430.800129760537, "delta_ci_upper": 3087.853023602316, "er_ci_lower": 42823.27438703156, "er_ci_upper": 44182.154103472225, "er_mean": 43499.94641391095, "failure_count": 0, "mean_delta": 2255.8051187418946, "missing_count": 0, "native_ci_lower": 40736.62982362315, "native_ci_upper": 41760.75604070933, "native_mean": 41244.14129516905, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -13.373749999999935, "ci_upper": 167.8670833333333, "delta_ci_lower": -13.373749999999935, "delta_ci_upper": 167.8670833333333, "er_ci_lower": 5886.3, "er_ci_upper": 6018.833541666666, "er_mean": 5953.05, "failure_count": 0, "mean_delta": 78.41666666666667, "missing_count": 0, "native_ci_lower": 5803.538124999999, "native_ci_upper": 5947.192916666667, "native_mean": 5874.633333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 2.9329166666666704, "ci_upper": 171.62458333333322, "delta_ci_lower": 2.9329166666666704, "delta_ci_upper": 171.62458333333322, "er_ci_lower": 5572.647708333333, "er_ci_upper": 5694.261875, "er_mean": 5633.575, "failure_count": 0, "mean_delta": 88.35, "missing_count": 0, "native_ci_lower": 5479.172083333333, "native_ci_upper": 5612.252083333333, "native_mean": 5545.225, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.43333333333333335, "ci_upper": -0.13333333333333333, "delta_ci_lower": -0.43333333333333335, "delta_ci_upper": -0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.36666666666666664, "native_ci_upper": 0.7, "native_mean": 0.5333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.48888888888888893, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5777777777777778, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.39999999999999997, "native_ci_upper": 0.5777777777777778, "native_mean": 0.48888888888888893, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666663, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481481, "missing_count": 30, "native_ci_lower": 0.25092592592592594, "native_ci_upper": 0.4277777777777778, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666663, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481481, "missing_count": 30, "native_ci_lower": 0.25092592592592594, "native_ci_upper": 0.4277777777777778, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666663, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481481, "missing_count": 30, "native_ci_lower": 0.25092592592592594, "native_ci_upper": 0.4277777777777778, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666663, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481481, "missing_count": 30, "native_ci_lower": 0.25092592592592594, "native_ci_upper": 0.4277777777777778, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.05555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555555, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.05555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555555, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.05555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555555, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.05555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555555, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 283.44210014149814, "ci_upper": 387.8164975636173, "delta_ci_lower": 283.44210014149814, "delta_ci_upper": 387.8164975636173, "er_ci_lower": 5189.355847945408, "er_ci_upper": 5564.463174903794, "er_mean": 5360.710071884872, "failure_count": 0, "mean_delta": 333.4624482570992, "missing_count": 0, "native_ci_lower": 4880.954101685468, "native_ci_upper": 5198.208699688985, "native_mean": 5027.247623627773, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.006481481481481481, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481481, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.037037037037037035, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.22407407407407406, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.006481481481481481, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481481, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.037037037037037035, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.22407407407407406, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.006481481481481481, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481481, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.037037037037037035, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.22407407407407406, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.006481481481481481, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481481, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.037037037037037035, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.22407407407407406, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.12677441077441073, "ci_upper": 0.027003367003367, "delta_ci_lower": -0.12677441077441073, "delta_ci_upper": 0.027003367003367, "er_ci_lower": 0.12554545454545463, "er_ci_upper": 0.2610126262626262, "er_mean": 0.1918181818181818, "failure_count": 0, "mean_delta": -0.04892255892255892, "missing_count": 30, "native_ci_lower": 0.16628703703703712, "native_ci_upper": 0.3214814814814815, "native_mean": 0.24074074074074078, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.13333333333333333, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.13333333333333333, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.09166666666666666, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.09166666666666666, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.375, "er_mean": 0.30833333333333335, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.20833333333333334, "native_ci_upper": 0.35833333333333334, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1430.800129760537, "ci_upper": 3087.853023602316, "delta_ci_lower": 1430.800129760537, "delta_ci_upper": 3087.853023602316, "er_ci_lower": 42823.27438703156, "er_ci_upper": 44182.154103472225, "er_mean": 43499.94641391095, "failure_count": 0, "mean_delta": 2255.8051187418946, "missing_count": 0, "native_ci_lower": 40736.62982362315, "native_ci_upper": 41760.75604070933, "native_mean": 41244.14129516905, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -13.373749999999937, "ci_upper": 167.8670833333333, "delta_ci_lower": -13.373749999999937, "delta_ci_upper": 167.8670833333333, "er_ci_lower": 5886.3, "er_ci_upper": 6018.833541666666, "er_mean": 5953.05, "failure_count": 0, "mean_delta": 78.41666666666667, "missing_count": 0, "native_ci_lower": 5803.538125, "native_ci_upper": 5947.192916666667, "native_mean": 5874.633333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 2.93291666666667, "ci_upper": 171.62458333333322, "delta_ci_lower": 2.93291666666667, "delta_ci_upper": 171.62458333333322, "er_ci_lower": 5572.647708333333, "er_ci_upper": 5694.261875, "er_mean": 5633.575, "failure_count": 0, "mean_delta": 88.35, "missing_count": 0, "native_ci_lower": 5479.172083333333, "native_ci_upper": 5612.252083333333, "native_mean": 5545.225, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.43333333333333335, "ci_upper": -0.13333333333333333, "delta_ci_lower": -0.43333333333333335, "delta_ci_upper": -0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.36666666666666664, "native_ci_upper": 0.7, "native_mean": 0.5333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.4888888888888889, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5777777777777777, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.4, "native_ci_upper": 0.5777777777777777, "native_mean": 0.4888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666663, "ci_upper": 0.1, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.1, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481482, "missing_count": 30, "native_ci_lower": 0.2509259259259259, "native_ci_upper": 0.42777777777777776, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666663, "ci_upper": 0.1, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.1, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481482, "missing_count": 30, "native_ci_lower": 0.2509259259259259, "native_ci_upper": 0.42777777777777776, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666663, "ci_upper": 0.1, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.1, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481482, "missing_count": 30, "native_ci_lower": 0.2509259259259259, "native_ci_upper": 0.42777777777777776, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666663, "ci_upper": 0.1, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.1, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481482, "missing_count": 30, "native_ci_lower": 0.2509259259259259, "native_ci_upper": 0.42777777777777776, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555556, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555556, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555556, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555556, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 283.44210014149814, "ci_upper": 387.8164975636173, "delta_ci_lower": 283.44210014149814, "delta_ci_upper": 387.8164975636173, "er_ci_lower": 5189.355847945408, "er_ci_upper": 5564.463174903794, "er_mean": 5360.7100718848715, "failure_count": 0, "mean_delta": 333.4624482570992, "missing_count": 0, "native_ci_lower": 4880.954101685468, "native_ci_upper": 5198.208699688985, "native_mean": 5027.247623627773, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.006481481481481482, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481482, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.2240740740740741, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.006481481481481482, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481482, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.2240740740740741, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.006481481481481482, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481482, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.2240740740740741, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.006481481481481482, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481482, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.2240740740740741, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.12677441077441073, "ci_upper": 0.027003367003367, "delta_ci_lower": -0.12677441077441073, "delta_ci_upper": 0.027003367003367, "er_ci_lower": 0.12554545454545463, "er_ci_upper": 0.2610126262626262, "er_mean": 0.1918181818181818, "failure_count": 0, "mean_delta": -0.04892255892255892, "missing_count": 30, "native_ci_lower": 0.16628703703703715, "native_ci_upper": 0.3214814814814815, "native_mean": 0.24074074074074076, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.13333333333333333, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.13333333333333333, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.08999836984872193, "ci_upper": 0.05366458007303078, "delta_ci_lower": -0.08999836984872193, "delta_ci_upper": 0.05366458007303078, "er_ci_lower": 0.1757166145018258, "er_ci_upper": 0.30707127021387587, "er_mean": 0.24042775169535732, "failure_count": 0, "mean_delta": -0.016770996348461138, "missing_count": 0, "native_ci_lower": 0.18218342462180492, "native_ci_upper": 0.3358916927490871, "native_mean": 0.2571987480438185, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1625.84629074797, "ci_upper": 3559.021528135365, "delta_ci_lower": 1625.84629074797, "delta_ci_upper": 3559.021528135365, "er_ci_lower": 43119.272242676794, "er_ci_upper": 44699.24708548036, "er_mean": 43899.166460006825, "failure_count": 0, "mean_delta": 2584.2507202996035, "missing_count": 0, "native_ci_lower": 40769.71919036357, "native_ci_upper": 41884.87947257877, "native_mean": 41314.91573970723, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -8.699506390193015, "ci_upper": 182.3063481351069, "delta_ci_lower": -8.699506390193015, "delta_ci_upper": 182.3063481351069, "er_ci_lower": 5890.107970135628, "er_ci_upper": 6025.926446596244, "er_mean": 5959.371961398017, "failure_count": 0, "mean_delta": 87.78300730307772, "missing_count": 0, "native_ci_lower": 5796.664800795514, "native_ci_upper": 5946.749470852896, "native_mean": 5871.58895409494, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.008617886178861788, "ci_upper": 0.08789467849223943, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.08789467849223943, "er_ci_lower": 0.008617886178861788, "er_ci_upper": 0.08789467849223943, "er_mean": 0.04195121951219512, "failure_count": 0, "mean_delta": 0.04195121951219512, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.008617886178861788, "ci_upper": 0.08789467849223943, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.08789467849223943, "er_ci_lower": 0.008617886178861788, "er_ci_upper": 0.08789467849223943, "er_mean": 0.04195121951219512, "failure_count": 0, "mean_delta": 0.04195121951219512, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.008617886178861788, "ci_upper": 0.08789467849223943, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.08789467849223943, "er_ci_lower": 0.008617886178861788, "er_ci_upper": 0.08789467849223943, "er_mean": 0.04195121951219512, "failure_count": 0, "mean_delta": 0.04195121951219512, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 5.48136378455923, "ci_upper": 182.70087604329683, "delta_ci_lower": 5.48136378455923, "delta_ci_upper": 182.70087604329683, "er_ci_lower": 5573.004120044339, "er_ci_upper": 5698.775774973918, "er_mean": 5636.616666666667, "failure_count": 0, "mean_delta": 95.07166145018257, "missing_count": 0, "native_ci_lower": 5472.274419340114, "native_ci_upper": 5611.517892540427, "native_mean": 5541.545005216483, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.43333333333333335, "ci_upper": -0.13333333333333333, "delta_ci_lower": -0.43333333333333335, "delta_ci_upper": -0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.36666666666666664, "native_ci_upper": 0.7, "native_mean": 0.5333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.0022616407982261675, "ci_upper": 0.19084737620103456, "delta_ci_lower": -0.0022616407982261675, "delta_ci_upper": 0.19084737620103456, "er_ci_lower": 0.4621581670362158, "er_ci_upper": 0.6432065779748705, "er_mean": 0.5529490022172948, "failure_count": 0, "mean_delta": 0.09197339246119733, "missing_count": 30, "native_ci_lower": 0.3695934959349593, "native_ci_upper": 0.5540728011825573, "native_mean": 0.4609756097560976, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.009140367085489027, "ci_upper": 0.11084263365360925, "delta_ci_lower": -0.009140367085489027, "delta_ci_upper": 0.11084263365360925, "er_ci_lower": 0.2928473762010348, "er_ci_upper": 0.4803086967233309, "er_mean": 0.38584873121458485, "failure_count": 0, "mean_delta": 0.048507021433850696, "missing_count": 30, "native_ci_lower": 0.24861911800936193, "native_ci_upper": 0.4291829268292683, "native_mean": 0.3373417097807342, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.009140367085489027, "ci_upper": 0.11084263365360925, "delta_ci_lower": -0.009140367085489027, "delta_ci_upper": 0.11084263365360925, "er_ci_lower": 0.2928473762010348, "er_ci_upper": 0.4803086967233309, "er_mean": 0.38584873121458485, "failure_count": 0, "mean_delta": 0.048507021433850696, "missing_count": 30, "native_ci_lower": 0.24861911800936193, "native_ci_upper": 0.4291829268292683, "native_mean": 0.3373417097807342, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.009140367085489027, "ci_upper": 0.11084263365360925, "delta_ci_lower": -0.009140367085489027, "delta_ci_upper": 0.11084263365360925, "er_ci_lower": 0.2928473762010348, "er_ci_upper": 0.4803086967233309, "er_mean": 0.38584873121458485, "failure_count": 0, "mean_delta": 0.048507021433850696, "missing_count": 30, "native_ci_lower": 0.24861911800936193, "native_ci_upper": 0.4291829268292683, "native_mean": 0.3373417097807342, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.009140367085489027, "ci_upper": 0.11084263365360925, "delta_ci_lower": -0.009140367085489027, "delta_ci_upper": 0.11084263365360925, "er_ci_lower": 0.2928473762010348, "er_ci_upper": 0.4803086967233309, "er_mean": 0.38584873121458485, "failure_count": 0, "mean_delta": 0.048507021433850696, "missing_count": 30, "native_ci_lower": 0.24861911800936193, "native_ci_upper": 0.4291829268292683, "native_mean": 0.3373417097807342, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.04879526977087953, "ci_upper": 0.10984478935698447, "delta_ci_lower": -0.04879526977087953, "delta_ci_upper": 0.10984478935698447, "er_ci_lower": 0.35923133776792315, "er_ci_upper": 0.5655284552845528, "er_mean": 0.4626755358462675, "failure_count": 0, "mean_delta": 0.02993348115299335, "missing_count": 30, "native_ci_lower": 0.32988913525498886, "native_ci_upper": 0.5385081300813007, "native_mean": 0.4327420546932742, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.04879526977087953, "ci_upper": 0.10984478935698447, "delta_ci_lower": -0.04879526977087953, "delta_ci_upper": 0.10984478935698447, "er_ci_lower": 0.35923133776792315, "er_ci_upper": 0.5655284552845528, "er_mean": 0.4626755358462675, "failure_count": 0, "mean_delta": 0.02993348115299335, "missing_count": 30, "native_ci_lower": 0.32988913525498886, "native_ci_upper": 0.5385081300813007, "native_mean": 0.4327420546932742, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.04879526977087953, "ci_upper": 0.10984478935698447, "delta_ci_lower": -0.04879526977087953, "delta_ci_upper": 0.10984478935698447, "er_ci_lower": 0.35923133776792315, "er_ci_upper": 0.5655284552845528, "er_mean": 0.4626755358462675, "failure_count": 0, "mean_delta": 0.02993348115299335, "missing_count": 30, "native_ci_lower": 0.32988913525498886, "native_ci_upper": 0.5385081300813007, "native_mean": 0.4327420546932742, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.04879526977087953, "ci_upper": 0.10984478935698447, "delta_ci_lower": -0.04879526977087953, "delta_ci_upper": 0.10984478935698447, "er_ci_lower": 0.35923133776792315, "er_ci_upper": 0.5655284552845528, "er_mean": 0.4626755358462675, "failure_count": 0, "mean_delta": 0.02993348115299335, "missing_count": 30, "native_ci_lower": 0.32988913525498886, "native_ci_upper": 0.5385081300813007, "native_mean": 0.4327420546932742, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 230.11935203028307, "ci_upper": 321.9755782165663, "delta_ci_lower": 230.11935203028307, "delta_ci_upper": 321.9755782165663, "er_ci_lower": 5162.876006334715, "er_ci_upper": 5615.098913965558, "er_mean": 5364.976810018049, "failure_count": 0, "mean_delta": 272.36541568150074, "missing_count": 0, "native_ci_lower": 4913.56049079725, "native_ci_upper": 5306.671520608933, "native_mean": 5092.611394336548, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.001692596698694257, "ci_upper": 0.0874093372751909, "delta_ci_lower": -0.001692596698694257, "delta_ci_upper": 0.0874093372751909, "er_ci_lower": 0.16141568120226657, "er_ci_upper": 0.2735331978319783, "er_mean": 0.2166913032766691, "failure_count": 0, "mean_delta": 0.04111111111111111, "missing_count": 30, "native_ci_lower": 0.13246557033752154, "native_ci_upper": 0.2213340108401084, "native_mean": 0.175580192165558, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.001692596698694257, "ci_upper": 0.0874093372751909, "delta_ci_lower": -0.001692596698694257, "delta_ci_upper": 0.0874093372751909, "er_ci_lower": 0.16141568120226657, "er_ci_upper": 0.2735331978319783, "er_mean": 0.2166913032766691, "failure_count": 0, "mean_delta": 0.04111111111111111, "missing_count": 30, "native_ci_lower": 0.13246557033752154, "native_ci_upper": 0.2213340108401084, "native_mean": 0.175580192165558, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.001692596698694257, "ci_upper": 0.0874093372751909, "delta_ci_lower": -0.001692596698694257, "delta_ci_upper": 0.0874093372751909, "er_ci_lower": 0.16141568120226657, "er_ci_upper": 0.2735331978319783, "er_mean": 0.2166913032766691, "failure_count": 0, "mean_delta": 0.04111111111111111, "missing_count": 30, "native_ci_lower": 0.13246557033752154, "native_ci_upper": 0.2213340108401084, "native_mean": 0.175580192165558, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.001692596698694257, "ci_upper": 0.0874093372751909, "delta_ci_lower": -0.001692596698694257, "delta_ci_upper": 0.0874093372751909, "er_ci_lower": 0.16141568120226657, "er_ci_upper": 0.2735331978319783, "er_mean": 0.2166913032766691, "failure_count": 0, "mean_delta": 0.04111111111111111, "missing_count": 30, "native_ci_lower": 0.13246557033752154, "native_ci_upper": 0.2213340108401084, "native_mean": 0.175580192165558, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.12765762727048757, "ci_upper": 0.03135329794620259, "delta_ci_lower": -0.12765762727048757, "delta_ci_upper": 0.03135329794620259, "er_ci_lower": 0.1330312840153195, "er_ci_upper": 0.2728385876503393, "er_mean": 0.20193831888732108, "failure_count": 0, "mean_delta": -0.04694465721516719, "missing_count": 30, "native_ci_lower": 0.17184464153732446, "native_ci_upper": 0.3308297117516629, "native_mean": 0.2488829761024883, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.13333333333333333, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.13333333333333333, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.04166666666666667, "ci_upper": 0.09166666666666667, "delta_ci_lower": -0.04166666666666667, "delta_ci_upper": 0.09166666666666667, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.375, "er_mean": 0.30833333333333335, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.20833333333333334, "native_ci_upper": 0.35833333333333334, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1430.800129760537, "ci_upper": 3087.853023602316, "delta_ci_lower": 1430.800129760537, "delta_ci_upper": 3087.853023602316, "er_ci_lower": 42823.27438703156, "er_ci_upper": 44182.154103472225, "er_mean": 43499.94641391095, "failure_count": 0, "mean_delta": 2255.8051187418946, "missing_count": 0, "native_ci_lower": 40736.62982362315, "native_ci_upper": 41760.75604070933, "native_mean": 41244.14129516905, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -13.373749999999935, "ci_upper": 167.8670833333333, "delta_ci_lower": -13.373749999999935, "delta_ci_upper": 167.8670833333333, "er_ci_lower": 5886.3, "er_ci_upper": 6018.833541666666, "er_mean": 5953.05, "failure_count": 0, "mean_delta": 78.41666666666667, "missing_count": 0, "native_ci_lower": 5803.538124999999, "native_ci_upper": 5947.192916666667, "native_mean": 5874.633333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 2.9329166666666704, "ci_upper": 171.62458333333322, "delta_ci_lower": 2.9329166666666704, "delta_ci_upper": 171.62458333333322, "er_ci_lower": 5572.647708333333, "er_ci_upper": 5694.261875, "er_mean": 5633.575, "failure_count": 0, "mean_delta": 88.35, "missing_count": 0, "native_ci_lower": 5479.172083333333, "native_ci_upper": 5612.252083333333, "native_mean": 5545.225, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.43333333333333335, "ci_upper": -0.13333333333333333, "delta_ci_lower": -0.43333333333333335, "delta_ci_upper": -0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.36666666666666664, "native_ci_upper": 0.7, "native_mean": 0.5333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.48888888888888893, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5777777777777778, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.39999999999999997, "native_ci_upper": 0.5777777777777778, "native_mean": 0.48888888888888893, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666663, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481481, "missing_count": 30, "native_ci_lower": 0.25092592592592594, "native_ci_upper": 0.4277777777777778, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666663, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481481, "missing_count": 30, "native_ci_lower": 0.25092592592592594, "native_ci_upper": 0.4277777777777778, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666663, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481481, "missing_count": 30, "native_ci_lower": 0.25092592592592594, "native_ci_upper": 0.4277777777777778, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666663, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481481, "missing_count": 30, "native_ci_lower": 0.25092592592592594, "native_ci_upper": 0.4277777777777778, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.05555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555555, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.05555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555555, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.05555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555555, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.05555555555555556, "ci_upper": 0.09999999999999999, "delta_ci_lower": -0.05555555555555556, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555555, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 283.44210014149814, "ci_upper": 387.8164975636173, "delta_ci_lower": 283.44210014149814, "delta_ci_upper": 387.8164975636173, "er_ci_lower": 5189.355847945408, "er_ci_upper": 5564.463174903794, "er_mean": 5360.710071884872, "failure_count": 0, "mean_delta": 333.4624482570992, "missing_count": 0, "native_ci_lower": 4880.954101685468, "native_ci_upper": 5198.208699688985, "native_mean": 5027.247623627773, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.006481481481481481, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481481, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.037037037037037035, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.22407407407407406, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.006481481481481481, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481481, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.037037037037037035, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.22407407407407406, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.006481481481481481, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481481, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.037037037037037035, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.22407407407407406, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.006481481481481481, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481481, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.037037037037037035, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.22407407407407406, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.12677441077441073, "ci_upper": 0.027003367003367, "delta_ci_lower": -0.12677441077441073, "delta_ci_upper": 0.027003367003367, "er_ci_lower": 0.12554545454545463, "er_ci_upper": 0.2610126262626262, "er_mean": 0.1918181818181818, "failure_count": 0, "mean_delta": -0.04892255892255892, "missing_count": 30, "native_ci_lower": 0.16628703703703712, "native_ci_upper": 0.3214814814814815, "native_mean": 0.24074074074074078, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.13333333333333333, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.13333333333333333, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.09166666666666666, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.09166666666666666, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.375, "er_mean": 0.30833333333333335, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.20833333333333334, "native_ci_upper": 0.35833333333333334, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1430.800129760537, "ci_upper": 3087.853023602316, "delta_ci_lower": 1430.800129760537, "delta_ci_upper": 3087.853023602316, "er_ci_lower": 42823.27438703156, "er_ci_upper": 44182.154103472225, "er_mean": 43499.94641391095, "failure_count": 0, "mean_delta": 2255.8051187418946, "missing_count": 0, "native_ci_lower": 40736.62982362315, "native_ci_upper": 41760.75604070933, "native_mean": 41244.14129516905, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -13.373749999999937, "ci_upper": 167.8670833333333, "delta_ci_lower": -13.373749999999937, "delta_ci_upper": 167.8670833333333, "er_ci_lower": 5886.3, "er_ci_upper": 6018.833541666666, "er_mean": 5953.05, "failure_count": 0, "mean_delta": 78.41666666666667, "missing_count": 0, "native_ci_lower": 5803.538125, "native_ci_upper": 5947.192916666667, "native_mean": 5874.633333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 2.93291666666667, "ci_upper": 171.62458333333322, "delta_ci_lower": 2.93291666666667, "delta_ci_upper": 171.62458333333322, "er_ci_lower": 5572.647708333333, "er_ci_upper": 5694.261875, "er_mean": 5633.575, "failure_count": 0, "mean_delta": 88.35, "missing_count": 0, "native_ci_lower": 5479.172083333333, "native_ci_upper": 5612.252083333333, "native_mean": 5545.225, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.43333333333333335, "ci_upper": -0.13333333333333333, "delta_ci_lower": -0.43333333333333335, "delta_ci_upper": -0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.36666666666666664, "native_ci_upper": 0.7, "native_mean": 0.5333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.4888888888888889, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5777777777777777, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.4, "native_ci_upper": 0.5777777777777777, "native_mean": 0.4888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666663, "ci_upper": 0.1, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.1, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481482, "missing_count": 30, "native_ci_lower": 0.2509259259259259, "native_ci_upper": 0.42777777777777776, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666663, "ci_upper": 0.1, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.1, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481482, "missing_count": 30, "native_ci_lower": 0.2509259259259259, "native_ci_upper": 0.42777777777777776, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666663, "ci_upper": 0.1, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.1, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481482, "missing_count": 30, "native_ci_lower": 0.2509259259259259, "native_ci_upper": 0.42777777777777776, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666663, "ci_upper": 0.1, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.1, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481482, "missing_count": 30, "native_ci_lower": 0.2509259259259259, "native_ci_upper": 0.42777777777777776, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555556, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555556, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555556, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555556, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 283.44210014149814, "ci_upper": 387.8164975636173, "delta_ci_lower": 283.44210014149814, "delta_ci_upper": 387.8164975636173, "er_ci_lower": 5189.355847945408, "er_ci_upper": 5564.463174903794, "er_mean": 5360.7100718848715, "failure_count": 0, "mean_delta": 333.4624482570992, "missing_count": 0, "native_ci_lower": 4880.954101685468, "native_ci_upper": 5198.208699688985, "native_mean": 5027.247623627773, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.006481481481481482, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481482, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.2240740740740741, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.006481481481481482, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481482, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.2240740740740741, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.006481481481481482, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481482, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.2240740740740741, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.006481481481481482, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481482, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.2240740740740741, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.12677441077441073, "ci_upper": 0.027003367003367, "delta_ci_lower": -0.12677441077441073, "delta_ci_upper": 0.027003367003367, "er_ci_lower": 0.12554545454545463, "er_ci_upper": 0.2610126262626262, "er_mean": 0.1918181818181818, "failure_count": 0, "mean_delta": -0.04892255892255892, "missing_count": 30, "native_ci_lower": 0.16628703703703715, "native_ci_upper": 0.3214814814814815, "native_mean": 0.24074074074074076, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.13333333333333333, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.13333333333333333, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.08999836984872193, "ci_upper": 0.05366458007303078, "delta_ci_lower": -0.08999836984872193, "delta_ci_upper": 0.05366458007303078, "er_ci_lower": 0.1757166145018258, "er_ci_upper": 0.30707127021387587, "er_mean": 0.24042775169535732, "failure_count": 0, "mean_delta": -0.016770996348461138, "missing_count": 0, "native_ci_lower": 0.18218342462180492, "native_ci_upper": 0.3358916927490871, "native_mean": 0.2571987480438185, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1625.84629074797, "ci_upper": 3559.021528135365, "delta_ci_lower": 1625.84629074797, "delta_ci_upper": 3559.021528135365, "er_ci_lower": 43119.272242676794, "er_ci_upper": 44699.24708548036, "er_mean": 43899.166460006825, "failure_count": 0, "mean_delta": 2584.2507202996035, "missing_count": 0, "native_ci_lower": 40769.71919036357, "native_ci_upper": 41884.87947257877, "native_mean": 41314.91573970723, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -8.699506390193015, "ci_upper": 182.3063481351069, "delta_ci_lower": -8.699506390193015, "delta_ci_upper": 182.3063481351069, "er_ci_lower": 5890.107970135628, "er_ci_upper": 6025.926446596244, "er_mean": 5959.371961398017, "failure_count": 0, "mean_delta": 87.78300730307772, "missing_count": 0, "native_ci_lower": 5796.664800795514, "native_ci_upper": 5946.749470852896, "native_mean": 5871.58895409494, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.008617886178861788, "ci_upper": 0.08789467849223943, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.08789467849223943, "er_ci_lower": 0.008617886178861788, "er_ci_upper": 0.08789467849223943, "er_mean": 0.04195121951219512, "failure_count": 0, "mean_delta": 0.04195121951219512, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.008617886178861788, "ci_upper": 0.08789467849223943, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.08789467849223943, "er_ci_lower": 0.008617886178861788, "er_ci_upper": 0.08789467849223943, "er_mean": 0.04195121951219512, "failure_count": 0, "mean_delta": 0.04195121951219512, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.008617886178861788, "ci_upper": 0.08789467849223943, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.08789467849223943, "er_ci_lower": 0.008617886178861788, "er_ci_upper": 0.08789467849223943, "er_mean": 0.04195121951219512, "failure_count": 0, "mean_delta": 0.04195121951219512, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 5.48136378455923, "ci_upper": 182.70087604329683, "delta_ci_lower": 5.48136378455923, "delta_ci_upper": 182.70087604329683, "er_ci_lower": 5573.004120044339, "er_ci_upper": 5698.775774973918, "er_mean": 5636.616666666667, "failure_count": 0, "mean_delta": 95.07166145018257, "missing_count": 0, "native_ci_lower": 5472.274419340114, "native_ci_upper": 5611.517892540427, "native_mean": 5541.545005216483, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.43333333333333335, "ci_upper": -0.13333333333333333, "delta_ci_lower": -0.43333333333333335, "delta_ci_upper": -0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.36666666666666664, "native_ci_upper": 0.7, "native_mean": 0.5333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.0022616407982261675, "ci_upper": 0.19084737620103456, "delta_ci_lower": -0.0022616407982261675, "delta_ci_upper": 0.19084737620103456, "er_ci_lower": 0.4621581670362158, "er_ci_upper": 0.6432065779748705, "er_mean": 0.5529490022172948, "failure_count": 0, "mean_delta": 0.09197339246119733, "missing_count": 30, "native_ci_lower": 0.3695934959349593, "native_ci_upper": 0.5540728011825573, "native_mean": 0.4609756097560976, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.009140367085489027, "ci_upper": 0.11084263365360925, "delta_ci_lower": -0.009140367085489027, "delta_ci_upper": 0.11084263365360925, "er_ci_lower": 0.2928473762010348, "er_ci_upper": 0.4803086967233309, "er_mean": 0.38584873121458485, "failure_count": 0, "mean_delta": 0.048507021433850696, "missing_count": 30, "native_ci_lower": 0.24861911800936193, "native_ci_upper": 0.4291829268292683, "native_mean": 0.3373417097807342, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.009140367085489027, "ci_upper": 0.11084263365360925, "delta_ci_lower": -0.009140367085489027, "delta_ci_upper": 0.11084263365360925, "er_ci_lower": 0.2928473762010348, "er_ci_upper": 0.4803086967233309, "er_mean": 0.38584873121458485, "failure_count": 0, "mean_delta": 0.048507021433850696, "missing_count": 30, "native_ci_lower": 0.24861911800936193, "native_ci_upper": 0.4291829268292683, "native_mean": 0.3373417097807342, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.009140367085489027, "ci_upper": 0.11084263365360925, "delta_ci_lower": -0.009140367085489027, "delta_ci_upper": 0.11084263365360925, "er_ci_lower": 0.2928473762010348, "er_ci_upper": 0.4803086967233309, "er_mean": 0.38584873121458485, "failure_count": 0, "mean_delta": 0.048507021433850696, "missing_count": 30, "native_ci_lower": 0.24861911800936193, "native_ci_upper": 0.4291829268292683, "native_mean": 0.3373417097807342, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.009140367085489027, "ci_upper": 0.11084263365360925, "delta_ci_lower": -0.009140367085489027, "delta_ci_upper": 0.11084263365360925, "er_ci_lower": 0.2928473762010348, "er_ci_upper": 0.4803086967233309, "er_mean": 0.38584873121458485, "failure_count": 0, "mean_delta": 0.048507021433850696, "missing_count": 30, "native_ci_lower": 0.24861911800936193, "native_ci_upper": 0.4291829268292683, "native_mean": 0.3373417097807342, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.04879526977087953, "ci_upper": 0.10984478935698447, "delta_ci_lower": -0.04879526977087953, "delta_ci_upper": 0.10984478935698447, "er_ci_lower": 0.35923133776792315, "er_ci_upper": 0.5655284552845528, "er_mean": 0.4626755358462675, "failure_count": 0, "mean_delta": 0.02993348115299335, "missing_count": 30, "native_ci_lower": 0.32988913525498886, "native_ci_upper": 0.5385081300813007, "native_mean": 0.4327420546932742, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.04879526977087953, "ci_upper": 0.10984478935698447, "delta_ci_lower": -0.04879526977087953, "delta_ci_upper": 0.10984478935698447, "er_ci_lower": 0.35923133776792315, "er_ci_upper": 0.5655284552845528, "er_mean": 0.4626755358462675, "failure_count": 0, "mean_delta": 0.02993348115299335, "missing_count": 30, "native_ci_lower": 0.32988913525498886, "native_ci_upper": 0.5385081300813007, "native_mean": 0.4327420546932742, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.04879526977087953, "ci_upper": 0.10984478935698447, "delta_ci_lower": -0.04879526977087953, "delta_ci_upper": 0.10984478935698447, "er_ci_lower": 0.35923133776792315, "er_ci_upper": 0.5655284552845528, "er_mean": 0.4626755358462675, "failure_count": 0, "mean_delta": 0.02993348115299335, "missing_count": 30, "native_ci_lower": 0.32988913525498886, "native_ci_upper": 0.5385081300813007, "native_mean": 0.4327420546932742, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.04879526977087953, "ci_upper": 0.10984478935698447, "delta_ci_lower": -0.04879526977087953, "delta_ci_upper": 0.10984478935698447, "er_ci_lower": 0.35923133776792315, "er_ci_upper": 0.5655284552845528, "er_mean": 0.4626755358462675, "failure_count": 0, "mean_delta": 0.02993348115299335, "missing_count": 30, "native_ci_lower": 0.32988913525498886, "native_ci_upper": 0.5385081300813007, "native_mean": 0.4327420546932742, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 230.11935203028307, "ci_upper": 321.9755782165663, "delta_ci_lower": 230.11935203028307, "delta_ci_upper": 321.9755782165663, "er_ci_lower": 5162.876006334715, "er_ci_upper": 5615.098913965558, "er_mean": 5364.976810018049, "failure_count": 0, "mean_delta": 272.36541568150074, "missing_count": 0, "native_ci_lower": 4913.56049079725, "native_ci_upper": 5306.671520608933, "native_mean": 5092.611394336548, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.001692596698694257, "ci_upper": 0.0874093372751909, "delta_ci_lower": -0.001692596698694257, "delta_ci_upper": 0.0874093372751909, "er_ci_lower": 0.16141568120226657, "er_ci_upper": 0.2735331978319783, "er_mean": 0.2166913032766691, "failure_count": 0, "mean_delta": 0.04111111111111111, "missing_count": 30, "native_ci_lower": 0.13246557033752154, "native_ci_upper": 0.2213340108401084, "native_mean": 0.175580192165558, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.001692596698694257, "ci_upper": 0.0874093372751909, "delta_ci_lower": -0.001692596698694257, "delta_ci_upper": 0.0874093372751909, "er_ci_lower": 0.16141568120226657, "er_ci_upper": 0.2735331978319783, "er_mean": 0.2166913032766691, "failure_count": 0, "mean_delta": 0.04111111111111111, "missing_count": 30, "native_ci_lower": 0.13246557033752154, "native_ci_upper": 0.2213340108401084, "native_mean": 0.175580192165558, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.001692596698694257, "ci_upper": 0.0874093372751909, "delta_ci_lower": -0.001692596698694257, "delta_ci_upper": 0.0874093372751909, "er_ci_lower": 0.16141568120226657, "er_ci_upper": 0.2735331978319783, "er_mean": 0.2166913032766691, "failure_count": 0, "mean_delta": 0.04111111111111111, "missing_count": 30, "native_ci_lower": 0.13246557033752154, "native_ci_upper": 0.2213340108401084, "native_mean": 0.175580192165558, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.001692596698694257, "ci_upper": 0.0874093372751909, "delta_ci_lower": -0.001692596698694257, "delta_ci_upper": 0.0874093372751909, "er_ci_lower": 0.16141568120226657, "er_ci_upper": 0.2735331978319783, "er_mean": 0.2166913032766691, "failure_count": 0, "mean_delta": 0.04111111111111111, "missing_count": 30, "native_ci_lower": 0.13246557033752154, "native_ci_upper": 0.2213340108401084, "native_mean": 0.175580192165558, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.12765762727048757, "ci_upper": 0.03135329794620259, "delta_ci_lower": -0.12765762727048757, "delta_ci_upper": 0.03135329794620259, "er_ci_lower": 0.1330312840153195, "er_ci_upper": 0.2728385876503393, "er_mean": 0.20193831888732108, "failure_count": 0, "mean_delta": -0.04694465721516719, "missing_count": 30, "native_ci_lower": 0.17184464153732446, "native_ci_upper": 0.3308297117516629, "native_mean": 0.2488829761024883, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.13333333333333333, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.13333333333333333, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -760.7913016286326, "ci_upper": 1753.2244869209048, "delta_ci_lower": -760.7913016286326, "delta_ci_upper": 1753.2244869209048, "er_ci_lower": 41315.978421150554, "er_ci_upper": 43448.381825377, "er_mean": 42397.199344433226, "failure_count": 0, "mean_delta": 526.726526413889, "missing_count": 0, "native_ci_lower": 40776.65885899672, "native_ci_upper": 42978.599317851964, "native_mean": 41870.472818019334, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -165.53333333333333, "ci_upper": 167.26999999999995, "delta_ci_lower": -165.53333333333333, "delta_ci_upper": 167.26999999999995, "er_ci_lower": 5754.633333333333, "er_ci_upper": 6013.304166666667, "er_mean": 5887.366666666667, "failure_count": 0, "mean_delta": 5.333333333333333, "missing_count": 0, "native_ci_lower": 5742.765833333333, "native_ci_upper": 6024.0025, "native_mean": 5882.033333333334, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -156.63499999999996, "ci_upper": 151.94916666666643, "delta_ci_lower": -156.63499999999996, "delta_ci_upper": 151.94916666666643, "er_ci_lower": 5433.3, "er_ci_upper": 5663.369166666666, "er_mean": 5549.3, "failure_count": 0, "mean_delta": 1.3333333333333333, "missing_count": 0, "native_ci_lower": 5415.633333333333, "native_ci_upper": 5681.900833333332, "native_mean": 5547.966666666666, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.3, "er_ci_lower": 0.5, "er_ci_upper": 0.8333333333333334, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.36666666666666664, "native_ci_upper": 0.7, "native_mean": 0.5333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.041666666666666664, "ci_upper": 0.2555555555555556, "delta_ci_lower": 0.041666666666666664, "delta_ci_upper": 0.2555555555555556, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.611111111111111, "er_mean": 0.4444444444444445, "failure_count": 0, "mean_delta": 0.1361111111111111, "missing_count": 0, "native_ci_lower": 0.1638888888888889, "native_ci_upper": 0.4666666666666667, "native_mean": 0.30833333333333335, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.041666666666666664, "ci_upper": 0.2555555555555556, "delta_ci_lower": 0.041666666666666664, "delta_ci_upper": 0.2555555555555556, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.611111111111111, "er_mean": 0.4444444444444445, "failure_count": 0, "mean_delta": 0.1361111111111111, "missing_count": 0, "native_ci_lower": 0.1638888888888889, "native_ci_upper": 0.4666666666666667, "native_mean": 0.30833333333333335, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.041666666666666664, "ci_upper": 0.2555555555555556, "delta_ci_lower": 0.041666666666666664, "delta_ci_upper": 0.2555555555555556, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.611111111111111, "er_mean": 0.4444444444444445, "failure_count": 0, "mean_delta": 0.1361111111111111, "missing_count": 0, "native_ci_lower": 0.1638888888888889, "native_ci_upper": 0.4666666666666667, "native_mean": 0.30833333333333335, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.041666666666666664, "ci_upper": 0.2555555555555556, "delta_ci_lower": 0.041666666666666664, "delta_ci_upper": 0.2555555555555556, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.611111111111111, "er_mean": 0.4444444444444445, "failure_count": 0, "mean_delta": 0.1361111111111111, "missing_count": 0, "native_ci_lower": 0.1638888888888889, "native_ci_upper": 0.4666666666666667, "native_mean": 0.30833333333333335, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.36666666666666664, "er_ci_upper": 0.7, "er_mean": 0.5333333333333333, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.36666666666666664, "er_ci_upper": 0.7, "er_mean": 0.5333333333333333, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.36666666666666664, "er_ci_upper": 0.7, "er_mean": 0.5333333333333333, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.03333333333333333, "ci_upper": 0.26666666666666666, "delta_ci_lower": 0.03333333333333333, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.36666666666666664, "er_ci_upper": 0.7, "er_mean": 0.5333333333333333, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 156.12537655824175, "ci_upper": 223.88461198803267, "delta_ci_lower": 156.12537655824175, "delta_ci_upper": 223.88461198803267, "er_ci_lower": 4838.630143209399, "er_ci_upper": 5376.474515021158, "er_mean": 5103.8700777416425, "failure_count": 0, "mean_delta": 190.19360694801435, "missing_count": 0, "native_ci_lower": 4654.278513139483, "native_ci_upper": 5185.479572410793, "native_mean": 4913.676470793628, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.027777777777777776, "ci_upper": 0.15, "delta_ci_lower": 0.027777777777777776, "delta_ci_upper": 0.15, "er_ci_lower": 0.17222222222222222, "er_ci_upper": 0.36666666666666664, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.10555555555555556, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18333333333333332, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.027777777777777776, "ci_upper": 0.15, "delta_ci_lower": 0.027777777777777776, "delta_ci_upper": 0.15, "er_ci_lower": 0.17222222222222222, "er_ci_upper": 0.36666666666666664, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.10555555555555556, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18333333333333332, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.027777777777777776, "ci_upper": 0.15, "delta_ci_lower": 0.027777777777777776, "delta_ci_upper": 0.15, "er_ci_lower": 0.17222222222222222, "er_ci_upper": 0.36666666666666664, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.10555555555555556, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18333333333333332, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.027777777777777776, "ci_upper": 0.15, "delta_ci_lower": 0.027777777777777776, "delta_ci_upper": 0.15, "er_ci_lower": 0.17222222222222222, "er_ci_upper": 0.36666666666666664, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": 0.08333333333333333, "missing_count": 0, "native_ci_lower": 0.10555555555555556, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18333333333333332, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "inference": { "answer_correct": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.26666666666666666, "native_ci_upper": 0.6, "native_mean": 0.43333333333333335, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 3344.8970733800284, "ci_upper": 8485.281976656695, "delta_ci_lower": 3344.8970733800284, "delta_ci_upper": 8485.281976656695, "er_ci_lower": 44568.578363189394, "er_ci_upper": 48733.951958068064, "er_mean": 46617.89430558371, "failure_count": 0, "mean_delta": 5878.819227653245, "missing_count": 0, "native_ci_lower": 39705.4266498685, "native_ci_upper": 41764.03917754729, "native_mean": 40739.075077930465, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -74.14249999999993, "ci_upper": 327.9474999999998, "delta_ci_lower": -74.14249999999993, "delta_ci_upper": 327.9474999999998, "er_ci_lower": 5837.164166666667, "er_ci_upper": 6092.768333333333, "er_mean": 5970.766666666666, "failure_count": 0, "mean_delta": 131.1, "missing_count": 0, "native_ci_lower": 5694.365, "native_ci_upper": 5985.702499999999, "native_mean": 5839.666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -47.870833333333294, "ci_upper": 324.6333333333333, "delta_ci_lower": -47.870833333333294, "delta_ci_upper": 324.6333333333333, "er_ci_lower": 5525.198333333334, "er_ci_upper": 5777.101666666667, "er_mean": 5658.2, "failure_count": 0, "mean_delta": 143.23333333333332, "missing_count": 0, "native_ci_lower": 5386.530000000001, "native_ci_upper": 5644.3375, "native_mean": 5514.966666666666, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.1, "er_ci_upper": 0.4, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.3, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.08888888888888888, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.21666666666666667, "er_ci_upper": 0.55, "er_mean": 0.3777777777777778, "failure_count": 0, "mean_delta": 0.011111111111111115, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.5277777777777778, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.08888888888888888, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.21666666666666667, "er_ci_upper": 0.55, "er_mean": 0.3777777777777778, "failure_count": 0, "mean_delta": 0.011111111111111115, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.5277777777777778, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.08888888888888888, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.21666666666666667, "er_ci_upper": 0.55, "er_mean": 0.3777777777777778, "failure_count": 0, "mean_delta": 0.011111111111111115, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.5277777777777778, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.08888888888888888, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.08888888888888888, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.21666666666666667, "er_ci_upper": 0.55, "er_mean": 0.3777777777777778, "failure_count": 0, "mean_delta": 0.011111111111111115, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.5277777777777778, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 157.10160100405727, "ci_upper": 396.10410191865714, "delta_ci_lower": 157.10160100405727, "delta_ci_upper": 396.10410191865714, "er_ci_lower": 4779.098087876143, "er_ci_upper": 6004.548964392355, "er_mean": 5305.4444333227975, "failure_count": 0, "mean_delta": 260.4605541564524, "missing_count": 0, "native_ci_lower": 4587.733172194276, "native_ci_upper": 5628.981841364197, "native_mean": 5044.983879166345, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.05555555555555555, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.09444444444444443, "er_ci_upper": 0.2638888888888889, "er_mean": 0.17222222222222222, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 0, "native_ci_lower": 0.09166666666666666, "native_ci_upper": 0.2111111111111111, "native_mean": 0.15, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.09444444444444443, "er_ci_upper": 0.2638888888888889, "er_mean": 0.17222222222222222, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 0, "native_ci_lower": 0.09166666666666666, "native_ci_upper": 0.2111111111111111, "native_mean": 0.15, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.09444444444444443, "er_ci_upper": 0.2638888888888889, "er_mean": 0.17222222222222222, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 0, "native_ci_lower": 0.09166666666666666, "native_ci_upper": 0.2111111111111111, "native_mean": 0.15, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.09444444444444443, "er_ci_upper": 0.2638888888888889, "er_mean": 0.17222222222222222, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 0, "native_ci_lower": 0.09166666666666666, "native_ci_upper": 0.2111111111111111, "native_mean": 0.15, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.14810101010100993, "ci_upper": 0.13, "delta_ci_lower": -0.14810101010100993, "delta_ci_upper": 0.13, "er_ci_lower": 0.30878787878787883, "er_ci_upper": 0.6454545454545454, "er_mean": 0.47545454545454546, "failure_count": 0, "mean_delta": -0.008989898989898992, "missing_count": 0, "native_ci_lower": 0.31666666666666665, "native_ci_upper": 0.6511111111111112, "native_mean": 0.48444444444444446, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "temporal": { "answer_correct": { "ci_lower": -0.2, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.2, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.13333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 800.6186140433421, "ci_upper": 3171.946847020493, "delta_ci_lower": 800.6186140433421, "delta_ci_upper": 3171.946847020493, "er_ci_lower": 42674.955997753816, "er_ci_upper": 44499.254454452115, "er_mean": 43594.58434713694, "failure_count": 0, "mean_delta": 2019.2565734731033, "missing_count": 0, "native_ci_lower": 40598.296640339344, "native_ci_upper": 42536.884270424685, "native_mean": 41575.327773663834, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 50.29666666666669, "ci_upper": 370.20333333333326, "delta_ci_lower": 50.29666666666669, "delta_ci_upper": 370.20333333333326, "er_ci_lower": 5992.326666666667, "er_ci_upper": 6210.369166666666, "er_mean": 6107.266666666666, "failure_count": 0, "mean_delta": 210.93333333333334, "missing_count": 0, "native_ci_lower": 5761.6658333333335, "native_ci_upper": 6026.275, "native_mean": 5896.333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 71.9325, "ci_upper": 373.43416666666667, "delta_ci_lower": 71.9325, "delta_ci_upper": 373.43416666666667, "er_ci_lower": 5682.199166666666, "er_ci_upper": 5874.234166666666, "er_mean": 5782.033333333334, "failure_count": 0, "mean_delta": 220.3, "missing_count": 0, "native_ci_lower": 5435.93, "native_ci_upper": 5683.034166666667, "native_mean": 5561.733333333334, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.7, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8333333333333334, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.6, "native_ci_upper": 0.9, "native_mean": 0.7666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.1277777777777778, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.1277777777777778, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": -0.027777777777777776, "missing_count": 0, "native_ci_lower": 0.1888888888888889, "native_ci_upper": 0.49444444444444446, "native_mean": 0.33888888888888885, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.1277777777777778, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.1277777777777778, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": -0.027777777777777776, "missing_count": 0, "native_ci_lower": 0.1888888888888889, "native_ci_upper": 0.49444444444444446, "native_mean": 0.33888888888888885, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.1277777777777778, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.1277777777777778, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": -0.027777777777777776, "missing_count": 0, "native_ci_lower": 0.1888888888888889, "native_ci_upper": 0.49444444444444446, "native_mean": 0.33888888888888885, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.1277777777777778, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.1277777777777778, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3111111111111111, "failure_count": 0, "mean_delta": -0.027777777777777776, "missing_count": 0, "native_ci_lower": 0.1888888888888889, "native_ci_upper": 0.49444444444444446, "native_mean": 0.33888888888888885, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.26666666666666666, "native_ci_upper": 0.6, "native_mean": 0.43333333333333335, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.26666666666666666, "native_ci_upper": 0.6, "native_mean": 0.43333333333333335, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.26666666666666666, "native_ci_upper": 0.6, "native_mean": 0.43333333333333335, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.26666666666666666, "native_ci_upper": 0.6, "native_mean": 0.43333333333333335, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 157.8959548775068, "ci_upper": 230.5479771257766, "delta_ci_lower": 157.8959548775068, "delta_ci_upper": 230.5479771257766, "er_ci_lower": 5768.495801216534, "er_ci_upper": 6249.665302592912, "er_mean": 6005.794409747857, "failure_count": 0, "mean_delta": 194.97367919733128, "missing_count": 0, "native_ci_lower": 5584.138157749742, "native_ci_upper": 6046.487199377346, "native_mean": 5810.820730550525, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.07777777777777777, "ci_upper": 0.08888888888888889, "delta_ci_lower": -0.07777777777777777, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.10555555555555556, "er_ci_upper": 0.31666666666666665, "er_mean": 0.20555555555555555, "failure_count": 0, "mean_delta": 0.005555555555555558, "missing_count": 0, "native_ci_lower": 0.11666666666666667, "native_ci_upper": 0.28888888888888886, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.07777777777777777, "ci_upper": 0.08888888888888889, "delta_ci_lower": -0.07777777777777777, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.10555555555555556, "er_ci_upper": 0.31666666666666665, "er_mean": 0.20555555555555555, "failure_count": 0, "mean_delta": 0.005555555555555558, "missing_count": 0, "native_ci_lower": 0.11666666666666667, "native_ci_upper": 0.28888888888888886, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.07777777777777777, "ci_upper": 0.08888888888888889, "delta_ci_lower": -0.07777777777777777, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.10555555555555556, "er_ci_upper": 0.31666666666666665, "er_mean": 0.20555555555555555, "failure_count": 0, "mean_delta": 0.005555555555555558, "missing_count": 0, "native_ci_lower": 0.11666666666666667, "native_ci_upper": 0.28888888888888886, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.07777777777777777, "ci_upper": 0.08888888888888889, "delta_ci_lower": -0.07777777777777777, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.10555555555555556, "er_ci_upper": 0.31666666666666665, "er_mean": 0.20555555555555555, "failure_count": 0, "mean_delta": 0.005555555555555558, "missing_count": 0, "native_ci_lower": 0.11666666666666667, "native_ci_upper": 0.28888888888888886, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.20444444444444446, "ci_upper": 0.06222222222222222, "delta_ci_lower": -0.20444444444444446, "delta_ci_upper": 0.06222222222222222, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": -0.07111111111111111, "missing_count": 0, "native_ci_lower": 0.03333333333333333, "native_ci_upper": 0.2711111111111111, "native_mean": 0.1377777777777778, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "unanswerable": { "answer_correct": { "ci_lower": 0.1, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.1, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -764.0795863582747, "ci_upper": 1923.5799681530134, "delta_ci_lower": -764.0795863582747, "delta_ci_upper": 1923.5799681530134, "er_ci_lower": 40308.92363351537, "er_ci_upper": 42423.428298756866, "er_mean": 41390.10765848992, "failure_count": 0, "mean_delta": 598.4181474273404, "missing_count": 0, "native_ci_lower": 39818.952936319794, "native_ci_upper": 41732.468848901815, "native_mean": 40791.68951106258, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -229.70166666666665, "ci_upper": 155.26833333333332, "delta_ci_lower": -229.70166666666665, "delta_ci_upper": 155.26833333333332, "er_ci_lower": 5692.928333333333, "er_ci_upper": 5996.835833333333, "er_mean": 5846.8, "failure_count": 0, "mean_delta": -33.7, "missing_count": 0, "native_ci_lower": 5735.465833333334, "native_ci_upper": 6019.269166666667, "native_mean": 5880.5, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "context_token_count": { "ci_lower": -191.2, "ci_upper": 160.24083333333323, "delta_ci_lower": -191.2, "delta_ci_upper": 160.24083333333323, "er_ci_lower": 5396.863333333334, "er_ci_upper": 5689.306666666667, "er_mean": 5544.766666666666, "failure_count": 0, "mean_delta": -11.466666666666667, "missing_count": 0, "native_ci_lower": 5417.665, "native_ci_upper": 5688.600833333334, "native_mean": 5556.233333333334, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.43333333333333335, "ci_upper": -0.1, "delta_ci_lower": -0.43333333333333335, "delta_ci_upper": -0.1, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.26666666666666666, "missing_count": 0, "native_ci_lower": 0.36666666666666664, "native_ci_upper": 0.7, "native_mean": 0.5333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_latency_ms": { "ci_lower": 531.8312404296981, "ci_upper": 855.3221595418289, "delta_ci_lower": 531.8312404296981, "delta_ci_upper": 855.3221595418289, "er_ci_lower": 4817.729139155708, "er_ci_upper": 5245.635397216732, "er_mean": 5027.731366727191, "failure_count": 0, "mean_delta": 688.2219527265988, "missing_count": 0, "native_ci_lower": 4202.723305813075, "native_ci_upper": 4472.8012335017165, "native_mean": 4339.509414000592, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "unanswerable_correct": { "ci_lower": 0.1, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.1, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.041666666666666664, "ci_upper": 0.09166666666666666, "delta_ci_lower": -0.041666666666666664, "delta_ci_upper": 0.09166666666666666, "er_ci_lower": 0.24166666666666667, "er_ci_upper": 0.375, "er_mean": 0.30833333333333335, "failure_count": 0, "mean_delta": 0.025, "missing_count": 0, "native_ci_lower": 0.20833333333333334, "native_ci_upper": 0.35833333333333334, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1430.800129760537, "ci_upper": 3087.853023602316, "delta_ci_lower": 1430.800129760537, "delta_ci_upper": 3087.853023602316, "er_ci_lower": 42823.27438703156, "er_ci_upper": 44182.154103472225, "er_mean": 43499.94641391095, "failure_count": 0, "mean_delta": 2255.8051187418946, "missing_count": 0, "native_ci_lower": 40736.62982362315, "native_ci_upper": 41760.75604070933, "native_mean": 41244.14129516905, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -13.373749999999937, "ci_upper": 167.8670833333333, "delta_ci_lower": -13.373749999999937, "delta_ci_upper": 167.8670833333333, "er_ci_lower": 5886.3, "er_ci_upper": 6018.833541666666, "er_mean": 5953.05, "failure_count": 0, "mean_delta": 78.41666666666667, "missing_count": 0, "native_ci_lower": 5803.538125, "native_ci_upper": 5947.192916666667, "native_mean": 5874.633333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 2.93291666666667, "ci_upper": 171.62458333333322, "delta_ci_lower": 2.93291666666667, "delta_ci_upper": 171.62458333333322, "er_ci_lower": 5572.647708333333, "er_ci_upper": 5694.261875, "er_mean": 5633.575, "failure_count": 0, "mean_delta": 88.35, "missing_count": 0, "native_ci_lower": 5479.172083333333, "native_ci_upper": 5612.252083333333, "native_mean": 5545.225, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.43333333333333335, "ci_upper": -0.13333333333333333, "delta_ci_lower": -0.43333333333333335, "delta_ci_upper": -0.13333333333333333, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.26666666666666666, "failure_count": 0, "mean_delta": -0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.36666666666666664, "native_ci_upper": 0.7, "native_mean": 0.5333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.17777777777777778, "delta_ci_lower": 0.0, "delta_ci_upper": 0.17777777777777778, "er_ci_lower": 0.4888888888888889, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5777777777777777, "failure_count": 0, "mean_delta": 0.08888888888888889, "missing_count": 30, "native_ci_lower": 0.4, "native_ci_upper": 0.5777777777777777, "native_mean": 0.4888888888888889, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666663, "ci_upper": 0.1, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.1, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481482, "missing_count": 30, "native_ci_lower": 0.2509259259259259, "native_ci_upper": 0.42777777777777776, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666663, "ci_upper": 0.1, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.1, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481482, "missing_count": 30, "native_ci_lower": 0.2509259259259259, "native_ci_upper": 0.42777777777777776, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666663, "ci_upper": 0.1, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.1, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481482, "missing_count": 30, "native_ci_lower": 0.2509259259259259, "native_ci_upper": 0.42777777777777776, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666663, "ci_upper": 0.1, "delta_ci_lower": -0.016666666666666663, "delta_ci_upper": 0.1, "er_ci_lower": 0.28703703703703703, "er_ci_upper": 0.4703703703703704, "er_mean": 0.37777777777777777, "failure_count": 0, "mean_delta": 0.03981481481481482, "missing_count": 30, "native_ci_lower": 0.2509259259259259, "native_ci_upper": 0.42777777777777776, "native_mean": 0.33796296296296297, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555556, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555556, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555556, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1, "er_ci_lower": 0.35555555555555557, "er_ci_upper": 0.5555555555555556, "er_mean": 0.45555555555555555, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 283.44210014149814, "ci_upper": 387.8164975636173, "delta_ci_lower": 283.44210014149814, "delta_ci_upper": 387.8164975636173, "er_ci_lower": 5189.355847945408, "er_ci_upper": 5564.463174903794, "er_mean": 5360.7100718848715, "failure_count": 0, "mean_delta": 333.4624482570992, "missing_count": 0, "native_ci_lower": 4880.954101685468, "native_ci_upper": 5198.208699688985, "native_mean": 5027.247623627773, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.006481481481481482, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481482, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.2240740740740741, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.006481481481481482, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481482, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.2240740740740741, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.006481481481481482, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481482, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.2240740740740741, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.006481481481481482, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.006481481481481482, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.16018518518518518, "er_ci_upper": 0.2712962962962963, "er_mean": 0.2148148148148148, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.13425925925925927, "native_ci_upper": 0.2240740740740741, "native_mean": 0.17777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.12677441077441073, "ci_upper": 0.027003367003367, "delta_ci_lower": -0.12677441077441073, "delta_ci_upper": 0.027003367003367, "er_ci_lower": 0.12554545454545463, "er_ci_upper": 0.2610126262626262, "er_mean": 0.1918181818181818, "failure_count": 0, "mean_delta": -0.04892255892255892, "missing_count": 30, "native_ci_lower": 0.16628703703703715, "native_ci_upper": 0.3214814814814815, "native_mean": 0.24074074074074076, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": 0.13333333333333333, "ci_upper": 0.43333333333333335, "delta_ci_lower": 0.13333333333333333, "delta_ci_upper": 0.43333333333333335, "er_ci_lower": 0.5666666666666667, "er_ci_upper": 0.8666666666666667, "er_mean": 0.7333333333333333, "failure_count": 0, "mean_delta": 0.26666666666666666, "missing_count": 90, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" } }, "paired_question_count": 120, "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_91358cb1f88dec176a28953b", "builder_key": "gemma3_270m", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.04166666666666667, "delta_ci_lower": -0.075, "delta_ci_upper": 0.04166666666666667, "er_ci_lower": 0.20833333333333334, "er_ci_upper": 0.3416666666666667, "er_mean": 0.27499999999999997, "failure_count": 0, "mean_delta": -0.01666666666666667, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.35833333333333334, "native_mean": 0.29166666666666663, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 757.3964423611081, "ci_upper": 1787.3689528403095, "delta_ci_lower": 757.3964423611081, "delta_ci_upper": 1787.3689528403095, "er_ci_lower": 41942.33958241277, "er_ci_upper": 42787.69349034754, "er_mean": 42371.626619781215, "failure_count": 0, "mean_delta": 1281.52403847198, "missing_count": 0, "native_ci_lower": 40650.59020971576, "native_ci_upper": 41528.6612264211, "native_mean": 41090.10258130923, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 86.27416666666667, "ci_upper": 237.96729166666668, "delta_ci_lower": 86.27416666666667, "delta_ci_upper": 237.96729166666668, "er_ci_lower": 5988.374583333333, "er_ci_upper": 6108.701041666666, "er_mean": 6049.466666666667, "failure_count": 0, "mean_delta": 163.14166666666668, "missing_count": 0, "native_ci_lower": 5825.74875, "native_ci_upper": 5945.042916666667, "native_mean": 5886.325, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 101.48062500000003, "ci_upper": 247.28354166666665, "delta_ci_lower": 101.48062500000003, "delta_ci_upper": 247.28354166666665, "er_ci_lower": 5604.5493750000005, "er_ci_upper": 5718.258541666666, "er_mean": 5662.125, "failure_count": 0, "mean_delta": 174.875, "missing_count": 0, "native_ci_lower": 5432.1658333333335, "native_ci_upper": 5541.826249999999, "native_mean": 5487.25, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 2.3129646346357427e-18, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 2.3129646346357427e-18, "er_ci_lower": 0.5222222222222223, "er_ci_upper": 0.7000000000000001, "er_mean": 0.611111111111111, "failure_count": 0, "mean_delta": -0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.5777777777777778, "native_ci_upper": 0.7444444444444445, "native_mean": 0.6666666666666666, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.007407407407407405, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407405, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592592, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.23518518518518516, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.007407407407407405, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407405, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592592, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.23518518518518516, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.007407407407407405, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407405, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592592, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.23518518518518516, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.007407407407407405, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407405, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592592, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.23518518518518516, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222223, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.11111111111111112, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.11111111111111112, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.11111111111111112, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.11111111111111112, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 65.08558449614308, "ci_upper": 97.50351745135654, "delta_ci_lower": 65.08558449614308, "delta_ci_upper": 97.50351745135654, "er_ci_lower": 4853.589815572051, "er_ci_upper": 5191.876809118791, "er_mean": 5006.311091650666, "failure_count": 0, "mean_delta": 80.61869796947576, "missing_count": 0, "native_ci_lower": 4776.143478862965, "native_ci_upper": 5104.308273662681, "native_mean": 4925.692393681189, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.02407407407407407, "missing_count": 30, "native_ci_lower": 0.11574074074074074, "native_ci_upper": 0.20833333333333334, "native_mean": 0.1611111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.02407407407407407, "missing_count": 30, "native_ci_lower": 0.11574074074074074, "native_ci_upper": 0.20833333333333334, "native_mean": 0.1611111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.02407407407407407, "missing_count": 30, "native_ci_lower": 0.11574074074074074, "native_ci_upper": 0.20833333333333334, "native_mean": 0.1611111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.02407407407407407, "missing_count": 30, "native_ci_lower": 0.11574074074074074, "native_ci_upper": 0.20833333333333334, "native_mean": 0.1611111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04637037037037037, "ci_upper": 0.06759311868686867, "delta_ci_lower": -0.04637037037037037, "delta_ci_upper": 0.06759311868686867, "er_ci_lower": 0.10177777777777779, "er_ci_upper": 0.24444444444444444, "er_mean": 0.1691178451178451, "failure_count": 0, "mean_delta": 0.010174242424242424, "missing_count": 30, "native_ci_lower": 0.09158249158249158, "native_ci_upper": 0.23099800084175084, "native_mean": 0.1589436026936027, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.075, "delta_ci_upper": 0.041666666666666664, "er_ci_lower": 0.20833333333333334, "er_ci_upper": 0.3416666666666667, "er_mean": 0.275, "failure_count": 0, "mean_delta": -0.016666666666666666, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.35833333333333334, "native_mean": 0.2916666666666667, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 757.3964423611081, "ci_upper": 1787.3689528403095, "delta_ci_lower": 757.3964423611081, "delta_ci_upper": 1787.3689528403095, "er_ci_lower": 41942.33958241277, "er_ci_upper": 42787.69349034755, "er_mean": 42371.626619781215, "failure_count": 0, "mean_delta": 1281.52403847198, "missing_count": 0, "native_ci_lower": 40650.59020971577, "native_ci_upper": 41528.6612264211, "native_mean": 41090.102581309235, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 86.27416666666669, "ci_upper": 237.96729166666668, "delta_ci_lower": 86.27416666666669, "delta_ci_upper": 237.96729166666668, "er_ci_lower": 5988.374583333333, "er_ci_upper": 6108.701041666666, "er_mean": 6049.466666666666, "failure_count": 0, "mean_delta": 163.14166666666668, "missing_count": 0, "native_ci_lower": 5825.74875, "native_ci_upper": 5945.042916666667, "native_mean": 5886.325, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 101.48062500000003, "ci_upper": 247.28354166666665, "delta_ci_lower": 101.48062500000003, "delta_ci_upper": 247.28354166666665, "er_ci_lower": 5604.5493750000005, "er_ci_upper": 5718.258541666666, "er_mean": 5662.125, "failure_count": 0, "mean_delta": 174.875, "missing_count": 0, "native_ci_lower": 5432.1658333333335, "native_ci_upper": 5541.826249999999, "native_mean": 5487.25, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.0, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.0, "er_ci_lower": 0.5222222222222223, "er_ci_upper": 0.7, "er_mean": 0.6111111111111112, "failure_count": 0, "mean_delta": -0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.5777777777777777, "native_ci_upper": 0.7444444444444445, "native_mean": 0.6666666666666666, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.007407407407407406, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407406, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592593, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.2351851851851852, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.007407407407407406, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407406, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592593, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.2351851851851852, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.007407407407407406, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407406, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592593, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.2351851851851852, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.007407407407407406, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407406, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592593, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.2351851851851852, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222223, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 65.08558449614308, "ci_upper": 97.50351745135654, "delta_ci_lower": 65.08558449614308, "delta_ci_upper": 97.50351745135654, "er_ci_lower": 4853.58981557205, "er_ci_upper": 5191.876809118791, "er_mean": 5006.311091650666, "failure_count": 0, "mean_delta": 80.61869796947576, "missing_count": 0, "native_ci_lower": 4776.143478862966, "native_ci_upper": 5104.308273662681, "native_mean": 4925.69239368119, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.024074074074074074, "missing_count": 30, "native_ci_lower": 0.11574074074074073, "native_ci_upper": 0.20833333333333334, "native_mean": 0.16111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.024074074074074074, "missing_count": 30, "native_ci_lower": 0.11574074074074073, "native_ci_upper": 0.20833333333333334, "native_mean": 0.16111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.024074074074074074, "missing_count": 30, "native_ci_lower": 0.11574074074074073, "native_ci_upper": 0.20833333333333334, "native_mean": 0.16111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.024074074074074074, "missing_count": 30, "native_ci_lower": 0.11574074074074073, "native_ci_upper": 0.20833333333333334, "native_mean": 0.16111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04637037037037037, "ci_upper": 0.06759311868686868, "delta_ci_lower": -0.04637037037037037, "delta_ci_upper": 0.06759311868686868, "er_ci_lower": 0.10177777777777777, "er_ci_upper": 0.24444444444444444, "er_mean": 0.1691178451178451, "failure_count": 0, "mean_delta": 0.010174242424242426, "missing_count": 30, "native_ci_lower": 0.09158249158249158, "native_ci_upper": 0.23099800084175082, "native_mean": 0.1589436026936027, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.05282994261867501, "ci_upper": 0.060328638497652576, "delta_ci_lower": -0.05282994261867501, "delta_ci_upper": 0.060328638497652576, "er_ci_lower": 0.15238654147104852, "er_ci_upper": 0.2886026343244653, "er_mean": 0.21853155972874283, "failure_count": 0, "mean_delta": 0.0024256651017214373, "missing_count": 0, "native_ci_lower": 0.15237056598852375, "native_ci_upper": 0.28388399843505474, "native_mean": 0.21610589462702137, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 707.0025727734079, "ci_upper": 1770.2470921701904, "delta_ci_lower": 707.0025727734079, "delta_ci_upper": 1770.2470921701904, "er_ci_lower": 41965.02325736418, "er_ci_upper": 42862.122625671014, "er_mean": 42420.21745880584, "failure_count": 0, "mean_delta": 1251.362977025009, "missing_count": 0, "native_ci_lower": 40685.888241802575, "native_ci_upper": 41653.99409416703, "native_mean": 41168.85448178083, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 71.24132563901932, "ci_upper": 233.29313478090768, "delta_ci_lower": 71.24132563901932, "delta_ci_upper": 233.29313478090768, "er_ci_lower": 5978.991452790819, "er_ci_upper": 6109.788272691706, "er_mean": 6045.276591027648, "failure_count": 0, "mean_delta": 154.1710745957225, "missing_count": 0, "native_ci_lower": 5825.437508476787, "native_ci_upper": 5954.669734285342, "native_mean": 5891.105516431925, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03796008869179601, "ci_upper": 0.036186252771618625, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.036186252771618625, "er_ci_lower": 0.0, "er_ci_upper": 0.036186252771618625, "er_mean": 0.012062084257206208, "failure_count": 0, "mean_delta": -0.0005912786400591272, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03796008869179601, "native_mean": 0.012653362897265335, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03796008869179601, "ci_upper": 0.036186252771618625, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.036186252771618625, "er_ci_lower": 0.0, "er_ci_upper": 0.036186252771618625, "er_mean": 0.012062084257206208, "failure_count": 0, "mean_delta": -0.0005912786400591272, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03796008869179601, "native_mean": 0.012653362897265335, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03796008869179601, "ci_upper": 0.036186252771618625, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.036186252771618625, "er_ci_lower": 0.0, "er_ci_upper": 0.036186252771618625, "er_mean": 0.012062084257206208, "failure_count": 0, "mean_delta": -0.0005912786400591272, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03796008869179601, "native_mean": 0.012653362897265335, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 86.55665655972875, "ci_upper": 243.67479949139278, "delta_ci_lower": 86.55665655972875, "delta_ci_upper": 243.67479949139278, "er_ci_lower": 5594.92934859155, "er_ci_upper": 5718.643821400626, "er_mean": 5658.353612415232, "failure_count": 0, "mean_delta": 167.18046426708398, "missing_count": 0, "native_ci_lower": 5430.868008607198, "native_ci_upper": 5550.908614045383, "native_mean": 5491.173148148148, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.13741315594974132, "ci_upper": -0.0034874353288987647, "delta_ci_lower": -0.13741315594974132, "delta_ci_upper": -0.0034874353288987647, "er_ci_lower": 0.49129711751662986, "er_ci_upper": 0.6730931263858092, "er_mean": 0.5816555801921656, "failure_count": 0, "mean_delta": -0.0667110125646711, "missing_count": 30, "native_ci_lower": 0.5592893569844788, "native_ci_upper": 0.7351219512195122, "native_mean": 0.6483665927568366, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.007181140675043094, "ci_upper": 0.0883771864991377, "delta_ci_lower": -0.007181140675043094, "delta_ci_upper": 0.0883771864991377, "er_ci_lower": 0.2747141537324464, "er_ci_upper": 0.4613122074402562, "er_mean": 0.3668415865976842, "failure_count": 0, "mean_delta": 0.039945799457994584, "missing_count": 30, "native_ci_lower": 0.23730450849963045, "native_ci_upper": 0.4227075634392708, "native_mean": 0.3268957871396896, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.007181140675043094, "ci_upper": 0.0883771864991377, "delta_ci_lower": -0.007181140675043094, "delta_ci_upper": 0.0883771864991377, "er_ci_lower": 0.2747141537324464, "er_ci_upper": 0.4613122074402562, "er_mean": 0.3668415865976842, "failure_count": 0, "mean_delta": 0.039945799457994584, "missing_count": 30, "native_ci_lower": 0.23730450849963045, "native_ci_upper": 0.4227075634392708, "native_mean": 0.3268957871396896, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.007181140675043094, "ci_upper": 0.0883771864991377, "delta_ci_lower": -0.007181140675043094, "delta_ci_upper": 0.0883771864991377, "er_ci_lower": 0.2747141537324464, "er_ci_upper": 0.4613122074402562, "er_mean": 0.3668415865976842, "failure_count": 0, "mean_delta": 0.039945799457994584, "missing_count": 30, "native_ci_lower": 0.23730450849963045, "native_ci_upper": 0.4227075634392708, "native_mean": 0.3268957871396896, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.007181140675043094, "ci_upper": 0.0883771864991377, "delta_ci_lower": -0.007181140675043094, "delta_ci_upper": 0.0883771864991377, "er_ci_lower": 0.2747141537324464, "er_ci_upper": 0.4613122074402562, "er_mean": 0.3668415865976842, "failure_count": 0, "mean_delta": 0.039945799457994584, "missing_count": 30, "native_ci_lower": 0.23730450849963045, "native_ci_upper": 0.4227075634392708, "native_mean": 0.3268957871396896, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.020679970436067993, "ci_upper": 0.12471544715447154, "delta_ci_lower": -0.020679970436067993, "delta_ci_upper": 0.12471544715447154, "er_ci_lower": 0.329830007390983, "er_ci_upper": 0.5344567627494456, "er_mean": 0.43160384331116036, "failure_count": 0, "mean_delta": 0.05002217294900222, "missing_count": 30, "native_ci_lower": 0.28331116038433113, "native_ci_upper": 0.4850258684405026, "native_mean": 0.3815816703621581, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.020679970436067993, "ci_upper": 0.12471544715447154, "delta_ci_lower": -0.020679970436067993, "delta_ci_upper": 0.12471544715447154, "er_ci_lower": 0.329830007390983, "er_ci_upper": 0.5344567627494456, "er_mean": 0.43160384331116036, "failure_count": 0, "mean_delta": 0.05002217294900222, "missing_count": 30, "native_ci_lower": 0.28331116038433113, "native_ci_upper": 0.4850258684405026, "native_mean": 0.3815816703621581, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.020679970436067993, "ci_upper": 0.12471544715447154, "delta_ci_lower": -0.020679970436067993, "delta_ci_upper": 0.12471544715447154, "er_ci_lower": 0.329830007390983, "er_ci_upper": 0.5344567627494456, "er_mean": 0.43160384331116036, "failure_count": 0, "mean_delta": 0.05002217294900222, "missing_count": 30, "native_ci_lower": 0.28331116038433113, "native_ci_upper": 0.4850258684405026, "native_mean": 0.3815816703621581, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.020679970436067993, "ci_upper": 0.12471544715447154, "delta_ci_lower": -0.020679970436067993, "delta_ci_upper": 0.12471544715447154, "er_ci_lower": 0.329830007390983, "er_ci_upper": 0.5344567627494456, "er_mean": 0.43160384331116036, "failure_count": 0, "mean_delta": 0.05002217294900222, "missing_count": 30, "native_ci_lower": 0.28331116038433113, "native_ci_upper": 0.4850258684405026, "native_mean": 0.3815816703621581, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 61.7611374529899, "ci_upper": 99.78280448496932, "delta_ci_lower": 61.7611374529899, "delta_ci_upper": 99.78280448496932, "er_ci_lower": 4887.143906862317, "er_ci_upper": 5308.291588312188, "er_mean": 5074.688896580469, "failure_count": 0, "mean_delta": 79.72895729187267, "missing_count": 0, "native_ci_lower": 4810.8228496986485, "native_ci_upper": 5218.721030291031, "native_mean": 4994.959939288597, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.0065787139689578635, "ci_upper": 0.06084836166543482, "delta_ci_lower": -0.0065787139689578635, "delta_ci_upper": 0.06084836166543482, "er_ci_lower": 0.14071692535107166, "er_ci_upper": 0.2405482877556048, "er_mean": 0.18975609756097564, "failure_count": 0, "mean_delta": 0.02682434097068243, "missing_count": 30, "native_ci_lower": 0.11680339985218037, "native_ci_upper": 0.21197222222222217, "native_mean": 0.1629317565902932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.0065787139689578635, "ci_upper": 0.06084836166543482, "delta_ci_lower": -0.0065787139689578635, "delta_ci_upper": 0.06084836166543482, "er_ci_lower": 0.14071692535107166, "er_ci_upper": 0.2405482877556048, "er_mean": 0.18975609756097564, "failure_count": 0, "mean_delta": 0.02682434097068243, "missing_count": 30, "native_ci_lower": 0.11680339985218037, "native_ci_upper": 0.21197222222222217, "native_mean": 0.1629317565902932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.0065787139689578635, "ci_upper": 0.06084836166543482, "delta_ci_lower": -0.0065787139689578635, "delta_ci_upper": 0.06084836166543482, "er_ci_lower": 0.14071692535107166, "er_ci_upper": 0.2405482877556048, "er_mean": 0.18975609756097564, "failure_count": 0, "mean_delta": 0.02682434097068243, "missing_count": 30, "native_ci_lower": 0.11680339985218037, "native_ci_upper": 0.21197222222222217, "native_mean": 0.1629317565902932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.0065787139689578635, "ci_upper": 0.06084836166543482, "delta_ci_lower": -0.0065787139689578635, "delta_ci_upper": 0.06084836166543482, "er_ci_lower": 0.14071692535107166, "er_ci_upper": 0.2405482877556048, "er_mean": 0.18975609756097564, "failure_count": 0, "mean_delta": 0.02682434097068243, "missing_count": 30, "native_ci_lower": 0.11680339985218037, "native_ci_upper": 0.21197222222222217, "native_mean": 0.1629317565902932, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.044467755156890415, "ci_upper": 0.07522375058791904, "delta_ci_lower": -0.044467755156890415, "delta_ci_upper": 0.07522375058791904, "er_ci_lower": 0.10638249143317881, "er_ci_upper": 0.25409434119465163, "er_mean": 0.17788639387220317, "failure_count": 0, "mean_delta": 0.015080507962104415, "missing_count": 30, "native_ci_lower": 0.09439763488543976, "native_ci_upper": 0.23626688167708118, "native_mean": 0.16280588591009873, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.04166666666666667, "delta_ci_lower": -0.075, "delta_ci_upper": 0.04166666666666667, "er_ci_lower": 0.20833333333333334, "er_ci_upper": 0.3416666666666667, "er_mean": 0.27499999999999997, "failure_count": 0, "mean_delta": -0.01666666666666667, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.35833333333333334, "native_mean": 0.29166666666666663, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 757.3964423611081, "ci_upper": 1787.3689528403095, "delta_ci_lower": 757.3964423611081, "delta_ci_upper": 1787.3689528403095, "er_ci_lower": 41942.33958241277, "er_ci_upper": 42787.69349034754, "er_mean": 42371.626619781215, "failure_count": 0, "mean_delta": 1281.52403847198, "missing_count": 0, "native_ci_lower": 40650.59020971576, "native_ci_upper": 41528.6612264211, "native_mean": 41090.10258130923, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 86.27416666666667, "ci_upper": 237.96729166666668, "delta_ci_lower": 86.27416666666667, "delta_ci_upper": 237.96729166666668, "er_ci_lower": 5988.374583333333, "er_ci_upper": 6108.701041666666, "er_mean": 6049.466666666667, "failure_count": 0, "mean_delta": 163.14166666666668, "missing_count": 0, "native_ci_lower": 5825.74875, "native_ci_upper": 5945.042916666667, "native_mean": 5886.325, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 101.48062500000003, "ci_upper": 247.28354166666665, "delta_ci_lower": 101.48062500000003, "delta_ci_upper": 247.28354166666665, "er_ci_lower": 5604.5493750000005, "er_ci_upper": 5718.258541666666, "er_mean": 5662.125, "failure_count": 0, "mean_delta": 174.875, "missing_count": 0, "native_ci_lower": 5432.1658333333335, "native_ci_upper": 5541.826249999999, "native_mean": 5487.25, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 2.3129646346357427e-18, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 2.3129646346357427e-18, "er_ci_lower": 0.5222222222222223, "er_ci_upper": 0.7000000000000001, "er_mean": 0.611111111111111, "failure_count": 0, "mean_delta": -0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.5777777777777778, "native_ci_upper": 0.7444444444444445, "native_mean": 0.6666666666666666, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.007407407407407405, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407405, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592592, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.23518518518518516, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.007407407407407405, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407405, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592592, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.23518518518518516, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.007407407407407405, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407405, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592592, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.23518518518518516, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.007407407407407405, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407405, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592592, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.23518518518518516, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222223, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.11111111111111112, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.11111111111111112, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.11111111111111112, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.11111111111111112, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.11111111111111112, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 65.08558449614308, "ci_upper": 97.50351745135654, "delta_ci_lower": 65.08558449614308, "delta_ci_upper": 97.50351745135654, "er_ci_lower": 4853.589815572051, "er_ci_upper": 5191.876809118791, "er_mean": 5006.311091650666, "failure_count": 0, "mean_delta": 80.61869796947576, "missing_count": 0, "native_ci_lower": 4776.143478862965, "native_ci_upper": 5104.308273662681, "native_mean": 4925.692393681189, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.02407407407407407, "missing_count": 30, "native_ci_lower": 0.11574074074074074, "native_ci_upper": 0.20833333333333334, "native_mean": 0.1611111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.02407407407407407, "missing_count": 30, "native_ci_lower": 0.11574074074074074, "native_ci_upper": 0.20833333333333334, "native_mean": 0.1611111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.02407407407407407, "missing_count": 30, "native_ci_lower": 0.11574074074074074, "native_ci_upper": 0.20833333333333334, "native_mean": 0.1611111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555556, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555556, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.02407407407407407, "missing_count": 30, "native_ci_lower": 0.11574074074074074, "native_ci_upper": 0.20833333333333334, "native_mean": 0.1611111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04637037037037037, "ci_upper": 0.06759311868686867, "delta_ci_lower": -0.04637037037037037, "delta_ci_upper": 0.06759311868686867, "er_ci_lower": 0.10177777777777779, "er_ci_upper": 0.24444444444444444, "er_mean": 0.1691178451178451, "failure_count": 0, "mean_delta": 0.010174242424242424, "missing_count": 30, "native_ci_lower": 0.09158249158249158, "native_ci_upper": 0.23099800084175084, "native_mean": 0.1589436026936027, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.075, "delta_ci_upper": 0.041666666666666664, "er_ci_lower": 0.20833333333333334, "er_ci_upper": 0.3416666666666667, "er_mean": 0.275, "failure_count": 0, "mean_delta": -0.016666666666666666, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.35833333333333334, "native_mean": 0.2916666666666667, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 757.3964423611081, "ci_upper": 1787.3689528403095, "delta_ci_lower": 757.3964423611081, "delta_ci_upper": 1787.3689528403095, "er_ci_lower": 41942.33958241277, "er_ci_upper": 42787.69349034755, "er_mean": 42371.626619781215, "failure_count": 0, "mean_delta": 1281.52403847198, "missing_count": 0, "native_ci_lower": 40650.59020971577, "native_ci_upper": 41528.6612264211, "native_mean": 41090.102581309235, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 86.27416666666669, "ci_upper": 237.96729166666668, "delta_ci_lower": 86.27416666666669, "delta_ci_upper": 237.96729166666668, "er_ci_lower": 5988.374583333333, "er_ci_upper": 6108.701041666666, "er_mean": 6049.466666666666, "failure_count": 0, "mean_delta": 163.14166666666668, "missing_count": 0, "native_ci_lower": 5825.74875, "native_ci_upper": 5945.042916666667, "native_mean": 5886.325, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 101.48062500000003, "ci_upper": 247.28354166666665, "delta_ci_lower": 101.48062500000003, "delta_ci_upper": 247.28354166666665, "er_ci_lower": 5604.5493750000005, "er_ci_upper": 5718.258541666666, "er_mean": 5662.125, "failure_count": 0, "mean_delta": 174.875, "missing_count": 0, "native_ci_lower": 5432.1658333333335, "native_ci_upper": 5541.826249999999, "native_mean": 5487.25, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.0, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.0, "er_ci_lower": 0.5222222222222223, "er_ci_upper": 0.7, "er_mean": 0.6111111111111112, "failure_count": 0, "mean_delta": -0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.5777777777777777, "native_ci_upper": 0.7444444444444445, "native_mean": 0.6666666666666666, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.007407407407407406, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407406, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592593, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.2351851851851852, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.007407407407407406, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407406, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592593, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.2351851851851852, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.007407407407407406, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407406, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592593, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.2351851851851852, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.007407407407407406, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407406, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592593, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.2351851851851852, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222223, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 65.08558449614308, "ci_upper": 97.50351745135654, "delta_ci_lower": 65.08558449614308, "delta_ci_upper": 97.50351745135654, "er_ci_lower": 4853.58981557205, "er_ci_upper": 5191.876809118791, "er_mean": 5006.311091650666, "failure_count": 0, "mean_delta": 80.61869796947576, "missing_count": 0, "native_ci_lower": 4776.143478862966, "native_ci_upper": 5104.308273662681, "native_mean": 4925.69239368119, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.024074074074074074, "missing_count": 30, "native_ci_lower": 0.11574074074074073, "native_ci_upper": 0.20833333333333334, "native_mean": 0.16111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.024074074074074074, "missing_count": 30, "native_ci_lower": 0.11574074074074073, "native_ci_upper": 0.20833333333333334, "native_mean": 0.16111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.024074074074074074, "missing_count": 30, "native_ci_lower": 0.11574074074074073, "native_ci_upper": 0.20833333333333334, "native_mean": 0.16111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.024074074074074074, "missing_count": 30, "native_ci_lower": 0.11574074074074073, "native_ci_upper": 0.20833333333333334, "native_mean": 0.16111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04637037037037037, "ci_upper": 0.06759311868686868, "delta_ci_lower": -0.04637037037037037, "delta_ci_upper": 0.06759311868686868, "er_ci_lower": 0.10177777777777777, "er_ci_upper": 0.24444444444444444, "er_mean": 0.1691178451178451, "failure_count": 0, "mean_delta": 0.010174242424242426, "missing_count": 30, "native_ci_lower": 0.09158249158249158, "native_ci_upper": 0.23099800084175082, "native_mean": 0.1589436026936027, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.05282994261867501, "ci_upper": 0.060328638497652576, "delta_ci_lower": -0.05282994261867501, "delta_ci_upper": 0.060328638497652576, "er_ci_lower": 0.15238654147104852, "er_ci_upper": 0.2886026343244653, "er_mean": 0.21853155972874283, "failure_count": 0, "mean_delta": 0.0024256651017214373, "missing_count": 0, "native_ci_lower": 0.15237056598852375, "native_ci_upper": 0.28388399843505474, "native_mean": 0.21610589462702137, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 707.0025727734079, "ci_upper": 1770.2470921701904, "delta_ci_lower": 707.0025727734079, "delta_ci_upper": 1770.2470921701904, "er_ci_lower": 41965.02325736418, "er_ci_upper": 42862.122625671014, "er_mean": 42420.21745880584, "failure_count": 0, "mean_delta": 1251.362977025009, "missing_count": 0, "native_ci_lower": 40685.888241802575, "native_ci_upper": 41653.99409416703, "native_mean": 41168.85448178083, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 71.24132563901932, "ci_upper": 233.29313478090768, "delta_ci_lower": 71.24132563901932, "delta_ci_upper": 233.29313478090768, "er_ci_lower": 5978.991452790819, "er_ci_upper": 6109.788272691706, "er_mean": 6045.276591027648, "failure_count": 0, "mean_delta": 154.1710745957225, "missing_count": 0, "native_ci_lower": 5825.437508476787, "native_ci_upper": 5954.669734285342, "native_mean": 5891.105516431925, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03796008869179601, "ci_upper": 0.036186252771618625, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.036186252771618625, "er_ci_lower": 0.0, "er_ci_upper": 0.036186252771618625, "er_mean": 0.012062084257206208, "failure_count": 0, "mean_delta": -0.0005912786400591272, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03796008869179601, "native_mean": 0.012653362897265335, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03796008869179601, "ci_upper": 0.036186252771618625, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.036186252771618625, "er_ci_lower": 0.0, "er_ci_upper": 0.036186252771618625, "er_mean": 0.012062084257206208, "failure_count": 0, "mean_delta": -0.0005912786400591272, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03796008869179601, "native_mean": 0.012653362897265335, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03796008869179601, "ci_upper": 0.036186252771618625, "delta_ci_lower": -0.03796008869179601, "delta_ci_upper": 0.036186252771618625, "er_ci_lower": 0.0, "er_ci_upper": 0.036186252771618625, "er_mean": 0.012062084257206208, "failure_count": 0, "mean_delta": -0.0005912786400591272, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03796008869179601, "native_mean": 0.012653362897265335, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 86.55665655972875, "ci_upper": 243.67479949139278, "delta_ci_lower": 86.55665655972875, "delta_ci_upper": 243.67479949139278, "er_ci_lower": 5594.92934859155, "er_ci_upper": 5718.643821400626, "er_mean": 5658.353612415232, "failure_count": 0, "mean_delta": 167.18046426708398, "missing_count": 0, "native_ci_lower": 5430.868008607198, "native_ci_upper": 5550.908614045383, "native_mean": 5491.173148148148, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.13741315594974132, "ci_upper": -0.0034874353288987647, "delta_ci_lower": -0.13741315594974132, "delta_ci_upper": -0.0034874353288987647, "er_ci_lower": 0.49129711751662986, "er_ci_upper": 0.6730931263858092, "er_mean": 0.5816555801921656, "failure_count": 0, "mean_delta": -0.0667110125646711, "missing_count": 30, "native_ci_lower": 0.5592893569844788, "native_ci_upper": 0.7351219512195122, "native_mean": 0.6483665927568366, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.007181140675043094, "ci_upper": 0.0883771864991377, "delta_ci_lower": -0.007181140675043094, "delta_ci_upper": 0.0883771864991377, "er_ci_lower": 0.2747141537324464, "er_ci_upper": 0.4613122074402562, "er_mean": 0.3668415865976842, "failure_count": 0, "mean_delta": 0.039945799457994584, "missing_count": 30, "native_ci_lower": 0.23730450849963045, "native_ci_upper": 0.4227075634392708, "native_mean": 0.3268957871396896, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.007181140675043094, "ci_upper": 0.0883771864991377, "delta_ci_lower": -0.007181140675043094, "delta_ci_upper": 0.0883771864991377, "er_ci_lower": 0.2747141537324464, "er_ci_upper": 0.4613122074402562, "er_mean": 0.3668415865976842, "failure_count": 0, "mean_delta": 0.039945799457994584, "missing_count": 30, "native_ci_lower": 0.23730450849963045, "native_ci_upper": 0.4227075634392708, "native_mean": 0.3268957871396896, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.007181140675043094, "ci_upper": 0.0883771864991377, "delta_ci_lower": -0.007181140675043094, "delta_ci_upper": 0.0883771864991377, "er_ci_lower": 0.2747141537324464, "er_ci_upper": 0.4613122074402562, "er_mean": 0.3668415865976842, "failure_count": 0, "mean_delta": 0.039945799457994584, "missing_count": 30, "native_ci_lower": 0.23730450849963045, "native_ci_upper": 0.4227075634392708, "native_mean": 0.3268957871396896, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.007181140675043094, "ci_upper": 0.0883771864991377, "delta_ci_lower": -0.007181140675043094, "delta_ci_upper": 0.0883771864991377, "er_ci_lower": 0.2747141537324464, "er_ci_upper": 0.4613122074402562, "er_mean": 0.3668415865976842, "failure_count": 0, "mean_delta": 0.039945799457994584, "missing_count": 30, "native_ci_lower": 0.23730450849963045, "native_ci_upper": 0.4227075634392708, "native_mean": 0.3268957871396896, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.020679970436067993, "ci_upper": 0.12471544715447154, "delta_ci_lower": -0.020679970436067993, "delta_ci_upper": 0.12471544715447154, "er_ci_lower": 0.329830007390983, "er_ci_upper": 0.5344567627494456, "er_mean": 0.43160384331116036, "failure_count": 0, "mean_delta": 0.05002217294900222, "missing_count": 30, "native_ci_lower": 0.28331116038433113, "native_ci_upper": 0.4850258684405026, "native_mean": 0.3815816703621581, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.020679970436067993, "ci_upper": 0.12471544715447154, "delta_ci_lower": -0.020679970436067993, "delta_ci_upper": 0.12471544715447154, "er_ci_lower": 0.329830007390983, "er_ci_upper": 0.5344567627494456, "er_mean": 0.43160384331116036, "failure_count": 0, "mean_delta": 0.05002217294900222, "missing_count": 30, "native_ci_lower": 0.28331116038433113, "native_ci_upper": 0.4850258684405026, "native_mean": 0.3815816703621581, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.020679970436067993, "ci_upper": 0.12471544715447154, "delta_ci_lower": -0.020679970436067993, "delta_ci_upper": 0.12471544715447154, "er_ci_lower": 0.329830007390983, "er_ci_upper": 0.5344567627494456, "er_mean": 0.43160384331116036, "failure_count": 0, "mean_delta": 0.05002217294900222, "missing_count": 30, "native_ci_lower": 0.28331116038433113, "native_ci_upper": 0.4850258684405026, "native_mean": 0.3815816703621581, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.020679970436067993, "ci_upper": 0.12471544715447154, "delta_ci_lower": -0.020679970436067993, "delta_ci_upper": 0.12471544715447154, "er_ci_lower": 0.329830007390983, "er_ci_upper": 0.5344567627494456, "er_mean": 0.43160384331116036, "failure_count": 0, "mean_delta": 0.05002217294900222, "missing_count": 30, "native_ci_lower": 0.28331116038433113, "native_ci_upper": 0.4850258684405026, "native_mean": 0.3815816703621581, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 61.7611374529899, "ci_upper": 99.78280448496932, "delta_ci_lower": 61.7611374529899, "delta_ci_upper": 99.78280448496932, "er_ci_lower": 4887.143906862317, "er_ci_upper": 5308.291588312188, "er_mean": 5074.688896580469, "failure_count": 0, "mean_delta": 79.72895729187267, "missing_count": 0, "native_ci_lower": 4810.8228496986485, "native_ci_upper": 5218.721030291031, "native_mean": 4994.959939288597, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.0065787139689578635, "ci_upper": 0.06084836166543482, "delta_ci_lower": -0.0065787139689578635, "delta_ci_upper": 0.06084836166543482, "er_ci_lower": 0.14071692535107166, "er_ci_upper": 0.2405482877556048, "er_mean": 0.18975609756097564, "failure_count": 0, "mean_delta": 0.02682434097068243, "missing_count": 30, "native_ci_lower": 0.11680339985218037, "native_ci_upper": 0.21197222222222217, "native_mean": 0.1629317565902932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.0065787139689578635, "ci_upper": 0.06084836166543482, "delta_ci_lower": -0.0065787139689578635, "delta_ci_upper": 0.06084836166543482, "er_ci_lower": 0.14071692535107166, "er_ci_upper": 0.2405482877556048, "er_mean": 0.18975609756097564, "failure_count": 0, "mean_delta": 0.02682434097068243, "missing_count": 30, "native_ci_lower": 0.11680339985218037, "native_ci_upper": 0.21197222222222217, "native_mean": 0.1629317565902932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.0065787139689578635, "ci_upper": 0.06084836166543482, "delta_ci_lower": -0.0065787139689578635, "delta_ci_upper": 0.06084836166543482, "er_ci_lower": 0.14071692535107166, "er_ci_upper": 0.2405482877556048, "er_mean": 0.18975609756097564, "failure_count": 0, "mean_delta": 0.02682434097068243, "missing_count": 30, "native_ci_lower": 0.11680339985218037, "native_ci_upper": 0.21197222222222217, "native_mean": 0.1629317565902932, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.0065787139689578635, "ci_upper": 0.06084836166543482, "delta_ci_lower": -0.0065787139689578635, "delta_ci_upper": 0.06084836166543482, "er_ci_lower": 0.14071692535107166, "er_ci_upper": 0.2405482877556048, "er_mean": 0.18975609756097564, "failure_count": 0, "mean_delta": 0.02682434097068243, "missing_count": 30, "native_ci_lower": 0.11680339985218037, "native_ci_upper": 0.21197222222222217, "native_mean": 0.1629317565902932, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.044467755156890415, "ci_upper": 0.07522375058791904, "delta_ci_lower": -0.044467755156890415, "delta_ci_upper": 0.07522375058791904, "er_ci_lower": 0.10638249143317881, "er_ci_upper": 0.25409434119465163, "er_mean": 0.17788639387220317, "failure_count": 0, "mean_delta": 0.015080507962104415, "missing_count": 30, "native_ci_lower": 0.09439763488543976, "native_ci_upper": 0.23626688167708118, "native_mean": 0.16280588591009873, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -178.29194468892305, "ci_upper": 1686.1012668038404, "delta_ci_lower": -178.29194468892305, "delta_ci_upper": 1686.1012668038404, "er_ci_lower": 42227.3405703685, "er_ci_upper": 43726.70928786683, "er_mean": 42965.65778744407, "failure_count": 0, "mean_delta": 774.1359318606555, "missing_count": 0, "native_ci_lower": 41226.160139726904, "native_ci_upper": 43183.06406249554, "native_mean": 42191.521855583414, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -93.63416666666667, "ci_upper": 195.30249999999998, "delta_ci_lower": -93.63416666666667, "delta_ci_upper": 195.30249999999998, "er_ci_lower": 5937.766666666666, "er_ci_upper": 6179.6050000000005, "er_mean": 6059.233333333334, "failure_count": 0, "mean_delta": 53.46666666666667, "missing_count": 0, "native_ci_lower": 5886.088333333334, "native_ci_upper": 6121.401666666666, "native_mean": 6005.766666666666, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -62.70083333333333, "ci_upper": 212.16916666666663, "delta_ci_lower": -62.70083333333333, "delta_ci_upper": 212.16916666666663, "er_ci_lower": 5551.9325, "er_ci_upper": 5767.034166666667, "er_mean": 5660.333333333333, "failure_count": 0, "mean_delta": 77.5, "missing_count": 0, "native_ci_lower": 5475.631666666666, "native_ci_upper": 5685.2725, "native_mean": 5582.833333333333, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.3, "ci_upper": -0.03333333333333333, "delta_ci_lower": -0.3, "delta_ci_upper": -0.03333333333333333, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.6666666666666666, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.005555555555555554, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.005555555555555554, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.2, "er_ci_upper": 0.5, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.15, "native_ci_upper": 0.46111111111111114, "native_mean": 0.29444444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.005555555555555554, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.005555555555555554, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.2, "er_ci_upper": 0.5, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.15, "native_ci_upper": 0.46111111111111114, "native_mean": 0.29444444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.005555555555555554, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.005555555555555554, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.2, "er_ci_upper": 0.5, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.15, "native_ci_upper": 0.46111111111111114, "native_mean": 0.29444444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.005555555555555554, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.005555555555555554, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.2, "er_ci_upper": 0.5, "er_mean": 0.34444444444444444, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.15, "native_ci_upper": 0.46111111111111114, "native_mean": 0.29444444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 44.40956380732435, "ci_upper": 93.7216767575592, "delta_ci_lower": 44.40956380732435, "delta_ci_upper": 93.7216767575592, "er_ci_lower": 4617.057076924249, "er_ci_upper": 5148.70763904318, "er_mean": 4878.075263796684, "failure_count": 0, "mean_delta": 69.47604303713888, "missing_count": 0, "native_ci_lower": 4549.487625469628, "native_ci_upper": 5080.208079939669, "native_mean": 4808.5992207595455, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.03333333333333333, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.29444444444444445, "er_mean": 0.20555555555555557, "failure_count": 0, "mean_delta": 0.03888888888888888, "missing_count": 0, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.29444444444444445, "er_mean": 0.20555555555555557, "failure_count": 0, "mean_delta": 0.03888888888888888, "missing_count": 0, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.29444444444444445, "er_mean": 0.20555555555555557, "failure_count": 0, "mean_delta": 0.03888888888888888, "missing_count": 0, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.29444444444444445, "er_mean": 0.20555555555555557, "failure_count": 0, "mean_delta": 0.03888888888888888, "missing_count": 0, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.26666666666666666, "native_mean": 0.16666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "inference": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 333.48915293977706, "ci_upper": 2444.799491508068, "delta_ci_lower": 333.48915293977706, "delta_ci_upper": 2444.799491508068, "er_ci_lower": 40821.506160059944, "er_ci_upper": 42800.29732394692, "er_mean": 41836.22398613952, "failure_count": 0, "mean_delta": 1451.1923651443794, "missing_count": 0, "native_ci_lower": 39509.69281584568, "native_ci_upper": 41261.81501980551, "native_mean": 40385.03162099514, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 23.0966666666667, "ci_upper": 341.7099999999998, "delta_ci_lower": 23.0966666666667, "delta_ci_upper": 341.7099999999998, "er_ci_lower": 5851.6325, "er_ci_upper": 6126.234166666666, "er_mean": 5994.6, "failure_count": 0, "mean_delta": 192.3, "missing_count": 0, "native_ci_lower": 5671.099166666667, "native_ci_upper": 5935.067499999999, "native_mean": 5802.3, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 41.09250000000007, "ci_upper": 356.93666666666667, "delta_ci_lower": 41.09250000000007, "delta_ci_upper": 356.93666666666667, "er_ci_lower": 5488.256666666666, "er_ci_upper": 5755.175, "er_mean": 5628.066666666667, "failure_count": 0, "mean_delta": 207.53333333333333, "missing_count": 0, "native_ci_lower": 5297.1, "native_ci_upper": 5546.838333333333, "native_mean": 5420.533333333334, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.6166666666666667, "er_mean": 0.45, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.6166666666666667, "er_mean": 0.45, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.6166666666666667, "er_mean": 0.45, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.05555555555555555, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.05555555555555555, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.2833333333333333, "er_ci_upper": 0.6166666666666667, "er_mean": 0.45, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5666666666666667, "native_mean": 0.4, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 29.276555746716138, "ci_upper": 129.55331230351774, "delta_ci_lower": 29.276555746716138, "delta_ci_upper": 129.55331230351774, "er_ci_lower": 4576.457516816057, "er_ci_upper": 5705.304379107352, "er_mean": 5058.877499952602, "failure_count": 0, "mean_delta": 76.09006526181474, "missing_count": 0, "native_ci_lower": 4511.174975611211, "native_ci_upper": 5598.890149278838, "native_mean": 4982.787434690787, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.008333333333333331, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.008333333333333331, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.3, "er_mean": 0.20555555555555557, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.25, "native_mean": 0.17222222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.008333333333333331, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.008333333333333331, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.3, "er_mean": 0.20555555555555557, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.25, "native_mean": 0.17222222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.008333333333333331, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.008333333333333331, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.3, "er_mean": 0.20555555555555557, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.25, "native_mean": 0.17222222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.008333333333333331, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.008333333333333331, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.3, "er_mean": 0.20555555555555557, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.25, "native_mean": 0.17222222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.10858838383838385, "ci_upper": 0.1696969696969697, "delta_ci_lower": -0.10858838383838385, "delta_ci_upper": 0.1696969696969697, "er_ci_lower": 0.20735353535353535, "er_ci_upper": 0.544, "er_mean": 0.37402020202020203, "failure_count": 0, "mean_delta": 0.030522727272727274, "missing_count": 0, "native_ci_lower": 0.1888888888888889, "native_ci_upper": 0.5101641414141415, "native_mean": 0.3434974747474747, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "temporal": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 534.152321893004, "ci_upper": 2857.413658309864, "delta_ci_lower": 534.152321893004, "delta_ci_upper": 2857.413658309864, "er_ci_lower": 41823.26035739834, "er_ci_upper": 43448.378118747685, "er_mean": 42620.71613332567, "failure_count": 0, "mean_delta": 1696.8770096582982, "missing_count": 0, "native_ci_lower": 39979.293156385924, "native_ci_upper": 41930.07822398077, "native_mean": 40923.83912366737, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 80.03166666666667, "ci_upper": 410.0399999999999, "delta_ci_lower": 80.03166666666667, "delta_ci_upper": 410.0399999999999, "er_ci_lower": 5981.2325, "er_ci_upper": 6205.2675, "er_mean": 6092.466666666666, "failure_count": 0, "mean_delta": 244.43333333333334, "missing_count": 0, "native_ci_lower": 5725.196666666667, "native_ci_upper": 5972.2, "native_mean": 5848.033333333334, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 79.43083333333335, "ci_upper": 395.8666666666667, "delta_ci_lower": 79.43083333333335, "delta_ci_upper": 395.8666666666667, "er_ci_lower": 5587.731666666667, "er_ci_upper": 5795.734166666666, "er_mean": 5693.666666666667, "failure_count": 0, "mean_delta": 237.13333333333333, "missing_count": 0, "native_ci_lower": 5340.293333333333, "native_ci_upper": 5571.835, "native_mean": 5456.533333333334, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.7333333333333333, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.03888888888888888, "ci_upper": 0.061111111111111116, "delta_ci_lower": -0.03888888888888888, "delta_ci_upper": 0.061111111111111116, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.2833333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4277777777777778, "native_mean": 0.2722222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.03888888888888888, "ci_upper": 0.061111111111111116, "delta_ci_lower": -0.03888888888888888, "delta_ci_upper": 0.061111111111111116, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.2833333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4277777777777778, "native_mean": 0.2722222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.03888888888888888, "ci_upper": 0.061111111111111116, "delta_ci_lower": -0.03888888888888888, "delta_ci_upper": 0.061111111111111116, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.2833333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4277777777777778, "native_mean": 0.2722222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.03888888888888888, "ci_upper": 0.061111111111111116, "delta_ci_lower": -0.03888888888888888, "delta_ci_upper": 0.061111111111111116, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.43333333333333335, "er_mean": 0.2833333333333333, "failure_count": 0, "mean_delta": 0.011111111111111112, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4277777777777778, "native_mean": 0.2722222222222222, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 80.26094245540055, "ci_upper": 125.34318423878479, "delta_ci_lower": 80.26094245540055, "delta_ci_upper": 125.34318423878479, "er_ci_lower": 5554.021669837724, "er_ci_upper": 6019.248185643034, "er_mean": 5782.455962516057, "failure_count": 0, "mean_delta": 102.75430846571301, "missing_count": 0, "native_ci_lower": 5448.778818530748, "native_ci_upper": 5922.668057065554, "native_mean": 5679.701654050344, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.04444444444444444, "ci_upper": 0.04444444444444444, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.04444444444444444, "er_ci_lower": 0.07222222222222222, "er_ci_upper": 0.2222222222222222, "er_mean": 0.14444444444444443, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.22222222222222224, "native_mean": 0.14444444444444443, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.04444444444444444, "ci_upper": 0.04444444444444444, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.04444444444444444, "er_ci_lower": 0.07222222222222222, "er_ci_upper": 0.2222222222222222, "er_mean": 0.14444444444444443, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.22222222222222224, "native_mean": 0.14444444444444443, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.04444444444444444, "ci_upper": 0.04444444444444444, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.04444444444444444, "er_ci_lower": 0.07222222222222222, "er_ci_upper": 0.2222222222222222, "er_mean": 0.14444444444444443, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.22222222222222224, "native_mean": 0.14444444444444443, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.04444444444444444, "ci_upper": 0.04444444444444444, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.04444444444444444, "er_ci_lower": 0.07222222222222222, "er_ci_upper": 0.2222222222222222, "er_mean": 0.14444444444444443, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.07222222222222222, "native_ci_upper": 0.22222222222222224, "native_mean": 0.14444444444444443, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "unanswerable": { "answer_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 0, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 196.09562062949468, "ci_upper": 2205.7628490000693, "delta_ci_lower": 196.09562062949468, "delta_ci_upper": 2205.7628490000693, "er_ci_lower": 41216.2738117985, "er_ci_upper": 42855.29106902385, "er_mean": 42063.90857221559, "failure_count": 0, "mean_delta": 1203.8908472245869, "missing_count": 0, "native_ci_lower": 40101.83137055312, "native_ci_upper": 41610.872393481746, "native_mean": 40860.017724991, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 17.999166666666675, "ci_upper": 308.06833333333327, "delta_ci_lower": 17.999166666666675, "delta_ci_upper": 308.06833333333327, "er_ci_lower": 5930.866666666667, "er_ci_upper": 6161.9675, "er_mean": 6051.566666666667, "failure_count": 0, "mean_delta": 162.36666666666667, "missing_count": 0, "native_ci_lower": 5777.6641666666665, "native_ci_upper": 6000.634166666667, "native_mean": 5889.2, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "context_token_count": { "ci_lower": 48.96500000000002, "ci_upper": 310.91166666666646, "delta_ci_lower": 48.96500000000002, "delta_ci_upper": 310.91166666666646, "er_ci_lower": 5550.0, "er_ci_upper": 5774.534166666667, "er_mean": 5666.433333333333, "failure_count": 0, "mean_delta": 177.33333333333334, "missing_count": 0, "native_ci_lower": 5391.1325, "native_ci_upper": 5584.100833333334, "native_mean": 5489.1, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_latency_ms": { "ci_lower": 50.13522663502954, "ci_upper": 99.21446658680604, "delta_ci_lower": 50.13522663502954, "delta_ci_upper": 99.21446658680604, "er_ci_lower": 4167.129814342091, "er_ci_upper": 4438.318648240916, "er_mean": 4305.835640337318, "failure_count": 0, "mean_delta": 74.15437511323641, "missing_count": 0, "native_ci_lower": 4098.45086826778, "native_ci_upper": 4361.357628572054, "native_mean": 4231.6812652240815, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 0, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.075, "ci_upper": 0.041666666666666664, "delta_ci_lower": -0.075, "delta_ci_upper": 0.041666666666666664, "er_ci_lower": 0.20833333333333334, "er_ci_upper": 0.3416666666666667, "er_mean": 0.275, "failure_count": 0, "mean_delta": -0.016666666666666666, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.35833333333333334, "native_mean": 0.2916666666666667, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 757.3964423611081, "ci_upper": 1787.3689528403095, "delta_ci_lower": 757.3964423611081, "delta_ci_upper": 1787.3689528403095, "er_ci_lower": 41942.33958241277, "er_ci_upper": 42787.69349034755, "er_mean": 42371.626619781215, "failure_count": 0, "mean_delta": 1281.52403847198, "missing_count": 0, "native_ci_lower": 40650.59020971577, "native_ci_upper": 41528.6612264211, "native_mean": 41090.102581309235, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": 86.27416666666669, "ci_upper": 237.96729166666668, "delta_ci_lower": 86.27416666666669, "delta_ci_upper": 237.96729166666668, "er_ci_lower": 5988.374583333333, "er_ci_upper": 6108.701041666666, "er_mean": 6049.466666666666, "failure_count": 0, "mean_delta": 163.14166666666668, "missing_count": 0, "native_ci_lower": 5825.74875, "native_ci_upper": 5945.042916666667, "native_mean": 5886.325, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.03333333333333333, "er_mean": 0.011111111111111112, "failure_count": 0, "mean_delta": 0.0, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.03333333333333333, "native_mean": 0.011111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": 101.48062500000003, "ci_upper": 247.28354166666665, "delta_ci_lower": 101.48062500000003, "delta_ci_upper": 247.28354166666665, "er_ci_lower": 5604.5493750000005, "er_ci_upper": 5718.258541666666, "er_mean": 5662.125, "failure_count": 0, "mean_delta": 174.875, "missing_count": 0, "native_ci_lower": 5432.1658333333335, "native_ci_upper": 5541.826249999999, "native_mean": 5487.25, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.12222222222222222, "ci_upper": 0.0, "delta_ci_lower": -0.12222222222222222, "delta_ci_upper": 0.0, "er_ci_lower": 0.5222222222222223, "er_ci_upper": 0.7, "er_mean": 0.6111111111111112, "failure_count": 0, "mean_delta": -0.05555555555555555, "missing_count": 30, "native_ci_lower": 0.5777777777777777, "native_ci_upper": 0.7444444444444445, "native_mean": 0.6666666666666666, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.007407407407407406, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407406, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592593, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.2351851851851852, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.007407407407407406, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407406, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592593, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.2351851851851852, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.007407407407407406, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407406, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592593, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.2351851851851852, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.007407407407407406, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.007407407407407406, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.27037037037037037, "er_ci_upper": 0.45004629629629567, "er_mean": 0.3592592592592593, "failure_count": 0, "mean_delta": 0.03703703703703704, "missing_count": 30, "native_ci_lower": 0.2351851851851852, "native_ci_upper": 0.4166666666666667, "native_mean": 0.32222222222222224, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.022222222222222223, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.022222222222222223, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.022222222222222223, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.022222222222222223, "ci_upper": 0.1111111111111111, "delta_ci_lower": -0.022222222222222223, "delta_ci_upper": 0.1111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.2777777777777778, "native_ci_upper": 0.4777777777777778, "native_mean": 0.37777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 65.08558449614308, "ci_upper": 97.50351745135654, "delta_ci_lower": 65.08558449614308, "delta_ci_upper": 97.50351745135654, "er_ci_lower": 4853.58981557205, "er_ci_upper": 5191.876809118791, "er_mean": 5006.311091650666, "failure_count": 0, "mean_delta": 80.61869796947576, "missing_count": 0, "native_ci_lower": 4776.143478862966, "native_ci_upper": 5104.308273662681, "native_mean": 4925.69239368119, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.024074074074074074, "missing_count": 30, "native_ci_lower": 0.11574074074074073, "native_ci_upper": 0.20833333333333334, "native_mean": 0.16111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.024074074074074074, "missing_count": 30, "native_ci_lower": 0.11574074074074073, "native_ci_upper": 0.20833333333333334, "native_mean": 0.16111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.024074074074074074, "missing_count": 30, "native_ci_lower": 0.11574074074074073, "native_ci_upper": 0.20833333333333334, "native_mean": 0.16111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.007407407407407407, "ci_upper": 0.05555555555555555, "delta_ci_lower": -0.007407407407407407, "delta_ci_upper": 0.05555555555555555, "er_ci_lower": 0.13796296296296295, "er_ci_upper": 0.23425925925925925, "er_mean": 0.1851851851851852, "failure_count": 0, "mean_delta": 0.024074074074074074, "missing_count": 30, "native_ci_lower": 0.11574074074074073, "native_ci_upper": 0.20833333333333334, "native_mean": 0.16111111111111112, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.04637037037037037, "ci_upper": 0.06759311868686868, "delta_ci_lower": -0.04637037037037037, "delta_ci_upper": 0.06759311868686868, "er_ci_lower": 0.10177777777777777, "er_ci_upper": 0.24444444444444444, "er_mean": 0.1691178451178451, "failure_count": 0, "mean_delta": 0.010174242424242426, "missing_count": 30, "native_ci_lower": 0.09158249158249158, "native_ci_upper": 0.23099800084175082, "native_mean": 0.1589436026936027, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.26666666666666666, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.26666666666666666, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.5666666666666667, "native_ci_upper": 0.9, "native_mean": 0.7333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "paired_question_count": 120, "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_85df22828efa71c2b6754a25", "builder_key": "gemma3_1b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.075, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.075, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.3666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.008333333333333333, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.36666666666666664, "native_mean": 0.29166666666666663, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -371.8333757126916, "ci_upper": 1083.2715635669106, "delta_ci_lower": -371.8333757126916, "delta_ci_upper": 1083.2715635669106, "er_ci_lower": 41174.159377029726, "er_ci_upper": 42164.00902178969, "er_mean": 41671.419054461876, "failure_count": 0, "mean_delta": 362.10115590074565, "missing_count": 0, "native_ci_lower": 40780.083640153054, "native_ci_upper": 41861.17233269301, "native_mean": 41309.31789856113, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.16166666666663, "ci_upper": 137.1852083333332, "delta_ci_lower": -65.16166666666663, "delta_ci_upper": 137.1852083333332, "er_ci_lower": 5872.8410416666675, "er_ci_upper": 6005.778541666666, "er_mean": 5938.975, "failure_count": 0, "mean_delta": 37.25, "missing_count": 0, "native_ci_lower": 5829.807083333333, "native_ci_upper": 5975.5287499999995, "native_mean": 5901.725, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.04472222222221977, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04472222222221977, "delta_ci_upper": 0.022222222222222227, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.04472222222221977, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04472222222221977, "delta_ci_upper": 0.022222222222222227, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.04472222222221977, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04472222222221977, "delta_ci_upper": 0.022222222222222227, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -61.90312499999997, "ci_upper": 129.32104166666662, "delta_ci_lower": -61.90312499999997, "delta_ci_upper": 129.32104166666662, "er_ci_lower": 5503.366458333333, "er_ci_upper": 5632.909583333333, "er_mean": 5567.991666666667, "failure_count": 0, "mean_delta": 33.983333333333334, "missing_count": 0, "native_ci_lower": 5466.015625, "native_ci_upper": 5601.508333333333, "native_mean": 5534.008333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.011111111111111112, "ci_upper": 0.14444444444444446, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.14444444444444446, "er_ci_lower": 0.5222222222222223, "er_ci_upper": 0.7000000000000001, "er_mean": 0.611111111111111, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.45555555555555555, "native_ci_upper": 0.6333333333333333, "native_mean": 0.5444444444444444, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.07592592592592592, "ci_upper": 0.07129629629629629, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.07129629629629629, "er_ci_lower": 0.2814814814814815, "er_ci_upper": 0.45925925925925926, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.07592592592592592, "ci_upper": 0.07129629629629629, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.07129629629629629, "er_ci_lower": 0.2814814814814815, "er_ci_upper": 0.45925925925925926, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.07592592592592592, "ci_upper": 0.07129629629629629, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.07129629629629629, "er_ci_lower": 0.2814814814814815, "er_ci_upper": 0.45925925925925926, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.07592592592592592, "ci_upper": 0.07129629629629629, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.07129629629629629, "er_ci_lower": 0.2814814814814815, "er_ci_upper": 0.45925925925925926, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777778, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777778, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777778, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777778, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 65.16985116048697, "ci_upper": 104.33661941494694, "delta_ci_lower": 65.16985116048697, "delta_ci_upper": 104.33661941494694, "er_ci_lower": 4886.356355629687, "er_ci_upper": 5206.511433483587, "er_mean": 5033.744998576974, "failure_count": 0, "mean_delta": 86.28016972409873, "missing_count": 0, "native_ci_lower": 4790.501605299918, "native_ci_upper": 5135.821469616397, "native_mean": 4947.464828852874, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.03333333333333333, "ci_upper": 0.061111111111111116, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.061111111111111116, "er_ci_lower": 0.17500000000000002, "er_ci_upper": 0.28518518518518515, "er_mean": 0.22962962962962963, "failure_count": 0, "mean_delta": 0.012962962962962963, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.061111111111111116, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.061111111111111116, "er_ci_lower": 0.17500000000000002, "er_ci_upper": 0.28518518518518515, "er_mean": 0.22962962962962963, "failure_count": 0, "mean_delta": 0.012962962962962963, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.061111111111111116, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.061111111111111116, "er_ci_lower": 0.17500000000000002, "er_ci_upper": 0.28518518518518515, "er_mean": 0.22962962962962963, "failure_count": 0, "mean_delta": 0.012962962962962963, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.061111111111111116, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.061111111111111116, "er_ci_lower": 0.17500000000000002, "er_ci_upper": 0.28518518518518515, "er_mean": 0.22962962962962963, "failure_count": 0, "mean_delta": 0.012962962962962963, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06757369614512472, "ci_upper": 0.06575963718820861, "delta_ci_lower": -0.06757369614512472, "delta_ci_upper": 0.06575963718820861, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.26666666666666666, "er_mean": 0.18888888888888888, "failure_count": 0, "mean_delta": -0.0009070294784580499, "missing_count": 30, "native_ci_lower": 0.12222222222222222, "native_ci_upper": 0.26666666666666666, "native_mean": 0.1897959183673469, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.5, "er_ci_upper": 0.8333333333333334, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.075, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.075, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.36666666666666664, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.008333333333333333, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2916666666666667, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -371.8333757126916, "ci_upper": 1083.2715635669106, "delta_ci_lower": -371.8333757126916, "delta_ci_upper": 1083.2715635669106, "er_ci_lower": 41174.15937702972, "er_ci_upper": 42164.00902178969, "er_mean": 41671.419054461876, "failure_count": 0, "mean_delta": 362.10115590074565, "missing_count": 0, "native_ci_lower": 40780.083640153054, "native_ci_upper": 41861.172332693, "native_mean": 41309.31789856113, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.16166666666663, "ci_upper": 137.1852083333332, "delta_ci_lower": -65.16166666666663, "delta_ci_upper": 137.1852083333332, "er_ci_lower": 5872.841041666667, "er_ci_upper": 6005.778541666667, "er_mean": 5938.975, "failure_count": 0, "mean_delta": 37.25, "missing_count": 0, "native_ci_lower": 5829.807083333333, "native_ci_upper": 5975.5287499999995, "native_mean": 5901.725, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -61.90312499999997, "ci_upper": 129.32104166666662, "delta_ci_lower": -61.90312499999997, "delta_ci_upper": 129.32104166666662, "er_ci_lower": 5503.366458333333, "er_ci_upper": 5632.909583333334, "er_mean": 5567.991666666667, "failure_count": 0, "mean_delta": 33.983333333333334, "missing_count": 0, "native_ci_lower": 5466.015625, "native_ci_upper": 5601.508333333333, "native_mean": 5534.008333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.011111111111111112, "ci_upper": 0.14444444444444443, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.14444444444444443, "er_ci_lower": 0.5222222222222223, "er_ci_upper": 0.7, "er_mean": 0.6111111111111112, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.45555555555555555, "native_ci_upper": 0.6333333333333333, "native_mean": 0.5444444444444444, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.07592592592592592, "ci_upper": 0.0712962962962963, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.0712962962962963, "er_ci_lower": 0.28148148148148144, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.07592592592592592, "ci_upper": 0.0712962962962963, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.0712962962962963, "er_ci_lower": 0.28148148148148144, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.07592592592592592, "ci_upper": 0.0712962962962963, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.0712962962962963, "er_ci_lower": 0.28148148148148144, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.07592592592592592, "ci_upper": 0.0712962962962963, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.0712962962962963, "er_ci_lower": 0.28148148148148144, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777777, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777777, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777777, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777777, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 65.16985116048697, "ci_upper": 104.33661941494695, "delta_ci_lower": 65.16985116048697, "delta_ci_upper": 104.33661941494695, "er_ci_lower": 4886.356355629687, "er_ci_upper": 5206.511433483587, "er_mean": 5033.744998576974, "failure_count": 0, "mean_delta": 86.28016972409871, "missing_count": 0, "native_ci_lower": 4790.501605299918, "native_ci_upper": 5135.821469616397, "native_mean": 4947.464828852874, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.03333333333333333, "ci_upper": 0.06111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.06111111111111111, "er_ci_lower": 0.175, "er_ci_upper": 0.2851851851851852, "er_mean": 0.22962962962962966, "failure_count": 0, "mean_delta": 0.012962962962962964, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.06111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.06111111111111111, "er_ci_lower": 0.175, "er_ci_upper": 0.2851851851851852, "er_mean": 0.22962962962962966, "failure_count": 0, "mean_delta": 0.012962962962962964, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.06111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.06111111111111111, "er_ci_lower": 0.175, "er_ci_upper": 0.2851851851851852, "er_mean": 0.22962962962962966, "failure_count": 0, "mean_delta": 0.012962962962962964, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.06111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.06111111111111111, "er_ci_lower": 0.175, "er_ci_upper": 0.2851851851851852, "er_mean": 0.22962962962962966, "failure_count": 0, "mean_delta": 0.012962962962962964, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06757369614512472, "ci_upper": 0.06575963718820861, "delta_ci_lower": -0.06757369614512472, "delta_ci_upper": 0.06575963718820861, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.26666666666666666, "er_mean": 0.18888888888888888, "failure_count": 0, "mean_delta": -0.0009070294784580496, "missing_count": 30, "native_ci_lower": 0.12222222222222222, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18979591836734694, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.5, "er_ci_upper": 0.8333333333333334, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.05586854460093897, "ci_upper": 0.07029212310902452, "delta_ci_lower": -0.05586854460093897, "delta_ci_upper": 0.07029212310902452, "er_ci_lower": 0.17734741784037558, "er_ci_upper": 0.3130187141366718, "er_mean": 0.24321857068335942, "failure_count": 0, "mean_delta": 0.006442357850808556, "missing_count": 0, "native_ci_lower": 0.1689687663015128, "native_ci_upper": 0.3082296557120501, "native_mean": 0.23677621283255085, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -521.471318470381, "ci_upper": 1073.2988423651966, "delta_ci_lower": -521.471318470381, "delta_ci_upper": 1073.2988423651966, "er_ci_lower": 41109.872311911415, "er_ci_upper": 42194.68542279707, "er_mean": 41653.91597049755, "failure_count": 0, "mean_delta": 276.99297502253626, "missing_count": 0, "native_ci_lower": 40776.76545514737, "native_ci_upper": 41989.19122985036, "native_mean": 41376.92299547502, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -85.20999347939488, "ci_upper": 132.76174687010956, "delta_ci_lower": -85.20999347939488, "delta_ci_upper": 132.76174687010956, "er_ci_lower": 5850.905085745958, "er_ci_upper": 5992.847109415754, "er_mean": 5922.206025039123, "failure_count": 0, "mean_delta": 24.50238654147105, "missing_count": 0, "native_ci_lower": 5820.634798187272, "native_ci_upper": 5976.795600547731, "native_mean": 5897.703638497653, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05265927568366352, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05265927568366352, "delta_ci_upper": 0.024124168514412417, "er_ci_lower": 0.0, "er_ci_upper": 0.07410199556541021, "er_mean": 0.0327420546932742, "failure_count": 0, "mean_delta": -0.013244641537324462, "missing_count": 30, "native_ci_lower": 0.008617886178861788, "native_ci_upper": 0.09600886917960089, "native_mean": 0.045986696230598666, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05265927568366352, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05265927568366352, "delta_ci_upper": 0.024124168514412417, "er_ci_lower": 0.0, "er_ci_upper": 0.07410199556541021, "er_mean": 0.0327420546932742, "failure_count": 0, "mean_delta": -0.013244641537324462, "missing_count": 30, "native_ci_lower": 0.008617886178861788, "native_ci_upper": 0.09600886917960089, "native_mean": 0.045986696230598666, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05265927568366352, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05265927568366352, "delta_ci_upper": 0.024124168514412417, "er_ci_lower": 0.0, "er_ci_upper": 0.07410199556541021, "er_mean": 0.0327420546932742, "failure_count": 0, "mean_delta": -0.013244641537324462, "missing_count": 30, "native_ci_lower": 0.008617886178861788, "native_ci_upper": 0.09600886917960089, "native_mean": 0.045986696230598666, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -80.75412330464266, "ci_upper": 125.12194933489825, "delta_ci_lower": -80.75412330464266, "delta_ci_upper": 125.12194933489825, "er_ci_lower": 5478.819900886802, "er_ci_upper": 5617.260605438184, "er_mean": 5548.324895670318, "failure_count": 0, "mean_delta": 22.930738132498696, "missing_count": 0, "native_ci_lower": 5454.133869653103, "native_ci_upper": 5597.053615349505, "native_mean": 5525.394157537819, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.018474870657797376, "ci_upper": 0.1528887657058387, "delta_ci_lower": -0.018474870657797376, "delta_ci_upper": 0.1528887657058387, "er_ci_lower": 0.4873747228381375, "er_ci_upper": 0.6752993348115299, "er_mean": 0.5810643015521064, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.4183887657058389, "native_ci_upper": 0.6114855875831485, "native_mean": 0.5143976348854398, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.07441642030056664, "ci_upper": 0.07439969820152739, "delta_ci_lower": -0.07441642030056664, "delta_ci_upper": 0.07439969820152739, "er_ci_lower": 0.2868978812515398, "er_ci_upper": 0.4688512564671101, "er_mean": 0.37769154964276913, "failure_count": 0, "mean_delta": -0.00128479921162848, "missing_count": 30, "native_ci_lower": 0.2863278208918452, "native_ci_upper": 0.4768935082532644, "native_mean": 0.3789763488543976, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.07441642030056664, "ci_upper": 0.07439969820152739, "delta_ci_lower": -0.07441642030056664, "delta_ci_upper": 0.07439969820152739, "er_ci_lower": 0.2868978812515398, "er_ci_upper": 0.4688512564671101, "er_mean": 0.37769154964276913, "failure_count": 0, "mean_delta": -0.00128479921162848, "missing_count": 30, "native_ci_lower": 0.2863278208918452, "native_ci_upper": 0.4768935082532644, "native_mean": 0.3789763488543976, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.07441642030056664, "ci_upper": 0.07439969820152739, "delta_ci_lower": -0.07441642030056664, "delta_ci_upper": 0.07439969820152739, "er_ci_lower": 0.2868978812515398, "er_ci_upper": 0.4688512564671101, "er_mean": 0.37769154964276913, "failure_count": 0, "mean_delta": -0.00128479921162848, "missing_count": 30, "native_ci_lower": 0.2863278208918452, "native_ci_upper": 0.4768935082532644, "native_mean": 0.3789763488543976, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.07441642030056664, "ci_upper": 0.07439969820152739, "delta_ci_lower": -0.07441642030056664, "delta_ci_upper": 0.07439969820152739, "er_ci_lower": 0.2868978812515398, "er_ci_upper": 0.4688512564671101, "er_mean": 0.37769154964276913, "failure_count": 0, "mean_delta": -0.00128479921162848, "missing_count": 30, "native_ci_lower": 0.2863278208918452, "native_ci_upper": 0.4768935082532644, "native_mean": 0.3789763488543976, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.044759793052475974, "ci_upper": 0.1310284552845528, "delta_ci_lower": -0.044759793052475974, "delta_ci_upper": 0.1310284552845528, "er_ci_lower": 0.37757723577235786, "er_ci_upper": 0.589120473022912, "er_mean": 0.4839467849223947, "failure_count": 0, "mean_delta": 0.04313377679231338, "missing_count": 30, "native_ci_lower": 0.3385070214338507, "native_ci_upper": 0.54430155210643, "native_mean": 0.44081300813008134, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.044759793052475974, "ci_upper": 0.1310284552845528, "delta_ci_lower": -0.044759793052475974, "delta_ci_upper": 0.1310284552845528, "er_ci_lower": 0.37757723577235786, "er_ci_upper": 0.589120473022912, "er_mean": 0.4839467849223947, "failure_count": 0, "mean_delta": 0.04313377679231338, "missing_count": 30, "native_ci_lower": 0.3385070214338507, "native_ci_upper": 0.54430155210643, "native_mean": 0.44081300813008134, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.044759793052475974, "ci_upper": 0.1310284552845528, "delta_ci_lower": -0.044759793052475974, "delta_ci_upper": 0.1310284552845528, "er_ci_lower": 0.37757723577235786, "er_ci_upper": 0.589120473022912, "er_mean": 0.4839467849223947, "failure_count": 0, "mean_delta": 0.04313377679231338, "missing_count": 30, "native_ci_lower": 0.3385070214338507, "native_ci_upper": 0.54430155210643, "native_mean": 0.44081300813008134, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.044759793052475974, "ci_upper": 0.1310284552845528, "delta_ci_lower": -0.044759793052475974, "delta_ci_upper": 0.1310284552845528, "er_ci_lower": 0.37757723577235786, "er_ci_upper": 0.589120473022912, "er_mean": 0.4839467849223947, "failure_count": 0, "mean_delta": 0.04313377679231338, "missing_count": 30, "native_ci_lower": 0.3385070214338507, "native_ci_upper": 0.54430155210643, "native_mean": 0.44081300813008134, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 57.81214510993156, "ci_upper": 100.55931753547225, "delta_ci_lower": 57.81214510993156, "delta_ci_upper": 100.55931753547225, "er_ci_lower": 4913.707427468355, "er_ci_upper": 5311.210858716442, "er_mean": 5094.830227356027, "failure_count": 0, "mean_delta": 82.11521509258455, "missing_count": 0, "native_ci_lower": 4822.203728600751, "native_ci_upper": 5248.450239517373, "native_mean": 5012.715012263442, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.03479114313870409, "ci_upper": 0.061700357230845035, "delta_ci_lower": -0.03479114313870409, "delta_ci_upper": 0.061700357230845035, "er_ci_lower": 0.1770581423996058, "er_ci_upper": 0.2884364991377186, "er_mean": 0.23190440995319042, "failure_count": 0, "mean_delta": 0.012350332594235033, "missing_count": 30, "native_ci_lower": 0.16206762749445677, "native_ci_upper": 0.28072216063069716, "native_mean": 0.2195540773589554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.03479114313870409, "ci_upper": 0.061700357230845035, "delta_ci_lower": -0.03479114313870409, "delta_ci_upper": 0.061700357230845035, "er_ci_lower": 0.1770581423996058, "er_ci_upper": 0.2884364991377186, "er_mean": 0.23190440995319042, "failure_count": 0, "mean_delta": 0.012350332594235033, "missing_count": 30, "native_ci_lower": 0.16206762749445677, "native_ci_upper": 0.28072216063069716, "native_mean": 0.2195540773589554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.03479114313870409, "ci_upper": 0.061700357230845035, "delta_ci_lower": -0.03479114313870409, "delta_ci_upper": 0.061700357230845035, "er_ci_lower": 0.1770581423996058, "er_ci_upper": 0.2884364991377186, "er_mean": 0.23190440995319042, "failure_count": 0, "mean_delta": 0.012350332594235033, "missing_count": 30, "native_ci_lower": 0.16206762749445677, "native_ci_upper": 0.28072216063069716, "native_mean": 0.2195540773589554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.03479114313870409, "ci_upper": 0.061700357230845035, "delta_ci_lower": -0.03479114313870409, "delta_ci_upper": 0.061700357230845035, "er_ci_lower": 0.1770581423996058, "er_ci_upper": 0.2884364991377186, "er_mean": 0.23190440995319042, "failure_count": 0, "mean_delta": 0.012350332594235033, "missing_count": 30, "native_ci_lower": 0.16206762749445677, "native_ci_upper": 0.28072216063069716, "native_mean": 0.2195540773589554, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06479840716774514, "ci_upper": 0.06908532814456153, "delta_ci_lower": -0.06479840716774514, "delta_ci_upper": 0.06908532814456153, "er_ci_lower": 0.12579453067257945, "er_ci_upper": 0.27345269770879527, "er_mean": 0.1987583148558758, "failure_count": 0, "mean_delta": 0.0018682594989215206, "missing_count": 30, "native_ci_lower": 0.12294161123429416, "native_ci_upper": 0.27463519465435837, "native_mean": 0.19689005535695428, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.5, "er_ci_upper": 0.8333333333333334, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.075, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.075, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.3666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.008333333333333333, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.36666666666666664, "native_mean": 0.29166666666666663, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -371.8333757126916, "ci_upper": 1083.2715635669106, "delta_ci_lower": -371.8333757126916, "delta_ci_upper": 1083.2715635669106, "er_ci_lower": 41174.159377029726, "er_ci_upper": 42164.00902178969, "er_mean": 41671.419054461876, "failure_count": 0, "mean_delta": 362.10115590074565, "missing_count": 0, "native_ci_lower": 40780.083640153054, "native_ci_upper": 41861.17233269301, "native_mean": 41309.31789856113, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.16166666666663, "ci_upper": 137.1852083333332, "delta_ci_lower": -65.16166666666663, "delta_ci_upper": 137.1852083333332, "er_ci_lower": 5872.8410416666675, "er_ci_upper": 6005.778541666666, "er_mean": 5938.975, "failure_count": 0, "mean_delta": 37.25, "missing_count": 0, "native_ci_lower": 5829.807083333333, "native_ci_upper": 5975.5287499999995, "native_mean": 5901.725, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.04472222222221977, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04472222222221977, "delta_ci_upper": 0.022222222222222227, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.04472222222221977, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04472222222221977, "delta_ci_upper": 0.022222222222222227, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.04472222222221977, "ci_upper": 0.022222222222222227, "delta_ci_lower": -0.04472222222221977, "delta_ci_upper": 0.022222222222222227, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -61.90312499999997, "ci_upper": 129.32104166666662, "delta_ci_lower": -61.90312499999997, "delta_ci_upper": 129.32104166666662, "er_ci_lower": 5503.366458333333, "er_ci_upper": 5632.909583333333, "er_mean": 5567.991666666667, "failure_count": 0, "mean_delta": 33.983333333333334, "missing_count": 0, "native_ci_lower": 5466.015625, "native_ci_upper": 5601.508333333333, "native_mean": 5534.008333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.011111111111111112, "ci_upper": 0.14444444444444446, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.14444444444444446, "er_ci_lower": 0.5222222222222223, "er_ci_upper": 0.7000000000000001, "er_mean": 0.611111111111111, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.45555555555555555, "native_ci_upper": 0.6333333333333333, "native_mean": 0.5444444444444444, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.07592592592592592, "ci_upper": 0.07129629629629629, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.07129629629629629, "er_ci_lower": 0.2814814814814815, "er_ci_upper": 0.45925925925925926, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.07592592592592592, "ci_upper": 0.07129629629629629, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.07129629629629629, "er_ci_lower": 0.2814814814814815, "er_ci_upper": 0.45925925925925926, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.07592592592592592, "ci_upper": 0.07129629629629629, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.07129629629629629, "er_ci_lower": 0.2814814814814815, "er_ci_upper": 0.45925925925925926, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.07592592592592592, "ci_upper": 0.07129629629629629, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.07129629629629629, "er_ci_lower": 0.2814814814814815, "er_ci_upper": 0.45925925925925926, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777778, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777778, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777778, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777778, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 65.16985116048697, "ci_upper": 104.33661941494694, "delta_ci_lower": 65.16985116048697, "delta_ci_upper": 104.33661941494694, "er_ci_lower": 4886.356355629687, "er_ci_upper": 5206.511433483587, "er_mean": 5033.744998576974, "failure_count": 0, "mean_delta": 86.28016972409873, "missing_count": 0, "native_ci_lower": 4790.501605299918, "native_ci_upper": 5135.821469616397, "native_mean": 4947.464828852874, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.03333333333333333, "ci_upper": 0.061111111111111116, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.061111111111111116, "er_ci_lower": 0.17500000000000002, "er_ci_upper": 0.28518518518518515, "er_mean": 0.22962962962962963, "failure_count": 0, "mean_delta": 0.012962962962962963, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.061111111111111116, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.061111111111111116, "er_ci_lower": 0.17500000000000002, "er_ci_upper": 0.28518518518518515, "er_mean": 0.22962962962962963, "failure_count": 0, "mean_delta": 0.012962962962962963, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.061111111111111116, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.061111111111111116, "er_ci_lower": 0.17500000000000002, "er_ci_upper": 0.28518518518518515, "er_mean": 0.22962962962962963, "failure_count": 0, "mean_delta": 0.012962962962962963, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.061111111111111116, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.061111111111111116, "er_ci_lower": 0.17500000000000002, "er_ci_upper": 0.28518518518518515, "er_mean": 0.22962962962962963, "failure_count": 0, "mean_delta": 0.012962962962962963, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06757369614512472, "ci_upper": 0.06575963718820861, "delta_ci_lower": -0.06757369614512472, "delta_ci_upper": 0.06575963718820861, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.26666666666666666, "er_mean": 0.18888888888888888, "failure_count": 0, "mean_delta": -0.0009070294784580499, "missing_count": 30, "native_ci_lower": 0.12222222222222222, "native_ci_upper": 0.26666666666666666, "native_mean": 0.1897959183673469, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.5, "er_ci_upper": 0.8333333333333334, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.075, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.075, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.36666666666666664, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.008333333333333333, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2916666666666667, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -371.8333757126916, "ci_upper": 1083.2715635669106, "delta_ci_lower": -371.8333757126916, "delta_ci_upper": 1083.2715635669106, "er_ci_lower": 41174.15937702972, "er_ci_upper": 42164.00902178969, "er_mean": 41671.419054461876, "failure_count": 0, "mean_delta": 362.10115590074565, "missing_count": 0, "native_ci_lower": 40780.083640153054, "native_ci_upper": 41861.172332693, "native_mean": 41309.31789856113, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.16166666666663, "ci_upper": 137.1852083333332, "delta_ci_lower": -65.16166666666663, "delta_ci_upper": 137.1852083333332, "er_ci_lower": 5872.841041666667, "er_ci_upper": 6005.778541666667, "er_mean": 5938.975, "failure_count": 0, "mean_delta": 37.25, "missing_count": 0, "native_ci_lower": 5829.807083333333, "native_ci_upper": 5975.5287499999995, "native_mean": 5901.725, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -61.90312499999997, "ci_upper": 129.32104166666662, "delta_ci_lower": -61.90312499999997, "delta_ci_upper": 129.32104166666662, "er_ci_lower": 5503.366458333333, "er_ci_upper": 5632.909583333334, "er_mean": 5567.991666666667, "failure_count": 0, "mean_delta": 33.983333333333334, "missing_count": 0, "native_ci_lower": 5466.015625, "native_ci_upper": 5601.508333333333, "native_mean": 5534.008333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.011111111111111112, "ci_upper": 0.14444444444444443, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.14444444444444443, "er_ci_lower": 0.5222222222222223, "er_ci_upper": 0.7, "er_mean": 0.6111111111111112, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.45555555555555555, "native_ci_upper": 0.6333333333333333, "native_mean": 0.5444444444444444, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.07592592592592592, "ci_upper": 0.0712962962962963, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.0712962962962963, "er_ci_lower": 0.28148148148148144, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.07592592592592592, "ci_upper": 0.0712962962962963, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.0712962962962963, "er_ci_lower": 0.28148148148148144, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.07592592592592592, "ci_upper": 0.0712962962962963, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.0712962962962963, "er_ci_lower": 0.28148148148148144, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.07592592592592592, "ci_upper": 0.0712962962962963, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.0712962962962963, "er_ci_lower": 0.28148148148148144, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777777, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777777, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777777, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777777, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 65.16985116048697, "ci_upper": 104.33661941494695, "delta_ci_lower": 65.16985116048697, "delta_ci_upper": 104.33661941494695, "er_ci_lower": 4886.356355629687, "er_ci_upper": 5206.511433483587, "er_mean": 5033.744998576974, "failure_count": 0, "mean_delta": 86.28016972409871, "missing_count": 0, "native_ci_lower": 4790.501605299918, "native_ci_upper": 5135.821469616397, "native_mean": 4947.464828852874, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.03333333333333333, "ci_upper": 0.06111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.06111111111111111, "er_ci_lower": 0.175, "er_ci_upper": 0.2851851851851852, "er_mean": 0.22962962962962966, "failure_count": 0, "mean_delta": 0.012962962962962964, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.06111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.06111111111111111, "er_ci_lower": 0.175, "er_ci_upper": 0.2851851851851852, "er_mean": 0.22962962962962966, "failure_count": 0, "mean_delta": 0.012962962962962964, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.06111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.06111111111111111, "er_ci_lower": 0.175, "er_ci_upper": 0.2851851851851852, "er_mean": 0.22962962962962966, "failure_count": 0, "mean_delta": 0.012962962962962964, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.06111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.06111111111111111, "er_ci_lower": 0.175, "er_ci_upper": 0.2851851851851852, "er_mean": 0.22962962962962966, "failure_count": 0, "mean_delta": 0.012962962962962964, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06757369614512472, "ci_upper": 0.06575963718820861, "delta_ci_lower": -0.06757369614512472, "delta_ci_upper": 0.06575963718820861, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.26666666666666666, "er_mean": 0.18888888888888888, "failure_count": 0, "mean_delta": -0.0009070294784580496, "missing_count": 30, "native_ci_lower": 0.12222222222222222, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18979591836734694, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.5, "er_ci_upper": 0.8333333333333334, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.05586854460093897, "ci_upper": 0.07029212310902452, "delta_ci_lower": -0.05586854460093897, "delta_ci_upper": 0.07029212310902452, "er_ci_lower": 0.17734741784037558, "er_ci_upper": 0.3130187141366718, "er_mean": 0.24321857068335942, "failure_count": 0, "mean_delta": 0.006442357850808556, "missing_count": 0, "native_ci_lower": 0.1689687663015128, "native_ci_upper": 0.3082296557120501, "native_mean": 0.23677621283255085, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -521.471318470381, "ci_upper": 1073.2988423651966, "delta_ci_lower": -521.471318470381, "delta_ci_upper": 1073.2988423651966, "er_ci_lower": 41109.872311911415, "er_ci_upper": 42194.68542279707, "er_mean": 41653.91597049755, "failure_count": 0, "mean_delta": 276.99297502253626, "missing_count": 0, "native_ci_lower": 40776.76545514737, "native_ci_upper": 41989.19122985036, "native_mean": 41376.92299547502, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -85.20999347939488, "ci_upper": 132.76174687010956, "delta_ci_lower": -85.20999347939488, "delta_ci_upper": 132.76174687010956, "er_ci_lower": 5850.905085745958, "er_ci_upper": 5992.847109415754, "er_mean": 5922.206025039123, "failure_count": 0, "mean_delta": 24.50238654147105, "missing_count": 0, "native_ci_lower": 5820.634798187272, "native_ci_upper": 5976.795600547731, "native_mean": 5897.703638497653, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.05265927568366352, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05265927568366352, "delta_ci_upper": 0.024124168514412417, "er_ci_lower": 0.0, "er_ci_upper": 0.07410199556541021, "er_mean": 0.0327420546932742, "failure_count": 0, "mean_delta": -0.013244641537324462, "missing_count": 30, "native_ci_lower": 0.008617886178861788, "native_ci_upper": 0.09600886917960089, "native_mean": 0.045986696230598666, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.05265927568366352, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05265927568366352, "delta_ci_upper": 0.024124168514412417, "er_ci_lower": 0.0, "er_ci_upper": 0.07410199556541021, "er_mean": 0.0327420546932742, "failure_count": 0, "mean_delta": -0.013244641537324462, "missing_count": 30, "native_ci_lower": 0.008617886178861788, "native_ci_upper": 0.09600886917960089, "native_mean": 0.045986696230598666, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.05265927568366352, "ci_upper": 0.024124168514412417, "delta_ci_lower": -0.05265927568366352, "delta_ci_upper": 0.024124168514412417, "er_ci_lower": 0.0, "er_ci_upper": 0.07410199556541021, "er_mean": 0.0327420546932742, "failure_count": 0, "mean_delta": -0.013244641537324462, "missing_count": 30, "native_ci_lower": 0.008617886178861788, "native_ci_upper": 0.09600886917960089, "native_mean": 0.045986696230598666, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -80.75412330464266, "ci_upper": 125.12194933489825, "delta_ci_lower": -80.75412330464266, "delta_ci_upper": 125.12194933489825, "er_ci_lower": 5478.819900886802, "er_ci_upper": 5617.260605438184, "er_mean": 5548.324895670318, "failure_count": 0, "mean_delta": 22.930738132498696, "missing_count": 0, "native_ci_lower": 5454.133869653103, "native_ci_upper": 5597.053615349505, "native_mean": 5525.394157537819, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.018474870657797376, "ci_upper": 0.1528887657058387, "delta_ci_lower": -0.018474870657797376, "delta_ci_upper": 0.1528887657058387, "er_ci_lower": 0.4873747228381375, "er_ci_upper": 0.6752993348115299, "er_mean": 0.5810643015521064, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.4183887657058389, "native_ci_upper": 0.6114855875831485, "native_mean": 0.5143976348854398, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.07441642030056664, "ci_upper": 0.07439969820152739, "delta_ci_lower": -0.07441642030056664, "delta_ci_upper": 0.07439969820152739, "er_ci_lower": 0.2868978812515398, "er_ci_upper": 0.4688512564671101, "er_mean": 0.37769154964276913, "failure_count": 0, "mean_delta": -0.00128479921162848, "missing_count": 30, "native_ci_lower": 0.2863278208918452, "native_ci_upper": 0.4768935082532644, "native_mean": 0.3789763488543976, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.07441642030056664, "ci_upper": 0.07439969820152739, "delta_ci_lower": -0.07441642030056664, "delta_ci_upper": 0.07439969820152739, "er_ci_lower": 0.2868978812515398, "er_ci_upper": 0.4688512564671101, "er_mean": 0.37769154964276913, "failure_count": 0, "mean_delta": -0.00128479921162848, "missing_count": 30, "native_ci_lower": 0.2863278208918452, "native_ci_upper": 0.4768935082532644, "native_mean": 0.3789763488543976, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.07441642030056664, "ci_upper": 0.07439969820152739, "delta_ci_lower": -0.07441642030056664, "delta_ci_upper": 0.07439969820152739, "er_ci_lower": 0.2868978812515398, "er_ci_upper": 0.4688512564671101, "er_mean": 0.37769154964276913, "failure_count": 0, "mean_delta": -0.00128479921162848, "missing_count": 30, "native_ci_lower": 0.2863278208918452, "native_ci_upper": 0.4768935082532644, "native_mean": 0.3789763488543976, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.07441642030056664, "ci_upper": 0.07439969820152739, "delta_ci_lower": -0.07441642030056664, "delta_ci_upper": 0.07439969820152739, "er_ci_lower": 0.2868978812515398, "er_ci_upper": 0.4688512564671101, "er_mean": 0.37769154964276913, "failure_count": 0, "mean_delta": -0.00128479921162848, "missing_count": 30, "native_ci_lower": 0.2863278208918452, "native_ci_upper": 0.4768935082532644, "native_mean": 0.3789763488543976, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.044759793052475974, "ci_upper": 0.1310284552845528, "delta_ci_lower": -0.044759793052475974, "delta_ci_upper": 0.1310284552845528, "er_ci_lower": 0.37757723577235786, "er_ci_upper": 0.589120473022912, "er_mean": 0.4839467849223947, "failure_count": 0, "mean_delta": 0.04313377679231338, "missing_count": 30, "native_ci_lower": 0.3385070214338507, "native_ci_upper": 0.54430155210643, "native_mean": 0.44081300813008134, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.044759793052475974, "ci_upper": 0.1310284552845528, "delta_ci_lower": -0.044759793052475974, "delta_ci_upper": 0.1310284552845528, "er_ci_lower": 0.37757723577235786, "er_ci_upper": 0.589120473022912, "er_mean": 0.4839467849223947, "failure_count": 0, "mean_delta": 0.04313377679231338, "missing_count": 30, "native_ci_lower": 0.3385070214338507, "native_ci_upper": 0.54430155210643, "native_mean": 0.44081300813008134, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.044759793052475974, "ci_upper": 0.1310284552845528, "delta_ci_lower": -0.044759793052475974, "delta_ci_upper": 0.1310284552845528, "er_ci_lower": 0.37757723577235786, "er_ci_upper": 0.589120473022912, "er_mean": 0.4839467849223947, "failure_count": 0, "mean_delta": 0.04313377679231338, "missing_count": 30, "native_ci_lower": 0.3385070214338507, "native_ci_upper": 0.54430155210643, "native_mean": 0.44081300813008134, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.044759793052475974, "ci_upper": 0.1310284552845528, "delta_ci_lower": -0.044759793052475974, "delta_ci_upper": 0.1310284552845528, "er_ci_lower": 0.37757723577235786, "er_ci_upper": 0.589120473022912, "er_mean": 0.4839467849223947, "failure_count": 0, "mean_delta": 0.04313377679231338, "missing_count": 30, "native_ci_lower": 0.3385070214338507, "native_ci_upper": 0.54430155210643, "native_mean": 0.44081300813008134, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 57.81214510993156, "ci_upper": 100.55931753547225, "delta_ci_lower": 57.81214510993156, "delta_ci_upper": 100.55931753547225, "er_ci_lower": 4913.707427468355, "er_ci_upper": 5311.210858716442, "er_mean": 5094.830227356027, "failure_count": 0, "mean_delta": 82.11521509258455, "missing_count": 0, "native_ci_lower": 4822.203728600751, "native_ci_upper": 5248.450239517373, "native_mean": 5012.715012263442, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.03479114313870409, "ci_upper": 0.061700357230845035, "delta_ci_lower": -0.03479114313870409, "delta_ci_upper": 0.061700357230845035, "er_ci_lower": 0.1770581423996058, "er_ci_upper": 0.2884364991377186, "er_mean": 0.23190440995319042, "failure_count": 0, "mean_delta": 0.012350332594235033, "missing_count": 30, "native_ci_lower": 0.16206762749445677, "native_ci_upper": 0.28072216063069716, "native_mean": 0.2195540773589554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.03479114313870409, "ci_upper": 0.061700357230845035, "delta_ci_lower": -0.03479114313870409, "delta_ci_upper": 0.061700357230845035, "er_ci_lower": 0.1770581423996058, "er_ci_upper": 0.2884364991377186, "er_mean": 0.23190440995319042, "failure_count": 0, "mean_delta": 0.012350332594235033, "missing_count": 30, "native_ci_lower": 0.16206762749445677, "native_ci_upper": 0.28072216063069716, "native_mean": 0.2195540773589554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.03479114313870409, "ci_upper": 0.061700357230845035, "delta_ci_lower": -0.03479114313870409, "delta_ci_upper": 0.061700357230845035, "er_ci_lower": 0.1770581423996058, "er_ci_upper": 0.2884364991377186, "er_mean": 0.23190440995319042, "failure_count": 0, "mean_delta": 0.012350332594235033, "missing_count": 30, "native_ci_lower": 0.16206762749445677, "native_ci_upper": 0.28072216063069716, "native_mean": 0.2195540773589554, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.03479114313870409, "ci_upper": 0.061700357230845035, "delta_ci_lower": -0.03479114313870409, "delta_ci_upper": 0.061700357230845035, "er_ci_lower": 0.1770581423996058, "er_ci_upper": 0.2884364991377186, "er_mean": 0.23190440995319042, "failure_count": 0, "mean_delta": 0.012350332594235033, "missing_count": 30, "native_ci_lower": 0.16206762749445677, "native_ci_upper": 0.28072216063069716, "native_mean": 0.2195540773589554, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06479840716774514, "ci_upper": 0.06908532814456153, "delta_ci_lower": -0.06479840716774514, "delta_ci_upper": 0.06908532814456153, "er_ci_lower": 0.12579453067257945, "er_ci_upper": 0.27345269770879527, "er_mean": 0.1987583148558758, "failure_count": 0, "mean_delta": 0.0018682594989215206, "missing_count": 30, "native_ci_lower": 0.12294161123429416, "native_ci_upper": 0.27463519465435837, "native_mean": 0.19689005535695428, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.5, "er_ci_upper": 0.8333333333333334, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1431.048499865962, "ci_upper": 2140.5343423099835, "delta_ci_lower": -1431.048499865962, "delta_ci_upper": 2140.5343423099835, "er_ci_lower": 40985.25008249078, "er_ci_upper": 43431.21859340735, "er_mean": 42198.073536048956, "failure_count": 0, "mean_delta": 352.5940333260223, "missing_count": 0, "native_ci_lower": 40620.24947423595, "native_ci_upper": 43063.08422521872, "native_mean": 41845.479502722934, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -190.9008333333333, "ci_upper": 267.8374999999999, "delta_ci_lower": -190.9008333333333, "delta_ci_upper": 267.8374999999999, "er_ci_lower": 5776.464166666666, "er_ci_upper": 6088.506666666666, "er_mean": 5931.766666666666, "failure_count": 0, "mean_delta": 35.6, "missing_count": 0, "native_ci_lower": 5747.899166666666, "native_ci_upper": 6042.701666666666, "native_mean": 5896.166666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.0, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -181.40083333333334, "ci_upper": 246.23666666666662, "delta_ci_lower": -181.40083333333334, "delta_ci_upper": 246.23666666666662, "er_ci_lower": 5384.2, "er_ci_upper": 5685.068333333333, "er_mean": 5533.5, "failure_count": 0, "mean_delta": 29.466666666666665, "missing_count": 0, "native_ci_lower": 5376.33, "native_ci_upper": 5631.5, "native_mean": 5504.033333333334, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.43333333333333335, "er_ci_upper": 0.7666666666666667, "er_mean": 0.6, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.36666666666666664, "native_ci_upper": 0.7, "native_mean": 0.5333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.09444444444444446, "ci_upper": 0.14444444444444443, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.14444444444444443, "er_ci_lower": 0.2611111111111111, "er_ci_upper": 0.5555555555555556, "er_mean": 0.40555555555555556, "failure_count": 0, "mean_delta": 0.016666666666666666, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5555555555555556, "native_mean": 0.3888888888888889, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.09444444444444446, "ci_upper": 0.14444444444444443, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.14444444444444443, "er_ci_lower": 0.2611111111111111, "er_ci_upper": 0.5555555555555556, "er_mean": 0.40555555555555556, "failure_count": 0, "mean_delta": 0.016666666666666666, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5555555555555556, "native_mean": 0.3888888888888889, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.09444444444444446, "ci_upper": 0.14444444444444443, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.14444444444444443, "er_ci_lower": 0.2611111111111111, "er_ci_upper": 0.5555555555555556, "er_mean": 0.40555555555555556, "failure_count": 0, "mean_delta": 0.016666666666666666, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5555555555555556, "native_mean": 0.3888888888888889, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.09444444444444446, "ci_upper": 0.14444444444444443, "delta_ci_lower": -0.09444444444444446, "delta_ci_upper": 0.14444444444444443, "er_ci_lower": 0.2611111111111111, "er_ci_upper": 0.5555555555555556, "er_mean": 0.40555555555555556, "failure_count": 0, "mean_delta": 0.016666666666666666, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5555555555555556, "native_mean": 0.3888888888888889, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.4, "er_ci_upper": 0.7333333333333333, "er_mean": 0.5666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.4, "er_ci_upper": 0.7333333333333333, "er_mean": 0.5666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.4, "er_ci_upper": 0.7333333333333333, "er_mean": 0.5666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.4, "er_ci_upper": 0.7333333333333333, "er_mean": 0.5666666666666667, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 95.14092059466445, "ci_upper": 134.12965265665358, "delta_ci_lower": 95.14092059466445, "delta_ci_upper": 134.12965265665358, "er_ci_lower": 4665.473512429939, "er_ci_upper": 5199.937591519556, "er_mean": 4928.240913959841, "failure_count": 0, "mean_delta": 114.04819729893158, "missing_count": 0, "native_ci_lower": 4548.179161540078, "native_ci_upper": 5090.297310640938, "native_mean": 4814.192716660909, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.07777777777777778, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.1722222222222222, "er_ci_upper": 0.3277777777777778, "er_mean": 0.25, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3611111111111111, "native_mean": 0.25, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.07777777777777778, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.1722222222222222, "er_ci_upper": 0.3277777777777778, "er_mean": 0.25, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3611111111111111, "native_mean": 0.25, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.07777777777777778, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.1722222222222222, "er_ci_upper": 0.3277777777777778, "er_mean": 0.25, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3611111111111111, "native_mean": 0.25, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.07777777777777778, "ci_upper": 0.07777777777777778, "delta_ci_lower": -0.07777777777777778, "delta_ci_upper": 0.07777777777777778, "er_ci_lower": 0.1722222222222222, "er_ci_upper": 0.3277777777777778, "er_mean": 0.25, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.3611111111111111, "native_mean": 0.25, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "inference": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1063.416199226437, "ci_upper": 1239.692502400236, "delta_ci_lower": -1063.416199226437, "delta_ci_upper": 1239.692502400236, "er_ci_lower": 39859.44695527898, "er_ci_upper": 41390.94882734546, "er_mean": 40616.875540216766, "failure_count": 0, "mean_delta": 60.08574305257449, "missing_count": 0, "native_ci_lower": 39412.98092077564, "native_ci_upper": 41714.8961767369, "native_mean": 40556.78979716419, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -181.90166666666664, "ci_upper": 168.16916666666663, "delta_ci_lower": -181.90166666666664, "delta_ci_upper": 168.16916666666663, "er_ci_lower": 5691.660000000001, "er_ci_upper": 5907.302500000001, "er_mean": 5799.2, "failure_count": 0, "mean_delta": -9.3, "missing_count": 0, "native_ci_lower": 5656.229166666667, "native_ci_upper": 5966.202499999999, "native_mean": 5808.5, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -164.20166666666663, "ci_upper": 174.4358333333333, "delta_ci_lower": -164.20166666666663, "delta_ci_upper": 174.4358333333333, "er_ci_lower": 5335.660833333333, "er_ci_upper": 5557.535833333333, "er_mean": 5444.633333333333, "failure_count": 0, "mean_delta": 2.3666666666666667, "missing_count": 0, "native_ci_lower": 5298.331666666666, "native_ci_upper": 5593.235833333333, "native_mean": 5442.266666666666, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.14444444444444443, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": -0.01111111111111111, "missing_count": 0, "native_ci_lower": 0.25, "native_ci_upper": 0.5777777777777777, "native_mean": 0.41111111111111115, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.14444444444444443, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": -0.01111111111111111, "missing_count": 0, "native_ci_lower": 0.25, "native_ci_upper": 0.5777777777777777, "native_mean": 0.41111111111111115, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.14444444444444443, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": -0.01111111111111111, "missing_count": 0, "native_ci_lower": 0.25, "native_ci_upper": 0.5777777777777777, "native_mean": 0.41111111111111115, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.14444444444444443, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.14444444444444443, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": -0.01111111111111111, "missing_count": 0, "native_ci_lower": 0.25, "native_ci_upper": 0.5777777777777777, "native_mean": 0.41111111111111115, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.16666666666666666, "ci_upper": 0.1, "delta_ci_lower": -0.16666666666666666, "delta_ci_upper": 0.1, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.3, "native_ci_upper": 0.6333333333333333, "native_mean": 0.4666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": -48.836030292053074, "ci_upper": 69.92930148029701, "delta_ci_lower": -48.836030292053074, "delta_ci_upper": 69.92930148029701, "er_ci_lower": 4560.031012301915, "er_ci_upper": 5607.889480717713, "er_mean": 5016.617876361124, "failure_count": 0, "mean_delta": 22.03507621306926, "missing_count": 0, "native_ci_lower": 4503.699889471366, "native_ci_upper": 5647.720919408894, "native_mean": 4994.582800148055, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.05277777777777778, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.05277777777777778, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.125, "er_ci_upper": 0.33888888888888885, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 0, "native_ci_lower": 0.11944444444444444, "native_ci_upper": 0.3, "native_mean": 0.20555555555555557, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.05277777777777778, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.05277777777777778, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.125, "er_ci_upper": 0.33888888888888885, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 0, "native_ci_lower": 0.11944444444444444, "native_ci_upper": 0.3, "native_mean": 0.20555555555555557, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.05277777777777778, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.05277777777777778, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.125, "er_ci_upper": 0.33888888888888885, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 0, "native_ci_lower": 0.11944444444444444, "native_ci_upper": 0.3, "native_mean": 0.20555555555555557, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.05277777777777778, "ci_upper": 0.11666666666666667, "delta_ci_lower": -0.05277777777777778, "delta_ci_upper": 0.11666666666666667, "er_ci_lower": 0.125, "er_ci_upper": 0.33888888888888885, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.022222222222222223, "missing_count": 0, "native_ci_lower": 0.11944444444444444, "native_ci_upper": 0.3, "native_mean": 0.20555555555555557, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.1, "ci_upper": 0.22517006802721087, "delta_ci_lower": -0.1, "delta_ci_upper": 0.22517006802721087, "er_ci_lower": 0.3, "er_ci_upper": 0.6333333333333333, "er_mean": 0.4666666666666667, "failure_count": 0, "mean_delta": 0.06394557823129252, "missing_count": 0, "native_ci_lower": 0.23333333333333334, "native_ci_upper": 0.5721088435374149, "native_mean": 0.40272108843537413, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "temporal": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -1228.2034442180884, "ci_upper": 1529.360528802693, "delta_ci_lower": -1228.2034442180884, "delta_ci_upper": 1529.360528802693, "er_ci_lower": 41421.5936163126, "er_ci_upper": 43357.73871257765, "er_mean": 42402.1239833363, "failure_count": 0, "mean_delta": 160.95888753576824, "missing_count": 0, "native_ci_lower": 41260.51439707759, "native_ci_upper": 43146.20621163456, "native_mean": 42241.165095800534, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -184.3033333333333, "ci_upper": 202.00083333333333, "delta_ci_lower": -184.3033333333333, "delta_ci_upper": 202.00083333333333, "er_ci_lower": 5922.631666666666, "er_ci_upper": 6184.4, "er_mean": 6056.433333333333, "failure_count": 0, "mean_delta": 9.966666666666667, "missing_count": 0, "native_ci_lower": 5909.298333333333, "native_ci_upper": 6172.202499999999, "native_mean": 6046.466666666666, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -182.4458333333332, "ci_upper": 182.77416666666656, "delta_ci_lower": -182.4458333333332, "delta_ci_upper": 182.77416666666656, "er_ci_lower": 5555.0616666666665, "er_ci_upper": 5804.135, "er_mean": 5682.9, "failure_count": 0, "mean_delta": 0.43333333333333335, "missing_count": 0, "native_ci_lower": 5550.320833333333, "native_ci_upper": 5801.906666666666, "native_mean": 5682.466666666666, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.7, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.14722222222222223, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.14722222222222223, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.17222222222222222, "er_ci_upper": 0.45555555555555555, "er_mean": 0.3055555555555555, "failure_count": 0, "mean_delta": -0.013888888888888892, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.4777777777777778, "native_mean": 0.3194444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.14722222222222223, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.14722222222222223, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.17222222222222222, "er_ci_upper": 0.45555555555555555, "er_mean": 0.3055555555555555, "failure_count": 0, "mean_delta": -0.013888888888888892, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.4777777777777778, "native_mean": 0.3194444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.14722222222222223, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.14722222222222223, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.17222222222222222, "er_ci_upper": 0.45555555555555555, "er_mean": 0.3055555555555555, "failure_count": 0, "mean_delta": -0.013888888888888892, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.4777777777777778, "native_mean": 0.3194444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.14722222222222223, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.14722222222222223, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.17222222222222222, "er_ci_upper": 0.45555555555555555, "er_mean": 0.3055555555555555, "failure_count": 0, "mean_delta": -0.013888888888888892, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.4777777777777778, "native_mean": 0.3194444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.26666666666666666, "er_ci_upper": 0.6, "er_mean": 0.43333333333333335, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 93.93084013621167, "ci_upper": 128.03615874174284, "delta_ci_lower": 93.93084013621167, "delta_ci_upper": 128.03615874174284, "er_ci_lower": 5597.029672086937, "er_ci_upper": 6064.9827194801765, "er_mean": 5826.330387452617, "failure_count": 0, "mean_delta": 111.20692084465797, "missing_count": 0, "native_ci_lower": 5488.530159487176, "native_ci_upper": 5950.906757572762, "native_mean": 5715.123466607959, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.06111111111111111, "ci_upper": 0.09444444444444443, "delta_ci_lower": -0.06111111111111111, "delta_ci_upper": 0.09444444444444443, "er_ci_lower": 0.11666666666666667, "er_ci_upper": 0.3111111111111111, "er_mean": 0.2111111111111111, "failure_count": 0, "mean_delta": 0.016666666666666666, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.3, "native_mean": 0.19444444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.06111111111111111, "ci_upper": 0.09444444444444443, "delta_ci_lower": -0.06111111111111111, "delta_ci_upper": 0.09444444444444443, "er_ci_lower": 0.11666666666666667, "er_ci_upper": 0.3111111111111111, "er_mean": 0.2111111111111111, "failure_count": 0, "mean_delta": 0.016666666666666666, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.3, "native_mean": 0.19444444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.06111111111111111, "ci_upper": 0.09444444444444443, "delta_ci_lower": -0.06111111111111111, "delta_ci_upper": 0.09444444444444443, "er_ci_lower": 0.11666666666666667, "er_ci_upper": 0.3111111111111111, "er_mean": 0.2111111111111111, "failure_count": 0, "mean_delta": 0.016666666666666666, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.3, "native_mean": 0.19444444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.06111111111111111, "ci_upper": 0.09444444444444443, "delta_ci_lower": -0.06111111111111111, "delta_ci_upper": 0.09444444444444443, "er_ci_lower": 0.11666666666666667, "er_ci_upper": 0.3111111111111111, "er_mean": 0.2111111111111111, "failure_count": 0, "mean_delta": 0.016666666666666666, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.3, "native_mean": 0.19444444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "unanswerable": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.5, "er_ci_upper": 0.8333333333333334, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -486.39368256689824, "ci_upper": 2166.593201184975, "delta_ci_lower": -486.39368256689824, "delta_ci_upper": 2166.593201184975, "er_ci_lower": 40507.75559212586, "er_ci_upper": 42381.12306428821, "er_mean": 41468.60315824548, "failure_count": 0, "mean_delta": 874.7659596886175, "missing_count": 0, "native_ci_lower": 39673.881442171696, "native_ci_upper": 41534.12237568662, "native_mean": 40593.83719855687, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -86.57833333333323, "ci_upper": 302.8758333333332, "delta_ci_lower": -86.57833333333323, "delta_ci_upper": 302.8758333333332, "er_ci_lower": 5831.461666666667, "er_ci_upper": 6099.804166666667, "er_mean": 5968.5, "failure_count": 0, "mean_delta": 112.73333333333333, "missing_count": 0, "native_ci_lower": 5717.461666666666, "native_ci_upper": 5999.571666666666, "native_mean": 5855.766666666666, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "context_token_count": { "ci_lower": -86.17166666666662, "ci_upper": 286.9383333333333, "delta_ci_lower": -86.17166666666662, "delta_ci_upper": 286.9383333333333, "er_ci_lower": 5477.2625, "er_ci_upper": 5739.934166666667, "er_mean": 5610.933333333333, "failure_count": 0, "mean_delta": 103.66666666666667, "missing_count": 0, "native_ci_lower": 5374.058333333333, "native_ci_upper": 5646.5, "native_mean": 5507.266666666666, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_latency_ms": { "ci_lower": 55.015146592728954, "ci_upper": 142.52317919114523, "delta_ci_lower": 55.015146592728954, "delta_ci_upper": 142.52317919114523, "er_ci_lower": 4224.475195597236, "er_ci_upper": 4494.387206953834, "er_mean": 4363.790816534311, "failure_count": 0, "mean_delta": 97.83048453973606, "missing_count": 0, "native_ci_lower": 4120.262071136967, "native_ci_upper": 4411.359655941486, "native_mean": 4265.9603319945745, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.5, "er_ci_upper": 0.8333333333333334, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.058333333333333334, "ci_upper": 0.075, "delta_ci_lower": -0.058333333333333334, "delta_ci_upper": 0.075, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.36666666666666664, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.008333333333333333, "missing_count": 0, "native_ci_lower": 0.225, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2916666666666667, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -371.8333757126916, "ci_upper": 1083.2715635669106, "delta_ci_lower": -371.8333757126916, "delta_ci_upper": 1083.2715635669106, "er_ci_lower": 41174.15937702972, "er_ci_upper": 42164.00902178969, "er_mean": 41671.419054461876, "failure_count": 0, "mean_delta": 362.10115590074565, "missing_count": 0, "native_ci_lower": 40780.083640153054, "native_ci_upper": 41861.172332693, "native_mean": 41309.31789856113, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -65.16166666666663, "ci_upper": 137.1852083333332, "delta_ci_lower": -65.16166666666663, "delta_ci_upper": 137.1852083333332, "er_ci_lower": 5872.841041666667, "er_ci_upper": 6005.778541666667, "er_mean": 5938.975, "failure_count": 0, "mean_delta": 37.25, "missing_count": 0, "native_ci_lower": 5829.807083333333, "native_ci_upper": 5975.5287499999995, "native_mean": 5901.725, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.04472222222221976, "ci_upper": 0.022222222222222223, "delta_ci_lower": -0.04472222222221976, "delta_ci_upper": 0.022222222222222223, "er_ci_lower": 0.0, "er_ci_upper": 0.07777777777777778, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.011111111111111112, "native_ci_upper": 0.08888888888888889, "native_mean": 0.044444444444444446, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -61.90312499999997, "ci_upper": 129.32104166666662, "delta_ci_lower": -61.90312499999997, "delta_ci_upper": 129.32104166666662, "er_ci_lower": 5503.366458333333, "er_ci_upper": 5632.909583333334, "er_mean": 5567.991666666667, "failure_count": 0, "mean_delta": 33.983333333333334, "missing_count": 0, "native_ci_lower": 5466.015625, "native_ci_upper": 5601.508333333333, "native_mean": 5534.008333333333, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.011111111111111112, "ci_upper": 0.14444444444444443, "delta_ci_lower": -0.011111111111111112, "delta_ci_upper": 0.14444444444444443, "er_ci_lower": 0.5222222222222223, "er_ci_upper": 0.7, "er_mean": 0.6111111111111112, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 30, "native_ci_lower": 0.45555555555555555, "native_ci_upper": 0.6333333333333333, "native_mean": 0.5444444444444444, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.07592592592592592, "ci_upper": 0.0712962962962963, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.0712962962962963, "er_ci_lower": 0.28148148148148144, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.07592592592592592, "ci_upper": 0.0712962962962963, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.0712962962962963, "er_ci_lower": 0.28148148148148144, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.07592592592592592, "ci_upper": 0.0712962962962963, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.0712962962962963, "er_ci_lower": 0.28148148148148144, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.07592592592592592, "ci_upper": 0.0712962962962963, "delta_ci_lower": -0.07592592592592592, "delta_ci_upper": 0.0712962962962963, "er_ci_lower": 0.28148148148148144, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3703703703703704, "failure_count": 0, "mean_delta": -0.0027777777777777783, "missing_count": 30, "native_ci_lower": 0.28055555555555556, "native_ci_upper": 0.4703703703703704, "native_mean": 0.3731481481481482, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777777, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777777, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777777, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.044444444444444446, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.044444444444444446, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.37777777777777777, "er_ci_upper": 0.5777777777777777, "er_mean": 0.4777777777777778, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.5333333333333333, "native_mean": 0.43333333333333335, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 65.16985116048697, "ci_upper": 104.33661941494695, "delta_ci_lower": 65.16985116048697, "delta_ci_upper": 104.33661941494695, "er_ci_lower": 4886.356355629687, "er_ci_upper": 5206.511433483587, "er_mean": 5033.744998576974, "failure_count": 0, "mean_delta": 86.28016972409871, "missing_count": 0, "native_ci_lower": 4790.501605299918, "native_ci_upper": 5135.821469616397, "native_mean": 4947.464828852874, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.03333333333333333, "ci_upper": 0.06111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.06111111111111111, "er_ci_lower": 0.175, "er_ci_upper": 0.2851851851851852, "er_mean": 0.22962962962962966, "failure_count": 0, "mean_delta": 0.012962962962962964, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.06111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.06111111111111111, "er_ci_lower": 0.175, "er_ci_upper": 0.2851851851851852, "er_mean": 0.22962962962962966, "failure_count": 0, "mean_delta": 0.012962962962962964, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.06111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.06111111111111111, "er_ci_lower": 0.175, "er_ci_upper": 0.2851851851851852, "er_mean": 0.22962962962962966, "failure_count": 0, "mean_delta": 0.012962962962962964, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.06111111111111111, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.06111111111111111, "er_ci_lower": 0.175, "er_ci_upper": 0.2851851851851852, "er_mean": 0.22962962962962966, "failure_count": 0, "mean_delta": 0.012962962962962964, "missing_count": 30, "native_ci_lower": 0.16018518518518518, "native_ci_upper": 0.27685185185185185, "native_mean": 0.21666666666666667, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.06757369614512472, "ci_upper": 0.06575963718820861, "delta_ci_lower": -0.06757369614512472, "delta_ci_upper": 0.06575963718820861, "er_ci_lower": 0.12222222222222222, "er_ci_upper": 0.26666666666666666, "er_mean": 0.18888888888888888, "failure_count": 0, "mean_delta": -0.0009070294784580496, "missing_count": 30, "native_ci_lower": 0.12222222222222222, "native_ci_upper": 0.26666666666666666, "native_mean": 0.18979591836734694, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.5, "er_ci_upper": 0.8333333333333334, "er_mean": 0.6666666666666666, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" } }, "paired_question_count": 120, "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_610489cf60d95841fd51d01c", "builder_key": "gemma3_4b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.05, "ci_upper": 0.075, "delta_ci_lower": -0.05, "delta_ci_upper": 0.075, "er_ci_lower": 0.225, "er_ci_upper": 0.36666666666666664, "er_mean": 0.29166666666666663, "failure_count": 0, "mean_delta": 0.008333333333333333, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.35000000000000003, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 50.25420009046994, "ci_upper": 1426.9458040947936, "delta_ci_lower": 50.25420009046994, "delta_ci_upper": 1426.9458040947936, "er_ci_lower": 40979.97407292967, "er_ci_upper": 42059.68242108095, "er_mean": 41525.96961178545, "failure_count": 0, "mean_delta": 738.2751832978101, "missing_count": 0, "native_ci_lower": 40237.57386295234, "native_ci_upper": 41344.88429747311, "native_mean": 40787.69442848764, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -16.736666666666633, "ci_upper": 182.62291666666658, "delta_ci_lower": -16.736666666666633, "delta_ci_upper": 182.62291666666658, "er_ci_lower": 5830.59125, "er_ci_upper": 5979.694791666667, "er_mean": 5906.575, "failure_count": 0, "mean_delta": 82.06666666666666, "missing_count": 0, "native_ci_lower": 5749.931875, "native_ci_upper": 5899.983333333334, "native_mean": 5824.508333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -29.87749999999998, "ci_upper": 156.26687499999997, "delta_ci_lower": -29.87749999999998, "delta_ci_upper": 156.26687499999997, "er_ci_lower": 5499.958125, "er_ci_upper": 5637.420416666667, "er_mean": 5569.266666666666, "failure_count": 0, "mean_delta": 62.23333333333333, "missing_count": 0, "native_ci_lower": 5438.14125, "native_ci_upper": 5575.900208333333, "native_mean": 5507.033333333334, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.18888888888888888, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.18888888888888888, "delta_ci_upper": -0.011111111111111112, "er_ci_lower": 0.4888888888888889, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5777777777777778, "failure_count": 0, "mean_delta": -0.10000000000000002, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666666, "native_mean": 0.6777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.07129629629629629, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.3685185185185185, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.07129629629629629, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.3685185185185185, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.07129629629629629, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.3685185185185185, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.07129629629629629, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.3685185185185185, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.11111111111111112, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.11111111111111112, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.11111111111111112, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.11111111111111112, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 96.57494370847415, "ci_upper": 151.34023062724734, "delta_ci_lower": 96.57494370847415, "delta_ci_upper": 151.34023062724734, "er_ci_lower": 4950.379725022891, "er_ci_upper": 5316.8887561208, "er_mean": 5114.046966963603, "failure_count": 0, "mean_delta": 122.58184636884835, "missing_count": 0, "native_ci_lower": 4837.277265916782, "native_ci_upper": 5178.656351488462, "native_mean": 4991.465120594754, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148148, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148148, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148148, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148148, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.026280887403694348, "ci_upper": 0.10027011974380395, "delta_ci_lower": -0.026280887403694348, "delta_ci_upper": 0.10027011974380395, "er_ci_lower": 0.12339181286549707, "er_ci_upper": 0.26894249512670565, "er_mean": 0.19437946718648472, "failure_count": 0, "mean_delta": 0.036072588879606425, "missing_count": 30, "native_ci_lower": 0.0907936507936508, "native_ci_upper": 0.2333333333333333, "native_mean": 0.15830687830687828, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.5, "native_ci_upper": 0.8333333333333334, "native_mean": 0.6666666666666666, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.05, "ci_upper": 0.075, "delta_ci_lower": -0.05, "delta_ci_upper": 0.075, "er_ci_lower": 0.225, "er_ci_upper": 0.36666666666666664, "er_mean": 0.2916666666666667, "failure_count": 0, "mean_delta": 0.008333333333333333, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.35, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 50.25420009046995, "ci_upper": 1426.9458040947936, "delta_ci_lower": 50.25420009046995, "delta_ci_upper": 1426.9458040947936, "er_ci_lower": 40979.97407292967, "er_ci_upper": 42059.68242108094, "er_mean": 41525.969611785455, "failure_count": 0, "mean_delta": 738.2751832978101, "missing_count": 0, "native_ci_lower": 40237.57386295234, "native_ci_upper": 41344.884297473116, "native_mean": 40787.694428487644, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -16.736666666666636, "ci_upper": 182.62291666666658, "delta_ci_lower": -16.736666666666636, "delta_ci_upper": 182.62291666666658, "er_ci_lower": 5830.5912499999995, "er_ci_upper": 5979.694791666667, "er_mean": 5906.575, "failure_count": 0, "mean_delta": 82.06666666666666, "missing_count": 0, "native_ci_lower": 5749.931875, "native_ci_upper": 5899.983333333334, "native_mean": 5824.508333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -29.877499999999976, "ci_upper": 156.266875, "delta_ci_lower": -29.877499999999976, "delta_ci_upper": 156.266875, "er_ci_lower": 5499.958125, "er_ci_upper": 5637.420416666667, "er_mean": 5569.266666666666, "failure_count": 0, "mean_delta": 62.233333333333334, "missing_count": 0, "native_ci_lower": 5438.14125, "native_ci_upper": 5575.900208333333, "native_mean": 5507.033333333334, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.18888888888888888, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.18888888888888888, "delta_ci_upper": -0.011111111111111112, "er_ci_lower": 0.4888888888888889, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5777777777777777, "failure_count": 0, "mean_delta": -0.1, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666667, "native_mean": 0.6777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.0712962962962963, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.36851851851851847, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.0712962962962963, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.36851851851851847, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.0712962962962963, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.36851851851851847, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.0712962962962963, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.36851851851851847, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 96.57494370847417, "ci_upper": 151.34023062724734, "delta_ci_lower": 96.57494370847417, "delta_ci_upper": 151.34023062724734, "er_ci_lower": 4950.379725022891, "er_ci_upper": 5316.8887561208, "er_mean": 5114.046966963603, "failure_count": 0, "mean_delta": 122.58184636884835, "missing_count": 0, "native_ci_lower": 4837.277265916782, "native_ci_upper": 5178.656351488462, "native_mean": 4991.465120594755, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148145, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148145, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148145, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148145, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.026280887403694348, "ci_upper": 0.10027011974380395, "delta_ci_lower": -0.026280887403694348, "delta_ci_upper": 0.10027011974380395, "er_ci_lower": 0.12339181286549707, "er_ci_upper": 0.2689424951267056, "er_mean": 0.19437946718648472, "failure_count": 0, "mean_delta": 0.03607258887960642, "missing_count": 30, "native_ci_lower": 0.09079365079365079, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1583068783068783, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.5, "native_ci_upper": 0.8333333333333334, "native_mean": 0.6666666666666666, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.04665232133541989, "ci_upper": 0.07565206051121544, "delta_ci_lower": -0.04665232133541989, "delta_ci_upper": 0.07565206051121544, "er_ci_lower": 0.16694737871674498, "er_ci_upper": 0.30279701356285854, "er_mean": 0.23321596244131454, "failure_count": 0, "mean_delta": 0.013797600417318728, "missing_count": 0, "native_ci_lower": 0.1540395148669797, "native_ci_upper": 0.2887203312467397, "native_mean": 0.2194183620239958, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -42.81812431101474, "ci_upper": 1497.753011737211, "delta_ci_lower": -42.81812431101474, "delta_ci_upper": 1497.753011737211, "er_ci_lower": 40952.578905706454, "er_ci_upper": 42095.48354088258, "er_mean": 41534.46163050647, "failure_count": 0, "mean_delta": 724.05492252525, "missing_count": 0, "native_ci_lower": 40202.70374079956, "native_ci_upper": 41419.8197982909, "native_mean": 40810.40670798122, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -29.933390388628045, "ci_upper": 191.60115382107455, "delta_ci_lower": -29.933390388628045, "delta_ci_upper": 191.60115382107455, "er_ci_lower": 5820.122553468962, "er_ci_upper": 5973.41283157277, "er_mean": 5897.973043818466, "failure_count": 0, "mean_delta": 80.35419926969223, "missing_count": 0, "native_ci_lower": 5738.103185641627, "native_ci_upper": 5898.031875326031, "native_mean": 5817.618844548774, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.06326681448632668, "er_mean": 0.02530672579453067, "failure_count": 0, "mean_delta": -0.008617886178861788, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07646711012564669, "native_mean": 0.03392461197339246, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.06326681448632668, "er_mean": 0.02530672579453067, "failure_count": 0, "mean_delta": -0.008617886178861788, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07646711012564669, "native_mean": 0.03392461197339246, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.06326681448632668, "er_mean": 0.02530672579453067, "failure_count": 0, "mean_delta": -0.008617886178861788, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07646711012564669, "native_mean": 0.03392461197339246, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -41.832925469483556, "ci_upper": 166.6405496870109, "delta_ci_lower": -41.832925469483556, "delta_ci_upper": 166.6405496870109, "er_ci_lower": 5493.578552425664, "er_ci_upper": 5632.005328638497, "er_mean": 5563.362350026082, "failure_count": 0, "mean_delta": 61.819822639540945, "missing_count": 0, "native_ci_lower": 5428.563339853939, "native_ci_upper": 5575.517207550861, "native_mean": 5501.542527386542, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.205750184774575, "ci_upper": -0.014915003695491503, "delta_ci_lower": -0.205750184774575, "delta_ci_upper": -0.014915003695491503, "er_ci_lower": 0.45694013303769404, "er_ci_upper": 0.6471840354767184, "er_mean": 0.5517664449371766, "failure_count": 0, "mean_delta": -0.11033259423503326, "missing_count": 30, "native_ci_lower": 0.566090169992609, "native_ci_upper": 0.7575166297117516, "native_mean": 0.6620990391722099, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "er_ci_lower": 0.25402050997782705, "er_ci_upper": 0.43678658536585363, "er_mean": 0.344249815225425, "failure_count": 0, "mean_delta": 0.07111850209411186, "missing_count": 30, "native_ci_lower": 0.18447530179847252, "native_ci_upper": 0.36564794284306473, "native_mean": 0.2731313131313131, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "er_ci_lower": 0.25402050997782705, "er_ci_upper": 0.43678658536585363, "er_mean": 0.344249815225425, "failure_count": 0, "mean_delta": 0.07111850209411186, "missing_count": 30, "native_ci_lower": 0.18447530179847252, "native_ci_upper": 0.36564794284306473, "native_mean": 0.2731313131313131, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "er_ci_lower": 0.25402050997782705, "er_ci_upper": 0.43678658536585363, "er_mean": 0.344249815225425, "failure_count": 0, "mean_delta": 0.07111850209411186, "missing_count": 30, "native_ci_lower": 0.18447530179847252, "native_ci_upper": 0.36564794284306473, "native_mean": 0.2731313131313131, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "er_ci_lower": 0.25402050997782705, "er_ci_upper": 0.43678658536585363, "er_mean": 0.344249815225425, "failure_count": 0, "mean_delta": 0.07111850209411186, "missing_count": 30, "native_ci_lower": 0.18447530179847252, "native_ci_upper": 0.36564794284306473, "native_mean": 0.2731313131313131, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "er_ci_lower": 0.31320029563932, "er_ci_upper": 0.5166012564671102, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.1086178861788618, "missing_count": 30, "native_ci_lower": 0.2108662232076867, "native_ci_upper": 0.4033998521803399, "native_mean": 0.3045824094604582, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "er_ci_lower": 0.31320029563932, "er_ci_upper": 0.5166012564671102, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.1086178861788618, "missing_count": 30, "native_ci_lower": 0.2108662232076867, "native_ci_upper": 0.4033998521803399, "native_mean": 0.3045824094604582, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "er_ci_lower": 0.31320029563932, "er_ci_upper": 0.5166012564671102, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.1086178861788618, "missing_count": 30, "native_ci_lower": 0.2108662232076867, "native_ci_upper": 0.4033998521803399, "native_mean": 0.3045824094604582, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "er_ci_lower": 0.31320029563932, "er_ci_upper": 0.5166012564671102, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.1086178861788618, "missing_count": 30, "native_ci_lower": 0.2108662232076867, "native_ci_upper": 0.4033998521803399, "native_mean": 0.3045824094604582, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 98.56761613367335, "ci_upper": 167.6063670673894, "delta_ci_lower": 98.56761613367335, "delta_ci_upper": 167.6063670673894, "er_ci_lower": 4987.313982353461, "er_ci_upper": 5442.079840716808, "er_mean": 5187.680169344646, "failure_count": 0, "mean_delta": 131.28926909288373, "missing_count": 0, "native_ci_lower": 4866.4013993135095, "native_ci_upper": 5289.26964816119, "native_mean": 5056.390900251762, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "er_ci_lower": 0.12903646218280362, "er_ci_upper": 0.22810187238236013, "er_mean": 0.17692781473269278, "failure_count": 0, "mean_delta": 0.04516383345651638, "missing_count": 30, "native_ci_lower": 0.08595583887657059, "native_ci_upper": 0.18167645971914262, "native_mean": 0.1317639812761764, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "er_ci_lower": 0.12903646218280362, "er_ci_upper": 0.22810187238236013, "er_mean": 0.17692781473269278, "failure_count": 0, "mean_delta": 0.04516383345651638, "missing_count": 30, "native_ci_lower": 0.08595583887657059, "native_ci_upper": 0.18167645971914262, "native_mean": 0.1317639812761764, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "er_ci_lower": 0.12903646218280362, "er_ci_upper": 0.22810187238236013, "er_mean": 0.17692781473269278, "failure_count": 0, "mean_delta": 0.04516383345651638, "missing_count": 30, "native_ci_lower": 0.08595583887657059, "native_ci_upper": 0.18167645971914262, "native_mean": 0.1317639812761764, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "er_ci_lower": 0.12903646218280362, "er_ci_upper": 0.22810187238236013, "er_mean": 0.17692781473269278, "failure_count": 0, "mean_delta": 0.04516383345651638, "missing_count": 30, "native_ci_lower": 0.08595583887657059, "native_ci_upper": 0.18167645971914262, "native_mean": 0.1317639812761764, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03241024901499869, "ci_upper": 0.10410073872782472, "delta_ci_lower": -0.03241024901499869, "delta_ci_upper": 0.10410073872782472, "er_ci_lower": 0.12583144668767263, "er_ci_upper": 0.27286725405531553, "er_mean": 0.19783042232336195, "failure_count": 0, "mean_delta": 0.0353212891800825, "missing_count": 30, "native_ci_lower": 0.09238653785239162, "native_ci_upper": 0.23727858726639214, "native_mean": 0.16250913314327947, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.5, "native_ci_upper": 0.8333333333333334, "native_mean": 0.6666666666666666, "paired_count": 30, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.05, "ci_upper": 0.075, "delta_ci_lower": -0.05, "delta_ci_upper": 0.075, "er_ci_lower": 0.225, "er_ci_upper": 0.36666666666666664, "er_mean": 0.29166666666666663, "failure_count": 0, "mean_delta": 0.008333333333333333, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.35000000000000003, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 50.25420009046994, "ci_upper": 1426.9458040947936, "delta_ci_lower": 50.25420009046994, "delta_ci_upper": 1426.9458040947936, "er_ci_lower": 40979.97407292967, "er_ci_upper": 42059.68242108095, "er_mean": 41525.96961178545, "failure_count": 0, "mean_delta": 738.2751832978101, "missing_count": 0, "native_ci_lower": 40237.57386295234, "native_ci_upper": 41344.88429747311, "native_mean": 40787.69442848764, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -16.736666666666633, "ci_upper": 182.62291666666658, "delta_ci_lower": -16.736666666666633, "delta_ci_upper": 182.62291666666658, "er_ci_lower": 5830.59125, "er_ci_upper": 5979.694791666667, "er_mean": 5906.575, "failure_count": 0, "mean_delta": 82.06666666666666, "missing_count": 0, "native_ci_lower": 5749.931875, "native_ci_upper": 5899.983333333334, "native_mean": 5824.508333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -29.87749999999998, "ci_upper": 156.26687499999997, "delta_ci_lower": -29.87749999999998, "delta_ci_upper": 156.26687499999997, "er_ci_lower": 5499.958125, "er_ci_upper": 5637.420416666667, "er_mean": 5569.266666666666, "failure_count": 0, "mean_delta": 62.23333333333333, "missing_count": 0, "native_ci_lower": 5438.14125, "native_ci_upper": 5575.900208333333, "native_mean": 5507.033333333334, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.18888888888888888, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.18888888888888888, "delta_ci_upper": -0.011111111111111112, "er_ci_lower": 0.4888888888888889, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5777777777777778, "failure_count": 0, "mean_delta": -0.10000000000000002, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666666, "native_mean": 0.6777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.07129629629629629, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.3685185185185185, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.07129629629629629, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.3685185185185185, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.07129629629629629, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.3685185185185185, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.000925925925925925, "ci_upper": 0.14259259259259258, "delta_ci_lower": 0.000925925925925925, "delta_ci_upper": 0.14259259259259258, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.07129629629629629, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.3685185185185185, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.11111111111111112, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.11111111111111112, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.11111111111111112, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.19999999999999998, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.19999999999999998, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.11111111111111112, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 96.57494370847415, "ci_upper": 151.34023062724734, "delta_ci_lower": 96.57494370847415, "delta_ci_upper": 151.34023062724734, "er_ci_lower": 4950.379725022891, "er_ci_upper": 5316.8887561208, "er_mean": 5114.046966963603, "failure_count": 0, "mean_delta": 122.58184636884835, "missing_count": 0, "native_ci_lower": 4837.277265916782, "native_ci_upper": 5178.656351488462, "native_mean": 4991.465120594754, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148148, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148148, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148148, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.007407407407407408, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.007407407407407408, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148148, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.026280887403694348, "ci_upper": 0.10027011974380395, "delta_ci_lower": -0.026280887403694348, "delta_ci_upper": 0.10027011974380395, "er_ci_lower": 0.12339181286549707, "er_ci_upper": 0.26894249512670565, "er_mean": 0.19437946718648472, "failure_count": 0, "mean_delta": 0.036072588879606425, "missing_count": 30, "native_ci_lower": 0.0907936507936508, "native_ci_upper": 0.2333333333333333, "native_mean": 0.15830687830687828, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.5, "native_ci_upper": 0.8333333333333334, "native_mean": 0.6666666666666666, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.05, "ci_upper": 0.075, "delta_ci_lower": -0.05, "delta_ci_upper": 0.075, "er_ci_lower": 0.225, "er_ci_upper": 0.36666666666666664, "er_mean": 0.2916666666666667, "failure_count": 0, "mean_delta": 0.008333333333333333, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.35, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 50.25420009046995, "ci_upper": 1426.9458040947936, "delta_ci_lower": 50.25420009046995, "delta_ci_upper": 1426.9458040947936, "er_ci_lower": 40979.97407292967, "er_ci_upper": 42059.68242108094, "er_mean": 41525.969611785455, "failure_count": 0, "mean_delta": 738.2751832978101, "missing_count": 0, "native_ci_lower": 40237.57386295234, "native_ci_upper": 41344.884297473116, "native_mean": 40787.694428487644, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -16.736666666666636, "ci_upper": 182.62291666666658, "delta_ci_lower": -16.736666666666636, "delta_ci_upper": 182.62291666666658, "er_ci_lower": 5830.5912499999995, "er_ci_upper": 5979.694791666667, "er_mean": 5906.575, "failure_count": 0, "mean_delta": 82.06666666666666, "missing_count": 0, "native_ci_lower": 5749.931875, "native_ci_upper": 5899.983333333334, "native_mean": 5824.508333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -29.877499999999976, "ci_upper": 156.266875, "delta_ci_lower": -29.877499999999976, "delta_ci_upper": 156.266875, "er_ci_lower": 5499.958125, "er_ci_upper": 5637.420416666667, "er_mean": 5569.266666666666, "failure_count": 0, "mean_delta": 62.233333333333334, "missing_count": 0, "native_ci_lower": 5438.14125, "native_ci_upper": 5575.900208333333, "native_mean": 5507.033333333334, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.18888888888888888, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.18888888888888888, "delta_ci_upper": -0.011111111111111112, "er_ci_lower": 0.4888888888888889, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5777777777777777, "failure_count": 0, "mean_delta": -0.1, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666667, "native_mean": 0.6777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.0712962962962963, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.36851851851851847, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.0712962962962963, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.36851851851851847, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.0712962962962963, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.36851851851851847, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.0712962962962963, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.36851851851851847, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 96.57494370847417, "ci_upper": 151.34023062724734, "delta_ci_lower": 96.57494370847417, "delta_ci_upper": 151.34023062724734, "er_ci_lower": 4950.379725022891, "er_ci_upper": 5316.8887561208, "er_mean": 5114.046966963603, "failure_count": 0, "mean_delta": 122.58184636884835, "missing_count": 0, "native_ci_lower": 4837.277265916782, "native_ci_upper": 5178.656351488462, "native_mean": 4991.465120594755, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148145, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148145, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148145, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148145, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.026280887403694348, "ci_upper": 0.10027011974380395, "delta_ci_lower": -0.026280887403694348, "delta_ci_upper": 0.10027011974380395, "er_ci_lower": 0.12339181286549707, "er_ci_upper": 0.2689424951267056, "er_mean": 0.19437946718648472, "failure_count": 0, "mean_delta": 0.03607258887960642, "missing_count": 30, "native_ci_lower": 0.09079365079365079, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1583068783068783, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.5, "native_ci_upper": 0.8333333333333334, "native_mean": 0.6666666666666666, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.04665232133541989, "ci_upper": 0.07565206051121544, "delta_ci_lower": -0.04665232133541989, "delta_ci_upper": 0.07565206051121544, "er_ci_lower": 0.16694737871674498, "er_ci_upper": 0.30279701356285854, "er_mean": 0.23321596244131454, "failure_count": 0, "mean_delta": 0.013797600417318728, "missing_count": 0, "native_ci_lower": 0.1540395148669797, "native_ci_upper": 0.2887203312467397, "native_mean": 0.2194183620239958, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -42.81812431101474, "ci_upper": 1497.753011737211, "delta_ci_lower": -42.81812431101474, "delta_ci_upper": 1497.753011737211, "er_ci_lower": 40952.578905706454, "er_ci_upper": 42095.48354088258, "er_mean": 41534.46163050647, "failure_count": 0, "mean_delta": 724.05492252525, "missing_count": 0, "native_ci_lower": 40202.70374079956, "native_ci_upper": 41419.8197982909, "native_mean": 40810.40670798122, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -29.933390388628045, "ci_upper": 191.60115382107455, "delta_ci_lower": -29.933390388628045, "delta_ci_upper": 191.60115382107455, "er_ci_lower": 5820.122553468962, "er_ci_upper": 5973.41283157277, "er_mean": 5897.973043818466, "failure_count": 0, "mean_delta": 80.35419926969223, "missing_count": 0, "native_ci_lower": 5738.103185641627, "native_ci_upper": 5898.031875326031, "native_mean": 5817.618844548774, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.06326681448632668, "er_mean": 0.02530672579453067, "failure_count": 0, "mean_delta": -0.008617886178861788, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07646711012564669, "native_mean": 0.03392461197339246, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.06326681448632668, "er_mean": 0.02530672579453067, "failure_count": 0, "mean_delta": -0.008617886178861788, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07646711012564669, "native_mean": 0.03392461197339246, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.025853658536585365, "ci_upper": 0.0, "delta_ci_lower": -0.025853658536585365, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.06326681448632668, "er_mean": 0.02530672579453067, "failure_count": 0, "mean_delta": -0.008617886178861788, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07646711012564669, "native_mean": 0.03392461197339246, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -41.832925469483556, "ci_upper": 166.6405496870109, "delta_ci_lower": -41.832925469483556, "delta_ci_upper": 166.6405496870109, "er_ci_lower": 5493.578552425664, "er_ci_upper": 5632.005328638497, "er_mean": 5563.362350026082, "failure_count": 0, "mean_delta": 61.819822639540945, "missing_count": 0, "native_ci_lower": 5428.563339853939, "native_ci_upper": 5575.517207550861, "native_mean": 5501.542527386542, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.205750184774575, "ci_upper": -0.014915003695491503, "delta_ci_lower": -0.205750184774575, "delta_ci_upper": -0.014915003695491503, "er_ci_lower": 0.45694013303769404, "er_ci_upper": 0.6471840354767184, "er_mean": 0.5517664449371766, "failure_count": 0, "mean_delta": -0.11033259423503326, "missing_count": 30, "native_ci_lower": 0.566090169992609, "native_ci_upper": 0.7575166297117516, "native_mean": 0.6620990391722099, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "er_ci_lower": 0.25402050997782705, "er_ci_upper": 0.43678658536585363, "er_mean": 0.344249815225425, "failure_count": 0, "mean_delta": 0.07111850209411186, "missing_count": 30, "native_ci_lower": 0.18447530179847252, "native_ci_upper": 0.36564794284306473, "native_mean": 0.2731313131313131, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "er_ci_lower": 0.25402050997782705, "er_ci_upper": 0.43678658536585363, "er_mean": 0.344249815225425, "failure_count": 0, "mean_delta": 0.07111850209411186, "missing_count": 30, "native_ci_lower": 0.18447530179847252, "native_ci_upper": 0.36564794284306473, "native_mean": 0.2731313131313131, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "er_ci_lower": 0.25402050997782705, "er_ci_upper": 0.43678658536585363, "er_mean": 0.344249815225425, "failure_count": 0, "mean_delta": 0.07111850209411186, "missing_count": 30, "native_ci_lower": 0.18447530179847252, "native_ci_upper": 0.36564794284306473, "native_mean": 0.2731313131313131, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.002297856614929792, "ci_upper": 0.14148915989159888, "delta_ci_lower": 0.002297856614929792, "delta_ci_upper": 0.14148915989159888, "er_ci_lower": 0.25402050997782705, "er_ci_upper": 0.43678658536585363, "er_mean": 0.344249815225425, "failure_count": 0, "mean_delta": 0.07111850209411186, "missing_count": 30, "native_ci_lower": 0.18447530179847252, "native_ci_upper": 0.36564794284306473, "native_mean": 0.2731313131313131, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "er_ci_lower": 0.31320029563932, "er_ci_upper": 0.5166012564671102, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.1086178861788618, "missing_count": 30, "native_ci_lower": 0.2108662232076867, "native_ci_upper": 0.4033998521803399, "native_mean": 0.3045824094604582, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "er_ci_lower": 0.31320029563932, "er_ci_upper": 0.5166012564671102, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.1086178861788618, "missing_count": 30, "native_ci_lower": 0.2108662232076867, "native_ci_upper": 0.4033998521803399, "native_mean": 0.3045824094604582, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "er_ci_lower": 0.31320029563932, "er_ci_upper": 0.5166012564671102, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.1086178861788618, "missing_count": 30, "native_ci_lower": 0.2108662232076867, "native_ci_upper": 0.4033998521803399, "native_mean": 0.3045824094604582, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.02356393200295651, "ci_upper": 0.1976940133037694, "delta_ci_lower": 0.02356393200295651, "delta_ci_upper": 0.1976940133037694, "er_ci_lower": 0.31320029563932, "er_ci_upper": 0.5166012564671102, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.1086178861788618, "missing_count": 30, "native_ci_lower": 0.2108662232076867, "native_ci_upper": 0.4033998521803399, "native_mean": 0.3045824094604582, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 98.56761613367335, "ci_upper": 167.6063670673894, "delta_ci_lower": 98.56761613367335, "delta_ci_upper": 167.6063670673894, "er_ci_lower": 4987.313982353461, "er_ci_upper": 5442.079840716808, "er_mean": 5187.680169344646, "failure_count": 0, "mean_delta": 131.28926909288373, "missing_count": 0, "native_ci_lower": 4866.4013993135095, "native_ci_upper": 5289.26964816119, "native_mean": 5056.390900251762, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "er_ci_lower": 0.12903646218280362, "er_ci_upper": 0.22810187238236013, "er_mean": 0.17692781473269278, "failure_count": 0, "mean_delta": 0.04516383345651638, "missing_count": 30, "native_ci_lower": 0.08595583887657059, "native_ci_upper": 0.18167645971914262, "native_mean": 0.1317639812761764, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "er_ci_lower": 0.12903646218280362, "er_ci_upper": 0.22810187238236013, "er_mean": 0.17692781473269278, "failure_count": 0, "mean_delta": 0.04516383345651638, "missing_count": 30, "native_ci_lower": 0.08595583887657059, "native_ci_upper": 0.18167645971914262, "native_mean": 0.1317639812761764, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "er_ci_lower": 0.12903646218280362, "er_ci_upper": 0.22810187238236013, "er_mean": 0.17692781473269278, "failure_count": 0, "mean_delta": 0.04516383345651638, "missing_count": 30, "native_ci_lower": 0.08595583887657059, "native_ci_upper": 0.18167645971914262, "native_mean": 0.1317639812761764, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.009242793791574286, "ci_upper": 0.0825731707317073, "delta_ci_lower": 0.009242793791574286, "delta_ci_upper": 0.0825731707317073, "er_ci_lower": 0.12903646218280362, "er_ci_upper": 0.22810187238236013, "er_mean": 0.17692781473269278, "failure_count": 0, "mean_delta": 0.04516383345651638, "missing_count": 30, "native_ci_lower": 0.08595583887657059, "native_ci_upper": 0.18167645971914262, "native_mean": 0.1317639812761764, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03241024901499869, "ci_upper": 0.10410073872782472, "delta_ci_lower": -0.03241024901499869, "delta_ci_upper": 0.10410073872782472, "er_ci_lower": 0.12583144668767263, "er_ci_upper": 0.27286725405531553, "er_mean": 0.19783042232336195, "failure_count": 0, "mean_delta": 0.0353212891800825, "missing_count": 30, "native_ci_lower": 0.09238653785239162, "native_ci_upper": 0.23727858726639214, "native_mean": 0.16250913314327947, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.5, "native_ci_upper": 0.8333333333333334, "native_mean": 0.6666666666666666, "paired_count": 30, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -580.0840521273976, "ci_upper": 2143.6143674108694, "delta_ci_lower": -580.0840521273976, "delta_ci_upper": 2143.6143674108694, "er_ci_lower": 41146.56508680123, "er_ci_upper": 43286.69756672267, "er_mean": 42231.11002078125, "failure_count": 0, "mean_delta": 777.5172721633377, "missing_count": 0, "native_ci_lower": 40236.80845180352, "native_ci_upper": 42764.80221214782, "native_mean": 41453.592748617906, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -124.33499999999998, "ci_upper": 271.07166666666654, "delta_ci_lower": -124.33499999999998, "delta_ci_upper": 271.07166666666654, "er_ci_lower": 5798.965833333334, "er_ci_upper": 6059.235, "er_mean": 5931.9, "failure_count": 0, "mean_delta": 75.5, "missing_count": 0, "native_ci_lower": 5705.196666666667, "native_ci_upper": 6015.036666666667, "native_mean": 5856.4, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -129.53416666666666, "ci_upper": 237.23833333333326, "delta_ci_lower": -129.53416666666666, "delta_ci_upper": 237.23833333333326, "er_ci_lower": 5477.094166666668, "er_ci_upper": 5698.402499999999, "er_mean": 5590.366666666667, "failure_count": 0, "mean_delta": 56.8, "missing_count": 0, "native_ci_lower": 5396.0599999999995, "native_ci_upper": 5675.969999999999, "native_mean": 5533.566666666667, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.43333333333333335, "er_ci_upper": 0.7666666666666667, "er_mean": 0.6, "failure_count": 0, "mean_delta": -0.1, "missing_count": 0, "native_ci_lower": 0.5333333333333333, "native_ci_upper": 0.8666666666666667, "native_mean": 0.7, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.18333333333333332, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.18333333333333332, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.18333333333333332, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016666666666666666, "ci_upper": 0.16666666666666666, "delta_ci_lower": -0.016666666666666666, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.18333333333333332, "er_ci_upper": 0.5, "er_mean": 0.3333333333333333, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 79.79167976979322, "ci_upper": 225.84256366370633, "delta_ci_lower": 79.79167976979322, "delta_ci_upper": 225.84256366370633, "er_ci_lower": 4739.453165304537, "er_ci_upper": 5311.804367324415, "er_mean": 5023.39155957258, "failure_count": 0, "mean_delta": 150.1754109010411, "missing_count": 0, "native_ci_lower": 4610.522627090589, "native_ci_upper": 5143.936197094251, "native_mean": 4873.216148671539, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.09444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.09444444444444446, "er_ci_lower": 0.1, "er_ci_upper": 0.3055555555555555, "er_mean": 0.19444444444444445, "failure_count": 0, "mean_delta": 0.04444444444444444, "missing_count": 0, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.2611111111111111, "native_mean": 0.15, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.09444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.09444444444444446, "er_ci_lower": 0.1, "er_ci_upper": 0.3055555555555555, "er_mean": 0.19444444444444445, "failure_count": 0, "mean_delta": 0.04444444444444444, "missing_count": 0, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.2611111111111111, "native_mean": 0.15, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.09444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.09444444444444446, "er_ci_lower": 0.1, "er_ci_upper": 0.3055555555555555, "er_mean": 0.19444444444444445, "failure_count": 0, "mean_delta": 0.04444444444444444, "missing_count": 0, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.2611111111111111, "native_mean": 0.15, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.09444444444444446, "delta_ci_lower": 0.0, "delta_ci_upper": 0.09444444444444446, "er_ci_lower": 0.1, "er_ci_upper": 0.3055555555555555, "er_mean": 0.19444444444444445, "failure_count": 0, "mean_delta": 0.04444444444444444, "missing_count": 0, "native_ci_lower": 0.06111111111111111, "native_ci_upper": 0.2611111111111111, "native_mean": 0.15, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.13333333333333333, "ci_upper": 0.06666666666666667, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.06666666666666667, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "inference": { "answer_correct": { "ci_lower": -0.06666666666666667, "ci_upper": 0.2, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -815.1990108945753, "ci_upper": 2329.892005727936, "delta_ci_lower": -815.1990108945753, "delta_ci_upper": 2329.892005727936, "er_ci_lower": 39695.45390271116, "er_ci_upper": 41830.13220624261, "er_mean": 40778.051906932764, "failure_count": 0, "mean_delta": 750.3996763106746, "missing_count": 0, "native_ci_lower": 39004.29720360165, "native_ci_upper": 41103.42347349001, "native_mean": 40027.652230622094, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -134.2799999999999, "ci_upper": 328.60916666666657, "delta_ci_lower": -134.2799999999999, "delta_ci_upper": 328.60916666666657, "er_ci_lower": 5679.496666666667, "er_ci_upper": 6003.704166666666, "er_mean": 5844.9, "failure_count": 0, "mean_delta": 96.63333333333334, "missing_count": 0, "native_ci_lower": 5603.030000000001, "native_ci_upper": 5899.3341666666665, "native_mean": 5748.266666666666, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.0, "delta_ci_lower": 0.0, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -146.40249999999997, "ci_upper": 292.14249999999987, "delta_ci_lower": -146.40249999999997, "delta_ci_upper": 292.14249999999987, "er_ci_lower": 5368.960833333333, "er_ci_upper": 5668.700833333333, "er_mean": 5520.4, "failure_count": 0, "mean_delta": 73.86666666666666, "missing_count": 0, "native_ci_lower": 5310.53, "native_ci_upper": 5585.971666666666, "native_mean": 5446.533333333334, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.4, "ci_upper": 0.0, "delta_ci_lower": -0.4, "delta_ci_upper": 0.0, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": -0.2, "missing_count": 0, "native_ci_lower": 0.3333333333333333, "native_ci_upper": 0.6666666666666666, "native_mean": 0.5, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.04444444444444444, "ci_upper": 0.20277777777777778, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.20277777777777778, "er_ci_lower": 0.17777777777777776, "er_ci_upper": 0.48333333333333334, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.10833333333333334, "native_ci_upper": 0.4083333333333333, "native_mean": 0.25277777777777777, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.04444444444444444, "ci_upper": 0.20277777777777778, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.20277777777777778, "er_ci_lower": 0.17777777777777776, "er_ci_upper": 0.48333333333333334, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.10833333333333334, "native_ci_upper": 0.4083333333333333, "native_mean": 0.25277777777777777, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.04444444444444444, "ci_upper": 0.20277777777777778, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.20277777777777778, "er_ci_lower": 0.17777777777777776, "er_ci_upper": 0.48333333333333334, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.10833333333333334, "native_ci_upper": 0.4083333333333333, "native_mean": 0.25277777777777777, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.04444444444444444, "ci_upper": 0.20277777777777778, "delta_ci_lower": -0.04444444444444444, "delta_ci_upper": 0.20277777777777778, "er_ci_lower": 0.17777777777777776, "er_ci_upper": 0.48333333333333334, "er_mean": 0.3277777777777778, "failure_count": 0, "mean_delta": 0.075, "missing_count": 0, "native_ci_lower": 0.10833333333333334, "native_ci_upper": 0.4083333333333333, "native_mean": 0.25277777777777777, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.06666666666666667, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.06666666666666667, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.4666666666666667, "native_mean": 0.3, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 92.28644827991955, "ci_upper": 234.41065298044117, "delta_ci_lower": 92.28644827991955, "delta_ci_upper": 234.41065298044117, "er_ci_lower": 4645.227864263967, "er_ci_upper": 5869.067724626318, "er_mean": 5161.295626467715, "failure_count": 0, "mean_delta": 150.6299790693447, "missing_count": 0, "native_ci_lower": 4523.8273608832005, "native_ci_upper": 5653.826494955283, "native_mean": 5010.66564739837, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.01944444444444444, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.01944444444444444, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.18055555555555552, "er_mean": 0.12222222222222222, "failure_count": 0, "mean_delta": 0.030555555555555558, "missing_count": 0, "native_ci_lower": 0.041666666666666664, "native_ci_upper": 0.14444444444444443, "native_mean": 0.09166666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.01944444444444444, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.01944444444444444, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.18055555555555552, "er_mean": 0.12222222222222222, "failure_count": 0, "mean_delta": 0.030555555555555558, "missing_count": 0, "native_ci_lower": 0.041666666666666664, "native_ci_upper": 0.14444444444444443, "native_mean": 0.09166666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.01944444444444444, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.01944444444444444, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.18055555555555552, "er_mean": 0.12222222222222222, "failure_count": 0, "mean_delta": 0.030555555555555558, "missing_count": 0, "native_ci_lower": 0.041666666666666664, "native_ci_upper": 0.14444444444444443, "native_mean": 0.09166666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.01944444444444444, "ci_upper": 0.08333333333333333, "delta_ci_lower": -0.01944444444444444, "delta_ci_upper": 0.08333333333333333, "er_ci_lower": 0.06666666666666667, "er_ci_upper": 0.18055555555555552, "er_mean": 0.12222222222222222, "failure_count": 0, "mean_delta": 0.030555555555555558, "missing_count": 0, "native_ci_lower": 0.041666666666666664, "native_ci_upper": 0.14444444444444443, "native_mean": 0.09166666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.023210804789752158, "ci_upper": 0.261010512392091, "delta_ci_lower": -0.023210804789752158, "delta_ci_upper": 0.261010512392091, "er_ci_lower": 0.24629629629629632, "er_ci_upper": 0.5961013645224171, "er_mean": 0.4164717348927875, "failure_count": 0, "mean_delta": 0.11012252854358118, "missing_count": 0, "native_ci_lower": 0.14603174603174604, "native_ci_upper": 0.473015873015873, "native_mean": 0.3063492063492063, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "temporal": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -994.5799084167809, "ci_upper": 1929.0927815580897, "delta_ci_lower": -994.5799084167809, "delta_ci_upper": 1929.0927815580897, "er_ci_lower": 40538.69896254386, "er_ci_upper": 42628.95357763123, "er_mean": 41581.04156518044, "failure_count": 0, "mean_delta": 510.01114160753787, "missing_count": 0, "native_ci_lower": 40017.38776207833, "native_ci_upper": 42169.11225483694, "native_mean": 41071.030423572905, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -159.03499999999997, "ci_upper": 251.6083333333332, "delta_ci_lower": -159.03499999999997, "delta_ci_upper": 251.6083333333332, "er_ci_lower": 5756.760833333333, "er_ci_upper": 6023.87, "er_mean": 5891.4, "failure_count": 0, "mean_delta": 52.86666666666667, "missing_count": 0, "native_ci_lower": 5692.931666666666, "native_ci_upper": 5985.835833333333, "native_mean": 5838.533333333334, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.0, "er_mean": 0.0, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.1, "native_mean": 0.03333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -153.53416666666666, "ci_upper": 238.67333333333323, "delta_ci_lower": -153.53416666666666, "delta_ci_upper": 238.67333333333323, "er_ci_lower": 5436.464999999999, "er_ci_upper": 5691.466666666666, "er_mean": 5563.466666666666, "failure_count": 0, "mean_delta": 47.93333333333333, "missing_count": 0, "native_ci_lower": 5377.490833333333, "native_ci_upper": 5653.7375, "native_mean": 5515.533333333334, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.1, "ci_upper": 0.1, "delta_ci_lower": -0.1, "delta_ci_upper": 0.1, "er_ci_lower": 0.7, "er_ci_upper": 0.9666666666666667, "er_mean": 0.8333333333333334, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.7, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.07222222222222222, "ci_upper": 0.21666666666666667, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.21666666666666667, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5333333333333333, "er_mean": 0.38333333333333336, "failure_count": 0, "mean_delta": 0.07222222222222222, "missing_count": 0, "native_ci_lower": 0.1611111111111111, "native_ci_upper": 0.4722222222222222, "native_mean": 0.3111111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.07222222222222222, "ci_upper": 0.21666666666666667, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.21666666666666667, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5333333333333333, "er_mean": 0.38333333333333336, "failure_count": 0, "mean_delta": 0.07222222222222222, "missing_count": 0, "native_ci_lower": 0.1611111111111111, "native_ci_upper": 0.4722222222222222, "native_mean": 0.3111111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.07222222222222222, "ci_upper": 0.21666666666666667, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.21666666666666667, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5333333333333333, "er_mean": 0.38333333333333336, "failure_count": 0, "mean_delta": 0.07222222222222222, "missing_count": 0, "native_ci_lower": 0.1611111111111111, "native_ci_upper": 0.4722222222222222, "native_mean": 0.3111111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.07222222222222222, "ci_upper": 0.21666666666666667, "delta_ci_lower": -0.07222222222222222, "delta_ci_upper": 0.21666666666666667, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5333333333333333, "er_mean": 0.38333333333333336, "failure_count": 0, "mean_delta": 0.07222222222222222, "missing_count": 0, "native_ci_lower": 0.1611111111111111, "native_ci_upper": 0.4722222222222222, "native_mean": 0.3111111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.3, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.3, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.3, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.3, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.3, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.13333333333333333, "missing_count": 0, "native_ci_lower": 0.2, "native_ci_upper": 0.5333333333333333, "native_mean": 0.36666666666666664, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 69.94626650101661, "ci_upper": 122.19868244719692, "delta_ci_lower": 69.94626650101661, "delta_ci_upper": 122.19868244719692, "er_ci_lower": 5645.234686629847, "er_ci_upper": 6111.549636966664, "er_mean": 5873.575891585399, "failure_count": 0, "mean_delta": 95.9753067465499, "missing_count": 0, "native_ci_lower": 5547.131134309457, "native_ci_upper": 6015.401721209637, "native_mean": 5777.6005848388495, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.02777777777777778, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.02777777777777778, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.31666666666666665, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.25555555555555554, "native_mean": 0.1611111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.02777777777777778, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.02777777777777778, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.31666666666666665, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.25555555555555554, "native_mean": 0.1611111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.02777777777777778, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.02777777777777778, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.31666666666666665, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.25555555555555554, "native_mean": 0.1611111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.02777777777777778, "ci_upper": 0.1611111111111111, "delta_ci_lower": -0.02777777777777778, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.31666666666666665, "er_mean": 0.22777777777777777, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.08333333333333333, "native_ci_upper": 0.25555555555555554, "native_mean": 0.1611111111111111, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.005714285714285714, "ci_upper": 0.1, "delta_ci_lower": -0.005714285714285714, "delta_ci_upper": 0.1, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": 0.03142857142857143, "missing_count": 0, "native_ci_lower": 0.001904761904761905, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1019047619047619, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "unanswerable": { "answer_correct": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.5, "native_ci_upper": 0.8333333333333334, "native_mean": 0.6666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -168.07039054702406, "ci_upper": 2001.6958744599826, "delta_ci_lower": -168.07039054702406, "delta_ci_upper": 2001.6958744599826, "er_ci_lower": 40368.397539224825, "er_ci_upper": 42604.1736400564, "er_mean": 41513.67495424735, "failure_count": 0, "mean_delta": 915.1726431096904, "missing_count": 0, "native_ci_lower": 39518.7331473417, "native_ci_upper": 41638.46283702927, "native_mean": 40598.50231113766, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -48.53416666666666, "ci_upper": 259.03499999999997, "delta_ci_lower": -48.53416666666666, "delta_ci_upper": 259.03499999999997, "er_ci_lower": 5786.128333333333, "er_ci_upper": 6123.5375, "er_mean": 5958.1, "failure_count": 0, "mean_delta": 103.26666666666667, "missing_count": 0, "native_ci_lower": 5696.595833333333, "native_ci_upper": 6006.308333333333, "native_mean": 5854.833333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "context_token_count": { "ci_lower": -67.9675, "ci_upper": 211.50749999999988, "delta_ci_lower": -67.9675, "delta_ci_upper": 211.50749999999988, "er_ci_lower": 5451.496666666667, "er_ci_upper": 5749.569166666666, "er_mean": 5602.833333333333, "failure_count": 0, "mean_delta": 70.33333333333333, "missing_count": 0, "native_ci_lower": 5392.766666666666, "native_ci_upper": 5668.833333333333, "native_mean": 5532.5, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_latency_ms": { "ci_lower": 68.79175996466074, "ci_upper": 117.68628329853526, "delta_ci_lower": 68.79175996466074, "delta_ci_upper": 117.68628329853526, "er_ci_lower": 4249.106866250126, "er_ci_upper": 4542.758959090375, "er_mean": 4397.924790228717, "failure_count": 0, "mean_delta": 93.5466887584577, "missing_count": 0, "native_ci_lower": 4163.1775075206915, "native_ci_upper": 4440.316294467678, "native_mean": 4304.378101470259, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "unanswerable_correct": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.5, "native_ci_upper": 0.8333333333333334, "native_mean": 0.6666666666666666, "paired_count": 30, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.05, "ci_upper": 0.075, "delta_ci_lower": -0.05, "delta_ci_upper": 0.075, "er_ci_lower": 0.225, "er_ci_upper": 0.36666666666666664, "er_mean": 0.2916666666666667, "failure_count": 0, "mean_delta": 0.008333333333333333, "missing_count": 0, "native_ci_lower": 0.21666666666666667, "native_ci_upper": 0.35, "native_mean": 0.2833333333333333, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 50.25420009046995, "ci_upper": 1426.9458040947936, "delta_ci_lower": 50.25420009046995, "delta_ci_upper": 1426.9458040947936, "er_ci_lower": 40979.97407292967, "er_ci_upper": 42059.68242108094, "er_mean": 41525.969611785455, "failure_count": 0, "mean_delta": 738.2751832978101, "missing_count": 0, "native_ci_lower": 40237.57386295234, "native_ci_upper": 41344.884297473116, "native_mean": 40787.694428487644, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -16.736666666666636, "ci_upper": 182.62291666666658, "delta_ci_lower": -16.736666666666636, "delta_ci_upper": 182.62291666666658, "er_ci_lower": 5830.5912499999995, "er_ci_upper": 5979.694791666667, "er_mean": 5906.575, "failure_count": 0, "mean_delta": 82.06666666666666, "missing_count": 0, "native_ci_lower": 5749.931875, "native_ci_upper": 5899.983333333334, "native_mean": 5824.508333333333, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": -0.03333333333333333, "ci_upper": 0.0, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.05555555555555555, "er_mean": 0.022222222222222223, "failure_count": 0, "mean_delta": -0.011111111111111112, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.07777777777777778, "native_mean": 0.03333333333333333, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -29.877499999999976, "ci_upper": 156.266875, "delta_ci_lower": -29.877499999999976, "delta_ci_upper": 156.266875, "er_ci_lower": 5499.958125, "er_ci_upper": 5637.420416666667, "er_mean": 5569.266666666666, "failure_count": 0, "mean_delta": 62.233333333333334, "missing_count": 0, "native_ci_lower": 5438.14125, "native_ci_upper": 5575.900208333333, "native_mean": 5507.033333333334, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.18888888888888888, "ci_upper": -0.011111111111111112, "delta_ci_lower": -0.18888888888888888, "delta_ci_upper": -0.011111111111111112, "er_ci_lower": 0.4888888888888889, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5777777777777777, "failure_count": 0, "mean_delta": -0.1, "missing_count": 30, "native_ci_lower": 0.5888888888888889, "native_ci_upper": 0.7666666666666667, "native_mean": 0.6777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.0712962962962963, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.36851851851851847, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.0712962962962963, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.36851851851851847, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.0712962962962963, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.36851851851851847, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.0009259259259259257, "ci_upper": 0.1425925925925926, "delta_ci_lower": 0.0009259259259259257, "delta_ci_upper": 0.1425925925925926, "er_ci_lower": 0.25925925925925924, "er_ci_upper": 0.4388888888888889, "er_mean": 0.34814814814814815, "failure_count": 0, "mean_delta": 0.0712962962962963, "missing_count": 30, "native_ci_lower": 0.1898148148148148, "native_ci_upper": 0.36851851851851847, "native_mean": 0.27685185185185185, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 96.57494370847417, "ci_upper": 151.34023062724734, "delta_ci_lower": 96.57494370847417, "delta_ci_upper": 151.34023062724734, "er_ci_lower": 4950.379725022891, "er_ci_upper": 5316.8887561208, "er_mean": 5114.046966963603, "failure_count": 0, "mean_delta": 122.58184636884835, "missing_count": 0, "native_ci_lower": 4837.277265916782, "native_ci_upper": 5178.656351488462, "native_mean": 4991.465120594755, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148145, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148145, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148145, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0074074074074074086, "ci_upper": 0.08796296296296297, "delta_ci_lower": 0.0074074074074074086, "delta_ci_upper": 0.08796296296296297, "er_ci_lower": 0.13425925925925927, "er_ci_upper": 0.23148148148148145, "er_mean": 0.18148148148148147, "failure_count": 0, "mean_delta": 0.04722222222222222, "missing_count": 30, "native_ci_lower": 0.08888888888888889, "native_ci_upper": 0.18333333333333332, "native_mean": 0.13425925925925924, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.026280887403694348, "ci_upper": 0.10027011974380395, "delta_ci_lower": -0.026280887403694348, "delta_ci_upper": 0.10027011974380395, "er_ci_lower": 0.12339181286549707, "er_ci_upper": 0.2689424951267056, "er_mean": 0.19437946718648472, "failure_count": 0, "mean_delta": 0.03607258887960642, "missing_count": 30, "native_ci_lower": 0.09079365079365079, "native_ci_upper": 0.23333333333333334, "native_mean": 0.1583068783068783, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.2, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.2, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 90, "native_ci_lower": 0.5, "native_ci_upper": 0.8333333333333334, "native_mean": 0.6666666666666666, "paired_count": 30, "schema_version": "3.0.0" } }, "paired_question_count": 120, "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 }, { "base_run_id": "base_e3bd699ce1aa4c5d8745f8a7", "builder_key": "gemma3_12b", "paired_effects": { "analyses": { "primary": { "estimand": "intention_to_evaluate", "macro": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.30833333333333335, "er_ci_upper": 0.43333333333333335, "er_mean": 0.3666666666666667, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.2583333333333333, "native_ci_upper": 0.38333333333333336, "native_mean": 0.31666666666666665, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1490.3432278421435, "ci_upper": 3336.049444383461, "delta_ci_lower": 1490.3432278421435, "delta_ci_upper": 3336.049444383461, "er_ci_lower": 42998.26021714165, "er_ci_upper": 44559.317033167754, "er_mean": 43756.55205035388, "failure_count": 0, "mean_delta": 2404.397164233766, "missing_count": 0, "native_ci_lower": 40809.56975701582, "native_ci_upper": 41910.0932461864, "native_mean": 41352.154886120115, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -182.42666666666665, "ci_upper": 18.36854166666664, "delta_ci_lower": -182.42666666666665, "delta_ci_upper": 18.36854166666664, "er_ci_lower": 5725.45, "er_ci_upper": 5881.867916666666, "er_mean": 5802.316666666667, "failure_count": 0, "mean_delta": -81.875, "missing_count": 0, "native_ci_lower": 5810.895416666666, "native_ci_upper": 5958.8525, "native_mean": 5884.191666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -206.7933333333333, "ci_upper": -17.074583333333333, "delta_ci_lower": -206.7933333333333, "delta_ci_upper": -17.074583333333333, "er_ci_lower": 5419.697499999999, "er_ci_upper": 5567.492499999999, "er_mean": 5492.025, "failure_count": 0, "mean_delta": -111.55000000000001, "missing_count": 0, "native_ci_lower": 5536.49125, "native_ci_upper": 5671.25, "native_mean": 5603.575, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.23333333333333334, "er_mean": 0.1, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.7111111111111111, "er_mean": 0.6222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.4888888888888889, "native_ci_upper": 0.6666666666666666, "native_mean": 0.5777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.45925925925925926, "er_mean": 0.36481481481481487, "failure_count": 0, "mean_delta": 0.10833333333333332, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.3444444444444445, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.45925925925925926, "er_mean": 0.36481481481481487, "failure_count": 0, "mean_delta": 0.10833333333333332, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.3444444444444445, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.45925925925925926, "er_mean": 0.36481481481481487, "failure_count": 0, "mean_delta": 0.10833333333333332, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.3444444444444445, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.45925925925925926, "er_mean": 0.36481481481481487, "failure_count": 0, "mean_delta": 0.10833333333333332, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.3444444444444445, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222216, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222216, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222216, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222216, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222216, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222216, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222216, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222216, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1136.4603205151313, "ci_upper": 1612.4235890571679, "delta_ci_lower": 1136.4603205151313, "delta_ci_upper": 1612.4235890571679, "er_ci_lower": 6047.591782432573, "er_ci_upper": 6674.87468875639, "er_mean": 6353.128436448364, "failure_count": 0, "mean_delta": 1367.9508693972216, "missing_count": 0, "native_ci_lower": 4829.62871292686, "native_ci_upper": 5174.983032107922, "native_mean": 4985.1775670511415, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.13888888888888887, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074074, "failure_count": 0, "mean_delta": 0.05648148148148147, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.13888888888888887, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074074, "failure_count": 0, "mean_delta": 0.05648148148148147, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.13888888888888887, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074074, "failure_count": 0, "mean_delta": 0.05648148148148147, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.13888888888888887, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074074, "failure_count": 0, "mean_delta": 0.05648148148148147, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03140096618357488, "ci_upper": 0.09757079793436609, "delta_ci_lower": -0.03140096618357488, "delta_ci_upper": 0.09757079793436609, "er_ci_lower": 0.1300711912562238, "er_ci_upper": 0.2771604938271605, "er_mean": 0.19961223092157623, "failure_count": 0, "mean_delta": 0.031593578210894556, "missing_count": 30, "native_ci_lower": 0.1030086721685454, "native_ci_upper": 0.23923871108427266, "native_mean": 0.1680186527106817, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6333333333333333, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.30833333333333335, "er_ci_upper": 0.43333333333333335, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.25833333333333336, "native_ci_upper": 0.38333333333333336, "native_mean": 0.31666666666666665, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1490.3432278421435, "ci_upper": 3336.0494443834614, "delta_ci_lower": 1490.3432278421435, "delta_ci_upper": 3336.0494443834614, "er_ci_lower": 42998.26021714165, "er_ci_upper": 44559.317033167754, "er_mean": 43756.55205035388, "failure_count": 0, "mean_delta": 2404.397164233766, "missing_count": 0, "native_ci_lower": 40809.56975701583, "native_ci_upper": 41910.0932461864, "native_mean": 41352.154886120115, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -182.42666666666665, "ci_upper": 18.36854166666664, "delta_ci_lower": -182.42666666666665, "delta_ci_upper": 18.36854166666664, "er_ci_lower": 5725.45, "er_ci_upper": 5881.867916666666, "er_mean": 5802.316666666667, "failure_count": 0, "mean_delta": -81.875, "missing_count": 0, "native_ci_lower": 5810.895416666666, "native_ci_upper": 5958.8525, "native_mean": 5884.191666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -206.7933333333333, "ci_upper": -17.074583333333337, "delta_ci_lower": -206.7933333333333, "delta_ci_upper": -17.074583333333337, "er_ci_lower": 5419.697499999999, "er_ci_upper": 5567.492499999999, "er_mean": 5492.025, "failure_count": 0, "mean_delta": -111.55, "missing_count": 0, "native_ci_lower": 5536.49125, "native_ci_upper": 5671.25, "native_mean": 5603.575, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.23333333333333334, "er_mean": 0.1, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.7111111111111111, "er_mean": 0.6222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.4888888888888889, "native_ci_upper": 0.6666666666666666, "native_mean": 0.5777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3648148148148148, "failure_count": 0, "mean_delta": 0.10833333333333334, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.34444444444444444, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3648148148148148, "failure_count": 0, "mean_delta": 0.10833333333333334, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.34444444444444444, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3648148148148148, "failure_count": 0, "mean_delta": 0.10833333333333334, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.34444444444444444, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3648148148148148, "failure_count": 0, "mean_delta": 0.10833333333333334, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.34444444444444444, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1136.4603205151313, "ci_upper": 1612.4235890571679, "delta_ci_lower": 1136.4603205151313, "delta_ci_upper": 1612.4235890571679, "er_ci_lower": 6047.591782432573, "er_ci_upper": 6674.87468875639, "er_mean": 6353.128436448363, "failure_count": 0, "mean_delta": 1367.9508693972214, "missing_count": 0, "native_ci_lower": 4829.62871292686, "native_ci_upper": 5174.983032107921, "native_mean": 4985.1775670511415, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.1, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074077, "failure_count": 0, "mean_delta": 0.05648148148148148, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.1, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074077, "failure_count": 0, "mean_delta": 0.05648148148148148, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.1, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074077, "failure_count": 0, "mean_delta": 0.05648148148148148, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.1, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074077, "failure_count": 0, "mean_delta": 0.05648148148148148, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03140096618357488, "ci_upper": 0.09757079793436607, "delta_ci_lower": -0.03140096618357488, "delta_ci_upper": 0.09757079793436607, "er_ci_lower": 0.13007119125622377, "er_ci_upper": 0.27716049382716046, "er_mean": 0.19961223092157626, "failure_count": 0, "mean_delta": 0.031593578210894556, "missing_count": 30, "native_ci_lower": 0.10300867216854538, "native_ci_upper": 0.23923871108427266, "native_mean": 0.1680186527106817, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6333333333333333, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.01343244653103808, "ci_upper": 0.11190890714658316, "delta_ci_lower": -0.01343244653103808, "delta_ci_upper": 0.11190890714658316, "er_ci_lower": 0.21727960354720918, "er_ci_upper": 0.3611133933229003, "er_mean": 0.2859415753781951, "failure_count": 0, "mean_delta": 0.0477829942618675, "missing_count": 0, "native_ci_lower": 0.1749188184663537, "native_ci_upper": 0.30761834898278556, "native_mean": 0.2381585811163276, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1392.5298387687326, "ci_upper": 3299.6815735812033, "delta_ci_lower": 1392.5298387687326, "delta_ci_upper": 3299.6815735812033, "er_ci_lower": 42753.684919231884, "er_ci_upper": 44338.482291522596, "er_mean": 43529.88900707475, "failure_count": 0, "mean_delta": 2328.962408261875, "missing_count": 0, "native_ci_lower": 40593.38678009156, "native_ci_upper": 41836.048988168695, "native_mean": 41200.926598812875, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -174.91420579029736, "ci_upper": 39.461237610850276, "delta_ci_lower": -174.91420579029736, "delta_ci_upper": 39.461237610850276, "er_ci_lower": 5708.593603938445, "er_ci_upper": 5876.608816836202, "er_mean": 5791.596817944705, "failure_count": 0, "mean_delta": -67.28154668753261, "missing_count": 0, "native_ci_lower": 5779.918081311946, "native_ci_upper": 5940.674443140324, "native_mean": 5858.878364632238, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09600886917960089, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09600886917960089, "er_ci_lower": 0.008617886178861788, "er_ci_upper": 0.09600886917960089, "er_mean": 0.045986696230598666, "failure_count": 0, "mean_delta": 0.045986696230598666, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09600886917960089, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09600886917960089, "er_ci_lower": 0.008617886178861788, "er_ci_upper": 0.09600886917960089, "er_mean": 0.045986696230598666, "failure_count": 0, "mean_delta": 0.045986696230598666, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09600886917960089, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09600886917960089, "er_ci_lower": 0.008617886178861788, "er_ci_upper": 0.09600886917960089, "er_mean": 0.045986696230598666, "failure_count": 0, "mean_delta": 0.045986696230598666, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -201.2042357850808, "ci_upper": -1.2698549165362587, "delta_ci_lower": -201.2042357850808, "delta_ci_upper": -1.2698549165362587, "er_ci_lower": 5404.053703051643, "er_ci_upper": 5563.170277777778, "er_mean": 5482.468544600939, "failure_count": 0, "mean_delta": -100.77589984350548, "missing_count": 0, "native_ci_lower": 5512.142428273343, "native_ci_upper": 5657.056424100157, "native_mean": 5583.2444444444445, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.23333333333333334, "er_mean": 0.1, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.044849593495934946, "ci_upper": 0.12235033259423503, "delta_ci_lower": -0.044849593495934946, "delta_ci_upper": 0.12235033259423503, "er_ci_lower": 0.49662971175166293, "er_ci_upper": 0.6811086474501109, "er_mean": 0.5902734663710273, "failure_count": 0, "mean_delta": 0.03791574279379157, "missing_count": 30, "native_ci_lower": 0.45753141167775313, "native_ci_upper": 0.6471840354767184, "native_mean": 0.5523577235772358, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03514005912786402, "ci_upper": 0.18315545700911554, "delta_ci_lower": 0.03514005912786402, "delta_ci_upper": 0.18315545700911554, "er_ci_lower": 0.2666313131313131, "er_ci_upper": 0.454560852426706, "er_mean": 0.3591771372259177, "failure_count": 0, "mean_delta": 0.10683173195368316, "missing_count": 30, "native_ci_lower": 0.17164966740576498, "native_ci_upper": 0.3408791574279379, "native_mean": 0.2523454052722346, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03514005912786402, "ci_upper": 0.18315545700911554, "delta_ci_lower": 0.03514005912786402, "delta_ci_upper": 0.18315545700911554, "er_ci_lower": 0.2666313131313131, "er_ci_upper": 0.454560852426706, "er_mean": 0.3591771372259177, "failure_count": 0, "mean_delta": 0.10683173195368316, "missing_count": 30, "native_ci_lower": 0.17164966740576498, "native_ci_upper": 0.3408791574279379, "native_mean": 0.2523454052722346, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03514005912786402, "ci_upper": 0.18315545700911554, "delta_ci_lower": 0.03514005912786402, "delta_ci_upper": 0.18315545700911554, "er_ci_lower": 0.2666313131313131, "er_ci_upper": 0.454560852426706, "er_mean": 0.3591771372259177, "failure_count": 0, "mean_delta": 0.10683173195368316, "missing_count": 30, "native_ci_lower": 0.17164966740576498, "native_ci_upper": 0.3408791574279379, "native_mean": 0.2523454052722346, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03514005912786402, "ci_upper": 0.18315545700911554, "delta_ci_lower": 0.03514005912786402, "delta_ci_upper": 0.18315545700911554, "er_ci_lower": 0.2666313131313131, "er_ci_upper": 0.454560852426706, "er_mean": 0.3591771372259177, "failure_count": 0, "mean_delta": 0.10683173195368316, "missing_count": 30, "native_ci_lower": 0.17164966740576498, "native_ci_upper": 0.3408791574279379, "native_mean": 0.2523454052722346, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.014382852919438284, "ci_upper": 0.19829748706577957, "delta_ci_lower": 0.014382852919438284, "delta_ci_upper": 0.19829748706577957, "er_ci_lower": 0.3109375461936437, "er_ci_upper": 0.5166456023651145, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.10517368810051736, "missing_count": 30, "native_ci_lower": 0.21605321507760528, "native_ci_upper": 0.4057062084257205, "native_mean": 0.3080266075388026, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.014382852919438284, "ci_upper": 0.19829748706577957, "delta_ci_lower": 0.014382852919438284, "delta_ci_upper": 0.19829748706577957, "er_ci_lower": 0.3109375461936437, "er_ci_upper": 0.5166456023651145, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.10517368810051736, "missing_count": 30, "native_ci_lower": 0.21605321507760528, "native_ci_upper": 0.4057062084257205, "native_mean": 0.3080266075388026, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.014382852919438284, "ci_upper": 0.19829748706577957, "delta_ci_lower": 0.014382852919438284, "delta_ci_upper": 0.19829748706577957, "er_ci_lower": 0.3109375461936437, "er_ci_upper": 0.5166456023651145, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.10517368810051736, "missing_count": 30, "native_ci_lower": 0.21605321507760528, "native_ci_upper": 0.4057062084257205, "native_mean": 0.3080266075388026, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.014382852919438284, "ci_upper": 0.19829748706577957, "delta_ci_lower": 0.014382852919438284, "delta_ci_upper": 0.19829748706577957, "er_ci_lower": 0.3109375461936437, "er_ci_upper": 0.5166456023651145, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.10517368810051736, "missing_count": 30, "native_ci_lower": 0.21605321507760528, "native_ci_upper": 0.4057062084257205, "native_mean": 0.3080266075388026, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1066.711180465078, "ci_upper": 1599.4650921804057, "delta_ci_lower": 1066.711180465078, "delta_ci_upper": 1599.4650921804057, "er_ci_lower": 6022.114888077516, "er_ci_upper": 6753.386591657126, "er_mean": 6375.140385534258, "failure_count": 0, "mean_delta": 1321.5354807513274, "missing_count": 0, "native_ci_lower": 4864.133784352415, "native_ci_upper": 5290.415724121249, "native_mean": 5053.60490478293, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.008686868686868687, "ci_upper": 0.0991951219512195, "delta_ci_lower": 0.008686868686868687, "delta_ci_upper": 0.0991951219512195, "er_ci_lower": 0.13412817196353782, "er_ci_upper": 0.24317023897511697, "er_mean": 0.18640551860064053, "failure_count": 0, "mean_delta": 0.05465878295146588, "missing_count": 30, "native_ci_lower": 0.09145565410199555, "native_ci_upper": 0.17521729490022167, "native_mean": 0.1317467356491747, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.008686868686868687, "ci_upper": 0.0991951219512195, "delta_ci_lower": 0.008686868686868687, "delta_ci_upper": 0.0991951219512195, "er_ci_lower": 0.13412817196353782, "er_ci_upper": 0.24317023897511697, "er_mean": 0.18640551860064053, "failure_count": 0, "mean_delta": 0.05465878295146588, "missing_count": 30, "native_ci_lower": 0.09145565410199555, "native_ci_upper": 0.17521729490022167, "native_mean": 0.1317467356491747, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.008686868686868687, "ci_upper": 0.0991951219512195, "delta_ci_lower": 0.008686868686868687, "delta_ci_upper": 0.0991951219512195, "er_ci_lower": 0.13412817196353782, "er_ci_upper": 0.24317023897511697, "er_mean": 0.18640551860064053, "failure_count": 0, "mean_delta": 0.05465878295146588, "missing_count": 30, "native_ci_lower": 0.09145565410199555, "native_ci_upper": 0.17521729490022167, "native_mean": 0.1317467356491747, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.008686868686868687, "ci_upper": 0.0991951219512195, "delta_ci_lower": 0.008686868686868687, "delta_ci_upper": 0.0991951219512195, "er_ci_lower": 0.13412817196353782, "er_ci_upper": 0.24317023897511697, "er_mean": 0.18640551860064053, "failure_count": 0, "mean_delta": 0.05465878295146588, "missing_count": 30, "native_ci_lower": 0.09145565410199555, "native_ci_upper": 0.17521729490022167, "native_mean": 0.1317467356491747, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.026643860996331082, "ci_upper": 0.10987371059481345, "delta_ci_lower": -0.026643860996331082, "delta_ci_upper": 0.10987371059481345, "er_ci_lower": 0.14029652708752796, "er_ci_upper": 0.29847575103800655, "er_mean": 0.215617475814938, "failure_count": 0, "mean_delta": 0.03892435157144267, "missing_count": 30, "native_ci_lower": 0.10845176580224303, "native_ci_upper": 0.25083133562560916, "native_mean": 0.1766931242434954, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6333333333333333, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" } } }, "secondary": { "estimand": "complete_case", "excluded_failure_count": 0, "macro": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.30833333333333335, "er_ci_upper": 0.43333333333333335, "er_mean": 0.3666666666666667, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.2583333333333333, "native_ci_upper": 0.38333333333333336, "native_mean": 0.31666666666666665, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1490.3432278421435, "ci_upper": 3336.049444383461, "delta_ci_lower": 1490.3432278421435, "delta_ci_upper": 3336.049444383461, "er_ci_lower": 42998.26021714165, "er_ci_upper": 44559.317033167754, "er_mean": 43756.55205035388, "failure_count": 0, "mean_delta": 2404.397164233766, "missing_count": 0, "native_ci_lower": 40809.56975701582, "native_ci_upper": 41910.0932461864, "native_mean": 41352.154886120115, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -182.42666666666665, "ci_upper": 18.36854166666664, "delta_ci_lower": -182.42666666666665, "delta_ci_upper": 18.36854166666664, "er_ci_lower": 5725.45, "er_ci_upper": 5881.867916666666, "er_mean": 5802.316666666667, "failure_count": 0, "mean_delta": -81.875, "missing_count": 0, "native_ci_lower": 5810.895416666666, "native_ci_upper": 5958.8525, "native_mean": 5884.191666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -206.7933333333333, "ci_upper": -17.074583333333333, "delta_ci_lower": -206.7933333333333, "delta_ci_upper": -17.074583333333333, "er_ci_lower": 5419.697499999999, "er_ci_upper": 5567.492499999999, "er_mean": 5492.025, "failure_count": 0, "mean_delta": -111.55000000000001, "missing_count": 0, "native_ci_lower": 5536.49125, "native_ci_upper": 5671.25, "native_mean": 5603.575, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.23333333333333334, "er_mean": 0.1, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.12222222222222223, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.12222222222222223, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.7111111111111111, "er_mean": 0.6222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.4888888888888889, "native_ci_upper": 0.6666666666666666, "native_mean": 0.5777777777777778, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.45925925925925926, "er_mean": 0.36481481481481487, "failure_count": 0, "mean_delta": 0.10833333333333332, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.3444444444444445, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.45925925925925926, "er_mean": 0.36481481481481487, "failure_count": 0, "mean_delta": 0.10833333333333332, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.3444444444444445, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.45925925925925926, "er_mean": 0.36481481481481487, "failure_count": 0, "mean_delta": 0.10833333333333332, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.3444444444444445, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.45925925925925926, "er_mean": 0.36481481481481487, "failure_count": 0, "mean_delta": 0.10833333333333332, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.3444444444444445, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222216, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222216, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222216, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222216, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222216, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222216, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222216, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222216, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.41111111111111115, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1136.4603205151313, "ci_upper": 1612.4235890571679, "delta_ci_lower": 1136.4603205151313, "delta_ci_upper": 1612.4235890571679, "er_ci_lower": 6047.591782432573, "er_ci_upper": 6674.87468875639, "er_mean": 6353.128436448364, "failure_count": 0, "mean_delta": 1367.9508693972216, "missing_count": 0, "native_ci_lower": 4829.62871292686, "native_ci_upper": 5174.983032107922, "native_mean": 4985.1775670511415, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.13888888888888887, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074074, "failure_count": 0, "mean_delta": 0.05648148148148147, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.13888888888888887, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074074, "failure_count": 0, "mean_delta": 0.05648148148148147, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.13888888888888887, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074074, "failure_count": 0, "mean_delta": 0.05648148148148147, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.09999999999999999, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.09999999999999999, "er_ci_lower": 0.13888888888888887, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074074, "failure_count": 0, "mean_delta": 0.05648148148148147, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03140096618357488, "ci_upper": 0.09757079793436609, "delta_ci_lower": -0.03140096618357488, "delta_ci_upper": 0.09757079793436609, "er_ci_lower": 0.1300711912562238, "er_ci_upper": 0.2771604938271605, "er_mean": 0.19961223092157623, "failure_count": 0, "mean_delta": 0.031593578210894556, "missing_count": 30, "native_ci_lower": 0.1030086721685454, "native_ci_upper": 0.23923871108427266, "native_mean": 0.1680186527106817, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6333333333333333, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" } }, "micro": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.30833333333333335, "er_ci_upper": 0.43333333333333335, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.25833333333333336, "native_ci_upper": 0.38333333333333336, "native_mean": 0.31666666666666665, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1490.3432278421435, "ci_upper": 3336.0494443834614, "delta_ci_lower": 1490.3432278421435, "delta_ci_upper": 3336.0494443834614, "er_ci_lower": 42998.26021714165, "er_ci_upper": 44559.317033167754, "er_mean": 43756.55205035388, "failure_count": 0, "mean_delta": 2404.397164233766, "missing_count": 0, "native_ci_lower": 40809.56975701583, "native_ci_upper": 41910.0932461864, "native_mean": 41352.154886120115, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -182.42666666666665, "ci_upper": 18.36854166666664, "delta_ci_lower": -182.42666666666665, "delta_ci_upper": 18.36854166666664, "er_ci_lower": 5725.45, "er_ci_upper": 5881.867916666666, "er_mean": 5802.316666666667, "failure_count": 0, "mean_delta": -81.875, "missing_count": 0, "native_ci_lower": 5810.895416666666, "native_ci_upper": 5958.8525, "native_mean": 5884.191666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -206.7933333333333, "ci_upper": -17.074583333333337, "delta_ci_lower": -206.7933333333333, "delta_ci_upper": -17.074583333333337, "er_ci_lower": 5419.697499999999, "er_ci_upper": 5567.492499999999, "er_mean": 5492.025, "failure_count": 0, "mean_delta": -111.55, "missing_count": 0, "native_ci_lower": 5536.49125, "native_ci_upper": 5671.25, "native_mean": 5603.575, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.23333333333333334, "er_mean": 0.1, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.7111111111111111, "er_mean": 0.6222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.4888888888888889, "native_ci_upper": 0.6666666666666666, "native_mean": 0.5777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3648148148148148, "failure_count": 0, "mean_delta": 0.10833333333333334, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.34444444444444444, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3648148148148148, "failure_count": 0, "mean_delta": 0.10833333333333334, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.34444444444444444, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3648148148148148, "failure_count": 0, "mean_delta": 0.10833333333333334, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.34444444444444444, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3648148148148148, "failure_count": 0, "mean_delta": 0.10833333333333334, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.34444444444444444, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1136.4603205151313, "ci_upper": 1612.4235890571679, "delta_ci_lower": 1136.4603205151313, "delta_ci_upper": 1612.4235890571679, "er_ci_lower": 6047.591782432573, "er_ci_upper": 6674.87468875639, "er_mean": 6353.128436448363, "failure_count": 0, "mean_delta": 1367.9508693972214, "missing_count": 0, "native_ci_lower": 4829.62871292686, "native_ci_upper": 5174.983032107921, "native_mean": 4985.1775670511415, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.1, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074077, "failure_count": 0, "mean_delta": 0.05648148148148148, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.1, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074077, "failure_count": 0, "mean_delta": 0.05648148148148148, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.1, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074077, "failure_count": 0, "mean_delta": 0.05648148148148148, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.1, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074077, "failure_count": 0, "mean_delta": 0.05648148148148148, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03140096618357488, "ci_upper": 0.09757079793436607, "delta_ci_lower": -0.03140096618357488, "delta_ci_upper": 0.09757079793436607, "er_ci_lower": 0.13007119125622377, "er_ci_upper": 0.27716049382716046, "er_mean": 0.19961223092157626, "failure_count": 0, "mean_delta": 0.031593578210894556, "missing_count": 30, "native_ci_lower": 0.10300867216854538, "native_ci_upper": 0.23923871108427266, "native_mean": 0.1680186527106817, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6333333333333333, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" } }, "question_count": 120, "source_weighted": { "answer_correct": { "ci_lower": -0.01343244653103808, "ci_upper": 0.11190890714658316, "delta_ci_lower": -0.01343244653103808, "delta_ci_upper": 0.11190890714658316, "er_ci_lower": 0.21727960354720918, "er_ci_upper": 0.3611133933229003, "er_mean": 0.2859415753781951, "failure_count": 0, "mean_delta": 0.0477829942618675, "missing_count": 0, "native_ci_lower": 0.1749188184663537, "native_ci_upper": 0.30761834898278556, "native_mean": 0.2381585811163276, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1392.5298387687326, "ci_upper": 3299.6815735812033, "delta_ci_lower": 1392.5298387687326, "delta_ci_upper": 3299.6815735812033, "er_ci_lower": 42753.684919231884, "er_ci_upper": 44338.482291522596, "er_mean": 43529.88900707475, "failure_count": 0, "mean_delta": 2328.962408261875, "missing_count": 0, "native_ci_lower": 40593.38678009156, "native_ci_upper": 41836.048988168695, "native_mean": 41200.926598812875, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -174.91420579029736, "ci_upper": 39.461237610850276, "delta_ci_lower": -174.91420579029736, "delta_ci_upper": 39.461237610850276, "er_ci_lower": 5708.593603938445, "er_ci_upper": 5876.608816836202, "er_mean": 5791.596817944705, "failure_count": 0, "mean_delta": -67.28154668753261, "missing_count": 0, "native_ci_lower": 5779.918081311946, "native_ci_upper": 5940.674443140324, "native_mean": 5858.878364632238, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09600886917960089, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09600886917960089, "er_ci_lower": 0.008617886178861788, "er_ci_upper": 0.09600886917960089, "er_mean": 0.045986696230598666, "failure_count": 0, "mean_delta": 0.045986696230598666, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09600886917960089, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09600886917960089, "er_ci_lower": 0.008617886178861788, "er_ci_upper": 0.09600886917960089, "er_mean": 0.045986696230598666, "failure_count": 0, "mean_delta": 0.045986696230598666, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.008617886178861788, "ci_upper": 0.09600886917960089, "delta_ci_lower": 0.008617886178861788, "delta_ci_upper": 0.09600886917960089, "er_ci_lower": 0.008617886178861788, "er_ci_upper": 0.09600886917960089, "er_mean": 0.045986696230598666, "failure_count": 0, "mean_delta": 0.045986696230598666, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -201.2042357850808, "ci_upper": -1.2698549165362587, "delta_ci_lower": -201.2042357850808, "delta_ci_upper": -1.2698549165362587, "er_ci_lower": 5404.053703051643, "er_ci_upper": 5563.170277777778, "er_mean": 5482.468544600939, "failure_count": 0, "mean_delta": -100.77589984350548, "missing_count": 0, "native_ci_lower": 5512.142428273343, "native_ci_upper": 5657.056424100157, "native_mean": 5583.2444444444445, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.23333333333333334, "er_mean": 0.1, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.044849593495934946, "ci_upper": 0.12235033259423503, "delta_ci_lower": -0.044849593495934946, "delta_ci_upper": 0.12235033259423503, "er_ci_lower": 0.49662971175166293, "er_ci_upper": 0.6811086474501109, "er_mean": 0.5902734663710273, "failure_count": 0, "mean_delta": 0.03791574279379157, "missing_count": 30, "native_ci_lower": 0.45753141167775313, "native_ci_upper": 0.6471840354767184, "native_mean": 0.5523577235772358, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03514005912786402, "ci_upper": 0.18315545700911554, "delta_ci_lower": 0.03514005912786402, "delta_ci_upper": 0.18315545700911554, "er_ci_lower": 0.2666313131313131, "er_ci_upper": 0.454560852426706, "er_mean": 0.3591771372259177, "failure_count": 0, "mean_delta": 0.10683173195368316, "missing_count": 30, "native_ci_lower": 0.17164966740576498, "native_ci_upper": 0.3408791574279379, "native_mean": 0.2523454052722346, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03514005912786402, "ci_upper": 0.18315545700911554, "delta_ci_lower": 0.03514005912786402, "delta_ci_upper": 0.18315545700911554, "er_ci_lower": 0.2666313131313131, "er_ci_upper": 0.454560852426706, "er_mean": 0.3591771372259177, "failure_count": 0, "mean_delta": 0.10683173195368316, "missing_count": 30, "native_ci_lower": 0.17164966740576498, "native_ci_upper": 0.3408791574279379, "native_mean": 0.2523454052722346, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03514005912786402, "ci_upper": 0.18315545700911554, "delta_ci_lower": 0.03514005912786402, "delta_ci_upper": 0.18315545700911554, "er_ci_lower": 0.2666313131313131, "er_ci_upper": 0.454560852426706, "er_mean": 0.3591771372259177, "failure_count": 0, "mean_delta": 0.10683173195368316, "missing_count": 30, "native_ci_lower": 0.17164966740576498, "native_ci_upper": 0.3408791574279379, "native_mean": 0.2523454052722346, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03514005912786402, "ci_upper": 0.18315545700911554, "delta_ci_lower": 0.03514005912786402, "delta_ci_upper": 0.18315545700911554, "er_ci_lower": 0.2666313131313131, "er_ci_upper": 0.454560852426706, "er_mean": 0.3591771372259177, "failure_count": 0, "mean_delta": 0.10683173195368316, "missing_count": 30, "native_ci_lower": 0.17164966740576498, "native_ci_upper": 0.3408791574279379, "native_mean": 0.2523454052722346, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.014382852919438284, "ci_upper": 0.19829748706577957, "delta_ci_lower": 0.014382852919438284, "delta_ci_upper": 0.19829748706577957, "er_ci_lower": 0.3109375461936437, "er_ci_upper": 0.5166456023651145, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.10517368810051736, "missing_count": 30, "native_ci_lower": 0.21605321507760528, "native_ci_upper": 0.4057062084257205, "native_mean": 0.3080266075388026, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.014382852919438284, "ci_upper": 0.19829748706577957, "delta_ci_lower": 0.014382852919438284, "delta_ci_upper": 0.19829748706577957, "er_ci_lower": 0.3109375461936437, "er_ci_upper": 0.5166456023651145, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.10517368810051736, "missing_count": 30, "native_ci_lower": 0.21605321507760528, "native_ci_upper": 0.4057062084257205, "native_mean": 0.3080266075388026, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.014382852919438284, "ci_upper": 0.19829748706577957, "delta_ci_lower": 0.014382852919438284, "delta_ci_upper": 0.19829748706577957, "er_ci_lower": 0.3109375461936437, "er_ci_upper": 0.5166456023651145, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.10517368810051736, "missing_count": 30, "native_ci_lower": 0.21605321507760528, "native_ci_upper": 0.4057062084257205, "native_mean": 0.3080266075388026, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.014382852919438284, "ci_upper": 0.19829748706577957, "delta_ci_lower": 0.014382852919438284, "delta_ci_upper": 0.19829748706577957, "er_ci_lower": 0.3109375461936437, "er_ci_upper": 0.5166456023651145, "er_mean": 0.41320029563932004, "failure_count": 0, "mean_delta": 0.10517368810051736, "missing_count": 30, "native_ci_lower": 0.21605321507760528, "native_ci_upper": 0.4057062084257205, "native_mean": 0.3080266075388026, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1066.711180465078, "ci_upper": 1599.4650921804057, "delta_ci_lower": 1066.711180465078, "delta_ci_upper": 1599.4650921804057, "er_ci_lower": 6022.114888077516, "er_ci_upper": 6753.386591657126, "er_mean": 6375.140385534258, "failure_count": 0, "mean_delta": 1321.5354807513274, "missing_count": 0, "native_ci_lower": 4864.133784352415, "native_ci_upper": 5290.415724121249, "native_mean": 5053.60490478293, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.008686868686868687, "ci_upper": 0.0991951219512195, "delta_ci_lower": 0.008686868686868687, "delta_ci_upper": 0.0991951219512195, "er_ci_lower": 0.13412817196353782, "er_ci_upper": 0.24317023897511697, "er_mean": 0.18640551860064053, "failure_count": 0, "mean_delta": 0.05465878295146588, "missing_count": 30, "native_ci_lower": 0.09145565410199555, "native_ci_upper": 0.17521729490022167, "native_mean": 0.1317467356491747, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.008686868686868687, "ci_upper": 0.0991951219512195, "delta_ci_lower": 0.008686868686868687, "delta_ci_upper": 0.0991951219512195, "er_ci_lower": 0.13412817196353782, "er_ci_upper": 0.24317023897511697, "er_mean": 0.18640551860064053, "failure_count": 0, "mean_delta": 0.05465878295146588, "missing_count": 30, "native_ci_lower": 0.09145565410199555, "native_ci_upper": 0.17521729490022167, "native_mean": 0.1317467356491747, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.008686868686868687, "ci_upper": 0.0991951219512195, "delta_ci_lower": 0.008686868686868687, "delta_ci_upper": 0.0991951219512195, "er_ci_lower": 0.13412817196353782, "er_ci_upper": 0.24317023897511697, "er_mean": 0.18640551860064053, "failure_count": 0, "mean_delta": 0.05465878295146588, "missing_count": 30, "native_ci_lower": 0.09145565410199555, "native_ci_upper": 0.17521729490022167, "native_mean": 0.1317467356491747, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.008686868686868687, "ci_upper": 0.0991951219512195, "delta_ci_lower": 0.008686868686868687, "delta_ci_upper": 0.0991951219512195, "er_ci_lower": 0.13412817196353782, "er_ci_upper": 0.24317023897511697, "er_mean": 0.18640551860064053, "failure_count": 0, "mean_delta": 0.05465878295146588, "missing_count": 30, "native_ci_lower": 0.09145565410199555, "native_ci_upper": 0.17521729490022167, "native_mean": 0.1317467356491747, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.026643860996331082, "ci_upper": 0.10987371059481345, "delta_ci_lower": -0.026643860996331082, "delta_ci_upper": 0.10987371059481345, "er_ci_lower": 0.14029652708752796, "er_ci_upper": 0.29847575103800655, "er_mean": 0.215617475814938, "failure_count": 0, "mean_delta": 0.03892435157144267, "missing_count": 30, "native_ci_lower": 0.10845176580224303, "native_ci_upper": 0.25083133562560916, "native_mean": 0.1766931242434954, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6333333333333333, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" } } } }, "bootstrap": { "cluster_unit": "question_id", "confidence_level": 0.95, "method": "paired_stratified_percentile_by_question_type", "samples": 10000, "seed": 42, "shared_resample_plan_across_metrics": true }, "by_question_type": { "comparison": { "answer_correct": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -231.6716059456423, "ci_upper": 3551.9536014266, "delta_ci_lower": -231.6716059456423, "delta_ci_upper": 3551.9536014266, "er_ci_lower": 41523.47214673801, "er_ci_upper": 44444.559795061556, "er_mean": 43000.75090008322, "failure_count": 0, "mean_delta": 1607.6114125549793, "missing_count": 0, "native_ci_lower": 40215.29016637496, "native_ci_upper": 42650.86582404037, "native_mean": 41393.13948752824, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -243.7358333333333, "ci_upper": 166.33416666666668, "delta_ci_lower": -243.7358333333333, "delta_ci_upper": 166.33416666666668, "er_ci_lower": 5627.465, "er_ci_upper": 5957.6375, "er_mean": 5796.0, "failure_count": 0, "mean_delta": -38.63333333333333, "missing_count": 0, "native_ci_lower": 5682.698333333333, "native_ci_upper": 5990.401666666666, "native_mean": 5834.633333333333, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.0, "er_ci_upper": 0.16666666666666666, "er_mean": 0.06666666666666667, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -270.57083333333327, "ci_upper": 118.6041666666666, "delta_ci_lower": -270.57083333333327, "delta_ci_upper": 118.6041666666666, "er_ci_lower": 5326.331666666667, "er_ci_upper": 5632.102500000001, "er_mean": 5482.9, "failure_count": 0, "mean_delta": -75.8, "missing_count": 0, "native_ci_lower": 5423.3325, "native_ci_upper": 5696.1, "native_mean": 5558.7, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.13333333333333333, "ci_upper": 0.13333333333333333, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.13333333333333333, "er_ci_lower": 0.4666666666666667, "er_ci_upper": 0.8, "er_mean": 0.6333333333333333, "failure_count": 0, "mean_delta": 0.0, "missing_count": 0, "native_ci_lower": 0.4666666666666667, "native_ci_upper": 0.8, "native_mean": 0.6333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.005555555555555556, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.48333333333333334, "er_mean": 0.31666666666666665, "failure_count": 0, "mean_delta": 0.07222222222222222, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.24444444444444444, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.005555555555555556, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.48333333333333334, "er_mean": 0.31666666666666665, "failure_count": 0, "mean_delta": 0.07222222222222222, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.24444444444444444, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.005555555555555556, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.48333333333333334, "er_mean": 0.31666666666666665, "failure_count": 0, "mean_delta": 0.07222222222222222, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.24444444444444444, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.005555555555555556, "ci_upper": 0.15555555555555556, "delta_ci_lower": 0.005555555555555556, "delta_ci_upper": 0.15555555555555556, "er_ci_lower": 0.16666666666666666, "er_ci_upper": 0.48333333333333334, "er_mean": 0.31666666666666665, "failure_count": 0, "mean_delta": 0.07222222222222222, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.4, "native_mean": 0.24444444444444444, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.2, "delta_ci_lower": 0.0, "delta_ci_upper": 0.2, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.13333333333333333, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1642.031879167189, "ci_upper": 3034.847253700233, "delta_ci_lower": 1642.031879167189, "delta_ci_upper": 3034.847253700233, "er_ci_lower": 6349.538689317414, "er_ci_upper": 8066.250075251639, "er_mean": 7161.878159805201, "failure_count": 0, "mean_delta": 2284.959034792458, "missing_count": 0, "native_ci_lower": 4617.708755528826, "native_ci_upper": 5144.034181616541, "native_mean": 4876.919125012743, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.016666666666666666, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.14444444444444443, "er_ci_lower": 0.1, "er_ci_upper": 0.3055555555555555, "er_mean": 0.19444444444444445, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 0, "native_ci_lower": 0.05, "native_ci_upper": 0.1888888888888889, "native_mean": 0.11666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.016666666666666666, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.14444444444444443, "er_ci_lower": 0.1, "er_ci_upper": 0.3055555555555555, "er_mean": 0.19444444444444445, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 0, "native_ci_lower": 0.05, "native_ci_upper": 0.1888888888888889, "native_mean": 0.11666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.016666666666666666, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.14444444444444443, "er_ci_lower": 0.1, "er_ci_upper": 0.3055555555555555, "er_mean": 0.19444444444444445, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 0, "native_ci_lower": 0.05, "native_ci_upper": 0.1888888888888889, "native_mean": 0.11666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.016666666666666666, "ci_upper": 0.14444444444444443, "delta_ci_lower": 0.016666666666666666, "delta_ci_upper": 0.14444444444444443, "er_ci_lower": 0.1, "er_ci_upper": 0.3055555555555555, "er_mean": 0.19444444444444445, "failure_count": 0, "mean_delta": 0.07777777777777778, "missing_count": 0, "native_ci_lower": 0.05, "native_ci_upper": 0.1888888888888889, "native_mean": 0.11666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": 0.0, "ci_upper": 0.16666666666666666, "delta_ci_lower": 0.0, "delta_ci_upper": 0.16666666666666666, "er_ci_lower": 0.03333333333333333, "er_ci_upper": 0.26666666666666666, "er_mean": 0.13333333333333333, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "inference": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.1, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -27.555475224022324, "ci_upper": 3292.635940197893, "delta_ci_lower": -27.555475224022324, "delta_ci_upper": 3292.635940197893, "er_ci_lower": 41011.945842970745, "er_ci_upper": 43934.12457130538, "er_mean": 42389.76994579813, "failure_count": 0, "mean_delta": 1605.5494874327753, "missing_count": 0, "native_ci_lower": 39548.886981153046, "native_ci_upper": 41982.142185264, "native_mean": 40784.22045836536, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -238.7033333333333, "ci_upper": 163.23666666666662, "delta_ci_lower": -238.7033333333333, "delta_ci_upper": 163.23666666666662, "er_ci_lower": 5641.764166666667, "er_ci_upper": 5943.173333333333, "er_mean": 5793.0, "failure_count": 0, "mean_delta": -38.96666666666667, "missing_count": 0, "native_ci_lower": 5677.4, "native_ci_upper": 5978.435, "native_mean": 5831.966666666666, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -266.9024999999999, "ci_upper": 107.36749999999998, "delta_ci_lower": -266.9024999999999, "delta_ci_upper": 107.36749999999998, "er_ci_lower": 5345.598333333333, "er_ci_upper": 5651.135833333334, "er_mean": 5499.8, "failure_count": 0, "mean_delta": -79.2, "missing_count": 0, "native_ci_lower": 5436.4625, "native_ci_upper": 5715.352499999999, "native_mean": 5579.0, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": -0.13333333333333333, "ci_upper": 0.2, "delta_ci_lower": -0.13333333333333333, "delta_ci_upper": 0.2, "er_ci_lower": 0.13333333333333333, "er_ci_upper": 0.4666666666666667, "er_mean": 0.3, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.1, "native_ci_upper": 0.43333333333333335, "native_mean": 0.26666666666666666, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.013888888888888888, "ci_upper": 0.29444444444444445, "delta_ci_lower": -0.013888888888888888, "delta_ci_upper": 0.29444444444444445, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1361111111111111, "missing_count": 0, "native_ci_lower": 0.10277777777777779, "native_ci_upper": 0.3722222222222222, "native_mean": 0.23055555555555557, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.013888888888888888, "ci_upper": 0.29444444444444445, "delta_ci_lower": -0.013888888888888888, "delta_ci_upper": 0.29444444444444445, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1361111111111111, "missing_count": 0, "native_ci_lower": 0.10277777777777779, "native_ci_upper": 0.3722222222222222, "native_mean": 0.23055555555555557, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.013888888888888888, "ci_upper": 0.29444444444444445, "delta_ci_lower": -0.013888888888888888, "delta_ci_upper": 0.29444444444444445, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1361111111111111, "missing_count": 0, "native_ci_lower": 0.10277777777777779, "native_ci_upper": 0.3722222222222222, "native_mean": 0.23055555555555557, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.013888888888888888, "ci_upper": 0.29444444444444445, "delta_ci_lower": -0.013888888888888888, "delta_ci_upper": 0.29444444444444445, "er_ci_lower": 0.2, "er_ci_upper": 0.5333333333333333, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.1361111111111111, "missing_count": 0, "native_ci_lower": 0.10277777777777779, "native_ci_upper": 0.3722222222222222, "native_mean": 0.23055555555555557, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": -0.1, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": -0.1, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": -0.1, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": -0.1, "ci_upper": 0.26666666666666666, "delta_ci_lower": -0.1, "delta_ci_upper": 0.26666666666666666, "er_ci_lower": 0.23333333333333334, "er_ci_upper": 0.5666666666666667, "er_mean": 0.4, "failure_count": 0, "mean_delta": 0.06666666666666667, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 38.947841297873964, "ci_upper": 210.48919243505222, "delta_ci_lower": 38.947841297873964, "delta_ci_upper": 210.48919243505222, "er_ci_lower": 4686.4360185454525, "er_ci_upper": 5737.80241514362, "er_mean": 5144.6179527013255, "failure_count": 0, "mean_delta": 123.8437817664817, "missing_count": 0, "native_ci_lower": 4529.370646673682, "native_ci_upper": 5675.99027261914, "native_mean": 5020.774170934844, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": -0.075, "ci_upper": 0.09722222222222222, "delta_ci_lower": -0.075, "delta_ci_upper": 0.09722222222222222, "er_ci_lower": 0.07222222222222222, "er_ci_upper": 0.22777777777777777, "er_mean": 0.14444444444444443, "failure_count": 0, "mean_delta": 0.01388888888888889, "missing_count": 0, "native_ci_lower": 0.06388888888888888, "native_ci_upper": 0.20555555555555555, "native_mean": 0.13055555555555556, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": -0.075, "ci_upper": 0.09722222222222222, "delta_ci_lower": -0.075, "delta_ci_upper": 0.09722222222222222, "er_ci_lower": 0.07222222222222222, "er_ci_upper": 0.22777777777777777, "er_mean": 0.14444444444444443, "failure_count": 0, "mean_delta": 0.01388888888888889, "missing_count": 0, "native_ci_lower": 0.06388888888888888, "native_ci_upper": 0.20555555555555555, "native_mean": 0.13055555555555556, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": -0.075, "ci_upper": 0.09722222222222222, "delta_ci_lower": -0.075, "delta_ci_upper": 0.09722222222222222, "er_ci_lower": 0.07222222222222222, "er_ci_upper": 0.22777777777777777, "er_mean": 0.14444444444444443, "failure_count": 0, "mean_delta": 0.01388888888888889, "missing_count": 0, "native_ci_lower": 0.06388888888888888, "native_ci_upper": 0.20555555555555555, "native_mean": 0.13055555555555556, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": -0.075, "ci_upper": 0.09722222222222222, "delta_ci_lower": -0.075, "delta_ci_upper": 0.09722222222222222, "er_ci_lower": 0.07222222222222222, "er_ci_upper": 0.22777777777777777, "er_mean": 0.14444444444444443, "failure_count": 0, "mean_delta": 0.01388888888888889, "missing_count": 0, "native_ci_lower": 0.06388888888888888, "native_ci_upper": 0.20555555555555555, "native_mean": 0.13055555555555556, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.09542955084957518, "ci_upper": 0.22537364130434767, "delta_ci_lower": -0.09542955084957518, "delta_ci_upper": 0.22537364130434767, "er_ci_lower": 0.2655033594313954, "er_ci_upper": 0.603033760897329, "er_mean": 0.43217002609806204, "failure_count": 0, "mean_delta": 0.06144740129935033, "missing_count": 0, "native_ci_lower": 0.20856481481481481, "native_ci_upper": 0.5375, "native_mean": 0.37072262479871176, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "temporal": { "answer_correct": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 2794.5554933005287, "ci_upper": 6778.498648613554, "delta_ci_lower": 2794.5554933005287, "delta_ci_upper": 6778.498648613554, "er_ci_lower": 44101.933402533374, "er_ci_upper": 47277.42642553814, "er_mean": 45685.6714958325, "failure_count": 0, "mean_delta": 4747.700034695056, "missing_count": 0, "native_ci_lower": 39888.68448201402, "native_ci_upper": 41981.83029657685, "native_mean": 40937.971461137444, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -321.86833333333334, "ci_upper": 94.4683333333333, "delta_ci_lower": -321.86833333333334, "delta_ci_upper": 94.4683333333333, "er_ci_lower": 5567.830833333333, "er_ci_upper": 5905.969999999999, "er_mean": 5734.6, "failure_count": 0, "mean_delta": -113.06666666666666, "missing_count": 0, "native_ci_lower": 5698.0975, "native_ci_upper": 6001.733333333334, "native_mean": 5847.666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": 0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 30, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -335.7249999999998, "ci_upper": 45.41083333333317, "delta_ci_lower": -335.7249999999998, "delta_ci_upper": 45.41083333333317, "er_ci_lower": 5264.029166666667, "er_ci_upper": 5560.808333333333, "er_mean": 5409.166666666667, "failure_count": 0, "mean_delta": -143.33333333333334, "missing_count": 0, "native_ci_lower": 5422.795833333333, "native_ci_upper": 5688.8, "native_mean": 5552.5, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "over_abstention": { "ci_lower": 0.0, "ci_upper": 0.23333333333333334, "delta_ci_lower": 0.0, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.8333333333333334, "er_ci_upper": 1.0, "er_mean": 0.9333333333333333, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.7, "native_ci_upper": 0.9666666666666667, "native_mean": 0.8333333333333334, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": -0.016805555555554325, "ci_upper": 0.2611111111111111, "delta_ci_lower": -0.016805555555554325, "delta_ci_upper": 0.2611111111111111, "er_ci_lower": 0.2555555555555556, "er_ci_upper": 0.5722222222222223, "er_mean": 0.41111111111111115, "failure_count": 0, "mean_delta": 0.11666666666666667, "missing_count": 0, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.45555555555555555, "native_mean": 0.29444444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": -0.016805555555554325, "ci_upper": 0.2611111111111111, "delta_ci_lower": -0.016805555555554325, "delta_ci_upper": 0.2611111111111111, "er_ci_lower": 0.2555555555555556, "er_ci_upper": 0.5722222222222223, "er_mean": 0.41111111111111115, "failure_count": 0, "mean_delta": 0.11666666666666667, "missing_count": 0, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.45555555555555555, "native_mean": 0.29444444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": -0.016805555555554325, "ci_upper": 0.2611111111111111, "delta_ci_lower": -0.016805555555554325, "delta_ci_upper": 0.2611111111111111, "er_ci_lower": 0.2555555555555556, "er_ci_upper": 0.5722222222222223, "er_mean": 0.41111111111111115, "failure_count": 0, "mean_delta": 0.11666666666666667, "missing_count": 0, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.45555555555555555, "native_mean": 0.29444444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": -0.016805555555554325, "ci_upper": 0.2611111111111111, "delta_ci_lower": -0.016805555555554325, "delta_ci_upper": 0.2611111111111111, "er_ci_lower": 0.2555555555555556, "er_ci_upper": 0.5722222222222223, "er_mean": 0.41111111111111115, "failure_count": 0, "mean_delta": 0.11666666666666667, "missing_count": 0, "native_ci_lower": 0.14444444444444443, "native_ci_upper": 0.45555555555555555, "native_mean": 0.29444444444444445, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.0, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.0, "delta_ci_upper": 0.36666666666666664, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.0, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.0, "delta_ci_upper": 0.36666666666666664, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.0, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.0, "delta_ci_upper": 0.36666666666666664, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.0, "ci_upper": 0.36666666666666664, "delta_ci_lower": 0.0, "delta_ci_upper": 0.36666666666666664, "er_ci_lower": 0.3333333333333333, "er_ci_upper": 0.6666666666666666, "er_mean": 0.5, "failure_count": 0, "mean_delta": 0.16666666666666666, "missing_count": 0, "native_ci_lower": 0.16666666666666666, "native_ci_upper": 0.5, "native_mean": 0.3333333333333333, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 939.1490507080259, "ci_upper": 1941.8668431066908, "delta_ci_lower": 939.1490507080259, "delta_ci_upper": 1941.8668431066908, "er_ci_lower": 6636.716745708449, "er_ci_upper": 7749.313735214722, "er_mean": 7167.984268115833, "failure_count": 0, "mean_delta": 1414.5391139240626, "missing_count": 0, "native_ci_lower": 5523.409494177808, "native_ci_upper": 5991.0770323135275, "native_mean": 5753.445154191771, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.0, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.3333333333333333, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.07777777777777777, "missing_count": 0, "native_ci_lower": 0.07777777777777777, "native_ci_upper": 0.23888888888888887, "native_mean": 0.15555555555555556, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.0, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.3333333333333333, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.07777777777777777, "missing_count": 0, "native_ci_lower": 0.07777777777777777, "native_ci_upper": 0.23888888888888887, "native_mean": 0.15555555555555556, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.0, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.3333333333333333, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.07777777777777777, "missing_count": 0, "native_ci_lower": 0.07777777777777777, "native_ci_upper": 0.23888888888888887, "native_mean": 0.15555555555555556, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.0, "ci_upper": 0.1611111111111111, "delta_ci_lower": 0.0, "delta_ci_upper": 0.1611111111111111, "er_ci_lower": 0.14444444444444443, "er_ci_upper": 0.3333333333333333, "er_mean": 0.23333333333333334, "failure_count": 0, "mean_delta": 0.07777777777777777, "missing_count": 0, "native_ci_lower": 0.07777777777777777, "native_ci_upper": 0.23888888888888887, "native_mean": 0.15555555555555556, "paired_count": 30, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.1, "ci_upper": 0.0, "delta_ci_lower": -0.1, "delta_ci_upper": 0.0, "er_ci_lower": 0.0, "er_ci_upper": 0.1, "er_mean": 0.03333333333333333, "failure_count": 0, "mean_delta": -0.03333333333333333, "missing_count": 0, "native_ci_lower": 0.0, "native_ci_upper": 0.16666666666666666, "native_mean": 0.06666666666666667, "paired_count": 30, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 } }, "unanswerable": { "answer_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.6666666666666666, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": -96.22312445998732, "ci_upper": 3590.428804143447, "delta_ci_lower": -96.22312445998732, "delta_ci_upper": 3590.428804143447, "er_ci_lower": 42357.58183959891, "er_ci_upper": 45788.62997872251, "er_mean": 43950.01585970167, "failure_count": 0, "mean_delta": 1656.7277222522534, "missing_count": 0, "native_ci_lower": 41385.00060034372, "native_ci_upper": 43168.65437021954, "native_mean": 42293.28813744942, "paired_count": 30, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -333.4699999999999, "ci_upper": 54.76999999999995, "delta_ci_lower": -333.4699999999999, "delta_ci_upper": 54.76999999999995, "er_ci_lower": 5734.6, "er_ci_upper": 6032.666666666667, "er_mean": 5885.666666666667, "failure_count": 0, "mean_delta": -136.83333333333334, "missing_count": 0, "native_ci_lower": 5885.891666666666, "native_ci_upper": 6144.5408333333335, "native_mean": 6022.5, "paired_count": 30, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "complete_chain_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "context_token_count": { "ci_lower": -341.8083333333333, "ci_upper": 39.937499999999936, "delta_ci_lower": -341.8083333333333, "delta_ci_upper": 39.937499999999936, "er_ci_lower": 5425.9991666666665, "er_ci_upper": 5720.8, "er_mean": 5576.233333333334, "failure_count": 0, "mean_delta": -147.86666666666667, "missing_count": 0, "native_ci_lower": 5591.1325, "native_ci_upper": 5844.7, "native_mean": 5724.1, "paired_count": 30, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.23333333333333334, "er_mean": 0.1, "failure_count": 0, "mean_delta": -0.1, "missing_count": 0, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.3333333333333333, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "reciprocal_rank_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_hit_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_latency_ms": { "ci_lower": 1257.2631597067812, "ci_upper": 2056.1552993924124, "delta_ci_lower": 1257.2631597067812, "delta_ci_upper": 2056.1552993924124, "er_ci_lower": 5477.771712573402, "er_ci_upper": 6407.2537717376445, "er_mean": 5938.033365171093, "failure_count": 0, "mean_delta": 1648.4615471058835, "missing_count": 0, "native_ci_lower": 4150.186123590587, "native_ci_upper": 4425.0688992951955, "native_mean": 4289.571818065208, "paired_count": 30, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_10": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_20": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "retrieval_recall_at_5": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "token_f1": { "ci_lower": null, "ci_upper": null, "delta_ci_lower": null, "delta_ci_upper": null, "er_ci_lower": null, "er_ci_upper": null, "er_mean": null, "failure_count": 0, "mean_delta": null, "missing_count": 30, "native_ci_lower": null, "native_ci_upper": null, "native_mean": null, "paired_count": 0 }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.1, "missing_count": 0, "native_ci_lower": 0.6666666666666666, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" } } }, "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "metrics": { "answer_correct": { "ci_lower": -0.008333333333333333, "ci_upper": 0.10833333333333334, "delta_ci_lower": -0.008333333333333333, "delta_ci_upper": 0.10833333333333334, "er_ci_lower": 0.30833333333333335, "er_ci_upper": 0.43333333333333335, "er_mean": 0.36666666666666664, "failure_count": 0, "mean_delta": 0.05, "missing_count": 0, "native_ci_lower": 0.25833333333333336, "native_ci_upper": 0.38333333333333336, "native_mean": 0.31666666666666665, "paired_count": 120, "schema_version": "3.0.0" }, "answer_latency_ms": { "ci_lower": 1490.3432278421435, "ci_upper": 3336.0494443834614, "delta_ci_lower": 1490.3432278421435, "delta_ci_upper": 3336.0494443834614, "er_ci_lower": 42998.26021714165, "er_ci_upper": 44559.317033167754, "er_mean": 43756.55205035388, "failure_count": 0, "mean_delta": 2404.397164233766, "missing_count": 0, "native_ci_lower": 40809.56975701583, "native_ci_upper": 41910.0932461864, "native_mean": 41352.154886120115, "paired_count": 120, "schema_version": "3.0.0" }, "answer_total_tokens": { "ci_lower": -182.42666666666665, "ci_upper": 18.36854166666664, "delta_ci_lower": -182.42666666666665, "delta_ci_upper": 18.36854166666664, "er_ci_lower": 5725.45, "er_ci_upper": 5881.867916666666, "er_mean": 5802.316666666667, "failure_count": 0, "mean_delta": -81.875, "missing_count": 0, "native_ci_lower": 5810.895416666666, "native_ci_upper": 5958.8525, "native_mean": 5884.191666666667, "paired_count": 120, "schema_version": "3.0.0" }, "complete_chain_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "complete_chain_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.08888888888888889, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.08888888888888889, "er_ci_lower": 0.011111111111111112, "er_ci_upper": 0.08888888888888889, "er_mean": 0.044444444444444446, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.0, "native_ci_upper": 0.0, "native_mean": 0.0, "paired_count": 90, "schema_version": "3.0.0" }, "context_token_count": { "ci_lower": -206.7933333333333, "ci_upper": -17.074583333333337, "delta_ci_lower": -206.7933333333333, "delta_ci_upper": -17.074583333333337, "er_ci_lower": 5419.697499999999, "er_ci_upper": 5567.492499999999, "er_mean": 5492.025, "failure_count": 0, "mean_delta": -111.55, "missing_count": 0, "native_ci_lower": 5536.49125, "native_ci_upper": 5671.25, "native_mean": 5603.575, "paired_count": 120, "schema_version": "3.0.0" }, "hallucination": { "ci_lower": -0.23333333333333334, "ci_upper": 0.03333333333333333, "delta_ci_lower": -0.23333333333333334, "delta_ci_upper": 0.03333333333333333, "er_ci_lower": 0.0, "er_ci_upper": 0.23333333333333334, "er_mean": 0.1, "failure_count": 0, "mean_delta": -0.1, "missing_count": 90, "native_ci_lower": 0.06666666666666667, "native_ci_upper": 0.36666666666666664, "native_mean": 0.2, "paired_count": 30, "schema_version": "3.0.0" }, "over_abstention": { "ci_lower": -0.03333333333333333, "ci_upper": 0.12222222222222222, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.12222222222222222, "er_ci_lower": 0.5333333333333333, "er_ci_upper": 0.7111111111111111, "er_mean": 0.6222222222222222, "failure_count": 0, "mean_delta": 0.044444444444444446, "missing_count": 30, "native_ci_lower": 0.4888888888888889, "native_ci_upper": 0.6666666666666666, "native_mean": 0.5777777777777777, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3648148148148148, "failure_count": 0, "mean_delta": 0.10833333333333334, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.34444444444444444, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_10": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3648148148148148, "failure_count": 0, "mean_delta": 0.10833333333333334, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.34444444444444444, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_20": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3648148148148148, "failure_count": 0, "mean_delta": 0.10833333333333334, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.34444444444444444, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "reciprocal_rank_at_5": { "ci_lower": 0.03425925925925926, "ci_upper": 0.18611111111111112, "delta_ci_lower": 0.03425925925925926, "delta_ci_upper": 0.18611111111111112, "er_ci_lower": 0.2740740740740741, "er_ci_upper": 0.4592592592592593, "er_mean": 0.3648148148148148, "failure_count": 0, "mean_delta": 0.10833333333333334, "missing_count": 30, "native_ci_lower": 0.17592592592592593, "native_ci_upper": 0.34444444444444444, "native_mean": 0.2564814814814815, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_10": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_20": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_hit_at_5": { "ci_lower": 0.022222222222222223, "ci_upper": 0.2111111111111111, "delta_ci_lower": 0.022222222222222223, "delta_ci_upper": 0.2111111111111111, "er_ci_lower": 0.3222222222222223, "er_ci_upper": 0.5222222222222223, "er_mean": 0.4222222222222222, "failure_count": 0, "mean_delta": 0.1111111111111111, "missing_count": 30, "native_ci_lower": 0.2222222222222222, "native_ci_upper": 0.4111111111111111, "native_mean": 0.3111111111111111, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_latency_ms": { "ci_lower": 1136.4603205151313, "ci_upper": 1612.4235890571679, "delta_ci_lower": 1136.4603205151313, "delta_ci_upper": 1612.4235890571679, "er_ci_lower": 6047.591782432573, "er_ci_upper": 6674.87468875639, "er_mean": 6353.128436448363, "failure_count": 0, "mean_delta": 1367.9508693972214, "missing_count": 0, "native_ci_lower": 4829.62871292686, "native_ci_upper": 5174.983032107921, "native_mean": 4985.1775670511415, "paired_count": 120, "schema_version": "3.0.0" }, "retrieval_recall": { "ci_lower": 0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.1, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074077, "failure_count": 0, "mean_delta": 0.05648148148148148, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_10": { "ci_lower": 0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.1, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074077, "failure_count": 0, "mean_delta": 0.05648148148148148, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_20": { "ci_lower": 0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.1, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074077, "failure_count": 0, "mean_delta": 0.05648148148148148, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "retrieval_recall_at_5": { "ci_lower": 0.011111111111111112, "ci_upper": 0.1, "delta_ci_lower": 0.011111111111111112, "delta_ci_upper": 0.1, "er_ci_lower": 0.1388888888888889, "er_ci_upper": 0.24629629629629632, "er_mean": 0.19074074074074077, "failure_count": 0, "mean_delta": 0.05648148148148148, "missing_count": 30, "native_ci_lower": 0.09351851851851851, "native_ci_upper": 0.1787037037037037, "native_mean": 0.13425925925925927, "paired_count": 90, "schema_version": "3.0.0" }, "token_f1": { "ci_lower": -0.03140096618357488, "ci_upper": 0.09757079793436607, "delta_ci_lower": -0.03140096618357488, "delta_ci_upper": 0.09757079793436607, "er_ci_lower": 0.13007119125622377, "er_ci_upper": 0.27716049382716046, "er_mean": 0.19961223092157626, "failure_count": 0, "mean_delta": 0.031593578210894556, "missing_count": 30, "native_ci_lower": 0.10300867216854538, "native_ci_upper": 0.23923871108427266, "native_mean": 0.1680186527106817, "paired_count": 90, "schema_version": "3.0.0" }, "unanswerable_correct": { "ci_lower": -0.03333333333333333, "ci_upper": 0.23333333333333334, "delta_ci_lower": -0.03333333333333333, "delta_ci_upper": 0.23333333333333334, "er_ci_lower": 0.7666666666666667, "er_ci_upper": 1.0, "er_mean": 0.9, "failure_count": 0, "mean_delta": 0.1, "missing_count": 90, "native_ci_lower": 0.6333333333333333, "native_ci_upper": 0.9333333333333333, "native_mean": 0.8, "paired_count": 30, "schema_version": "3.0.0" } }, "paired_question_count": 120, "schema_version": "3.0.0", "source_question_type_weights": { "comparison": 0.3348982785602504, "inference": 0.3192488262910798, "temporal": 0.22809076682316118, "unanswerable": 0.11776212832550861 } }, "paired_question_count": 120 } ], "comparison_count": 12, "comparison_key": "er_minus_native", "effect_direction": "advanced_lightrag_er_minus_native_lightrag", "hypothesis_family": "12_builder_conditions_er_vs_native", "left_regime": "native_lightrag", "multiple_comparison_scope": "12_secondary_within_builder_effects", "right_regime": "advanced_lightrag_er" } }, "evaluation_identity_sha256": "904bfaacde8e272ef50d6e7f68001c17542b86157dc30ea18871f42c5a0e0823", "expected_question_count": 120, "primary_analysis_identity_sha256": "6869b0d1a39bd73004a510477418bbac1ae0bee1481a3c8673ef424131be9e9e", "primary_comparison_count": 12, "schema_version": "2.0.0", "total_prespecified_comparison_count": 36 }