{
 "label": "held-out",
 "sim2sim": true,
 "goal_set": "B",
 "goals": 150,
 "goals_by_range": {
  "id": 75,
  "ood": 75
 },
 "horizon_s": 40.0,
 "primary_tr": "tr_rate",
 "baseline": "nominal",
 "conditions_spec": {
  "nominal": {
   "trials": 1,
   "spec": {}
  },
  "tr_rate": {
   "trials": 20,
   "spec": {
    "tau0": [
     "normal",
     1000.0,
     50.0
    ],
    "omega0": [
     "normal",
     2600.0,
     100.0
    ],
    "sig_thr": [
     "const",
     0.05
    ],
    "sig_steer": [
     "const",
     0.05
    ],
    "steer_rate": [
     "loguniform",
     0.05,
     0.5
    ]
   }
  },
  "paper_tr": {
   "trials": 20,
   "spec": {
    "tau0": [
     "normal",
     1000.0,
     50.0
    ],
    "omega0": [
     "normal",
     2600.0,
     100.0
    ],
    "sig_thr": [
     "const",
     0.05
    ],
    "sig_steer": [
     "const",
     0.05
    ]
   }
  },
  "tr_rate_half": {
   "trials": 20,
   "spec": {
    "tau0": [
     "normal",
     1000.0,
     50.0
    ],
    "omega0": [
     "normal",
     2600.0,
     100.0
    ],
    "sig_thr": [
     "const",
     0.05
    ],
    "sig_steer": [
     "const",
     0.05
    ],
    "steer_rate": [
     "loguniform",
     0.025,
     0.25
    ]
   }
  },
  "tr_rate_double": {
   "trials": 20,
   "spec": {
    "tau0": [
     "normal",
     1000.0,
     50.0
    ],
    "omega0": [
     "normal",
     2600.0,
     100.0
    ],
    "sig_thr": [
     "const",
     0.05
    ],
    "sig_steer": [
     "const",
     0.05
    ],
    "steer_rate": [
     "loguniform",
     0.1,
     1.0
    ]
   }
  },
  "tr_rate_uniform": {
   "trials": 20,
   "spec": {
    "tau0": [
     "normal",
     1000.0,
     50.0
    ],
    "omega0": [
     "normal",
     2600.0,
     100.0
    ],
    "sig_thr": [
     "const",
     0.05
    ],
    "sig_steer": [
     "const",
     0.05
    ],
    "steer_rate": [
     "uniform",
     0.05,
     0.5
    ]
   }
  },
  "tr_delay": {
   "trials": 20,
   "spec": {
    "tau0": [
     "normal",
     1000.0,
     50.0
    ],
    "omega0": [
     "normal",
     2600.0,
     100.0
    ],
    "sig_thr": [
     "const",
     0.05
    ],
    "sig_steer": [
     "const",
     0.05
    ],
    "delay": [
     "choice",
     [
      0,
      1,
      2,
      3
     ]
    ]
   }
  },
  "det_rate_0.1": {
   "trials": 1,
   "spec": {
    "steer_rate": [
     "const",
     0.1
    ]
   }
  },
  "det_calibrated": {
   "trials": 1,
   "spec": {
    "wheelbase": [
     "const",
     3.378
    ],
    "steer_rate": [
     "const",
     0.1
    ],
    "hold": [
     "const",
     10
    ]
   }
  }
 },
 "bootstrap": {
  "replicates": 5000,
  "seed": 20261105,
  "unit": "goal, stratified by range, paired across methods"
 },
 "pools": {
  "primary": {
   "policies": [
    "nonoise_s2001",
    "nonoise_s2002",
    "nonoise_s2003",
    "nonoise_s2004",
    "release_s2001",
    "release_s2002",
    "release_s2003",
    "release_s2004",
    "robust_s2001",
    "robust_s2002",
    "robust_s2003",
    "robust_s2004"
   ],
   "chrono": {
    "mean_rank": {
     "nonoise_s2001": 6.64,
     "nonoise_s2002": 6.236666666666666,
     "nonoise_s2003": 6.953333333333333,
     "nonoise_s2004": 7.013333333333334,
     "release_s2001": 5.816666666666666,
     "release_s2002": 6.583333333333333,
     "release_s2003": 6.34,
     "release_s2004": 8.333333333333334,
     "robust_s2001": 6.873333333333333,
     "robust_s2002": 7.723333333333334,
     "robust_s2003": 4.266666666666667,
     "robust_s2004": 5.22
    },
    "order": [
     "robust_s2003",
     "robust_s2004",
     "release_s2001",
     "nonoise_s2002",
     "release_s2003",
     "release_s2002",
     "nonoise_s2001",
     "robust_s2001",
     "nonoise_s2003",
     "nonoise_s2004",
     "robust_s2002",
     "release_s2004"
    ],
    "success_rate": {
     "id": {
      "nonoise_s2001": 0.6266666666666667,
      "nonoise_s2002": 0.64,
      "nonoise_s2003": 0.6,
      "nonoise_s2004": 0.6533333333333333,
      "release_s2001": 0.6533333333333333,
      "release_s2002": 0.6266666666666667,
      "release_s2003": 0.6266666666666667,
      "release_s2004": 0.6,
      "robust_s2001": 0.64,
      "robust_s2002": 0.64,
      "robust_s2003": 0.64,
      "robust_s2004": 0.6266666666666667
     },
     "ood": {
      "nonoise_s2001": 0.8266666666666667,
      "nonoise_s2002": 0.9466666666666667,
      "nonoise_s2003": 0.9333333333333333,
      "nonoise_s2004": 0.8533333333333334,
      "release_s2001": 0.96,
      "release_s2002": 0.8666666666666667,
      "release_s2003": 0.9066666666666666,
      "release_s2004": 0.6666666666666666,
      "robust_s2001": 0.8,
      "robust_s2002": 0.8,
      "robust_s2003": 0.9733333333333334,
      "robust_s2004": 0.96
     },
     "all": {
      "nonoise_s2001": 0.7266666666666667,
      "nonoise_s2002": 0.7933333333333333,
      "nonoise_s2003": 0.7666666666666667,
      "nonoise_s2004": 0.7533333333333333,
      "release_s2001": 0.8066666666666666,
      "release_s2002": 0.7466666666666667,
      "release_s2003": 0.7666666666666667,
      "release_s2004": 0.6333333333333333,
      "robust_s2001": 0.72,
      "robust_s2002": 0.72,
      "robust_s2003": 0.8066666666666666,
      "robust_s2004": 0.7933333333333333
     }
    },
    "common_success_units": 76,
    "mean_time_common_success": {
     "nonoise_s2001": 5.846052631578948,
     "nonoise_s2002": 5.527631578947368,
     "nonoise_s2003": 5.5815789473684205,
     "nonoise_s2004": 5.997368421052632,
     "release_s2001": 5.602631578947369,
     "release_s2002": 5.530263157894736,
     "release_s2003": 5.860526315789474,
     "release_s2004": 6.332894736842105,
     "robust_s2001": 5.6684210526315795,
     "robust_s2002": 5.907894736842104,
     "robust_s2003": 5.597368421052632,
     "robust_s2004": 5.609210526315789
    },
    "pairs": [
     {
      "a": "nonoise_s2001",
      "b": "nonoise_s2002",
      "win_a": 0.48333333333333334,
      "ci95": [
       0.4266666666666667,
       0.5433333333333333
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2001",
      "b": "nonoise_s2003",
      "win_a": 0.5133333333333333,
      "ci95": [
       0.45666666666666667,
       0.57
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2001",
      "b": "nonoise_s2004",
      "win_a": 0.5433333333333333,
      "ci95": [
       0.48658333333333337,
       0.6
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2001",
      "b": "release_s2001",
      "win_a": 0.42333333333333334,
      "ci95": [
       0.38,
       0.47
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2001",
      "b": "release_s2002",
      "win_a": 0.4866666666666667,
      "ci95": [
       0.44,
       0.5366666666666666
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2001",
      "b": "release_s2003",
      "win_a": 0.4766666666666667,
      "ci95": [
       0.4266666666666667,
       0.53
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2001",
      "b": "release_s2004",
      "win_a": 0.6366666666666667,
      "ci95": [
       0.58,
       0.6933333333333334
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2001",
      "b": "robust_s2001",
      "win_a": 0.5166666666666667,
      "ci95": [
       0.46991666666666665,
       0.5634166666666655
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2001",
      "b": "robust_s2002",
      "win_a": 0.6066666666666667,
      "ci95": [
       0.56,
       0.65
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2001",
      "b": "robust_s2003",
      "win_a": 0.2966666666666667,
      "ci95": [
       0.2633333333333333,
       0.33
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2001",
      "b": "robust_s2004",
      "win_a": 0.37666666666666665,
      "ci95": [
       0.3333333333333333,
       0.42333333333333334
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "nonoise_s2003",
      "win_a": 0.5833333333333334,
      "ci95": [
       0.5233333333333333,
       0.64
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "nonoise_s2004",
      "win_a": 0.58,
      "ci95": [
       0.5366666666666666,
       0.6233333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "release_s2001",
      "win_a": 0.47333333333333333,
      "ci95": [
       0.42,
       0.5266666666666666
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2002",
      "b": "release_s2002",
      "win_a": 0.5333333333333333,
      "ci95": [
       0.4866666666666667,
       0.58
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2002",
      "b": "release_s2003",
      "win_a": 0.48,
      "ci95": [
       0.43,
       0.53
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2002",
      "b": "release_s2004",
      "win_a": 0.7333333333333333,
      "ci95": [
       0.7,
       0.7666666666666667
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "robust_s2001",
      "win_a": 0.56,
      "ci95": [
       0.51,
       0.61
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "robust_s2002",
      "win_a": 0.61,
      "ci95": [
       0.5633333333333334,
       0.6566666666666666
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "robust_s2003",
      "win_a": 0.30333333333333334,
      "ci95": [
       0.26666666666666666,
       0.34
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "robust_s2004",
      "win_a": 0.39,
      "ci95": [
       0.34,
       0.43666666666666665
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "nonoise_s2004",
      "win_a": 0.4866666666666667,
      "ci95": [
       0.4266666666666667,
       0.5466666666666666
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2003",
      "b": "release_s2001",
      "win_a": 0.4066666666666667,
      "ci95": [
       0.3566666666666667,
       0.46
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "release_s2002",
      "win_a": 0.48333333333333334,
      "ci95": [
       0.43,
       0.5366666666666666
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2003",
      "b": "release_s2003",
      "win_a": 0.47,
      "ci95": [
       0.41333333333333333,
       0.5266666666666666
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2003",
      "b": "release_s2004",
      "win_a": 0.59,
      "ci95": [
       0.5366666666666666,
       0.64
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "robust_s2001",
      "win_a": 0.5033333333333333,
      "ci95": [
       0.45,
       0.5566666666666666
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2003",
      "b": "robust_s2002",
      "win_a": 0.5766666666666667,
      "ci95": [
       0.52325,
       0.63
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "robust_s2003",
      "win_a": 0.28,
      "ci95": [
       0.23666666666666666,
       0.3233333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "robust_s2004",
      "win_a": 0.3466666666666667,
      "ci95": [
       0.3,
       0.3933333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2004",
      "b": "release_s2001",
      "win_a": 0.4,
      "ci95": [
       0.3433333333333333,
       0.45666666666666667
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2004",
      "b": "release_s2002",
      "win_a": 0.4633333333333333,
      "ci95": [
       0.41,
       0.5166666666666667
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2004",
      "b": "release_s2003",
      "win_a": 0.44333333333333336,
      "ci95": [
       0.38666666666666666,
       0.5
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2004",
      "b": "release_s2004",
      "win_a": 0.6866666666666666,
      "ci95": [
       0.65,
       0.7233333333333334
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2004",
      "b": "robust_s2001",
      "win_a": 0.45,
      "ci95": [
       0.39666666666666667,
       0.5033333333333333
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2004",
      "b": "robust_s2002",
      "win_a": 0.5033333333333333,
      "ci95": [
       0.44666666666666666,
       0.56
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2004",
      "b": "robust_s2003",
      "win_a": 0.2866666666666667,
      "ci95": [
       0.25,
       0.3233333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2004",
      "b": "robust_s2004",
      "win_a": 0.36333333333333334,
      "ci95": [
       0.31333333333333335,
       0.41
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "release_s2002",
      "win_a": 0.5866666666666667,
      "ci95": [
       0.54,
       0.63
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "release_s2003",
      "win_a": 0.5633333333333334,
      "ci95": [
       0.5166666666666667,
       0.61
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "release_s2004",
      "win_a": 0.6733333333333333,
      "ci95": [
       0.6233333333333333,
       0.7233333333333334
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "robust_s2001",
      "win_a": 0.6366666666666667,
      "ci95": [
       0.6033333333333334,
       0.6733333333333333
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "robust_s2002",
      "win_a": 0.72,
      "ci95": [
       0.68,
       0.76
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "robust_s2003",
      "win_a": 0.32,
      "ci95": [
       0.2866666666666667,
       0.35333333333333333
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "robust_s2004",
      "win_a": 0.38666666666666666,
      "ci95": [
       0.3433333333333333,
       0.43
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "release_s2003",
      "win_a": 0.46,
      "ci95": [
       0.42658333333333337,
       0.49333333333333335
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "release_s2004",
      "win_a": 0.6566666666666666,
      "ci95": [
       0.6033333333333334,
       0.7066666666666667
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "robust_s2001",
      "win_a": 0.5266666666666666,
      "ci95": [
       0.48333333333333334,
       0.57
      ],
      "resolved": false
     },
     {
      "a": "release_s2002",
      "b": "robust_s2002",
      "win_a": 0.6333333333333333,
      "ci95": [
       0.5933333333333334,
       0.6733333333333333
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "robust_s2003",
      "win_a": 0.2966666666666667,
      "ci95": [
       0.2633333333333333,
       0.33
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "robust_s2004",
      "win_a": 0.39666666666666667,
      "ci95": [
       0.35333333333333333,
       0.44333333333333336
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "release_s2004",
      "win_a": 0.6533333333333333,
      "ci95": [
       0.6,
       0.7066666666666667
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "robust_s2001",
      "win_a": 0.55,
      "ci95": [
       0.5033333333333333,
       0.5934166666666655
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "robust_s2002",
      "win_a": 0.6433333333333333,
      "ci95": [
       0.5966666666666667,
       0.69
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "robust_s2003",
      "win_a": 0.30666666666666664,
      "ci95": [
       0.2733333333333333,
       0.34
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "robust_s2004",
      "win_a": 0.4,
      "ci95": [
       0.3566666666666667,
       0.44333333333333336
      ],
      "resolved": true
     },
     {
      "a": "release_s2004",
      "b": "robust_s2001",
      "win_a": 0.38666666666666666,
      "ci95": [
       0.33,
       0.44333333333333336
      ],
      "resolved": true
     },
     {
      "a": "release_s2004",
      "b": "robust_s2002",
      "win_a": 0.42,
      "ci95": [
       0.36,
       0.4766666666666667
      ],
      "resolved": true
     },
     {
      "a": "release_s2004",
      "b": "robust_s2003",
      "win_a": 0.22,
      "ci95": [
       0.18666666666666668,
       0.25333333333333335
      ],
      "resolved": true
     },
     {
      "a": "release_s2004",
      "b": "robust_s2004",
      "win_a": 0.27,
      "ci95": [
       0.23333333333333334,
       0.30666666666666664
      ],
      "resolved": true
     },
     {
      "a": "robust_s2001",
      "b": "robust_s2002",
      "win_a": 0.6,
      "ci95": [
       0.5566666666666666,
       0.6466666666666666
      ],
      "resolved": true
     },
     {
      "a": "robust_s2001",
      "b": "robust_s2003",
      "win_a": 0.29333333333333333,
      "ci95": [
       0.26,
       0.33
      ],
      "resolved": true
     },
     {
      "a": "robust_s2001",
      "b": "robust_s2004",
      "win_a": 0.36333333333333334,
      "ci95": [
       0.3233333333333333,
       0.4066666666666667
      ],
      "resolved": true
     },
     {
      "a": "robust_s2002",
      "b": "robust_s2003",
      "win_a": 0.26666666666666666,
      "ci95": [
       0.23,
       0.30333333333333334
      ],
      "resolved": true
     },
     {
      "a": "robust_s2002",
      "b": "robust_s2004",
      "win_a": 0.3233333333333333,
      "ci95": [
       0.28,
       0.37
      ],
      "resolved": true
     },
     {
      "a": "robust_s2003",
      "b": "robust_s2004",
      "win_a": 0.6033333333333334,
      "ci95": [
       0.5633333333333334,
       0.6433333333333333
      ],
      "resolved": true
     }
    ],
    "resolved_pairs": 48,
    "mean_rank_ci95": {
     "nonoise_s2001": [
      6.269916666666666,
      7.013333333333334
     ],
     "nonoise_s2002": [
      5.899916666666667,
      6.576666666666667
     ],
     "nonoise_s2003": [
      6.506666666666667,
      7.403416666666666
     ],
     "nonoise_s2004": [
      6.58,
      7.45
     ],
     "release_s2001": [
      5.543333333333333,
      6.1
     ],
     "release_s2002": [
      6.306666666666667,
      6.866666666666666
     ],
     "release_s2003": [
      6.03,
      6.65
     ],
     "release_s2004": [
      7.929916666666666,
      8.743333333333334
     ],
     "robust_s2001": [
      6.556583333333333,
      7.183333333333334
     ],
     "robust_s2002": [
      7.413333333333333,
      8.033333333333333
     ],
     "robust_s2003": [
      3.993333333333333,
      4.553333333333334
     ],
     "robust_s2004": [
      4.87325,
      5.583333333333333
     ]
    }
   },
   "conditions": {
    "nominal": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 5.553333333333334,
       "nonoise_s2002": 5.97,
       "nonoise_s2003": 7.32,
       "nonoise_s2004": 6.786666666666667,
       "release_s2001": 5.716666666666667,
       "release_s2002": 5.8533333333333335,
       "release_s2003": 5.176666666666667,
       "release_s2004": 9.403333333333334,
       "robust_s2001": 5.6433333333333335,
       "robust_s2002": 6.8533333333333335,
       "robust_s2003": 7.78,
       "robust_s2004": 5.943333333333333
      },
      "order": [
       "release_s2003",
       "nonoise_s2001",
       "robust_s2001",
       "release_s2001",
       "release_s2002",
       "robust_s2004",
       "nonoise_s2002",
       "nonoise_s2004",
       "robust_s2002",
       "nonoise_s2003",
       "robust_s2003",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       },
       "ood": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       },
       "all": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       }
      },
      "common_success_units": 150,
      "mean_time_common_success": {
       "nonoise_s2001": 4.409333333174388,
       "nonoise_s2002": 4.419999991257986,
       "nonoise_s2003": 4.453333335717519,
       "nonoise_s2004": 4.43533331155777,
       "release_s2001": 4.419999996026357,
       "release_s2002": 4.414666658242544,
       "release_s2003": 4.400666670004527,
       "release_s2004": 4.489999997615814,
       "robust_s2001": 4.411999994119008,
       "robust_s2002": 4.435333314736684,
       "robust_s2003": 4.451333323319753,
       "robust_s2004": 4.415999993483226
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.5366666666666666,
        "ci95": [
         0.51,
         0.5633333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.6433333333333333,
        "ci95": [
         0.61,
         0.6733333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.6133333333333333,
        "ci95": [
         0.58,
         0.6466666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.5066666666666667,
        "ci95": [
         0.48,
         0.5333333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.5333333333333333,
        "ci95": [
         0.5066666666666667,
         0.56
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.45666666666666667,
        "ci95": [
         0.42333333333333334,
         0.4866666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.8066666666666666,
        "ci95": [
         0.7766666666666666,
         0.8366666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.49666666666666665,
        "ci95": [
         0.47333333333333333,
         0.52
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.62,
        "ci95": [
         0.59,
         0.65
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.6966666666666667,
        "ci95": [
         0.66,
         0.7333333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.5366666666666666,
        "ci95": [
         0.5066666666666667,
         0.5666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.62,
        "ci95": [
         0.5833333333333334,
         0.6533333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5733333333333334,
        "ci95": [
         0.5399166666666667,
         0.6066666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.47,
        "ci95": [
         0.44333333333333336,
         0.49666666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.49,
        "ci95": [
         0.4633333333333333,
         0.5166666666666667
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.4166666666666667,
        "ci95": [
         0.38,
         0.45
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.7933333333333333,
        "ci95": [
         0.7533333333333333,
         0.83
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.46,
        "ci95": [
         0.43333333333333335,
         0.4866666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.5833333333333334,
        "ci95": [
         0.5533333333333333,
         0.6166666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.6633333333333333,
        "ci95": [
         0.6266666666666667,
         0.7
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.49666666666666665,
        "ci95": [
         0.4666666666666667,
         0.5266666666666666
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.4266666666666667,
        "ci95": [
         0.38666666666666666,
         0.4666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.39,
        "ci95": [
         0.35333333333333333,
         0.43
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.37,
        "ci95": [
         0.34,
         0.4
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.36333333333333334,
        "ci95": [
         0.3333333333333333,
         0.39666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.68,
        "ci95": [
         0.6333333333333333,
         0.7233333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.38,
        "ci95": [
         0.3466666666666667,
         0.4166666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.43666666666666665,
        "ci95": [
         0.39666666666666667,
         0.4766666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.5066666666666667,
        "ci95": [
         0.46,
         0.5533333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.39,
        "ci95": [
         0.3566666666666667,
         0.42333333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.4066666666666667,
        "ci95": [
         0.36666666666666664,
         0.44666666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.41333333333333333,
        "ci95": [
         0.38333333333333336,
         0.44333333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.3566666666666667,
        "ci95": [
         0.3233333333333333,
         0.39
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.7533333333333333,
        "ci95": [
         0.7233333333333334,
         0.7833333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.4066666666666667,
        "ci95": [
         0.37,
         0.44333333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.5,
        "ci95": [
         0.4666666666666667,
         0.5333333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.58,
        "ci95": [
         0.54,
         0.62
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.41,
        "ci95": [
         0.37666666666666665,
         0.44
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.5133333333333333,
        "ci95": [
         0.48,
         0.5466666666666666
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.44666666666666666,
        "ci95": [
         0.41333333333333333,
         0.48
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.7766666666666666,
        "ci95": [
         0.7333333333333333,
         0.8166666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.49333333333333335,
        "ci95": [
         0.4666666666666667,
         0.52
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.61,
        "ci95": [
         0.5733333333333334,
         0.6466666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.69,
        "ci95": [
         0.65,
         0.73
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.5266666666666666,
        "ci95": [
         0.49333333333333335,
         0.56
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.4266666666666667,
        "ci95": [
         0.3933333333333333,
         0.46
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.8,
        "ci95": [
         0.77,
         0.83
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.47333333333333333,
        "ci95": [
         0.44,
         0.5066666666666667
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.59,
        "ci95": [
         0.5633333333333334,
         0.62
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.67,
        "ci95": [
         0.6366666666666667,
         0.7066666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.5066666666666667,
        "ci95": [
         0.4766666666666667,
         0.5366666666666666
        ],
        "resolved": false
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.8,
        "ci95": [
         0.7733333333333333,
         0.8266666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.5466666666666666,
        "ci95": [
         0.5133333333333333,
         0.58
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6466666666666666,
        "ci95": [
         0.6133333333333333,
         0.68
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.72,
        "ci95": [
         0.68,
         0.7566666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.5766666666666667,
        "ci95": [
         0.5466666666666666,
         0.61
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.21666666666666667,
        "ci95": [
         0.18,
         0.25341666666666546
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.25333333333333335,
        "ci95": [
         0.21666666666666667,
         0.29333333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.3233333333333333,
        "ci95": [
         0.2866666666666667,
         0.36
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.21333333333333335,
        "ci95": [
         0.18666666666666668,
         0.24
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.61,
        "ci95": [
         0.5766666666666667,
         0.6433333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.6866666666666666,
        "ci95": [
         0.65,
         0.7233333333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.5333333333333333,
        "ci95": [
         0.49666666666666665,
         0.57
        ],
        "resolved": false
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.58,
        "ci95": [
         0.55,
         0.61
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.4166666666666667,
        "ci95": [
         0.38333333333333336,
         0.45
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.33666666666666667,
        "ci95": [
         0.3,
         0.37333333333333335
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 54,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        5.356583333333333,
        5.756666666666667
       ],
       "nonoise_s2002": [
        5.753333333333333,
        6.193333333333333
       ],
       "nonoise_s2003": [
        6.986666666666666,
        7.65
       ],
       "nonoise_s2004": [
        6.506666666666667,
        7.07675
       ],
       "release_s2001": [
        5.456666666666667,
        5.986749999999999
       ],
       "release_s2002": [
        5.653333333333333,
        6.053333333333334
       ],
       "release_s2003": [
        4.913333333333333,
        5.443416666666666
       ],
       "release_s2004": [
        9.1,
        9.7
       ],
       "robust_s2001": [
        5.39325,
        5.89
       ],
       "robust_s2002": [
        6.613333333333333,
        7.096666666666667
       ],
       "robust_s2003": [
        7.47,
        8.09
       ],
       "robust_s2004": [
        5.713333333333333,
        6.18
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.4272253395900187,
      "nonoise_s2002": 1.3672001464381407,
      "nonoise_s2003": 1.3192146861801655,
      "nonoise_s2004": 1.536958212984831,
      "release_s2001": 1.3853744499212317,
      "release_s2002": 1.4274487277999905,
      "release_s2003": 1.3960506695247397,
      "release_s2004": 1.4684983410228787,
      "robust_s2001": 1.4763458434321906,
      "robust_s2002": 1.5281059115077433,
      "robust_s2003": 1.289354277887651,
      "robust_s2004": 1.2912864569698577
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.21212121212121213,
       "kendall_ci95": [
        0.030303030303030304,
        0.36363636363636365
       ],
       "spearman": 0.2937062937062937,
       "spearman_ci95": [
        0.09090909090909091,
        0.4405594405594406
       ],
       "delta_tau_vs_nominal": 0.0,
       "delta_tau_ci95": [
        0.0,
        0.0
       ],
       "bootstrap_frac_delta_le_0": 1.0
      },
      "id": {
       "kendall_tau_b": 0.10687334289668037,
       "kendall_ci95": [
        -0.07754035086653924,
        0.3076923076923077
       ],
       "spearman": 0.1366026613259775,
       "spearman_ci95": [
        -0.09737137659495824,
        0.3986013986013986
       ],
       "delta_tau_vs_nominal": 0.0,
       "delta_tau_ci95": [
        0.0,
        0.0
       ],
       "bootstrap_frac_delta_le_0": 1.0
      },
      "ood": {
       "kendall_tau_b": 0.15151515151515152,
       "kendall_ci95": [
        -0.030303030303030304,
        0.30303030303030304
       ],
       "spearman": 0.14685314685314685,
       "spearman_ci95": [
        -0.02097902097902098,
        0.36365229863385284
       ],
       "delta_tau_vs_nominal": 0.0,
       "delta_tau_ci95": [
        0.0,
        0.0
       ],
       "bootstrap_frac_delta_le_0": 1.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 66,
      "method_correct": 40,
      "base_correct": 40,
      "discordant": 0,
      "discordant_method_correct": 0,
      "discordant_base_correct": 0
     },
     "tau_vs_primary_tr": {
      "value": 0.12121212121212122,
      "ci95": [
       -0.030303030303030304,
       0.21212121212121213
      ]
     }
    },
    "tr_rate": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 7.047,
       "nonoise_s2002": 6.723833333333332,
       "nonoise_s2003": 5.2105,
       "nonoise_s2004": 7.219999999999997,
       "release_s2001": 5.923333333333333,
       "release_s2002": 7.085333333333333,
       "release_s2003": 6.216333333333333,
       "release_s2004": 9.42016666666667,
       "robust_s2001": 7.157333333333333,
       "robust_s2002": 8.38683333333333,
       "robust_s2003": 4.274333333333334,
       "robust_s2004": 3.335000000000001
      },
      "order": [
       "robust_s2004",
       "robust_s2003",
       "nonoise_s2003",
       "release_s2001",
       "release_s2003",
       "nonoise_s2002",
       "nonoise_s2001",
       "release_s2002",
       "robust_s2001",
       "nonoise_s2004",
       "robust_s2002",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 0.7906666666666666,
        "nonoise_s2002": 0.8266666666666667,
        "nonoise_s2003": 0.9526666666666667,
        "nonoise_s2004": 0.7986666666666666,
        "release_s2001": 0.868,
        "release_s2002": 0.8013333333333333,
        "release_s2003": 0.8033333333333333,
        "release_s2004": 0.776,
        "robust_s2001": 0.7993333333333333,
        "robust_s2002": 0.79,
        "robust_s2003": 0.976,
        "robust_s2004": 0.9953333333333333
       },
       "ood": {
        "nonoise_s2001": 0.7726666666666666,
        "nonoise_s2002": 0.8006666666666666,
        "nonoise_s2003": 0.966,
        "nonoise_s2004": 0.7973333333333333,
        "release_s2001": 0.8466666666666667,
        "release_s2002": 0.7686666666666667,
        "release_s2003": 0.8006666666666666,
        "release_s2004": 0.734,
        "robust_s2001": 0.7766666666666666,
        "robust_s2002": 0.7406666666666667,
        "robust_s2003": 0.998,
        "robust_s2004": 1.0
       },
       "all": {
        "nonoise_s2001": 0.7816666666666666,
        "nonoise_s2002": 0.8136666666666666,
        "nonoise_s2003": 0.9593333333333334,
        "nonoise_s2004": 0.798,
        "release_s2001": 0.8573333333333333,
        "release_s2002": 0.785,
        "release_s2003": 0.802,
        "release_s2004": 0.755,
        "robust_s2001": 0.788,
        "robust_s2002": 0.7653333333333333,
        "robust_s2003": 0.987,
        "robust_s2004": 0.9976666666666667
       }
      },
      "common_success_units": 2204,
      "mean_time_common_success": {
       "nonoise_s2001": 5.091606170263567,
       "nonoise_s2002": 4.984936476619187,
       "nonoise_s2003": 4.575862071042485,
       "nonoise_s2004": 5.0246823894674675,
       "release_s2001": 4.758121592433829,
       "release_s2002": 5.106079848405454,
       "release_s2003": 4.900317606605765,
       "release_s2004": 5.605172412581539,
       "robust_s2001": 5.0573956447158235,
       "robust_s2002": 5.477177853484768,
       "robust_s2003": 4.483484565562648,
       "robust_s2004": 4.437068960573626
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.4725,
        "ci95": [
         0.4515000000000002,
         0.49366666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.32616666666666666,
        "ci95": [
         0.2933333333333333,
         0.3606666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.5223333333333333,
        "ci95": [
         0.4968333333333337,
         0.5486666666666664
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.3748333333333334,
        "ci95": [
         0.35816666666666686,
         0.3923375000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.5051666666666667,
        "ci95": [
         0.4881624999999999,
         0.5228333333333332
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.42116666666666663,
        "ci95": [
         0.4065000000000003,
         0.43583333333333363
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.7031666666666667,
        "ci95": [
         0.678829166666666,
         0.7278333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.5086666666666666,
        "ci95": [
         0.49499999999999983,
         0.5221666666666664
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.6296666666666667,
        "ci95": [
         0.6141666666666669,
         0.6448333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.273,
        "ci95": [
         0.24400000000000005,
         0.3036666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.2163333333333333,
        "ci95": [
         0.18983333333333335,
         0.2446666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.3431666666666666,
        "ci95": [
         0.30566249999999995,
         0.38149999999999984
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5541666666666667,
        "ci95": [
         0.5343333333333333,
         0.5738333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.4221666666666667,
        "ci95": [
         0.40316250000000015,
         0.44099999999999995
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.5455,
        "ci95": [
         0.5304999999999999,
         0.5605000000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.453,
        "ci95": [
         0.43416666666666676,
         0.47133333333333327
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.7518333333333334,
        "ci95": [
         0.7334999999999999,
         0.7693375
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.5406666666666666,
        "ci95": [
         0.5236666666666665,
         0.5576666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.6639999999999999,
        "ci95": [
         0.6468333333333334,
         0.6810041666666669
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.26216666666666666,
        "ci95": [
         0.2306666666666667,
         0.29450416666666673
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.212,
        "ci95": [
         0.18350000000000005,
         0.242
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.6738333333333334,
        "ci95": [
         0.6345000000000003,
         0.7108375000000005
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.6323333333333333,
        "ci95": [
         0.5971624999999997,
         0.6673374999999998
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.6733333333333333,
        "ci95": [
         0.6371624999999996,
         0.7074999999999996
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.6265,
        "ci95": [
         0.588495833333333,
         0.6626666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.8268333333333334,
        "ci95": [
         0.7975000000000003,
         0.8538333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.6858333333333333,
        "ci95": [
         0.6511666666666668,
         0.7183374999999996
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.756,
        "ci95": [
         0.7251624999999995,
         0.7849999999999993
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.36850000000000005,
        "ci95": [
         0.3324958333333332,
         0.4045041666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.21566666666666662,
        "ci95": [
         0.19666249999999996,
         0.23517083333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.38549999999999995,
        "ci95": [
         0.3596666666666668,
         0.4106708333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.4896666666666667,
        "ci95": [
         0.4698333333333332,
         0.5089999999999996
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.404,
        "ci95": [
         0.38350000000000006,
         0.42317083333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.7406666666666666,
        "ci95": [
         0.7253333333333335,
         0.7558333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.48066666666666674,
        "ci95": [
         0.4555000000000001,
         0.5038375000000003
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.5976666666666667,
        "ci95": [
         0.5731666666666666,
         0.6214999999999997
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.237,
        "ci95": [
         0.20750000000000013,
         0.2673333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.19516666666666665,
        "ci95": [
         0.1654958333333332,
         0.2271666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.6279999999999999,
        "ci95": [
         0.6070000000000002,
         0.6478375000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.5444999999999999,
        "ci95": [
         0.5235000000000001,
         0.565
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.7971666666666666,
        "ci95": [
         0.7766666666666666,
         0.8176666666666671
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.6496666666666666,
        "ci95": [
         0.6333333333333332,
         0.6646666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.7383333333333333,
        "ci95": [
         0.7211666666666666,
         0.7553375000000003
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.3,
        "ci95": [
         0.2701666666666668,
         0.3305000000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.2338333333333333,
        "ci95": [
         0.20616249999999986,
         0.26233333333333325
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.4088333333333333,
        "ci95": [
         0.3953333333333337,
         0.4225000000000004
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.7231666666666666,
        "ci95": [
         0.7050000000000002,
         0.7414999999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.5065000000000001,
        "ci95": [
         0.4905000000000001,
         0.5220000000000004
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.6276666666666667,
        "ci95": [
         0.6119999999999998,
         0.643
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.26966666666666667,
        "ci95": [
         0.23766666666666686,
         0.3018333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.22050000000000003,
        "ci95": [
         0.19083333333333338,
         0.2511666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.7685,
        "ci95": [
         0.7515000000000003,
         0.786004166666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.6010000000000001,
        "ci95": [
         0.5871624999999997,
         0.6156666666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6873333333333332,
        "ci95": [
         0.6720000000000005,
         0.7028333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.32650000000000007,
        "ci95": [
         0.2931666666666668,
         0.36016666666666675
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.25833333333333336,
        "ci95": [
         0.2255,
         0.29300416666666673
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.29633333333333334,
        "ci95": [
         0.27466666666666684,
         0.3175000000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.4061666666666667,
        "ci95": [
         0.38116666666666676,
         0.43183333333333307
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.108,
        "ci95": [
         0.09099583333333332,
         0.1265
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.08066666666666668,
        "ci95": [
         0.06383333333333342,
         0.0995041666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.6338333333333332,
        "ci95": [
         0.6198291666666665,
         0.6475000000000001
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.26766666666666666,
        "ci95": [
         0.23916666666666675,
         0.2981666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.2105,
        "ci95": [
         0.18416666666666665,
         0.23867083333333325
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.2006666666666667,
        "ci95": [
         0.17199583333333335,
         0.23150416666666662
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.15316666666666667,
        "ci95": [
         0.1306666666666667,
         0.17666666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.3388333333333334,
        "ci95": [
         0.3055,
         0.37283333333333296
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 60,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        6.883658333333337,
        7.207170833333331
       ],
       "nonoise_s2002": [
        6.572158333333334,
        6.87434166666667
       ],
       "nonoise_s2003": [
        4.909995833333333,
        5.530670833333333
       ],
       "nonoise_s2004": [
        7.021162499999996,
        7.414345833333334
       ],
       "release_s2001": [
        5.799329166666664,
        6.053179166666669
       ],
       "release_s2002": [
        6.92549583333333,
        7.241670833333329
       ],
       "release_s2003": [
        6.054158333333331,
        6.374170833333332
       ],
       "release_s2004": [
        9.258983333333326,
        9.580004166666669
       ],
       "robust_s2001": [
        7.0173250000000005,
        7.28767916666667
       ],
       "robust_s2002": [
        8.209645833333337,
        8.553670833333333
       ],
       "robust_s2003": [
        4.033324999999998,
        4.5243458333333315
       ],
       "robust_s2004": [
        3.089937500000001,
        3.594366666666668
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.1974434689158415,
      "nonoise_s2002": 1.2299436555152614,
      "nonoise_s2003": 1.1213571800962263,
      "nonoise_s2004": 1.223669210193294,
      "release_s2001": 1.2801968037325298,
      "release_s2002": 1.2183985549644318,
      "release_s2003": 1.2583808805669334,
      "release_s2004": 1.4824220322835575,
      "robust_s2001": 1.2768470013738362,
      "robust_s2002": 1.3065494887744562,
      "robust_s2003": 1.1095216892607302,
      "robust_s2004": 1.1418129476635546
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.7272727272727273,
       "kendall_ci95": [
        0.6060606060606061,
        0.8181818181818182
       ],
       "spearman": 0.8321678321678322,
       "spearman_ci95": [
        0.7412587412587412,
        0.9370629370629371
       ],
       "delta_tau_vs_nominal": 0.5151515151515151,
       "delta_tau_ci95": [
        0.3333333333333333,
        0.7272727272727273
       ],
       "bootstrap_frac_delta_le_0": 0.0
      },
      "id": {
       "kendall_tau_b": 0.24242424242424243,
       "kendall_ci95": [
        0.06154574548966636,
        0.42424242424242425
       ],
       "spearman": 0.1958041958041958,
       "spearman_ci95": [
        0.03852895575860904,
        0.44755244755244755
       ],
       "delta_tau_vs_nominal": 0.13555089952756205,
       "delta_tau_ci95": [
        -0.15435769828805893,
        0.40036859536698816
       ],
       "bootstrap_frac_delta_le_0": 0.161
      },
      "ood": {
       "kendall_tau_b": 0.6363636363636364,
       "kendall_ci95": [
        0.48484848484848486,
        0.7878787878787878
       ],
       "spearman": 0.7832167832167832,
       "spearman_ci95": [
        0.6713286713286714,
        0.9176896735232336
       ],
       "delta_tau_vs_nominal": 0.48484848484848486,
       "delta_tau_ci95": [
        0.3453398527318507,
        0.6666666666666666
       ],
       "bootstrap_frac_delta_le_0": 0.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 66,
      "method_correct": 57,
      "base_correct": 40,
      "discordant": 29,
      "discordant_method_correct": 23,
      "discordant_base_correct": 6
     },
     "tau_vs_primary_tr": {
      "value": 1.0,
      "ci95": [
       1.0,
       1.0
      ]
     }
    },
    "paper_tr": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 5.433999999999998,
       "nonoise_s2002": 5.922499999999997,
       "nonoise_s2003": 7.530499999999999,
       "nonoise_s2004": 7.037666666666664,
       "release_s2001": 5.641833333333332,
       "release_s2002": 5.655833333333333,
       "release_s2003": 5.130166666666668,
       "release_s2004": 9.318999999999994,
       "robust_s2001": 5.511833333333329,
       "robust_s2002": 6.756166666666667,
       "robust_s2003": 7.853500000000005,
       "robust_s2004": 6.206999999999998
      },
      "order": [
       "release_s2003",
       "nonoise_s2001",
       "robust_s2001",
       "release_s2001",
       "release_s2002",
       "nonoise_s2002",
       "robust_s2004",
       "robust_s2002",
       "nonoise_s2004",
       "nonoise_s2003",
       "robust_s2003",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       },
       "ood": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       },
       "all": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       }
      },
      "common_success_units": 3000,
      "mean_time_common_success": {
       "nonoise_s2001": 4.4022666656970975,
       "nonoise_s2002": 4.415033328612646,
       "nonoise_s2003": 4.453433334708214,
       "nonoise_s2004": 4.435499986012776,
       "release_s2001": 4.414866663853328,
       "release_s2002": 4.406266661405564,
       "release_s2003": 4.396433332681656,
       "release_s2004": 4.481966664036115,
       "robust_s2001": 4.406199999411901,
       "robust_s2002": 4.42899998776118,
       "robust_s2003": 4.448299987554551,
       "robust_s2004": 4.417033326943716
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.5436666666666667,
        "ci95": [
         0.5270000000000001,
         0.5618333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.6591666666666667,
        "ci95": [
         0.6325000000000001,
         0.6849999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.6456666666666666,
        "ci95": [
         0.6213333333333334,
         0.6703333333333331
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.5116666666666667,
        "ci95": [
         0.4939999999999998,
         0.5316666666666665
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.5243333333333333,
        "ci95": [
         0.5101666666666668,
         0.5376708333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.4648333333333334,
        "ci95": [
         0.4431666666666668,
         0.48717083333333366
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.8066666666666666,
        "ci95": [
         0.7859999999999997,
         0.8256666666666663
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.5003333333333334,
        "ci95": [
         0.4853291666666662,
         0.5174999999999998
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.6213333333333333,
        "ci95": [
         0.6033333333333333,
         0.6400041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.7160000000000001,
        "ci95": [
         0.6984999999999999,
         0.7334999999999997
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.5723333333333332,
        "ci95": [
         0.5531666666666666,
         0.5928333333333329
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.634,
        "ci95": [
         0.602495833333333,
         0.664833333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5981666666666666,
        "ci95": [
         0.5698333333333334,
         0.625833333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.4691666666666668,
        "ci95": [
         0.4536624999999999,
         0.48583333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.47866666666666674,
        "ci95": [
         0.4621666666666666,
         0.49299999999999994
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.42100000000000004,
        "ci95": [
         0.39283333333333326,
         0.4489999999999998
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.7856666666666665,
        "ci95": [
         0.755,
         0.8136666666666662
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.4558333333333333,
        "ci95": [
         0.44183333333333336,
         0.4683333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.5785,
        "ci95": [
         0.5590000000000002,
         0.5974999999999998
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.6745000000000001,
        "ci95": [
         0.6506666666666665,
         0.697
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.5256666666666667,
        "ci95": [
         0.5025,
         0.5486666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.42566666666666675,
        "ci95": [
         0.3933291666666667,
         0.4576666666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.3671666666666667,
        "ci95": [
         0.3326666666666668,
         0.4025041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.33816666666666667,
        "ci95": [
         0.31382916666666666,
         0.3620000000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.3426666666666667,
        "ci95": [
         0.3153333333333337,
         0.3708333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.6366666666666667,
        "ci95": [
         0.598495833333333,
         0.6729999999999996
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.3625,
        "ci95": [
         0.3316625000000001,
         0.3945041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.4106666666666667,
        "ci95": [
         0.37850000000000006,
         0.44383749999999983
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.49416666666666664,
        "ci95": [
         0.4555,
         0.5316666666666666
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.385,
        "ci95": [
         0.35600000000000015,
         0.4133333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.37766666666666665,
        "ci95": [
         0.34533333333333327,
         0.4114999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.37583333333333335,
        "ci95": [
         0.3556624999999999,
         0.3943333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.32866666666666666,
        "ci95": [
         0.3066666666666664,
         0.3508374999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.7308333333333333,
        "ci95": [
         0.7116624999999996,
         0.7490041666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.37016666666666664,
        "ci95": [
         0.34032916666666646,
         0.40016666666666656
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.4709999999999999,
        "ci95": [
         0.448,
         0.49316666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.5628333333333334,
        "ci95": [
         0.5363333333333333,
         0.5878333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.41483333333333333,
        "ci95": [
         0.3941666666666664,
         0.43333333333333335
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.5088333333333332,
        "ci95": [
         0.48533333333333334,
         0.5301666666666666
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.4528333333333333,
        "ci95": [
         0.4256625,
         0.4799999999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.7746666666666667,
        "ci95": [
         0.7374958333333331,
         0.8078333333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.48850000000000005,
        "ci95": [
         0.4725000000000003,
         0.5016708333333336
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.6051666666666666,
        "ci95": [
         0.5785000000000001,
         0.6303333333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.6981666666666666,
        "ci95": [
         0.6681666666666667,
         0.7253333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.5556666666666666,
        "ci95": [
         0.5273333333333335,
         0.5835041666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.4401666666666666,
        "ci95": [
         0.41616249999999966,
         0.4646666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.8136666666666665,
        "ci95": [
         0.7973291666666661,
         0.8303333333333329
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.47800000000000004,
        "ci95": [
         0.45733333333333337,
         0.5
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.5973333333333333,
        "ci95": [
         0.5825000000000002,
         0.6130000000000003
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.6930000000000001,
        "ci95": [
         0.675333333333333,
         0.7101708333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.5478333333333334,
        "ci95": [
         0.5324958333333332,
         0.5646666666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.8035,
        "ci95": [
         0.7851666666666666,
         0.8205041666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.5368333333333332,
        "ci95": [
         0.5133333333333332,
         0.5599999999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6485,
        "ci95": [
         0.6214999999999999,
         0.6750041666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.7301666666666667,
        "ci95": [
         0.7035,
         0.7543333333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.6010000000000001,
        "ci95": [
         0.5775000000000001,
         0.6236708333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.21666666666666667,
        "ci95": [
         0.18916666666666668,
         0.2468374999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.252,
        "ci95": [
         0.22749999999999987,
         0.27816666666666656
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.337,
        "ci95": [
         0.31182916666666655,
         0.3636666666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.22699999999999998,
        "ci95": [
         0.21116666666666664,
         0.24216666666666645
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.62,
        "ci95": [
         0.597,
         0.6418333333333331
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.7099999999999999,
        "ci95": [
         0.6861666666666667,
         0.7316708333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.5670000000000001,
        "ci95": [
         0.540833333333333,
         0.593833333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.5964999999999999,
        "ci95": [
         0.5828291666666663,
         0.6098333333333336
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.45183333333333336,
        "ci95": [
         0.4298291666666669,
         0.4743333333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.35883333333333334,
        "ci95": [
         0.33566666666666684,
         0.38316666666666654
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 60,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        5.300154166666668,
        5.58033333333333
       ],
       "nonoise_s2002": [
        5.775999999999998,
        6.084008333333329
       ],
       "nonoise_s2003": [
        7.238495833333328,
        7.8378374999999965
       ],
       "nonoise_s2004": [
        6.84415833333333,
        7.245174999999995
       ],
       "release_s2001": [
        5.4261624999999984,
        5.882841666666666
       ],
       "release_s2002": [
        5.544829166666666,
        5.763999999999999
       ],
       "release_s2003": [
        4.910487500000001,
        5.351837500000006
       ],
       "release_s2004": [
        9.136658333333328,
        9.497666666666666
       ],
       "robust_s2001": [
        5.333991666666662,
        5.704837499999998
       ],
       "robust_s2002": [
        6.615666666666667,
        6.908004166666667
       ],
       "robust_s2003": [
        7.684637500000002,
        8.023008333333335
       ],
       "robust_s2004": [
        6.046645833333332,
        6.373333333333329
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.4297333930870426,
      "nonoise_s2002": 1.3689849212597311,
      "nonoise_s2003": 1.3189988894973592,
      "nonoise_s2004": 1.5368095253172758,
      "release_s2001": 1.3870119793348334,
      "release_s2002": 1.4301077346805902,
      "release_s2003": 1.397651929474086,
      "release_s2004": 1.471583019610088,
      "robust_s2001": 1.4791811392007943,
      "robust_s2002": 1.5298819440530507,
      "robust_s2003": 1.290254979996148,
      "robust_s2004": 1.2908014535135748
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.15151515151515152,
       "kendall_ci95": [
        0.0,
        0.2727272727272727
       ],
       "spearman": 0.2727272727272727,
       "spearman_ci95": [
        0.04195804195804196,
        0.36363636363636365
       ],
       "delta_tau_vs_nominal": -0.06060606060606061,
       "delta_tau_ci95": [
        -0.18181818181818182,
        0.030303030303030304
       ],
       "bootstrap_frac_delta_le_0": 0.9642
      },
      "id": {
       "kendall_tau_b": 0.2727272727272727,
       "kendall_ci95": [
        0.04580286124143444,
        0.42424242424242425
       ],
       "spearman": 0.3356643356643357,
       "spearman_ci95": [
        0.056039665928992406,
        0.5454545454545454
       ],
       "delta_tau_vs_nominal": 0.16585392983059233,
       "delta_tau_ci95": [
        -0.0038496516422564706,
        0.2879307098821753
       ],
       "bootstrap_frac_delta_le_0": 0.0346
      },
      "ood": {
       "kendall_tau_b": 0.09090909090909091,
       "kendall_ci95": [
        -0.12121212121212122,
        0.18181818181818182
       ],
       "spearman": 0.09090909090909091,
       "spearman_ci95": [
        -0.1048951048951049,
        0.27329288846049604
       ],
       "delta_tau_vs_nominal": -0.06060606060606061,
       "delta_tau_ci95": [
        -0.18181818181818182,
        0.0
       ],
       "bootstrap_frac_delta_le_0": 0.9946
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 66,
      "method_correct": 38,
      "base_correct": 40,
      "discordant": 2,
      "discordant_method_correct": 0,
      "discordant_base_correct": 2
     },
     "tau_vs_primary_tr": {
      "value": 0.06060606060606061,
      "ci95": [
       -0.06060606060606061,
       0.09090909090909091
      ]
     }
    },
    "tr_rate_half": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 7.364666666666667,
       "nonoise_s2002": 6.8246666666666655,
       "nonoise_s2003": 4.9834999999999985,
       "nonoise_s2004": 7.1426666666666705,
       "release_s2001": 6.198499999999998,
       "release_s2002": 7.34283333333333,
       "release_s2003": 6.691499999999997,
       "release_s2004": 8.811166666666663,
       "robust_s2001": 7.513333333333334,
       "robust_s2002": 8.268833333333333,
       "robust_s2003": 3.772666666666666,
       "robust_s2004": 3.0856666666666652
      },
      "order": [
       "robust_s2004",
       "robust_s2003",
       "nonoise_s2003",
       "release_s2001",
       "release_s2003",
       "nonoise_s2002",
       "nonoise_s2004",
       "release_s2002",
       "nonoise_s2001",
       "robust_s2001",
       "robust_s2002",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 0.6033333333333334,
        "nonoise_s2002": 0.654,
        "nonoise_s2003": 0.784,
        "nonoise_s2004": 0.614,
        "release_s2001": 0.684,
        "release_s2002": 0.6133333333333333,
        "release_s2003": 0.6106666666666667,
        "release_s2004": 0.582,
        "robust_s2001": 0.6073333333333333,
        "robust_s2002": 0.598,
        "robust_s2003": 0.838,
        "robust_s2004": 0.8766666666666667
       },
       "ood": {
        "nonoise_s2001": 0.5413333333333333,
        "nonoise_s2002": 0.5613333333333334,
        "nonoise_s2003": 0.7946666666666666,
        "nonoise_s2004": 0.572,
        "release_s2001": 0.6193333333333333,
        "release_s2002": 0.5386666666666666,
        "release_s2003": 0.582,
        "release_s2004": 0.49466666666666664,
        "robust_s2001": 0.5406666666666666,
        "robust_s2002": 0.506,
        "robust_s2003": 0.8586666666666667,
        "robust_s2004": 0.912
       },
       "all": {
        "nonoise_s2001": 0.5723333333333334,
        "nonoise_s2002": 0.6076666666666667,
        "nonoise_s2003": 0.7893333333333333,
        "nonoise_s2004": 0.593,
        "release_s2001": 0.6516666666666666,
        "release_s2002": 0.576,
        "release_s2003": 0.5963333333333334,
        "release_s2004": 0.5383333333333333,
        "robust_s2001": 0.574,
        "robust_s2002": 0.552,
        "robust_s2003": 0.8483333333333334,
        "robust_s2004": 0.8943333333333333
       }
      },
      "common_success_units": 1524,
      "mean_time_common_success": {
       "nonoise_s2001": 5.495472443463608,
       "nonoise_s2002": 5.156955382955356,
       "nonoise_s2003": 4.560564304978203,
       "nonoise_s2004": 5.238451444492565,
       "release_s2001": 4.856955378074345,
       "release_s2002": 5.452690288150717,
       "release_s2003": 5.140944878182073,
       "release_s2004": 6.073622048996252,
       "robust_s2001": 5.358202098861454,
       "robust_s2002": 5.807611549854904,
       "robust_s2003": 4.396850391635745,
       "robust_s2004": 4.35551181255676
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.4611666666666667,
        "ci95": [
         0.44116666666666665,
         0.4815
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.2831666666666667,
        "ci95": [
         0.24999999999999992,
         0.31766666666666654
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.4846666666666667,
        "ci95": [
         0.4548291666666664,
         0.5155000000000001
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.37183333333333335,
        "ci95": [
         0.3571666666666666,
         0.38683333333333325
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.5025,
        "ci95": [
         0.48366666666666663,
         0.5211666666666667
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.435,
        "ci95": [
         0.4203333333333336,
         0.4494999999999997
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.621,
        "ci95": [
         0.591166666666667,
         0.6513333333333337
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.5119999999999999,
        "ci95": [
         0.49633333333333335,
         0.5281708333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.5913333333333334,
        "ci95": [
         0.5768333333333335,
         0.6065000000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.2035,
        "ci95": [
         0.17216666666666666,
         0.23749999999999996
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.16916666666666666,
        "ci95": [
         0.14016666666666666,
         0.19867083333333327
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.31233333333333335,
        "ci95": [
         0.2734958333333333,
         0.35200416666666673
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5389999999999999,
        "ci95": [
         0.5161624999999997,
         0.5608333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.4331666666666667,
        "ci95": [
         0.4161666666666669,
         0.4501666666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.5618333333333334,
        "ci95": [
         0.5458333333333337,
         0.5776666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.4896666666666667,
        "ci95": [
         0.47183333333333316,
         0.5060041666666668
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.6963333333333335,
        "ci95": [
         0.6761666666666668,
         0.7165000000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.5665000000000001,
        "ci95": [
         0.5498333333333337,
         0.5825041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.6461666666666668,
        "ci95": [
         0.6285,
         0.6631666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.21466666666666667,
        "ci95": [
         0.18166666666666673,
         0.24933750000000007
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.17683333333333331,
        "ci95": [
         0.14616249999999997,
         0.20866666666666656
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.6904999999999999,
        "ci95": [
         0.6476666666666666,
         0.730670833333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.6746666666666666,
        "ci95": [
         0.6386666666666665,
         0.7106666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.7173333333333333,
        "ci95": [
         0.6784916666666668,
         0.755
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.6843333333333335,
        "ci95": [
         0.6455000000000001,
         0.7228333333333337
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.7861666666666667,
        "ci95": [
         0.7546583333333332,
         0.8161666666666663
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.7278333333333333,
        "ci95": [
         0.6933333333333331,
         0.7613333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.7728333333333333,
        "ci95": [
         0.7428291666666665,
         0.8018375000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.33816666666666667,
        "ci95": [
         0.3020000000000001,
         0.37550000000000033
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.22016666666666665,
        "ci95": [
         0.19533333333333328,
         0.24649999999999972
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.42016666666666663,
        "ci95": [
         0.39099999999999996,
         0.4481708333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.5071666666666668,
        "ci95": [
         0.48450000000000015,
         0.5290000000000001
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.456,
        "ci95": [
         0.43100000000000005,
         0.4796666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.6925,
        "ci95": [
         0.6738333333333332,
         0.7120041666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.5186666666666667,
        "ci95": [
         0.49150000000000005,
         0.5446708333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.5835,
        "ci95": [
         0.5553333333333331,
         0.6106708333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.21083333333333334,
        "ci95": [
         0.17766249999999995,
         0.24649999999999983
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.18266666666666664,
        "ci95": [
         0.14716666666666664,
         0.22033749999999996
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.6293333333333334,
        "ci95": [
         0.610329166666666,
         0.6478333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.564,
        "ci95": [
         0.5466666666666665,
         0.5806666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.7294999999999999,
        "ci95": [
         0.7071624999999996,
         0.7525041666666668
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.6613333333333334,
        "ci95": [
         0.6466666666666663,
         0.6763333333333327
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.7078333333333333,
        "ci95": [
         0.6925000000000004,
         0.7233333333333337
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.22599999999999998,
        "ci95": [
         0.1938333333333333,
         0.25950000000000006
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.18333333333333332,
        "ci95": [
         0.15316249999999992,
         0.21433749999999988
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.4271666666666667,
        "ci95": [
         0.4141666666666669,
         0.43967083333333357
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.6498333333333333,
        "ci95": [
         0.6255000000000002,
         0.6753333333333331
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.5098333333333332,
        "ci95": [
         0.49350000000000005,
         0.5261666666666666
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.5920000000000001,
        "ci95": [
         0.5753333333333337,
         0.6090000000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.21566666666666662,
        "ci95": [
         0.18000000000000002,
         0.25299999999999995
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.18083333333333335,
        "ci95": [
         0.14732916666666668,
         0.21700000000000008
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.6841666666666667,
        "ci95": [
         0.6605000000000001,
         0.7089999999999997
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.59,
        "ci95": [
         0.5749958333333332,
         0.6056708333333338
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6446666666666667,
        "ci95": [
         0.6288333333333331,
         0.6610041666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.2448333333333333,
        "ci95": [
         0.20833333333333331,
         0.2826666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.20099999999999998,
        "ci95": [
         0.16482916666666667,
         0.23900416666666663
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.36683333333333334,
        "ci95": [
         0.34016666666666673,
         0.3928333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.44049999999999995,
        "ci95": [
         0.4094999999999999,
         0.4708374999999999
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.1303333333333333,
        "ci95": [
         0.112,
         0.15016666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.11066666666666668,
        "ci95": [
         0.08950000000000001,
         0.13416666666666663
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.5888333333333332,
        "ci95": [
         0.5770000000000002,
         0.600833333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.19550000000000003,
        "ci95": [
         0.16383333333333344,
         0.22933333333333336
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.15533333333333332,
        "ci95": [
         0.1281666666666667,
         0.1836666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.16683333333333333,
        "ci95": [
         0.1373333333333334,
         0.1991708333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.132,
        "ci95": [
         0.10883333333333335,
         0.1563374999999999
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.3736666666666667,
        "ci95": [
         0.3394999999999999,
         0.40833333333333344
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 59,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        7.191166666666669,
        7.532666666666666
       ],
       "nonoise_s2002": [
        6.6833333333333345,
        6.966849999999999
       ],
       "nonoise_s2003": [
        4.666158333333332,
        5.308841666666666
       ],
       "nonoise_s2004": [
        6.892000000000006,
        7.382666666666671
       ],
       "release_s2001": [
        6.096333333333331,
        6.300845833333334
       ],
       "release_s2002": [
        7.156662499999995,
        7.521499999999995
       ],
       "release_s2003": [
        6.513645833333333,
        6.8561708333333256
       ],
       "release_s2004": [
        8.59582083333333,
        9.026841666666664
       ],
       "robust_s2001": [
        7.367312499999998,
        7.652837500000004
       ],
       "robust_s2002": [
        8.091995833333335,
        8.436508333333336
       ],
       "robust_s2003": [
        3.5083333333333355,
        4.0543458333333335
       ],
       "robust_s2004": [
        2.8159958333333317,
        3.364695833333331
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.249680554061991,
      "nonoise_s2002": 1.235096300535357,
      "nonoise_s2003": 1.2040445458736904,
      "nonoise_s2004": 1.190929550518464,
      "release_s2001": 1.3185077999988961,
      "release_s2002": 1.1819150114868622,
      "release_s2003": 1.151825991925129,
      "release_s2004": 1.5375296036042085,
      "robust_s2001": 1.2414599094619352,
      "robust_s2002": 1.2917681459794341,
      "robust_s2003": 1.1981991971867954,
      "robust_s2004": 1.1469964806093647
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.6666666666666666,
       "kendall_ci95": [
        0.5757575757575758,
        0.7878787878787878
       ],
       "spearman": 0.7762237762237763,
       "spearman_ci95": [
        0.7202797202797203,
        0.916083916083916
       ],
       "delta_tau_vs_nominal": 0.4545454545454545,
       "delta_tau_ci95": [
        0.2727272727272727,
        0.696969696969697
       ],
       "bootstrap_frac_delta_le_0": 0.0
      },
      "id": {
       "kendall_tau_b": 0.21212121212121213,
       "kendall_ci95": [
        0.04580286124143444,
        0.381690510345287
       ],
       "spearman": 0.16783216783216784,
       "spearman_ci95": [
        0.006906056501787422,
        0.4125874125874126
       ],
       "delta_tau_vs_nominal": 0.10524786922453176,
       "delta_tau_ci95": [
        -0.18773026944675303,
        0.37913619457476777
       ],
       "bootstrap_frac_delta_le_0": 0.2436
      },
      "ood": {
       "kendall_tau_b": 0.7272727272727273,
       "kendall_ci95": [
        0.5649019553110248,
        0.8094088303382505
       ],
       "spearman": 0.8601398601398601,
       "spearman_ci95": [
        0.7272727272727273,
        0.9231173734551649
       ],
       "delta_tau_vs_nominal": 0.5757575757575758,
       "delta_tau_ci95": [
        0.33333333333333337,
        0.7328457798629511
       ],
       "bootstrap_frac_delta_le_0": 0.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 66,
      "method_correct": 55,
      "base_correct": 40,
      "discordant": 33,
      "discordant_method_correct": 24,
      "discordant_base_correct": 9
     },
     "tau_vs_primary_tr": {
      "value": 0.8787878787878788,
      "ci95": [
       0.8484848484848485,
       1.0
      ]
     }
    },
    "tr_rate_double": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 6.342833333333335,
       "nonoise_s2002": 6.312333333333331,
       "nonoise_s2003": 6.159166666666664,
       "nonoise_s2004": 7.143666666666669,
       "release_s2001": 5.677833333333333,
       "release_s2002": 6.4533333333333305,
       "release_s2003": 5.758833333333336,
       "release_s2004": 9.581499999999997,
       "robust_s2001": 6.506333333333334,
       "robust_s2002": 7.7650000000000015,
       "robust_s2003": 5.718499999999998,
       "robust_s2004": 4.580666666666665
      },
      "order": [
       "robust_s2004",
       "release_s2001",
       "robust_s2003",
       "release_s2003",
       "nonoise_s2003",
       "nonoise_s2002",
       "nonoise_s2001",
       "release_s2002",
       "robust_s2001",
       "nonoise_s2004",
       "robust_s2002",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 0.9833333333333333,
        "nonoise_s2002": 0.9973333333333333,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 0.9813333333333333,
        "release_s2001": 1.0,
        "release_s2002": 0.9866666666666667,
        "release_s2003": 0.9846666666666667,
        "release_s2004": 0.978,
        "robust_s2001": 0.9846666666666667,
        "robust_s2002": 0.984,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       },
       "ood": {
        "nonoise_s2001": 0.9846666666666667,
        "nonoise_s2002": 0.996,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 0.9933333333333333,
        "release_s2001": 1.0,
        "release_s2002": 0.9893333333333333,
        "release_s2003": 0.9946666666666667,
        "release_s2004": 0.9753333333333334,
        "robust_s2001": 0.9906666666666667,
        "robust_s2002": 0.9813333333333333,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       },
       "all": {
        "nonoise_s2001": 0.984,
        "nonoise_s2002": 0.9966666666666667,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 0.9873333333333333,
        "release_s2001": 1.0,
        "release_s2002": 0.988,
        "release_s2003": 0.9896666666666667,
        "release_s2004": 0.9766666666666667,
        "robust_s2001": 0.9876666666666667,
        "robust_s2002": 0.9826666666666667,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       }
      },
      "common_success_units": 2916,
      "mean_time_common_success": {
       "nonoise_s2001": 4.973971194732009,
       "nonoise_s2002": 4.88840877932122,
       "nonoise_s2003": 4.6019204394235205,
       "nonoise_s2004": 4.924245535714146,
       "release_s2001": 4.748182440777048,
       "release_s2002": 5.006790117757965,
       "release_s2003": 4.854629626367318,
       "release_s2004": 5.379732506469771,
       "robust_s2001": 4.932167353167292,
       "robust_s2002": 5.2435871032366865,
       "robust_s2003": 4.545507533151263,
       "robust_s2004": 4.500617275022185
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.4998333333333334,
        "ci95": [
         0.4791624999999998,
         0.5210000000000002
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.4675,
        "ci95": [
         0.4393333333333336,
         0.49533333333333324
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.5688333333333333,
        "ci95": [
         0.545666666666667,
         0.5923333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.42283333333333334,
        "ci95": [
         0.4039958333333333,
         0.4441666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.5126666666666667,
        "ci95": [
         0.49783333333333313,
         0.5274999999999999
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.44633333333333325,
        "ci95": [
         0.43083333333333335,
         0.4619999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.7733333333333333,
        "ci95": [
         0.7546666666666669,
         0.7911708333333337
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.5125,
        "ci95": [
         0.4995000000000003,
         0.5266666666666666
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.6326666666666666,
        "ci95": [
         0.6168333333333332,
         0.649
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.4538333333333334,
        "ci95": [
         0.4306666666666669,
         0.47833333333333344
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.36683333333333334,
        "ci95": [
         0.3441666666666668,
         0.39083333333333325
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.46133333333333326,
        "ci95": [
         0.42999583333333297,
         0.49299999999999994
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5773333333333333,
        "ci95": [
         0.5561666666666664,
         0.598333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.4378333333333334,
        "ci95": [
         0.4203333333333335,
         0.45617083333333364
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.521,
        "ci95": [
         0.5043333333333334,
         0.5358333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.44683333333333336,
        "ci95": [
         0.4258291666666668,
         0.4666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.7939999999999999,
        "ci95": [
         0.7733291666666663,
         0.8126666666666663
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.5193333333333334,
        "ci95": [
         0.5015000000000001,
         0.5363333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.646,
        "ci95": [
         0.6278333333333336,
         0.6638333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.43650000000000005,
        "ci95": [
         0.4111666666666668,
         0.4626708333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.34733333333333327,
        "ci95": [
         0.32333333333333336,
         0.37183333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.5771666666666668,
        "ci95": [
         0.5444958333333328,
         0.6099999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.5178333333333333,
        "ci95": [
         0.4850000000000001,
         0.5518333333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.5391666666666666,
        "ci95": [
         0.5096624999999996,
         0.5685041666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.5025,
        "ci95": [
         0.4721666666666668,
         0.5326666666666667
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.755,
        "ci95": [
         0.7274999999999999,
         0.7808333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.5498333333333333,
        "ci95": [
         0.5173291666666663,
         0.5821708333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.6185,
        "ci95": [
         0.5898333333333339,
         0.6463333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.41816666666666663,
        "ci95": [
         0.38583333333333325,
         0.44966666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.2915,
        "ci95": [
         0.2706666666666668,
         0.3118375000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.37899999999999995,
        "ci95": [
         0.3526666666666667,
         0.4063333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.4395,
        "ci95": [
         0.42016666666666663,
         0.4576666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.36616666666666664,
        "ci95": [
         0.3460000000000001,
         0.3858333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.7605,
        "ci95": [
         0.745,
         0.7756666666666663
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.4353333333333334,
        "ci95": [
         0.41000000000000003,
         0.46033333333333315
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.5543333333333333,
        "ci95": [
         0.5306666666666667,
         0.5766666666666672
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.362,
        "ci95": [
         0.33682916666666657,
         0.3866708333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.2828333333333334,
        "ci95": [
         0.2598333333333335,
         0.30683333333333335
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.5945,
        "ci95": [
         0.5725,
         0.6144999999999999
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.5241666666666667,
        "ci95": [
         0.5013333333333332,
         0.5456666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.8155,
        "ci95": [
         0.7909999999999999,
         0.8383333333333328
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.605,
        "ci95": [
         0.5868333333333333,
         0.6211666666666663
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.7020000000000001,
        "ci95": [
         0.6809958333333332,
         0.7218333333333337
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.4658333333333333,
        "ci95": [
         0.43916666666666676,
         0.4926666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.37266666666666665,
        "ci95": [
         0.34616666666666684,
         0.39916666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.4228333333333334,
        "ci95": [
         0.40800000000000014,
         0.4378375000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.7873333333333332,
        "ci95": [
         0.7729999999999997,
         0.8013374999999999
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.5063333333333334,
        "ci95": [
         0.48950000000000016,
         0.5235000000000003
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.6313333333333333,
        "ci95": [
         0.6166666666666666,
         0.6461666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.4453333333333334,
        "ci95": [
         0.4205000000000001,
         0.4710041666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.36033333333333334,
        "ci95": [
         0.3373333333333333,
         0.38450416666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.8153333333333334,
        "ci95": [
         0.7996666666666665,
         0.8303375000000002
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.5791666666666667,
        "ci95": [
         0.5613333333333331,
         0.5966666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6763333333333332,
        "ci95": [
         0.6573333333333332,
         0.6953333333333335
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.4875,
        "ci95": [
         0.4606666666666666,
         0.5149999999999999
        ],
        "resolved": false
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.39166666666666666,
        "ci95": [
         0.3666666666666666,
         0.41783333333333306
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.23516666666666666,
        "ci95": [
         0.2148333333333334,
         0.2566666666666668
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.3353333333333334,
        "ci95": [
         0.3141666666666668,
         0.3565041666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.20066666666666666,
        "ci95": [
         0.1831624999999999,
         0.21933333333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.14833333333333334,
        "ci95": [
         0.13332916666666655,
         0.16366666666666654
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.6341666666666667,
        "ci95": [
         0.618166666666667,
         0.6500000000000002
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.443,
        "ci95": [
         0.41783333333333345,
         0.46883333333333344
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.3591666666666667,
        "ci95": [
         0.3335000000000001,
         0.38599999999999984
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.3705,
        "ci95": [
         0.34683333333333327,
         0.3953375000000001
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.2951666666666667,
        "ci95": [
         0.27349999999999997,
         0.31749999999999984
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.36483333333333334,
        "ci95": [
         0.3396624999999999,
         0.3915
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 59,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        6.201166666666671,
        6.4828500000000036
       ],
       "nonoise_s2002": [
        6.174329166666661,
        6.462504166666664
       ],
       "nonoise_s2003": [
        5.881479166666665,
        6.435849999999998
       ],
       "nonoise_s2004": [
        6.968320833333335,
        7.320520833333329
       ],
       "release_s2001": [
        5.517991666666665,
        5.860337499999994
       ],
       "release_s2002": [
        6.322324999999996,
        6.580670833333334
       ],
       "release_s2003": [
        5.608325000000004,
        5.908837500000007
       ],
       "release_s2004": [
        9.430987500000004,
        9.724670833333333
       ],
       "robust_s2001": [
        6.348833333333336,
        6.665350000000004
       ],
       "robust_s2002": [
        7.5930000000000035,
        7.933000000000001
       ],
       "robust_s2003": [
        5.522824999999998,
        5.925691666666666
       ],
       "robust_s2004": [
        4.382162499999999,
        4.785170833333334
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.285276493213128,
      "nonoise_s2002": 1.1992750225766604,
      "nonoise_s2003": 1.2730908886193026,
      "nonoise_s2004": 1.339499795368283,
      "release_s2001": 1.2678089093600096,
      "release_s2002": 1.2941286640985328,
      "release_s2003": 1.257869810911144,
      "release_s2004": 1.2256062143020932,
      "robust_s2001": 1.267091969560252,
      "robust_s2002": 1.3746932033521317,
      "robust_s2003": 1.2611059457199016,
      "robust_s2004": 1.2645762719705207
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.7575757575757576,
       "kendall_ci95": [
        0.6060606060606061,
        0.8484848484848485
       ],
       "spearman": 0.8881118881118881,
       "spearman_ci95": [
        0.7762237762237763,
        0.951048951048951
       ],
       "delta_tau_vs_nominal": 0.5454545454545454,
       "delta_tau_ci95": [
        0.33333333333333337,
        0.7272727272727273
       ],
       "bootstrap_frac_delta_le_0": 0.0
      },
      "id": {
       "kendall_tau_b": 0.24242424242424243,
       "kendall_ci95": [
        0.06060606060606061,
        0.41222575117291
       ],
       "spearman": 0.15384615384615385,
       "spearman_ci95": [
        0.013986013986013986,
        0.43356643356643354
       ],
       "delta_tau_vs_nominal": 0.13555089952756205,
       "delta_tau_ci95": [
        -0.15575358246602933,
        0.3698566236171351
       ],
       "bootstrap_frac_delta_le_0": 0.164
      },
      "ood": {
       "kendall_tau_b": 0.48484848484848486,
       "kendall_ci95": [
        0.30303030303030304,
        0.5757575757575758
       ],
       "spearman": 0.5664335664335665,
       "spearman_ci95": [
        0.3986013986013986,
        0.7132867132867133
       ],
       "delta_tau_vs_nominal": 0.33333333333333337,
       "delta_tau_ci95": [
        0.18181818181818188,
        0.42424242424242425
       ],
       "bootstrap_frac_delta_le_0": 0.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 66,
      "method_correct": 58,
      "base_correct": 40,
      "discordant": 26,
      "discordant_method_correct": 22,
      "discordant_base_correct": 4
     },
     "tau_vs_primary_tr": {
      "value": 0.9090909090909091,
      "ci95": [
       0.696969696969697,
       0.9393939393939394
      ]
     }
    },
    "tr_rate_uniform": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 6.524666666666665,
       "nonoise_s2002": 6.435499999999999,
       "nonoise_s2003": 5.893333333333333,
       "nonoise_s2004": 7.162166666666665,
       "release_s2001": 5.798666666666667,
       "release_s2002": 6.644666666666663,
       "release_s2003": 5.790333333333335,
       "release_s2004": 9.608666666666668,
       "robust_s2001": 6.661333333333332,
       "robust_s2002": 8.001666666666663,
       "robust_s2003": 5.3000000000000025,
       "robust_s2004": 4.178999999999998
      },
      "order": [
       "robust_s2004",
       "robust_s2003",
       "release_s2003",
       "release_s2001",
       "nonoise_s2003",
       "nonoise_s2002",
       "nonoise_s2001",
       "release_s2002",
       "robust_s2001",
       "nonoise_s2004",
       "robust_s2002",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 0.9073333333333333,
        "nonoise_s2002": 0.9333333333333333,
        "nonoise_s2003": 0.9893333333333333,
        "nonoise_s2004": 0.912,
        "release_s2001": 0.948,
        "release_s2002": 0.9153333333333333,
        "release_s2003": 0.916,
        "release_s2004": 0.902,
        "robust_s2001": 0.9093333333333333,
        "robust_s2002": 0.9073333333333333,
        "robust_s2003": 0.9906666666666667,
        "robust_s2004": 0.9973333333333333
       },
       "ood": {
        "nonoise_s2001": 0.9126666666666666,
        "nonoise_s2002": 0.924,
        "nonoise_s2003": 0.9906666666666667,
        "nonoise_s2004": 0.92,
        "release_s2001": 0.944,
        "release_s2002": 0.9133333333333333,
        "release_s2003": 0.928,
        "release_s2004": 0.894,
        "robust_s2001": 0.916,
        "robust_s2002": 0.8986666666666666,
        "robust_s2003": 0.9993333333333333,
        "robust_s2004": 1.0
       },
       "all": {
        "nonoise_s2001": 0.91,
        "nonoise_s2002": 0.9286666666666666,
        "nonoise_s2003": 0.99,
        "nonoise_s2004": 0.916,
        "release_s2001": 0.946,
        "release_s2002": 0.9143333333333333,
        "release_s2003": 0.922,
        "release_s2004": 0.898,
        "robust_s2001": 0.9126666666666666,
        "robust_s2002": 0.903,
        "robust_s2003": 0.995,
        "robust_s2004": 0.9986666666666667
       }
      },
      "common_success_units": 2667,
      "mean_time_common_success": {
       "nonoise_s2001": 4.865841768500418,
       "nonoise_s2002": 4.805324329523545,
       "nonoise_s2003": 4.586201722898151,
       "nonoise_s2004": 4.778965120329855,
       "release_s2001": 4.696662913246641,
       "release_s2002": 4.878327705192351,
       "release_s2003": 4.767379076640884,
       "release_s2004": 5.232133479256016,
       "robust_s2001": 4.83018372257327,
       "robust_s2002": 5.087439065306742,
       "robust_s2003": 4.524484429504257,
       "robust_s2004": 4.4884514367486545
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.49433333333333335,
        "ci95": [
         0.4749999999999999,
         0.5143333333333331
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.4273333333333334,
        "ci95": [
         0.3990000000000001,
         0.4566666666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.5578333333333334,
        "ci95": [
         0.5343333333333332,
         0.5820000000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.4173333333333334,
        "ci95": [
         0.39949999999999997,
         0.4368333333333331
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.5151666666666667,
        "ci95": [
         0.5005000000000003,
         0.5301708333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.43083333333333335,
        "ci95": [
         0.4175000000000001,
         0.44416666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.7548333333333332,
        "ci95": [
         0.7336666666666665,
         0.7751666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.5131666666666668,
        "ci95": [
         0.5006666666666667,
         0.5263333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.6386666666666666,
        "ci95": [
         0.6243333333333334,
         0.6534999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.4071666666666667,
        "ci95": [
         0.382,
         0.4333375000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.31866666666666665,
        "ci95": [
         0.2955000000000001,
         0.3426708333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.4346666666666667,
        "ci95": [
         0.4014916666666665,
         0.46899999999999975
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5643333333333332,
        "ci95": [
         0.5441666666666665,
         0.5844999999999998
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.44083333333333335,
        "ci95": [
         0.42249999999999993,
         0.4591666666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.5258333333333334,
        "ci95": [
         0.5103291666666664,
         0.5404999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.43816666666666665,
        "ci95": [
         0.4188333333333333,
         0.45700416666666677
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.7839999999999999,
        "ci95": [
         0.7663333333333333,
         0.8005000000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.5241666666666667,
        "ci95": [
         0.508,
         0.5391708333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.6503333333333333,
        "ci95": [
         0.6330000000000003,
         0.6675
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.38883333333333336,
        "ci95": [
         0.36166666666666675,
         0.41616666666666674
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.30766666666666664,
        "ci95": [
         0.28233333333333344,
         0.33400000000000013
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.6036666666666667,
        "ci95": [
         0.5678333333333335,
         0.6385000000000003
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.5421666666666667,
        "ci95": [
         0.5091625000000001,
         0.5745041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.5771666666666666,
        "ci95": [
         0.5451666666666669,
         0.6085000000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.5231666666666667,
        "ci95": [
         0.49049999999999994,
         0.5553374999999999
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.7966666666666666,
        "ci95": [
         0.7689958333333332,
         0.8228333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.5855,
        "ci95": [
         0.5536624999999997,
         0.6163333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.6675,
        "ci95": [
         0.6381666666666668,
         0.6958333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.40266666666666673,
        "ci95": [
         0.3694958333333334,
         0.4358375000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.27016666666666667,
        "ci95": [
         0.2499958333333332,
         0.28983749999999986
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.3858333333333333,
        "ci95": [
         0.35866666666666686,
         0.4121666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.44900000000000007,
        "ci95": [
         0.4281625,
         0.46900000000000025
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.3728333333333333,
        "ci95": [
         0.3531666666666668,
         0.39199999999999985
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.7641666666666667,
        "ci95": [
         0.7490000000000003,
         0.7788333333333339
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.44983333333333336,
        "ci95": [
         0.4256624999999999,
         0.47267083333333326
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.5646666666666665,
        "ci95": [
         0.5408291666666665,
         0.5873333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.32449999999999996,
        "ci95": [
         0.29749583333333324,
         0.3510041666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.2528333333333333,
        "ci95": [
         0.2274999999999999,
         0.2799999999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.5963333333333333,
        "ci95": [
         0.575495833333333,
         0.6161666666666669
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.5126666666666667,
        "ci95": [
         0.4913333333333332,
         0.5328333333333334
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.8073333333333333,
        "ci95": [
         0.7823333333333339,
         0.8303333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.6029999999999999,
        "ci95": [
         0.5856624999999994,
         0.6188333333333329
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.71,
        "ci95": [
         0.6886666666666664,
         0.7304999999999996
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.42550000000000004,
        "ci95": [
         0.3979958333333332,
         0.4531666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.3326666666666667,
        "ci95": [
         0.307,
         0.35900416666666657
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.41050000000000003,
        "ci95": [
         0.3950000000000001,
         0.42633333333333323
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.773,
        "ci95": [
         0.7571666666666664,
         0.7888333333333326
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.4998333333333333,
        "ci95": [
         0.4848333333333332,
         0.5141666666666665
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.6288333333333334,
        "ci95": [
         0.6143333333333335,
         0.643833333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.3911666666666667,
        "ci95": [
         0.3643333333333333,
         0.4189999999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.3155,
        "ci95": [
         0.2891624999999998,
         0.3435041666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.8098333333333332,
        "ci95": [
         0.7939999999999998,
         0.8246666666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.5913333333333334,
        "ci95": [
         0.5764958333333329,
         0.606333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6890000000000001,
        "ci95": [
         0.6719958333333333,
         0.7056666666666669
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.4505,
        "ci95": [
         0.4214999999999999,
         0.4796666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.3571666666666667,
        "ci95": [
         0.3288333333333332,
         0.3865
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.2476666666666667,
        "ci95": [
         0.22916666666666657,
         0.2665
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.3575,
        "ci95": [
         0.33482916666666646,
         0.38016666666666643
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.16083333333333333,
        "ci95": [
         0.14149999999999993,
         0.18116666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.11516666666666665,
        "ci95": [
         0.09783333333333338,
         0.13300000000000003
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.6386666666666666,
        "ci95": [
         0.6243333333333336,
         0.6530000000000002
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.39999999999999997,
        "ci95": [
         0.3736666666666667,
         0.4273375
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.3145,
        "ci95": [
         0.28933333333333333,
         0.3406666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.3056666666666667,
        "ci95": [
         0.2794999999999999,
         0.33283333333333326
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.2378333333333333,
        "ci95": [
         0.2150000000000001,
         0.26133750000000006
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.35683333333333334,
        "ci95": [
         0.3303333333333335,
         0.3841666666666666
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 62,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        6.387495833333328,
        6.666025
       ],
       "nonoise_s2002": [
        6.297320833333333,
        6.5786750000000005
       ],
       "nonoise_s2003": [
        5.605829166666663,
        6.184020833333336
       ],
       "nonoise_s2004": [
        6.982166666666669,
        7.349870833333335
       ],
       "release_s2001": [
        5.645500000000001,
        5.965341666666666
       ],
       "release_s2002": [
        6.503162499999995,
        6.783341666666661
       ],
       "release_s2003": [
        5.638641666666668,
        5.940837500000006
       ],
       "release_s2004": [
        9.448983333333338,
        9.759166666666665
       ],
       "robust_s2001": [
        6.5241541666666665,
        6.795845833333335
       ],
       "robust_s2002": [
        7.8316500000000016,
        8.168504166666667
       ],
       "robust_s2003": [
        5.0838291666666695,
        5.522833333333332
       ],
       "robust_s2004": [
        3.9634916666666657,
        4.404670833333335
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.1609773802404753,
      "nonoise_s2002": 1.1856015005065519,
      "nonoise_s2003": 1.2058862064656344,
      "nonoise_s2004": 1.3149218613282665,
      "release_s2001": 1.2671736631304291,
      "release_s2002": 1.1635491419653077,
      "release_s2003": 1.230588924925333,
      "release_s2004": 1.36271399880796,
      "robust_s2001": 1.329015685411309,
      "robust_s2002": 1.2813828299444243,
      "robust_s2003": 1.2057318163916069,
      "robust_s2004": 1.2211505939654226
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.7575757575757576,
       "kendall_ci95": [
        0.6060606060606061,
        0.8484848484848485
       ],
       "spearman": 0.8881118881118881,
       "spearman_ci95": [
        0.7622377622377622,
        0.9440559440559441
       ],
       "delta_tau_vs_nominal": 0.5454545454545454,
       "delta_tau_ci95": [
        0.3636363636363636,
        0.7272727272727273
       ],
       "bootstrap_frac_delta_le_0": 0.0
      },
      "id": {
       "kendall_tau_b": 0.2727272727272727,
       "kendall_ci95": [
        0.0763381020690574,
        0.42424242424242425
       ],
       "spearman": 0.21678321678321677,
       "spearman_ci95": [
        0.04195804195804196,
        0.4588448367616168
       ],
       "delta_tau_vs_nominal": 0.16585392983059233,
       "delta_tau_ci95": [
        -0.14387084312747264,
        0.3939393939393939
       ],
       "bootstrap_frac_delta_le_0": 0.1418
      },
      "ood": {
       "kendall_tau_b": 0.5757575757575758,
       "kendall_ci95": [
        0.3939393939393939,
        0.696969696969697
       ],
       "spearman": 0.7272727272727273,
       "spearman_ci95": [
        0.5594405594405595,
        0.8461538461538461
       ],
       "delta_tau_vs_nominal": 0.4242424242424243,
       "delta_tau_ci95": [
        0.30303030303030304,
        0.5496343348972134
       ],
       "bootstrap_frac_delta_le_0": 0.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 66,
      "method_correct": 58,
      "base_correct": 40,
      "discordant": 26,
      "discordant_method_correct": 22,
      "discordant_base_correct": 4
     },
     "tau_vs_primary_tr": {
      "value": 0.9090909090909091,
      "ci95": [
       0.7878787878787878,
       1.0
      ]
     }
    },
    "tr_delay": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 7.309833333333335,
       "nonoise_s2002": 6.697833333333333,
       "nonoise_s2003": 4.848499999999999,
       "nonoise_s2004": 8.315833333333334,
       "release_s2001": 5.332833333333331,
       "release_s2002": 7.173500000000002,
       "release_s2003": 6.378666666666669,
       "release_s2004": 10.024166666666671,
       "robust_s2001": 7.295000000000002,
       "robust_s2002": 8.180499999999999,
       "robust_s2003": 3.672666666666667,
       "robust_s2004": 2.770666666666668
      },
      "order": [
       "robust_s2004",
       "robust_s2003",
       "nonoise_s2003",
       "release_s2001",
       "release_s2003",
       "nonoise_s2002",
       "release_s2002",
       "robust_s2001",
       "nonoise_s2001",
       "robust_s2002",
       "nonoise_s2004",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       },
       "ood": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       },
       "all": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       }
      },
      "common_success_units": 3000,
      "mean_time_common_success": {
       "nonoise_s2001": 5.380100002408027,
       "nonoise_s2002": 5.3671999986569086,
       "nonoise_s2003": 5.262833332538604,
       "nonoise_s2004": 5.420599991877873,
       "release_s2001": 5.319533338069916,
       "release_s2002": 5.375299997369448,
       "release_s2003": 5.348400004585584,
       "release_s2004": 5.4786000010967255,
       "robust_s2001": 5.381433335622152,
       "robust_s2002": 5.411599991559982,
       "robust_s2003": 5.1591333320140835,
       "robust_s2004": 5.034199996829033
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.43549999999999994,
        "ci95": [
         0.4106666666666668,
         0.46116666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.2796666666666667,
        "ci95": [
         0.2496666666666666,
         0.31167083333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.6163333333333333,
        "ci95": [
         0.5856666666666664,
         0.6473375000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.26699999999999996,
        "ci95": [
         0.24183333333333346,
         0.2959999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.48850000000000005,
        "ci95": [
         0.4678333333333332,
         0.5083333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.39183333333333337,
        "ci95": [
         0.36649999999999977,
         0.41783749999999986
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.7713333333333334,
        "ci95": [
         0.7463333333333336,
         0.7950000000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.49350000000000005,
        "ci95": [
         0.47400000000000014,
         0.5138375000000002
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.599,
        "ci95": [
         0.5791666666666664,
         0.6190041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.192,
        "ci95": [
         0.17566249999999992,
         0.21183333333333326
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.1555,
        "ci95": [
         0.14250000000000007,
         0.16933333333333342
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.2936666666666667,
        "ci95": [
         0.2623249999999998,
         0.32749999999999985
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.6721666666666667,
        "ci95": [
         0.6418333333333333,
         0.7011666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.3385,
        "ci95": [
         0.31583333333333347,
         0.3621666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.5545,
        "ci95": [
         0.5316666666666666,
         0.5761708333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.4663333333333334,
        "ci95": [
         0.4364958333333333,
         0.49583333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.827,
        "ci95": [
         0.8005000000000002,
         0.8513333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.5663333333333334,
        "ci95": [
         0.5499958333333331,
         0.5819999999999997
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.6663333333333334,
        "ci95": [
         0.6465,
         0.6858333333333331
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.19733333333333333,
        "ci95": [
         0.1808333333333334,
         0.2161666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.1555,
        "ci95": [
         0.14133333333333334,
         0.1701666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.7841666666666667,
        "ci95": [
         0.7535000000000003,
         0.8110000000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.6075,
        "ci95": [
         0.5668333333333336,
         0.6473333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.7251666666666667,
        "ci95": [
         0.6928291666666666,
         0.7541666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.6666666666666666,
        "ci95": [
         0.6271666666666671,
         0.7036708333333331
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.8835000000000001,
        "ci95": [
         0.8646624999999996,
         0.9003333333333329
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.7303333333333333,
        "ci95": [
         0.6970000000000003,
         0.7611666666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.7765,
        "ci95": [
         0.7468291666666669,
         0.8029999999999995
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.335,
        "ci95": [
         0.30616666666666664,
         0.3645
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.21600000000000003,
        "ci95": [
         0.1970000000000001,
         0.23600000000000013
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.2371666666666667,
        "ci95": [
         0.20366249999999989,
         0.27433333333333315
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.36183333333333334,
        "ci95": [
         0.3378333333333334,
         0.3854999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.30099999999999993,
        "ci95": [
         0.2773333333333335,
         0.3245041666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.719,
        "ci95": [
         0.692829166666667,
         0.7431708333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.3866666666666666,
        "ci95": [
         0.35483333333333344,
         0.41883749999999986
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.46883333333333327,
        "ci95": [
         0.43950000000000006,
         0.4973333333333329
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.1655,
        "ci95": [
         0.14600000000000007,
         0.18800416666666672
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.11683333333333334,
        "ci95": [
         0.10666666666666669,
         0.12733750000000002
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.7101666666666667,
        "ci95": [
         0.6785000000000004,
         0.7395
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.6161666666666668,
        "ci95": [
         0.5810000000000004,
         0.6495
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.8528333333333334,
        "ci95": [
         0.8206666666666668,
         0.8824999999999994
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.7386666666666667,
        "ci95": [
         0.7149999999999999,
         0.759
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.7875,
        "ci95": [
         0.7590000000000001,
         0.8126666666666668
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.22833333333333333,
        "ci95": [
         0.21016666666666683,
         0.24867083333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.1836666666666667,
        "ci95": [
         0.16716666666666677,
         0.2010000000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.4048333333333333,
        "ci95": [
         0.38099583333333337,
         0.42899999999999994
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.8083333333333336,
        "ci95": [
         0.7913333333333333,
         0.825504166666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.5055,
        "ci95": [
         0.48533333333333367,
         0.5273333333333333
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.6088333333333332,
        "ci95": [
         0.593,
         0.6255
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.19066666666666668,
        "ci95": [
         0.17216666666666672,
         0.21250416666666663
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.14850000000000002,
        "ci95": [
         0.1361624999999999,
         0.16199999999999987
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.8106666666666668,
        "ci95": [
         0.7868291666666664,
         0.8329999999999999
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.5983333333333334,
        "ci95": [
         0.5719958333333334,
         0.6245
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6783333333333333,
        "ci95": [
         0.6510000000000005,
         0.7046708333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.21449999999999997,
        "ci95": [
         0.1931666666666666,
         0.23833333333333323
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.16633333333333333,
        "ci95": [
         0.15333333333333338,
         0.18
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.22566666666666668,
        "ci95": [
         0.19883333333333325,
         0.2543375000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.26066666666666666,
        "ci95": [
         0.23633333333333326,
         0.2866666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.09883333333333333,
        "ci95": [
         0.08233333333333338,
         0.11883333333333321
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.06333333333333334,
        "ci95": [
         0.05650000000000002,
         0.07033333333333339
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.611,
        "ci95": [
         0.5909999999999997,
         0.6294999999999998
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.187,
        "ci95": [
         0.1711666666666667,
         0.2053333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.152,
        "ci95": [
         0.13849999999999996,
         0.16649999999999984
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.15216666666666664,
        "ci95": [
         0.1425,
         0.16166666666666665
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.12433333333333335,
        "ci95": [
         0.11233333333333334,
         0.13733333333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.2886666666666666,
        "ci95": [
         0.2649958333333334,
         0.31283333333333346
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 63,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        7.145316666666668,
        7.471675000000004
       ],
       "nonoise_s2002": [
        6.555662500000001,
        6.846170833333335
       ],
       "nonoise_s2003": [
        4.5828041666666675,
        5.133879166666663
       ],
       "nonoise_s2004": [
        8.102820833333329,
        8.53100416666666
       ],
       "release_s2001": [
        5.117829166666663,
        5.574504166666666
       ],
       "release_s2002": [
        7.036820833333333,
        7.294999999999998
       ],
       "release_s2003": [
        6.163325000000001,
        6.585845833333335
       ],
       "release_s2004": [
        9.871491666666662,
        10.174166666666663
       ],
       "robust_s2001": [
        7.152662500000001,
        7.439833333333328
       ],
       "robust_s2002": [
        8.060320833333334,
        8.3058375
       ],
       "robust_s2003": [
        3.519487499999998,
        3.854670833333332
       ],
       "robust_s2004": [
        2.6533291666666674,
        2.8956708333333347
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.1643673166366864,
      "nonoise_s2002": 1.1219656165081529,
      "nonoise_s2003": 1.1080235132755372,
      "nonoise_s2004": 1.2530664092242567,
      "release_s2001": 1.1470925090375592,
      "release_s2002": 1.1687710405820326,
      "release_s2003": 1.1446638850826163,
      "release_s2004": 1.1951116072866295,
      "robust_s2001": 1.2094989098294344,
      "robust_s2002": 1.2490843725062188,
      "robust_s2003": 1.1089679602906886,
      "robust_s2004": 1.1296419489066423
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.696969696969697,
       "kendall_ci95": [
        0.5757575757575758,
        0.7878787878787878
       ],
       "spearman": 0.8251748251748252,
       "spearman_ci95": [
        0.7132867132867133,
        0.9300699300699301
       ],
       "delta_tau_vs_nominal": 0.48484848484848486,
       "delta_tau_ci95": [
        0.303030303030303,
        0.696969696969697
       ],
       "bootstrap_frac_delta_le_0": 0.0
      },
      "id": {
       "kendall_tau_b": 0.24242424242424243,
       "kendall_ci95": [
        0.04580286124143444,
        0.42424242424242425
       ],
       "spearman": 0.21678321678321677,
       "spearman_ci95": [
        0.0,
        0.44755244755244755
       ],
       "delta_tau_vs_nominal": 0.13555089952756205,
       "delta_tau_ci95": [
        -0.1397491432447551,
        0.37844314027318815
       ],
       "bootstrap_frac_delta_le_0": 0.1712
      },
      "ood": {
       "kendall_tau_b": 0.8181818181818182,
       "kendall_ci95": [
        0.6060606060606061,
        0.8787878787878788
       ],
       "spearman": 0.9440559440559441,
       "spearman_ci95": [
        0.7762237762237763,
        0.965034965034965
       ],
       "delta_tau_vs_nominal": 0.6666666666666667,
       "delta_tau_ci95": [
        0.45454545454545453,
        0.7575757575757576
       ],
       "bootstrap_frac_delta_le_0": 0.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 66,
      "method_correct": 56,
      "base_correct": 40,
      "discordant": 32,
      "discordant_method_correct": 24,
      "discordant_base_correct": 8
     },
     "tau_vs_primary_tr": {
      "value": 0.9090909090909091,
      "ci95": [
       0.8484848484848485,
       0.9696969696969697
      ]
     }
    },
    "det_rate_0.1": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 7.986666666666666,
       "nonoise_s2002": 7.296666666666667,
       "nonoise_s2003": 4.056666666666667,
       "nonoise_s2004": 7.496666666666667,
       "release_s2001": 4.95,
       "release_s2002": 7.72,
       "release_s2003": 7.15,
       "release_s2004": 9.193333333333333,
       "robust_s2001": 8.07,
       "robust_s2002": 8.76,
       "robust_s2003": 2.92,
       "robust_s2004": 2.4
      },
      "order": [
       "robust_s2004",
       "robust_s2003",
       "nonoise_s2003",
       "release_s2001",
       "release_s2003",
       "nonoise_s2002",
       "nonoise_s2004",
       "release_s2002",
       "nonoise_s2001",
       "robust_s2001",
       "robust_s2002",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 0.41333333333333333,
        "nonoise_s2002": 0.5066666666666667,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 0.48,
        "release_s2001": 1.0,
        "release_s2002": 0.4266666666666667,
        "release_s2003": 0.4533333333333333,
        "release_s2004": 0.4,
        "robust_s2001": 0.4266666666666667,
        "robust_s2002": 0.41333333333333333,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       },
       "ood": {
        "nonoise_s2001": 0.4666666666666667,
        "nonoise_s2002": 0.4533333333333333,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 0.5066666666666667,
        "release_s2001": 1.0,
        "release_s2002": 0.4533333333333333,
        "release_s2003": 0.56,
        "release_s2004": 0.22666666666666666,
        "robust_s2001": 0.4666666666666667,
        "robust_s2002": 0.29333333333333333,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       },
       "all": {
        "nonoise_s2001": 0.44,
        "nonoise_s2002": 0.48,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 0.49333333333333335,
        "release_s2001": 1.0,
        "release_s2002": 0.44,
        "release_s2003": 0.5066666666666667,
        "release_s2004": 0.31333333333333335,
        "robust_s2001": 0.44666666666666666,
        "robust_s2002": 0.35333333333333333,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       }
      },
      "common_success_units": 39,
      "mean_time_common_success": {
       "nonoise_s2001": 3.884615366275494,
       "nonoise_s2002": 3.7589743595856886,
       "nonoise_s2003": 3.7769230879270115,
       "nonoise_s2004": 3.8820512692133584,
       "release_s2001": 3.753846137951582,
       "release_s2002": 3.841025639802982,
       "release_s2003": 3.828205120869172,
       "release_s2004": 3.9743589743589745,
       "robust_s2001": 3.892307678858439,
       "robust_s2002": 3.976923086704352,
       "robust_s2003": 3.6666666697233152,
       "robust_s2004": 3.66923074844556
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.4533333333333333,
        "ci95": [
         0.4066666666666667,
         0.5
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.15,
        "ci95": [
         0.1,
         0.2
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.45,
        "ci95": [
         0.4,
         0.5033333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.18,
        "ci95": [
         0.13666666666666666,
         0.22666666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.47333333333333333,
        "ci95": [
         0.43,
         0.5133333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.4266666666666667,
        "ci95": [
         0.38666666666666666,
         0.4666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.6033333333333334,
        "ci95": [
         0.5566666666666666,
         0.6533333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.5133333333333333,
        "ci95": [
         0.47333333333333333,
         0.5533333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.57,
        "ci95": [
         0.5366666666666666,
         0.6033333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.1,
        "ci95": [
         0.06,
         0.14
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.09333333333333334,
        "ci95": [
         0.056666666666666664,
         0.13333333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.22333333333333333,
        "ci95": [
         0.16333333333333333,
         0.2833333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5333333333333333,
        "ci95": [
         0.4866666666666667,
         0.58
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.23,
        "ci95": [
         0.17666666666666667,
         0.2866666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.5466666666666666,
        "ci95": [
         0.5066666666666667,
         0.5866666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.4766666666666667,
        "ci95": [
         0.43333333333333335,
         0.52
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.6833333333333333,
        "ci95": [
         0.64,
         0.7266666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.57,
        "ci95": [
         0.5266666666666666,
         0.6133333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.63,
        "ci95": [
         0.59,
         0.6733333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.13333333333333333,
        "ci95": [
         0.08666666666666667,
         0.18333333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.13,
        "ci95": [
         0.08666666666666667,
         0.17666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.81,
        "ci95": [
         0.75,
         0.8666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.8,
        "ci95": [
         0.7433333333333333,
         0.8533333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.83,
        "ci95": [
         0.7765833333333333,
         0.8833333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.79,
        "ci95": [
         0.73,
         0.8466666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.9066666666666666,
        "ci95": [
         0.8633333333333333,
         0.9466666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.8633333333333333,
        "ci95": [
         0.8133333333333334,
         0.91
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.9066666666666666,
        "ci95": [
         0.8666666666666667,
         0.9433333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.2633333333333333,
        "ci95": [
         0.21,
         0.32
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.14666666666666667,
        "ci95": [
         0.11,
         0.19
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.24333333333333335,
        "ci95": [
         0.18333333333333332,
         0.30666666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.5266666666666666,
        "ci95": [
         0.4766666666666667,
         0.5733333333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.46,
        "ci95": [
         0.41,
         0.51
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.6733333333333333,
        "ci95": [
         0.6333333333333333,
         0.7133333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.5466666666666666,
        "ci95": [
         0.5,
         0.5933333333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.6066666666666667,
        "ci95": [
         0.56,
         0.6533333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.12,
        "ci95": [
         0.08,
         0.16333333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.12,
        "ci95": [
         0.07991666666666669,
         0.16666666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.8033333333333333,
        "ci95": [
         0.75,
         0.8533333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.7466666666666667,
        "ci95": [
         0.6933333333333334,
         0.8
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.9333333333333333,
        "ci95": [
         0.8966666666666666,
         0.9633333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.8533333333333334,
        "ci95": [
         0.8133333333333334,
         0.8933333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.9133333333333333,
        "ci95": [
         0.8833333333333333,
         0.9433333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.13,
        "ci95": [
         0.08666666666666667,
         0.17666666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.12333333333333334,
        "ci95": [
         0.08333333333333333,
         0.16666666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.43666666666666665,
        "ci95": [
         0.4033333333333333,
         0.47
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.64,
        "ci95": [
         0.5933333333333334,
         0.6866666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.5266666666666666,
        "ci95": [
         0.4866666666666667,
         0.5666666666666667
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.6,
        "ci95": [
         0.5666666666666667,
         0.6366666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.13,
        "ci95": [
         0.08333333333333333,
         0.18
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.12666666666666668,
        "ci95": [
         0.08333333333333333,
         0.17
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.67,
        "ci95": [
         0.6266666666666667,
         0.7166666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.59,
        "ci95": [
         0.5533333333333333,
         0.63
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6366666666666667,
        "ci95": [
         0.6033333333333334,
         0.6733333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.15,
        "ci95": [
         0.10333333333333333,
         0.2
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.14,
        "ci95": [
         0.09333333333333334,
         0.19
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.38,
        "ci95": [
         0.3333333333333333,
         0.4266666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.4633333333333333,
        "ci95": [
         0.4166666666666667,
         0.51
        ],
        "resolved": false
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.03666666666666667,
        "ci95": [
         0.016666666666666666,
         0.06
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.03666666666666667,
        "ci95": [
         0.013333333333333334,
         0.06666666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.5733333333333334,
        "ci95": [
         0.54325,
         0.6066666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.1,
        "ci95": [
         0.06,
         0.14333333333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.1,
        "ci95": [
         0.06333333333333334,
         0.14
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.07666666666666666,
        "ci95": [
         0.043333333333333335,
         0.11333333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.06333333333333334,
        "ci95": [
         0.03333333333333333,
         0.09666666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.32,
        "ci95": [
         0.26666666666666666,
         0.37333333333333335
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 55,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        7.66,
        8.296666666666667
       ],
       "nonoise_s2002": [
        6.966666666666667,
        7.623333333333333
       ],
       "nonoise_s2003": [
        3.6765833333333333,
        4.453416666666666
       ],
       "nonoise_s2004": [
        7.11,
        7.88
       ],
       "release_s2001": [
        4.736666666666666,
        5.173333333333333
       ],
       "release_s2002": [
        7.383333333333334,
        8.04
       ],
       "release_s2003": [
        6.8133333333333335,
        7.483333333333333
       ],
       "release_s2004": [
        8.896666666666667,
        9.49
       ],
       "robust_s2001": [
        7.803333333333334,
        8.326666666666666
       ],
       "robust_s2002": [
        8.503333333333334,
        9.016666666666667
       ],
       "robust_s2003": [
        2.5933333333333333,
        3.276666666666667
       ],
       "robust_s2004": [
        2.06,
        2.756666666666667
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.079524113020347,
      "nonoise_s2002": 1.0721795987281768,
      "nonoise_s2003": 1.0517391246201937,
      "nonoise_s2004": 1.0701946786703687,
      "release_s2001": 0.6229794000174861,
      "release_s2002": 0.98013842856772,
      "release_s2003": 1.1298288528315807,
      "release_s2004": 1.3626062359758713,
      "robust_s2001": 1.0886575711599205,
      "robust_s2002": 1.2156775846269594,
      "robust_s2003": 1.1040047823403762,
      "robust_s2004": 1.1404867287575462
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.6666666666666666,
       "kendall_ci95": [
        0.5454545454545454,
        0.7878787878787878
       ],
       "spearman": 0.7762237762237763,
       "spearman_ci95": [
        0.6923076923076923,
        0.9090909090909091
       ],
       "delta_tau_vs_nominal": 0.4545454545454545,
       "delta_tau_ci95": [
        0.24242424242424243,
        0.696969696969697
       ],
       "bootstrap_frac_delta_le_0": 0.0
      },
      "id": {
       "kendall_tau_b": 0.15151515151515152,
       "kendall_ci95": [
        -0.01526762041381148,
        0.36363636363636365
       ],
       "spearman": 0.1258741258741259,
       "spearman_ci95": [
        -0.03152369107522558,
        0.4000700679823627
       ],
       "delta_tau_vs_nominal": 0.044641808618471154,
       "delta_tau_ci95": [
        -0.23065808554696707,
        0.3383154286661276
       ],
       "bootstrap_frac_delta_le_0": 0.3234
      },
      "ood": {
       "kendall_tau_b": 0.7575757575757576,
       "kendall_ci95": [
        0.5757575757575758,
        0.8484848484848485
       ],
       "spearman": 0.8811188811188811,
       "spearman_ci95": [
        0.7250448947301883,
        0.951048951048951
       ],
       "delta_tau_vs_nominal": 0.6060606060606061,
       "delta_tau_ci95": [
        0.33333333333333337,
        0.7878787878787878
       ],
       "bootstrap_frac_delta_le_0": 0.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 66,
      "method_correct": 55,
      "base_correct": 40,
      "discordant": 33,
      "discordant_method_correct": 24,
      "discordant_base_correct": 9
     },
     "tau_vs_primary_tr": {
      "value": 0.8787878787878788,
      "ci95": [
       0.7878787878787878,
       0.9696969696969697
      ]
     }
    },
    "det_calibrated": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 6.1033333333333335,
       "nonoise_s2002": 6.816666666666666,
       "nonoise_s2003": 7.513333333333334,
       "nonoise_s2004": 7.0633333333333335,
       "release_s2001": 5.046666666666667,
       "release_s2002": 6.223333333333334,
       "release_s2003": 5.163333333333333,
       "release_s2004": 9.786666666666667,
       "robust_s2001": 6.256666666666667,
       "robust_s2002": 8.856666666666667,
       "robust_s2003": 4.373333333333333,
       "robust_s2004": 4.796666666666667
      },
      "order": [
       "robust_s2003",
       "robust_s2004",
       "release_s2001",
       "release_s2003",
       "nonoise_s2001",
       "release_s2002",
       "robust_s2001",
       "nonoise_s2002",
       "nonoise_s2004",
       "nonoise_s2003",
       "robust_s2002",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       },
       "ood": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       },
       "all": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0
       }
      },
      "common_success_units": 150,
      "mean_time_common_success": {
       "nonoise_s2001": 6.081333325703938,
       "nonoise_s2002": 6.121333336830139,
       "nonoise_s2003": 6.147333334287008,
       "nonoise_s2004": 6.14666668732961,
       "release_s2001": 6.096666661898295,
       "release_s2002": 6.080666670799255,
       "release_s2003": 6.065999984741211,
       "release_s2004": 6.273333339691162,
       "robust_s2001": 6.096666649182637,
       "robust_s2002": 6.192666654586792,
       "robust_s2003": 6.051333328882853,
       "robust_s2004": 6.050666651725769
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.5933333333333334,
        "ci95": [
         0.5266666666666666,
         0.6633333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.62,
        "ci95": [
         0.56,
         0.6833333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.6,
        "ci95": [
         0.5266666666666666,
         0.6733333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.38666666666666666,
        "ci95": [
         0.3466666666666667,
         0.43
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.51,
        "ci95": [
         0.4533333333333333,
         0.5666666666666667
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.41,
        "ci95": [
         0.35333333333333333,
         0.4666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.7466666666666667,
        "ci95": [
         0.6866666666666666,
         0.8066666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.51,
        "ci95": [
         0.46,
         0.5633333333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.78,
        "ci95": [
         0.74,
         0.82
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.35333333333333333,
        "ci95": [
         0.30333333333333334,
         0.4033333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.38666666666666666,
        "ci95": [
         0.33,
         0.44333333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.6133333333333333,
        "ci95": [
         0.5433333333333333,
         0.68
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.49666666666666665,
        "ci95": [
         0.44333333333333336,
         0.55
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.33666666666666667,
        "ci95": [
         0.28,
         0.3933333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.45,
        "ci95": [
         0.39666666666666667,
         0.5033333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.3233333333333333,
        "ci95": [
         0.27,
         0.37666666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.8466666666666667,
        "ci95": [
         0.8033333333333333,
         0.89
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.44,
        "ci95": [
         0.38,
         0.5
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.6766666666666666,
        "ci95": [
         0.6166666666666667,
         0.7333333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.2633333333333333,
        "ci95": [
         0.21666666666666667,
         0.31333333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.33,
        "ci95": [
         0.27,
         0.3933333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.48333333333333334,
        "ci95": [
         0.41,
         0.5566666666666666
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.29333333333333333,
        "ci95": [
         0.23666666666666666,
         0.35
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.41333333333333333,
        "ci95": [
         0.3433333333333333,
         0.48333333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.36666666666666664,
        "ci95": [
         0.30333333333333334,
         0.43
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.65,
        "ci95": [
         0.5833333333333334,
         0.7166666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.39666666666666667,
        "ci95": [
         0.3333333333333333,
         0.46
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.62,
        "ci95": [
         0.5533333333333333,
         0.6866666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.23,
        "ci95": [
         0.18333333333333332,
         0.27666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.26666666666666666,
        "ci95": [
         0.21666666666666667,
         0.31666666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.36333333333333334,
        "ci95": [
         0.29991666666666666,
         0.43
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.4,
        "ci95": [
         0.34,
         0.4633333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.28,
        "ci95": [
         0.22666666666666666,
         0.33666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.85,
        "ci95": [
         0.8066666666666666,
         0.89
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.42333333333333334,
        "ci95": [
         0.3566666666666667,
         0.49333333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.59,
        "ci95": [
         0.5299166666666667,
         0.6533333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.2966666666666667,
        "ci95": [
         0.24,
         0.35333333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.31333333333333335,
        "ci95": [
         0.25,
         0.37666666666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.6133333333333333,
        "ci95": [
         0.56,
         0.6666666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.51,
        "ci95": [
         0.46,
         0.56
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.8133333333333334,
        "ci95": [
         0.7633333333333333,
         0.86
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.6233333333333333,
        "ci95": [
         0.5833333333333334,
         0.6633333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.8433333333333334,
        "ci95": [
         0.8,
         0.8833333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.44333333333333336,
        "ci95": [
         0.3933333333333333,
         0.49333333333333335
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.4866666666666667,
        "ci95": [
         0.43,
         0.5433333333333333
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.38,
        "ci95": [
         0.34,
         0.4200833333333321
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.8466666666666667,
        "ci95": [
         0.8033333333333333,
         0.8866666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.5,
        "ci95": [
         0.45,
         0.55
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.7533333333333333,
        "ci95": [
         0.7066666666666667,
         0.8
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.32,
        "ci95": [
         0.26666666666666666,
         0.37333333333333335
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.36333333333333334,
        "ci95": [
         0.30333333333333334,
         0.42333333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.8566666666666667,
        "ci95": [
         0.8166666666666667,
         0.8933333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.59,
        "ci95": [
         0.5433333333333333,
         0.6366666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.8066666666666666,
        "ci95": [
         0.7666666666666667,
         0.8466666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.43333333333333335,
        "ci95": [
         0.38,
         0.4866666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.42,
        "ci95": [
         0.36666666666666664,
         0.47333333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.21666666666666667,
        "ci95": [
         0.16666666666666666,
         0.26666666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.36,
        "ci95": [
         0.29333333333333333,
         0.43
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.11333333333333333,
        "ci95": [
         0.07666666666666666,
         0.15
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.13333333333333333,
        "ci95": [
         0.09333333333333334,
         0.17666666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.7466666666666667,
        "ci95": [
         0.7066666666666667,
         0.7866666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.3233333333333333,
        "ci95": [
         0.27325,
         0.37666666666666665
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.37333333333333335,
        "ci95": [
         0.31666666666666665,
         0.43
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.12666666666666668,
        "ci95": [
         0.08666666666666667,
         0.17333333333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.19333333333333333,
        "ci95": [
         0.14333333333333334,
         0.24333333333333335
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.53,
        "ci95": [
         0.4766666666666667,
         0.5833333333333334
        ],
        "resolved": false
       }
      ],
      "resolved_pairs": 56,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        5.656583333333333,
        6.533416666666666
       ],
       "nonoise_s2002": [
        6.40325,
        7.226666666666667
       ],
       "nonoise_s2003": [
        6.963333333333333,
        8.073333333333334
       ],
       "nonoise_s2004": [
        6.533333333333333,
        7.573333333333333
       ],
       "release_s2001": [
        4.683333333333334,
        5.410083333333333
       ],
       "release_s2002": [
        5.87,
        6.58
       ],
       "release_s2003": [
        4.829916666666667,
        5.5034166666666655
       ],
       "release_s2004": [
        9.396666666666667,
        10.166666666666666
       ],
       "robust_s2001": [
        5.92,
        6.6033333333333335
       ],
       "robust_s2002": [
        8.49,
        9.230083333333333
       ],
       "robust_s2003": [
        4.05,
        4.71
       ],
       "robust_s2004": [
        4.3765833333333335,
        5.233333333333333
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.0792904800145164,
      "nonoise_s2002": 1.0263228942345288,
      "nonoise_s2003": 0.9990363428253674,
      "nonoise_s2004": 1.1536673876895795,
      "release_s2001": 1.0424290651610062,
      "release_s2002": 1.0806849504137224,
      "release_s2003": 1.059671947416146,
      "release_s2004": 1.0954063604240285,
      "robust_s2001": 1.1008058448331315,
      "robust_s2002": 1.1286101112174904,
      "robust_s2003": 0.9869088973613597,
      "robust_s2004": 0.985390500396389
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.8181818181818182,
       "kendall_ci95": [
        0.6363636363636364,
        0.9090909090909091
       ],
       "spearman": 0.916083916083916,
       "spearman_ci95": [
        0.7762237762237763,
        0.965034965034965
       ],
       "delta_tau_vs_nominal": 0.6060606060606061,
       "delta_tau_ci95": [
        0.4242424242424242,
        0.696969696969697
       ],
       "bootstrap_frac_delta_le_0": 0.0
      },
      "id": {
       "kendall_tau_b": 0.5757575757575758,
       "kendall_ci95": [
        0.3333333333333333,
        0.7575757575757576
       ],
       "spearman": 0.7132867132867133,
       "spearman_ci95": [
        0.4378290427114664,
        0.8741258741258742
       ],
       "delta_tau_vs_nominal": 0.4688842328608954,
       "delta_tau_ci95": [
        0.148167945216902,
        0.696969696969697
       ],
       "bootstrap_frac_delta_le_0": 0.0012
      },
      "ood": {
       "kendall_tau_b": 0.5454545454545454,
       "kendall_ci95": [
        0.36363636363636365,
        0.6666666666666666
       ],
       "spearman": 0.6713286713286714,
       "spearman_ci95": [
        0.5314685314685315,
        0.8111888111888111
       ],
       "delta_tau_vs_nominal": 0.3939393939393939,
       "delta_tau_ci95": [
        0.24242424242424243,
        0.5151515151515151
       ],
       "bootstrap_frac_delta_le_0": 0.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 66,
      "method_correct": 60,
      "base_correct": 40,
      "discordant": 20,
      "discordant_method_correct": 20,
      "discordant_base_correct": 0
     },
     "tau_vs_primary_tr": {
      "value": 0.6666666666666666,
      "ci95": [
       0.48484848484848486,
       0.696969696969697
      ]
     }
    }
   },
   "hidden_failure": {
    "definition": "Chrono success rate < 0.5 on this goal set; score = mean rank (higher = worse)",
    "policies": [],
    "nominal_success_of_these": {},
    "auc": {
     "nominal": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "tr_rate": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "paper_tr": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "tr_rate_half": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "tr_rate_double": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "tr_rate_uniform": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "tr_delay": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "det_rate_0.1": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "det_calibrated": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     }
    }
   }
  },
  "secondary": {
   "policies": [
    "nonoise_s2001",
    "nonoise_s2002",
    "nonoise_s2003",
    "nonoise_s2004",
    "release_s2001",
    "release_s2002",
    "release_s2003",
    "release_s2004",
    "robust_s2001",
    "robust_s2002",
    "robust_s2003",
    "robust_s2004",
    "rel1",
    "rel2",
    "rel3",
    "rel4"
   ],
   "chrono": {
    "mean_rank": {
     "nonoise_s2001": 7.696666666666666,
     "nonoise_s2002": 7.046666666666667,
     "nonoise_s2003": 7.8133333333333335,
     "nonoise_s2004": 8.146666666666667,
     "release_s2001": 6.556666666666667,
     "release_s2002": 7.59,
     "release_s2003": 7.276666666666666,
     "release_s2004": 9.813333333333333,
     "robust_s2001": 8.04,
     "robust_s2002": 8.906666666666666,
     "robust_s2003": 4.983333333333333,
     "robust_s2004": 5.99,
     "rel1": 13.5,
     "rel2": 11.65,
     "rel3": 10.693333333333333,
     "rel4": 10.296666666666667
    },
    "order": [
     "robust_s2003",
     "robust_s2004",
     "release_s2001",
     "nonoise_s2002",
     "release_s2003",
     "release_s2002",
     "nonoise_s2001",
     "nonoise_s2003",
     "robust_s2001",
     "nonoise_s2004",
     "robust_s2002",
     "release_s2004",
     "rel4",
     "rel3",
     "rel2",
     "rel1"
    ],
    "success_rate": {
     "id": {
      "nonoise_s2001": 0.6266666666666667,
      "nonoise_s2002": 0.64,
      "nonoise_s2003": 0.6,
      "nonoise_s2004": 0.6533333333333333,
      "release_s2001": 0.6533333333333333,
      "release_s2002": 0.6266666666666667,
      "release_s2003": 0.6266666666666667,
      "release_s2004": 0.6,
      "robust_s2001": 0.64,
      "robust_s2002": 0.64,
      "robust_s2003": 0.64,
      "robust_s2004": 0.6266666666666667,
      "rel1": 0.49333333333333335,
      "rel2": 0.8666666666666667,
      "rel3": 0.9733333333333334,
      "rel4": 0.9466666666666667
     },
     "ood": {
      "nonoise_s2001": 0.8266666666666667,
      "nonoise_s2002": 0.9466666666666667,
      "nonoise_s2003": 0.9333333333333333,
      "nonoise_s2004": 0.8533333333333334,
      "release_s2001": 0.96,
      "release_s2002": 0.8666666666666667,
      "release_s2003": 0.9066666666666666,
      "release_s2004": 0.6666666666666666,
      "robust_s2001": 0.8,
      "robust_s2002": 0.8,
      "robust_s2003": 0.9733333333333334,
      "robust_s2004": 0.96,
      "rel1": 0.6933333333333334,
      "rel2": 0.9866666666666667,
      "rel3": 0.9733333333333334,
      "rel4": 0.9866666666666667
     },
     "all": {
      "nonoise_s2001": 0.7266666666666667,
      "nonoise_s2002": 0.7933333333333333,
      "nonoise_s2003": 0.7666666666666667,
      "nonoise_s2004": 0.7533333333333333,
      "release_s2001": 0.8066666666666666,
      "release_s2002": 0.7466666666666667,
      "release_s2003": 0.7666666666666667,
      "release_s2004": 0.6333333333333333,
      "robust_s2001": 0.72,
      "robust_s2002": 0.72,
      "robust_s2003": 0.8066666666666666,
      "robust_s2004": 0.7933333333333333,
      "rel1": 0.5933333333333334,
      "rel2": 0.9266666666666666,
      "rel3": 0.9733333333333334,
      "rel4": 0.9666666666666667
     }
    },
    "common_success_units": 47,
    "mean_time_common_success": {
     "nonoise_s2001": 5.636170212765957,
     "nonoise_s2002": 5.6680851063829785,
     "nonoise_s2003": 5.71063829787234,
     "nonoise_s2004": 5.968085106382977,
     "release_s2001": 5.776595744680851,
     "release_s2002": 5.653191489361702,
     "release_s2003": 6.189361702127659,
     "release_s2004": 6.731914893617022,
     "robust_s2001": 5.872340425531915,
     "robust_s2002": 5.968085106382978,
     "robust_s2003": 5.804255319148936,
     "robust_s2004": 5.797872340425533,
     "rel1": 17.24255319148936,
     "rel2": 13.35744680851064,
     "rel3": 11.504255319148937,
     "rel4": 10.419148936170211
    },
    "pairs": [
     {
      "a": "nonoise_s2001",
      "b": "nonoise_s2002",
      "win_a": 0.48333333333333334,
      "ci95": [
       0.4266666666666667,
       0.5433333333333333
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2001",
      "b": "nonoise_s2003",
      "win_a": 0.5133333333333333,
      "ci95": [
       0.45666666666666667,
       0.57
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2001",
      "b": "nonoise_s2004",
      "win_a": 0.5433333333333333,
      "ci95": [
       0.48658333333333337,
       0.6
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2001",
      "b": "release_s2001",
      "win_a": 0.42333333333333334,
      "ci95": [
       0.38,
       0.47
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2001",
      "b": "release_s2002",
      "win_a": 0.4866666666666667,
      "ci95": [
       0.44,
       0.5366666666666666
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2001",
      "b": "release_s2003",
      "win_a": 0.4766666666666667,
      "ci95": [
       0.4266666666666667,
       0.53
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2001",
      "b": "release_s2004",
      "win_a": 0.6366666666666667,
      "ci95": [
       0.58,
       0.6933333333333334
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2001",
      "b": "robust_s2001",
      "win_a": 0.5166666666666667,
      "ci95": [
       0.46991666666666665,
       0.5634166666666655
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2001",
      "b": "robust_s2002",
      "win_a": 0.6066666666666667,
      "ci95": [
       0.56,
       0.65
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2001",
      "b": "robust_s2003",
      "win_a": 0.2966666666666667,
      "ci95": [
       0.2633333333333333,
       0.33
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2001",
      "b": "robust_s2004",
      "win_a": 0.37666666666666665,
      "ci95": [
       0.3333333333333333,
       0.42333333333333334
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2001",
      "b": "rel1",
      "win_a": 0.8133333333333334,
      "ci95": [
       0.76,
       0.8633333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2001",
      "b": "rel2",
      "win_a": 0.7133333333333334,
      "ci95": [
       0.64325,
       0.7833333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2001",
      "b": "rel3",
      "win_a": 0.7133333333333334,
      "ci95": [
       0.6433333333333333,
       0.7833333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2001",
      "b": "rel4",
      "win_a": 0.7033333333333334,
      "ci95": [
       0.63,
       0.7766666666666666
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "nonoise_s2003",
      "win_a": 0.5833333333333334,
      "ci95": [
       0.5233333333333333,
       0.64
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "nonoise_s2004",
      "win_a": 0.58,
      "ci95": [
       0.5366666666666666,
       0.6233333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "release_s2001",
      "win_a": 0.47333333333333333,
      "ci95": [
       0.42,
       0.5266666666666666
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2002",
      "b": "release_s2002",
      "win_a": 0.5333333333333333,
      "ci95": [
       0.4866666666666667,
       0.58
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2002",
      "b": "release_s2003",
      "win_a": 0.48,
      "ci95": [
       0.43,
       0.53
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2002",
      "b": "release_s2004",
      "win_a": 0.7333333333333333,
      "ci95": [
       0.7,
       0.7666666666666667
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "robust_s2001",
      "win_a": 0.56,
      "ci95": [
       0.51,
       0.61
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "robust_s2002",
      "win_a": 0.61,
      "ci95": [
       0.5633333333333334,
       0.6566666666666666
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "robust_s2003",
      "win_a": 0.30333333333333334,
      "ci95": [
       0.26666666666666666,
       0.34
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "robust_s2004",
      "win_a": 0.39,
      "ci95": [
       0.34,
       0.43666666666666665
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "rel1",
      "win_a": 0.8466666666666667,
      "ci95": [
       0.7966666666666666,
       0.8933333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "rel2",
      "win_a": 0.7866666666666666,
      "ci95": [
       0.7266666666666667,
       0.8466666666666667
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "rel3",
      "win_a": 0.78,
      "ci95": [
       0.7166666666666667,
       0.84
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2002",
      "b": "rel4",
      "win_a": 0.7766666666666666,
      "ci95": [
       0.7133333333333334,
       0.84
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "nonoise_s2004",
      "win_a": 0.4866666666666667,
      "ci95": [
       0.4266666666666667,
       0.5466666666666666
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2003",
      "b": "release_s2001",
      "win_a": 0.4066666666666667,
      "ci95": [
       0.3566666666666667,
       0.46
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "release_s2002",
      "win_a": 0.48333333333333334,
      "ci95": [
       0.43,
       0.5366666666666666
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2003",
      "b": "release_s2003",
      "win_a": 0.47,
      "ci95": [
       0.41333333333333333,
       0.5266666666666666
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2003",
      "b": "release_s2004",
      "win_a": 0.59,
      "ci95": [
       0.5366666666666666,
       0.64
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "robust_s2001",
      "win_a": 0.5033333333333333,
      "ci95": [
       0.45,
       0.5566666666666666
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2003",
      "b": "robust_s2002",
      "win_a": 0.5766666666666667,
      "ci95": [
       0.52325,
       0.63
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "robust_s2003",
      "win_a": 0.28,
      "ci95": [
       0.23666666666666666,
       0.3233333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "robust_s2004",
      "win_a": 0.3466666666666667,
      "ci95": [
       0.3,
       0.3933333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "rel1",
      "win_a": 0.8366666666666667,
      "ci95": [
       0.7866666666666666,
       0.8833333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "rel2",
      "win_a": 0.7733333333333333,
      "ci95": [
       0.71,
       0.8333333333333334
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "rel3",
      "win_a": 0.7666666666666667,
      "ci95": [
       0.7033333333333334,
       0.83
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2003",
      "b": "rel4",
      "win_a": 0.7633333333333333,
      "ci95": [
       0.7,
       0.8266666666666667
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2004",
      "b": "release_s2001",
      "win_a": 0.4,
      "ci95": [
       0.3433333333333333,
       0.45666666666666667
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2004",
      "b": "release_s2002",
      "win_a": 0.4633333333333333,
      "ci95": [
       0.41,
       0.5166666666666667
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2004",
      "b": "release_s2003",
      "win_a": 0.44333333333333336,
      "ci95": [
       0.38666666666666666,
       0.5
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2004",
      "b": "release_s2004",
      "win_a": 0.6866666666666666,
      "ci95": [
       0.65,
       0.7233333333333334
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2004",
      "b": "robust_s2001",
      "win_a": 0.45,
      "ci95": [
       0.39666666666666667,
       0.5033333333333333
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2004",
      "b": "robust_s2002",
      "win_a": 0.5033333333333333,
      "ci95": [
       0.44666666666666666,
       0.56
      ],
      "resolved": false
     },
     {
      "a": "nonoise_s2004",
      "b": "robust_s2003",
      "win_a": 0.2866666666666667,
      "ci95": [
       0.25,
       0.3233333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2004",
      "b": "robust_s2004",
      "win_a": 0.36333333333333334,
      "ci95": [
       0.31333333333333335,
       0.41
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2004",
      "b": "rel1",
      "win_a": 0.7833333333333333,
      "ci95": [
       0.7233333333333334,
       0.8433333333333334
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2004",
      "b": "rel2",
      "win_a": 0.7,
      "ci95": [
       0.6266666666666667,
       0.7733333333333333
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2004",
      "b": "rel3",
      "win_a": 0.6933333333333334,
      "ci95": [
       0.62,
       0.7666666666666667
      ],
      "resolved": true
     },
     {
      "a": "nonoise_s2004",
      "b": "rel4",
      "win_a": 0.69,
      "ci95": [
       0.6133333333333333,
       0.7633333333333333
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "release_s2002",
      "win_a": 0.5866666666666667,
      "ci95": [
       0.54,
       0.63
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "release_s2003",
      "win_a": 0.5633333333333334,
      "ci95": [
       0.5166666666666667,
       0.61
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "release_s2004",
      "win_a": 0.6733333333333333,
      "ci95": [
       0.6233333333333333,
       0.7233333333333334
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "robust_s2001",
      "win_a": 0.6366666666666667,
      "ci95": [
       0.6033333333333334,
       0.6733333333333333
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "robust_s2002",
      "win_a": 0.72,
      "ci95": [
       0.68,
       0.76
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "robust_s2003",
      "win_a": 0.32,
      "ci95": [
       0.2866666666666667,
       0.35333333333333333
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "robust_s2004",
      "win_a": 0.38666666666666666,
      "ci95": [
       0.3433333333333333,
       0.43
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "rel1",
      "win_a": 0.8633333333333333,
      "ci95": [
       0.8166666666666667,
       0.9066666666666666
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "rel2",
      "win_a": 0.8133333333333334,
      "ci95": [
       0.7533333333333333,
       0.87
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "rel3",
      "win_a": 0.7933333333333333,
      "ci95": [
       0.73,
       0.8533333333333334
      ],
      "resolved": true
     },
     {
      "a": "release_s2001",
      "b": "rel4",
      "win_a": 0.79,
      "ci95": [
       0.7266666666666667,
       0.85
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "release_s2003",
      "win_a": 0.46,
      "ci95": [
       0.42658333333333337,
       0.49333333333333335
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "release_s2004",
      "win_a": 0.6566666666666666,
      "ci95": [
       0.6033333333333334,
       0.7066666666666667
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "robust_s2001",
      "win_a": 0.5266666666666666,
      "ci95": [
       0.48333333333333334,
       0.57
      ],
      "resolved": false
     },
     {
      "a": "release_s2002",
      "b": "robust_s2002",
      "win_a": 0.6333333333333333,
      "ci95": [
       0.5933333333333334,
       0.6733333333333333
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "robust_s2003",
      "win_a": 0.2966666666666667,
      "ci95": [
       0.2633333333333333,
       0.33
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "robust_s2004",
      "win_a": 0.39666666666666667,
      "ci95": [
       0.35333333333333333,
       0.44333333333333336
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "rel1",
      "win_a": 0.81,
      "ci95": [
       0.7533333333333333,
       0.8633333333333333
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "rel2",
      "win_a": 0.7333333333333333,
      "ci95": [
       0.6633333333333333,
       0.8
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "rel3",
      "win_a": 0.7266666666666667,
      "ci95": [
       0.6566666666666666,
       0.7933333333333333
      ],
      "resolved": true
     },
     {
      "a": "release_s2002",
      "b": "rel4",
      "win_a": 0.7233333333333334,
      "ci95": [
       0.6533333333333333,
       0.7933333333333333
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "release_s2004",
      "win_a": 0.6533333333333333,
      "ci95": [
       0.6,
       0.7066666666666667
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "robust_s2001",
      "win_a": 0.55,
      "ci95": [
       0.5033333333333333,
       0.5934166666666655
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "robust_s2002",
      "win_a": 0.6433333333333333,
      "ci95": [
       0.5966666666666667,
       0.69
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "robust_s2003",
      "win_a": 0.30666666666666664,
      "ci95": [
       0.2733333333333333,
       0.34
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "robust_s2004",
      "win_a": 0.4,
      "ci95": [
       0.3566666666666667,
       0.44333333333333336
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "rel1",
      "win_a": 0.82,
      "ci95": [
       0.7633333333333333,
       0.87
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "rel2",
      "win_a": 0.7533333333333333,
      "ci95": [
       0.6866666666666666,
       0.82
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "rel3",
      "win_a": 0.7466666666666667,
      "ci95": [
       0.6766666666666666,
       0.8133333333333334
      ],
      "resolved": true
     },
     {
      "a": "release_s2003",
      "b": "rel4",
      "win_a": 0.7433333333333333,
      "ci95": [
       0.6733333333333333,
       0.81
      ],
      "resolved": true
     },
     {
      "a": "release_s2004",
      "b": "robust_s2001",
      "win_a": 0.38666666666666666,
      "ci95": [
       0.33,
       0.44333333333333336
      ],
      "resolved": true
     },
     {
      "a": "release_s2004",
      "b": "robust_s2002",
      "win_a": 0.42,
      "ci95": [
       0.36,
       0.4766666666666667
      ],
      "resolved": true
     },
     {
      "a": "release_s2004",
      "b": "robust_s2003",
      "win_a": 0.22,
      "ci95": [
       0.18666666666666668,
       0.25333333333333335
      ],
      "resolved": true
     },
     {
      "a": "release_s2004",
      "b": "robust_s2004",
      "win_a": 0.27,
      "ci95": [
       0.23333333333333334,
       0.30666666666666664
      ],
      "resolved": true
     },
     {
      "a": "release_s2004",
      "b": "rel1",
      "win_a": 0.6933333333333334,
      "ci95": [
       0.6266666666666667,
       0.76
      ],
      "resolved": true
     },
     {
      "a": "release_s2004",
      "b": "rel2",
      "win_a": 0.6166666666666667,
      "ci95": [
       0.54,
       0.6933333333333334
      ],
      "resolved": true
     },
     {
      "a": "release_s2004",
      "b": "rel3",
      "win_a": 0.6066666666666667,
      "ci95": [
       0.53,
       0.6833333333333333
      ],
      "resolved": true
     },
     {
      "a": "release_s2004",
      "b": "rel4",
      "win_a": 0.6033333333333334,
      "ci95": [
       0.5266666666666666,
       0.68
      ],
      "resolved": true
     },
     {
      "a": "robust_s2001",
      "b": "robust_s2002",
      "win_a": 0.6,
      "ci95": [
       0.5566666666666666,
       0.6466666666666666
      ],
      "resolved": true
     },
     {
      "a": "robust_s2001",
      "b": "robust_s2003",
      "win_a": 0.29333333333333333,
      "ci95": [
       0.26,
       0.33
      ],
      "resolved": true
     },
     {
      "a": "robust_s2001",
      "b": "robust_s2004",
      "win_a": 0.36333333333333334,
      "ci95": [
       0.3233333333333333,
       0.4066666666666667
      ],
      "resolved": true
     },
     {
      "a": "robust_s2001",
      "b": "rel1",
      "win_a": 0.77,
      "ci95": [
       0.7066666666666667,
       0.8266666666666667
      ],
      "resolved": true
     },
     {
      "a": "robust_s2001",
      "b": "rel2",
      "win_a": 0.6933333333333334,
      "ci95": [
       0.62,
       0.7633333333333333
      ],
      "resolved": true
     },
     {
      "a": "robust_s2001",
      "b": "rel3",
      "win_a": 0.6866666666666666,
      "ci95": [
       0.61,
       0.76
      ],
      "resolved": true
     },
     {
      "a": "robust_s2001",
      "b": "rel4",
      "win_a": 0.6833333333333333,
      "ci95": [
       0.6066666666666667,
       0.7566666666666667
      ],
      "resolved": true
     },
     {
      "a": "robust_s2002",
      "b": "robust_s2003",
      "win_a": 0.26666666666666666,
      "ci95": [
       0.23,
       0.30333333333333334
      ],
      "resolved": true
     },
     {
      "a": "robust_s2002",
      "b": "robust_s2004",
      "win_a": 0.3233333333333333,
      "ci95": [
       0.28,
       0.37
      ],
      "resolved": true
     },
     {
      "a": "robust_s2002",
      "b": "rel1",
      "win_a": 0.78,
      "ci95": [
       0.72,
       0.8366666666666667
      ],
      "resolved": true
     },
     {
      "a": "robust_s2002",
      "b": "rel2",
      "win_a": 0.6866666666666666,
      "ci95": [
       0.61,
       0.76
      ],
      "resolved": true
     },
     {
      "a": "robust_s2002",
      "b": "rel3",
      "win_a": 0.68,
      "ci95": [
       0.6033333333333334,
       0.7533333333333333
      ],
      "resolved": true
     },
     {
      "a": "robust_s2002",
      "b": "rel4",
      "win_a": 0.67,
      "ci95": [
       0.5933333333333334,
       0.7433333333333333
      ],
      "resolved": true
     },
     {
      "a": "robust_s2003",
      "b": "robust_s2004",
      "win_a": 0.6033333333333334,
      "ci95": [
       0.5633333333333334,
       0.6433333333333333
      ],
      "resolved": true
     },
     {
      "a": "robust_s2003",
      "b": "rel1",
      "win_a": 0.86,
      "ci95": [
       0.8133333333333334,
       0.9066666666666666
      ],
      "resolved": true
     },
     {
      "a": "robust_s2003",
      "b": "rel2",
      "win_a": 0.8133333333333334,
      "ci95": [
       0.7566666666666667,
       0.87
      ],
      "resolved": true
     },
     {
      "a": "robust_s2003",
      "b": "rel3",
      "win_a": 0.8066666666666666,
      "ci95": [
       0.7466666666666667,
       0.8633333333333333
      ],
      "resolved": true
     },
     {
      "a": "robust_s2003",
      "b": "rel4",
      "win_a": 0.8033333333333333,
      "ci95": [
       0.7433333333333333,
       0.86
      ],
      "resolved": true
     },
     {
      "a": "robust_s2004",
      "b": "rel1",
      "win_a": 0.8466666666666667,
      "ci95": [
       0.7966666666666666,
       0.8933333333333333
      ],
      "resolved": true
     },
     {
      "a": "robust_s2004",
      "b": "rel2",
      "win_a": 0.8,
      "ci95": [
       0.74,
       0.8566666666666667
      ],
      "resolved": true
     },
     {
      "a": "robust_s2004",
      "b": "rel3",
      "win_a": 0.7933333333333333,
      "ci95": [
       0.7333333333333333,
       0.85
      ],
      "resolved": true
     },
     {
      "a": "robust_s2004",
      "b": "rel4",
      "win_a": 0.79,
      "ci95": [
       0.7299166666666667,
       0.8466666666666667
      ],
      "resolved": true
     },
     {
      "a": "rel1",
      "b": "rel2",
      "win_a": 0.1,
      "ci95": [
       0.06666666666666667,
       0.13666666666666666
      ],
      "resolved": true
     },
     {
      "a": "rel1",
      "b": "rel3",
      "win_a": 0.056666666666666664,
      "ci95": [
       0.03333333333333333,
       0.08333333333333333
      ],
      "resolved": true
     },
     {
      "a": "rel1",
      "b": "rel4",
      "win_a": 0.06666666666666667,
      "ci95": [
       0.03666666666666667,
       0.1
      ],
      "resolved": true
     },
     {
      "a": "rel2",
      "b": "rel3",
      "win_a": 0.17,
      "ci95": [
       0.12666666666666668,
       0.21333333333333335
      ],
      "resolved": true
     },
     {
      "a": "rel2",
      "b": "rel4",
      "win_a": 0.16333333333333333,
      "ci95": [
       0.12333333333333334,
       0.21
      ],
      "resolved": true
     },
     {
      "a": "rel3",
      "b": "rel4",
      "win_a": 0.32666666666666666,
      "ci95": [
       0.2733333333333333,
       0.38333333333333336
      ],
      "resolved": true
     }
    ],
    "resolved_pairs": 102,
    "mean_rank_ci95": {
     "nonoise_s2001": [
      7.176583333333333,
      8.233333333333333
     ],
     "nonoise_s2002": [
      6.61325,
      7.49
     ],
     "nonoise_s2003": [
      7.309916666666666,
      8.303333333333333
     ],
     "nonoise_s2004": [
      7.569916666666667,
      8.730083333333333
     ],
     "release_s2001": [
      6.163333333333333,
      6.96
     ],
     "release_s2002": [
      7.153333333333333,
      8.036666666666667
     ],
     "release_s2003": [
      6.8133333333333335,
      7.743333333333333
     ],
     "release_s2004": [
      9.253333333333334,
      10.38675
     ],
     "robust_s2001": [
      7.539916666666667,
      8.553416666666665
     ],
     "robust_s2002": [
      8.449916666666667,
      9.376666666666667
     ],
     "robust_s2003": [
      4.586666666666667,
      5.416666666666667
     ],
     "robust_s2004": [
      5.556583333333333,
      6.443416666666666
     ],
     "rel1": [
      12.943333333333333,
      14.026666666666667
     ],
     "rel2": [
      10.959916666666668,
      12.326666666666666
     ],
     "rel3": [
      9.999916666666667,
      11.376666666666667
     ],
     "rel4": [
      9.559916666666668,
      11.010083333333332
     ]
    }
   },
   "conditions": {
    "nominal": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 5.553333333333334,
       "nonoise_s2002": 5.97,
       "nonoise_s2003": 7.473333333333334,
       "nonoise_s2004": 6.793333333333333,
       "release_s2001": 5.746666666666667,
       "release_s2002": 5.8533333333333335,
       "release_s2003": 5.176666666666667,
       "release_s2004": 9.523333333333333,
       "robust_s2001": 5.6433333333333335,
       "robust_s2002": 6.8533333333333335,
       "robust_s2003": 7.78,
       "robust_s2004": 5.943333333333333,
       "rel1": 15.613333333333333,
       "rel2": 14.503333333333334,
       "rel3": 13.87,
       "rel4": 13.703333333333333
      },
      "order": [
       "release_s2003",
       "nonoise_s2001",
       "robust_s2001",
       "release_s2001",
       "release_s2002",
       "robust_s2004",
       "nonoise_s2002",
       "nonoise_s2004",
       "robust_s2002",
       "nonoise_s2003",
       "robust_s2003",
       "release_s2004",
       "rel4",
       "rel3",
       "rel2",
       "rel1"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.8933333333333333,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "ood": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 1.0,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "all": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.9466666666666667,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       }
      },
      "common_success_units": 142,
      "mean_time_common_success": {
       "nonoise_s2001": 4.537323945844677,
       "nonoise_s2002": 4.549295767092369,
       "nonoise_s2003": 4.584507046451031,
       "nonoise_s2004": 4.564788711742616,
       "release_s2001": 4.549295772129382,
       "release_s2002": 4.543661964611268,
       "release_s2003": 4.528873244641533,
       "release_s2004": 4.62183098474019,
       "robust_s2001": 4.540140841208713,
       "robust_s2002": 4.564788715100624,
       "robust_s2003": 4.58169013261795,
       "robust_s2004": 4.544366192649788,
       "rel1": 5.306338038243038,
       "rel2": 5.026760566402489,
       "rel3": 4.944366204906517,
       "rel4": 4.934507042589322
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.5366666666666666,
        "ci95": [
         0.51,
         0.5633333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.6433333333333333,
        "ci95": [
         0.61,
         0.6733333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.6133333333333333,
        "ci95": [
         0.58,
         0.6466666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.5066666666666667,
        "ci95": [
         0.48,
         0.5333333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.5333333333333333,
        "ci95": [
         0.5066666666666667,
         0.56
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.45666666666666667,
        "ci95": [
         0.42333333333333334,
         0.4866666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.8066666666666666,
        "ci95": [
         0.7766666666666666,
         0.8366666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.49666666666666665,
        "ci95": [
         0.47333333333333333,
         0.52
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.62,
        "ci95": [
         0.59,
         0.65
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.6966666666666667,
        "ci95": [
         0.66,
         0.7333333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.5366666666666666,
        "ci95": [
         0.5066666666666667,
         0.5666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.62,
        "ci95": [
         0.5833333333333334,
         0.6533333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5733333333333334,
        "ci95": [
         0.5399166666666667,
         0.6066666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.47,
        "ci95": [
         0.44333333333333336,
         0.49666666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.49,
        "ci95": [
         0.4633333333333333,
         0.5166666666666667
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.4166666666666667,
        "ci95": [
         0.38,
         0.45
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.7933333333333333,
        "ci95": [
         0.7533333333333333,
         0.83
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.46,
        "ci95": [
         0.43333333333333335,
         0.4866666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.5833333333333334,
        "ci95": [
         0.5533333333333333,
         0.6166666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.6633333333333333,
        "ci95": [
         0.6266666666666667,
         0.7
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.49666666666666665,
        "ci95": [
         0.4666666666666667,
         0.5266666666666666
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.4266666666666667,
        "ci95": [
         0.38666666666666666,
         0.4666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.39,
        "ci95": [
         0.35333333333333333,
         0.43
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.37,
        "ci95": [
         0.34,
         0.4
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.36333333333333334,
        "ci95": [
         0.3333333333333333,
         0.39666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.68,
        "ci95": [
         0.6333333333333333,
         0.7233333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.38,
        "ci95": [
         0.3466666666666667,
         0.4166666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.43666666666666665,
        "ci95": [
         0.39666666666666667,
         0.4766666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.5066666666666667,
        "ci95": [
         0.46,
         0.5533333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.39,
        "ci95": [
         0.3566666666666667,
         0.42333333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel1",
        "win_a": 0.9866666666666667,
        "ci95": [
         0.9733333333333334,
         0.9966666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel2",
        "win_a": 0.9533333333333334,
        "ci95": [
         0.93,
         0.9733333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel3",
        "win_a": 0.9533333333333334,
        "ci95": [
         0.93,
         0.9733333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel4",
        "win_a": 0.9533333333333334,
        "ci95": [
         0.93,
         0.9733333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.4066666666666667,
        "ci95": [
         0.36666666666666664,
         0.44666666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.41333333333333333,
        "ci95": [
         0.38333333333333336,
         0.44333333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.3566666666666667,
        "ci95": [
         0.3233333333333333,
         0.39
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.7533333333333333,
        "ci95": [
         0.7233333333333334,
         0.7833333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.4066666666666667,
        "ci95": [
         0.37,
         0.44333333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.5,
        "ci95": [
         0.4666666666666667,
         0.5333333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.58,
        "ci95": [
         0.54,
         0.62
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.41,
        "ci95": [
         0.37666666666666665,
         0.44
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel3",
        "win_a": 0.9966666666666667,
        "ci95": [
         0.99,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel4",
        "win_a": 0.9966666666666667,
        "ci95": [
         0.99,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.5133333333333333,
        "ci95": [
         0.48,
         0.5466666666666666
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.44666666666666666,
        "ci95": [
         0.41333333333333333,
         0.48
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.7766666666666666,
        "ci95": [
         0.7333333333333333,
         0.8166666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.49333333333333335,
        "ci95": [
         0.4666666666666667,
         0.52
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.61,
        "ci95": [
         0.5733333333333334,
         0.6466666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.69,
        "ci95": [
         0.65,
         0.73
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.5266666666666666,
        "ci95": [
         0.49333333333333335,
         0.56
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel2",
        "win_a": 0.9966666666666667,
        "ci95": [
         0.99,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel3",
        "win_a": 0.9866666666666667,
        "ci95": [
         0.9666666666666667,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel4",
        "win_a": 0.9866666666666667,
        "ci95": [
         0.9666666666666667,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.4266666666666667,
        "ci95": [
         0.3933333333333333,
         0.46
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.8,
        "ci95": [
         0.77,
         0.83
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.47333333333333333,
        "ci95": [
         0.44,
         0.5066666666666667
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.59,
        "ci95": [
         0.5633333333333334,
         0.62
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.67,
        "ci95": [
         0.6366666666666667,
         0.7066666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.5066666666666667,
        "ci95": [
         0.4766666666666667,
         0.5366666666666666
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.8,
        "ci95": [
         0.7733333333333333,
         0.8266666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.5466666666666666,
        "ci95": [
         0.5133333333333333,
         0.58
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6466666666666666,
        "ci95": [
         0.6133333333333333,
         0.68
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.72,
        "ci95": [
         0.68,
         0.7566666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.5766666666666667,
        "ci95": [
         0.5466666666666666,
         0.61
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.21666666666666667,
        "ci95": [
         0.18,
         0.25341666666666546
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.25333333333333335,
        "ci95": [
         0.21666666666666667,
         0.29333333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.3233333333333333,
        "ci95": [
         0.2866666666666667,
         0.36
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.21333333333333335,
        "ci95": [
         0.18666666666666668,
         0.24
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel1",
        "win_a": 0.9966666666666667,
        "ci95": [
         0.99,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel2",
        "win_a": 0.9666666666666667,
        "ci95": [
         0.9466666666666667,
         0.9833333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel3",
        "win_a": 0.96,
        "ci95": [
         0.9366666666666666,
         0.98
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel4",
        "win_a": 0.9566666666666667,
        "ci95": [
         0.9333333333333333,
         0.9766666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.61,
        "ci95": [
         0.5766666666666667,
         0.6433333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.6866666666666666,
        "ci95": [
         0.65,
         0.7233333333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.5333333333333333,
        "ci95": [
         0.49666666666666665,
         0.57
        ],
        "resolved": false
       },
       {
        "a": "robust_s2001",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.58,
        "ci95": [
         0.55,
         0.61
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.4166666666666667,
        "ci95": [
         0.38333333333333336,
         0.45
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.33666666666666667,
        "ci95": [
         0.3,
         0.37333333333333335
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel2",
        "win_a": 0.12666666666666668,
        "ci95": [
         0.09333333333333334,
         0.16333333333333333
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel3",
        "win_a": 0.12,
        "ci95": [
         0.08666666666666667,
         0.15666666666666668
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel4",
        "win_a": 0.12333333333333334,
        "ci95": [
         0.09,
         0.16
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel3",
        "win_a": 0.27,
        "ci95": [
         0.23333333333333334,
         0.30666666666666664
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel4",
        "win_a": 0.27,
        "ci95": [
         0.23,
         0.31
        ],
        "resolved": true
       },
       {
        "a": "rel3",
        "b": "rel4",
        "win_a": 0.4166666666666667,
        "ci95": [
         0.38,
         0.4533333333333333
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 108,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        5.356583333333333,
        5.756666666666667
       ],
       "nonoise_s2002": [
        5.753333333333333,
        6.193333333333333
       ],
       "nonoise_s2003": [
        7.1066666666666665,
        7.850083333333332
       ],
       "nonoise_s2004": [
        6.513333333333334,
        7.086749999999999
       ],
       "release_s2001": [
        5.466666666666667,
        6.040083333333333
       ],
       "release_s2002": [
        5.653333333333333,
        6.053333333333334
       ],
       "release_s2003": [
        4.913333333333333,
        5.443416666666666
       ],
       "release_s2004": [
        9.213333333333333,
        9.83
       ],
       "robust_s2001": [
        5.39325,
        5.89
       ],
       "robust_s2002": [
        6.613333333333333,
        7.096666666666667
       ],
       "robust_s2003": [
        7.47,
        8.09
       ],
       "robust_s2004": [
        5.713333333333333,
        6.18
       ],
       "rel1": [
        15.496666666666666,
        15.716666666666667
       ],
       "rel2": [
        14.423333333333334,
        14.583333333333334
       ],
       "rel3": [
        13.786666666666667,
        13.95
       ],
       "rel4": [
        13.603333333333333,
        13.803333333333333
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.4272253395900187,
      "nonoise_s2002": 1.3672001464381407,
      "nonoise_s2003": 1.3192146861801655,
      "nonoise_s2004": 1.536958212984831,
      "release_s2001": 1.3853744499212317,
      "release_s2002": 1.4274487277999905,
      "release_s2003": 1.3960506695247397,
      "release_s2004": 1.4684983410228787,
      "robust_s2001": 1.4763458434321906,
      "robust_s2002": 1.5281059115077433,
      "robust_s2003": 1.289354277887651,
      "robust_s2004": 1.2912864569698577,
      "rel1": 3.472669470475875,
      "rel2": 3.3608751965430343,
      "rel3": 2.9944452310438905,
      "rel4": 2.7087475147271185
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.55,
       "kendall_ci95": [
        0.45,
        0.6333333333333333
       ],
       "spearman": 0.6823529411764706,
       "spearman_ci95": [
        0.6,
        0.7505888713428129
       ],
       "delta_tau_vs_nominal": 0.0,
       "delta_tau_ci95": [
        0.0,
        0.0
       ],
       "bootstrap_frac_delta_le_0": 1.0
      },
      "id": {
       "kendall_tau_b": 0.4937281711658766,
       "kendall_ci95": [
        0.25643906866720145,
        0.6108840083916778
       ],
       "spearman": 0.6298750785446284,
       "spearman_ci95": [
        0.3476028285560926,
        0.7343656482122912
       ],
       "delta_tau_vs_nominal": 0.0,
       "delta_tau_ci95": [
        0.0,
        0.0
       ],
       "bootstrap_frac_delta_le_0": 1.0
      },
      "ood": {
       "kendall_tau_b": 0.5272012675161055,
       "kendall_ci95": [
        0.43333333333333335,
        0.6
       ],
       "spearman": 0.6313467492888917,
       "spearman_ci95": [
        0.5764705882352941,
        0.713760310967628
       ],
       "delta_tau_vs_nominal": 0.0,
       "delta_tau_ci95": [
        0.0,
        0.0
       ],
       "bootstrap_frac_delta_le_0": 1.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 120,
      "method_correct": 93,
      "base_correct": 93,
      "discordant": 0,
      "discordant_method_correct": 0,
      "discordant_base_correct": 0
     },
     "tau_vs_primary_tr": {
      "value": 0.35,
      "ci95": [
       0.15,
       0.41004543029030427
      ]
     }
    },
    "tr_rate": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 8.812666666666674,
       "nonoise_s2002": 8.523166666666665,
       "nonoise_s2003": 6.4348333333333345,
       "nonoise_s2004": 9.018333333333334,
       "release_s2001": 7.547333333333331,
       "release_s2002": 8.925000000000002,
       "release_s2003": 7.845666666666673,
       "release_s2004": 11.627166666666666,
       "robust_s2001": 8.971333333333334,
       "robust_s2002": 10.466333333333331,
       "robust_s2003": 5.1118333333333315,
       "robust_s2004": 3.9956666666666663,
       "rel1": 10.579333333333334,
       "rel2": 9.180333333333333,
       "rel3": 9.203500000000002,
       "rel4": 9.757499999999993
      },
      "order": [
       "robust_s2004",
       "robust_s2003",
       "nonoise_s2003",
       "release_s2001",
       "release_s2003",
       "nonoise_s2002",
       "nonoise_s2001",
       "release_s2002",
       "robust_s2001",
       "nonoise_s2004",
       "rel2",
       "rel3",
       "rel4",
       "robust_s2002",
       "rel1",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 0.7906666666666666,
        "nonoise_s2002": 0.8266666666666667,
        "nonoise_s2003": 0.9526666666666667,
        "nonoise_s2004": 0.7986666666666666,
        "release_s2001": 0.868,
        "release_s2002": 0.8013333333333333,
        "release_s2003": 0.8033333333333333,
        "release_s2004": 0.776,
        "robust_s2001": 0.7993333333333333,
        "robust_s2002": 0.79,
        "robust_s2003": 0.976,
        "robust_s2004": 0.9953333333333333,
        "rel1": 0.874,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "ood": {
        "nonoise_s2001": 0.7726666666666666,
        "nonoise_s2002": 0.8006666666666666,
        "nonoise_s2003": 0.966,
        "nonoise_s2004": 0.7973333333333333,
        "release_s2001": 0.8466666666666667,
        "release_s2002": 0.7686666666666667,
        "release_s2003": 0.8006666666666666,
        "release_s2004": 0.734,
        "robust_s2001": 0.7766666666666666,
        "robust_s2002": 0.7406666666666667,
        "robust_s2003": 0.998,
        "robust_s2004": 1.0,
        "rel1": 1.0,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 0.99
       },
       "all": {
        "nonoise_s2001": 0.7816666666666666,
        "nonoise_s2002": 0.8136666666666666,
        "nonoise_s2003": 0.9593333333333334,
        "nonoise_s2004": 0.798,
        "release_s2001": 0.8573333333333333,
        "release_s2002": 0.785,
        "release_s2003": 0.802,
        "release_s2004": 0.755,
        "robust_s2001": 0.788,
        "robust_s2002": 0.7653333333333333,
        "robust_s2003": 0.987,
        "robust_s2004": 0.9976666666666667,
        "rel1": 0.937,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 0.995
       }
      },
      "common_success_units": 2060,
      "mean_time_common_success": {
       "nonoise_s2001": 5.239563105928088,
       "nonoise_s2002": 5.152378637813827,
       "nonoise_s2003": 4.724514565653014,
       "nonoise_s2004": 5.181747565628256,
       "release_s2001": 4.914660189394812,
       "release_s2002": 5.261456303804824,
       "release_s2003": 5.042621361283422,
       "release_s2004": 5.775097086012942,
       "robust_s2001": 5.204708737945094,
       "robust_s2002": 5.646601935902845,
       "robust_s2003": 4.635194166539942,
       "robust_s2004": 4.588543684332116,
       "rel1": 5.184708748974846,
       "rel2": 4.950533979957544,
       "rel3": 4.908640781421106,
       "rel4": 4.9316990315335465
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.4725,
        "ci95": [
         0.4515000000000002,
         0.49366666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.32616666666666666,
        "ci95": [
         0.2933333333333333,
         0.3606666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.5223333333333333,
        "ci95": [
         0.4968333333333337,
         0.5486666666666664
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.3748333333333334,
        "ci95": [
         0.35816666666666686,
         0.3923375000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.5051666666666667,
        "ci95": [
         0.4881624999999999,
         0.5228333333333332
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.42116666666666663,
        "ci95": [
         0.4065000000000003,
         0.43583333333333363
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.7031666666666667,
        "ci95": [
         0.678829166666666,
         0.7278333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.5086666666666666,
        "ci95": [
         0.49499999999999983,
         0.5221666666666664
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.6296666666666667,
        "ci95": [
         0.6141666666666669,
         0.6448333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.273,
        "ci95": [
         0.24400000000000005,
         0.3036666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.2163333333333333,
        "ci95": [
         0.18983333333333335,
         0.2446666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel1",
        "win_a": 0.6031666666666666,
        "ci95": [
         0.566666666666667,
         0.6395000000000004
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel2",
        "win_a": 0.5413333333333332,
        "ci95": [
         0.5033333333333336,
         0.5800000000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel3",
        "win_a": 0.5391666666666667,
        "ci95": [
         0.5006625000000003,
         0.5786666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel4",
        "win_a": 0.5506666666666666,
        "ci95": [
         0.5111625000000001,
         0.5901708333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.3431666666666666,
        "ci95": [
         0.30566249999999995,
         0.38149999999999984
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5541666666666667,
        "ci95": [
         0.5343333333333333,
         0.5738333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.4221666666666667,
        "ci95": [
         0.40316250000000015,
         0.44099999999999995
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.5455,
        "ci95": [
         0.5304999999999999,
         0.5605000000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.453,
        "ci95": [
         0.43416666666666676,
         0.47133333333333327
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.7518333333333334,
        "ci95": [
         0.7334999999999999,
         0.7693375
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.5406666666666666,
        "ci95": [
         0.5236666666666665,
         0.5576666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.6639999999999999,
        "ci95": [
         0.6468333333333334,
         0.6810041666666669
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.26216666666666666,
        "ci95": [
         0.2306666666666667,
         0.29450416666666673
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.212,
        "ci95": [
         0.18350000000000005,
         0.242
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel1",
        "win_a": 0.593,
        "ci95": [
         0.5568291666666668,
         0.6301708333333338
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel2",
        "win_a": 0.5356666666666666,
        "ci95": [
         0.49799583333333336,
         0.5738333333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "rel3",
        "win_a": 0.53,
        "ci95": [
         0.49149999999999994,
         0.5684999999999998
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "rel4",
        "win_a": 0.542,
        "ci95": [
         0.5039958333333333,
         0.5801666666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.6738333333333334,
        "ci95": [
         0.6345000000000003,
         0.7108375000000005
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.6323333333333333,
        "ci95": [
         0.5971624999999997,
         0.6673374999999998
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.6733333333333333,
        "ci95": [
         0.6371624999999996,
         0.7074999999999996
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.6265,
        "ci95": [
         0.588495833333333,
         0.6626666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.8268333333333334,
        "ci95": [
         0.7975000000000003,
         0.8538333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.6858333333333333,
        "ci95": [
         0.6511666666666668,
         0.7183374999999996
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.756,
        "ci95": [
         0.7251624999999995,
         0.7849999999999993
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.36850000000000005,
        "ci95": [
         0.3324958333333332,
         0.4045041666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.21566666666666662,
        "ci95": [
         0.19666249999999996,
         0.23517083333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel1",
        "win_a": 0.7193333333333334,
        "ci95": [
         0.6809958333333328,
         0.7554999999999998
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel2",
        "win_a": 0.6671666666666667,
        "ci95": [
         0.6240000000000003,
         0.7091666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel3",
        "win_a": 0.6835,
        "ci95": [
         0.6393291666666665,
         0.7275041666666662
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel4",
        "win_a": 0.7056666666666668,
        "ci95": [
         0.6603333333333335,
         0.749004166666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.38549999999999995,
        "ci95": [
         0.3596666666666668,
         0.4106708333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.4896666666666667,
        "ci95": [
         0.4698333333333332,
         0.5089999999999996
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.404,
        "ci95": [
         0.38350000000000006,
         0.42317083333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.7406666666666666,
        "ci95": [
         0.7253333333333335,
         0.7558333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.48066666666666674,
        "ci95": [
         0.4555000000000001,
         0.5038375000000003
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.5976666666666667,
        "ci95": [
         0.5731666666666666,
         0.6214999999999997
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.237,
        "ci95": [
         0.20750000000000013,
         0.2673333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.19516666666666665,
        "ci95": [
         0.1654958333333332,
         0.2271666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel1",
        "win_a": 0.5963333333333333,
        "ci95": [
         0.5571666666666668,
         0.6366750000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel2",
        "win_a": 0.5351666666666667,
        "ci95": [
         0.49416666666666664,
         0.5765
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "rel3",
        "win_a": 0.5289999999999999,
        "ci95": [
         0.4881625,
         0.5708375000000002
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "rel4",
        "win_a": 0.5411666666666667,
        "ci95": [
         0.5008333333333336,
         0.5828374999999996
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.6279999999999999,
        "ci95": [
         0.6070000000000002,
         0.6478375000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.5444999999999999,
        "ci95": [
         0.5235000000000001,
         0.565
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.7971666666666666,
        "ci95": [
         0.7766666666666666,
         0.8176666666666671
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.6496666666666666,
        "ci95": [
         0.6333333333333332,
         0.6646666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.7383333333333333,
        "ci95": [
         0.7211666666666666,
         0.7553375000000003
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.3,
        "ci95": [
         0.2701666666666668,
         0.3305000000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.2338333333333333,
        "ci95": [
         0.20616249999999986,
         0.26233333333333325
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel1",
        "win_a": 0.6333333333333333,
        "ci95": [
         0.5973291666666667,
         0.6695
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel2",
        "win_a": 0.5769999999999998,
        "ci95": [
         0.5388333333333328,
         0.6153333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel3",
        "win_a": 0.5751666666666666,
        "ci95": [
         0.536833333333333,
         0.6143333333333331
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel4",
        "win_a": 0.5904999999999999,
        "ci95": [
         0.5518333333333332,
         0.6301666666666664
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.4088333333333333,
        "ci95": [
         0.3953333333333337,
         0.4225000000000004
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.7231666666666666,
        "ci95": [
         0.7050000000000002,
         0.7414999999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.5065000000000001,
        "ci95": [
         0.4905000000000001,
         0.5220000000000004
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.6276666666666667,
        "ci95": [
         0.6119999999999998,
         0.643
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.26966666666666667,
        "ci95": [
         0.23766666666666686,
         0.3018333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.22050000000000003,
        "ci95": [
         0.19083333333333338,
         0.2511666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel1",
        "win_a": 0.5863333333333333,
        "ci95": [
         0.5485000000000003,
         0.6253333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel2",
        "win_a": 0.5261666666666667,
        "ci95": [
         0.4875,
         0.5646666666666664
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "rel3",
        "win_a": 0.5183333333333333,
        "ci95": [
         0.47916249999999994,
         0.5576708333333333
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "rel4",
        "win_a": 0.5295000000000001,
        "ci95": [
         0.49083333333333307,
         0.5683374999999999
        ],
        "resolved": false
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.7685,
        "ci95": [
         0.7515000000000003,
         0.786004166666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.6010000000000001,
        "ci95": [
         0.5871624999999997,
         0.6156666666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6873333333333332,
        "ci95": [
         0.6720000000000005,
         0.7028333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.32650000000000007,
        "ci95": [
         0.2931666666666668,
         0.36016666666666675
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.25833333333333336,
        "ci95": [
         0.2255,
         0.29300416666666673
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel1",
        "win_a": 0.6336666666666667,
        "ci95": [
         0.5971666666666667,
         0.6708333333333335
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel2",
        "win_a": 0.5743333333333333,
        "ci95": [
         0.5361625,
         0.6143333333333331
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel3",
        "win_a": 0.5726666666666667,
        "ci95": [
         0.5335000000000001,
         0.6128375000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel4",
        "win_a": 0.59,
        "ci95": [
         0.5516624999999997,
         0.6299999999999999
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.29633333333333334,
        "ci95": [
         0.27466666666666684,
         0.3175000000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.4061666666666667,
        "ci95": [
         0.38116666666666676,
         0.43183333333333307
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.108,
        "ci95": [
         0.09099583333333332,
         0.1265
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.08066666666666668,
        "ci95": [
         0.06383333333333342,
         0.0995041666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel1",
        "win_a": 0.5098333333333332,
        "ci95": [
         0.4704999999999999,
         0.549666666666667
        ],
        "resolved": false
       },
       {
        "a": "release_s2004",
        "b": "rel2",
        "win_a": 0.43600000000000005,
        "ci95": [
         0.3973291666666664,
         0.4758333333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel3",
        "win_a": 0.42233333333333334,
        "ci95": [
         0.3831666666666667,
         0.463
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel4",
        "win_a": 0.4248333333333333,
        "ci95": [
         0.38533333333333325,
         0.46600416666666683
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.6338333333333332,
        "ci95": [
         0.6198291666666665,
         0.6475000000000001
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.26766666666666666,
        "ci95": [
         0.23916666666666675,
         0.2981666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.2105,
        "ci95": [
         0.18416666666666665,
         0.23867083333333325
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel1",
        "win_a": 0.593,
        "ci95": [
         0.5581624999999998,
         0.6291666666666663
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel2",
        "win_a": 0.5301666666666666,
        "ci95": [
         0.4926666666666663,
         0.5683458333333331
        ],
        "resolved": false
       },
       {
        "a": "robust_s2001",
        "b": "rel3",
        "win_a": 0.5268333333333333,
        "ci95": [
         0.4895,
         0.5658333333333332
        ],
        "resolved": false
       },
       {
        "a": "robust_s2001",
        "b": "rel4",
        "win_a": 0.536,
        "ci95": [
         0.49883333333333324,
         0.5750041666666665
        ],
        "resolved": false
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.2006666666666667,
        "ci95": [
         0.17199583333333335,
         0.23150416666666662
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.15316666666666667,
        "ci95": [
         0.1306666666666667,
         0.17666666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel1",
        "win_a": 0.5369999999999999,
        "ci95": [
         0.5006666666666669,
         0.5733333333333335
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel2",
        "win_a": 0.4688333333333334,
        "ci95": [
         0.43049999999999994,
         0.5071666666666672
        ],
        "resolved": false
       },
       {
        "a": "robust_s2002",
        "b": "rel3",
        "win_a": 0.4551666666666667,
        "ci95": [
         0.4161666666666667,
         0.49416666666666637
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel4",
        "win_a": 0.4595000000000001,
        "ci95": [
         0.42099999999999993,
         0.49799999999999994
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.3388333333333334,
        "ci95": [
         0.3055,
         0.37283333333333296
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel1",
        "win_a": 0.7766666666666666,
        "ci95": [
         0.7453291666666666,
         0.8086708333333336
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel2",
        "win_a": 0.7468333333333332,
        "ci95": [
         0.7126666666666669,
         0.7810041666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel3",
        "win_a": 0.7885000000000001,
        "ci95": [
         0.7553291666666664,
         0.8208333333333336
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel4",
        "win_a": 0.8504999999999999,
        "ci95": [
         0.822333333333333,
         0.8775041666666665
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel1",
        "win_a": 0.8160000000000001,
        "ci95": [
         0.7856666666666668,
         0.8445041666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel2",
        "win_a": 0.8006666666666667,
        "ci95": [
         0.7663333333333338,
         0.8326666666666668
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel3",
        "win_a": 0.8263333333333333,
        "ci95": [
         0.7935000000000006,
         0.8576708333333337
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel4",
        "win_a": 0.8963333333333332,
        "ci95": [
         0.8721666666666668,
         0.9193333333333332
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel2",
        "win_a": 0.2725,
        "ci95": [
         0.24466250000000003,
         0.30200000000000005
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel3",
        "win_a": 0.3461666666666667,
        "ci95": [
         0.3171666666666667,
         0.3768333333333334
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel4",
        "win_a": 0.39966666666666667,
        "ci95": [
         0.3713333333333333,
         0.42950416666666663
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel3",
        "win_a": 0.4921666666666666,
        "ci95": [
         0.46432916666666646,
         0.5201666666666666
        ],
        "resolved": false
       },
       {
        "a": "rel2",
        "b": "rel4",
        "win_a": 0.5393333333333333,
        "ci95": [
         0.5096624999999997,
         0.5701708333333333
        ],
        "resolved": true
       },
       {
        "a": "rel3",
        "b": "rel4",
        "win_a": 0.6018333333333333,
        "ci95": [
         0.5745000000000003,
         0.6295000000000001
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 101,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        8.534495833333333,
        9.084337499999998
       ],
       "nonoise_s2002": [
        8.249829166666663,
        8.798016666666665
       ],
       "nonoise_s2003": [
        6.054995833333337,
        6.817183333333334
       ],
       "nonoise_s2004": [
        8.703333333333337,
        9.326179166666664
       ],
       "release_s2001": [
        7.320141666666672,
        7.784170833333332
       ],
       "release_s2002": [
        8.633295833333332,
        9.21384583333333
       ],
       "release_s2003": [
        7.553650000000003,
        8.131354166666666
       ],
       "release_s2004": [
        11.365991666666659,
        11.881999999999994
       ],
       "robust_s2001": [
        8.7101625,
        9.21350833333333
       ],
       "robust_s2002": [
        10.164800000000003,
        10.759195833333324
       ],
       "robust_s2003": [
        4.883333333333333,
        5.341179166666664
       ],
       "robust_s2004": [
        3.729612499999998,
        4.269708333333332
       ],
       "rel1": [
        10.1661625,
        10.991699999999998
       ],
       "rel2": [
        8.757970833333335,
        9.61568333333333
       ],
       "rel3": [
        8.794829166666668,
        9.631516666666672
       ],
       "rel4": [
        9.38712916666667,
        10.141541666666662
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.1974434689158415,
      "nonoise_s2002": 1.2299436555152614,
      "nonoise_s2003": 1.1213571800962263,
      "nonoise_s2004": 1.223669210193294,
      "release_s2001": 1.2801968037325298,
      "release_s2002": 1.2183985549644318,
      "release_s2003": 1.2583808805669334,
      "release_s2004": 1.4824220322835575,
      "robust_s2001": 1.2768470013738362,
      "robust_s2002": 1.3065494887744562,
      "robust_s2003": 1.1095216892607302,
      "robust_s2004": 1.1418129476635546,
      "rel1": 3.4244586215712407,
      "rel2": 3.2020407060368736,
      "rel3": 2.7077604658656367,
      "rel4": 2.386174628753981
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.7,
       "kendall_ci95": [
        0.5166666666666667,
        0.75
       ],
       "spearman": 0.8794117647058823,
       "spearman_ci95": [
        0.6852941176470588,
        0.9058823529411765
       ],
       "delta_tau_vs_nominal": 0.1499999999999999,
       "delta_tau_ci95": [
        -0.033333333333333326,
        0.24999999999999994
       ],
       "bootstrap_frac_delta_le_0": 0.0616
      },
      "id": {
       "kendall_tau_b": 0.4666666666666667,
       "kendall_ci95": [
        0.2928895930645031,
        0.6
       ],
       "spearman": 0.6029411764705882,
       "spearman_ci95": [
        0.37644072452408933,
        0.7314203598987858
       ],
       "delta_tau_vs_nominal": -0.02706150449920991,
       "delta_tau_ci95": [
        -0.18868504565365626,
        0.17440921188768466
       ],
       "bootstrap_frac_delta_le_0": 0.517
      },
      "ood": {
       "kendall_tau_b": 0.4166666666666667,
       "kendall_ci95": [
        0.26666666666666666,
        0.6166666666666667
       ],
       "spearman": 0.5970588235294118,
       "spearman_ci95": [
        0.37941176470588234,
        0.8058823529411765
       ],
       "delta_tau_vs_nominal": -0.11053460084943884,
       "delta_tau_ci95": [
        -0.25,
        0.08333333333333337
       ],
       "bootstrap_frac_delta_le_0": 0.845
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 120,
      "method_correct": 102,
      "base_correct": 93,
      "discordant": 39,
      "discordant_method_correct": 24,
      "discordant_base_correct": 15
     },
     "tau_vs_primary_tr": {
      "value": 1.0,
      "ci95": [
       1.0,
       1.0
      ]
     }
    },
    "paper_tr": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 5.433999999999998,
       "nonoise_s2002": 5.925166666666663,
       "nonoise_s2003": 7.691166666666665,
       "nonoise_s2004": 7.043333333333332,
       "release_s2001": 5.672999999999999,
       "release_s2002": 5.655833333333333,
       "release_s2003": 5.130166666666668,
       "release_s2004": 9.384999999999994,
       "robust_s2001": 5.513999999999996,
       "robust_s2002": 6.756166666666667,
       "robust_s2003": 7.853500000000005,
       "robust_s2004": 6.206999999999998,
       "rel1": 15.603000000000002,
       "rel2": 14.529333333333325,
       "rel3": 13.898000000000001,
       "rel4": 13.701333333333332
      },
      "order": [
       "release_s2003",
       "nonoise_s2001",
       "robust_s2001",
       "release_s2002",
       "release_s2001",
       "nonoise_s2002",
       "robust_s2004",
       "robust_s2002",
       "nonoise_s2004",
       "nonoise_s2003",
       "robust_s2003",
       "release_s2004",
       "rel4",
       "rel3",
       "rel2",
       "rel1"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.8753333333333333,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "ood": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 1.0,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "all": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.9376666666666666,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       }
      },
      "common_success_units": 2813,
      "mean_time_common_success": {
       "nonoise_s2001": 4.54799146890386,
       "nonoise_s2002": 4.561749018980352,
       "nonoise_s2003": 4.602630646594089,
       "nonoise_s2004": 4.583434043005188,
       "release_s2001": 4.561464627230672,
       "release_s2002": 4.552399569417165,
       "release_s2003": 4.54191254980404,
       "release_s2004": 4.631852114111599,
       "robust_s2001": 4.552186279122278,
       "robust_s2002": 4.5765019439099905,
       "robust_s2003": 4.5967650082117295,
       "robust_s2004": 4.563064339277035,
       "rel1": 5.329221482722733,
       "rel2": 5.048524705108442,
       "rel3": 4.964948458049461,
       "rel4": 4.951937433667256
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.5436666666666667,
        "ci95": [
         0.5270000000000001,
         0.5618333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.6591666666666667,
        "ci95": [
         0.6325000000000001,
         0.6849999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.6456666666666666,
        "ci95": [
         0.6213333333333334,
         0.6703333333333331
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.5116666666666667,
        "ci95": [
         0.4939999999999998,
         0.5316666666666665
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.5243333333333333,
        "ci95": [
         0.5101666666666668,
         0.5376708333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.4648333333333334,
        "ci95": [
         0.4431666666666668,
         0.48717083333333366
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.8066666666666666,
        "ci95": [
         0.7859999999999997,
         0.8256666666666663
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.5003333333333334,
        "ci95": [
         0.4853291666666662,
         0.5174999999999998
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.6213333333333333,
        "ci95": [
         0.6033333333333333,
         0.6400041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.7160000000000001,
        "ci95": [
         0.6984999999999999,
         0.7334999999999997
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.5723333333333332,
        "ci95": [
         0.5531666666666666,
         0.5928333333333329
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.634,
        "ci95": [
         0.602495833333333,
         0.664833333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5981666666666666,
        "ci95": [
         0.5698333333333334,
         0.625833333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.4691666666666668,
        "ci95": [
         0.4536624999999999,
         0.48583333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.47866666666666674,
        "ci95": [
         0.4621666666666666,
         0.49299999999999994
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.42100000000000004,
        "ci95": [
         0.39283333333333326,
         0.4489999999999998
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.7856666666666665,
        "ci95": [
         0.755,
         0.8136666666666662
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.4558333333333333,
        "ci95": [
         0.44183333333333336,
         0.4683333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.5785,
        "ci95": [
         0.5590000000000002,
         0.5974999999999998
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.6745000000000001,
        "ci95": [
         0.6506666666666665,
         0.697
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.5256666666666667,
        "ci95": [
         0.5025,
         0.5486666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel3",
        "win_a": 0.9998333333333332,
        "ci95": [
         0.9994999999999998,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel4",
        "win_a": 0.9975,
        "ci95": [
         0.9933333333333333,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.42566666666666675,
        "ci95": [
         0.3933291666666667,
         0.4576666666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.3671666666666667,
        "ci95": [
         0.3326666666666668,
         0.4025041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.33816666666666667,
        "ci95": [
         0.31382916666666666,
         0.3620000000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.3426666666666667,
        "ci95": [
         0.3153333333333337,
         0.3708333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.6366666666666667,
        "ci95": [
         0.598495833333333,
         0.6729999999999996
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.3625,
        "ci95": [
         0.3316625000000001,
         0.3945041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.4106666666666667,
        "ci95": [
         0.37850000000000006,
         0.44383749999999983
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.49416666666666664,
        "ci95": [
         0.4555,
         0.5316666666666666
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.385,
        "ci95": [
         0.35600000000000015,
         0.4133333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel1",
        "win_a": 0.9781666666666669,
        "ci95": [
         0.9625000000000002,
         0.9908375000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel2",
        "win_a": 0.9561666666666667,
        "ci95": [
         0.9324958333333335,
         0.9761666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel3",
        "win_a": 0.953,
        "ci95": [
         0.9288291666666664,
         0.9731666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel4",
        "win_a": 0.9519999999999998,
        "ci95": [
         0.9274999999999997,
         0.9725
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.37766666666666665,
        "ci95": [
         0.34533333333333327,
         0.4114999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.37583333333333335,
        "ci95": [
         0.3556624999999999,
         0.3943333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.32866666666666666,
        "ci95": [
         0.3066666666666664,
         0.3508374999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.7308333333333333,
        "ci95": [
         0.7116624999999996,
         0.7490041666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.37016666666666664,
        "ci95": [
         0.34032916666666646,
         0.40016666666666656
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.4709999999999999,
        "ci95": [
         0.448,
         0.49316666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.5628333333333334,
        "ci95": [
         0.5363333333333333,
         0.5878333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.41483333333333333,
        "ci95": [
         0.3941666666666664,
         0.43333333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel1",
        "win_a": 0.9998333333333332,
        "ci95": [
         0.9994999999999998,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel2",
        "win_a": 0.9993333333333334,
        "ci95": [
         0.9986666666666664,
         0.9998333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel3",
        "win_a": 0.9976666666666667,
        "ci95": [
         0.9939999999999998,
         0.9998333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel4",
        "win_a": 0.9975,
        "ci95": [
         0.9936624999999997,
         0.9998333333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.5088333333333332,
        "ci95": [
         0.48533333333333334,
         0.5301666666666666
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.4528333333333333,
        "ci95": [
         0.4256625,
         0.4799999999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.7746666666666667,
        "ci95": [
         0.7374958333333331,
         0.8078333333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.48850000000000005,
        "ci95": [
         0.4725000000000003,
         0.5016708333333336
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.6051666666666666,
        "ci95": [
         0.5785000000000001,
         0.6303333333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.6981666666666666,
        "ci95": [
         0.6681666666666667,
         0.7253333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.5556666666666666,
        "ci95": [
         0.5273333333333335,
         0.5835041666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel2",
        "win_a": 0.9953333333333334,
        "ci95": [
         0.9869999999999999,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel3",
        "win_a": 0.9878333333333335,
        "ci95": [
         0.9693333333333334,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel4",
        "win_a": 0.9856666666666666,
        "ci95": [
         0.9656625,
         0.9995
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.4401666666666666,
        "ci95": [
         0.41616249999999966,
         0.4646666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.8136666666666665,
        "ci95": [
         0.7973291666666661,
         0.8303333333333329
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.47800000000000004,
        "ci95": [
         0.45733333333333337,
         0.5
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.5973333333333333,
        "ci95": [
         0.5825000000000002,
         0.6130000000000003
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.6930000000000001,
        "ci95": [
         0.675333333333333,
         0.7101708333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.5478333333333334,
        "ci95": [
         0.5324958333333332,
         0.5646666666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.8035,
        "ci95": [
         0.7851666666666666,
         0.8205041666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.5368333333333332,
        "ci95": [
         0.5133333333333332,
         0.5599999999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6485,
        "ci95": [
         0.6214999999999999,
         0.6750041666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.7301666666666667,
        "ci95": [
         0.7035,
         0.7543333333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.6010000000000001,
        "ci95": [
         0.5775000000000001,
         0.6236708333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.21666666666666667,
        "ci95": [
         0.18916666666666668,
         0.2468374999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.252,
        "ci95": [
         0.22749999999999987,
         0.27816666666666656
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.337,
        "ci95": [
         0.31182916666666655,
         0.3636666666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.22699999999999998,
        "ci95": [
         0.21116666666666664,
         0.24216666666666645
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel1",
        "win_a": 0.9964999999999999,
        "ci95": [
         0.9934999999999995,
         0.9986666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel2",
        "win_a": 0.9825,
        "ci95": [
         0.9728333333333334,
         0.9904999999999997
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel3",
        "win_a": 0.9779999999999999,
        "ci95": [
         0.9641666666666666,
         0.9880041666666669
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel4",
        "win_a": 0.9770000000000001,
        "ci95": [
         0.9631666666666664,
         0.9873333333333331
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.62,
        "ci95": [
         0.597,
         0.6418333333333331
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.7099999999999999,
        "ci95": [
         0.6861666666666667,
         0.7316708333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.5670000000000001,
        "ci95": [
         0.540833333333333,
         0.593833333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel3",
        "win_a": 0.9998333333333332,
        "ci95": [
         0.9994999999999998,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel4",
        "win_a": 0.9979999999999999,
        "ci95": [
         0.9946666666666668,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.5964999999999999,
        "ci95": [
         0.5828291666666663,
         0.6098333333333336
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.45183333333333336,
        "ci95": [
         0.4298291666666669,
         0.4743333333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.35883333333333334,
        "ci95": [
         0.33566666666666684,
         0.38316666666666654
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel2",
        "win_a": 0.12983333333333336,
        "ci95": [
         0.10132916666666669,
         0.1595041666666666
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel3",
        "win_a": 0.12150000000000001,
        "ci95": [
         0.09400000000000003,
         0.15050416666666663
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel4",
        "win_a": 0.12016666666666666,
        "ci95": [
         0.09316249999999998,
         0.1489999999999999
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel3",
        "win_a": 0.26716666666666666,
        "ci95": [
         0.23616666666666675,
         0.29816666666666675
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel4",
        "win_a": 0.2666666666666667,
        "ci95": [
         0.23533333333333337,
         0.2991666666666669
        ],
        "resolved": true
       },
       {
        "a": "rel3",
        "b": "rel4",
        "win_a": 0.40683333333333344,
        "ci95": [
         0.3761666666666668,
         0.43733750000000027
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 114,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        5.300154166666668,
        5.58033333333333
       ],
       "nonoise_s2002": [
        5.7769999999999975,
        6.089508333333328
       ],
       "nonoise_s2003": [
        7.3503249999999944,
        8.04953333333333
       ],
       "nonoise_s2004": [
        6.848154166666666,
        7.25333333333333
       ],
       "release_s2001": [
        5.436304166666665,
        5.946670833333333
       ],
       "release_s2002": [
        5.544829166666666,
        5.763999999999999
       ],
       "release_s2003": [
        4.910487500000001,
        5.351837500000006
       ],
       "release_s2004": [
        9.197333333333331,
        9.57050416666666
       ],
       "robust_s2001": [
        5.334666666666666,
        5.708999999999991
       ],
       "robust_s2002": [
        6.615666666666667,
        6.908004166666667
       ],
       "robust_s2003": [
        7.684637500000002,
        8.023008333333335
       ],
       "robust_s2004": [
        6.046645833333332,
        6.373333333333329
       ],
       "rel1": [
        15.510329166666665,
        15.691004166666671
       ],
       "rel2": [
        14.47116249999999,
        14.583333333333327
       ],
       "rel3": [
        13.834495833333337,
        13.959337500000004
       ],
       "rel4": [
        13.615320833333332,
        13.787670833333333
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.4297333930870426,
      "nonoise_s2002": 1.3689849212597311,
      "nonoise_s2003": 1.3189988894973592,
      "nonoise_s2004": 1.5368095253172758,
      "release_s2001": 1.3870119793348334,
      "release_s2002": 1.4301077346805902,
      "release_s2003": 1.397651929474086,
      "release_s2004": 1.471583019610088,
      "robust_s2001": 1.4791811392007943,
      "robust_s2002": 1.5298819440530507,
      "robust_s2003": 1.290254979996148,
      "robust_s2004": 1.2908014535135748,
      "rel1": 3.4681872905832414,
      "rel2": 3.3586754052510397,
      "rel3": 2.992676310584667,
      "rel4": 2.7089590923058027
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.5,
       "kendall_ci95": [
        0.4166666666666667,
        0.5666666666666667
       ],
       "spearman": 0.6647058823529411,
       "spearman_ci95": [
        0.5823529411764706,
        0.7205882352941176
       ],
       "delta_tau_vs_nominal": -0.050000000000000044,
       "delta_tau_ci95": [
        -0.09999999999999998,
        0.016666666666666663
       ],
       "bootstrap_frac_delta_le_0": 0.952
      },
      "id": {
       "kendall_tau_b": 0.5833333333333334,
       "kendall_ci95": [
        0.3192721980920013,
        0.6778302010921357
       ],
       "spearman": 0.7147058823529412,
       "spearman_ci95": [
        0.42055918346463966,
        0.7970588235294118
       ],
       "delta_tau_vs_nominal": 0.08960516216745679,
       "delta_tau_ci95": [
        -0.009718496175125038,
        0.1481426799345657
       ],
       "bootstrap_frac_delta_le_0": 0.0414
      },
      "ood": {
       "kendall_tau_b": 0.48333333333333334,
       "kendall_ci95": [
        0.4,
        0.5333333333333333
       ],
       "spearman": 0.6088235294117647,
       "spearman_ci95": [
        0.5411764705882353,
        0.6696101886397335
       ],
       "delta_tau_vs_nominal": -0.043867934182772184,
       "delta_tau_ci95": [
        -0.10000000000000003,
        0.0
       ],
       "bootstrap_frac_delta_le_0": 0.993
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 120,
      "method_correct": 90,
      "base_correct": 93,
      "discordant": 3,
      "discordant_method_correct": 0,
      "discordant_base_correct": 3
     },
     "tau_vs_primary_tr": {
      "value": 0.3,
      "ci95": [
       0.11666666666666667,
       0.35
      ]
     }
    },
    "tr_rate_half": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 9.948499999999997,
       "nonoise_s2002": 9.395666666666665,
       "nonoise_s2003": 6.901000000000001,
       "nonoise_s2004": 9.704166666666664,
       "release_s2001": 8.638000000000003,
       "release_s2002": 9.98,
       "release_s2003": 9.13383333333333,
       "release_s2004": 11.780000000000003,
       "robust_s2001": 10.183833333333332,
       "robust_s2002": 11.123333333333335,
       "robust_s2003": 5.229666666666666,
       "robust_s2004": 4.332833333333334,
       "rel1": 7.531666666666664,
       "rel2": 6.457833333333332,
       "rel3": 7.174833333333333,
       "rel4": 8.484833333333333
      },
      "order": [
       "robust_s2004",
       "robust_s2003",
       "rel2",
       "nonoise_s2003",
       "rel3",
       "rel1",
       "rel4",
       "release_s2001",
       "release_s2003",
       "nonoise_s2002",
       "nonoise_s2004",
       "nonoise_s2001",
       "release_s2002",
       "robust_s2001",
       "robust_s2002",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 0.6033333333333334,
        "nonoise_s2002": 0.654,
        "nonoise_s2003": 0.784,
        "nonoise_s2004": 0.614,
        "release_s2001": 0.684,
        "release_s2002": 0.6133333333333333,
        "release_s2003": 0.6106666666666667,
        "release_s2004": 0.582,
        "robust_s2001": 0.6073333333333333,
        "robust_s2002": 0.598,
        "robust_s2003": 0.838,
        "robust_s2004": 0.8766666666666667,
        "rel1": 0.8573333333333333,
        "rel2": 0.9966666666666667,
        "rel3": 0.98,
        "rel4": 0.9233333333333333
       },
       "ood": {
        "nonoise_s2001": 0.5413333333333333,
        "nonoise_s2002": 0.5613333333333334,
        "nonoise_s2003": 0.7946666666666666,
        "nonoise_s2004": 0.572,
        "release_s2001": 0.6193333333333333,
        "release_s2002": 0.5386666666666666,
        "release_s2003": 0.582,
        "release_s2004": 0.49466666666666664,
        "robust_s2001": 0.5406666666666666,
        "robust_s2002": 0.506,
        "robust_s2003": 0.8586666666666667,
        "robust_s2004": 0.912,
        "rel1": 0.9946666666666667,
        "rel2": 0.9993333333333333,
        "rel3": 0.944,
        "rel4": 0.854
       },
       "all": {
        "nonoise_s2001": 0.5723333333333334,
        "nonoise_s2002": 0.6076666666666667,
        "nonoise_s2003": 0.7893333333333333,
        "nonoise_s2004": 0.593,
        "release_s2001": 0.6516666666666666,
        "release_s2002": 0.576,
        "release_s2003": 0.5963333333333334,
        "release_s2004": 0.5383333333333333,
        "robust_s2001": 0.574,
        "robust_s2002": 0.552,
        "robust_s2003": 0.8483333333333334,
        "robust_s2004": 0.8943333333333333,
        "rel1": 0.926,
        "rel2": 0.998,
        "rel3": 0.962,
        "rel4": 0.8886666666666667
       }
      },
      "common_success_units": 1436,
      "mean_time_common_success": {
       "nonoise_s2001": 5.541852370693159,
       "nonoise_s2002": 5.283844014645287,
       "nonoise_s2003": 4.677924792082529,
       "nonoise_s2004": 5.3366295287702075,
       "release_s2001": 4.984888577361625,
       "release_s2002": 5.546866296061566,
       "release_s2003": 5.2302228379216364,
       "release_s2004": 6.212883011876374,
       "robust_s2001": 5.46727019598225,
       "robust_s2002": 5.92332869377973,
       "robust_s2003": 4.521727017622472,
       "robust_s2004": 4.480431756518345,
       "rel1": 4.929526473154264,
       "rel2": 4.751880226361054,
       "rel3": 4.739902513272915,
       "rel4": 4.791991650892167
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.4611666666666667,
        "ci95": [
         0.44116666666666665,
         0.4815
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.2831666666666667,
        "ci95": [
         0.24999999999999992,
         0.31766666666666654
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.4846666666666667,
        "ci95": [
         0.4548291666666664,
         0.5155000000000001
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.37183333333333335,
        "ci95": [
         0.3571666666666666,
         0.38683333333333325
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.5025,
        "ci95": [
         0.48366666666666663,
         0.5211666666666667
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.435,
        "ci95": [
         0.4203333333333336,
         0.4494999999999997
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.621,
        "ci95": [
         0.591166666666667,
         0.6513333333333337
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.5119999999999999,
        "ci95": [
         0.49633333333333335,
         0.5281708333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.5913333333333334,
        "ci95": [
         0.5768333333333335,
         0.6065000000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.2035,
        "ci95": [
         0.17216666666666666,
         0.23749999999999996
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.16916666666666666,
        "ci95": [
         0.14016666666666666,
         0.19867083333333327
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel1",
        "win_a": 0.3795,
        "ci95": [
         0.3308333333333332,
         0.43033333333333323
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel2",
        "win_a": 0.3098333333333333,
        "ci95": [
         0.25933333333333325,
         0.3621708333333331
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel3",
        "win_a": 0.3363333333333333,
        "ci95": [
         0.2865000000000001,
         0.3888333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel4",
        "win_a": 0.39049999999999996,
        "ci95": [
         0.3414999999999999,
         0.4423374999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.31233333333333335,
        "ci95": [
         0.2734958333333333,
         0.35200416666666673
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5389999999999999,
        "ci95": [
         0.5161624999999997,
         0.5608333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.4331666666666667,
        "ci95": [
         0.4161666666666669,
         0.4501666666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.5618333333333334,
        "ci95": [
         0.5458333333333337,
         0.5776666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.4896666666666667,
        "ci95": [
         0.47183333333333316,
         0.5060041666666668
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.6963333333333335,
        "ci95": [
         0.6761666666666668,
         0.7165000000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.5665000000000001,
        "ci95": [
         0.5498333333333337,
         0.5825041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.6461666666666668,
        "ci95": [
         0.6285,
         0.6631666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.21466666666666667,
        "ci95": [
         0.18166666666666673,
         0.24933750000000007
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.17683333333333331,
        "ci95": [
         0.14616249999999997,
         0.20866666666666656
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel1",
        "win_a": 0.38533333333333336,
        "ci95": [
         0.3368333333333334,
         0.43600000000000005
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel2",
        "win_a": 0.32083333333333336,
        "ci95": [
         0.2703291666666665,
         0.373
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel3",
        "win_a": 0.3358333333333333,
        "ci95": [
         0.28532916666666663,
         0.38884166666666675
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel4",
        "win_a": 0.38699999999999996,
        "ci95": [
         0.33799583333333316,
         0.43700000000000006
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.6904999999999999,
        "ci95": [
         0.6476666666666666,
         0.730670833333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.6746666666666666,
        "ci95": [
         0.6386666666666665,
         0.7106666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.7173333333333333,
        "ci95": [
         0.6784916666666668,
         0.755
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.6843333333333335,
        "ci95": [
         0.6455000000000001,
         0.7228333333333337
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.7861666666666667,
        "ci95": [
         0.7546583333333332,
         0.8161666666666663
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.7278333333333333,
        "ci95": [
         0.6933333333333331,
         0.7613333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.7728333333333333,
        "ci95": [
         0.7428291666666665,
         0.8018375000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.33816666666666667,
        "ci95": [
         0.3020000000000001,
         0.37550000000000033
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.22016666666666665,
        "ci95": [
         0.19533333333333328,
         0.24649999999999972
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel1",
        "win_a": 0.525,
        "ci95": [
         0.4731666666666666,
         0.5768333333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "rel2",
        "win_a": 0.46716666666666656,
        "ci95": [
         0.4105000000000001,
         0.5256708333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "rel3",
        "win_a": 0.5141666666666667,
        "ci95": [
         0.4574958333333335,
         0.5721666666666667
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "rel4",
        "win_a": 0.5761666666666667,
        "ci95": [
         0.5225000000000003,
         0.6308333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.42016666666666663,
        "ci95": [
         0.39099999999999996,
         0.4481708333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.5071666666666668,
        "ci95": [
         0.48450000000000015,
         0.5290000000000001
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.456,
        "ci95": [
         0.43100000000000005,
         0.4796666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.6925,
        "ci95": [
         0.6738333333333332,
         0.7120041666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.5186666666666667,
        "ci95": [
         0.49150000000000005,
         0.5446708333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.5835,
        "ci95": [
         0.5553333333333331,
         0.6106708333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.21083333333333334,
        "ci95": [
         0.17766249999999995,
         0.24649999999999983
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.18266666666666664,
        "ci95": [
         0.14716666666666664,
         0.22033749999999996
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel1",
        "win_a": 0.39266666666666666,
        "ci95": [
         0.3396666666666666,
         0.44883333333333314
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel2",
        "win_a": 0.32399999999999995,
        "ci95": [
         0.2693291666666666,
         0.38100416666666653
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel3",
        "win_a": 0.33549999999999996,
        "ci95": [
         0.2826666666666665,
         0.39166666666666644
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel4",
        "win_a": 0.38633333333333336,
        "ci95": [
         0.33566249999999986,
         0.43816666666666654
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.6293333333333334,
        "ci95": [
         0.610329166666666,
         0.6478333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.564,
        "ci95": [
         0.5466666666666665,
         0.5806666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.7294999999999999,
        "ci95": [
         0.7071624999999996,
         0.7525041666666668
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.6613333333333334,
        "ci95": [
         0.6466666666666663,
         0.6763333333333327
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.7078333333333333,
        "ci95": [
         0.6925000000000004,
         0.7233333333333337
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.22599999999999998,
        "ci95": [
         0.1938333333333333,
         0.25950000000000006
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.18333333333333332,
        "ci95": [
         0.15316249999999992,
         0.21433749999999988
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel1",
        "win_a": 0.418,
        "ci95": [
         0.3703291666666668,
         0.4675000000000002
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel2",
        "win_a": 0.34333333333333327,
        "ci95": [
         0.2931666666666666,
         0.39616666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel3",
        "win_a": 0.3696666666666667,
        "ci95": [
         0.3193333333333334,
         0.42266666666666663
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel4",
        "win_a": 0.4295,
        "ci95": [
         0.3806666666666666,
         0.47983749999999986
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.4271666666666667,
        "ci95": [
         0.4141666666666669,
         0.43967083333333357
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.6498333333333333,
        "ci95": [
         0.6255000000000002,
         0.6753333333333331
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.5098333333333332,
        "ci95": [
         0.49350000000000005,
         0.5261666666666666
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.5920000000000001,
        "ci95": [
         0.5753333333333337,
         0.6090000000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.21566666666666662,
        "ci95": [
         0.18000000000000002,
         0.25299999999999995
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.18083333333333335,
        "ci95": [
         0.14732916666666668,
         0.21700000000000008
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel1",
        "win_a": 0.373,
        "ci95": [
         0.32349583333333354,
         0.42517083333333344
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel2",
        "win_a": 0.30383333333333334,
        "ci95": [
         0.25266666666666676,
         0.3578333333333335
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel3",
        "win_a": 0.31833333333333336,
        "ci95": [
         0.2679958333333334,
         0.3711666666666668
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel4",
        "win_a": 0.36766666666666664,
        "ci95": [
         0.3188333333333333,
         0.41833333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.6841666666666667,
        "ci95": [
         0.6605000000000001,
         0.7089999999999997
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.59,
        "ci95": [
         0.5749958333333332,
         0.6056708333333338
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6446666666666667,
        "ci95": [
         0.6288333333333331,
         0.6610041666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.2448333333333333,
        "ci95": [
         0.20833333333333331,
         0.2826666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.20099999999999998,
        "ci95": [
         0.16482916666666667,
         0.23900416666666663
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel1",
        "win_a": 0.41550000000000004,
        "ci95": [
         0.3666666666666666,
         0.46700416666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel2",
        "win_a": 0.3478333333333334,
        "ci95": [
         0.29600000000000015,
         0.40266666666666645
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel3",
        "win_a": 0.36883333333333335,
        "ci95": [
         0.31666666666666676,
         0.42433749999999976
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel4",
        "win_a": 0.42549999999999993,
        "ci95": [
         0.3755000000000001,
         0.4775041666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.36683333333333334,
        "ci95": [
         0.34016666666666673,
         0.3928333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.44049999999999995,
        "ci95": [
         0.4094999999999999,
         0.4708374999999999
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.1303333333333333,
        "ci95": [
         0.112,
         0.15016666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.11066666666666668,
        "ci95": [
         0.08950000000000001,
         0.13416666666666663
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel1",
        "win_a": 0.29466666666666663,
        "ci95": [
         0.24666666666666687,
         0.3440000000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel2",
        "win_a": 0.22683333333333333,
        "ci95": [
         0.18083333333333326,
         0.27600416666666655
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel3",
        "win_a": 0.2353333333333333,
        "ci95": [
         0.18916666666666662,
         0.28433749999999997
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel4",
        "win_a": 0.2743333333333333,
        "ci95": [
         0.22949583333333326,
         0.3220083333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.5888333333333332,
        "ci95": [
         0.5770000000000002,
         0.600833333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.19550000000000003,
        "ci95": [
         0.16383333333333344,
         0.22933333333333336
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.15533333333333332,
        "ci95": [
         0.1281666666666667,
         0.1836666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel1",
        "win_a": 0.36283333333333334,
        "ci95": [
         0.31616666666666654,
         0.4131666666666665
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel2",
        "win_a": 0.292,
        "ci95": [
         0.24400000000000016,
         0.3435041666666668
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel3",
        "win_a": 0.3106666666666667,
        "ci95": [
         0.26266666666666666,
         0.3615000000000001
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel4",
        "win_a": 0.36399999999999993,
        "ci95": [
         0.31783333333333347,
         0.4131666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.16683333333333333,
        "ci95": [
         0.1373333333333334,
         0.1991708333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.132,
        "ci95": [
         0.10883333333333335,
         0.1563374999999999
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel1",
        "win_a": 0.322,
        "ci95": [
         0.27516249999999975,
         0.3714999999999997
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel2",
        "win_a": 0.24983333333333335,
        "ci95": [
         0.20166666666666672,
         0.30116666666666625
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel3",
        "win_a": 0.26383333333333336,
        "ci95": [
         0.21582916666666666,
         0.31466666666666654
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel4",
        "win_a": 0.3098333333333334,
        "ci95": [
         0.26332916666666667,
         0.35917083333333344
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.3736666666666667,
        "ci95": [
         0.3394999999999999,
         0.40833333333333344
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel1",
        "win_a": 0.5883333333333334,
        "ci95": [
         0.5426625,
         0.6349999999999996
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel2",
        "win_a": 0.5568333333333334,
        "ci95": [
         0.5054958333333334,
         0.6076666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel3",
        "win_a": 0.6431666666666667,
        "ci95": [
         0.5943333333333335,
         0.6908374999999999
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel4",
        "win_a": 0.7546666666666666,
        "ci95": [
         0.7148291666666662,
         0.7931666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel1",
        "win_a": 0.6283333333333333,
        "ci95": [
         0.5846666666666668,
         0.6721708333333336
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel2",
        "win_a": 0.6156666666666666,
        "ci95": [
         0.5663333333333337,
         0.6643375
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel3",
        "win_a": 0.694,
        "ci95": [
         0.646833333333333,
         0.7398374999999999
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel4",
        "win_a": 0.8148333333333333,
        "ci95": [
         0.7831666666666667,
         0.8446708333333333
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel2",
        "win_a": 0.435,
        "ci95": [
         0.4063333333333334,
         0.46416666666666645
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel3",
        "win_a": 0.5236666666666667,
        "ci95": [
         0.4930000000000001,
         0.5550041666666665
        ],
        "resolved": false
       },
       {
        "a": "rel1",
        "b": "rel4",
        "win_a": 0.5948333333333333,
        "ci95": [
         0.5618291666666663,
         0.6276666666666669
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel3",
        "win_a": 0.634,
        "ci95": [
         0.6038333333333338,
         0.6631666666666667
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel4",
        "win_a": 0.7011666666666667,
        "ci95": [
         0.6696624999999994,
         0.7321666666666662
        ],
        "resolved": true
       },
       {
        "a": "rel3",
        "b": "rel4",
        "win_a": 0.7085,
        "ci95": [
         0.6836624999999995,
         0.7326666666666666
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 109,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        9.601812500000003,
        10.271
       ],
       "nonoise_s2002": [
        9.068154166666668,
        9.703004166666672
       ],
       "nonoise_s2003": [
        6.478287499999999,
        7.326183333333333
       ],
       "nonoise_s2004": [
        9.306966666666668,
        10.100004166666663
       ],
       "release_s2001": [
        8.367662499999996,
        8.8991875
       ],
       "release_s2002": [
        9.606666666666667,
        10.33135
       ],
       "release_s2003": [
        8.770329166666665,
        9.470687500000004
       ],
       "release_s2004": [
        11.475308333333336,
        12.075170833333337
       ],
       "robust_s2001": [
        9.8761625,
        10.47317083333333
       ],
       "robust_s2002": [
        10.786812499999996,
        11.4370125
       ],
       "robust_s2003": [
        4.946333333333335,
        5.515883333333334
       ],
       "robust_s2004": [
        4.025825000000002,
        4.638687500000001
       ],
       "rel1": [
        6.942966666666667,
        8.129174999999995
       ],
       "rel2": [
        5.879983333333336,
        7.05617083333333
       ],
       "rel3": [
        6.6456583333333334,
        7.740337499999998
       ],
       "rel4": [
        8.020787499999997,
        8.973741666666667
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.249680554061991,
      "nonoise_s2002": 1.235096300535357,
      "nonoise_s2003": 1.2040445458736904,
      "nonoise_s2004": 1.190929550518464,
      "release_s2001": 1.3185077999988961,
      "release_s2002": 1.1819150114868622,
      "release_s2003": 1.151825991925129,
      "release_s2004": 1.5375296036042085,
      "robust_s2001": 1.2414599094619352,
      "robust_s2002": 1.2917681459794341,
      "robust_s2003": 1.1981991971867954,
      "robust_s2004": 1.1469964806093647,
      "rel1": 3.0855576521166923,
      "rel2": 2.7068390632093,
      "rel3": 2.591260496206049,
      "rel4": 2.7762704131631257
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.13333333333333333,
       "kendall_ci95": [
        0.1,
        0.23333333333333334
       ],
       "spearman": 0.13529411764705881,
       "spearman_ci95": [
        0.08529411764705883,
        0.24411764705882352
       ],
       "delta_tau_vs_nominal": -0.41666666666666674,
       "delta_tau_ci95": [
        -0.5,
        -0.25
       ],
       "bootstrap_frac_delta_le_0": 1.0
      },
      "id": {
       "kendall_tau_b": -0.05,
       "kendall_ci95": [
        -0.13333333333333333,
        0.16666666666666666
       ],
       "spearman": -0.1588235294117647,
       "spearman_ci95": [
        -0.2516556972689988,
        0.2
       ],
       "delta_tau_vs_nominal": -0.5437281711658766,
       "delta_tau_ci95": [
        -0.6718718867117032,
        -0.201400481361677
       ],
       "bootstrap_frac_delta_le_0": 0.9952
      },
      "ood": {
       "kendall_tau_b": 0.1,
       "kendall_ci95": [
        0.0,
        0.18333333333333332
       ],
       "spearman": 0.12058823529411765,
       "spearman_ci95": [
        -0.020588235294117647,
        0.21176470588235294
       ],
       "delta_tau_vs_nominal": -0.42720126751610554,
       "delta_tau_ci95": [
        -0.5333333333333333,
        -0.3333333333333333
       ],
       "bootstrap_frac_delta_le_0": 1.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 120,
      "method_correct": 68,
      "base_correct": 93,
      "discordant": 73,
      "discordant_method_correct": 24,
      "discordant_base_correct": 49
     },
     "tau_vs_primary_tr": {
      "value": 0.43333333333333335,
      "ci95": [
       0.4,
       0.6
      ]
     }
    },
    "tr_rate_double": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 7.164333333333331,
       "nonoise_s2002": 7.1701666666666615,
       "nonoise_s2003": 6.754000000000001,
       "nonoise_s2004": 7.958500000000002,
       "release_s2001": 6.409166666666667,
       "release_s2002": 7.338166666666666,
       "release_s2003": 6.467999999999999,
       "release_s2004": 10.795000000000003,
       "robust_s2001": 7.353000000000003,
       "robust_s2002": 8.846666666666671,
       "robust_s2003": 5.9784999999999995,
       "robust_s2004": 4.775666666666665,
       "rel1": 13.640333333333336,
       "rel2": 12.118833333333335,
       "rel3": 11.60683333333333,
       "rel4": 11.622833333333334
      },
      "order": [
       "robust_s2004",
       "robust_s2003",
       "release_s2001",
       "release_s2003",
       "nonoise_s2003",
       "nonoise_s2001",
       "nonoise_s2002",
       "release_s2002",
       "robust_s2001",
       "nonoise_s2004",
       "robust_s2002",
       "release_s2004",
       "rel3",
       "rel4",
       "rel2",
       "rel1"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 0.9833333333333333,
        "nonoise_s2002": 0.9973333333333333,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 0.9813333333333333,
        "release_s2001": 1.0,
        "release_s2002": 0.9866666666666667,
        "release_s2003": 0.9846666666666667,
        "release_s2004": 0.978,
        "robust_s2001": 0.9846666666666667,
        "robust_s2002": 0.984,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.8733333333333333,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "ood": {
        "nonoise_s2001": 0.9846666666666667,
        "nonoise_s2002": 0.996,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 0.9933333333333333,
        "release_s2001": 1.0,
        "release_s2002": 0.9893333333333333,
        "release_s2003": 0.9946666666666667,
        "release_s2004": 0.9753333333333334,
        "robust_s2001": 0.9906666666666667,
        "robust_s2002": 0.9813333333333333,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 1.0,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "all": {
        "nonoise_s2001": 0.984,
        "nonoise_s2002": 0.9966666666666667,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 0.9873333333333333,
        "release_s2001": 1.0,
        "release_s2002": 0.988,
        "release_s2003": 0.9896666666666667,
        "release_s2004": 0.9766666666666667,
        "robust_s2001": 0.9876666666666667,
        "robust_s2002": 0.9826666666666667,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.9366666666666666,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       }
      },
      "common_success_units": 2735,
      "mean_time_common_success": {
       "nonoise_s2001": 5.120694700847814,
       "nonoise_s2002": 5.048665448865245,
       "nonoise_s2003": 4.7504570395680625,
       "nonoise_s2004": 5.075283357691721,
       "release_s2001": 4.9044972576214585,
       "release_s2002": 5.167641676888823,
       "release_s2003": 4.99817184338404,
       "release_s2004": 5.554808040380042,
       "robust_s2001": 5.0875685572842135,
       "robust_s2002": 5.411188297995266,
       "robust_s2003": 4.695173663587413,
       "robust_s2004": 4.648372935028355,
       "rel1": 5.322925054525762,
       "rel2": 5.055502745787012,
       "rel3": 4.997952474231476,
       "rel4": 5.004680076682807
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.4998333333333334,
        "ci95": [
         0.4791624999999998,
         0.5210000000000002
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.4675,
        "ci95": [
         0.4393333333333336,
         0.49533333333333324
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.5688333333333333,
        "ci95": [
         0.545666666666667,
         0.5923333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.42283333333333334,
        "ci95": [
         0.4039958333333333,
         0.4441666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.5126666666666667,
        "ci95": [
         0.49783333333333313,
         0.5274999999999999
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.44633333333333325,
        "ci95": [
         0.43083333333333335,
         0.4619999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.7733333333333333,
        "ci95": [
         0.7546666666666669,
         0.7911708333333337
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.5125,
        "ci95": [
         0.4995000000000003,
         0.5266666666666666
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.6326666666666666,
        "ci95": [
         0.6168333333333332,
         0.649
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.4538333333333334,
        "ci95": [
         0.4306666666666669,
         0.47833333333333344
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.36683333333333334,
        "ci95": [
         0.3441666666666668,
         0.39083333333333325
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel1",
        "win_a": 0.8335,
        "ci95": [
         0.812329166666666,
         0.8533333333333328
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel2",
        "win_a": 0.786,
        "ci95": [
         0.7629999999999998,
         0.8083333333333329
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel3",
        "win_a": 0.7786666666666665,
        "ci95": [
         0.7549999999999999,
         0.8011666666666662
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel4",
        "win_a": 0.7803333333333334,
        "ci95": [
         0.7568333333333331,
         0.8034999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.46133333333333326,
        "ci95": [
         0.42999583333333297,
         0.49299999999999994
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5773333333333333,
        "ci95": [
         0.5561666666666664,
         0.598333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.4378333333333334,
        "ci95": [
         0.4203333333333335,
         0.45617083333333364
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.521,
        "ci95": [
         0.5043333333333334,
         0.5358333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.44683333333333336,
        "ci95": [
         0.4258291666666668,
         0.4666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.7939999999999999,
        "ci95": [
         0.7733291666666663,
         0.8126666666666663
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.5193333333333334,
        "ci95": [
         0.5015000000000001,
         0.5363333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.646,
        "ci95": [
         0.6278333333333336,
         0.6638333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.43650000000000005,
        "ci95": [
         0.4111666666666668,
         0.4626708333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.34733333333333327,
        "ci95": [
         0.32333333333333336,
         0.37183333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel1",
        "win_a": 0.8233333333333334,
        "ci95": [
         0.8018333333333335,
         0.8434999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel2",
        "win_a": 0.7805000000000001,
        "ci95": [
         0.7575000000000002,
         0.803004166666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel3",
        "win_a": 0.7698333333333334,
        "ci95": [
         0.7463333333333335,
         0.7926708333333337
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel4",
        "win_a": 0.7685000000000001,
        "ci95": [
         0.7446666666666666,
         0.7918333333333328
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.5771666666666668,
        "ci95": [
         0.5444958333333328,
         0.6099999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.5178333333333333,
        "ci95": [
         0.4850000000000001,
         0.5518333333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.5391666666666666,
        "ci95": [
         0.5096624999999996,
         0.5685041666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.5025,
        "ci95": [
         0.4721666666666668,
         0.5326666666666667
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.755,
        "ci95": [
         0.7274999999999999,
         0.7808333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.5498333333333333,
        "ci95": [
         0.5173291666666663,
         0.5821708333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.6185,
        "ci95": [
         0.5898333333333339,
         0.6463333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.41816666666666663,
        "ci95": [
         0.38583333333333325,
         0.44966666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.2915,
        "ci95": [
         0.2706666666666668,
         0.3118375000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel1",
        "win_a": 0.8915000000000002,
        "ci95": [
         0.8678333333333341,
         0.9133333333333337
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel2",
        "win_a": 0.8381666666666666,
        "ci95": [
         0.8078291666666667,
         0.8664999999999996
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel3",
        "win_a": 0.835,
        "ci95": [
         0.8035000000000001,
         0.8638333333333331
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel4",
        "win_a": 0.8405,
        "ci95": [
         0.8090000000000004,
         0.8698333333333337
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.37899999999999995,
        "ci95": [
         0.3526666666666667,
         0.4063333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.4395,
        "ci95": [
         0.42016666666666663,
         0.4576666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.36616666666666664,
        "ci95": [
         0.3460000000000001,
         0.3858333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.7605,
        "ci95": [
         0.745,
         0.7756666666666663
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.4353333333333334,
        "ci95": [
         0.41000000000000003,
         0.46033333333333315
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.5543333333333333,
        "ci95": [
         0.5306666666666667,
         0.5766666666666672
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.362,
        "ci95": [
         0.33682916666666657,
         0.3866708333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.2828333333333334,
        "ci95": [
         0.2598333333333335,
         0.30683333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel1",
        "win_a": 0.8346666666666667,
        "ci95": [
         0.8131666666666664,
         0.8554999999999996
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel2",
        "win_a": 0.7903333333333334,
        "ci95": [
         0.7665000000000002,
         0.8141666666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel3",
        "win_a": 0.7793333333333333,
        "ci95": [
         0.7545000000000002,
         0.8038375000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel4",
        "win_a": 0.7808333333333334,
        "ci95": [
         0.7559999999999998,
         0.8051666666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.5945,
        "ci95": [
         0.5725,
         0.6144999999999999
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.5241666666666667,
        "ci95": [
         0.5013333333333332,
         0.5456666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.8155,
        "ci95": [
         0.7909999999999999,
         0.8383333333333328
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.605,
        "ci95": [
         0.5868333333333333,
         0.6211666666666663
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.7020000000000001,
        "ci95": [
         0.6809958333333332,
         0.7218333333333337
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.4658333333333333,
        "ci95": [
         0.43916666666666676,
         0.4926666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.37266666666666665,
        "ci95": [
         0.34616666666666684,
         0.39916666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel1",
        "win_a": 0.8591666666666666,
        "ci95": [
         0.8404999999999995,
         0.8765000000000002
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel2",
        "win_a": 0.8106666666666666,
        "ci95": [
         0.7874958333333331,
         0.8321666666666664
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel3",
        "win_a": 0.7989999999999999,
        "ci95": [
         0.772666666666667,
         0.8233375000000002
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel4",
        "win_a": 0.7998333333333333,
        "ci95": [
         0.7725000000000005,
         0.8250000000000002
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.4228333333333334,
        "ci95": [
         0.40800000000000014,
         0.4378375000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.7873333333333332,
        "ci95": [
         0.7729999999999997,
         0.8013374999999999
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.5063333333333334,
        "ci95": [
         0.48950000000000016,
         0.5235000000000003
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.6313333333333333,
        "ci95": [
         0.6166666666666666,
         0.6461666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.4453333333333334,
        "ci95": [
         0.4205000000000001,
         0.4710041666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.36033333333333334,
        "ci95": [
         0.3373333333333333,
         0.38450416666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel1",
        "win_a": 0.8178333333333334,
        "ci95": [
         0.7964999999999998,
         0.8379999999999996
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel2",
        "win_a": 0.7746666666666667,
        "ci95": [
         0.7515000000000003,
         0.7971666666666661
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel3",
        "win_a": 0.7620000000000001,
        "ci95": [
         0.7383333333333338,
         0.7850000000000006
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel4",
        "win_a": 0.7606666666666667,
        "ci95": [
         0.7368333333333336,
         0.7838375000000002
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.8153333333333334,
        "ci95": [
         0.7996666666666665,
         0.8303375000000002
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.5791666666666667,
        "ci95": [
         0.5613333333333331,
         0.5966666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6763333333333332,
        "ci95": [
         0.6573333333333332,
         0.6953333333333335
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.4875,
        "ci95": [
         0.4606666666666666,
         0.5149999999999999
        ],
        "resolved": false
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.39166666666666666,
        "ci95": [
         0.3666666666666666,
         0.41783333333333306
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel1",
        "win_a": 0.8561666666666667,
        "ci95": [
         0.8364999999999995,
         0.8746666666666663
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel2",
        "win_a": 0.8158333333333333,
        "ci95": [
         0.7946666666666666,
         0.8363333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel3",
        "win_a": 0.8079999999999999,
        "ci95": [
         0.7861666666666669,
         0.8293333333333331
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel4",
        "win_a": 0.8108333333333333,
        "ci95": [
         0.7886625,
         0.8323333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.23516666666666666,
        "ci95": [
         0.2148333333333334,
         0.2566666666666668
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.3353333333333334,
        "ci95": [
         0.3141666666666668,
         0.3565041666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.20066666666666666,
        "ci95": [
         0.1831624999999999,
         0.21933333333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.14833333333333334,
        "ci95": [
         0.13332916666666655,
         0.16366666666666654
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel1",
        "win_a": 0.7523333333333333,
        "ci95": [
         0.7278333333333331,
         0.7766666666666663
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel2",
        "win_a": 0.6913333333333335,
        "ci95": [
         0.6641624999999999,
         0.7186666666666671
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel3",
        "win_a": 0.6738333333333334,
        "ci95": [
         0.6455000000000003,
         0.7023333333333338
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel4",
        "win_a": 0.669,
        "ci95": [
         0.6405000000000001,
         0.6976708333333337
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.6341666666666667,
        "ci95": [
         0.618166666666667,
         0.6500000000000002
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.443,
        "ci95": [
         0.41783333333333345,
         0.46883333333333344
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.3591666666666667,
        "ci95": [
         0.3335000000000001,
         0.38599999999999984
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel1",
        "win_a": 0.8285,
        "ci95": [
         0.8083333333333331,
         0.8473333333333328
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel2",
        "win_a": 0.7821666666666667,
        "ci95": [
         0.76,
         0.8038374999999999
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel3",
        "win_a": 0.771,
        "ci95": [
         0.7480000000000002,
         0.7936666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel4",
        "win_a": 0.7716666666666666,
        "ci95": [
         0.747666666666667,
         0.794833333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.3705,
        "ci95": [
         0.34683333333333327,
         0.3953375000000001
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.2951666666666667,
        "ci95": [
         0.27349999999999997,
         0.31749999999999984
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel1",
        "win_a": 0.7748333333333333,
        "ci95": [
         0.7524958333333328,
         0.7965000000000001
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel2",
        "win_a": 0.7243333333333334,
        "ci95": [
         0.7006666666666668,
         0.7480000000000002
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel3",
        "win_a": 0.7118333333333333,
        "ci95": [
         0.6873291666666667,
         0.7363333333333338
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel4",
        "win_a": 0.7073333333333333,
        "ci95": [
         0.6823333333333337,
         0.7323375000000004
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.36483333333333334,
        "ci95": [
         0.3396624999999999,
         0.3915
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel1",
        "win_a": 0.9451666666666665,
        "ci95": [
         0.9308333333333333,
         0.9580041666666669
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel2",
        "win_a": 0.9206666666666666,
        "ci95": [
         0.9043291666666669,
         0.936
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel3",
        "win_a": 0.9276666666666669,
        "ci95": [
         0.9131624999999998,
         0.9411666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel4",
        "win_a": 0.9465,
        "ci95": [
         0.9346666666666668,
         0.9576666666666661
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel1",
        "win_a": 0.9566666666666667,
        "ci95": [
         0.9433333333333329,
         0.9686666666666663
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel2",
        "win_a": 0.9426666666666667,
        "ci95": [
         0.9265000000000001,
         0.9568333333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel3",
        "win_a": 0.9483333333333335,
        "ci95": [
         0.9325000000000002,
         0.9623333333333329
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel4",
        "win_a": 0.9573333333333331,
        "ci95": [
         0.9431666666666663,
         0.9701666666666665
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel2",
        "win_a": 0.15783333333333333,
        "ci95": [
         0.12950000000000003,
         0.1878375
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel3",
        "win_a": 0.17566666666666664,
        "ci95": [
         0.1475,
         0.2058333333333333
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel4",
        "win_a": 0.19983333333333334,
        "ci95": [
         0.17166666666666677,
         0.22983749999999992
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel3",
        "win_a": 0.33516666666666667,
        "ci95": [
         0.30483333333333346,
         0.36517083333333333
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel4",
        "win_a": 0.3611666666666667,
        "ci95": [
         0.3299999999999999,
         0.3938374999999999
        ],
        "resolved": true
       },
       {
        "a": "rel3",
        "b": "rel4",
        "win_a": 0.4684999999999999,
        "ci95": [
         0.43849999999999995,
         0.4993333333333332
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 113,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        6.970820833333333,
        7.362508333333332
       ],
       "nonoise_s2002": [
        6.977829166666663,
        7.372004166666667
       ],
       "nonoise_s2003": [
        6.415645833333337,
        7.096708333333337
       ],
       "nonoise_s2004": [
        7.728662499999998,
        8.180683333333333
       ],
       "release_s2001": [
        6.210995833333333,
        6.629666666666668
       ],
       "release_s2002": [
        7.139824999999995,
        7.532845833333336
       ],
       "release_s2003": [
        6.274662500000001,
        6.6590125
       ],
       "release_s2004": [
        10.578633333333341,
        11.007670833333334
       ],
       "robust_s2001": [
        7.14382916666667,
        7.562675000000006
       ],
       "robust_s2002": [
        8.6068,
        9.088170833333336
       ],
       "robust_s2003": [
        5.795333333333335,
        6.172679166666665
       ],
       "robust_s2004": [
        4.561495833333334,
        5.000179166666664
       ],
       "rel1": [
        13.41516250000001,
        13.847004166666672
       ],
       "rel2": [
        11.871820833333334,
        12.349508333333343
       ],
       "rel3": [
        11.351987500000002,
        11.855008333333336
       ],
       "rel4": [
        11.368662499999997,
        11.878337500000002
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.285276493213128,
      "nonoise_s2002": 1.1992750225766604,
      "nonoise_s2003": 1.2730908886193026,
      "nonoise_s2004": 1.339499795368283,
      "release_s2001": 1.2678089093600096,
      "release_s2002": 1.2941286640985328,
      "release_s2003": 1.257869810911144,
      "release_s2004": 1.2256062143020932,
      "robust_s2001": 1.267091969560252,
      "robust_s2002": 1.3746932033521317,
      "robust_s2003": 1.2611059457199016,
      "robust_s2004": 1.2645762719705207,
      "rel1": 3.4635702717969354,
      "rel2": 3.3423041681076557,
      "rel3": 2.9581894001750277,
      "rel4": 2.6630089543270565
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.8666666666666667,
       "kendall_ci95": [
        0.7833333333333333,
        0.9166666666666666
       ],
       "spearman": 0.9588235294117647,
       "spearman_ci95": [
        0.9088034624067297,
        0.9823529411764705
       ],
       "delta_tau_vs_nominal": 0.31666666666666665,
       "delta_tau_ci95": [
        0.21666666666666667,
        0.4166666666666667
       ],
       "bootstrap_frac_delta_le_0": 0.0
      },
      "id": {
       "kendall_tau_b": 0.5833333333333334,
       "kendall_ci95": [
        0.34309923758984645,
        0.6666666666666666
       ],
       "spearman": 0.6647058823529411,
       "spearman_ci95": [
        0.40173669875575707,
        0.7588235294117647
       ],
       "delta_tau_vs_nominal": 0.08960516216745679,
       "delta_tau_ci95": [
        -0.07720874084924956,
        0.2060674254219135
       ],
       "bootstrap_frac_delta_le_0": 0.149
      },
      "ood": {
       "kendall_tau_b": 0.6666666666666666,
       "kendall_ci95": [
        0.5666666666666667,
        0.7333333333333333
       ],
       "spearman": 0.85,
       "spearman_ci95": [
        0.7676470588235295,
        0.888235294117647
       ],
       "delta_tau_vs_nominal": 0.1394653991505611,
       "delta_tau_ci95": [
        0.06666666666666665,
        0.21666666666666667
       ],
       "bootstrap_frac_delta_le_0": 0.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 120,
      "method_correct": 112,
      "base_correct": 93,
      "discordant": 27,
      "discordant_method_correct": 23,
      "discordant_base_correct": 4
     },
     "tau_vs_primary_tr": {
      "value": 0.8,
      "ci95": [
       0.6,
       0.8166666666666667
      ]
     }
    },
    "tr_rate_uniform": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 7.565499999999999,
       "nonoise_s2002": 7.4855,
       "nonoise_s2003": 6.638,
       "nonoise_s2004": 8.188666666666665,
       "release_s2001": 6.7538333333333345,
       "release_s2002": 7.722999999999997,
       "release_s2003": 6.683499999999999,
       "release_s2004": 11.072833333333339,
       "robust_s2001": 7.731333333333334,
       "robust_s2002": 9.30216666666667,
       "robust_s2003": 5.715666666666669,
       "robust_s2004": 4.514166666666667,
       "rel1": 12.850499999999998,
       "rel2": 11.450500000000002,
       "rel3": 11.072333333333335,
       "rel4": 11.252500000000003
      },
      "order": [
       "robust_s2004",
       "robust_s2003",
       "nonoise_s2003",
       "release_s2003",
       "release_s2001",
       "nonoise_s2002",
       "nonoise_s2001",
       "release_s2002",
       "robust_s2001",
       "nonoise_s2004",
       "robust_s2002",
       "rel3",
       "release_s2004",
       "rel4",
       "rel2",
       "rel1"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 0.9073333333333333,
        "nonoise_s2002": 0.9333333333333333,
        "nonoise_s2003": 0.9893333333333333,
        "nonoise_s2004": 0.912,
        "release_s2001": 0.948,
        "release_s2002": 0.9153333333333333,
        "release_s2003": 0.916,
        "release_s2004": 0.902,
        "robust_s2001": 0.9093333333333333,
        "robust_s2002": 0.9073333333333333,
        "robust_s2003": 0.9906666666666667,
        "robust_s2004": 0.9973333333333333,
        "rel1": 0.874,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "ood": {
        "nonoise_s2001": 0.9126666666666666,
        "nonoise_s2002": 0.924,
        "nonoise_s2003": 0.9906666666666667,
        "nonoise_s2004": 0.92,
        "release_s2001": 0.944,
        "release_s2002": 0.9133333333333333,
        "release_s2003": 0.928,
        "release_s2004": 0.894,
        "robust_s2001": 0.916,
        "robust_s2002": 0.8986666666666666,
        "robust_s2003": 0.9993333333333333,
        "robust_s2004": 1.0,
        "rel1": 1.0,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 0.9966666666666667
       },
       "all": {
        "nonoise_s2001": 0.91,
        "nonoise_s2002": 0.9286666666666666,
        "nonoise_s2003": 0.99,
        "nonoise_s2004": 0.916,
        "release_s2001": 0.946,
        "release_s2002": 0.9143333333333333,
        "release_s2003": 0.922,
        "release_s2004": 0.898,
        "robust_s2001": 0.9126666666666666,
        "robust_s2002": 0.903,
        "robust_s2003": 0.995,
        "robust_s2004": 0.9986666666666667,
        "rel1": 0.937,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 0.9983333333333333
       }
      },
      "common_success_units": 2502,
      "mean_time_common_success": {
       "nonoise_s2001": 5.016826537968539,
       "nonoise_s2002": 4.965027973377447,
       "nonoise_s2003": 4.7354516374121465,
       "nonoise_s2004": 4.9329336444250975,
       "release_s2001": 4.8522382061258496,
       "release_s2002": 5.038689045502032,
       "release_s2003": 4.921103117324942,
       "release_s2004": 5.410311747512085,
       "robust_s2001": 4.987250195799781,
       "robust_s2002": 5.2571942398874025,
       "robust_s2003": 4.673900869062288,
       "robust_s2004": 4.6364108643752875,
       "rel1": 5.2968825053253905,
       "rel2": 5.041606717830081,
       "rel3": 4.979856122216637,
       "rel4": 4.986850521737914
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.49433333333333335,
        "ci95": [
         0.4749999999999999,
         0.5143333333333331
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.4273333333333334,
        "ci95": [
         0.3990000000000001,
         0.4566666666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.5578333333333334,
        "ci95": [
         0.5343333333333332,
         0.5820000000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.4173333333333334,
        "ci95": [
         0.39949999999999997,
         0.4368333333333331
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.5151666666666667,
        "ci95": [
         0.5005000000000003,
         0.5301708333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.43083333333333335,
        "ci95": [
         0.4175000000000001,
         0.44416666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.7548333333333332,
        "ci95": [
         0.7336666666666665,
         0.7751666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.5131666666666668,
        "ci95": [
         0.5006666666666667,
         0.5263333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.6386666666666666,
        "ci95": [
         0.6243333333333334,
         0.6534999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.4071666666666667,
        "ci95": [
         0.382,
         0.4333375000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.31866666666666665,
        "ci95": [
         0.2955000000000001,
         0.3426708333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel1",
        "win_a": 0.7739999999999999,
        "ci95": [
         0.7516666666666667,
         0.7965041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel2",
        "win_a": 0.7311666666666666,
        "ci95": [
         0.7071666666666667,
         0.755666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel3",
        "win_a": 0.7225000000000001,
        "ci95": [
         0.6976666666666664,
         0.7481666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel4",
        "win_a": 0.7314999999999999,
        "ci95": [
         0.7065000000000002,
         0.757
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.4346666666666667,
        "ci95": [
         0.4014916666666665,
         0.46899999999999975
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5643333333333332,
        "ci95": [
         0.5441666666666665,
         0.5844999999999998
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.44083333333333335,
        "ci95": [
         0.42249999999999993,
         0.4591666666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.5258333333333334,
        "ci95": [
         0.5103291666666664,
         0.5404999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.43816666666666665,
        "ci95": [
         0.4188333333333333,
         0.45700416666666677
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.7839999999999999,
        "ci95": [
         0.7663333333333333,
         0.8005000000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.5241666666666667,
        "ci95": [
         0.508,
         0.5391708333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.6503333333333333,
        "ci95": [
         0.6330000000000003,
         0.6675
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.38883333333333336,
        "ci95": [
         0.36166666666666675,
         0.41616666666666674
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.30766666666666664,
        "ci95": [
         0.28233333333333344,
         0.33400000000000013
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel1",
        "win_a": 0.7751666666666667,
        "ci95": [
         0.751333333333334,
         0.7983333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel2",
        "win_a": 0.7296666666666666,
        "ci95": [
         0.7034958333333333,
         0.7551666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel3",
        "win_a": 0.7218333333333333,
        "ci95": [
         0.6943291666666664,
         0.7476666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel4",
        "win_a": 0.7233333333333334,
        "ci95": [
         0.6958291666666665,
         0.7500000000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.6036666666666667,
        "ci95": [
         0.5678333333333335,
         0.6385000000000003
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.5421666666666667,
        "ci95": [
         0.5091625000000001,
         0.5745041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.5771666666666666,
        "ci95": [
         0.5451666666666669,
         0.6085000000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.5231666666666667,
        "ci95": [
         0.49049999999999994,
         0.5553374999999999
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.7966666666666666,
        "ci95": [
         0.7689958333333332,
         0.8228333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.5855,
        "ci95": [
         0.5536624999999997,
         0.6163333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.6675,
        "ci95": [
         0.6381666666666668,
         0.6958333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.40266666666666673,
        "ci95": [
         0.3694958333333334,
         0.4358375000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.27016666666666667,
        "ci95": [
         0.2499958333333332,
         0.28983749999999986
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel1",
        "win_a": 0.8376666666666667,
        "ci95": [
         0.8106624999999995,
         0.8633333333333327
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel2",
        "win_a": 0.7986666666666665,
        "ci95": [
         0.7653291666666666,
         0.8306666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel3",
        "win_a": 0.8035,
        "ci95": [
         0.7686666666666673,
         0.8356666666666671
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel4",
        "win_a": 0.8155,
        "ci95": [
         0.7805000000000005,
         0.8481666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.3858333333333333,
        "ci95": [
         0.35866666666666686,
         0.4121666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.44900000000000007,
        "ci95": [
         0.4281625,
         0.46900000000000025
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.3728333333333333,
        "ci95": [
         0.3531666666666668,
         0.39199999999999985
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.7641666666666667,
        "ci95": [
         0.7490000000000003,
         0.7788333333333339
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.44983333333333336,
        "ci95": [
         0.4256624999999999,
         0.47267083333333326
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.5646666666666665,
        "ci95": [
         0.5408291666666665,
         0.5873333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.32449999999999996,
        "ci95": [
         0.29749583333333324,
         0.3510041666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.2528333333333333,
        "ci95": [
         0.2274999999999999,
         0.2799999999999998
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel1",
        "win_a": 0.7801666666666667,
        "ci95": [
         0.7546666666666669,
         0.8044999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel2",
        "win_a": 0.7358333333333333,
        "ci95": [
         0.7080000000000006,
         0.7625041666666672
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel3",
        "win_a": 0.7260000000000001,
        "ci95": [
         0.6978333333333335,
         0.7535041666666671
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel4",
        "win_a": 0.7314999999999999,
        "ci95": [
         0.7038333333333334,
         0.7588374999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.5963333333333333,
        "ci95": [
         0.575495833333333,
         0.6161666666666669
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.5126666666666667,
        "ci95": [
         0.4913333333333332,
         0.5328333333333334
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.8073333333333333,
        "ci95": [
         0.7823333333333339,
         0.8303333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.6029999999999999,
        "ci95": [
         0.5856624999999994,
         0.6188333333333329
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.71,
        "ci95": [
         0.6886666666666664,
         0.7304999999999996
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.42550000000000004,
        "ci95": [
         0.3979958333333332,
         0.4531666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.3326666666666667,
        "ci95": [
         0.307,
         0.35900416666666657
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel1",
        "win_a": 0.795,
        "ci95": [
         0.7733333333333343,
         0.8165041666666673
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel2",
        "win_a": 0.7541666666666667,
        "ci95": [
         0.7290000000000002,
         0.7788333333333335
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel3",
        "win_a": 0.7446666666666666,
        "ci95": [
         0.7163333333333334,
         0.7714999999999997
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel4",
        "win_a": 0.751,
        "ci95": [
         0.7220000000000001,
         0.7783333333333338
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.41050000000000003,
        "ci95": [
         0.3950000000000001,
         0.42633333333333323
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.773,
        "ci95": [
         0.7571666666666664,
         0.7888333333333326
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.4998333333333333,
        "ci95": [
         0.4848333333333332,
         0.5141666666666665
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.6288333333333334,
        "ci95": [
         0.6143333333333335,
         0.643833333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.3911666666666667,
        "ci95": [
         0.3643333333333333,
         0.4189999999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.3155,
        "ci95": [
         0.2891624999999998,
         0.3435041666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel1",
        "win_a": 0.7663333333333333,
        "ci95": [
         0.7426666666666667,
         0.7903333333333339
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel2",
        "win_a": 0.7235,
        "ci95": [
         0.6966666666666665,
         0.7500041666666671
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel3",
        "win_a": 0.7136666666666668,
        "ci95": [
         0.6871666666666667,
         0.7403333333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel4",
        "win_a": 0.7181666666666667,
        "ci95": [
         0.6918291666666662,
         0.7446666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.8098333333333332,
        "ci95": [
         0.7939999999999998,
         0.8246666666666665
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.5913333333333334,
        "ci95": [
         0.5764958333333329,
         0.606333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6890000000000001,
        "ci95": [
         0.6719958333333333,
         0.7056666666666669
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.4505,
        "ci95": [
         0.4214999999999999,
         0.4796666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.3571666666666667,
        "ci95": [
         0.3288333333333332,
         0.3865
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel1",
        "win_a": 0.8036666666666668,
        "ci95": [
         0.781666666666667,
         0.8258375000000003
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel2",
        "win_a": 0.7673333333333334,
        "ci95": [
         0.7425000000000003,
         0.7920000000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel3",
        "win_a": 0.764,
        "ci95": [
         0.7386666666666664,
         0.7891708333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel4",
        "win_a": 0.7718333333333334,
        "ci95": [
         0.7466624999999999,
         0.7965000000000002
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.2476666666666667,
        "ci95": [
         0.22916666666666657,
         0.2665
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.3575,
        "ci95": [
         0.33482916666666646,
         0.38016666666666643
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.16083333333333333,
        "ci95": [
         0.14149999999999993,
         0.18116666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.11516666666666665,
        "ci95": [
         0.09783333333333338,
         0.13300000000000003
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel1",
        "win_a": 0.6916666666666667,
        "ci95": [
         0.6640000000000001,
         0.7190041666666668
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel2",
        "win_a": 0.6279999999999999,
        "ci95": [
         0.5985000000000005,
         0.6578375000000003
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel3",
        "win_a": 0.6106666666666666,
        "ci95": [
         0.58,
         0.6416666666666664
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel4",
        "win_a": 0.6054999999999999,
        "ci95": [
         0.5746666666666668,
         0.6368333333333331
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.6386666666666666,
        "ci95": [
         0.6243333333333336,
         0.6530000000000002
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.39999999999999997,
        "ci95": [
         0.3736666666666667,
         0.4273375
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.3145,
        "ci95": [
         0.28933333333333333,
         0.3406666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel1",
        "win_a": 0.7663333333333333,
        "ci95": [
         0.743329166666667,
         0.7895000000000003
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel2",
        "win_a": 0.7256666666666667,
        "ci95": [
         0.7000000000000004,
         0.7510000000000006
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel3",
        "win_a": 0.7173333333333333,
        "ci95": [
         0.6905000000000004,
         0.7436666666666671
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel4",
        "win_a": 0.7206666666666667,
        "ci95": [
         0.6935,
         0.7473416666666672
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.3056666666666667,
        "ci95": [
         0.2794999999999999,
         0.33283333333333326
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.2378333333333333,
        "ci95": [
         0.2150000000000001,
         0.26133750000000006
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel1",
        "win_a": 0.7201666666666665,
        "ci95": [
         0.6955000000000002,
         0.7455041666666672
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel2",
        "win_a": 0.6705,
        "ci95": [
         0.6441666666666664,
         0.6970041666666671
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel3",
        "win_a": 0.6548333333333333,
        "ci95": [
         0.6283333333333337,
         0.6809999999999999
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel4",
        "win_a": 0.6539999999999999,
        "ci95": [
         0.6268333333333338,
         0.6804999999999999
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.35683333333333334,
        "ci95": [
         0.3303333333333335,
         0.3841666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel1",
        "win_a": 0.8943333333333334,
        "ci95": [
         0.8771666666666662,
         0.9113333333333329
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel2",
        "win_a": 0.8733333333333333,
        "ci95": [
         0.8536666666666664,
         0.8924999999999996
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel3",
        "win_a": 0.8918333333333331,
        "ci95": [
         0.8733333333333332,
         0.9091666666666665
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel4",
        "win_a": 0.9248333333333335,
        "ci95": [
         0.9089999999999996,
         0.9398374999999999
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel1",
        "win_a": 0.9135000000000001,
        "ci95": [
         0.8964999999999997,
         0.9291708333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel2",
        "win_a": 0.8965000000000002,
        "ci95": [
         0.8766624999999998,
         0.916
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel3",
        "win_a": 0.9125,
        "ci95": [
         0.8923333333333339,
         0.9315000000000001
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel4",
        "win_a": 0.9423333333333332,
        "ci95": [
         0.9268333333333332,
         0.9566708333333332
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel2",
        "win_a": 0.19283333333333338,
        "ci95": [
         0.16649999999999995,
         0.2196749999999999
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel3",
        "win_a": 0.2216666666666667,
        "ci95": [
         0.1956666666666667,
         0.2486666666666666
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel4",
        "win_a": 0.253,
        "ci95": [
         0.22750000000000004,
         0.27966666666666656
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel3",
        "win_a": 0.372,
        "ci95": [
         0.34433333333333327,
         0.39916666666666667
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel4",
        "win_a": 0.40466666666666656,
        "ci95": [
         0.37549999999999994,
         0.4346666666666667
        ],
        "resolved": true
       },
       {
        "a": "rel3",
        "b": "rel4",
        "win_a": 0.5046666666666666,
        "ci95": [
         0.4758333333333335,
         0.5336708333333332
        ],
        "resolved": false
       }
      ],
      "resolved_pairs": 115,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        7.358325000000002,
        7.769504166666667
       ],
       "nonoise_s2002": [
        7.274633333333335,
        7.699504166666665
       ],
       "nonoise_s2003": [
        6.295991666666663,
        6.988866666666667
       ],
       "nonoise_s2004": [
        7.955666666666672,
        8.429004166666669
       ],
       "release_s2001": [
        6.543166666666668,
        6.968499999999998
       ],
       "release_s2002": [
        7.503824999999998,
        7.937170833333332
       ],
       "release_s2003": [
        6.4685000000000015,
        6.894345833333331
       ],
       "release_s2004": [
        10.849150000000002,
        11.283000000000005
       ],
       "robust_s2001": [
        7.515979166666668,
        7.939187500000003
       ],
       "robust_s2002": [
        9.048800000000002,
        9.545024999999995
       ],
       "robust_s2003": [
        5.513987500000001,
        5.920000000000003
       ],
       "robust_s2004": [
        4.285162500000003,
        4.751504166666666
       ],
       "rel1": [
        12.596154166666667,
        13.0908375
       ],
       "rel2": [
        11.158491666666672,
        11.7285
       ],
       "rel3": [
        10.784658333333331,
        11.358195833333339
       ],
       "rel4": [
        10.976000000000004,
        11.534512500000003
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.1609773802404753,
      "nonoise_s2002": 1.1856015005065519,
      "nonoise_s2003": 1.2058862064656344,
      "nonoise_s2004": 1.3149218613282665,
      "release_s2001": 1.2671736631304291,
      "release_s2002": 1.1635491419653077,
      "release_s2003": 1.230588924925333,
      "release_s2004": 1.36271399880796,
      "robust_s2001": 1.329015685411309,
      "robust_s2002": 1.2813828299444243,
      "robust_s2003": 1.2057318163916069,
      "robust_s2004": 1.2211505939654226,
      "rel1": 3.451172769688489,
      "rel2": 3.2975538090312613,
      "rel3": 2.871405448134084,
      "rel4": 2.5622928752377017
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.8166666666666667,
       "kendall_ci95": [
        0.75,
        0.8833333333333333
       ],
       "spearman": 0.9323529411764706,
       "spearman_ci95": [
        0.8852941176470588,
        0.9705882352941176
       ],
       "delta_tau_vs_nominal": 0.2666666666666666,
       "delta_tau_ci95": [
        0.16666666666666674,
        0.38333333333333336
       ],
       "bootstrap_frac_delta_le_0": 0.0
      },
      "id": {
       "kendall_tau_b": 0.5833333333333334,
       "kendall_ci95": [
        0.35,
        0.6666666666666666
       ],
       "spearman": 0.6647058823529411,
       "spearman_ci95": [
        0.4146767222725663,
        0.7588235294117647
       ],
       "delta_tau_vs_nominal": 0.08960516216745679,
       "delta_tau_ci95": [
        -0.07201469531539686,
        0.2088756770581579
       ],
       "bootstrap_frac_delta_le_0": 0.1406
      },
      "ood": {
       "kendall_tau_b": 0.65,
       "kendall_ci95": [
        0.5666666666666667,
        0.75
       ],
       "spearman": 0.8441176470588235,
       "spearman_ci95": [
        0.7823529411764706,
        0.9117647058823529
       ],
       "delta_tau_vs_nominal": 0.1227987324838945,
       "delta_tau_ci95": [
        0.06666666666666665,
        0.25
       ],
       "bootstrap_frac_delta_le_0": 0.0004
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 120,
      "method_correct": 109,
      "base_correct": 93,
      "discordant": 30,
      "discordant_method_correct": 23,
      "discordant_base_correct": 7
     },
     "tau_vs_primary_tr": {
      "value": 0.85,
      "ci95": [
       0.65,
       0.8666666666666667
      ]
     }
    },
    "tr_delay": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 9.186166666666665,
       "nonoise_s2002": 8.541,
       "nonoise_s2003": 6.504833333333334,
       "nonoise_s2004": 10.275333333333332,
       "release_s2001": 7.0535000000000005,
       "release_s2002": 9.051166666666667,
       "release_s2003": 8.199499999999999,
       "release_s2004": 12.113333333333333,
       "robust_s2001": 9.179833333333331,
       "robust_s2002": 10.128333333333329,
       "robust_s2003": 4.964333333333334,
       "robust_s2004": 3.668833333333335,
       "rel1": 10.537166666666668,
       "rel2": 8.871333333333338,
       "rel3": 8.604500000000002,
       "rel4": 9.12083333333333
      },
      "order": [
       "robust_s2004",
       "robust_s2003",
       "nonoise_s2003",
       "release_s2001",
       "release_s2003",
       "nonoise_s2002",
       "rel3",
       "rel2",
       "release_s2002",
       "rel4",
       "robust_s2001",
       "nonoise_s2001",
       "robust_s2002",
       "nonoise_s2004",
       "rel1",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.9446666666666667,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "ood": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 1.0,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "all": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.9723333333333334,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       }
      },
      "common_success_units": 2917,
      "mean_time_common_success": {
       "nonoise_s2001": 5.469180668507859,
       "nonoise_s2002": 5.4563592724657894,
       "nonoise_s2003": 5.34988001318962,
       "nonoise_s2004": 5.510935885553946,
       "release_s2001": 5.407884818624052,
       "release_s2002": 5.464449775394692,
       "release_s2003": 5.436784373148688,
       "release_s2004": 5.57010627561209,
       "robust_s2001": 5.470791912749077,
       "robust_s2002": 5.501748363817232,
       "robust_s2003": 5.243057935255049,
       "robust_s2004": 5.1146040423340615,
       "rel1": 5.740898187494785,
       "rel2": 5.2359273259591514,
       "rel3": 5.282824827621847,
       "rel4": 5.383613307548787
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.43549999999999994,
        "ci95": [
         0.4106666666666668,
         0.46116666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.2796666666666667,
        "ci95": [
         0.2496666666666666,
         0.31167083333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.6163333333333333,
        "ci95": [
         0.5856666666666664,
         0.6473375000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.26699999999999996,
        "ci95": [
         0.24183333333333346,
         0.2959999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.48850000000000005,
        "ci95": [
         0.4678333333333332,
         0.5083333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.39183333333333337,
        "ci95": [
         0.36649999999999977,
         0.41783749999999986
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.7713333333333334,
        "ci95": [
         0.7463333333333336,
         0.7950000000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.49350000000000005,
        "ci95": [
         0.47400000000000014,
         0.5138375000000002
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.599,
        "ci95": [
         0.5791666666666664,
         0.6190041666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.192,
        "ci95": [
         0.17566249999999992,
         0.21183333333333326
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.1555,
        "ci95": [
         0.14250000000000007,
         0.16933333333333342
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel1",
        "win_a": 0.5928333333333333,
        "ci95": [
         0.5616666666666671,
         0.6241666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel2",
        "win_a": 0.5173333333333333,
        "ci95": [
         0.487833333333333,
         0.547504166666667
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "rel3",
        "win_a": 0.5,
        "ci95": [
         0.471166666666667,
         0.5296666666666664
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "rel4",
        "win_a": 0.5135000000000001,
        "ci95": [
         0.48415833333333297,
         0.5439999999999997
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.2936666666666667,
        "ci95": [
         0.2623249999999998,
         0.32749999999999985
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.6721666666666667,
        "ci95": [
         0.6418333333333333,
         0.7011666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.3385,
        "ci95": [
         0.31583333333333347,
         0.3621666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.5545,
        "ci95": [
         0.5316666666666666,
         0.5761708333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.4663333333333334,
        "ci95": [
         0.4364958333333333,
         0.49583333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.827,
        "ci95": [
         0.8005000000000002,
         0.8513333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.5663333333333334,
        "ci95": [
         0.5499958333333331,
         0.5819999999999997
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.6663333333333334,
        "ci95": [
         0.6465,
         0.6858333333333331
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.19733333333333333,
        "ci95": [
         0.1808333333333334,
         0.2161666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.1555,
        "ci95": [
         0.14133333333333334,
         0.1701666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel1",
        "win_a": 0.5978333333333333,
        "ci95": [
         0.5666666666666671,
         0.6288375000000003
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel2",
        "win_a": 0.5281666666666667,
        "ci95": [
         0.49916666666666676,
         0.5585041666666668
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "rel3",
        "win_a": 0.5098333333333334,
        "ci95": [
         0.48133333333333356,
         0.5400000000000001
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "rel4",
        "win_a": 0.5209999999999999,
        "ci95": [
         0.49166666666666664,
         0.5513333333333332
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.7841666666666667,
        "ci95": [
         0.7535000000000003,
         0.8110000000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.6075,
        "ci95": [
         0.5668333333333336,
         0.6473333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.7251666666666667,
        "ci95": [
         0.6928291666666666,
         0.7541666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.6666666666666666,
        "ci95": [
         0.6271666666666671,
         0.7036708333333331
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.8835000000000001,
        "ci95": [
         0.8646624999999996,
         0.9003333333333329
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.7303333333333333,
        "ci95": [
         0.6970000000000003,
         0.7611666666666668
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.7765,
        "ci95": [
         0.7468291666666669,
         0.8029999999999995
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.335,
        "ci95": [
         0.30616666666666664,
         0.3645
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.21600000000000003,
        "ci95": [
         0.1970000000000001,
         0.23600000000000013
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel1",
        "win_a": 0.629,
        "ci95": [
         0.5983291666666666,
         0.6590000000000001
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel2",
        "win_a": 0.5756666666666668,
        "ci95": [
         0.5443333333333336,
         0.6073333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel3",
        "win_a": 0.5625,
        "ci95": [
         0.5306666666666667,
         0.5950041666666671
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel4",
        "win_a": 0.5765,
        "ci95": [
         0.5434999999999999,
         0.6093333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.2371666666666667,
        "ci95": [
         0.20366249999999989,
         0.27433333333333315
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.36183333333333334,
        "ci95": [
         0.3378333333333334,
         0.3854999999999999
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.30099999999999993,
        "ci95": [
         0.2773333333333335,
         0.3245041666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.719,
        "ci95": [
         0.692829166666667,
         0.7431708333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.3866666666666666,
        "ci95": [
         0.35483333333333344,
         0.41883749999999986
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.46883333333333327,
        "ci95": [
         0.43950000000000006,
         0.4973333333333329
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.1655,
        "ci95": [
         0.14600000000000007,
         0.18800416666666672
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.11683333333333334,
        "ci95": [
         0.10666666666666669,
         0.12733750000000002
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel1",
        "win_a": 0.5805,
        "ci95": [
         0.5488333333333336,
         0.6133333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel2",
        "win_a": 0.4995,
        "ci95": [
         0.47100000000000003,
         0.5291708333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "rel3",
        "win_a": 0.4775,
        "ci95": [
         0.45050000000000023,
         0.5066708333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "rel4",
        "win_a": 0.48300000000000004,
        "ci95": [
         0.4545000000000003,
         0.5136708333333334
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.7101666666666667,
        "ci95": [
         0.6785000000000004,
         0.7395
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.6161666666666668,
        "ci95": [
         0.5810000000000004,
         0.6495
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.8528333333333334,
        "ci95": [
         0.8206666666666668,
         0.8824999999999994
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.7386666666666667,
        "ci95": [
         0.7149999999999999,
         0.759
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.7875,
        "ci95": [
         0.7590000000000001,
         0.8126666666666668
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.22833333333333333,
        "ci95": [
         0.21016666666666683,
         0.24867083333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.1836666666666667,
        "ci95": [
         0.16716666666666677,
         0.2010000000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel1",
        "win_a": 0.6243333333333333,
        "ci95": [
         0.5951625,
         0.6536666666666668
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel2",
        "win_a": 0.5595,
        "ci95": [
         0.53,
         0.5891708333333336
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel3",
        "win_a": 0.5408333333333334,
        "ci95": [
         0.5115000000000004,
         0.5709999999999996
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel4",
        "win_a": 0.5546666666666666,
        "ci95": [
         0.524495833333333,
         0.5850041666666669
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.4048333333333333,
        "ci95": [
         0.38099583333333337,
         0.42899999999999994
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.8083333333333336,
        "ci95": [
         0.7913333333333333,
         0.825504166666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.5055,
        "ci95": [
         0.48533333333333367,
         0.5273333333333333
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.6088333333333332,
        "ci95": [
         0.593,
         0.6255
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.19066666666666668,
        "ci95": [
         0.17216666666666672,
         0.21250416666666663
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.14850000000000002,
        "ci95": [
         0.1361624999999999,
         0.16199999999999987
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel1",
        "win_a": 0.5921666666666666,
        "ci95": [
         0.5606625,
         0.6241666666666668
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel2",
        "win_a": 0.5191666666666667,
        "ci95": [
         0.4901666666666669,
         0.5496666666666666
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "rel3",
        "win_a": 0.49899999999999994,
        "ci95": [
         0.47032916666666685,
         0.5286666666666664
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "rel4",
        "win_a": 0.5120000000000001,
        "ci95": [
         0.4824958333333333,
         0.5423333333333333
        ],
        "resolved": false
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.8106666666666668,
        "ci95": [
         0.7868291666666664,
         0.8329999999999999
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.5983333333333334,
        "ci95": [
         0.5719958333333334,
         0.6245
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6783333333333333,
        "ci95": [
         0.6510000000000005,
         0.7046708333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.21449999999999997,
        "ci95": [
         0.1931666666666666,
         0.23833333333333323
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.16633333333333333,
        "ci95": [
         0.15333333333333338,
         0.18
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel1",
        "win_a": 0.6055,
        "ci95": [
         0.5748333333333336,
         0.6361666666666668
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel2",
        "win_a": 0.53,
        "ci95": [
         0.5005000000000004,
         0.5609999999999998
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel3",
        "win_a": 0.513,
        "ci95": [
         0.48400000000000004,
         0.5429999999999998
        ],
        "resolved": false
       },
       {
        "a": "release_s2003",
        "b": "rel4",
        "win_a": 0.5306666666666666,
        "ci95": [
         0.5018291666666664,
         0.5606666666666669
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.22566666666666668,
        "ci95": [
         0.19883333333333325,
         0.2543375000000001
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.26066666666666666,
        "ci95": [
         0.23633333333333326,
         0.2866666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.09883333333333333,
        "ci95": [
         0.08233333333333338,
         0.11883333333333321
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.06333333333333334,
        "ci95": [
         0.05650000000000002,
         0.07033333333333339
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel1",
        "win_a": 0.5528333333333333,
        "ci95": [
         0.5185000000000002,
         0.5875083333333332
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel2",
        "win_a": 0.4675,
        "ci95": [
         0.4378333333333334,
         0.4986708333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel3",
        "win_a": 0.4451666666666667,
        "ci95": [
         0.41716666666666646,
         0.4754999999999999
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel4",
        "win_a": 0.4453333333333333,
        "ci95": [
         0.41466666666666663,
         0.4774999999999998
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.611,
        "ci95": [
         0.5909999999999997,
         0.6294999999999998
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.187,
        "ci95": [
         0.1711666666666667,
         0.2053333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.152,
        "ci95": [
         0.13849999999999996,
         0.16649999999999984
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel1",
        "win_a": 0.5936666666666667,
        "ci95": [
         0.5619958333333335,
         0.6253375
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel2",
        "win_a": 0.5151666666666667,
        "ci95": [
         0.4858291666666662,
         0.5456666666666665
        ],
        "resolved": false
       },
       {
        "a": "robust_s2001",
        "b": "rel3",
        "win_a": 0.4973333333333334,
        "ci95": [
         0.46900000000000025,
         0.5275
        ],
        "resolved": false
       },
       {
        "a": "robust_s2001",
        "b": "rel4",
        "win_a": 0.509,
        "ci95": [
         0.47983333333333356,
         0.5393375000000001
        ],
        "resolved": false
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.15216666666666664,
        "ci95": [
         0.1425,
         0.16166666666666665
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.12433333333333335,
        "ci95": [
         0.11233333333333334,
         0.13733333333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel1",
        "win_a": 0.5826666666666667,
        "ci95": [
         0.5503291666666668,
         0.6150000000000003
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel2",
        "win_a": 0.5015000000000001,
        "ci95": [
         0.4726666666666667,
         0.5311708333333328
        ],
        "resolved": false
       },
       {
        "a": "robust_s2002",
        "b": "rel3",
        "win_a": 0.48083333333333333,
        "ci95": [
         0.4528333333333336,
         0.5103333333333333
        ],
        "resolved": false
       },
       {
        "a": "robust_s2002",
        "b": "rel4",
        "win_a": 0.4871666666666667,
        "ci95": [
         0.4578333333333335,
         0.5179999999999996
        ],
        "resolved": false
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.2886666666666666,
        "ci95": [
         0.2649958333333334,
         0.31283333333333346
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel1",
        "win_a": 0.6993333333333334,
        "ci95": [
         0.6736666666666671,
         0.7244999999999997
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel2",
        "win_a": 0.667,
        "ci95": [
         0.6400000000000006,
         0.6938333333333337
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel3",
        "win_a": 0.6603333333333334,
        "ci95": [
         0.6321666666666668,
         0.6888333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel4",
        "win_a": 0.6816666666666666,
        "ci95": [
         0.6531666666666673,
         0.7095041666666673
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel1",
        "win_a": 0.7703333333333332,
        "ci95": [
         0.7446666666666659,
         0.7943333333333328
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel2",
        "win_a": 0.741,
        "ci95": [
         0.7153291666666662,
         0.7663333333333332
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel3",
        "win_a": 0.7773333333333333,
        "ci95": [
         0.7528333333333329,
         0.8013374999999997
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel4",
        "win_a": 0.8131666666666667,
        "ci95": [
         0.7928333333333333,
         0.8331666666666663
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel2",
        "win_a": 0.22183333333333333,
        "ci95": [
         0.19066666666666665,
         0.2543333333333333
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel3",
        "win_a": 0.29533333333333334,
        "ci95": [
         0.2635,
         0.3285
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel4",
        "win_a": 0.36666666666666664,
        "ci95": [
         0.3333333333333333,
         0.4014999999999998
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel3",
        "win_a": 0.45649999999999996,
        "ci95": [
         0.4250000000000002,
         0.4876666666666668
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel4",
        "win_a": 0.5155000000000001,
        "ci95": [
         0.4798333333333334,
         0.5501666666666666
        ],
        "resolved": false
       },
       {
        "a": "rel3",
        "b": "rel4",
        "win_a": 0.611,
        "ci95": [
         0.5794999999999997,
         0.6420041666666667
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 97,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        8.968158333333331,
        9.395666666666665
       ],
       "nonoise_s2002": [
        8.345479166666665,
        8.732333333333337
       ],
       "nonoise_s2003": [
        6.146991666666666,
        6.88055
       ],
       "nonoise_s2004": [
        10.017987499999997,
        10.520999999999994
       ],
       "release_s2001": [
        6.804829166666669,
        7.323504166666668
       ],
       "release_s2002": [
        8.836000000000002,
        9.251175000000003
       ],
       "release_s2003": [
        7.971154166666666,
        8.424504166666663
       ],
       "release_s2004": [
        11.876162499999994,
        12.342016666666666
       ],
       "robust_s2001": [
        8.992329166666654,
        9.366695833333333
       ],
       "robust_s2002": [
        9.94833333333333,
        10.305170833333326
       ],
       "robust_s2003": [
        4.806491666666666,
        5.1365
       ],
       "robust_s2004": [
        3.533833333333335,
        3.8050041666666674
       ],
       "rel1": [
        10.111483333333338,
        10.967004166666664
       ],
       "rel2": [
        8.522495833333334,
        9.235525000000004
       ],
       "rel3": [
        8.305645833333331,
        8.91534583333333
       ],
       "rel4": [
        8.830825000000004,
        9.423833333333334
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.1643673166366864,
      "nonoise_s2002": 1.1219656165081529,
      "nonoise_s2003": 1.1080235132755372,
      "nonoise_s2004": 1.2530664092242567,
      "release_s2001": 1.1470925090375592,
      "release_s2002": 1.1687710405820326,
      "release_s2003": 1.1446638850826163,
      "release_s2004": 1.1951116072866295,
      "robust_s2001": 1.2094989098294344,
      "robust_s2002": 1.2490843725062188,
      "robust_s2003": 1.1089679602906886,
      "robust_s2004": 1.1296419489066423,
      "rel1": 3.3237014678971573,
      "rel2": 3.1900968703608736,
      "rel3": 2.7701064573749665,
      "rel4": 2.4541495366138824
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.5166666666666667,
       "kendall_ci95": [
        0.4,
        0.65
       ],
       "spearman": 0.6852941176470588,
       "spearman_ci95": [
        0.5323529411764706,
        0.8205882352941176
       ],
       "delta_tau_vs_nominal": -0.033333333333333326,
       "delta_tau_ci95": [
        -0.18333333333333335,
        0.15000000000000002
       ],
       "bootstrap_frac_delta_le_0": 0.6532
      },
      "id": {
       "kendall_tau_b": 0.5666666666666667,
       "kendall_ci95": [
        0.35,
        0.6333333333333333
       ],
       "spearman": 0.6588235294117647,
       "spearman_ci95": [
        0.4235294117647059,
        0.75
       ],
       "delta_tau_vs_nominal": 0.07293849550079007,
       "delta_tau_ci95": [
        -0.10155747879350975,
        0.19050892634860153
       ],
       "bootstrap_frac_delta_le_0": 0.2592
      },
      "ood": {
       "kendall_tau_b": 0.21666666666666667,
       "kendall_ci95": [
        0.11666666666666667,
        0.3333333333333333
       ],
       "spearman": 0.24705882352941178,
       "spearman_ci95": [
        0.15893751760620387,
        0.39705882352941174
       ],
       "delta_tau_vs_nominal": -0.31053460084943885,
       "delta_tau_ci95": [
        -0.3833333333333333,
        -0.16736548175114468
       ],
       "bootstrap_frac_delta_le_0": 1.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 120,
      "method_correct": 91,
      "base_correct": 93,
      "discordant": 52,
      "discordant_method_correct": 25,
      "discordant_base_correct": 27
     },
     "tau_vs_primary_tr": {
      "value": 0.75,
      "ci95": [
       0.65,
       0.8833333333333333
      ]
     }
    },
    "det_rate_0.1": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 10.99,
       "nonoise_s2002": 10.22,
       "nonoise_s2003": 6.21,
       "nonoise_s2004": 10.45,
       "release_s2001": 7.803333333333334,
       "release_s2002": 10.746666666666666,
       "release_s2003": 10.01,
       "release_s2004": 12.34,
       "robust_s2001": 11.093333333333334,
       "robust_s2002": 11.89,
       "robust_s2003": 4.463333333333333,
       "robust_s2004": 3.51,
       "rel1": 6.913333333333333,
       "rel2": 5.756666666666667,
       "rel3": 6.296666666666667,
       "rel4": 7.306666666666667
      },
      "order": [
       "robust_s2004",
       "robust_s2003",
       "rel2",
       "nonoise_s2003",
       "rel3",
       "rel1",
       "rel4",
       "release_s2001",
       "release_s2003",
       "nonoise_s2002",
       "nonoise_s2004",
       "release_s2002",
       "nonoise_s2001",
       "robust_s2001",
       "robust_s2002",
       "release_s2004"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 0.41333333333333333,
        "nonoise_s2002": 0.5066666666666667,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 0.48,
        "release_s2001": 1.0,
        "release_s2002": 0.4266666666666667,
        "release_s2003": 0.4533333333333333,
        "release_s2004": 0.4,
        "robust_s2001": 0.4266666666666667,
        "robust_s2002": 0.41333333333333333,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.8933333333333333,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "ood": {
        "nonoise_s2001": 0.4666666666666667,
        "nonoise_s2002": 0.4533333333333333,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 0.5066666666666667,
        "release_s2001": 1.0,
        "release_s2002": 0.4533333333333333,
        "release_s2003": 0.56,
        "release_s2004": 0.22666666666666666,
        "robust_s2001": 0.4666666666666667,
        "robust_s2002": 0.29333333333333333,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 1.0,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "all": {
        "nonoise_s2001": 0.44,
        "nonoise_s2002": 0.48,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 0.49333333333333335,
        "release_s2001": 1.0,
        "release_s2002": 0.44,
        "release_s2003": 0.5066666666666667,
        "release_s2004": 0.31333333333333335,
        "robust_s2001": 0.44666666666666666,
        "robust_s2002": 0.35333333333333333,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.9466666666666667,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       }
      },
      "common_success_units": 37,
      "mean_time_common_success": {
       "nonoise_s2001": 3.8945945791296057,
       "nonoise_s2002": 3.8324324343655563,
       "nonoise_s2003": 3.840540550850533,
       "nonoise_s2004": 3.8945945823514783,
       "release_s2001": 3.8135134980485246,
       "release_s2002": 3.8513513513513513,
       "release_s2003": 3.8378378313940926,
       "release_s2004": 3.991891893180641,
       "robust_s2001": 3.9054053925179146,
       "robust_s2002": 3.994594606193336,
       "robust_s2003": 3.7459459465903207,
       "robust_s2004": 3.7513513275094934,
       "rel1": 4.097297314051035,
       "rel2": 4.027027046358263,
       "rel3": 4.021621646107854,
       "rel4": 4.021621658995345
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.4533333333333333,
        "ci95": [
         0.4066666666666667,
         0.5
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.15,
        "ci95": [
         0.1,
         0.2
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.45,
        "ci95": [
         0.4,
         0.5033333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.18,
        "ci95": [
         0.13666666666666666,
         0.22666666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.47333333333333333,
        "ci95": [
         0.43,
         0.5133333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.4266666666666667,
        "ci95": [
         0.38666666666666666,
         0.4666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.6033333333333334,
        "ci95": [
         0.5566666666666666,
         0.6533333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.5133333333333333,
        "ci95": [
         0.47333333333333333,
         0.5533333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.57,
        "ci95": [
         0.5366666666666666,
         0.6033333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.1,
        "ci95": [
         0.06,
         0.14
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.09333333333333334,
        "ci95": [
         0.056666666666666664,
         0.13333333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel1",
        "win_a": 0.2966666666666667,
        "ci95": [
         0.23,
         0.36666666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel2",
        "win_a": 0.23,
        "ci95": [
         0.16333333333333333,
         0.2966666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel3",
        "win_a": 0.23333333333333334,
        "ci95": [
         0.16666666666666666,
         0.3
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel4",
        "win_a": 0.23666666666666666,
        "ci95": [
         0.17333333333333334,
         0.30333333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.22333333333333333,
        "ci95": [
         0.16333333333333333,
         0.2833333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.5333333333333333,
        "ci95": [
         0.4866666666666667,
         0.58
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.23,
        "ci95": [
         0.17666666666666667,
         0.2866666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.5466666666666666,
        "ci95": [
         0.5066666666666667,
         0.5866666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.4766666666666667,
        "ci95": [
         0.43333333333333335,
         0.52
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.6833333333333333,
        "ci95": [
         0.64,
         0.7266666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.57,
        "ci95": [
         0.5266666666666666,
         0.6133333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.63,
        "ci95": [
         0.59,
         0.6733333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.13333333333333333,
        "ci95": [
         0.08666666666666667,
         0.18333333333333332
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.13,
        "ci95": [
         0.08666666666666667,
         0.17666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel1",
        "win_a": 0.30666666666666664,
        "ci95": [
         0.23666666666666666,
         0.38
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel2",
        "win_a": 0.25,
        "ci95": [
         0.18333333333333332,
         0.32
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel3",
        "win_a": 0.25333333333333335,
        "ci95": [
         0.18666666666666668,
         0.3233333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel4",
        "win_a": 0.26666666666666666,
        "ci95": [
         0.2,
         0.33666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.81,
        "ci95": [
         0.75,
         0.8666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.8,
        "ci95": [
         0.7433333333333333,
         0.8533333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.83,
        "ci95": [
         0.7765833333333333,
         0.8833333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.79,
        "ci95": [
         0.73,
         0.8466666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.9066666666666666,
        "ci95": [
         0.8633333333333333,
         0.9466666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.8633333333333333,
        "ci95": [
         0.8133333333333334,
         0.91
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.9066666666666666,
        "ci95": [
         0.8666666666666667,
         0.9433333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.2633333333333333,
        "ci95": [
         0.21,
         0.32
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.14666666666666667,
        "ci95": [
         0.11,
         0.19
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel1",
        "win_a": 0.48333333333333334,
        "ci95": [
         0.4066666666666667,
         0.56
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "rel2",
        "win_a": 0.42,
        "ci95": [
         0.3433333333333333,
         0.5
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "rel3",
        "win_a": 0.45666666666666667,
        "ci95": [
         0.38,
         0.5333333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "rel4",
        "win_a": 0.4866666666666667,
        "ci95": [
         0.41,
         0.5666666666666667
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.24333333333333335,
        "ci95": [
         0.18333333333333332,
         0.30666666666666664
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.5266666666666666,
        "ci95": [
         0.4766666666666667,
         0.5733333333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.46,
        "ci95": [
         0.41,
         0.51
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.6733333333333333,
        "ci95": [
         0.6333333333333333,
         0.7133333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.5466666666666666,
        "ci95": [
         0.5,
         0.5933333333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.6066666666666667,
        "ci95": [
         0.56,
         0.6533333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.12,
        "ci95": [
         0.08,
         0.16333333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.12,
        "ci95": [
         0.07991666666666669,
         0.16666666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel1",
        "win_a": 0.29333333333333333,
        "ci95": [
         0.22666666666666666,
         0.36333333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel2",
        "win_a": 0.24,
        "ci95": [
         0.17333333333333334,
         0.31
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel3",
        "win_a": 0.24666666666666667,
        "ci95": [
         0.18,
         0.31666666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel4",
        "win_a": 0.26666666666666666,
        "ci95": [
         0.19666666666666666,
         0.3367499999999988
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.8033333333333333,
        "ci95": [
         0.75,
         0.8533333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.7466666666666667,
        "ci95": [
         0.6933333333333334,
         0.8
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.9333333333333333,
        "ci95": [
         0.8966666666666666,
         0.9633333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.8533333333333334,
        "ci95": [
         0.8133333333333334,
         0.8933333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.9133333333333333,
        "ci95": [
         0.8833333333333333,
         0.9433333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.13,
        "ci95": [
         0.08666666666666667,
         0.17666666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.12333333333333334,
        "ci95": [
         0.08333333333333333,
         0.16666666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel1",
        "win_a": 0.32666666666666666,
        "ci95": [
         0.25333333333333335,
         0.4
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel2",
        "win_a": 0.26666666666666666,
        "ci95": [
         0.2,
         0.33666666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel3",
        "win_a": 0.27,
        "ci95": [
         0.20333333333333334,
         0.3400833333333321
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel4",
        "win_a": 0.2833333333333333,
        "ci95": [
         0.21333333333333335,
         0.3566666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.43666666666666665,
        "ci95": [
         0.4033333333333333,
         0.47
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.64,
        "ci95": [
         0.5933333333333334,
         0.6866666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.5266666666666666,
        "ci95": [
         0.4866666666666667,
         0.5666666666666667
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.6,
        "ci95": [
         0.5666666666666667,
         0.6366666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.13,
        "ci95": [
         0.08333333333333333,
         0.18
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.12666666666666668,
        "ci95": [
         0.08333333333333333,
         0.17
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel1",
        "win_a": 0.29,
        "ci95": [
         0.22,
         0.36333333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel2",
        "win_a": 0.22666666666666666,
        "ci95": [
         0.16,
         0.29333333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel3",
        "win_a": 0.22333333333333333,
        "ci95": [
         0.15666666666666668,
         0.29
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel4",
        "win_a": 0.23333333333333334,
        "ci95": [
         0.16666666666666666,
         0.30333333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.67,
        "ci95": [
         0.6266666666666667,
         0.7166666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.59,
        "ci95": [
         0.5533333333333333,
         0.63
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.6366666666666667,
        "ci95": [
         0.6033333333333334,
         0.6733333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.15,
        "ci95": [
         0.10333333333333333,
         0.2
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.14,
        "ci95": [
         0.09333333333333334,
         0.19
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel1",
        "win_a": 0.3233333333333333,
        "ci95": [
         0.25333333333333335,
         0.39666666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel2",
        "win_a": 0.26,
        "ci95": [
         0.19333333333333333,
         0.3333333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel3",
        "win_a": 0.2733333333333333,
        "ci95": [
         0.20333333333333334,
         0.3466666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel4",
        "win_a": 0.2833333333333333,
        "ci95": [
         0.21333333333333335,
         0.36
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.38,
        "ci95": [
         0.3333333333333333,
         0.4266666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.4633333333333333,
        "ci95": [
         0.4166666666666667,
         0.51
        ],
        "resolved": false
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.03666666666666667,
        "ci95": [
         0.016666666666666666,
         0.06
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.03666666666666667,
        "ci95": [
         0.013333333333333334,
         0.06666666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel1",
        "win_a": 0.24333333333333335,
        "ci95": [
         0.18,
         0.31
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel2",
        "win_a": 0.20666666666666667,
        "ci95": [
         0.14333333333333334,
         0.27
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel3",
        "win_a": 0.20333333333333334,
        "ci95": [
         0.14,
         0.26666666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel4",
        "win_a": 0.2,
        "ci95": [
         0.13666666666666666,
         0.2633333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.5733333333333334,
        "ci95": [
         0.54325,
         0.6066666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.1,
        "ci95": [
         0.06,
         0.14333333333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.1,
        "ci95": [
         0.06333333333333334,
         0.14
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel1",
        "win_a": 0.28,
        "ci95": [
         0.21666666666666667,
         0.35
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel2",
        "win_a": 0.22333333333333333,
        "ci95": [
         0.16,
         0.29
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel3",
        "win_a": 0.23333333333333334,
        "ci95": [
         0.17,
         0.3000833333333321
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel4",
        "win_a": 0.24,
        "ci95": [
         0.17333333333333334,
         0.31
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.07666666666666666,
        "ci95": [
         0.043333333333333335,
         0.11333333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.06333333333333334,
        "ci95": [
         0.03333333333333333,
         0.09666666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel1",
        "win_a": 0.27,
        "ci95": [
         0.20666666666666667,
         0.33666666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel2",
        "win_a": 0.20333333333333334,
        "ci95": [
         0.14333333333333334,
         0.26666666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel3",
        "win_a": 0.2,
        "ci95": [
         0.14,
         0.2633333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel4",
        "win_a": 0.19666666666666666,
        "ci95": [
         0.13666666666666666,
         0.26
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.32,
        "ci95": [
         0.26666666666666666,
         0.37333333333333335
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel1",
        "win_a": 0.5833333333333334,
        "ci95": [
         0.5066666666666667,
         0.6566666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel2",
        "win_a": 0.5466666666666666,
        "ci95": [
         0.4666666666666667,
         0.6233333333333333
        ],
        "resolved": false
       },
       {
        "a": "robust_s2003",
        "b": "rel3",
        "win_a": 0.5966666666666667,
        "ci95": [
         0.52,
         0.6666666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel4",
        "win_a": 0.73,
        "ci95": [
         0.66,
         0.7966666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel1",
        "win_a": 0.7,
        "ci95": [
         0.6366666666666667,
         0.7633333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel2",
        "win_a": 0.6566666666666666,
        "ci95": [
         0.5833333333333334,
         0.73
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel3",
        "win_a": 0.7066666666666667,
        "ci95": [
         0.6365833333333334,
         0.7733333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel4",
        "win_a": 0.8266666666666667,
        "ci95": [
         0.7666666666666667,
         0.88
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel2",
        "win_a": 0.38333333333333336,
        "ci95": [
         0.3333333333333333,
         0.43333333333333335
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel3",
        "win_a": 0.49,
        "ci95": [
         0.4365833333333333,
         0.5466666666666666
        ],
        "resolved": false
       },
       {
        "a": "rel1",
        "b": "rel4",
        "win_a": 0.61,
        "ci95": [
         0.5566666666666666,
         0.6666666666666666
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel3",
        "win_a": 0.64,
        "ci95": [
         0.59,
         0.69
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel4",
        "win_a": 0.7166666666666667,
        "ci95": [
         0.6633333333333333,
         0.77
        ],
        "resolved": true
       },
       {
        "a": "rel3",
        "b": "rel4",
        "win_a": 0.73,
        "ci95": [
         0.6833333333333333,
         0.7766666666666666
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 103,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        10.486666666666666,
        11.48
       ],
       "nonoise_s2002": [
        9.666583333333334,
        10.750083333333333
       ],
       "nonoise_s2003": [
        5.74,
        6.686749999999999
       ],
       "nonoise_s2004": [
        9.88325,
        11.026666666666667
       ],
       "release_s2001": [
        7.483333333333333,
        8.12
       ],
       "release_s2002": [
        10.17,
        11.293333333333333
       ],
       "release_s2003": [
        9.45,
        10.56
       ],
       "release_s2004": [
        11.936666666666667,
        12.73
       ],
       "robust_s2001": [
        10.61,
        11.533333333333333
       ],
       "robust_s2002": [
        11.469916666666668,
        12.29
       ],
       "robust_s2003": [
        4.11,
        4.81
       ],
       "robust_s2004": [
        3.09,
        3.9434166666666655
       ],
       "rel1": [
        6.1866666666666665,
        7.66
       ],
       "rel2": [
        5.046666666666667,
        6.486749999999999
       ],
       "rel3": [
        5.623333333333333,
        6.99
       ],
       "rel4": [
        6.7,
        7.926666666666667
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.079524113020347,
      "nonoise_s2002": 1.0721795987281768,
      "nonoise_s2003": 1.0517391246201937,
      "nonoise_s2004": 1.0701946786703687,
      "release_s2001": 0.6229794000174861,
      "release_s2002": 0.98013842856772,
      "release_s2003": 1.1298288528315807,
      "release_s2004": 1.3626062359758713,
      "robust_s2001": 1.0886575711599205,
      "robust_s2002": 1.2156775846269594,
      "robust_s2003": 1.1040047823403762,
      "robust_s2004": 1.1404867287575462,
      "rel1": 3.429797021138313,
      "rel2": 3.217750817809157,
      "rel3": 2.718737865903363,
      "rel4": 2.329059819567673
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.15,
       "kendall_ci95": [
        0.08333333333333333,
        0.21666666666666667
       ],
       "spearman": 0.13823529411764707,
       "spearman_ci95": [
        0.07352941176470588,
        0.22941176470588234
       ],
       "delta_tau_vs_nominal": -0.4,
       "delta_tau_ci95": [
        -0.5166666666666666,
        -0.25
       ],
       "bootstrap_frac_delta_le_0": 1.0
      },
      "id": {
       "kendall_tau_b": -0.08333333333333333,
       "kendall_ci95": [
        -0.18333333333333332,
        0.08333333333333333
       ],
       "spearman": -0.2323529411764706,
       "spearman_ci95": [
        -0.29705882352941176,
        0.07352941176470588
       ],
       "delta_tau_vs_nominal": -0.5770615044992099,
       "delta_tau_ci95": [
        -0.7292751502193121,
        -0.24990761425161975
       ],
       "bootstrap_frac_delta_le_0": 0.9958
      },
      "ood": {
       "kendall_tau_b": 0.1,
       "kendall_ci95": [
        0.0,
        0.18333333333333332
       ],
       "spearman": 0.11470588235294117,
       "spearman_ci95": [
        -0.05588235294117647,
        0.19117647058823528
       ],
       "delta_tau_vs_nominal": -0.42720126751610554,
       "delta_tau_ci95": [
        -0.5499999999999999,
        -0.31666666666666665
       ],
       "bootstrap_frac_delta_le_0": 1.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 120,
      "method_correct": 69,
      "base_correct": 93,
      "discordant": 74,
      "discordant_method_correct": 25,
      "discordant_base_correct": 49
     },
     "tau_vs_primary_tr": {
      "value": 0.4166666666666667,
      "ci95": [
       0.36666666666666664,
       0.5833333333333334
      ]
     }
    },
    "det_calibrated": {
     "rom": {
      "mean_rank": {
       "nonoise_s2001": 6.1033333333333335,
       "nonoise_s2002": 6.906666666666666,
       "nonoise_s2003": 8.093333333333334,
       "nonoise_s2004": 7.166666666666667,
       "release_s2001": 5.13,
       "release_s2002": 6.293333333333333,
       "release_s2003": 5.183333333333334,
       "release_s2004": 10.746666666666666,
       "robust_s2001": 6.283333333333333,
       "robust_s2002": 9.276666666666667,
       "robust_s2003": 4.383333333333334,
       "robust_s2004": 4.866666666666666,
       "rel1": 15.413333333333334,
       "rel2": 14.173333333333334,
       "rel3": 13.26,
       "rel4": 12.72
      },
      "order": [
       "robust_s2003",
       "robust_s2004",
       "release_s2001",
       "release_s2003",
       "nonoise_s2001",
       "robust_s2001",
       "release_s2002",
       "nonoise_s2002",
       "nonoise_s2004",
       "nonoise_s2003",
       "robust_s2002",
       "release_s2004",
       "rel4",
       "rel3",
       "rel2",
       "rel1"
      ],
      "success_rate": {
       "id": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.5066666666666667,
        "rel2": 0.6933333333333334,
        "rel3": 0.8666666666666667,
        "rel4": 1.0
       },
       "ood": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.8533333333333334,
        "rel2": 1.0,
        "rel3": 1.0,
        "rel4": 1.0
       },
       "all": {
        "nonoise_s2001": 1.0,
        "nonoise_s2002": 1.0,
        "nonoise_s2003": 1.0,
        "nonoise_s2004": 1.0,
        "release_s2001": 1.0,
        "release_s2002": 1.0,
        "release_s2003": 1.0,
        "release_s2004": 1.0,
        "robust_s2001": 1.0,
        "robust_s2002": 1.0,
        "robust_s2003": 1.0,
        "robust_s2004": 1.0,
        "rel1": 0.68,
        "rel2": 0.8466666666666667,
        "rel3": 0.9333333333333333,
        "rel4": 1.0
       }
      },
      "common_success_units": 102,
      "mean_time_common_success": {
       "nonoise_s2001": 6.54999998737784,
       "nonoise_s2002": 6.647058823529412,
       "nonoise_s2003": 6.663725490663566,
       "nonoise_s2004": 6.668627465472502,
       "release_s2001": 6.606862734345829,
       "release_s2002": 6.5754901965459185,
       "release_s2003": 6.547058811374739,
       "release_s2004": 6.832352956136067,
       "robust_s2001": 6.589215659627728,
       "robust_s2002": 6.697058808569815,
       "robust_s2003": 6.550980383274602,
       "robust_s2004": 6.538235262328503,
       "rel1": 11.369607850617053,
       "rel2": 7.9754902171153645,
       "rel3": 7.069607846877155,
       "rel4": 7.047058851111169
      },
      "pairs": [
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2002",
        "win_a": 0.5933333333333334,
        "ci95": [
         0.5266666666666666,
         0.6633333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2003",
        "win_a": 0.62,
        "ci95": [
         0.56,
         0.6833333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "nonoise_s2004",
        "win_a": 0.6,
        "ci95": [
         0.5266666666666666,
         0.6733333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2001",
        "win_a": 0.38666666666666666,
        "ci95": [
         0.3466666666666667,
         0.43
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2002",
        "win_a": 0.51,
        "ci95": [
         0.4533333333333333,
         0.5666666666666667
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2003",
        "win_a": 0.41,
        "ci95": [
         0.35333333333333333,
         0.4666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "release_s2004",
        "win_a": 0.7466666666666667,
        "ci95": [
         0.6866666666666666,
         0.8066666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2001",
        "win_a": 0.51,
        "ci95": [
         0.46,
         0.5633333333333334
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2002",
        "win_a": 0.78,
        "ci95": [
         0.74,
         0.82
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2003",
        "win_a": 0.35333333333333333,
        "ci95": [
         0.30333333333333334,
         0.4033333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "robust_s2004",
        "win_a": 0.38666666666666666,
        "ci95": [
         0.33,
         0.44333333333333336
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel3",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2001",
        "b": "rel4",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2003",
        "win_a": 0.6133333333333333,
        "ci95": [
         0.5433333333333333,
         0.68
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "nonoise_s2004",
        "win_a": 0.49666666666666665,
        "ci95": [
         0.44333333333333336,
         0.55
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2001",
        "win_a": 0.33666666666666667,
        "ci95": [
         0.28,
         0.3933333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2002",
        "win_a": 0.45,
        "ci95": [
         0.39666666666666667,
         0.5033333333333333
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2003",
        "win_a": 0.3233333333333333,
        "ci95": [
         0.27,
         0.37666666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "release_s2004",
        "win_a": 0.8466666666666667,
        "ci95": [
         0.8033333333333333,
         0.89
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2001",
        "win_a": 0.44,
        "ci95": [
         0.38,
         0.5
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2002",
        "win_a": 0.6766666666666666,
        "ci95": [
         0.6166666666666667,
         0.7333333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2003",
        "win_a": 0.2633333333333333,
        "ci95": [
         0.21666666666666667,
         0.31333333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "robust_s2004",
        "win_a": 0.33,
        "ci95": [
         0.27,
         0.3933333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel1",
        "win_a": 0.9966666666666667,
        "ci95": [
         0.99,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel2",
        "win_a": 0.98,
        "ci95": [
         0.96,
         0.9966666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel3",
        "win_a": 0.9666666666666667,
        "ci95": [
         0.94,
         0.99
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2002",
        "b": "rel4",
        "win_a": 0.9666666666666667,
        "ci95": [
         0.94,
         0.99
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "nonoise_s2004",
        "win_a": 0.48333333333333334,
        "ci95": [
         0.41,
         0.5566666666666666
        ],
        "resolved": false
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2001",
        "win_a": 0.29333333333333333,
        "ci95": [
         0.23666666666666666,
         0.35
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2002",
        "win_a": 0.41333333333333333,
        "ci95": [
         0.3433333333333333,
         0.48333333333333334
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2003",
        "win_a": 0.36666666666666664,
        "ci95": [
         0.30333333333333334,
         0.43
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "release_s2004",
        "win_a": 0.65,
        "ci95": [
         0.5833333333333334,
         0.7166666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2001",
        "win_a": 0.39666666666666667,
        "ci95": [
         0.3333333333333333,
         0.46
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2002",
        "win_a": 0.62,
        "ci95": [
         0.5533333333333333,
         0.6866666666666666
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2003",
        "win_a": 0.23,
        "ci95": [
         0.18333333333333332,
         0.27666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "robust_s2004",
        "win_a": 0.26666666666666666,
        "ci95": [
         0.21666666666666667,
         0.31666666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel1",
        "win_a": 0.91,
        "ci95": [
         0.87,
         0.9466666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel2",
        "win_a": 0.8566666666666667,
        "ci95": [
         0.8066666666666666,
         0.9033333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel3",
        "win_a": 0.8366666666666667,
        "ci95": [
         0.7866666666666666,
         0.8833333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2003",
        "b": "rel4",
        "win_a": 0.8166666666666667,
        "ci95": [
         0.7633333333333333,
         0.8666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2001",
        "win_a": 0.36333333333333334,
        "ci95": [
         0.29991666666666666,
         0.43
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2002",
        "win_a": 0.4,
        "ci95": [
         0.34,
         0.4633333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2003",
        "win_a": 0.28,
        "ci95": [
         0.22666666666666666,
         0.33666666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "release_s2004",
        "win_a": 0.85,
        "ci95": [
         0.8066666666666666,
         0.89
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2001",
        "win_a": 0.42333333333333334,
        "ci95": [
         0.3566666666666667,
         0.49333333333333335
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2002",
        "win_a": 0.59,
        "ci95": [
         0.5299166666666667,
         0.6533333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2003",
        "win_a": 0.2966666666666667,
        "ci95": [
         0.24,
         0.35333333333333333
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "robust_s2004",
        "win_a": 0.31333333333333335,
        "ci95": [
         0.25,
         0.37666666666666665
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel1",
        "win_a": 0.9866666666666667,
        "ci95": [
         0.9666666666666667,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel2",
        "win_a": 0.9733333333333334,
        "ci95": [
         0.95,
         0.99
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel3",
        "win_a": 0.9666666666666667,
        "ci95": [
         0.9433333333333334,
         0.9866666666666667
        ],
        "resolved": true
       },
       {
        "a": "nonoise_s2004",
        "b": "rel4",
        "win_a": 0.97,
        "ci95": [
         0.9466666666666667,
         0.9866666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2002",
        "win_a": 0.6133333333333333,
        "ci95": [
         0.56,
         0.6666666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "release_s2003",
        "win_a": 0.51,
        "ci95": [
         0.46,
         0.56
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "release_s2004",
        "win_a": 0.8133333333333334,
        "ci95": [
         0.7633333333333333,
         0.86
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2001",
        "win_a": 0.6233333333333333,
        "ci95": [
         0.5833333333333334,
         0.6633333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2002",
        "win_a": 0.8433333333333334,
        "ci95": [
         0.8,
         0.8833333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2003",
        "win_a": 0.44333333333333336,
        "ci95": [
         0.3933333333333333,
         0.49333333333333335
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "robust_s2004",
        "win_a": 0.4866666666666667,
        "ci95": [
         0.43,
         0.5433333333333333
        ],
        "resolved": false
       },
       {
        "a": "release_s2001",
        "b": "rel1",
        "win_a": 0.9933333333333333,
        "ci95": [
         0.98,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel2",
        "win_a": 0.9866666666666667,
        "ci95": [
         0.9666666666666667,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel3",
        "win_a": 0.97,
        "ci95": [
         0.94,
         0.9933333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2001",
        "b": "rel4",
        "win_a": 0.9666666666666667,
        "ci95": [
         0.9333333333333333,
         0.9933333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2003",
        "win_a": 0.38,
        "ci95": [
         0.34,
         0.4200833333333321
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "release_s2004",
        "win_a": 0.8466666666666667,
        "ci95": [
         0.8033333333333333,
         0.8866666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2001",
        "win_a": 0.5,
        "ci95": [
         0.45,
         0.55
        ],
        "resolved": false
       },
       {
        "a": "release_s2002",
        "b": "robust_s2002",
        "win_a": 0.7533333333333333,
        "ci95": [
         0.7066666666666667,
         0.8
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2003",
        "win_a": 0.32,
        "ci95": [
         0.26666666666666666,
         0.37333333333333335
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "robust_s2004",
        "win_a": 0.36333333333333334,
        "ci95": [
         0.30333333333333334,
         0.42333333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel1",
        "win_a": 0.9933333333333333,
        "ci95": [
         0.9833333333333333,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel2",
        "win_a": 0.9766666666666667,
        "ci95": [
         0.9566666666666667,
         0.9933333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel3",
        "win_a": 0.98,
        "ci95": [
         0.9633333333333334,
         0.9933333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2002",
        "b": "rel4",
        "win_a": 0.98,
        "ci95": [
         0.9633333333333334,
         0.9933333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "release_s2004",
        "win_a": 0.8566666666666667,
        "ci95": [
         0.8166666666666667,
         0.8933333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2001",
        "win_a": 0.59,
        "ci95": [
         0.5433333333333333,
         0.6366666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2002",
        "win_a": 0.8066666666666666,
        "ci95": [
         0.7666666666666667,
         0.8466666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2003",
        "win_a": 0.43333333333333335,
        "ci95": [
         0.38,
         0.4866666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "robust_s2004",
        "win_a": 0.42,
        "ci95": [
         0.36666666666666664,
         0.47333333333333333
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel2",
        "win_a": 0.9933333333333333,
        "ci95": [
         0.98,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel3",
        "win_a": 0.9933333333333333,
        "ci95": [
         0.98,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2003",
        "b": "rel4",
        "win_a": 0.9933333333333333,
        "ci95": [
         0.98,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2001",
        "win_a": 0.21666666666666667,
        "ci95": [
         0.16666666666666666,
         0.26666666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2002",
        "win_a": 0.36,
        "ci95": [
         0.29333333333333333,
         0.43
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2003",
        "win_a": 0.11333333333333333,
        "ci95": [
         0.07666666666666666,
         0.15
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "robust_s2004",
        "win_a": 0.13333333333333333,
        "ci95": [
         0.09333333333333334,
         0.17666666666666667
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel1",
        "win_a": 0.8833333333333333,
        "ci95": [
         0.8366666666666667,
         0.9266666666666666
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel2",
        "win_a": 0.78,
        "ci95": [
         0.7233333333333334,
         0.8333333333333334
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel3",
        "win_a": 0.71,
        "ci95": [
         0.6533333333333333,
         0.7634166666666654
        ],
        "resolved": true
       },
       {
        "a": "release_s2004",
        "b": "rel4",
        "win_a": 0.6666666666666666,
        "ci95": [
         0.6066666666666667,
         0.7233333333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2002",
        "win_a": 0.7466666666666667,
        "ci95": [
         0.7066666666666667,
         0.7866666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2003",
        "win_a": 0.3233333333333333,
        "ci95": [
         0.27325,
         0.37666666666666665
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "robust_s2004",
        "win_a": 0.37333333333333335,
        "ci95": [
         0.31666666666666665,
         0.43
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel3",
        "win_a": 0.9866666666666667,
        "ci95": [
         0.9666666666666667,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2001",
        "b": "rel4",
        "win_a": 0.9866666666666667,
        "ci95": [
         0.9666666666666667,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2003",
        "win_a": 0.12666666666666668,
        "ci95": [
         0.08666666666666667,
         0.17333333333333334
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "robust_s2004",
        "win_a": 0.19333333333333333,
        "ci95": [
         0.14333333333333334,
         0.24333333333333335
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel1",
        "win_a": 0.96,
        "ci95": [
         0.9266666666666666,
         0.9866666666666667
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel2",
        "win_a": 0.8966666666666666,
        "ci95": [
         0.85,
         0.9366666666666666
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel3",
        "win_a": 0.87,
        "ci95": [
         0.82,
         0.9133333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2002",
        "b": "rel4",
        "win_a": 0.8533333333333334,
        "ci95": [
         0.8,
         0.9000833333333321
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "robust_s2004",
        "win_a": 0.53,
        "ci95": [
         0.4766666666666667,
         0.5833333333333334
        ],
        "resolved": false
       },
       {
        "a": "robust_s2003",
        "b": "rel1",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel2",
        "win_a": 1.0,
        "ci95": [
         1.0,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel3",
        "win_a": 0.9966666666666667,
        "ci95": [
         0.99,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2003",
        "b": "rel4",
        "win_a": 0.9933333333333333,
        "ci95": [
         0.98,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel1",
        "win_a": 0.9966666666666667,
        "ci95": [
         0.99,
         1.0
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel2",
        "win_a": 0.98,
        "ci95": [
         0.9633333333333334,
         0.9933333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel3",
        "win_a": 0.9766666666666667,
        "ci95": [
         0.9566666666666667,
         0.9933333333333333
        ],
        "resolved": true
       },
       {
        "a": "robust_s2004",
        "b": "rel4",
        "win_a": 0.9766666666666667,
        "ci95": [
         0.9566666666666667,
         0.9933333333333333
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel2",
        "win_a": 0.14333333333333334,
        "ci95": [
         0.10666666666666667,
         0.18
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel3",
        "win_a": 0.09666666666666666,
        "ci95": [
         0.06666666666666667,
         0.13
        ],
        "resolved": true
       },
       {
        "a": "rel1",
        "b": "rel4",
        "win_a": 0.06666666666666667,
        "ci95": [
         0.043333333333333335,
         0.09341666666666545
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel3",
        "win_a": 0.2,
        "ci95": [
         0.16333333333333333,
         0.24
        ],
        "resolved": true
       },
       {
        "a": "rel2",
        "b": "rel4",
        "win_a": 0.19333333333333333,
        "ci95": [
         0.15333333333333332,
         0.23666666666666666
        ],
        "resolved": true
       },
       {
        "a": "rel3",
        "b": "rel4",
        "win_a": 0.29,
        "ci95": [
         0.24666666666666667,
         0.33666666666666667
        ],
        "resolved": true
       }
      ],
      "resolved_pairs": 110,
      "mean_rank_ci95": {
       "nonoise_s2001": [
        5.656583333333333,
        6.533416666666666
       ],
       "nonoise_s2002": [
        6.47,
        7.35
       ],
       "nonoise_s2003": [
        7.45,
        8.763333333333334
       ],
       "nonoise_s2004": [
        6.616416666666666,
        7.703333333333333
       ],
       "release_s2001": [
        4.723333333333334,
        5.546666666666667
       ],
       "release_s2002": [
        5.92,
        6.68
       ],
       "release_s2003": [
        4.84,
        5.54
       ],
       "release_s2004": [
        10.236666666666666,
        11.25
       ],
       "robust_s2001": [
        5.93,
        6.64
       ],
       "robust_s2002": [
        8.84,
        9.74
       ],
       "robust_s2003": [
        4.056583333333333,
        4.726666666666667
       ],
       "robust_s2004": [
        4.42,
        5.336666666666667
       ],
       "rel1": [
        15.253333333333334,
        15.563333333333333
       ],
       "rel2": [
        14.0,
        14.33
       ],
       "rel3": [
        13.106666666666667,
        13.396666666666667
       ],
       "rel4": [
        12.566666666666666,
        12.87
       ]
      }
     },
     "chrono_over_rom_time_ratio": {
      "nonoise_s2001": 1.0792904800145164,
      "nonoise_s2002": 1.0263228942345288,
      "nonoise_s2003": 0.9990363428253674,
      "nonoise_s2004": 1.1536673876895795,
      "release_s2001": 1.0424290651610062,
      "release_s2002": 1.0806849504137224,
      "release_s2003": 1.059671947416146,
      "release_s2004": 1.0954063604240285,
      "robust_s2001": 1.1008058448331315,
      "robust_s2002": 1.1286101112174904,
      "robust_s2003": 0.9869088973613597,
      "robust_s2004": 0.985390500396389,
      "rel1": 1.624652555719217,
      "rel2": 1.8177376903980975,
      "rel3": 1.7466742136055713,
      "rel4": 1.8051480988364685
     },
     "vs_chrono": {
      "all": {
       "kendall_tau_b": 0.8666666666666667,
       "kendall_ci95": [
        0.7666666666666667,
        0.9166666666666666
       ],
       "spearman": 0.9470588235294117,
       "spearman_ci95": [
        0.888235294117647,
        0.9735294117647059
       ],
       "delta_tau_vs_nominal": 0.31666666666666665,
       "delta_tau_ci95": [
        0.23333333333333328,
        0.3833333333333333
       ],
       "bootstrap_frac_delta_le_0": 0.0
      },
      "id": {
       "kendall_tau_b": 0.7833333333333333,
       "kendall_ci95": [
        0.47699162299076214,
        0.85
       ],
       "spearman": 0.8823529411764706,
       "spearman_ci95": [
        0.6058823529411764,
        0.9411764705882353
       ],
       "delta_tau_vs_nominal": 0.28960516216745674,
       "delta_tau_ci95": [
        0.08700464608486402,
        0.37467937642597277
       ],
       "bootstrap_frac_delta_le_0": 0.0014
      },
      "ood": {
       "kendall_tau_b": 0.7,
       "kendall_ci95": [
        0.6333333333333333,
        0.7833333333333333
       ],
       "spearman": 0.8382352941176471,
       "spearman_ci95": [
        0.7941176470588235,
        0.9
       ],
       "delta_tau_vs_nominal": 0.17279873248389443,
       "delta_tau_ci95": [
        0.11666666666666659,
        0.2666666666666667
       ],
       "bootstrap_frac_delta_le_0": 0.0
      }
     },
     "pair_agreement_vs_nominal": {
      "pairs": 120,
      "method_correct": 112,
      "base_correct": 93,
      "discordant": 19,
      "discordant_method_correct": 19,
      "discordant_base_correct": 0
     },
     "tau_vs_primary_tr": {
      "value": 0.6333333333333333,
      "ci95": [
       0.43333333333333335,
       0.6666666666666666
      ]
     }
    }
   },
   "hidden_failure": {
    "definition": "Chrono success rate < 0.5 on this goal set; score = mean rank (higher = worse)",
    "policies": [],
    "nominal_success_of_these": {},
    "auc": {
     "nominal": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "tr_rate": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "paper_tr": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "tr_rate_half": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "tr_rate_double": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "tr_rate_uniform": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "tr_delay": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "det_rate_0.1": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     },
     "det_calibrated": {
      "value": NaN,
      "ci95": [
       null,
       null
      ]
     }
    }
   }
  }
 },
 "primary_test": {
  "statement": "delta tau_b (primary TR minus nominal ROM, vs Chrono) > 0 with 95 % CI lower end > 0, primary pool, all goals",
  "delta_tau": 0.5151515151515151,
  "ci95": [
   0.3333333333333333,
   0.7272727272727273
  ],
  "supported": true
 }
}