Datasets:
id stringlengths 10 10 | corpus stringclasses 1
value | split stringclasses 2
values | lang_pair stringclasses 1
value | k int64 2 5 | doc_id stringclasses 106
values | sentence_ids listlengths 2 5 | regime stringclasses 4
values | source null | reference null | distractors listlengths 5 64 | scores dict |
|---|---|---|---|---|---|---|---|---|---|---|---|
de-w000-k3 | flores | dev | en-de | 3 | https://en.wikinews.org/wiki/American_children%27s_show_Reading_Rainbow_ends_26_year_run | [
"37",
"38",
"39"
] | every_sentence | null | null | [
{
"text": "Die PBS-Sendung gewann weniger als zwei Dutzend Emmy-Preise und ihre Laufzeit ist nur kürzer als die Sesamstraße und Mister Roger‘s Neighborhood. Jede Episode der Sendung konzentriert sich auf ein Thema in einem bestimmten Buch und erforscht dieses Thema in mehreren Geschichten. Jede Show gab auch Em... | {
"comet-da": {
"reference": 0.9895098209381104,
"distractors": [
0.9894740581512451,
0.9885024428367615,
0.9894492626190186,
0.9891780614852905,
0.9882501363754272,
0.9891417622566223,
0.9896212220191956,
0.9887080192565918,
0.9896196722984314,
0.98... |
de-w000-k4 | flores | dev | en-de | 4 | https://en.wikinews.org/wiki/American_children%27s_show_Reading_Rainbow_ends_26_year_run | [
"37",
"38",
"39",
"40"
] | every_sentence | null | null | [
{
"text": "Die PBS-Sendung gewann weniger als zwei Dutzend Emmy-Preise und ihre Laufzeit ist nur kürzer als die Sesamstraße und Mister Roger‘s Neighborhood. Jede Episode der Sendung konzentriert sich auf ein Thema in einem bestimmten Buch und erforscht dieses Thema in mehreren Geschichten. Jede Show gab auch Em... | {
"comet-da": {
"reference": 0.9905825853347778,
"distractors": [
0.9906594157218933,
0.9906665682792664,
0.9906371831893921,
0.9905477166175842,
0.9903762340545654,
0.990527868270874,
0.9907287359237671,
0.9905645251274109,
0.9908695816993713,
0.990... |
de-w000-k5 | flores | dev | en-de | 5 | https://en.wikinews.org/wiki/American_children%27s_show_Reading_Rainbow_ends_26_year_run | [
"37",
"38",
"39",
"40",
"41"
] | every_sentence | null | null | [
{
"text": "Die PBS-Sendung gewann weniger als zwei Dutzend Emmy-Preise und ihre Laufzeit ist nur kürzer als die Sesamstraße und Mister Roger‘s Neighborhood. Jede Episode der Sendung konzentriert sich auf ein Thema in einem bestimmten Buch und erforscht dieses Thema in mehreren Geschichten. Jede Show gab auch Em... | {
"comet-da": {
"reference": 0.9905366897583008,
"distractors": [
0.9906731247901917,
0.9906688928604126,
0.9906282424926758,
0.9905689358711243,
0.9904083609580994,
0.9905663132667542,
0.9907099008560181,
0.9906727075576782,
0.9907401204109192,
0.99... |
de-w001-k2 | flores | dev | en-de | 2 | https://en.wikinews.org/wiki/Oil_spill_in_Alaska_closes_800_miles_of_pipeline | [
"98",
"99"
] | every_sentence | null | null | [
{
"text": "800 Meilen der Trans-Alaska-Pipeline wurden vor dem Auslaufen von Tausenden von Fässern Rohöl südlich von Fairbanks, Alaska, stillgelegt. Ein Stromausfall vor einer routinemäßigen Prüfung des Systems zur Feuerbekämpfung führte in der Nähe der Pumpstation 9 von Fort Greely zum Öffnen von Überdruckvent... | {
"comet-da": {
"reference": 0.9873258471488953,
"distractors": [
0.9874939918518066,
0.9875231981277466,
0.9866909384727478,
0.987064003944397,
0.9872119426727295,
0.9871454238891602,
0.9863119721412659,
0.9867736101150513,
0.9872784614562988,
0.987... |
de-w001-k3 | flores | dev | en-de | 3 | https://en.wikinews.org/wiki/Oil_spill_in_Alaska_closes_800_miles_of_pipeline | [
"98",
"99",
"100"
] | every_sentence | null | null | [
{
"text": "800 Meilen der Trans-Alaska-Pipeline wurden vor dem Auslaufen von Tausenden von Fässern Rohöl südlich von Fairbanks, Alaska, stillgelegt. Ein Stromausfall vor einer routinemäßigen Prüfung des Systems zur Feuerbekämpfung führte in der Nähe der Pumpstation 9 von Fort Greely zum Öffnen von Überdruckvent... | {
"comet-da": {
"reference": 0.9878079295158386,
"distractors": [
0.9879862070083618,
0.9880030751228333,
0.9879916906356812,
0.9880061745643616,
0.9873462915420532,
0.9874712824821472,
0.9878186583518982,
0.987815260887146,
0.9877364635467529,
0.987... |
de-w001-k4 | flores | dev | en-de | 4 | https://en.wikinews.org/wiki/Oil_spill_in_Alaska_closes_800_miles_of_pipeline | [
"98",
"99",
"100",
"101"
] | every_sentence | null | null | [
{
"text": "800 Meilen der Trans-Alaska-Pipeline wurden vor dem Auslaufen von Tausenden von Fässern Rohöl südlich von Fairbanks, Alaska, stillgelegt. Ein Stromausfall vor einer routinemäßigen Prüfung des Systems zur Feuerbekämpfung führte in der Nähe der Pumpstation 9 von Fort Greely zum Öffnen von Überdruckvent... | {
"comet-da": {
"reference": 0.9886081218719482,
"distractors": [
0.988936185836792,
0.9887343645095825,
0.9887431859970093,
0.9887677431106567,
0.9889547824859619,
0.9887493252754211,
0.9887621402740479,
0.989026665687561,
0.9887822866439819,
0.9888... |
de-w001-k5 | flores | dev | en-de | 5 | https://en.wikinews.org/wiki/Oil_spill_in_Alaska_closes_800_miles_of_pipeline | [
"98",
"99",
"100",
"101",
"102"
] | every_sentence | null | null | [
{
"text": "800 Meilen der Trans-Alaska-Pipeline wurden vor dem Auslaufen von Tausenden von Fässern Rohöl südlich von Fairbanks, Alaska, stillgelegt. Ein Stromausfall vor einer routinemäßigen Prüfung des Systems zur Feuerbekämpfung führte in der Nähe der Pumpstation 9 von Fort Greely zum Öffnen von Überdruckvent... | {
"comet-da": {
"reference": 0.9886355996131897,
"distractors": [
0.9890649914741516,
0.988781750202179,
0.9887974262237549,
0.9891599416732788,
0.9890614748001099,
0.9888473749160767,
0.989155113697052,
0.988858699798584,
0.9888792037963867,
0.98881... |
de-w002-k2 | flores | dev | en-de | 2 | https://en.wikinews.org/wiki/Distributed_computing_to_get_%22interstellar_project%22 | [
"107",
"108"
] | every_sentence | null | null | [
{
"text": "Wenn die Kapsel um etwa 4 Uhr morgens (Eastern Time) die Erde erreicht und in die Atmosphäre eintritt, wird sie für die Leute in Nordkalifornien, Oregon, Nevada und Utah wahrscheinlich eine beeindruckende Lightshow abgeben. Die Kapsel wird ähnlich wie eine Sternschuppe aussehen, die fliegt.",
"po... | {
"comet-da": {
"reference": 0.9885294437408447,
"distractors": [
0.9887048006057739,
0.9884095191955566,
0.9885290861129761,
0.988260805606842,
0.989161491394043,
0.9888721704483032,
0.9887368679046631,
0.9883639812469482
]
},
"cometkiwi": {
"refere... |
de-w002-k3 | flores | dev | en-de | 3 | https://en.wikinews.org/wiki/Distributed_computing_to_get_%22interstellar_project%22 | [
"107",
"108",
"109"
] | every_sentence | null | null | [{"text":"Wenn die Kapsel um etwa 4 Uhr morgens (Eastern Time) die Erde erreicht und in die Atmosph(...TRUNCATED) | {"comet-da":{"reference":0.9896857738494873,"distractors":[0.9900095462799072,0.9899731874465942,0.9(...TRUNCATED) |
de-w002-k4 | flores | dev | en-de | 4 | https://en.wikinews.org/wiki/Distributed_computing_to_get_%22interstellar_project%22 | [
"107",
"108",
"109",
"110"
] | every_sentence | null | null | [{"text":"Wenn die Kapsel um etwa 4 Uhr morgens (Eastern Time) die Erde erreicht und in die Atmosph(...TRUNCATED) | {"comet-da":{"reference":0.989993691444397,"distractors":[0.9903804063796997,0.9903416633605957,0.99(...TRUNCATED) |
End of preview. Expand in Data Studio
Block-xSIM++ scored blocks
Blocks of k consecutive sentences of FLORES+ (dev + devtest, k = 1..5) and NTREX-128 (k = 1..14) with the distractors of four error regimes and the score each model gives the reference and every distractor: the CometKiwi score, and the cosine of the COMET-DA encoder, XLM-R, LaBSE and multilingual-E5 to the English block. Built with https://github.com/Jeerhz/block-xsim.
| field | |
|---|---|
id |
<lang>-w<window>-k<k>: the block of length k of a window |
corpus, split, lang_pair, k, doc_id |
where the block comes from |
sentence_ids |
official ids of its sentences (FLORES+ id, NTREX-128 line number from 1) |
regime |
every_sentence, every_2nd, every_3rd, one_sentence (error share 1, 1/2, 1/3, 1/k) |
source, reference |
the English block and its translation; null for FLORES+ (see below) |
distractors |
the reference with edited sentences: text, edited positions, edit categories |
scores |
model -> reference score and distractors scores, in the order of distractors; a model is absent from a block it would truncate |
FLORES+ source and reference
FLORES+ asks that its text not be re-hosted, so its blocks carry the sentence ids instead:
from datasets import load_dataset
def flores_text(lang_code, split, ids): # lang_code: eng_Latn, deu_Latn, ...
rows = {str(r["id"]): r["text"] for r in load_dataset("openlanguagedata/flores_plus", lang_code, split=split)}
return " ".join(rows[i] for i in ids)
source = flores_text("eng_Latn", row["split"], row["sentence_ids"])
reference = flores_text("deu_Latn", row["split"], row["sentence_ids"]) # lang_pair en-de
Do not train on this data if you evaluate with it. FLORES+ and NTREX-128 are CC BY-SA 4.0.
- Downloads last month
- -