bilingual-canadian-eval / v1 /code /tasks /cole_rte3.yaml
Vveerrgg's picture
v1
ed9f38e verified
Raw History Blame Contribute Delete
491 Bytes
task: cole_rte3
include: _letter_template
dataset_path: json
dataset_kwargs:
data_files: {dev: "@DATA@/graalul__COLE-public/rte3-french/rte3-french_dev.jsonl"}
test_split: dev
doc_to_text: "Prémisse : {{premise}}\nHypothèse : {{hypothesis}}\n\nQuelle est la relation entre la prémisse et l'hypothèse ?\nA. Implication (l'hypothèse découle de la prémisse)\nB. Neutre\nC. Contradiction\n\nRépondez uniquement par la lettre (A, B ou C)."
doc_to_target: "{{['A','B','C'][label|int]}}"