bilingual-canadian-eval / v1 /code /tasks /cole_sickfr.yaml
Vveerrgg's picture
v1
ed9f38e verified
Raw History Blame Contribute Delete
508 Bytes
task: cole_sickfr
include: _letter_template
dataset_path: json
dataset_kwargs:
data_files: {validation: "@DATA@/graalul__COLE-public/sickfr/sick_fr_validation.jsonl"}
test_split: validation
doc_to_text: "Prémisse : {{sentence_A}}\nHypothèse : {{sentence_B}}\n\nQuelle est la relation entre la prémisse et l'hypothèse ?\nA. Implication (l'hypothèse découle de la prémisse)\nB. Neutre\nC. Contradiction\n\nRépondez uniquement par la lettre (A, B ou C)."
doc_to_target: "{{['A','B','C'][label|int]}}"