Datasets:
Download README.md from Fadhel12/FineTuning_tahap2_MultiSource: direct link, hf CLI and curl.
- Browser
- Download file 2.45 kB
-
https://huggingface.co/datasets/Fadhel12/FineTuning_tahap2_MultiSource/resolve/main/README.md
- Command line
-
hf download hf://datasets/Fadhel12/FineTuning_tahap2_MultiSource/README.md
-
curl -L -o README.md https://huggingface.co/datasets/Fadhel12/FineTuning_tahap2_MultiSource/resolve/main/README.md
language:
- id
configs:
- config_name: retrieved_selection
data_files:
- split: short_span
path: retrieved_selection/short_span.jsonl
- split: multiple_choice
path: retrieved_selection/multiple_choice.jsonl
- split: claim_verification
path: retrieved_selection/claim_verification.jsonl
- split: unanswerable
path: retrieved_selection/unanswerable.jsonl
- config_name: retrieved_answer_judged
default: true
data_files:
- split: short_span
path: retrieved_answer_judged/short_span.jsonl
- split: multiple_choice
path: retrieved_answer_judged/multiple_choice.jsonl
- split: claim_verification
path: retrieved_answer_judged/claim_verification.jsonl
- split: unanswerable
path: retrieved_answer_judged/unanswerable.jsonl
- split: multi_source
path: retrieved_answer_judged/multi_source.jsonl
SimRAG Tahap 2 — NDT, ekspor dipulihkan dari checkpoint
Ekspor ini dipulihkan setelah runtime berhenti pada validasi konteks unanswerable. Tidak ada model yang dijalankan ulang. Pertanyaan, konteks, dan jawaban parafrase dari checkpoint dipertahankan untuk semua record yang lolos.
Gunakan retrieved_answer_judged untuk pelatihan: prompt_paraphrase sebagai pertanyaan,
response_paraphrase sebagai target, context sebagai konteks.
Parafrase pertanyaan hanya pada multisource; tipe lain memakai prompt asli.
retrieved_selection merupakan arsip raw; response_paraphrase=null secara sengaja.
Nomor urut buatan [1], [2], dan seterusnya tidak dianggap sebagai bukti gold span. Unanswerable dengan gold literal dalam isi chunk/header, sumber positif, atau konteks retrieval asli dikarantina secara konservatif. Match literal belum membuktikan answerability secara semantik; aturan ini tidak mengklaim menggantikan semantic judge. Konteks maupun jawaban tidak diedit untuk memaksakan kelulusan. Seluruh record yang dikarantina tetap ada dalam folder recovery lokal.
Multisource mewarisi kelulusan judge komponen dan mensyaratkan semua sumber ada dalam retrieval. Jawaban multisource final tidak diklaim sudah lolos judge semantik penuh. Perbedaan konteks DS1 dan DS2 setelah query retry dapat menyebabkan keputusan karantina berbeda meskipun ID sama; hubungan subset ID tidak dipaksakan setelah karantina.
Delapan kolom: qa_id, context_id, context, prompt, prompt_paraphrase, response, response_paraphrase, specific_instruction. Jumlah final dan audit di generation_report.json.