Fadhel12's picture
Recover SimRAG stage2 export; fix synthetic-number false positives; audit negative contexts
7fd0142 verified
|
Raw History Blame Contribute Delete
2.45 kB
---
language:
- id
configs:
- config_name: retrieved_selection
data_files:
- split: short_span
path: retrieved_selection/short_span.jsonl
- split: multiple_choice
path: retrieved_selection/multiple_choice.jsonl
- split: claim_verification
path: retrieved_selection/claim_verification.jsonl
- split: unanswerable
path: retrieved_selection/unanswerable.jsonl
- config_name: retrieved_answer_judged
default: true
data_files:
- split: short_span
path: retrieved_answer_judged/short_span.jsonl
- split: multiple_choice
path: retrieved_answer_judged/multiple_choice.jsonl
- split: claim_verification
path: retrieved_answer_judged/claim_verification.jsonl
- split: unanswerable
path: retrieved_answer_judged/unanswerable.jsonl
- split: multi_source
path: retrieved_answer_judged/multi_source.jsonl
---
# SimRAG Tahap 2 — NDT, ekspor dipulihkan dari checkpoint
Ekspor ini dipulihkan setelah runtime berhenti pada validasi konteks unanswerable.
Tidak ada model yang dijalankan ulang. Pertanyaan, konteks, dan jawaban parafrase dari
checkpoint dipertahankan untuk semua record yang lolos.
Gunakan `retrieved_answer_judged` untuk pelatihan: `prompt_paraphrase` sebagai pertanyaan,
`response_paraphrase` sebagai target, `context` sebagai konteks.
Parafrase pertanyaan hanya pada multisource; tipe lain memakai prompt asli.
`retrieved_selection` merupakan arsip raw; response_paraphrase=null secara sengaja.
Nomor urut buatan [1], [2], dan seterusnya tidak dianggap sebagai bukti gold span.
Unanswerable dengan gold literal dalam isi chunk/header, sumber positif, atau konteks
retrieval asli dikarantina secara konservatif. Match literal belum membuktikan
answerability secara semantik; aturan ini tidak mengklaim menggantikan semantic judge.
Konteks maupun jawaban tidak diedit untuk memaksakan kelulusan. Seluruh record yang
dikarantina tetap ada dalam folder recovery lokal.
Multisource mewarisi kelulusan judge komponen dan mensyaratkan semua sumber ada dalam
retrieval. Jawaban multisource final tidak diklaim sudah lolos judge semantik penuh.
Perbedaan konteks DS1 dan DS2 setelah query retry dapat menyebabkan keputusan karantina
berbeda meskipun ID sama; hubungan subset ID tidak dipaksakan setelah karantina.
Delapan kolom: qa_id, context_id, context, prompt, prompt_paraphrase, response,
response_paraphrase, specific_instruction. Jumlah final dan audit di generation_report.json.