File size: 2,446 Bytes
4533825
 
 
 
 
 
 
 
 
 
 
 
 
 
 
7fd0142
4533825
 
 
 
 
 
 
 
 
 
 
 
 
7fd0142
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1586a75
7fd0142
 
 
 
1586a75
7fd0142
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
---
language:
- id
configs:
- config_name: retrieved_selection
  data_files:
  - split: short_span
    path: retrieved_selection/short_span.jsonl
  - split: multiple_choice
    path: retrieved_selection/multiple_choice.jsonl
  - split: claim_verification
    path: retrieved_selection/claim_verification.jsonl
  - split: unanswerable
    path: retrieved_selection/unanswerable.jsonl
- config_name: retrieved_answer_judged
  default: true
  data_files:
  - split: short_span
    path: retrieved_answer_judged/short_span.jsonl
  - split: multiple_choice
    path: retrieved_answer_judged/multiple_choice.jsonl
  - split: claim_verification
    path: retrieved_answer_judged/claim_verification.jsonl
  - split: unanswerable
    path: retrieved_answer_judged/unanswerable.jsonl
  - split: multi_source
    path: retrieved_answer_judged/multi_source.jsonl
---

# SimRAG Tahap 2 — NDT, ekspor dipulihkan dari checkpoint

Ekspor ini dipulihkan setelah runtime berhenti pada validasi konteks unanswerable.
Tidak ada model yang dijalankan ulang. Pertanyaan, konteks, dan jawaban parafrase dari
checkpoint dipertahankan untuk semua record yang lolos.

Gunakan `retrieved_answer_judged` untuk pelatihan: `prompt_paraphrase` sebagai pertanyaan,
`response_paraphrase` sebagai target, `context` sebagai konteks.
Parafrase pertanyaan hanya pada multisource; tipe lain memakai prompt asli.
`retrieved_selection` merupakan arsip raw; response_paraphrase=null secara sengaja.

Nomor urut buatan [1], [2], dan seterusnya tidak dianggap sebagai bukti gold span.
Unanswerable dengan gold literal dalam isi chunk/header, sumber positif, atau konteks
retrieval asli dikarantina secara konservatif. Match literal belum membuktikan
answerability secara semantik; aturan ini tidak mengklaim menggantikan semantic judge.
Konteks maupun jawaban tidak diedit untuk memaksakan kelulusan. Seluruh record yang
dikarantina tetap ada dalam folder recovery lokal.

Multisource mewarisi kelulusan judge komponen dan mensyaratkan semua sumber ada dalam
retrieval. Jawaban multisource final tidak diklaim sudah lolos judge semantik penuh.
Perbedaan konteks DS1 dan DS2 setelah query retry dapat menyebabkan keputusan karantina
berbeda meskipun ID sama; hubungan subset ID tidak dipaksakan setelah karantina.

Delapan kolom: qa_id, context_id, context, prompt, prompt_paraphrase, response,
response_paraphrase, specific_instruction. Jumlah final dan audit di generation_report.json.