E1. McNemar esatto, p con tutte le cifre (tabella principale)
| confronto |
insieme |
solo 1 / solo 2 |
p esatto |
| D vs B |
64k |
18 / 4 |
0.00434 |
| D vs B |
128k |
26 / 1 |
4.17e-07 |
| D vs B |
unite |
44 / 5 |
7.6e-09 |
| D vs T |
64k |
20 / 2 |
0.000121 |
| D vs T |
128k |
22 / 3 |
0.000157 |
| D vs T |
unite |
42 / 5 |
2.46e-08 |
| B vs T |
64k |
12 / 8 |
0.503 |
| B vs T |
128k |
9 / 15 |
0.307 |
| B vs T |
unite |
21 / 23 |
0.88 |
| D vs A |
64k |
9 / 6 |
0.607 |
| D vs A |
128k |
17 / 3 |
0.00258 |
| D vs A |
unite |
26 / 9 |
0.00599 |
| B vs A |
64k |
7 / 18 |
0.0433 |
| B vs A |
128k |
8 / 19 |
0.0522 |
| B vs A |
unite |
15 / 37 |
0.00319 |
| T vs A |
64k |
5 / 20 |
0.00408 |
| T vs A |
128k |
10 / 15 |
0.424 |
| T vs A |
unite |
15 / 35 |
0.0066 |
E2. Controllo di validità: risposte che seguono ancora la lettura "dopo"
Domande distinguenti = quelle in cui l'uscita dello strumento PRIMA di "Round N: Guess" (convenzione del banco, spiegata ora nella nota) e quella DOPO danno risposte diverse (stesse 51 della corsa principale: le storie non cambiano). Per ogni metodo: quante risposte coincidono con la lettura "dopo" (gold alternativo) e quante con quella "prima" (gold ufficiale). Riferimento: "sempre 0 / no" sulle stesse domande.
| insieme |
metodo |
corsa principale: = dopo |
conferma: = dopo |
conferma: = prima (giuste) |
conferma: altro/nessuna |
| 64k |
finestra piena |
18/23 |
6/23 |
16/23 |
1/23 |
| 64k |
proxy |
19/23 |
5/23 |
17/23 |
1/23 |
| 64k |
riassunto |
16/23 |
13/23 |
10/23 |
0/23 |
| 64k |
troncamento |
14/23 |
8/23 |
13/23 |
2/23 |
| 64k |
sempre 0 / no |
14/23 |
14/23 |
7/23 |
— |
| 128k |
finestra piena |
23/28 |
9/28 |
18/28 |
1/28 |
| 128k |
proxy |
22/28 |
3/28 |
25/28 |
0/28 |
| 128k |
riassunto |
14/28 |
16/28 |
8/28 |
4/28 |
| 128k |
troncamento |
21/28 |
13/28 |
13/28 |
2/28 |
| 128k |
sempre 0 / no |
17/28 |
17/28 |
11/28 |
— |
| unite |
finestra piena |
41/51 |
15/51 |
34/51 |
2/51 |
| unite |
proxy |
41/51 |
8/51 |
42/51 |
1/51 |
| unite |
riassunto |
30/51 |
29/51 |
18/51 |
4/51 |
| unite |
troncamento |
35/51 |
21/51 |
26/51 |
4/51 |
| unite |
sempre 0 / no |
31/51 |
31/51 |
18/51 |
— |
Ragionamento che cita la nota ("before" vicino a "Round"/"tool"), tutte le 100 domande:
| metodo |
corsa principale |
conferma |
| finestra piena |
0/100 |
99/100 |
| proxy |
12/100 |
100/100 |
| riassunto |
37/100 |
100/100 |
| troncamento |
10/100 |
100/100 |
E3. Risposte vuote del proxy
| lunghezza |
qid |
gold |
eventi finali nel giornale del proxy |
| 64k |
14_r11_a_0175_neg |
0 |
final_recall_retry ×1 (reason round_limit, used True), recall_dropped ×1 (final True, retry True) |
| 64k |
18_r7_a_0639 |
1 |
final_recall_retry ×1 (reason round_limit, used True), recall_dropped ×1 (final True, retry True) |
| 64k |
48_r13_a_0650_neg |
0 |
final_recall_retry ×1 (reason round_limit, used True), recall_dropped ×1 (final True, retry True) |
Lettura: il tentativo finale (0.3.5) è stato usato; il modello ha chiamato di nuovo recall; il proxy ha scartato la chiamata (recall_dropped) e la risposta è rimasta vuota. Corretto in 0.3.6 (PR #11), ma queste domande NON sono state rifatte: contano come sbagliate.
E4. Corsa principale (domanda ambigua) contro conferma (domanda con la nota)
| insieme |
metodo |
corsa principale |
conferma |
differenza |
| 64k |
finestra piena |
28/50 |
38/50 |
+10 |
| 64k |
proxy |
27/50 |
41/50 |
+14 |
| 64k |
riassunto |
27/50 |
27/50 |
+0 |
| 64k |
troncamento |
25/50 |
23/50 |
-2 |
| 128k |
finestra piena |
23/50 |
31/50 |
+8 |
| 128k |
proxy |
25/50 |
45/50 |
+20 |
| 128k |
riassunto |
29/50 |
20/50 |
-9 |
| 128k |
troncamento |
19/50 |
26/50 |
+7 |
| unite |
finestra piena |
51/100 |
69/100 |
+18 |
| unite |
proxy |
52/100 |
86/100 |
+34 |
| unite |
riassunto |
56/100 |
47/100 |
-9 |
| unite |
troncamento |
44/100 |
49/100 |
+5 |
| confronto |
corsa principale: solo 1 / solo 2, p |
conferma: solo 1 / solo 2, p |
| D-B/unite |
13 / 17, 0.585 |
44 / 5, 7.6e-09 |
| D-B/64k |
5 / 5, 1 |
18 / 4, 0.00434 |
| D-B/128k |
8 / 12, 0.503 |
26 / 1, 4.17e-07 |
| D-T/unite |
21 / 13, 0.229 |
42 / 5, 2.46e-08 |
| D-A/unite |
12 / 11, 1 |
26 / 9, 0.00599 |
| B-A/unite |
25 / 20, 0.551 |
15 / 37, 0.00319 |
Risposte uguali tra le due corse (stessa domanda, stesso metodo; solo le non distinguenti, dove la nota non cambia la risposta giusta):
| metodo |
giuste corsa principale |
giuste conferma |
uguali |
| finestra piena |
42/49 |
35/49 |
30/49 |
| proxy |
46/49 |
44/49 |
41/49 |
| riassunto |
36/49 |
29/49 |
29/49 |
| troncamento |
30/49 |
23/49 |
26/49 |
E5. Token per domanda: proxy (fase di rigioco + fase alla domanda) e finestra piena
Sulla singola domanda isolata il proxy rilegge la storia attraverso il rigioco. Qui riporto solo ciò che è misurato; i token della finestra piena su una sessione lunga NON sono stati misurati e non li stimo.
| lunghezza |
metodo |
prompt totali / dom. (mediana, k) |
prompt nuovi / dom. (mediana, k) |
di cui rigioco: prompt nuovi (mediana, k) |
di cui rigioco: riusati dalla cache (mediana, k) |
| 64k |
finestra piena |
75.0 |
75.0 |
0.0 |
0.0 |
| 64k |
proxy |
723.7 |
154.8 |
135.5 |
489.0 |
| 128k |
finestra piena |
149.8 |
149.8 |
0.0 |
0.0 |
| 128k |
proxy |
1727.7 |
328.3 |
313.8 |
1291.7 |
Fase alla domanda del proxy (chiamate round + final), prompt nuovi per domanda, contro la finestra piena:
| lunghezza |
proxy alla domanda: prompt nuovi / dom. (media, k) |
proxy rigioco: prompt nuovi / dom. (media, k) |
finestra piena: prompt nuovi / dom. (media, k) |
| 64k |
15.6 |
138.4 |
74.3 |
| 128k |
19.1 |
310.9 |
149.6 |
E6. Totali per metodo (50 domande per lunghezza)
| lunghezza |
metodo |
tempo totale (h) |
prompt nuovi totali (M) |
generati totali (k) |
| 64k |
finestra piena |
0.94 |
3.7 |
140 |
| 64k |
proxy |
1.97 |
7.7 |
139 |
| 64k |
riassunto |
1.78 |
3.9 |
339 |
| 64k |
troncamento |
0.75 |
1.3 |
140 |
| 128k |
finestra piena |
1.33 |
7.5 |
125 |
| 128k |
proxy |
4.00 |
16.5 |
224 |
| 128k |
riassunto |
3.50 |
8.0 |
692 |
| 128k |
troncamento |
0.84 |
1.3 |
145 |
E7. La prova del banco è nel prompt finale? (tutte le prove della domanda: vive, lette intere o, per il riassunto, intere nel riassunto)
| lunghezza |
proxy: prova viva o letta intera |
proxy: prova almeno toccata da un richiamo |
riassunto: prova viva o intera nel riassunto |
| 64k |
8/50 |
38/50 |
12/50 |
| 128k |
6/50 |
40/50 |
3/50 |
