| ## E1. McNemar esatto, p con tutte le cifre (tabella principale) |
|
|
| | confronto | insieme | solo 1 / solo 2 | p esatto | |
| |---|---|---|---| |
| | D vs B | 64k | 18 / 4 | 0.00434 | |
| | D vs B | 128k | 26 / 1 | 4.17e-07 | |
| | D vs B | unite | 44 / 5 | 7.6e-09 | |
| | D vs T | 64k | 20 / 2 | 0.000121 | |
| | D vs T | 128k | 22 / 3 | 0.000157 | |
| | D vs T | unite | 42 / 5 | 2.46e-08 | |
| | B vs T | 64k | 12 / 8 | 0.503 | |
| | B vs T | 128k | 9 / 15 | 0.307 | |
| | B vs T | unite | 21 / 23 | 0.88 | |
| | D vs A | 64k | 9 / 6 | 0.607 | |
| | D vs A | 128k | 17 / 3 | 0.00258 | |
| | D vs A | unite | 26 / 9 | 0.00599 | |
| | B vs A | 64k | 7 / 18 | 0.0433 | |
| | B vs A | 128k | 8 / 19 | 0.0522 | |
| | B vs A | unite | 15 / 37 | 0.00319 | |
| | T vs A | 64k | 5 / 20 | 0.00408 | |
| | T vs A | 128k | 10 / 15 | 0.424 | |
| | T vs A | unite | 15 / 35 | 0.0066 | |
|
|
| ## E2. Controllo di validità: risposte che seguono ancora la lettura "dopo" |
|
|
| Domande distinguenti = quelle in cui l'uscita dello strumento PRIMA di "Round N: Guess" (convenzione del banco, spiegata ora nella nota) e quella DOPO danno risposte diverse (stesse 51 della corsa principale: le storie non cambiano). Per ogni metodo: quante risposte coincidono con la lettura "dopo" (gold alternativo) e quante con quella "prima" (gold ufficiale). Riferimento: "sempre 0 / no" sulle stesse domande. |
|
|
| | insieme | metodo | corsa principale: = dopo | conferma: = dopo | conferma: = prima (giuste) | conferma: altro/nessuna | |
| |---|---|---|---|---|---| |
| | 64k | finestra piena | 18/23 | 6/23 | 16/23 | 1/23 | |
| | 64k | proxy | 19/23 | 5/23 | 17/23 | 1/23 | |
| | 64k | riassunto | 16/23 | 13/23 | 10/23 | 0/23 | |
| | 64k | troncamento | 14/23 | 8/23 | 13/23 | 2/23 | |
| | 64k | sempre 0 / no | 14/23 | 14/23 | 7/23 | — | |
| | 128k | finestra piena | 23/28 | 9/28 | 18/28 | 1/28 | |
| | 128k | proxy | 22/28 | 3/28 | 25/28 | 0/28 | |
| | 128k | riassunto | 14/28 | 16/28 | 8/28 | 4/28 | |
| | 128k | troncamento | 21/28 | 13/28 | 13/28 | 2/28 | |
| | 128k | sempre 0 / no | 17/28 | 17/28 | 11/28 | — | |
| | unite | finestra piena | 41/51 | 15/51 | 34/51 | 2/51 | |
| | unite | proxy | 41/51 | 8/51 | 42/51 | 1/51 | |
| | unite | riassunto | 30/51 | 29/51 | 18/51 | 4/51 | |
| | unite | troncamento | 35/51 | 21/51 | 26/51 | 4/51 | |
| | unite | sempre 0 / no | 31/51 | 31/51 | 18/51 | — | |
|
|
| Ragionamento che cita la nota ("before" vicino a "Round"/"tool"), tutte le 100 domande: |
|
|
| | metodo | corsa principale | conferma | |
| |---|---|---| |
| | finestra piena | 0/100 | 99/100 | |
| | proxy | 12/100 | 100/100 | |
| | riassunto | 37/100 | 100/100 | |
| | troncamento | 10/100 | 100/100 | |
|
|
| ## E3. Risposte vuote del proxy |
|
|
| | lunghezza | qid | gold | eventi finali nel giornale del proxy | |
| |---|---|---|---| |
| | 64k | 14_r11_a_0175_neg | 0 | final_recall_retry ×1 (reason round_limit, used True), recall_dropped ×1 (final True, retry True) | |
| | 64k | 18_r7_a_0639 | 1 | final_recall_retry ×1 (reason round_limit, used True), recall_dropped ×1 (final True, retry True) | |
| | 64k | 48_r13_a_0650_neg | 0 | final_recall_retry ×1 (reason round_limit, used True), recall_dropped ×1 (final True, retry True) | |
| |
| Lettura: il tentativo finale (0.3.5) è stato usato; il modello ha chiamato di nuovo `recall`; il proxy ha scartato la chiamata (`recall_dropped`) e la risposta è rimasta vuota. Corretto in 0.3.6 (PR #11), ma queste domande NON sono state rifatte: contano come sbagliate. |
|
|
| ## E4. Corsa principale (domanda ambigua) contro conferma (domanda con la nota) |
|
|
| | insieme | metodo | corsa principale | conferma | differenza | |
| |---|---|---|---|---| |
| | 64k | finestra piena | 28/50 | 38/50 | +10 | |
| | 64k | proxy | 27/50 | 41/50 | +14 | |
| | 64k | riassunto | 27/50 | 27/50 | +0 | |
| | 64k | troncamento | 25/50 | 23/50 | -2 | |
| | 128k | finestra piena | 23/50 | 31/50 | +8 | |
| | 128k | proxy | 25/50 | 45/50 | +20 | |
| | 128k | riassunto | 29/50 | 20/50 | -9 | |
| | 128k | troncamento | 19/50 | 26/50 | +7 | |
| | unite | finestra piena | 51/100 | 69/100 | +18 | |
| | unite | proxy | 52/100 | 86/100 | +34 | |
| | unite | riassunto | 56/100 | 47/100 | -9 | |
| | unite | troncamento | 44/100 | 49/100 | +5 | |
|
|
| | confronto | corsa principale: solo 1 / solo 2, p | conferma: solo 1 / solo 2, p | |
| |---|---|---| |
| | D-B/unite | 13 / 17, 0.585 | 44 / 5, 7.6e-09 | |
| | D-B/64k | 5 / 5, 1 | 18 / 4, 0.00434 | |
| | D-B/128k | 8 / 12, 0.503 | 26 / 1, 4.17e-07 | |
| | D-T/unite | 21 / 13, 0.229 | 42 / 5, 2.46e-08 | |
| | D-A/unite | 12 / 11, 1 | 26 / 9, 0.00599 | |
| | B-A/unite | 25 / 20, 0.551 | 15 / 37, 0.00319 | |
|
|
| Risposte uguali tra le due corse (stessa domanda, stesso metodo; solo le non distinguenti, dove la nota non cambia la risposta giusta): |
|
|
| | metodo | giuste corsa principale | giuste conferma | uguali | |
| |---|---|---|---| |
| | finestra piena | 42/49 | 35/49 | 30/49 | |
| | proxy | 46/49 | 44/49 | 41/49 | |
| | riassunto | 36/49 | 29/49 | 29/49 | |
| | troncamento | 30/49 | 23/49 | 26/49 | |
|
|
| ## E5. Token per domanda: proxy (fase di rigioco + fase alla domanda) e finestra piena |
|
|
| Sulla singola domanda isolata il proxy rilegge la storia attraverso il rigioco. Qui riporto solo ciò che è misurato; i token della finestra piena su una sessione lunga NON sono stati misurati e non li stimo. |
|
|
| | lunghezza | metodo | prompt totali / dom. (mediana, k) | prompt nuovi / dom. (mediana, k) | di cui rigioco: prompt nuovi (mediana, k) | di cui rigioco: riusati dalla cache (mediana, k) | |
| |---|---|---|---|---|---| |
| | 64k | finestra piena | 75.0 | 75.0 | 0.0 | 0.0 | |
| | 64k | proxy | 723.7 | 154.8 | 135.5 | 489.0 | |
| | 128k | finestra piena | 149.8 | 149.8 | 0.0 | 0.0 | |
| | 128k | proxy | 1727.7 | 328.3 | 313.8 | 1291.7 | |
|
|
| Fase alla domanda del proxy (chiamate round + final), prompt nuovi per domanda, contro la finestra piena: |
|
|
| | lunghezza | proxy alla domanda: prompt nuovi / dom. (media, k) | proxy rigioco: prompt nuovi / dom. (media, k) | finestra piena: prompt nuovi / dom. (media, k) | |
| |---|---|---|---| |
| | 64k | 15.6 | 138.4 | 74.3 | |
| | 128k | 19.1 | 310.9 | 149.6 | |
|
|
| ## E6. Totali per metodo (50 domande per lunghezza) |
|
|
| | lunghezza | metodo | tempo totale (h) | prompt nuovi totali (M) | generati totali (k) | |
| |---|---|---|---|---| |
| | 64k | finestra piena | 0.94 | 3.7 | 140 | |
| | 64k | proxy | 1.97 | 7.7 | 139 | |
| | 64k | riassunto | 1.78 | 3.9 | 339 | |
| | 64k | troncamento | 0.75 | 1.3 | 140 | |
| | 128k | finestra piena | 1.33 | 7.5 | 125 | |
| | 128k | proxy | 4.00 | 16.5 | 224 | |
| | 128k | riassunto | 3.50 | 8.0 | 692 | |
| | 128k | troncamento | 0.84 | 1.3 | 145 | |
|
|
| ## E7. La prova del banco è nel prompt finale? (tutte le prove della domanda: vive, lette intere o, per il riassunto, intere nel riassunto) |
|
|
| | lunghezza | proxy: prova viva o letta intera | proxy: prova almeno toccata da un richiamo | riassunto: prova viva o intera nel riassunto | |
| |---|---|---|---| |
| | 64k | 8/50 | 38/50 | 12/50 | |
| | 128k | 6/50 | 40/50 | 3/50 | |
|
|
|
|
