File size: 2,525 Bytes
510314e | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 | #!/usr/bin/env python3
"""Liste preregistrate della corsa principale AgentLongBench per il post Reddit (16/10/2026, prima di ogni risultato).
Disegno (deciso dal coordinatore dopo il pilota C2, BRIEF/SINTESI in workspaces/proxy-ideas):
- finestra W = 32768 per T/B/D (finestra "piccola" realistica su 12 GB); A = finestra piena (81920 per 64k, 163840 per 128k)
- kf-c (knowledge-free, concise), tool_response, storie 64k (~74K token = 2,3x W) e 128k (~150K = 4,6x W)
- tipi: Count Frequency e Find Duplicates, TUTTE le 25 domande per tipo e lunghezza (100 domande)
- escluso Find Target Offsets: nel pilota A (finestra piena) fa 0/5 (effetto pavimento + quirk dello scorer su
"id1 and id2"): non distingue le politiche. Esclusione dichiarata.
- esclusa E (controllo del meccanismo, gia' nel pilota); proxy D = mnemonic-proxy 0.3.5 b8d4920 (PR #10), cfg D invariata
- confronto principale preregistrato: D contro B (appaiato, McNemar esatto); poi D contro T, tutte contro A.
- domande usate nello sviluppo (riportate anche escluse): 38_i13_j22_a_0031 (diagnosi 0.3.4/0.3.5)
- ordine: per domanda D, B, T (alternando i tipi), poi tutte le A della lunghezza.
"""
import json
import sys
from pathlib import Path
DATA = Path("/mnt/mneme-nvme/proxy-ideas/alb-bench-v2/alb/data/benchmark")
OUT = Path("/mnt/mneme-nvme/proxy-ideas/alb-bench-v2/scripts")
W = 32768
AW = {"64k": 81920, "128k": 163840}
for L in ("64k", "128k"):
qs = {}
for t in ("count_frequency", "find_duplicates"):
rel = "kf-c/%s/tool_response/%s_tool.jsonl" % (L, t)
qs[t] = [(rel, json.loads(l)["id"] if "id" in json.loads(l) else None, l) for l in open(DATA / rel)]
lines = ["# corsa principale Reddit, lunghezza %s, W=%d (A: %d); 50 domande; vedi docstring di make_main_lists.py" % (L, W, AW[L])]
order = []
for a, b in zip(qs["count_frequency"], qs["find_duplicates"]):
order += [a, b]
ids = []
for rel, qid, raw in order:
if qid is None:
d = json.loads(raw)
qid = d.get("qid") or d.get("sample_id") or d.get("uid")
if qid is None:
sys.exit("id della domanda non trovato: chiavi %s" % list(json.loads(raw).keys())[:12])
ids.append((rel, qid))
for p in ("D", "B", "T"):
lines.append("%s %d %s %s" % (p, W, rel, qid))
for rel, qid in ids:
lines.append("A %d %s %s" % (AW[L], rel, qid))
(OUT / ("main-%s.txt" % L)).write_text("\n".join(lines) + "\n")
print(L, len(ids), "domande,", len(lines) - 1, "lavori")
|