| |
| """Liste preregistrate della corsa principale AgentLongBench per il post Reddit (16/10/2026, prima di ogni risultato). |
| Disegno (deciso dal coordinatore dopo il pilota C2, BRIEF/SINTESI in workspaces/proxy-ideas): |
| - finestra W = 32768 per T/B/D (finestra "piccola" realistica su 12 GB); A = finestra piena (81920 per 64k, 163840 per 128k) |
| - kf-c (knowledge-free, concise), tool_response, storie 64k (~74K token = 2,3x W) e 128k (~150K = 4,6x W) |
| - tipi: Count Frequency e Find Duplicates, TUTTE le 25 domande per tipo e lunghezza (100 domande) |
| - escluso Find Target Offsets: nel pilota A (finestra piena) fa 0/5 (effetto pavimento + quirk dello scorer su |
| "id1 and id2"): non distingue le politiche. Esclusione dichiarata. |
| - esclusa E (controllo del meccanismo, gia' nel pilota); proxy D = mnemonic-proxy 0.3.5 b8d4920 (PR #10), cfg D invariata |
| - confronto principale preregistrato: D contro B (appaiato, McNemar esatto); poi D contro T, tutte contro A. |
| - domande usate nello sviluppo (riportate anche escluse): 38_i13_j22_a_0031 (diagnosi 0.3.4/0.3.5) |
| - ordine: per domanda D, B, T (alternando i tipi), poi tutte le A della lunghezza. |
| """ |
| import json |
| import sys |
| from pathlib import Path |
|
|
| DATA = Path("/mnt/mneme-nvme/proxy-ideas/alb-bench-v2/alb/data/benchmark") |
| OUT = Path("/mnt/mneme-nvme/proxy-ideas/alb-bench-v2/scripts") |
| W = 32768 |
| AW = {"64k": 81920, "128k": 163840} |
| for L in ("64k", "128k"): |
| qs = {} |
| for t in ("count_frequency", "find_duplicates"): |
| rel = "kf-c/%s/tool_response/%s_tool.jsonl" % (L, t) |
| qs[t] = [(rel, json.loads(l)["id"] if "id" in json.loads(l) else None, l) for l in open(DATA / rel)] |
| lines = ["# corsa principale Reddit, lunghezza %s, W=%d (A: %d); 50 domande; vedi docstring di make_main_lists.py" % (L, W, AW[L])] |
| order = [] |
| for a, b in zip(qs["count_frequency"], qs["find_duplicates"]): |
| order += [a, b] |
| ids = [] |
| for rel, qid, raw in order: |
| if qid is None: |
| d = json.loads(raw) |
| qid = d.get("qid") or d.get("sample_id") or d.get("uid") |
| if qid is None: |
| sys.exit("id della domanda non trovato: chiavi %s" % list(json.loads(raw).keys())[:12]) |
| ids.append((rel, qid)) |
| for p in ("D", "B", "T"): |
| lines.append("%s %d %s %s" % (p, W, rel, qid)) |
| for rel, qid in ids: |
| lines.append("A %d %s %s" % (AW[L], rel, qid)) |
| (OUT / ("main-%s.txt" % L)).write_text("\n".join(lines) + "\n") |
| print(L, len(ids), "domande,", len(lines) - 1, "lavori") |
|
|
