name stringlengths 15 33 | field stringclasses 4
values | instruction stringlengths 192 1.2k | min_tool_calls int64 12 22 | pass_qwen3.8_27b_k2 float64 0 1 | pass_stage_c3_k4 float64 0 0 |
|---|---|---|---|---|---|
ops_alert_rule_duplicate | ops_forensics | Ciao! Da un paio di settimane chi è reperibile riceve due pagine per lo stesso problema, a pochi secondi di distanza: è snervante, soprattutto di notte. Ti ho messo in /workdir la config di alerting (Prometheus e Alertmanager), lo storico delle notifiche del pager e i change recenti.
Scopri quale alert arriva doppio e... | 16 | 1 | 0 |
ops_backup_checksum_restore | ops_forensics | Ciao, per l'INC-5731 il CAB ha deciso di ripristinare il database ERP (dettagli nel ticket, in /workdir/tickets). In /workdir hai la copia della directory dei backup, i log del server, la documentazione e il file di configurazione del restore.
Mi serve che tu:
1. individui il dump corretto da usare, secondo la decisio... | 16 | 0 | 0 |
ops_backup_rotation_keep | ops_forensics | Ciao, guarda la REQ-5580 (in tickets/): il team e-commerce deve ripristinare il database degli ordini al 20/09 e i backup non ci sono più. In /workdir ho messo, per ogni nodo di backup, config, cron, log di pgbackup (anche quelli ruotati) e l'elenco dei file presenti stamattina; in docs/ c'è l'help di pgbackup.
1. Tro... | 17 | 1 | 0 |
ops_bad_deploy_git_revert | ops_forensics | Checkout in prod started throwing errors this afternoon (2026-09-23) and payments dropped. The deploy tooling, alert history, service logs and change tickets are in /workdir, and the service manifests are in the git repo /workdir/deploy-manifests (CI deploys a given revision of that repo).
Please:
1. Find the commit i... | 18 | 1 | 0 |
ops_cert_renewed_not_linked | ops_forensics | Ciao, c'è il ticket SUP-3310 aperto dal customer care: un partner da stanotte riceve errori di certificato scaduto quando chiama i nostri servizi. In /workdir/gw trovi la copia della configurazione del gateway (nginx, certificati, log del rinnovo automatico), in /workdir/tickets i ticket e in /workdir/docs la documenta... | 16 | 1 | 0 |
ops_compose_override_loglevel | ops_forensics | Ciao, stanotte /var su dock-02 si è riempito (INC-8841): pare che un container scriva log di debug a raffica. In /workdir ci sono gli stack compose del nodo, gli snapshot che ho preso (du, docker ps, code dei log), il runbook e i ticket.
1. Trova quale container/servizio sta riempiendo il disco e da quale file arriva ... | 17 | 1 | 0 |
ops_compose_port_conflict | ops_forensics | Ciao! Stamattina su app-03 ho provato a tirare su il nuovo progetto compose "notifiche" ma il container dell'API non parte. In /workdir c'è la copia di /srv/compose e /etc di app-03, gli snapshot presi subito dopo (ss, ps, reti docker), l'output del comando e la documentazione interna.
Ti chiedo di:
1. scoprire quale ... | 18 | 1 | 0 |
ops_config_include_order | ops_forensics | Ciao, dai un'occhiata al TKT-8812 (sta in tickets/): i clienti prendono 413 quando caricano allegati su files.example.it. In /workdir/nginx c'è la configurazione del reverse proxy così com'è in produzione, in /workdir/logs i log.
Per favore:
1. trova quale file della configurazione attiva impone il limite che fa scatt... | 16 | 0 | 0 |
ops_crash_signature_input | ops_forensics | Ciao, dopo il rilascio 3.8 dei doc-worker i crash sono aumentati parecchio. In /workdir trovi i crash report di tutti i worker, i dump della coda dei job e il log dei rilasci.
Considera solo i crash avvenuti con la versione 3.8. Raggruppali per firma, cioè il punto esatto in cui è avvenuto il crash: file e funzione de... | 20 | 1 | 0 |
ops_cron_duplicate_backup | ops_forensics | Ciao, guarda per favore il ticket OPS-2290: da qualche notte i backup falliscono su uno dei due server di backup. In /workdir/hosts ci sono le copie di config e log di bk-01 e bk-02, in /workdir/docs il runbook e in /workdir/tickets i ticket.
Ti chiedo:
1. trova la causa e rimuovi la voce cron che non è prevista dal r... | 18 | 0.5 | 0 |
ops_cron_tz_wrong_hour | ops_forensics | Sales ops opened REQ-4410 (in tickets/): the "Daily Sales Summary" email arrives about two hours late. The reporting hosts' configs and logs, the report catalogue, the inventory and our cron notes are in /workdir.
1. Write only the name of the host that actually sends that report (e.g. `report-02`) to /workdir/answer.... | 16 | 1 | 0 |
ops_db_password_rotation | ops_forensics | INC-5120 is on me today: the nightly invoice run produced nothing and finance is asking. Everything we have is under /workdir: service env files, the pg-main logs, vault export, tickets, inventory.
Please:
1. Figure out which service can no longer authenticate to the database. Several services share database roles, so... | 18 | 0.5 | 0 |
ops_db_pool_exhaustion | ops_forensics | Can you take INC-8120? pg-main started refusing connections this afternoon ("too many clients"). Everything I could collect is in /workdir: the DB config and logs, pg_stat_activity snapshots, the services' configs and deployments, runbooks and tickets.
1. Find the service that holds more database connections than it i... | 17 | 1 | 0 |
ops_dependency_chain_outage | ops_forensics | We have an open incident (INC-9120 in tickets/): the gateway returns 503 when customers add items to the cart or check out. I dumped the configs and logs of all the services, plus the database inventory and the deploy log, into /workdir.
Follow the failing requests through the services until you find the root cause, t... | 18 | 0.5 | 0 |
ops_disk_full_logrotate | ops_forensics | Ciao, ti giro l'INC-4471 (è in tickets/). Stanotte uno dei nodi web si è riempito e il collega di turno ha solo liberato spazio a mano. Ho copiato in /workdir le config e gli snapshot dei nodi, più le metriche disco.
Mi serve che tu:
1. capisca quale nodo si è riempito e perché la rotazione dei log lì non ha funzionat... | 17 | 1 | 0 |
ops_dns_resolver_order | ops_forensics | INC-8841 (in tickets/): since 2026-09-20 some production orders end up in the staging database. In /workdir you have copies of the orders-api hosts' configs and logs, our DNS zones, the inventory, the staging Postgres log and the network standard.
1. Find the production host that is sending orders to staging and write... | 16 | 1 | 0 |
ops_env_file_quote_bug | ops_forensics | Ciao, da ieri sera i clienti non ricevono le conferme d'ordine (INC-9120 in tickets/). Mi sa che c'entra una modifica fatta ieri su uno dei servizi. In /workdir trovi le config dei servizi (etc/), il journal (logs/), i ticket di change e la doc sul formato dei file env.
Trova il servizio che non riesce a partire e sis... | 15 | 1 | 0 |
ops_expired_api_key | ops_forensics | Ciao, mi serve una mano sull'INC-7031: da ieri spedizioni-gw non riesce più a creare spedizioni presso il corriere, prende errori di autenticazione. In /workdir ci sono config, log del servizio, inventario delle chiavi, la documentazione del fornitore e i ticket. Oggi è il 2026-09-21.
1. Capisci quale chiave sta usand... | 17 | 1 | 0 |
ops_feature_flag_rollout | ops_forensics | Ciao, il customer care ha aperto il CS-3391 (in tickets/): da ieri alcuni clienti non riescono a pagare. Ho messo in /workdir i log di checkout, l'export utenti, i file dei feature flag per regione e il calendario dei rilasci.
Scopri qual è la regione colpita e perché, poi spegni (`enabled: false`) nel file di quella ... | 17 | 1 | 0 |
ops_firewall_monitoring_drop | ops_forensics | Monitoring lost the node metrics of one of our hosts (see tickets/MON-771.md). Everything is copied under /workdir: per-host iptables rules files, the Prometheus config and scrape logs, the inventory and the recent change records.
1. Find which host stopped being scraped and why.
2. Fix that host's `iptables.rules` so... | 17 | 0.5 | 0 |
ops_git_config_drift | ops_forensics | Ciao, c'è l'INC-2290 (tickets/): dopo un intervento manuale di sabato uno dei nodi app ha una configurazione diversa da quella che dovrebbe avere. In /workdir trovi il repository della configurazione (config-repo/) e gli snapshot di /etc/app presi dai nodi (live/).
1. Trova il nodo la cui configurazione live non corri... | 17 | 1 | 0 |
ops_hosts_db_mixup | ops_forensics | Ciao, abbiamo il ticket SUP-4402: un cliente ieri ha visto nel suo storico ordini che non erano suoi (sembrano ordini di test). In /workdir hai i log del bilanciatore, l'inventario, i ticket e le copie di /etc e dei log applicativi dei nodi app.
Ti chiedo di:
1. capire quale nodo ha servito quella richiesta e perché m... | 17 | 1 | 0 |
ops_incident_timeline_utc | ops_forensics | Ciao! Devo preparare il post-mortem dell'INC-5521 (lo trovi in tickets/) e mi serve la timeline precisa in UTC. In /workdir ho copiato i log dei due nodi di checkout-api, le notifiche di Alertmanager, lo storico del tool di deploy e la chat del turno. Occhio che i vari log non usano tutti lo stesso fuso orario né lo st... | 16 | 1 | 0 |
ops_inode_exhaustion_cleanup_cron | ops_forensics | Ciao, ti passo l'INC-5540: da stamattina gli utenti del portale vengono sbattuti fuori subito dopo il login. Il collega dice che lo spazio disco c'è, ma io non ne sono convinto. In /workdir hai le copie delle config, dei log e gli snapshot dei quattro nodi applicativi, più runbook e ticket.
1. Trova il nodo con il pro... | 16 | 1 | 0 |
ops_inventory_group_mismatch | ops_forensics | Ciao, guarda l'INC-9012 (in tickets/): dopo l'ultimo run di Ansible il cluster RabbitMQ è rimasto a 2 nodi perché uno dei server nuovi è finito nel gruppo sbagliato dell'inventario e ha preso la config di un altro ruolo. In /workdir/ansible c'è il repo, in facts/ i facts raccolti dagli host.
1. Trova l'host sbagliato ... | 16 | 1 | 0 |
ops_keepalived_split_brain | ops_forensics | Ciao, ieri pomeriggio abbiamo avuto un bel po' di connessioni resettate sul frontend (INC-6031 in tickets/). La rete parla di ARP flapping, il collega ha spento keepalived a mano su un nodo e da lì è tornato tutto ok, ma così non possiamo lasciarlo.
In /workdir trovi le config e i log di keepalived dei bilanciatori (h... | 17 | 0.5 | 0 |
ops_lb_health_port_drift | ops_forensics | Ticket OPS-5120: since this week's restart of the API nodes, the public API seems to run with one node less. The load balancer config and logs, the inventory, copies of each API node's config and logs, and the change tickets are in /workdir.
1. Find which API node the load balancer keeps out of rotation and write only... | 17 | 1 | 0 |
ops_lb_weight_typo | ops_forensics | Ticket INC-8120 (in tickets/): one of our web nodes keeps alarming on CPU at peak while the others are fine. I dumped the LB config repo copy, LB stats, CPU metrics and the inventory into /workdir.
Find the cause and fix it in /workdir/lb/haproxy.cfg. Change only what is wrong; every other line and every other setting... | 14 | 1 | 0 |
ops_log_retention_policy | ops_forensics | Ciao, il DPO ci ha chiesto di sistemare la conservazione dei log (ticket DPO-57 in tickets/). In /workdir trovi la policy, il catalogo degli stream, il registro delle eccezioni e la config di logging di ogni servizio.
Considera la policy in vigore oggi (30 settembre 2026) e le eccezioni valide a oggi. Per ogni stream ... | 20 | 0.5 | 0 |
ops_mail_relay_change | ops_forensics | Ciao, ti passo il SUP-3391 (in tickets/): da metà settembre parte dei clienti non riceve più la mail di conferma d'ordine. In /workdir ho copiato l'inventario dei servizi, i change recenti e, per ogni application server, la configurazione di Postfix e i mail.log con le rotazioni.
Trova quale host non riesce a consegna... | 17 | 1 | 0 |
ops_memory_leak_version | ops_forensics | We keep getting OOM kills on the app hosts (see INC-7302 in tickets/). I copied the kernel logs, the RSS metrics and the deploy log into /workdir.
Please figure out:
- which service is leaking memory,
- which release of that service introduced the leak (the leak must start with that release, not before it),
- how many... | 17 | 0 | 0 |
ops_metrics_sqlite_peak | ops_forensics | For the post-mortem of INC-7730 (see tickets/) I need hard numbers. /workdir/metrics has a SQLite export of the per-minute request counters of every host plus the deploy tracker.
Within the incident window stated in the ticket (start included, end excluded), find the host and minute with the highest error rate, where ... | 14 | 0 | 0 |
ops_missing_index_migration | ops_forensics | Support opened OPS-2210 (in tickets/): the billing portal got slow over the weekend. I copied the billing-api logs, the database logs, the migrations and a nightly copy of the production metadata DB into /workdir.
Please find which API endpoint became slow and which database migration explains it. Write your answer to... | 17 | 0 | 0 |
ops_nginx_decommissioned_upstream | ops_forensics | I'm writing the post-mortem for INC-7702 (intermittent 502s on product pages) and need two things from you. Tickets, inventory, the LB config repo and the logs of both LB nodes are in /workdir.
1. The node that was decommissioned is still in one of the LB pools. Remove its `server` line from the nginx config in lb/con... | 18 | 0 | 0 |
ops_ntp_clock_skew | ops_forensics | Ciao, sull'INC-2291 (i 401 "token not yet valid") sospettiamo che una delle macchine del pool API abbia l'orologio sballato, ma non sappiamo quale e non abbiamo metriche NTP. In /workdir ci sono i log del bilanciatore e dei quattro backend, le copie delle config delle macchine (hosts/<nome>/) e i runbook.
Ti chiedo:
1... | 18 | 0 | 0 |
ops_offboarding_audit | ops_forensics | Ciao, ti passo il ticket HR-2231 (è in tickets/): sono uscite alcune persone e vanno revocati i loro permessi sudo su tutti i server. In /workdir/hosts/ ci sono le copie delle config di ogni host, in hr/ l'anagrafica e in docs/ le nostre convenzioni. Occhio agli omonimi.
Cosa fare:
1. Togli ogni permesso sudo delle pe... | 20 | 0 | 0 |
ops_oom_memorymax | ops_forensics | Ciao, l'amministrazione lamenta fatture in ritardo (TKT-2311 in tickets/) e secondo il team billing "i worker ripartono di continuo". In /workdir ci sono i kern.log dei tre application server (con le rotazioni), le unit systemd con i loro drop-in, il runbook dei limiti di memoria e i change recenti.
Trova quale unit v... | 18 | 1 | 0 |
ops_prometheus_missing_target | ops_forensics | Finance says the "Billing DB" dashboard has been missing data for one database instance since last week (INC-5120), and the billing replication-lag alert can't fire for it either. The Prometheus config, its logs, targets, dashboards, our inventory, tickets and copies of the hosts' exporter settings are under /workdir.
... | 16 | 1 | 0 |
ops_proxy_timeout_export | ops_forensics | A key account keeps getting "504 Gateway Time-out" from our API (support ticket SUP-5521, all tickets are in tickets/). The nginx configuration of the edge proxy and its logs are under /workdir.
1. Find which proxied endpoint is timing out and fix the nginx configuration exactly as agreed in the ticket thread. Only th... | 17 | 0.5 | 0 |
ops_queue_consumer_typo | ops_forensics | Ciao! Mi prendi l'INC-6021? Da metà pomeriggio al magazzino non arrivano più ordini da preparare e sul broker qualcosa si accumula. In /workdir ci sono metriche delle code, export e snapshot del broker, le config dei worker, il log dei deploy e i ticket.
1. Trova quale coda si sta riempiendo e perché nessuno la consum... | 16 | 1 | 0 |
ops_ratelimit_units | ops_forensics | Support ticket SUP-9981: a partner says their production integration has been getting lots of HTTP 429 since yesterday. A copy of our edge nginx configuration, its logs (including rotated ones), the partner list and the change tickets are in /workdir.
1. Find and fix the misconfiguration in the nginx configuration cop... | 18 | 0 | 0 |
ops_request_id_trace_report | ops_forensics | Ciao, mi serve una mano sul reclamo RECL-2207 (lo trovi in /workdir/tickets). Dobbiamo ricostruire cosa è successo alla richiesta di pagamento andata in errore della cliente. In /workdir/logs ci sono i log (anche ruotati) di gateway, auth, ordini, magazzino e pagamenti, in /workdir/data l'anagrafica clienti e in /workd... | 20 | 1 | 0 |
ops_rollback_last_good | ops_forensics | Ciao, c'è da fare il rollback di orders-api in produzione (ticket INC-6034 in tickets/). In /workdir trovi lo storico delle release, le metriche di error rate e i manifest.
Voglio che torniamo all'ultima release buona, esattamente come la definisce il nostro runbook, non a occhio. Quindi:
1. individua la versione gius... | 16 | 0.5 | 0 |
ops_sla_downtime_calc | ops_forensics | Finance is asking for the September 2026 downtime of billing-api (REQ-4410 in tickets/). Please compute it strictly following our SLA definition (docs/), using the healthcheck logs of all three checkers in /workdir/checkers.
1. Write only the total September downtime of billing-api in minutes, as an integer, to /workd... | 17 | 0.5 | 0 |
ops_ssh_bruteforce_compromise | ops_forensics | Ciao, è urgente: SEC-2207. Su uno dei web è comparso un crontab sconosciuto sotto l'utente deploy. In /workdir ci sono le copie dei log di autenticazione (anche quelli ruotati) e delle config ssh dei quattro host, più la cartella security/ e i ticket.
Mi serve:
1. l'IP esterno che, dopo una serie di tentativi falliti,... | 20 | 0 | 0 |
ops_stale_lock_file | ops_forensics | Ciao, c'è l'INC-3304 (in tickets/): da qualche notte le fatture del batch notturno non vengono generate. Ho messo in /workdir i log dei due host batch, i cron, gli snapshot dei processi presi stamattina e la directory condivisa dei lock (shared/locks).
Il sospetto è un lock rimasto appeso. Verifica bene prima di cance... | 16 | 1 | 0 |
ops_systemd_dropin_user | ops_forensics | ledger-sync on fin-app-02 has been crash-looping since this morning's maintenance (2026-09-21). A copy of the server's relevant files is in /workdir/server, plus the change ticket and our internal notes in /workdir.
1. Find the systemd configuration file that causes the failure and write its real path on the server (s... | 16 | 1 | 0 |
ops_systemd_execstart_moved | ops_forensics | Ciao, mi dai una mano con l'INC-3310? Dopo gli aggiornamenti di stanotte le fatture elettroniche non partono più e uno dei servizi sui server applicativi continua a riavviarsi. In /workdir trovi l'export del journal dei tre nodi, le copie dei file di sistema (sotto hosts/<nodo>/) e i ticket.
Ti chiedo di:
1. capire su... | 16 | 1 | 0 |
ops_top_talker_bandwidth | ops_forensics | Please handle NET-2207 (in /workdir/tickets): there was an egress burst on the edge pool and we need to throttle the client responsible. The access logs of the three edge nodes, the alert log and the edge config are in /workdir.
1. Find the client IP as defined in the ticket and write only that IP to /workdir/answer.t... | 16 | 0 | 0 |
ops_webhook_retry_storm | ops_forensics | Our partner ACME blocked us after a webhook flood on 2026-09-18 (INC-7719, under tickets/). I need to know which of our services caused it and I want it fixed so it can't happen again.
Everything is in /workdir: egress proxy logs, the services' configs, deploy files and logs, the IP inventory, tickets, and the platfor... | 17 | 1 | 0 |
data_agriturismo_overbooking | data_detective | Ciao, temo che con tre canali di prenotazione ci siano camere prenotate due volte per le stesse notti. Puoi
controllare tutte le prenotazioni attive (non cancellate) che trovi in /workdir? Il LEGGIMI spiega come sono
organizzati i dati.
Scrivi in /workdir/overbooking.txt i codici di tutte le prenotazioni coinvolte in ... | 18 | 0.5 | 0 |
data_bank_unpaid_invoices | data_detective | Ciao, domani ho la riunione con la banca e mi serve la situazione dei crediti: quali fatture emesse fino al
30/09/2026 (compreso) non risultano ancora incassate per intero a quella data, e per quanto. Considera solo gli
incassi arrivati entro il 30/09/2026. Trovi tutto in /workdir (gestionale, estratti conto, POS): leg... | 20 | 0 | 0 |
data_bike_repair_trips | data_detective | Ciao, in officina sospettano che alcune bici siano state noleggiate mentre risultavano ferme per riparazione
(qualcuno le avrà rimesse in rastrelliera prima della chiusura del ticket). Mi controlli le corse di agosto e
settembre 2026? Una corsa è sospetta se è partita mentre la bici aveva un ticket d'officina aperto; l... | 18 | 0 | 0 |
data_canteen_overbilling | data_detective | Buongiorno, la segreteria ci chiede di controllare la fattura della mensa di settembre 2026 (vedi la mail in
/workdir/posta). Ricalcola l'imponibile che la ditta poteva fatturare secondo il capitolato in vigore, partendo dai
dati del portale mensa e dall'anagrafica, e confrontalo con l'imponibile della fattura.
Scrivi... | 18 | 0 | 0 |
data_cantieri_ore_subappalto | data_detective | Ciao, per la riunione di cantiere di lunedì mi serve un riepilogo delle ore di settembre 2026 (dal 1 al 30) per
ciascun cantiere, per capire se le ditte in subappalto ci stanno fatturando le ore giuste. Trovi rapportini,
anagrafiche e fatture in /workdir (leggi prima il LEGGIMI).
Crea il file /workdir/ore_cantieri_set... | 20 | 0 | 0 |
data_clinic_noshow_doctor | data_detective | For the quarterly operations review I need to know which doctor had the most no-shows in Q3 2026 (1 July to
30 September 2026, by scheduled start date). Everything is under /workdir (start with the README); apply our no-show
policy exactly as written.
Write the result to /workdir/top_noshow.json as a JSON object with ... | 18 | 0 | 0 |
data_coffee_recall_trace | data_detective | We just got a recall notice from one of our green coffee suppliers (it's in /workdir/inbox). I need to know which
customer orders we have already shipped that contain coffee made from the recalled lot, so we can contact those
customers today. All our traceability files are in /workdir (see the README).
Write the order... | 18 | 0.5 | 0 |
data_condo_expense_split | data_detective | Buongiorno, devo preparare il riparto consuntivo 2025 del condominio di Via dei Tigli 8. Nella cartella /workdir c'è
tutto (registro spese, piano dei conti, tabelle, anagrafica, verbali) e una nota dello studio con i criteri: seguila.
Mi serve l'importo a carico di ciascun proprietario (una persona può avere più inter... | 20 | 0.5 | 0 |
data_coop_water_split | data_detective | Hi, can you do the water split for Q3 2026 for our co-op? Everything is in /workdir: start with the README, the rules
are in the bylaws. I need /workdir/water_split_2026Q3.csv with header `unit,amount` and one row per apartment that is
charged, sorted by unit (1A, 1B, ...), amount in dollars with 2 decimals (e.g. 84.17... | 18 | 1 | 0 |
data_course_overbooked | data_detective | The dean's office wants to know which Fall 2026 sections currently have more seated students than their room allows.
The registrar data is under /workdir (see README.txt); make sure you use each section's current room.
Write /workdir/overbooked.csv with the exact header `section,room,seated,capacity` and one row per o... | 18 | 0 | 0 |
data_ddt_carrier_invoice | data_detective | Ciao, l'amministrazione mi ha girato una mail sulla fattura di settembre 2026 di Trasporti Ferri: va ricostruita
come avrebbe dovuto essere secondo il contratto, partendo dai nostri DDT. I dati sono in /workdir (c'è un LEGGIMI).
1. Crea /workdir/fattura_corretta.csv (separatore virgola, punto decimale) con intestazion... | 20 | 1 | 0 |
data_dental_unbilled | data_detective | Ciao, la dottoressa Valli pensa che qualche prestazione non sia mai stata fatturata (la sua mail è in /workdir insieme
a tutto il resto; parti dal LEGGIMI). Mi trovi tutte le prestazioni eseguite tra il 1 gennaio e il 31 agosto 2026 che
non compaiono in nessuna fattura emessa?
Scrivi il risultato in /workdir/da_fattur... | 18 | 0 | 0 |
data_energy_submeter_swap | data_detective | Hi, I'm doing the August 2026 electricity re-billing and the numbers for flat 4B at 12 Quay Street look off: the
meter was swapped during the month. Can you work out the flat's correct August consumption? The data is under
/workdir (see the README) and the billing rules are in docs/.
Write only the consumption in kWh,... | 14 | 0.5 | 0 |
data_fleet_fuel_flags | data_detective | Finance wants the list of fuel-card transactions from Q3 2026 (July-September) that break our automatic checks.
All the data is in /workdir (read the README and the policy first).
Write /workdir/flags.csv, comma-separated, with the exact header `txn_id,reason`, one row per flagged transaction,
where txn_id is the prov... | 18 | 1 | 0 |
data_foodbank_pledges | data_detective | Hi, the board wants to know where each 2026 pledge stands. The records are in /workdir; the README explains how they
are kept.
Create /workdir/pledge_status.csv (comma separated) with header exactly `donor_id,kind,pledged,received,shortfall`
and one row per 2026 pledge: donor_id (after applying the record merges), kin... | 20 | 1 | 0 |
data_freelance_invoice_fix | data_detective | Harbourline's accounts team rejected my Q3 draft invoice (their email is in /workdir/inbox). Please rebuild it from
my time tracking exports following the statement of work; everything is in /workdir.
Write /workdir/invoice/invoice_HL-2026-Q3.csv with the header project,rate_eur,hours,amount_eur and one row per
projec... | 16 | 1 | 0 |
data_greenhouse_calibration | data_detective | Hi, the agronomist wants to know how hot greenhouse GH-B got on 15 August 2026 (local Italian time, i.e. the whole
calendar day in Europe/Rome). The monitoring export is in /workdir - read the README and the technicians' notes first.
Using every valid reading taken in GH-B during that local day, corrected as the READM... | 18 | 1 | 0 |
data_gym_irregular_access | data_detective | Ciao, il tornello a settembre non ha bloccato nessuno (trovi la spiegazione nel LEGGIMI in /workdir). Mi serve
sapere quanti ingressi di settembre 2026 sono stati irregolari secondo il regolamento della segreteria e di quali soci.
Scrivi il risultato in /workdir/irregolari.json come oggetto JSON con due chiavi:
"acces... | 18 | 0.5 | 0 |
data_hotel_minibar_folio | data_detective | Ciao, la direzione sospetta che a settembre alcuni consumi del minibar non siano stati addebitati correttamente agli
ospiti. Per ogni folio con checkout a settembre 2026 confronta quanto avrebbe dovuto pagare di minibar (in base ai
rifornimenti registrati dall'housekeeping e ai listini) con quanto gli è stato effettiva... | 20 | 0 | 0 |
data_lab_custody_breach | data_detective | Ciao, l'audit interno ci chiede di verificare la catena di custodia della biobanca di settembre: vogliamo sapere
se ci sono risultati di analisi eseguite su un'aliquota DOPO che quella stessa aliquota era stata registrata come
smaltita. Considera solo le analisi che contano per i referti. Trovi tutto in /workdir (c'è u... | 18 | 0.5 | 0 |
data_lab_instrument_billing | data_detective | Please prepare the September 2026 instrument billing for our core facility. Everything is in /workdir (start with
README.md; billing rules and admin data are in admin/).
Write /workdir/billing_2026-09.csv with header `group_code,usage_hours,no_show_hours,charge_eur` and one row per
research group, sorted by group_code... | 20 | 0 | 0 |
data_league_standings | data_detective | Ciao! Per il sito del campionato mi serve la classifica aggiornata della stagione 2025/26 con tutte le partite
disputate finora (i materiali sono in /workdir, c'è un LEGGIMI). Attenzione ai comunicati del giudice sportivo e al
regolamento.
Scrivi /workdir/classifica.csv, separato da virgole, con intestazione esatta
`p... | 18 | 0.5 | 0 |
data_leaver_laptops | data_detective | Security audit request: I need the list of company laptops that are still assigned to people who have already left
Northwind (anyone whose last working day is on or before 30 September 2026 and who has not been rehired), and for
each one whether our MDM has seen the device check in after that person's last working day.... | 18 | 1 | 0 |
data_library_overdue_fines | data_detective | Ciao, per la rendicontazione al Comune mi serve il totale delle multe per ritardo maturate sui prestiti restituiti nel
mese di settembre 2026 (conta la data effettiva della restituzione). Tutto quello che serve è nella cartella
/workdir: parti dal LEGGIMI, e occhio agli avvisi interni e al regolamento in vigore.
Scriv... | 18 | 0.5 | 0 |
data_loyalty_points_ledger | data_detective | Our loyalty-program balances look off for some members. Please audit every member's stored points balance
(as of 2026-09-30) against the program rules and the raw data. All files are in /workdir; start with README.txt.
Write /workdir/wrong_balances.csv with header `card_id,stored_balance,correct_balance`, one row per ... | 19 | 0 | 0 |
data_marathon_results | data_detective | We need the official results of the Lakeshore Marathon 2026 to replace the preliminary ones. All the timing data and
rules are in /workdir (start with the README).
Write /workdir/results_official.csv with the exact header `rank,bib,name,net_time`, one row per ranked finisher,
ordered by net time (fastest first), rank ... | 20 | 1 | 0 |
data_market_stall_arrears | data_detective | Ciao, è finita la stagione del mercato contadino e il comandante vuole sapere chi è ancora in debito con il canone dei
posteggi (stagione dal 4 aprile al 26 settembre 2026). In /workdir trovi assegnazioni, posteggi, anagrafe operatori,
l'export dei pagamenti PagoPA, il regolamento e le note dell'ufficio.
Scrivi in /wo... | 18 | 0 | 0 |
data_museo_tornelli | data_detective | Buongiorno, la Direzione vuole capire in quali giorni di settembre 2026 i conteggi dei tornelli d'ingresso non
tornano con i titoli di accesso registrati (biglietti, Museo Card e accompagnatori dei gruppi). Ti ho messo tutto
in /workdir: parti dal LEGGIMI.md.
Per ogni giorno calcola differenza = ingressi contati dai t... | 19 | 0 | 0 |
data_nido_rette | data_detective | Ciao, la bozza delle rette di settembre 2026 del nido è sbagliata (l'ha fatta il vecchio foglio Excel). Ricalcolale
tutte seguendo la delibera in vigore, usando le attestazioni ISEE e il registro presenze che trovi in /workdir
(c'è un LEGGIMI).
Scrivi il risultato in /workdir/rette/rette_settembre_corrette.csv con lo ... | 20 | 0.5 | 0 |
data_olive_coop_underpaid | data_detective | Alcuni soci del frantoio dicono di aver ricevuto meno del dovuto per la campagna olearia 2025/26. Ricalcola, per ogni
socio, quanto gli spettava in base ai conferimenti, alle analisi e ai prezzi approvati, e confrontalo con quanto gli
abbiamo effettivamente pagato per la campagna. Trova il socio con la differenza più a... | 20 | 0 | 0 |
data_parcel_lost | data_detective | Head office wants the list of presumed-lost parcels for the September 2026 reporting period (cut-off 30 September 2026,
end of day UTC) for the North region. Use our ops policy to decide what counts as lost. Everything is under /workdir;
start from the README.
Write the tracking numbers of the presumed-lost parcels to... | 18 | 0.5 | 0 |
data_payroll_overtime | data_detective | Ciao, devo chiudere le buste paga di settembre 2026 e mi manca l'importo degli straordinari di Mario Rossi del
magazzino. Me lo calcoli dalle timbrature? Tutto è in /workdir (parti dal LEGGIMI); segui le regole aziendali che trovi
in paghe/.
Scrivi solo l'importo in euro, con il punto e due decimali (es. 245.30), in /... | 18 | 0.5 | 0 |
data_pharmacy_expired_stock | data_detective | Ciao, per la chiusura del trimestre mi serve sapere quali lotti già scaduti al 30/09/2026 erano ancora sui nostri
scaffali a fine giornata del 30/09 e quanto valgono al costo d'acquisto. Tutti i dati sono in /workdir, il LEGGIMI
spiega i file. Considera solo i movimenti fino al 30/09/2026 compreso.
1. /workdir/scaduti... | 20 | 1 | 0 |
data_restaurant_missing_receipt | data_detective | Ciao, il commercialista dice che in una delle chiusure di cassa di agosto 2026 il totale della Z non torna con gli
scontrini del gestionale di sala: probabilmente la cassa ha emesso uno scontrino che nel gestionale non è mai stato
registrato. Trovami quale. I file sono in /workdir, parti dal LEGGIMI.
Scrivi il risulta... | 18 | 0 | 0 |
data_ricambi_riordino | data_detective | Ciao, prima di mandare gli ordini ai fornitori mi prepari la lista di riordino dei ricambi? La situazione di
magazzino è quella della conta del 30 settembre 2026; in /workdir trovi il LEGGIMI con la regola di riordino e
tutti i dati (catalogo, sostituzioni di codice, prenotazioni dell'officina, ordini già inviati).
Sc... | 19 | 0.5 | 0 |
data_saas_post_cancel_charges | data_detective | Hi! We need to refund every customer charge that happened after a cancellation should have taken effect. The data and
the background are in /workdir (README first; the cancellation policy is in support/).
Only charges that actually went through and have not already been refunded need a refund. Write /workdir/refunds.j... | 20 | 0.5 | 0 |
data_sales_commissions | data_detective | Ciao, la direzione ha bocciato la bozza delle provvigioni del terzo trimestre 2026 (la loro mail è nella cartella
provvigioni, spiega cosa non va). Puoi rifare il conteggio? I dati sono tutti in /workdir, parti dal LEGGIMI.
Scrivi l'estratto corretto in /workdir/provvigioni/provvigioni_Q3_2026_corretto.csv con le stes... | 18 | 1 | 0 |
data_school_grade_averages | data_detective | Ciao, per lo scrutinio del primo quadrimestre mi serve la media dei voti di ogni studente della 3B. L'export del
registro elettronico è in /workdir/registro, ma ci sono stati un paio di pasticci (guarda in segreteria e in
anagrafica prima di calcolare): segui i criteri di valutazione della segreteria.
Scrivi il risult... | 18 | 0 | 0 |
data_shelter_microchips | data_detective | Hi! Before our annual inspection I need to know which of our animals have the wrong keeper (or no keeper at all) on
the PetLog microchip registry. The shelter database, the registry exports and our notes on how the check works
are all in /workdir.
Write /workdir/mismatches.csv with the header
animal_id,microchip,expec... | 18 | 0 | 0 |
data_shop_unshipped_invoices | data_detective | Ciao! Il commercialista ci ha scritto (trovi il suo promemoria in contabilità): secondo lui ci sono fatture del terzo
trimestre che non corrispondono a merce mai spedita. Mi serve l'elenco degli ordini fatturati tra il 1 luglio e il
30 settembre 2026 che non sono mai partiti con nessun corriere.
Non considerare le fat... | 18 | 0.5 | 0 |
data_solar_unpaid_energy | data_detective | Ciao, ti giro la mail dell'amministrazione (è in /workdir) sull'impianto fotovoltaico del capannone. Serve il totale dei
kWh prodotti tra il 1 aprile e il 30 settembre 2026 che il GSE non ci ha riconosciuto come energia incentivata.
Tutta la documentazione che abbiamo è in /workdir: contatore, inverter ed estratto cont... | 18 | 0 | 0 |
data_speaker_reimbursement | data_detective | Finance needs the total amount we must reimburse to the speakers of OpenData Summit 2026 (travel + per diems, under
our speaker travel policy). All the material is in /workdir: claims, speakers, venue records, FX rates and the policy.
Write the total in EUR, rounded to the cent, as a plain number with 2 decimals and a... | 19 | 0 | 0 |
data_survey_department_means | data_detective | Ciao, ho bisogno dei risultati dell'indagine sul clima aziendale per reparto. I dati delle due sedi sono in
/workdir/sondaggio e le istruzioni dell'HR su come elaborarli sono nella nota che trovi lì dentro: seguile alla lettera.
Crea /workdir/clima_reparti.csv con separatore virgola e intestazione esattamente `reparto... | 18 | 0.5 | 0 |
data_ticket_scan_audit | data_detective | We're doing the post-event audit for Autumn Lights (12 September 2026). I need three lists from the ticketing data
in /workdir (start with the README):
1. "reused": tickets that were let in more than once on the show day;
2. "cross_channel": serials that were sold both by the online shop and by the box office;
3. "ref... | 18 | 0.5 | 0 |
data_training_certificate | data_detective | Ciao! Il corso SIC-ALTO-E1 è finito e dobbiamo stampare gli attestati. Mi dici chi ne ha diritto? Tutto quello che
serve è in /workdir (calendario, iscritti, timbrature, regolamento e una mail della segreteria con alcune variazioni).
Scrivi in /workdir/attestati.txt gli id dei partecipanti che hanno diritto all'attest... | 17 | 0.5 | 0 |
data_vending_cash_gap | data_detective | Our vending contractor says one machine's coin box keeps coming back light. Using the machine telemetry and the
drivers' collection sheets in /workdir (see README.txt), find the machine with the largest total cash shortfall over
the collections made in September 2026, and how much is missing in total for that machine o... | 18 | 0 | 0 |
data_vet_vaccine_overdue | data_detective | Ciao, devo preparare i promemoria per i richiami vaccinali scaduti. Mi servirebbe l'elenco, alla data del 30 settembre
2026, di tutti i richiami scaduti degli animali che seguiamo ancora, secondo il protocollo vaccinale in vigore.
Un richiamo è scaduto quando la sua scadenza (ultima somministrazione effettiva di quel v... | 18 | 0 | 0 |
data_volunteer_cert_hours | data_detective | Ciao! Dobbiamo preparare gli attestati delle ore di volontariato svolte dal 1 gennaio al 30 settembre 2026 (estremi
inclusi) per tutti i volontari, compresi quelli che nel frattempo si sono dimessi. Le ore vanno calcolate secondo il
regolamento dell'associazione. Trovi tutto in /workdir.
Crea /workdir/attestati.csv co... | 18 | 0.5 | 0 |
data_warehouse_shrinkage | data_detective | Hi - I need the Q3 2026 shrinkage figures for store 14. The audit pack is in /workdir (start with the README).
Please produce two files:
1. /workdir/shrinkage.csv - comma separated, header exactly `sku,units_lost,value_lost`, one row per SKU whose
unexplained loss is not zero (units_lost is an integer, positive for... | 20 | 0 | 0 |
data_waste_zone_tonnes | data_detective | Ciao, mi prepari il report di settembre 2026 della raccolta rifiuti per zona? Tutto il materiale è in /workdir
(parti dal LEGGIMI, c'è anche la procedura da seguire).
Mi serve il file /workdir/report_zone_settembre.csv, separato da virgole, con intestazione esattamente
zona,indifferenziato_t,differenziato_t,perc_diffe... | 18 | 1 | 0 |
End of preview. Expand in Data Studio
Exploration-heavy agent tasks in the Harbor layout
200 original multi-step tasks for shell agents, 50 per field, validated in Docker. For every task the reference solution passes the hidden tests and doing nothing fails them. Each task needs a careful agent to discover information over roughly 15–20 tool calls: a ticket points to an id, the id to a log, the log to a config. They need minimal world knowledge, contain decoys (backup files, stale exports, look-alike names, superseded emails), and offer several independent sources to read in parallel. 60% of the instructions are in Italian.
| field | tasks | what the agent works out |
|---|---|---|
ops_forensics |
50 | incident root causes from rotated logs, configs, cron / systemd / nginx, inventories; fix + report |
data_detective |
50 | reconciliation across CSV / JSON / SQLite exports with rules files; corrected outputs |
code_archaeology |
50 | bugs across modules and git history (guilty commit, regression, consistent renames); hidden tests on new inputs |
office_archives |
50 | mail (.eml / mbox), calendars (.ics), contacts, receipts, minutes: chained lookups, scheduling, reconciliation |
- Measured difficulty (
index.jsonl): Qwen3.8-27B (non-thinking, 30 turns, k = 2) has mean pass@1 .61 (pass@2 .755). - Anti-hacking. Answer files must hold exactly one value. The tests compute the effective state (systemd plus drop-ins, nginx includes,
sudoers expansion, simulated cron, parsed YAML / INI / CSV). Every other file is checked unchanged by sha256. Commit answers
are verified via git. Across the four fields, 686 sloppy / decoy / multi-candidate attack scripts all score 0
(
generators/*/attacks,generators/data_builders/attacks). generators/: one deterministic builder per task (ops_gen/,data_builders/,code_gen/,office_builder/). Every directory can be rebuilt from them.- Run with palingenesis:
pgs harbor check tasks/<field>, and RL withpalingenesis.rl.envs.harbor:HarborEnv. Episodes run in a fresh container, and the tests run in a clean one holding only a copy of/workdir. The tasks use the shared imagepgs-envs-base:1(base_image/Dockerfile).
- Downloads last month
- 13