code/build.py

#!/usr/bin/env python3
"""Deterministic original fictional databases and executable Arabic examples."""
from __future__ import annotations
import hashlib, json, sqlite3
from pathlib import Path
import pyarrow as pa
import pyarrow.parquet as pq

BASE = Path(__file__).resolve().parents[1]
ROOT = BASE.parent if BASE.name == 'release' else BASE
OUT = ROOT / 'release'
DOMAINS = [
 ('retail','bookshop','مكتبة الورّاق'),('retail','grocery','متجر الزاد'),('retail','electronics','متجر التقنية'),('retail','sports','متجر الرياضة'),
 ('education','school','مدرسة النور'),('education','academy','أكاديمية البيان'),('education','institute','معهد اللغات'),('education','college','كلية العلوم'),
 ('operations','workshop','ورشة الآلات'),('operations','warehouse','مستودع القطع'),('operations','fleet','مركز المركبات'),('operations','factory','مصنع التغليف')]
CITIES=['عمّان','الرياض','الدار البيضاء']
PRODUCTS={'bookshop':['معجم','أطلس','رواية','دفتر'], 'grocery':['أرز','تمر','شاي','زيت'], 'electronics':['شاشة','فأرة','لوحة مفاتيح','سماعة'], 'sports':['كرة','مضرب','حقيبة','حذاء']}

def database(domain,slug,index):
    p=OUT/'databases'/f'{slug}.sqlite'; p.parent.mkdir(parents=True,exist_ok=True)
    if p.exists(): raise RuntimeError(f'refusing overwrite: {p}')
    db=sqlite3.connect(p)
    a,b,c=[f'{slug}_{x}' for x in ('a','b','c')]
    if domain=='retail':
        db.executescript(f'''CREATE TABLE {a} (id INTEGER PRIMARY KEY, name TEXT NOT NULL, city TEXT NOT NULL);
CREATE TABLE {b} (id INTEGER PRIMARY KEY, name TEXT NOT NULL, category TEXT NOT NULL, price_sar INTEGER NOT NULL);
CREATE TABLE {c} (id INTEGER PRIMARY KEY, branch_id INTEGER NOT NULL REFERENCES {a}(id), product_id INTEGER NOT NULL REFERENCES {b}(id), quantity INTEGER NOT NULL, sale_date TEXT NOT NULL);''')
        left=[(1,'فرع الشمال',CITIES[0]),(2,'فرع الوسط',CITIES[1]),(3,'فرع الجنوب',CITIES[2])]
        names=PRODUCTS[slug]; right=[(i+1,n,'أ' if i<2 else 'ب',(i+2)*10+index) for i,n in enumerate(names)]
        facts=[(i+1,1+i%2,1+i%4,1+(i+index)%4,f'2024-0{1+i%3}-15') for i in range(12)]
    elif domain=='education':
        db.executescript(f'''CREATE TABLE {a} (id INTEGER PRIMARY KEY, name TEXT NOT NULL, city TEXT NOT NULL);
CREATE TABLE {b} (id INTEGER PRIMARY KEY, title TEXT NOT NULL, subject TEXT NOT NULL, credits INTEGER NOT NULL);
CREATE TABLE {c} (id INTEGER PRIMARY KEY, student_id INTEGER NOT NULL REFERENCES {a}(id), course_id INTEGER NOT NULL REFERENCES {b}(id), score INTEGER, term TEXT NOT NULL);''')
        left=[(1,'طالب ألف',CITIES[0]),(2,'طالب باء',CITIES[1]),(3,'طالب جيم',CITIES[2]),(4,'طالب دال',CITIES[0])]
        right=[(1,'الرياضيات','علوم',3),(2,'اللغة العربية','لغات',2),(3,'الإحصاء','علوم',4),(4,'الفرنسية','لغات',2)]
        facts=[(i+1,1+i%3,1+i%4,None if i%5==0 else 50+((i*7+index)%51),'2024-1' if i%2==0 else '2024-2') for i in range(12)]
    else:
        db.executescript(f'''CREATE TABLE {a} (id INTEGER PRIMARY KEY, name TEXT NOT NULL, city TEXT NOT NULL);
CREATE TABLE {b} (id INTEGER PRIMARY KEY, label TEXT NOT NULL, kind TEXT NOT NULL, depot_id INTEGER NOT NULL REFERENCES {a}(id));
CREATE TABLE {c} (id INTEGER PRIMARY KEY, asset_id INTEGER NOT NULL REFERENCES {b}(id), result TEXT NOT NULL, inspection_date TEXT NOT NULL);''')
        left=[(1,'مركز الشمال',CITIES[0]),(2,'مركز الوسط',CITIES[1]),(3,'مركز الجنوب',CITIES[2])]
        right=[(1,'جهاز ألف','ثابت',1),(2,'جهاز باء','متحرك',1),(3,'جهاز جيم','ثابت',2),(4,'جهاز دال','متحرك',3)]
        facts=[(i+1,1+i%3,'اجتاز' if (i+index)%3 else 'لم يجتز',f'2024-0{1+i%3}-15') for i in range(9)]
    for t, rows in zip((a,b,c),(left,right,facts)):
        db.executemany(f'INSERT INTO {t} VALUES ({",".join("?"*len(rows[0]))})',rows)
    db.commit(); ddl='\n'.join(x[0]+';' for x in db.execute("SELECT sql FROM sqlite_master WHERE type='table' ORDER BY name"))
    assert db.execute('PRAGMA integrity_check').fetchone()[0]=='ok'
    assert not db.execute('PRAGMA foreign_key_check').fetchall()
    db.close()
    return p,(a,b,c),ddl,left,right,facts

def examples(domain,slug,title,tab,ddl,L,R,F):
    a,b,c=tab; out=[]
    def add(q,sql,expected,operation):
        # Expected values are computed directly from Python source rows; SQL is checked independently.
        out.append(dict(question_ar=q,reference_sql=sql,expected_result_json=json.dumps(expected,ensure_ascii=False,separators=(',',':')),decision='execute',operation=operation))
    def clarify(q,reason):
        # An unspecified metric needs clarification; missing schema fields do not.
        decision='clarify' if reason=='unspecified_best_metric' else 'unanswerable'
        out.append(dict(question_ar=q,reference_sql=None,expected_result_json=None,decision=decision,operation=reason))
    if domain=='retail':
        add('كم عدد الفروع؟',f'SELECT COUNT(*) FROM {a}',[[len(L)]],'count')
        add('كم عدد المنتجات؟',f'SELECT COUNT(*) FROM {b}',[[len(R)]],'count')
        add('كم عدد سجلات البيع؟',f'SELECT COUNT(*) FROM {c}',[[len(F)]],'count')
        add('ما إجمالي الكمية في سجلات البيع؟',f'SELECT SUM(quantity) FROM {c}',[[sum(x[3] for x in F)]],'sum')
        add('ما سعر أغلى منتج بالريال؟',f'SELECT MAX(price_sar) FROM {b}',[[max(x[3] for x in R)]],'max')
        add('ما أسماء المنتجات مرتبة حسب المعرّف؟',f'SELECT name FROM {b} ORDER BY id',[[x[1]] for x in R],'projection')
        add('ما أسماء الفروع التي ليس لديها أي سجل بيع؟',f'SELECT a.name FROM {a} a WHERE NOT EXISTS (SELECT 1 FROM {c} c WHERE c.branch_id=a.id) ORDER BY a.id',[[x[1]] for x in L if not any(y[1]==x[0] for y in F)],'not_exists')
        total=sum(x[3]*R[x[2]-1][3] for x in F)
        add('ما إجمالي قيمة البيع بالريال لجميع السجلات؟ احسب الكمية مضروبة في سعر المنتج.',f'SELECT SUM(c.quantity*b.price_sar) FROM {c} c JOIN {b} b ON b.id=c.product_id',[[total]],'join_sum')
        add('اعرض اسم كل فرع وعدد سجلات البيع فيه، بما في ذلك الفروع التي لا تملك مبيعات، بترتيب معرّف الفرع.',f'SELECT a.name, COUNT(c.id) FROM {a} a LEFT JOIN {c} c ON c.branch_id=a.id GROUP BY a.id ORDER BY a.id',[[x[1],sum(y[1]==x[0] for y in F)] for x in L],'left_join_count')
        for x in R:
            n=x[0];name=x[1];z=[y for y in F if y[2]==n]
            add(f'كم عدد سجلات بيع المنتج «{name}»؟',f'SELECT COUNT(*) FROM {c} WHERE product_id={n}',[[len(z)]],'filter_count')
            add(f'ما إجمالي كمية المنتج «{name}» المباعة؟',f'SELECT COALESCE(SUM(quantity),0) FROM {c} WHERE product_id={n}',[[sum(y[3] for y in z)]],'filter_sum')
            add(f'ما سعر المنتج «{name}» بالريال؟',f'SELECT price_sar FROM {b} WHERE id={n}',[[x[3]]],'lookup')
        for x in L:
            n=x[0];name=x[1];z=[y for y in F if y[1]==n]
            add(f'كم عدد سجلات البيع في «{name}»؟',f'SELECT COUNT(*) FROM {c} WHERE branch_id={n}',[[len(z)]],'filter_count')
            add(f'ما إجمالي كمية المبيعات في «{name}»؟ اعتبر الإجمالي صفرًا عند عدم وجود سجلات.',f'SELECT COALESCE(SUM(quantity),0) FROM {c} WHERE branch_id={n}',[[sum(y[3] for y in z)]],'filter_sum')
        clarify('ما أفضل فرع؟','unspecified_best_metric')
        clarify('ما إجمالي الأرباح؟','profit_cost_unavailable')
    elif domain=='education':
        add('كم عدد الطلاب؟',f'SELECT COUNT(*) FROM {a}',[[len(L)]],'count')
        add('كم عدد المقررات؟',f'SELECT COUNT(*) FROM {b}',[[len(R)]],'count')
        add('كم عدد سجلات التسجيل؟',f'SELECT COUNT(*) FROM {c}',[[len(F)]],'count')
        add('كم عدد سجلات التسجيل التي لم تُسجّل لها درجة؟',f'SELECT COUNT(*) FROM {c} WHERE score IS NULL',[[sum(x[3] is None for x in F)]],'null_count')
        add('ما أعلى درجة مسجلة؟',f'SELECT MAX(score) FROM {c}',[[max(x[3] for x in F if x[3] is not None)]],'max')
        add('ما أسماء الطلاب الذين ليس لديهم أي تسجيل؟',f'SELECT a.name FROM {a} a WHERE NOT EXISTS (SELECT 1 FROM {c} c WHERE c.student_id=a.id) ORDER BY a.id',[[x[1]] for x in L if not any(y[1]==x[0] for y in F)],'not_exists')
        add('اعرض اسم كل طالب وعدد سجلات تسجيله، بما في ذلك من ليس لديه تسجيل، حسب معرّف الطالب.',f'SELECT a.name, COUNT(c.id) FROM {a} a LEFT JOIN {c} c ON c.student_id=a.id GROUP BY a.id ORDER BY a.id',[[x[1],sum(y[1]==x[0] for y in F)] for x in L],'left_join_count')
        for x in L:
            n=x[0];name=x[1];z=[y for y in F if y[1]==n]
            add(f'كم عدد سجلات تسجيل «{name}»؟',f'SELECT COUNT(*) FROM {c} WHERE student_id={n}',[[len(z)]],'filter_count')
            add(f'كم درجة مسجلة للطالب «{name}»؟ لا تحسب القيم المفقودة.',f'SELECT COUNT(score) FROM {c} WHERE student_id={n}',[[sum(y[3] is not None for y in z)]],'non_null_count')
        for x in R:
            n=x[0];name=x[1];z=[y for y in F if y[2]==n]
            add(f'كم عدد سجلات التسجيل في مقرر «{name}»؟',f'SELECT COUNT(*) FROM {c} WHERE course_id={n}',[[len(z)]],'filter_count')
            add(f'كم عدد الساعات المعتمدة لمقرر «{name}»؟',f'SELECT credits FROM {b} WHERE id={n}',[[x[3]]],'lookup')
            add(f'كم درجة مسجلة في مقرر «{name}»؟ لا تحسب القيم المفقودة.',f'SELECT COUNT(score) FROM {c} WHERE course_id={n}',[[sum(y[3] is not None for y in z)]],'non_null_count')
        clarify('من أفضل طالب؟','unspecified_best_metric')
        clarify('كم تبلغ رسوم الدراسة؟','fees_unavailable')
    else:
        add('كم عدد المراكز؟',f'SELECT COUNT(*) FROM {a}',[[len(L)]],'count')
        add('كم عدد الأجهزة؟',f'SELECT COUNT(*) FROM {b}',[[len(R)]],'count')
        add('كم عدد سجلات الفحص؟',f'SELECT COUNT(*) FROM {c}',[[len(F)]],'count')
        add('كم عدد سجلات الفحص التي كانت نتيجتها «اجتاز»؟',f"SELECT COUNT(*) FROM {c} WHERE result='اجتاز'",[[sum(x[2]=='اجتاز' for x in F)]],'filter_count')
        add('ما أسماء الأجهزة التي ليس لها أي فحص؟',f'SELECT b.label FROM {b} b WHERE NOT EXISTS (SELECT 1 FROM {c} c WHERE c.asset_id=b.id) ORDER BY b.id',[[x[1]] for x in R if not any(y[1]==x[0] for y in F)],'not_exists')
        add('اعرض كل جهاز وعدد فحوصه، بما في ذلك الأجهزة بلا فحوص، حسب معرّف الجهاز.',f'SELECT b.label,COUNT(c.id) FROM {b} b LEFT JOIN {c} c ON c.asset_id=b.id GROUP BY b.id ORDER BY b.id',[[x[1],sum(y[1]==x[0] for y in F)] for x in R],'left_join_count')
        add('اعرض أسماء المراكز وعدد الأجهزة التابعة لكل منها، حسب معرّف المركز.',f'SELECT a.name,COUNT(b.id) FROM {a} a LEFT JOIN {b} b ON b.depot_id=a.id GROUP BY a.id ORDER BY a.id',[[x[1],sum(y[3]==x[0] for y in R)] for x in L],'join_count')
        for x in R:
            n=x[0];name=x[1];z=[y for y in F if y[1]==n]
            add(f'كم عدد فحوص «{name}»؟',f'SELECT COUNT(*) FROM {c} WHERE asset_id={n}',[[len(z)]],'filter_count')
            add(f'كم مرة كانت نتيجة فحص «{name}» هي «اجتاز»؟',f"SELECT COUNT(*) FROM {c} WHERE asset_id={n} AND result='اجتاز'",[[sum(y[2]=='اجتاز' for y in z)]],'filter_count')
            add(f'ما نوع الجهاز «{name}»؟',f'SELECT kind FROM {b} WHERE id={n}',[[x[2]]],'lookup')
        for x in L:
            n=x[0];name=x[1];z=[y for y in R if y[3]==n]
            add(f'كم عدد الأجهزة التابعة لـ«{name}»؟',f'SELECT COUNT(*) FROM {b} WHERE depot_id={n}',[[len(z)]],'filter_count')
            add(f'ما مدينة «{name}»؟',f'SELECT city FROM {a} WHERE id={n}',[[x[2]]],'lookup')
        clarify('ما أفضل جهاز؟','unspecified_best_metric')
        clarify('ما تكلفة إصلاح الأجهزة؟','repair_cost_unavailable')
    for i,row in enumerate(out):
        row['question_ar']=f'في {title}، {row["question_ar"]}'
        row.update(id=f'{slug}-{i+1:04}',database_id=slug,database_path=f'databases/{slug}.sqlite',domain=domain,scenario=title,schema_sql=ddl,language='ar',question_provenance='author_written_template',database_provenance='fictional_programmatically_generated',human_native_speaker_reviewed=False,split='train' if DOMAINS.index((domain,slug,title))%4<2 else 'validation' if DOMAINS.index((domain,slug,title))%4==2 else 'test')
    return out

def main():
    if (OUT/'data').exists(): raise RuntimeError('refusing overwrite existing release data')
    splits={'train':[],'validation':[],'test':[]}
    for idx,(domain,slug,title) in enumerate(DOMAINS):
        p,tab,ddl,L,R,F=database(domain,slug,idx)
        rows=examples(domain,slug,title,tab,ddl,L,R,F)
        db=sqlite3.connect(p.resolve().as_uri()+'?mode=ro',uri=True)
        db.execute('PRAGMA query_only=ON')
        for row in rows:
            if row['decision']=='execute':
                actual=[list(x) for x in db.execute(row['reference_sql']).fetchall()]
                assert actual==json.loads(row['expected_result_json']),(row['id'],actual,row['expected_result_json'])
            splits[row['split']].append(row)
        db.close()
    (OUT/'data').mkdir()
    for split, rows in splits.items():
        pq.write_table(pa.Table.from_pylist(rows),OUT/'data'/f'{split}.parquet',compression='zstd')
    summary={s:{'rows':len(v),'databases':len({x['database_id'] for x in v}),'execute':sum(x['decision']=='execute' for x in v),'clarification':sum(x['decision']=='clarify' for x in v),'unanswerable':sum(x['decision']=='unanswerable' for x in v)} for s,v in splits.items()}
    (ROOT/'build-summary.json').write_text(json.dumps(summary,indent=2)+'\n')
    print(json.dumps(summary))

if __name__=='__main__':main()