TamilBench v1

README.md

@@ -0,0 +1,52 @@
+---
+license: cc-by-4.0
+language:
+  - ta
+  - en
+pretty_name: TamilBench
+size_categories:
+  - n<1K
+task_categories:
+  - question-answering
+tags:
+  - tamil
+  - tanglish
+  - code-mixed
+  - romanized
+  - beam
+  - build-with-beam
+  - token-efficiency
+configs:
+  - config_name: parallel
+    data_files: data/parallel.jsonl
+  - config_name: native
+    data_files: data/native.jsonl
+  - config_name: beam_runs
+    data_files: results/beam_runs.jsonl
+---
+# TamilBench v1
+
+**How well does Beam reason in Tamil, and what does it cost?**
+
+- `parallel` (50 items): the same question in **English**, **Tamil script** and colloquial **Tanglish** (romanized Tamil). Categories: math word problems with Indian context (20), logic (8), Tamil culture/knowledge (15), everyday (7). Short gold answers plus aliases.
+- `native` (22 items): questions that only exist in Tamil: Tamil number words, ancient Tamil numerals (௲ ௱ ௰), letter counting by Tamil grammar (எழுத்து), Sangam/Thirukkural literature, grammar, the Tamil calendar.
+- `beam_runs` (516 rows): every response from `reflection/Beam-1.0-501B-A23B` (HF Inference Providers → Baseten) with output, reasoning trace, prompt/reasoning/completion tokens, latency, correctness and cost.
+
+## Headline results (Beam-1.0-501B-A23B, Oct 2026)
+
+| Language | Accuracy | Prompt tok | Reasoning tok | $ per 1k queries | $ per 1k at `reasoning_effort=minimal` |
+|---|---|---|---|---|---|
+| English | 100% | 90 | 106 | 0.178 | 0.150 |
+| Tamil script | 100% | 231 | 161 | 0.301 | 0.254 |
+| Tanglish | 100% | 104 | 214 | 0.313 | 0.246 |
+
+- Beam's tokenizer spends **8.0 tokens per Tamil word** (0.92 chars/token) vs 1.5 for English: the same question costs **3.75× more input tokens** in Tamil script.
+- Tanglish is cheap to read (2.4 tokens/word) but Beam **thinks 2× longer** (4× on logic puzzles): it translates internally first.
+- Net: Tamil and Tanglish queries cost **~1.7×** English. `reasoning_effort="minimal"` kept 100% accuracy and cut cost 16–21%.
+- Native Tamil split: **98.5%** (65/66); the one miss was the last word of Kural 1.
+
+Scoring: last number for numeric answers; alias match for words. Prices: Baseten list $0.40/1M input, $1.20/1M output (reasoning billed as output). The parallel set is saturated for Beam, so read accuracy as a sanity floor; the token/cost findings are the contribution.
+
+Interactive explorer + live Beam tokenizer: https://huggingface.co/spaces/esscor/TamilBench
+
+Built by Mohamed Adib for the Hugging Face × Reflection *Build with Beam* challenge.

code/items.py

@@ -0,0 +1,157 @@
+# TamilBench v1: parallel items. Each: id, category, answer (canonical), aliases, en, ta (Tamil script), tl (Tanglish, romanized colloquial)
+ITEMS = [
+# ---------- math word problems ----------
+dict(id="m01",cat="math",answer="105",en="A shop sells 3 pens for 45 rupees. How much do 7 pens cost?",
+ ta="ஒரு கடையில் 3 பேனாக்கள் 45 ரூபாய். 7 பேனாக்கள் எவ்வளவு?",
+ tl="Oru kadaila 3 pen 45 rupees. 7 pen evlo aagum?"),
+dict(id="m02",cat="math",answer="12",en="Meena had 30 mangoes. She gave 8 to her neighbour and sold 10 at the market. How many mangoes are left?",
+ ta="மீனாவிடம் 30 மாம்பழங்கள் இருந்தன. அவள் பக்கத்து வீட்டுக்காரருக்கு 8 கொடுத்தாள், சந்தையில் 10 விற்றாள். எத்தனை மாம்பழங்கள் மீதம் உள்ளன?",
+ tl="Meena kitta 30 maambazham irundhuchu. Pakkathu veetukaarangalukku 8 kuduthaanga, market la 10 vithaanga. Ethana maambazham meedhi irukku?"),
+dict(id="m03",cat="math",answer="180",en="An auto charges 30 rupees for the first 2 km and 15 rupees for each additional km. What is the fare for 12 km?",
+ ta="ஒரு ஆட்டோ முதல் 2 கி.மீ.க்கு 30 ரூபாயும், அதற்கு மேல் ஒவ்வொரு கி.மீ.க்கும் 15 ரூபாயும் வசூலிக்கிறது. 12 கி.மீ.க்கு கட்டணம் எவ்வளவு?",
+ tl="Auto first 2 km ku 30 rupees, adhuku mela ovvoru km ku 15 rupees. 12 km ku evlo fare?"),
+dict(id="m04",cat="math",answer="2400",en="A train travels at 80 km per hour. How many km does it travel in 30 hours?",
+ ta="ஒரு ரயில் மணிக்கு 80 கி.மீ. வேகத்தில் செல்கிறது. 30 மணி நேரத்தில் எத்தனை கி.மீ. செல்லும்?",
+ tl="Oru train hour ku 80 km speed la pogudhu. 30 hours la ethana km pogum?"),
+dict(id="m05",cat="math",answer="750",en="A saree costs 1000 rupees. During the Deepavali sale there is a 25% discount. What is the sale price in rupees?",
+ ta="ஒரு புடவையின் விலை 1000 ரூபாய். தீபாவளி தள்ளுபடியில் 25% குறைப்பு. தள்ளுபடி விலை எத்தனை ரூபாய்?",
+ tl="Oru saree vilai 1000 rupees. Deepavali sale la 25% discount. Discount ku apram evlo rupees?"),
+dict(id="m06",cat="math",answer="15",en="Ravi is 3 times as old as his son. The sum of their ages is 60. How old is the son?",
+ ta="ரவியின் வயது அவர் மகனின் வயதை விட 3 மடங்கு. இருவரின் வயதுகளின் கூட்டுத்தொகை 60. மகனின் வயது என்ன?",
+ tl="Ravi vayasu avaroda paiyan vayasa vida 3 madangu. Rendu perum vayasu serthaa 60. Paiyan vayasu enna?"),
+dict(id="m07",cat="math",answer="36",en="A rectangular plot is 9 metres long and 4 metres wide. What is its area in square metres?",
+ ta="ஒரு செவ்வக நிலம் 9 மீட்டர் நீளமும் 4 மீட்டர் அகலமும் கொண்டது. அதன் பரப்பளவு எத்தனை சதுர மீட்டர்?",
+ tl="Oru rectangle plot 9 metre neelam, 4 metre agalam. Area ethana square metre?"),
+dict(id="m08",cat="math",answer="1200",en="Monthly rent is 15000 rupees, shared equally by three friends. The electricity bill is 3600 rupees, also shared equally by the three. How much does each friend pay for electricity?",
+ ta="மாத வாடகை 15000 ரூபாய். மூன்று நண்பர்கள் அதைச் சமமாகப் பகிர்கின்றனர். மின்சாரக் கட்டணம் 3600 ரூபாய், அதையும் மூவரும் சமமாகப் பகிர்கின்றனர். ஒவ்வொருவரும் மின்சாரத்துக்கு எவ்வளவு செலுத்துகின்றனர்?",
+ tl="Monthly rent 15000 rupees. Moonu friends samamaa share panranga. Current bill 3600 rupees, adhaiyum moonu perum samamaa share panranga. Ovvoruthar current ku evlo kudukanum?"),
+dict(id="m09",cat="math",answer="48",en="A bus has 12 rows with 4 seats in each row. How many seats are there in total?",
+ ta="ஒரு பேருந்தில் 12 வரிசைகள் உள்ளன; ஒவ்வொரு வரிசையிலும் 4 இருக்கைகள். மொத்தம் எத்தனை இருக்கைகள்?",
+ tl="Oru bus la 12 rows irukku, ovvoru row layum 4 seat. Mothamaa ethana seat?"),
+dict(id="m10",cat="math",answer="10",en="Today is the 25th. A festival is on the 5th of next month. This month has 30 days. How many days from today until the festival?",
+ ta="இன்று 25ஆம் தேதி. அடுத்த மாதம் 5ஆம் தேதி ஒரு திருவிழா. இந்த மாதத்தில் 30 நாட்கள். இன்றிலிருந்து திருவிழாவுக்கு எத்தனை நாட்கள்?",
+ tl="Indru 25th date. Adutha maasam 5th date oru thiruvizha. Indha maasam 30 naal. Indru la irundhu thiruvizha ku ethana naal?"),
+dict(id="m11",cat="math",answer="560",en="1 kg of rice costs 70 rupees. How much do 8 kg cost?",
+ ta="1 கிலோ அரிசி 70 ரூபாய். 8 கிலோ எவ்வளவு?",
+ tl="1 kilo arisi 70 rupees. 8 kilo evlo?"),
+dict(id="m12",cat="math",answer="25",en="A tank holds 500 litres. A pipe fills 20 litres per minute. How many minutes to fill the empty tank?",
+ ta="ஒரு தொட்டியில் 500 லிட்டர் கொள்ளும். ஒரு குழாய் நிமிடத்துக்கு 20 லிட்டர் நிரப்புகிறது. காலியான தொட்டியை நிரப்ப எத்தனை நிமிடங்கள் ஆகும்?",
+ tl="Oru tank la 500 litre kollum. Oru pipe minute ku 20 litre fill pannum. Empty tank fill panna ethana minute aagum?"),
+dict(id="m13",cat="math",answer="1100",en="Simple interest: 10000 rupees is lent at 5.5% per year. What is the interest after 2 years?",
+ ta="தனிவட்டி: 10000 ரூபாய் ஆண்டுக்கு 5.5% வட்டிக்கு கடன் கொடுக்கப்படுகிறது. 2 ஆண்டுகளுக்குப் பிறகு வட்டி எவ்வளவு?",
+ tl="Simple interest: 10000 rupees varushathukku 5.5% vatti ku kadan kuduthaanga. 2 varusham kazhichu vatti evlo?"),
+dict(id="m14",cat="math",answer="7",en="A cricket team scored 210 runs in 30 overs. What was the run rate per over?",
+ ta="ஒரு கிரிக்கெட் அணி 30 ஓவர்களில் 210 ரன்கள் எடுத்தது. ஓவருக்கு சராசரி ரன் விகிதம் என்ன?",
+ tl="Oru cricket team 30 overs la 210 runs adichaanga. Over ku run rate enna?"),
+dict(id="m15",cat="math",answer="64",en="What is the next number: 2, 4, 8, 16, 32, ?",
+ ta="அடுத்த எண் எது: 2, 4, 8, 16, 32, ?",
+ tl="Adutha number enna: 2, 4, 8, 16, 32, ?"),
+dict(id="m16",cat="math",answer="9",en="A farmer has hens and goats. There are 20 heads and 58 legs. How many goats are there?",
+ ta="ஒரு விவசாயியிடம் கோழிகளும் ஆடுகளும் உள்ளன. மொத்தம் 20 தலைகள், 58 கால்கள். எத்தனை ஆடுகள்?",
+ tl="Oru vivasaayi kitta kozhi um aadu um irukku. Mothamaa 20 thalai, 58 kaal. Ethana aadu?"),
+dict(id="m17",cat="math",answer="4",en="If 6 workers build a wall in 8 days, how many days will 12 workers take at the same rate?",
+ ta="6 தொழிலாளர்கள் ஒரு சுவரை 8 நாட்களில் கட்டுகிறார்கள் என்றால், அதே வேகத்தில் 12 தொழிலாளர்கள் எத்தனை நாட்களில் கட்டுவார்கள்?",
+ tl="6 workers oru wall a 8 naal la kattuvaanga na, adhe speed la 12 workers ethana naal la kattuvaanga?"),
+dict(id="m18",cat="math",answer="45",en="What is 15% of 300?",
+ ta="300-இல் 15% எவ்வளவு?",
+ tl="300 la 15% evlo?"),
+dict(id="m19",cat="math",answer="2400",en="A house plot of 1200 square feet is split into two equal parts. Then each part is doubled in size by buying neighbouring land. What is the total area of the two parts now, in square feet?",
+ ta="1200 சதுர அடி மனை இரண்டு சம பாகங்களாகப் பிரிக்கப்படுகிறது. பின்னர் பக்கத்து நிலம் வாங்கி ஒவ்வொரு பாகமும் இரட்டிப்பாக்கப்படுகிறது. இப்போது இரண்டு பாகங்களின் மொத்த பரப்பு எத்தனை சதுர அடி?",
+ tl="1200 sq ft manai rendu sama bhaagamaa pirikkaraanga. Apram pakkathu nilam vaangi ovvoru bhaagamum double aagudhu. Ippo rendu bhaagamum serthu ethana sq ft?"),
+dict(id="m20",cat="math",answer="90",en="A clock shows 3:00. What is the angle in degrees between the hour hand and the minute hand?",
+ ta="ஒரு கடிகாரம் 3:00 மணி காட்டுகிறது. மணி முள்ளுக்கும் நிமிட முள்ளுக்கும் இடையிலான கோணம் எத்தன�� டிகிரி?",
+ tl="Oru clock 3:00 kaattudhu. Hour mul kum minute mul kum naduvula angle ethana degree?"),
+# ---------- logic ----------
+dict(id="l01",cat="logic",answer="5",en="In a queue, Kumar is 5th from the front and 5th from the back. How many people are in the queue? Answer with the number, then subtract 4 and give only that result.",
+ ta="ஒரு வரிசையில் குமார் முன்னிருந்து 5வது, பின்னிருந்தும் 5வது. வரிசையில் எத்தனை பேர் என்று கண்டுபிடித்து, அதிலிருந்து 4 கழித்து வரும் எண்ணை மட்டும் கூறவும்.",
+ tl="Oru queue la Kumar munnadi la irundhu 5th, pinnadi la irundhum 5th. Queue la ethana per nu kandupidichu, adhula 4 kazhichu varra number mattum sollunga."),
+dict(id="l02",cat="logic",answer="wednesday",aliases=["புதன்","புதன்கிழமை","budhan","budhankizhamai","wed"],en="If today is Monday, what day will it be after 9 days?",
+ ta="இன்று திங்கட்கிழமை என்றால், 9 நாட்களுக்குப் பிறகு என்ன கிழமை?",
+ tl="Indru Monday na, 9 naal kazhichu enna kizhamai?"),
+dict(id="l03",cat="logic",answer="anbu",aliases=["அன்பு"],en="Anbu is taller than Bala. Bala is taller than Chitra. Who is the tallest? Give only the name.",
+ ta="அன்பு பாலாவை விட உயரம். பாலா சித்ராவை விட உயரம். யார் மிக உயரமானவர்? பெயரை மட்டும் கூறவும்.",
+ tl="Anbu Bala va vida uyaram. Bala Chitra va vida uyaram. Yaaru romba uyaram? Per mattum sollunga."),
+dict(id="l04",cat="logic",answer="6",en="How many times does the digit 7 appear when writing all numbers from 1 to 60?",
+ ta="1 முதல் 60 வரை உள்ள எல்லா எண்களையும் எழுதும்போது 7 என்ற இலக்கம் எத்தனை முறை வரும்?",
+ tl="1 la irundhu 60 varaikkum ella number um ezhudhumbodhu 7 ngra digit ethana thadava varum?"),
+dict(id="l05",cat="logic",answer="north",aliases=["வடக்கு","vadakku"],en="Selvi faces east, turns right 90 degrees, then turns around 180 degrees. Which direction does she face now?",
+ ta="செல்வி கிழக்கு நோக்கி நிற்கிறாள். வலப்புறம் 90 டிகிரி திரும்புகிறாள், பிறகு 180 டிகிரி திரும்புகிறாள். இப்போது எந்த திசையை நோக்கி இருக்கிறாள்?",
+ tl="Selvi kizhakku paarthu nikkuraanga. Right side 90 degree thirumbaraanga, apram 180 degree thirumbaraanga. Ippo endha disai paarthu irukaanga?"),
+dict(id="l06",cat="logic",answer="8",en="A father has 4 daughters and each daughter has 1 brother. The brother is shared. How many children does the father have, plus 3?",
+ ta="ஒரு தந்தைக்கு 4 மகள்கள்; ஒவ்வொரு மகளுக்கும் ஒரு சகோதரன் (எல்லோருக்கும் ஒரே சகோதரன்). தந்தைக்கு எத்தனை குழந்தைகள் என்பதுடன் 3 கூட்டி வரும் எண் என்ன?",
+ tl="Oru appa ku 4 ponnu; ovvoru ponnukum oru anna/thambi (ellarukum adhe oruthan). Appa ku ethana pillainga nu kandupidichu adhoda 3 kootina enna number?"),
+dict(id="l07",cat="logic",answer="10",en="I am thinking of a number. If I double it and add 6, I get 26. What is the number?",
+ ta="நான் ஒரு எண்ணை நினைக்கிறேன். அதை இரண்டு மடங்காக்கி 6 கூட்டினால் 26 வரும். அந்த எண் என்ன?",
+ tl="Naan oru number nenaikiren. Adha double panni 6 kootina 26 varum. Andha number enna?"),
+dict(id="l08",cat="logic",answer="20",en="A snail climbs 3 metres up a 22-metre well each day and slips back 2 metres each night. On which day does it first reach the top?",
+ ta="ஒரு நத்தை 22 மீட்டர் ஆழக் கிணற்றில் பகலில் 3 மீட்டர் ஏறி இரவில் 2 மீட்டர் சறுக்குகிறது. எந்த நாளில் முதல் முறையாக மேலே அடையும்?",
+ tl="Oru naththai 22 metre kinathula pagal la 3 metre yeri, raathiri 2 metre sarukkudhu. Endha naal la first time mela reach aagum?"),
+# ---------- Tamil culture / knowledge ----------
+dict(id="k01",cat="knowledge",answer="1330",en="How many couplets (kurals) are there in the Thirukkural?",
+ ta="திருக்குறளில் எத்தன��� குறள்கள் உள்ளன?",
+ tl="Thirukkural la ethana kural irukku?"),
+dict(id="k02",cat="knowledge",answer="133",en="How many chapters (adhikarams) does the Thirukkural have?",
+ ta="திருக்குறளில் எத்தனை அதிகாரங்கள் உள்ளன?",
+ tl="Thirukkural la ethana adhikaaram irukku?"),
+dict(id="k03",cat="knowledge",answer="247",en="How many letters are there in the Tamil alphabet in the traditional count?",
+ ta="பாரம்பரிய கணக்கின்படி தமிழ் எழுத்துகள் மொத்தம் எத்தனை?",
+ tl="Traditional kanakku padi Tamil ezhuthukkal mothamaa ethana?"),
+dict(id="k04",cat="knowledge",answer="12",en="How many vowels (uyir ezhuthu) are there in Tamil?",
+ ta="தமிழில் உயிர் எழுத்துகள் எத்தனை?",
+ tl="Tamil la uyir ezhuthu ethana?"),
+dict(id="k05",cat="knowledge",answer="18",en="How many consonants (mei ezhuthu) are there in Tamil?",
+ ta="தமிழில் மெய் எழுத்துகள் எத்தனை?",
+ tl="Tamil la mei ezhuthu ethana?"),
+dict(id="k06",cat="knowledge",answer="thai",aliases=["தை","tai"],en="In which Tamil month is Pongal (Thai Pongal) celebrated? Give the Tamil month name.",
+ ta="பொங்கல் எந்த தமிழ் மாதத்தில் கொண்டாடப்படுகிறது? மாதத்தின் பெயரை மட்டும் கூறவும்.",
+ tl="Pongal endha Tamil maasathula kondaaduvaanga? Maasam per mattum sollunga."),
+dict(id="k07",cat="knowledge",answer="chithirai",aliases=["சித்திரை","chittirai","chitirai"],en="What is the first month of the Tamil calendar?",
+ ta="தமிழ் நாட்காட்டியின் முதல் மாதம் எது?",
+ tl="Tamil calendar oda first maasam edhu?"),
+dict(id="k08",cat="knowledge",answer="thiruvalluvar",aliases=["திருவள்ளுவர்","valluvar","வள்ளுவர்"],en="Who wrote the Thirukkural?",
+ ta="திருக்குறளை எழுதியவர் யார்?",
+ tl="Thirukkural ezhudhunadhu yaaru?"),
+dict(id="k09",cat="knowledge",answer="38",en="How many districts does Tamil Nadu have (as of 2024)?",
+ ta="தமிழ்நாட்டில் எத்தனை மாவட்டங்கள் உள்ளன (2024 நிலவரப்படி)?",
+ tl="Tamil Nadu la ethana district irukku (2024 padi)?"),
+dict(id="k10",cat="knowledge",answer="madurai",aliases=["மதுரை"],en="In which city is the Meenakshi Amman Temple?",
+ ta="மீனாட்சி அம்மன் கோயில் எந்த நகரத்தில் உள்ளது?",
+ tl="Meenakshi Amman kovil endha ooru la irukku?"),
+dict(id="k11",cat="knowledge",answer="thanjavur",aliases=["தஞ்சாவூர்","tanjore","தஞ்சை","thanjai"],en="In which city is the Brihadeeswarar (Big) Temple built by Raja Raja Chola?",
+ ta="ராஜராஜ சோழன் கட்டிய பெருவுடையார் (பெரிய) கோயில் எந்த நகரத்தில் உள்ளது?",
+ tl="Raja Raja Chozhan katna Periya Kovil endha ooru la irukku?"),
+dict(id="k12",cat="knowledge",answer="3",en="Into how many sections (paal) is the Thirukkural divided?",
+ ta="திருக்குறள் எத்தனை பால்களாகப் பிரிக்கப்பட்டுள்ளது?",
+ tl="Thirukkural ethana paal aa pirikkapattirukku?"),
+dict(id="k13",cat="knowledge",answer="kaveri",aliases=["காவிரி","cauvery","kaviri","காவேரி","kaveri river"],en="Which river is the Mettur Dam built across?",
+ ta="மேட்டூர் அணை எந்த ஆற்றின் குறுக்கே கட்டப்பட்டுள்ளது?",
+ tl="Mettur dam endha aathu mela kattirukkaanga?"),
+dict(id="k14",cat="knowledge",answer="2004",en="In which year did the Government of India declare Tamil a classical language?",
+ ta="இந்திய அரசு தமிழை செம்மொழியாக எந்த ஆண்டில் அறிவித்தது?",
+ tl="India government Tamil a semmozhi nu endha varusham declare pannuchu?"),
+dict(id="k15",cat="knowledge",answer="216",en="How many uyirmei (vowel-consonant) letters are there in Tamil?",
+ ta="தமிழில் உயிர்மெய் எழுத்துகள் எத்தனை?",
+ tl="Tamil la uyirmei ezhuthu ethana?"),
+# ---------- everyday / reading ----------
+dict(id="e01",cat="everyday",answer="4",en="Priya leaves home at 8:15 am and reaches college at 9:05 am. The bus took 40 minutes and she walked the rest. How many minutes did she walk, divided by 2.5?",
+ ta="பிரியா காலை 8:15க்கு வீட்டை விட்டு கிளம்பி 9:05க்கு கல்லூரி��ை அடைகிறாள். பேருந்து பயணம் 40 நிமிடங்கள், மீதி நடந்தாள். நடந்த நிமிடங்களை 2.5 ஆல் வகுத்தால் வரும் எண் என்ன?",
+ tl="Priya kaalai 8:15 ku veetla irundhu kelambi 9:05 ku college reach aaguraanga. Bus 40 minutes, meedhi nadandhaanga. Nadandha minutes a 2.5 aala vaguthaa enna varum?"),
+dict(id="e02",cat="everyday",answer="350",en="A phone recharge gives 2 GB per day for 28 days, but you used only 75% of the total. How many GB did you NOT use, multiplied by 25?",
+ ta="ஒரு ரீசார்ஜ் 28 நாட்களுக்கு நாளொன்றுக்கு 2 ஜிபி தருகிறது. மொத்தத்தில் 75% மட்டுமே பயன்படுத்தினீர்கள். பயன்படுத்தாத ஜிபியை 25 ஆல் பெருக்கினால் என்ன?",
+ tl="Oru recharge 28 days ku daily 2 GB tharudhu. Mothathula 75% dhaan use panneenga. Use pannaadha GB a 25 aala perukkina enna?"),
+dict(id="e03",cat="everyday",answer="3",en="A recipe for 4 people uses 2 cups of rice. How many cups for 6 people?",
+ ta="4 பேருக்கான சமையல் குறிப்பில் 2 கப் அரிசி. 6 பேருக்கு எத்தனை கப்?",
+ tl="4 perukku recipe la 2 cup arisi. 6 perukku ethana cup?"),
+dict(id="e04",cat="everyday",answer="540",en="Electricity: the first 100 units are free, the next 100 units cost 2.25 rupees each, and units above 200 cost 4.5 rupees each. What is the bill for 270 units?",
+ ta="மின் கட்டணம்: முதல் 100 யூனிட்கள் இலவசம், அடுத்த 100 யூனிட்கள் ஒவ்வொன்றும் 2.25 ரூபாய், 200க்கு மேல் ஒவ்வொரு யூனிட்டும் 4.5 ரூபாய். 270 யூனிட்களுக்கு கட்டணம் எவ்வளவு?",
+ tl="Current bill: first 100 units free, adutha 100 units ovvonnum 2.25 rupees, 200 ku mela ovvoru unit um 4.5 rupees. 270 units ku bill evlo?"),
+dict(id="e05",cat="everyday",answer="40",en="A real-estate agent earns 2% commission. He sells a plot for 20 lakh rupees. What is his commission in thousands of rupees?",
+ ta="ஒரு ரியல் எஸ்டேட் முகவர் 2% கமிஷன் பெறுகிறார். ஒரு மனையை 20 லட்சம் ரூபாய்க்கு விற்கிறார். அவருடைய கமிஷன் எத்தனை ஆயிரம் ரூபாய்?",
+ tl="Oru real estate agent ku 2% commission. Oru plot a 20 lakh rupees ku vikkiraaru. Avaroda commission ethana thousand rupees?"),
+dict(id="e06",cat="everyday",answer="4",en="One cent of land is 435.6 square feet (round to 436). A plot of 1744 square feet is how many cents?",
+ ta="ஒரு செண்ட் நிலம் 436 சதுர அடி (சுமார்). 1744 சதுர அடி மனை எத்தனை செண்ட்?",
+ tl="Oru cent nilam 436 sq ft (approx). 1744 sq ft plot ethana cent?"),
+dict(id="e07",cat="everyday",answer="12",en="A movie starts at 6:45 pm and runs 2 hours 50 minutes, plus a 15-minute interval. Find the hour of the end time in 24-hour format, subtract 9, and give that number.",
+ ta="ஒரு திரைப்படம் மாலை 6:45க்கு தொடங்கி 2 மணி 50 நிமிடம் ஓடும், கூடவே 15 நிமிட இடைவேளை. முடியும் நேரத்தின் மணியை (24 மணி நேர வடிவில்) கண்டுபிடித்து அதிலிருந்து 9 கழித்து வரும் எண்ணைக் கூறவும்.",
+ tl="Oru movie saayangaalam 6:45 ku start aagi 2 hours 50 minutes odum, kooda 15 minute interval. Mudiyura time oda hour a (24 hour format la) kandupidichu adhula 9 kazhichu varra number sollunga."),
+]

code/native.py

@@ -0,0 +1,25 @@
+# Native Tamil split: tasks that only exist in Tamil (script, numerals, literature, grammar)
+NATIVE = [
+dict(id="n01",cat="numwords",answer="523",ta="இந்த எண்ணை இலக்கங்களில் எழுதுக: ஐந்நூற்று இருபத்து மூன்று"),
+dict(id="n02",cat="numwords",answer="1984",ta="இந்த எண்ணை இலக்கங்களில் எழுதுக: ஆயிரத்துத் தொள்ளாயிரத்து எண்பத்து நான்கு"),
+dict(id="n03",cat="numwords",answer="365",ta="இந்த எண்ணை இலக்கங்களில் எழுதுக: முந்நூற்று அறுபத்தைந்து"),
+dict(id="n04",cat="numwords",answer="777",ta="இந்த எண்ணை இலக்கங்களில் எழுதுக: எழுநூற்று எழுபத்தேழு"),
+dict(id="n05",cat="numerals",answer="1100",ta="தமிழ் எண் குறியீடுகள்: ௲ + ௱ = ? விடையை சாதாரண இலக்கங்களில் (0-9) கூறவும்."),
+dict(id="n06",cat="numerals",answer="75",ta="௭௫ என்ற தமிழ் எண்ணை சாதாரண இலக்கங்களில் (0-9) எழுதுக."),
+dict(id="n07",cat="numerals",answer="10",ta="௰ என்ற தமிழ் எண் குறியீடு எந்த எண்ணைக் குறிக்கிறது? சாதாரண இலக்கங்களில் கூறவும்."),
+dict(id="n08",cat="script",answer="3",ta="'தமிழ்' என்ற சொல்லில் தமிழ் இலக்கண முறைப்படி எத்தனை எழுத்துகள் உள்ளன?"),
+dict(id="n09",cat="script",answer="7",ta="'பள்ளிக்கூடம்' என்ற சொல்லில் தமிழ் இலக்கண முறைப்படி எத்தனை எழுத்துகள் உள்ளன?"),
+dict(id="n10",cat="script",answer="3",ta="'அம்மா' என்ற சொல்லில் தமிழ் இலக்கண முறைப்படி எத்தனை எழுத்துகள் உள்ளன?"),
+dict(id="n11",cat="script",answer="6",ta="தமிழில் வல்லின எழுத்துகள் எத்தனை?"),
+dict(id="n12",cat="script",answer="1",ta="தமிழில் ஆய்த எழுத்துகள் எத்தனை?"),
+dict(id="n13",cat="literature",answer="உலகு",aliases=["ulagu"],ta="திருக்குறளின் முதல் குறள் 'அகர முதல எழுத்தெல்லாம் ஆதி பகவன் முதற்றே ...' — கடைசிச் சொல் என்ன? அந்தச் சொல்லை மட்டும் தமிழில் கூறவும்."),
+dict(id="n14",cat="literature",answer="கணியன் பூங்குன்றனார்",aliases=["பூங்குன்றனார்","kaniyan","poongundranar","pungundranar"],ta="'யாதும் ஊரே யாவரும் கேளிர்' என்று பாடியவர் யார்? பெயரை மட்டும் கூறவும்."),
+dict(id="n15",cat="literature",answer="இளங்கோவடிகள்",aliases=["இளங்கோ","ilango"],ta="சிலப்பதிகாரத்தை இயற்றியவர் யார்? பெயரை மட்டும் கூறவும்."),
+dict(id="n16",cat="literature",answer="ஔவையார்",aliases=["அவ்வையார்","avvaiyar","auvaiyar","ஒளவையார்"],ta="'அறம் செய விரும்பு' என்று தொடங்கும் ஆத்திசூடியை இயற்றியவர் யார்? பெயரை மட்டும் கூறவும்."),
+dict(id="n17",cat="literature",answer="உலகளவு",aliases=["உலக அளவு","ulagalavu"],ta="'கற்றது கைமண் அளவு, கல்லாதது ...' — விடுபட்ட சொல் என்ன? அந்தச் சொல்லை மட்டும் தமிழில் கூறவும்."),
+dict(id="n18",cat="literature",answer="7",ta="ஒரு திருக்குறளில் எத்தனை சீர்கள் (சொற்கள்) உள்ளன?"),
+dict(id="n19",cat="grammar",answer="பகல்",aliases=["pagal"],ta="'இரவு' என்ற சொல்லின் எதிர்ச்சொல் என்ன? ஒரு சொல்லில் தமிழில் கூறவும்."),
+dict(id="n20",cat="grammar",answer="மரங்கள்",aliases=["marangal"],ta="'மரம்' என்ற சொல்லின் பன்மை வடிவம் என்ன? ஒர��� சொல்லில் தமிழில் கூறவும்."),
+dict(id="n21",cat="calendar",answer="4",ta="தமிழ் மாதங்களில் ஆடி எத்தனையாவது மாதம்? எண்ணை மட்டும் கூறவும்."),
+dict(id="n22",cat="calendar",answer="8",ta="தமிழ் மாதங்களில் கார்த்திகை எத்தனையாவது மாதம்? எண்ணை மட்டும் கூறவும்."),
+]

code/run.py

@@ -0,0 +1,34 @@
+import os,json,time,re,sys,concurrent.futures as cf
+from openai import OpenAI
+from items import ITEMS
+c=OpenAI(base_url="https://router.huggingface.co/v1",api_key=os.environ.get("HF_TOKEN","x"),timeout=180)
+SUFFIX={"en":"\n\nReply with only the final answer (a number or a single word), nothing else.",
+"ta":"\n\nஇறுதி விடையை மட்டும் (ஒரு எண் அல்லது ஒரு சொல்) கூறவும், வேறு எதுவும் வேண்டாம்.",
+"tl":"\n\nFinal answer mattum sollunga (oru number illa oru word), vera edhuvum venaam."}
+N=int(sys.argv[1]) if len(sys.argv)>1 else 2
+jobs=[(it,l,s) for it in ITEMS for l in("en","ta","tl") for s in range(N)]
+def run(j):
+    it,l,s=j
+    for a in range(8):
+        try:
+            t=time.time()
+            r=c.chat.completions.create(model="reflection/Beam-1.0-501B-A23B",messages=[{"role":"user","content":it[l]+SUFFIX[l]}],max_tokens=6000)
+            m=r.choices[0].message; u=r.usage
+            rd=u.completion_tokens_details.reasoning_tokens if u.completion_tokens_details else None
+            return dict(id=it["id"],cat=it["cat"],lang=l,sample=s,answer=it["answer"],aliases=it.get("aliases",[]),output=m.content,reasoning=getattr(m,"reasoning_content",None),
+                prompt_tokens=u.prompt_tokens,completion_tokens=u.completion_tokens,reasoning_tokens=rd,latency=round(time.time()-t,2),finish=r.choices[0].finish_reason)
+        except Exception as e:
+            err=str(e); time.sleep(5*(a+1))
+    return dict(id=it["id"],lang=l,sample=s,error=err)
+import os.path
+prev={}
+if os.path.exists("raw_results.json"):
+    for r in json.load(open("raw_results.json")):
+        if "error" not in r: prev[(r["id"],r["lang"],r["sample"])]=r
+todo=[j for j in jobs if (j[0]["id"],j[1],j[2]) not in prev]
+print("todo",len(todo),flush=True)
+with cf.ThreadPoolExecutor(4) as ex:
+    for r in ex.map(run,todo): prev[(r["id"],r["lang"],r["sample"])]=r
+out=list(prev.values())
+json.dump(out,open("raw_results.json","w"),ensure_ascii=False,indent=1)
+print(len(out),sum('error' in r for r in out))

code/run2.py

@@ -0,0 +1,27 @@
+import os,json,time,sys,concurrent.futures as cf
+from openai import OpenAI
+from items import ITEMS
+from native import NATIVE
+from run import SUFFIX
+c=OpenAI(base_url="https://router.huggingface.co/v1",api_key=os.environ.get("HF_TOKEN","x"),timeout=180)
+jobs=[]
+for it in NATIVE:
+    for s in range(3): jobs.append((it,"ta",s,None,"native"))
+for it in ITEMS:
+    for l in ("en","ta","tl"): jobs.append((it,l,0,"minimal","parallel"))
+def call(j):
+    it,l,s,eff,split=j; err=None
+    kw={"extra_body":{"reasoning_effort":eff}} if eff else {}
+    for a in range(8):
+        try:
+            t=time.time()
+            r=c.chat.completions.create(model="reflection/Beam-1.0-501B-A23B",messages=[{"role":"user","content":it[l]+SUFFIX[l]}],max_tokens=6000,**kw)
+            m=r.choices[0].message;u=r.usage
+            return dict(split=split,effort=eff or "default",id=it["id"],cat=it["cat"],lang=l,sample=s,answer=it["answer"],aliases=it.get("aliases",[]),output=m.content,
+              reasoning=getattr(m,"reasoning_content",None),prompt_tokens=u.prompt_tokens,completion_tokens=u.completion_tokens,
+              reasoning_tokens=(u.completion_tokens_details.reasoning_tokens if u.completion_tokens_details else 0),latency=round(time.time()-t,2))
+        except Exception as e: err=str(e); time.sleep(5*(a+1))
+    return dict(split=split,id=it["id"],lang=l,sample=s,error=err)
+with cf.ThreadPoolExecutor(4) as ex: out=list(ex.map(call,jobs))
+json.dump(out,open("raw_results2.json","w"),ensure_ascii=False,indent=1)
+print(len(out),sum('error' in r for r in out))

code/score.py

@@ -0,0 +1,30 @@
+import json,re,collections,statistics as st
+d=json.load(open("raw_results.json"))
+TA_DIG=str.maketrans("௦௧௨௩௪௫௬௭௮௯","0123456789")
+def norm(x): return re.sub(r"[\s\.\,\!\?\:\"'`*()\[\]₹]|rs|rupees|ரூபாய்","",(x or "").lower().translate(TA_DIG))
+def correct(r):
+    o=norm(r["output"]); golds=[norm(r["answer"])]+[norm(a) for a in r["aliases"]]
+    if r["answer"].isdigit():
+        nums=re.findall(r"\d+(?:\.\d+)?", (r["output"] or "").translate(TA_DIG).replace(",",""))
+        return bool(nums) and float(nums[-1])==float(r["answer"])
+    return any(g and (o==g or o.startswith(g) or g in o) for g in golds)
+PIN,POUT=0.40,1.20
+for r in d: r["correct"]=correct(r); r["cost_usd"]=(r["prompt_tokens"]*PIN+r["completion_tokens"]*POUT)/1e6
+json.dump(d,open("scored_results.json","w"),ensure_ascii=False,indent=1)
+def summ(rows):
+    return dict(n=len(rows),acc=round(100*sum(r["correct"] for r in rows)/len(rows),1),
+     prompt=round(st.mean(r["prompt_tokens"] for r in rows),1),
+     reasoning=round(st.mean(r["reasoning_tokens"] or 0 for r in rows),1),
+     completion=round(st.mean(r["completion_tokens"] for r in rows),1),
+     cost_per_1k=round(1000*st.mean(r["cost_usd"] for r in rows),4),
+     latency=round(st.mean(r["latency"] for r in rows),2))
+S={}
+for l in("en","ta","tl"):
+    S[l]=summ([r for r in d if r["lang"]==l])
+    for c in("math","logic","knowledge","everyday"):
+        S[f"{l}/{c}"]=summ([r for r in d if r["lang"]==l and r["cat"]==c])
+print(json.dumps(S,indent=0))
+wrong=[(r["id"],r["lang"],r["answer"],(r["output"] or "")[:40]) for r in d if not r["correct"]]
+print(len(wrong)); [print(w) for w in sorted(wrong)]
+print("total cost $",round(sum(r["cost_usd"] for r in d),4))
+json.dump(S,open("summary.json","w"),indent=1)

data/native.jsonl

@@ -0,0 +1,22 @@
+{"id": "n01", "category": "numwords", "answer": "523", "aliases": [], "tamil": "இந்த எண்ணை இலக்கங்களில் எழுதுக: ஐந்நூற்று இருபத்து மூன்று"}
+{"id": "n02", "category": "numwords", "answer": "1984", "aliases": [], "tamil": "இந்த எண்ணை இலக்கங்களில் எழுதுக: ஆயிரத்துத் தொள்ளாயிரத்து எண்பத்து நான்கு"}
+{"id": "n03", "category": "numwords", "answer": "365", "aliases": [], "tamil": "இந்த எண்ணை இலக்கங்களில் எழுதுக: முந்நூற்று அறுபத்தைந்து"}
+{"id": "n04", "category": "numwords", "answer": "777", "aliases": [], "tamil": "இந்த எண்ணை இலக்கங்களில் எழுதுக: எழுநூற்று எழுபத்தேழு"}
+{"id": "n05", "category": "numerals", "answer": "1100", "aliases": [], "tamil": "தமிழ் எண் குறியீடுகள்: ௲ + ௱ = ? விடையை சாதாரண இலக்கங்களில் (0-9) கூறவும்."}
+{"id": "n06", "category": "numerals", "answer": "75", "aliases": [], "tamil": "௭௫ என்ற தமிழ் எண்ணை சாதாரண இலக்கங்களில் (0-9) எழுதுக."}
+{"id": "n07", "category": "numerals", "answer": "10", "aliases": [], "tamil": "௰ என்ற தமிழ் எண் குறியீடு எந்த எண்ணைக் குறிக்கிறது? சாதாரண இலக்கங்களில் கூறவும்."}
+{"id": "n08", "category": "script", "answer": "3", "aliases": [], "tamil": "'தமிழ்' என்ற சொல்லில் தமிழ் இலக்கண முறைப்படி எத்தனை எழுத்துகள் உள்ளன?"}
+{"id": "n09", "category": "script", "answer": "7", "aliases": [], "tamil": "'பள்ளிக்கூடம்' என்ற சொல்லில் தமிழ் இலக்கண முறைப்படி எத்தனை எழுத்துகள் உள்ளன?"}
+{"id": "n10", "category": "script", "answer": "3", "aliases": [], "tamil": "'அம்மா' என்ற சொல்லில் தமிழ் இலக்கண முறைப்படி எத்தனை எழுத்துகள் உள்ளன?"}
+{"id": "n11", "category": "script", "answer": "6", "aliases": [], "tamil": "தமிழில் வல்லின எழுத்துகள் எத்தனை?"}
+{"id": "n12", "category": "script", "answer": "1", "aliases": [], "tamil": "தமிழில் ஆய்த எழுத்துகள் எத்தனை?"}
+{"id": "n13", "category": "literature", "answer": "உலகு", "aliases": ["ulagu"], "tamil": "திருக்குறளின் முதல் குறள் 'அகர முதல எழுத்தெல்லாம் ஆதி பகவன் முதற்றே ...' — கடைசிச் சொல் என்ன? அந்தச் சொல்லை மட்டும் தமிழில் கூறவும்."}
+{"id": "n14", "category": "literature", "answer": "கணியன் பூங்குன்றனார்", "aliases": ["பூங்குன்றனார்", "kaniyan", "poongundranar", "pungundranar"], "tamil": "'யாதும் ஊரே யாவரும் கேளிர்' என்று பாடியவர் யார்? பெயரை மட்டும் கூறவும்."}
+{"id": "n15", "category": "literature", "answer": "இளங்கோவடிகள்", "aliases": ["இளங்கோ", "ilango"], "tamil": "சிலப்பதிகாரத்தை இயற்றியவர் யார்? பெயரை மட்டும் கூறவும்."}
+{"id": "n16", "category": "literature", "answer": "ஔவையார்", "aliases": ["அவ்வையார்", "avvaiyar", "auvaiyar", "ஒளவையார்"], "tamil": "'அறம் செய விரும்பு' என்று தொடங்கும் ஆத்திசூடியை இயற்றியவர் யார்? பெயரை மட்டும் கூறவும்."}
+{"id": "n17", "category": "literature", "answer": "உலகளவு", "aliases": ["உலக அளவு", "ulagalavu"], "tamil": "'கற்றது கைமண் அளவு, கல்லாதது ...' — விடுபட்ட சொல் என்ன? அந்தச் சொல்லை மட்டும் தமிழில் கூறவும்."}
+{"id": "n18", "category": "literature", "answer": "7", "aliases": [], "tamil": "ஒரு திருக்குறளில் எத்தனை சீர்கள் (சொற்கள்) உள்ளன?"}
+{"id": "n19", "category": "grammar", "answer": "பகல்", "aliases": ["pagal"], "tamil": "'இரவு' என்ற சொல்லின் எதிர்ச்சொல் என்ன? ஒரு சொல்லில் தமிழில் கூறவும்."}
+{"id": "n20", "category": "grammar", "answer": "மரங்கள்", "aliases": ["marangal"], "tamil": "'மரம்' என்ற சொல்லின் பன்மை வடிவம் என்ன? ஒரு சொல்லில் தமிழில் கூறவும்."}
+{"id": "n21", "category": "calendar", "answer": "4", "aliases": [], "tamil": "தமிழ் மாதங்களில் ஆடி எத்தனையாவது மாதம்? எண்ணை மட்டும் கூறவும்."}
+{"id": "n22", "category": "calendar", "answer": "8", "aliases": [], "tamil": "தமிழ் மாதங்களில் கார்த்திகை எத்தனையாவது மாதம்? எண்ணை மட்டும் கூறவும்."}

data/parallel.jsonl

@@ -0,0 +1,50 @@
+{"id": "m01", "category": "math", "answer": "105", "aliases": [], "english": "A shop sells 3 pens for 45 rupees. How much do 7 pens cost?", "tamil": "ஒரு கடையில் 3 பேனாக்கள் 45 ரூபாய். 7 பேனாக்கள் எவ்வளவு?", "tanglish": "Oru kadaila 3 pen 45 rupees. 7 pen evlo aagum?"}
+{"id": "m02", "category": "math", "answer": "12", "aliases": [], "english": "Meena had 30 mangoes. She gave 8 to her neighbour and sold 10 at the market. How many mangoes are left?", "tamil": "மீனாவிடம் 30 மாம்பழங்கள் இருந்தன. அவள் பக்கத்து வீட்டுக்காரருக்கு 8 கொடுத்தாள், சந்தையில் 10 விற்றாள். எத்தனை மாம்பழங்கள் மீதம் உள்ளன?", "tanglish": "Meena kitta 30 maambazham irundhuchu. Pakkathu veetukaarangalukku 8 kuduthaanga, market la 10 vithaanga. Ethana maambazham meedhi irukku?"}
+{"id": "m03", "category": "math", "answer": "180", "aliases": [], "english": "An auto charges 30 rupees for the first 2 km and 15 rupees for each additional km. What is the fare for 12 km?", "tamil": "ஒரு ஆட்டோ முதல் 2 கி.மீ.க்கு 30 ரூபாயும், அதற்கு மேல் ஒவ்வொரு கி.மீ.க்கும் 15 ரூபாயும் வசூலிக்கிறது. 12 கி.மீ.க்கு கட்டணம் எவ்வளவு?", "tanglish": "Auto first 2 km ku 30 rupees, adhuku mela ovvoru km ku 15 rupees. 12 km ku evlo fare?"}
+{"id": "m04", "category": "math", "answer": "2400", "aliases": [], "english": "A train travels at 80 km per hour. How many km does it travel in 30 hours?", "tamil": "ஒரு ரயில் மணிக்கு 80 கி.மீ. வேகத்தில் செல்கிறது. 30 மணி நேரத்தில் எத்தனை கி.மீ. செல்லும்?", "tanglish": "Oru train hour ku 80 km speed la pogudhu. 30 hours la ethana km pogum?"}
+{"id": "m05", "category": "math", "answer": "750", "aliases": [], "english": "A saree costs 1000 rupees. During the Deepavali sale there is a 25% discount. What is the sale price in rupees?", "tamil": "ஒரு புடவையின் விலை 1000 ரூபாய். தீபாவளி தள்ளுபடியில் 25% குறைப்பு. தள்ளுபடி விலை எத்தனை ரூபாய்?", "tanglish": "Oru saree vilai 1000 rupees. Deepavali sale la 25% discount. Discount ku apram evlo rupees?"}
+{"id": "m06", "category": "math", "answer": "15", "aliases": [], "english": "Ravi is 3 times as old as his son. The sum of their ages is 60. How old is the son?", "tamil": "ரவியின் வயது அவர் மகனின் வயதை விட 3 மடங்கு. இருவரின் வயதுகளின் கூட்டுத்தொகை 60. மகனின் வயது என்ன?", "tanglish": "Ravi vayasu avaroda paiyan vayasa vida 3 madangu. Rendu perum vayasu serthaa 60. Paiyan vayasu enna?"}
+{"id": "m07", "category": "math", "answer": "36", "aliases": [], "english": "A rectangular plot is 9 metres long and 4 metres wide. What is its area in square metres?", "tamil": "ஒரு செவ்வக நிலம் 9 மீட்டர் நீளமும் 4 மீட்டர் அகலமும் கொண்டது. அதன் பரப்பளவு எத்தனை சதுர மீட்டர்?", "tanglish": "Oru rectangle plot 9 metre neelam, 4 metre agalam. Area ethana square metre?"}
+{"id": "m08", "category": "math", "answer": "1200", "aliases": [], "english": "Monthly rent is 15000 rupees, shared equally by three friends. The electricity bill is 3600 rupees, also shared equally by the three. How much does each friend pay for electricity?", "tamil": "மாத வாடகை 15000 ரூபாய். மூன்று நண்பர்கள் அதைச் சமமாகப் பகிர்கின்றனர். மின்சாரக் கட்டணம் 3600 ரூபாய், அதையும் மூவரும் சமமாகப் பகிர்கின்றனர். ஒவ்வொருவரும் மின்சாரத்துக்கு எவ்வளவு செலுத்துகின்றனர்?", "tanglish": "Monthly rent 15000 rupees. Moonu friends samamaa share panranga. Current bill 3600 rupees, adhaiyum moonu perum samamaa share panranga. Ovvoruthar current ku evlo kudukanum?"}
+{"id": "m09", "category": "math", "answer": "48", "aliases": [], "english": "A bus has 12 rows with 4 seats in each row. How many seats are there in total?", "tamil": "ஒரு பேருந்தில் 12 வரிசைகள் உள்ளன; ஒவ்வொரு வரிசையிலும் 4 இருக்��ைகள். மொத்தம் எத்தனை இருக்கைகள்?", "tanglish": "Oru bus la 12 rows irukku, ovvoru row layum 4 seat. Mothamaa ethana seat?"}
+{"id": "m10", "category": "math", "answer": "10", "aliases": [], "english": "Today is the 25th. A festival is on the 5th of next month. This month has 30 days. How many days from today until the festival?", "tamil": "இன்று 25ஆம் தேதி. அடுத்த மாதம் 5ஆம் தேதி ஒரு திருவிழா. இந்த மாதத்தில் 30 நாட்கள். இன்றிலிருந்து திருவிழாவுக்கு எத்தனை நாட்கள்?", "tanglish": "Indru 25th date. Adutha maasam 5th date oru thiruvizha. Indha maasam 30 naal. Indru la irundhu thiruvizha ku ethana naal?"}
+{"id": "m11", "category": "math", "answer": "560", "aliases": [], "english": "1 kg of rice costs 70 rupees. How much do 8 kg cost?", "tamil": "1 கிலோ அரிசி 70 ரூபாய். 8 கிலோ எவ்வளவு?", "tanglish": "1 kilo arisi 70 rupees. 8 kilo evlo?"}
+{"id": "m12", "category": "math", "answer": "25", "aliases": [], "english": "A tank holds 500 litres. A pipe fills 20 litres per minute. How many minutes to fill the empty tank?", "tamil": "ஒரு தொட்டியில் 500 லிட்டர் கொள்ளும். ஒரு குழாய் நிமிடத்துக்கு 20 லிட்டர் நிரப்புகிறது. காலியான தொட்டியை நிரப்ப எத்தனை நிமிடங்கள் ஆகும்?", "tanglish": "Oru tank la 500 litre kollum. Oru pipe minute ku 20 litre fill pannum. Empty tank fill panna ethana minute aagum?"}
+{"id": "m13", "category": "math", "answer": "1100", "aliases": [], "english": "Simple interest: 10000 rupees is lent at 5.5% per year. What is the interest after 2 years?", "tamil": "தனிவட்டி: 10000 ரூபாய் ஆண்டுக்கு 5.5% வட்டிக்கு கடன் கொடுக்கப்படுகிறது. 2 ஆண்டுகளுக்குப் பிறகு வட்டி எவ்வளவு?", "tanglish": "Simple interest: 10000 rupees varushathukku 5.5% vatti ku kadan kuduthaanga. 2 varusham kazhichu vatti evlo?"}
+{"id": "m14", "category": "math", "answer": "7", "aliases": [], "english": "A cricket team scored 210 runs in 30 overs. What was the run rate per over?", "tamil": "ஒரு கிரிக்கெட் அணி 30 ஓவர்களில் 210 ரன்கள் எடுத்தது. ஓவருக்கு சராசரி ரன் விகிதம் என்ன?", "tanglish": "Oru cricket team 30 overs la 210 runs adichaanga. Over ku run rate enna?"}
+{"id": "m15", "category": "math", "answer": "64", "aliases": [], "english": "What is the next number: 2, 4, 8, 16, 32, ?", "tamil": "அடுத்த எண் எது: 2, 4, 8, 16, 32, ?", "tanglish": "Adutha number enna: 2, 4, 8, 16, 32, ?"}
+{"id": "m16", "category": "math", "answer": "9", "aliases": [], "english": "A farmer has hens and goats. There are 20 heads and 58 legs. How many goats are there?", "tamil": "ஒரு விவசாயியிடம் கோழிகளும் ஆடுகளும் உள்ளன. மொத்தம் 20 தலைகள், 58 கால்கள். எத்தனை ஆடுகள்?", "tanglish": "Oru vivasaayi kitta kozhi um aadu um irukku. Mothamaa 20 thalai, 58 kaal. Ethana aadu?"}
+{"id": "m17", "category": "math", "answer": "4", "aliases": [], "english": "If 6 workers build a wall in 8 days, how many days will 12 workers take at the same rate?", "tamil": "6 தொழிலாளர்கள் ஒரு சுவரை 8 நாட்களில் கட்டுகிறார்கள் என்றால், அதே வேகத்தில் 12 தொழிலாளர்கள் எத்தனை நாட்களில் கட்டுவார்கள்?", "tanglish": "6 workers oru wall a 8 naal la kattuvaanga na, adhe speed la 12 workers ethana naal la kattuvaanga?"}
+{"id": "m18", "category": "math", "answer": "45", "aliases": [], "english": "What is 15% of 300?", "tamil": "300-இல் 15% எவ்வளவு?", "tanglish": "300 la 15% evlo?"}
+{"id": "m19", "category": "math", "answer": "2400", "aliases": [], "english": "A house plot of 1200 square feet is split into two equal parts. Then each part is doubled in size by buying neighbouring land. What is the total area of the two parts now, in square feet?", "tamil": "1200 சதுர அடி மனை இரண்டு சம பாகங்களாகப் பிரிக்கப்படுகிறது. பின்னர் பக்கத்து நிலம் வாங்கி ஒவ்வொரு பாகமும் இரட்டிப்பாக்கப்படுகிறது. இப்போது இரண���டு பாகங்களின் மொத்த பரப்பு எத்தனை சதுர அடி?", "tanglish": "1200 sq ft manai rendu sama bhaagamaa pirikkaraanga. Apram pakkathu nilam vaangi ovvoru bhaagamum double aagudhu. Ippo rendu bhaagamum serthu ethana sq ft?"}
+{"id": "m20", "category": "math", "answer": "90", "aliases": [], "english": "A clock shows 3:00. What is the angle in degrees between the hour hand and the minute hand?", "tamil": "ஒரு கடிகாரம் 3:00 மணி காட்டுகிறது. மணி முள்ளுக்கும் நிமிட முள்ளுக்கும் இடையிலான கோணம் எத்தனை டிகிரி?", "tanglish": "Oru clock 3:00 kaattudhu. Hour mul kum minute mul kum naduvula angle ethana degree?"}
+{"id": "l01", "category": "logic", "answer": "5", "aliases": [], "english": "In a queue, Kumar is 5th from the front and 5th from the back. How many people are in the queue? Answer with the number, then subtract 4 and give only that result.", "tamil": "ஒரு வரிசையில் குமார் முன்னிருந்து 5வது, பின்னிருந்தும் 5வது. வரிசையில் எத்தனை பேர் என்று கண்டுபிடித்து, அதிலிருந்து 4 கழித்து வரும் எண்ணை மட்டும் கூறவும்.", "tanglish": "Oru queue la Kumar munnadi la irundhu 5th, pinnadi la irundhum 5th. Queue la ethana per nu kandupidichu, adhula 4 kazhichu varra number mattum sollunga."}
+{"id": "l02", "category": "logic", "answer": "wednesday", "aliases": ["புதன்", "புதன்கிழமை", "budhan", "budhankizhamai", "wed"], "english": "If today is Monday, what day will it be after 9 days?", "tamil": "இன்று திங்கட்கிழமை என்றால், 9 நாட்களுக்குப் பிறகு என்ன கிழமை?", "tanglish": "Indru Monday na, 9 naal kazhichu enna kizhamai?"}
+{"id": "l03", "category": "logic", "answer": "anbu", "aliases": ["அன்பு"], "english": "Anbu is taller than Bala. Bala is taller than Chitra. Who is the tallest? Give only the name.", "tamil": "அன்பு பாலாவை விட உயரம். பாலா சித்ராவை விட உயரம். யார் மிக உயரமானவர்? பெயரை மட்டும் கூறவும்.", "tanglish": "Anbu Bala va vida uyaram. Bala Chitra va vida uyaram. Yaaru romba uyaram? Per mattum sollunga."}
+{"id": "l04", "category": "logic", "answer": "6", "aliases": [], "english": "How many times does the digit 7 appear when writing all numbers from 1 to 60?", "tamil": "1 முதல் 60 வரை உள்ள எல்லா எண்களையும் எழுதும்போது 7 என்ற இலக்கம் எத்தனை முறை வரும்?", "tanglish": "1 la irundhu 60 varaikkum ella number um ezhudhumbodhu 7 ngra digit ethana thadava varum?"}
+{"id": "l05", "category": "logic", "answer": "north", "aliases": ["வடக்கு", "vadakku"], "english": "Selvi faces east, turns right 90 degrees, then turns around 180 degrees. Which direction does she face now?", "tamil": "செல்வி கிழக்கு நோக்கி நிற்கிறாள். வலப்புறம் 90 டிகிரி திரும்புகிறாள், பிறகு 180 டிகிரி திரும்புகிறாள். இப்போது எந்த திசையை நோக்கி இருக்கிறாள்?", "tanglish": "Selvi kizhakku paarthu nikkuraanga. Right side 90 degree thirumbaraanga, apram 180 degree thirumbaraanga. Ippo endha disai paarthu irukaanga?"}
+{"id": "l06", "category": "logic", "answer": "8", "aliases": [], "english": "A father has 4 daughters and each daughter has 1 brother. The brother is shared. How many children does the father have, plus 3?", "tamil": "ஒரு தந்தைக்கு 4 மகள்கள்; ஒவ்வொரு மகளுக்கும் ஒரு சகோதரன் (எல்லோருக்கும் ஒரே சகோதரன்). தந்தைக்கு எத்தனை குழந்தைகள் என்பதுடன் 3 கூட்டி வரும் எண் என்ன?", "tanglish": "Oru appa ku 4 ponnu; ovvoru ponnukum oru anna/thambi (ellarukum adhe oruthan). Appa ku ethana pillainga nu kandupidichu adhoda 3 kootina enna number?"}
+{"id": "l07", "category": "logic", "answer": "10", "aliases": [], "english": "I am thinking of a number. If I double it and add 6, I get 26. What is the number?", "tamil": "நான் ஒரு எண்ணை நினைக்கிறேன். அதை இரண்டு மடங்காக்கி 6 கூட்டினால் 26 வரும். அந்த எண் என்ன?", "tanglish": "Naan oru number nenaikiren. Adha double panni 6 kootina 26 varum. Andha number enna?"}
+{"id": "l08", "category": "logic", "answer": "20", "aliases": [], "english": "A snail climbs 3 metres up a 22-metre well each day and slips back 2 metres each night. On which day does it first reach the top?", "tamil": "ஒரு நத்தை 22 மீட்டர் ஆழக் கிணற்றில் பகலில் 3 மீட்டர் ஏறி இரவில் 2 மீட்டர் சறுக்குகிறது. எந்த நாளில் முதல் முறையாக மேலே அடையும்?", "tanglish": "Oru naththai 22 metre kinathula pagal la 3 metre yeri, raathiri 2 metre sarukkudhu. Endha naal la first time mela reach aagum?"}
+{"id": "k01", "category": "knowledge", "answer": "1330", "aliases": [], "english": "How many couplets (kurals) are there in the Thirukkural?", "tamil": "திருக்குறளில் எத்தனை குறள்கள் உள்ளன?", "tanglish": "Thirukkural la ethana kural irukku?"}
+{"id": "k02", "category": "knowledge", "answer": "133", "aliases": [], "english": "How many chapters (adhikarams) does the Thirukkural have?", "tamil": "திருக்குறளில் எத்தனை அதிகாரங்கள் உள்ளன?", "tanglish": "Thirukkural la ethana adhikaaram irukku?"}
+{"id": "k03", "category": "knowledge", "answer": "247", "aliases": [], "english": "How many letters are there in the Tamil alphabet in the traditional count?", "tamil": "பாரம்பரிய கணக்கின்படி தமிழ் எழுத்துகள் மொத்தம் எத்தனை?", "tanglish": "Traditional kanakku padi Tamil ezhuthukkal mothamaa ethana?"}
+{"id": "k04", "category": "knowledge", "answer": "12", "aliases": [], "english": "How many vowels (uyir ezhuthu) are there in Tamil?", "tamil": "தமிழில் உயிர் எழுத்துகள் எத்தனை?", "tanglish": "Tamil la uyir ezhuthu ethana?"}
+{"id": "k05", "category": "knowledge", "answer": "18", "aliases": [], "english": "How many consonants (mei ezhuthu) are there in Tamil?", "tamil": "தமிழில் மெய் எழுத்துகள் எத்தனை?", "tanglish": "Tamil la mei ezhuthu ethana?"}
+{"id": "k06", "category": "knowledge", "answer": "thai", "aliases": ["தை", "tai"], "english": "In which Tamil month is Pongal (Thai Pongal) celebrated? Give the Tamil month name.", "tamil": "பொங்கல் எந்த தமிழ் மாதத்தில் கொண்டாடப்படுகிறது? மாதத்தின் பெயரை மட்டும் கூறவும்.", "tanglish": "Pongal endha Tamil maasathula kondaaduvaanga? Maasam per mattum sollunga."}
+{"id": "k07", "category": "knowledge", "answer": "chithirai", "aliases": ["சித்திரை", "chittirai", "chitirai"], "english": "What is the first month of the Tamil calendar?", "tamil": "தமிழ் நாட்காட்டியின் முதல் மாதம் எது?", "tanglish": "Tamil calendar oda first maasam edhu?"}
+{"id": "k08", "category": "knowledge", "answer": "thiruvalluvar", "aliases": ["திருவள்ளுவர்", "valluvar", "வள்ளுவர்"], "english": "Who wrote the Thirukkural?", "tamil": "திருக்குறளை எழுதியவர் யார்?", "tanglish": "Thirukkural ezhudhunadhu yaaru?"}
+{"id": "k09", "category": "knowledge", "answer": "38", "aliases": [], "english": "How many districts does Tamil Nadu have (as of 2024)?", "tamil": "தமிழ்நாட்டில் எத்தனை மாவட்டங்கள் உள்ளன (2024 நிலவரப்படி)?", "tanglish": "Tamil Nadu la ethana district irukku (2024 padi)?"}
+{"id": "k10", "category": "knowledge", "answer": "madurai", "aliases": ["மதுரை"], "english": "In which city is the Meenakshi Amman Temple?", "tamil": "மீனாட்சி அம்மன் கோயில் எந்த நகரத்தில் உள்ளது?", "tanglish": "Meenakshi Amman kovil endha ooru la irukku?"}
+{"id": "k11", "category": "knowledge", "answer": "thanjavur", "aliases": ["தஞ்சாவூர்", "tanjore", "தஞ்சை", "thanjai"], "english": "In which city is the Brihadeeswarar (Big) Temple built by Raja Raja Chola?", "tamil": "ராஜராஜ சோழன் கட்டிய பெருவுடையார் (பெரிய) கோயில் எந்த நகரத்தில் உள்ளது?", "tanglish": "Raja Raja Chozhan katna Periya Kovil endha ooru la irukku?"}
+{"id": "k12", "category": "knowledge", "answer": "3", "aliases": [], "english": "Into how many sections (paal) is the Thirukkural divided?", "tamil": "திருக்குறள் எத்தனை பால்களாகப் பிரிக்கப்பட்டுள்ளது?", "tanglish": "Thirukkural ethana paal aa pirikkapattirukku?"}
+{"id": "k13", "category": "knowledge", "answer": "kaveri", "aliases": ["காவிரி", "cauvery", "kaviri", "காவேரி", "kaveri river"], "english": "Which river is the Mettur Dam built across?", "tamil": "மேட்டூர் அணை எந்த ஆற்றின் குறுக்கே கட்டப்பட்டுள்ளது?", "tanglish": "Mettur dam endha aathu mela kattirukkaanga?"}
+{"id": "k14", "category": "knowledge", "answer": "2004", "aliases": [], "english": "In which year did the Government of India declare Tamil a classical language?", "tamil": "இந்திய அரசு தமிழை செம்மொழியாக எந்த ஆண்டில் அறிவித்தது?", "tanglish": "India government Tamil a semmozhi nu endha varusham declare pannuchu?"}
+{"id": "k15", "category": "knowledge", "answer": "216", "aliases": [], "english": "How many uyirmei (vowel-consonant) letters are there in Tamil?", "tamil": "தமிழில் உயிர்மெய் எழுத்துகள் எத்தனை?", "tanglish": "Tamil la uyirmei ezhuthu ethana?"}
+{"id": "e01", "category": "everyday", "answer": "4", "aliases": [], "english": "Priya leaves home at 8:15 am and reaches college at 9:05 am. The bus took 40 minutes and she walked the rest. How many minutes did she walk, divided by 2.5?", "tamil": "பிரியா காலை 8:15க்கு வீட்டை விட்டு கிளம்பி 9:05க்கு கல்லூரியை அடைகிறாள். பேருந்து பயணம் 40 நிமிடங்கள், மீதி நடந்தாள். நடந்த நிமிடங்களை 2.5 ஆல் வகுத்தால் வரும் எண் என்ன?", "tanglish": "Priya kaalai 8:15 ku veetla irundhu kelambi 9:05 ku college reach aaguraanga. Bus 40 minutes, meedhi nadandhaanga. Nadandha minutes a 2.5 aala vaguthaa enna varum?"}
+{"id": "e02", "category": "everyday", "answer": "350", "aliases": [], "english": "A phone recharge gives 2 GB per day for 28 days, but you used only 75% of the total. How many GB did you NOT use, multiplied by 25?", "tamil": "ஒரு ரீசார்ஜ் 28 நாட்களுக்கு நாளொன்றுக்கு 2 ஜிபி தருகிறது. மொத்தத்தில் 75% மட்டுமே பயன்படுத்தினீர்கள். பயன்படுத்தாத ஜிபியை 25 ஆல் பெருக்கினால் என்ன?", "tanglish": "Oru recharge 28 days ku daily 2 GB tharudhu. Mothathula 75% dhaan use panneenga. Use pannaadha GB a 25 aala perukkina enna?"}
+{"id": "e03", "category": "everyday", "answer": "3", "aliases": [], "english": "A recipe for 4 people uses 2 cups of rice. How many cups for 6 people?", "tamil": "4 பேருக்கான சமையல் குறிப்பில் 2 கப் அரிசி. 6 பேருக்கு எத்தனை கப்?", "tanglish": "4 perukku recipe la 2 cup arisi. 6 perukku ethana cup?"}
+{"id": "e04", "category": "everyday", "answer": "540", "aliases": [], "english": "Electricity: the first 100 units are free, the next 100 units cost 2.25 rupees each, and units above 200 cost 4.5 rupees each. What is the bill for 270 units?", "tamil": "மின் கட்டணம்: முதல் 100 யூனிட்கள் இலவசம், அடுத்த 100 யூனிட்கள் ஒவ்வொன்றும் 2.25 ரூபாய், 200க்கு மேல் ஒவ்வொரு யூனிட்டும் 4.5 ரூபாய். 270 யூனிட்களுக்கு கட்டணம் எவ்வளவு?", "tanglish": "Current bill: first 100 units free, adutha 100 units ovvonnum 2.25 rupees, 200 ku mela ovvoru unit um 4.5 rupees. 270 units ku bill evlo?"}
+{"id": "e05", "category": "everyday", "answer": "40", "aliases": [], "english": "A real-estate agent earns 2% commission. He sells a plot for 20 lakh rupees. What is his commission in thousands of rupees?", "tamil": "ஒரு ரியல் எஸ்டேட் முகவர் 2% கமிஷன் பெறுகிறார். ஒரு மனையை 20 லட்சம் ரூபாய்க்கு விற்கிறார். அவருடைய கமிஷன் எத்தனை ஆயிரம் ரூபாய்?", "tanglish": "Oru real estate agent ku 2% commission. Oru plot a 20 lakh rupees ku vikkiraaru. Avaroda commission ethana thousand rupees?"}
+{"id": "e06", "category": "everyday", "answer": "4", "aliases": [], "english": "One cent of land is 435.6 square feet (round to 436). A plot of 1744 square feet is how many cents?", "tamil": "ஒரு செண்ட் நிலம் 436 சதுர அடி (சுமார்). 1744 சதுர அடி மனை எத்தனை செண்ட்?", "tanglish": "Oru cent nilam 436 sq ft (approx). 1744 sq ft plot ethana cent?"}
+{"id": "e07", "category": "everyday", "answer": "12", "aliases": [], "english": "A movie starts at 6:45 pm and runs 2 hours 50 minutes, plus a 15-minute interval. Find the hour of the end time in 24-hour format, subtract 9, and give that number.", "tamil": "ஒரு திரைப்படம் மாலை 6:45க்கு தொடங்கி 2 மணி 50 நிமிடம் ஓடும், கூடவே 15 நிமிட இடைவேளை. முடியும் நேரத்தின் மணியை (24 மணி நேர வடிவில்) கண்டுபிடித்து அதிலிருந்து 9 கழித்து வரும் எண்ணைக் கூறவும்.", "tanglish": "Oru movie saayangaalam 6:45 ku start aagi 2 hours 50 minutes odum, kooda 15 minute interval. Mudiyura time oda hour a (24 hour format la) kandupidichu adhula 9 kazhichu varra number sollunga."}

results/summary.json

@@ -0,0 +1,206 @@
+{
+ "default": {
+  "en": {
+   "n": 100,
+   "acc": 100.0,
+   "prompt": 90.3,
+   "reasoning": 106.3,
+   "completion": 118.6,
+   "cost_per_1k": 0.178,
+   "latency": 0.62
+  },
+  "ta": {
+   "n": 100,
+   "acc": 100.0,
+   "prompt": 230.7,
+   "reasoning": 161.0,
+   "completion": 174.3,
+   "cost_per_1k": 0.301,
+   "latency": 0.67
+  },
+  "tl": {
+   "n": 100,
+   "acc": 100.0,
+   "prompt": 103.8,
+   "reasoning": 213.9,
+   "completion": 226.5,
+   "cost_per_1k": 0.313,
+   "latency": 0.79
+  }
+ },
+ "minimal": {
+  "en": {
+   "n": 50,
+   "acc": 100.0,
+   "prompt": 88.3,
+   "reasoning": 83.5,
+   "completion": 95.8,
+   "cost_per_1k": 0.15,
+   "latency": 0.69
+  },
+  "ta": {
+   "n": 50,
+   "acc": 100.0,
+   "prompt": 228.7,
+   "reasoning": 122.1,
+   "completion": 135.4,
+   "cost_per_1k": 0.254,
+   "latency": 0.8
+  },
+  "tl": {
+   "n": 50,
+   "acc": 100.0,
+   "prompt": 101.8,
+   "reasoning": 158.3,
+   "completion": 171.0,
+   "cost_per_1k": 0.246,
+   "latency": 0.84
+  }
+ },
+ "bycat": {
+  "math": {
+   "en": {
+    "n": 40,
+    "acc": 100.0,
+    "prompt": 92.0,
+    "reasoning": 73.2,
+    "completion": 85.7,
+    "cost_per_1k": 0.14,
+    "latency": 0.57
+   },
+   "ta": {
+    "n": 40,
+    "acc": 100.0,
+    "prompt": 241.8,
+    "reasoning": 132.6,
+    "completion": 145.0,
+    "cost_per_1k": 0.271,
+    "latency": 0.56
+   },
+   "tl": {
+    "n": 40,
+    "acc": 100.0,
+    "prompt": 107.2,
+    "reasoning": 184.3,
+    "completion": 196.7,
+    "cost_per_1k": 0.279,
+    "latency": 0.83
+   }
+  },
+  "logic": {
+   "en": {
+    "n": 16,
+    "acc": 100.0,
+    "prompt": 92.4,
+    "reasoning": 90.1,
+    "completion": 101.4,
+    "cost_per_1k": 0.159,
+    "latency": 0.86
+   },
+   "ta": {
+    "n": 16,
+    "acc": 100.0,
+    "prompt": 253.4,
+    "reasoning": 251.5,
+    "completion": 265,
+    "cost_per_1k": 0.419,
+    "latency": 1.25
+   },
+   "tl": {
+    "n": 16,
+    "acc": 100.0,
+    "prompt": 112.8,
+    "reasoning": 353.9,
+    "completion": 365.8,
+    "cost_per_1k": 0.484,
+    "latency": 1.27
+   }
+  },
+  "knowledge": {
+   "en": {
+    "n": 30,
+    "acc": 100.0,
+    "prompt": 79.8,
+    "reasoning": 164.3,
+    "completion": 177.2,
+    "cost_per_1k": 0.245,
+    "latency": 0.57
+   },
+   "ta": {
+    "n": 30,
+    "acc": 100.0,
+    "prompt": 182.3,
+    "reasoning": 150.6,
+    "completion": 165.4,
+    "cost_per_1k": 0.271,
+    "latency": 0.58
+   },
+   "tl": {
+    "n": 30,
+    "acc": 100.0,
+    "prompt": 87.8,
+    "reasoning": 175.5,
+    "completion": 189.0,
+    "cost_per_1k": 0.262,
+    "latency": 0.58
+   }
+  },
+  "everyday": {
+   "en": {
+    "n": 14,
+    "acc": 100.0,
+    "prompt": 105.1,
+    "reasoning": 94.8,
+    "completion": 106.6,
+    "cost_per_1k": 0.17,
+    "latency": 0.56
+   },
+   "ta": {
+    "n": 14,
+    "acc": 100.0,
+    "prompt": 276.9,
+    "reasoning": 161.3,
+    "completion": 173.1,
+    "cost_per_1k": 0.319,
+    "latency": 0.49
+   },
+   "tl": {
+    "n": 14,
+    "acc": 100.0,
+    "prompt": 118.1,
+    "reasoning": 220.9,
+    "completion": 232.7,
+    "cost_per_1k": 0.327,
+    "latency": 0.58
+   }
+  }
+ },
+ "native": {
+  "n": 66,
+  "acc": 98.5,
+  "prompt": 204.5,
+  "reasoning": 424.0,
+  "completion": 438.2,
+  "cost_per_1k": 0.608,
+  "latency": 1.02
+ },
+ "tokenizer": {
+  "en": {
+   "tokens": 26.3,
+   "tok_per_word": 1.49,
+   "chars_per_tok": 3.38
+  },
+  "ta": {
+   "tokens": 98.7,
+   "tok_per_word": 8.02,
+   "chars_per_tok": 0.92
+  },
+  "tl": {
+   "tokens": 32.8,
+   "tok_per_word": 2.38,
+   "chars_per_tok": 2.55
+  }
+ },
+ "total_cost": 0.1519,
+ "total_calls": 516
+}