Add data, results and dataset card (progress report, 20 Oct 2026)

.gitattributes

@@ -58,3 +58,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 # Video files - compressed
 *.mp4 filter=lfs diff=lfs merge=lfs -text
 *.webm filter=lfs diff=lfs merge=lfs -text
+wikipedia/wiki_context.tsv filter=lfs diff=lfs merge=lfs -text

README.md

@@ -0,0 +1,83 @@
+---
+license: cc-by-sa-4.0
+language:
+- tr
+pretty_name: Turkish Text Normalization Resources
+tags:
+- text-normalization
+- lexical-normalization
+- turkish
+- deasciification
+size_categories:
+- 100K<n<1M
+viewer: false
+---
+
+# Turkish Text Normalization Resources
+
+Part of a Turkish text preprocessing toolkit built for CMPE 561 (Natural Language Processing), Application Project 1, Boğaziçi University, 2026. All code is our own; no external NLP library is used in the systems. Status: progress report, 20 October 2026.
+
+These are the resources used by our rule- and corpus-based normalizer, which converts noisy or non-standard Turkish
+(missing Turkish characters, chat abbreviations, repeated letters, colloquial suffixes, attached clitics, wrong casing)
+into standard Turkish orthography. Companion repositories:
+[stopwords](https://huggingface.co/datasets/eminesener/stopwords),
+[sentence_splitter](https://huggingface.co/datasets/eminesener/sentence_splitter).
+
+## How the normalizer uses the data
+
+1. **Text-level cleanup** (Unicode NFC, invisible characters, dotted i, quote/apostrophe variants, whitespace,
+   repeated punctuation): fixed rules, no data.
+2. **Sentence state:** is the sentence ASCII-typed, noisy (at least 10% of lowercase words unknown to `wiki_vocab.tsv`)
+   or all caps?
+3. **Word cascade**, first stage that applies wins; every proposal must be a word attested in Wikipedia:
+   (1) `normalization.tsv` lexicon → (2) repeated letters → (3) diacritic restoration by Wikipedia frequency →
+   (4) colloquial suffix rules → (5) proper noun + case suffix → (6) clitic splitting (mi/de/ki) →
+   (7) character 6-gram language model for unknown ASCII words. Stages 4–7 run only on noisy text.
+4. **Casing** from the most frequent Wikipedia spelling; **context step** for ambiguous pairs (su/şu) with
+   `wiki_context.tsv`; question-particle vowel harmony.
+
+See `figures/flow_overview.png` and `figures/flow_cascade.png` (labels in Turkish).
+
+## Files
+
+| File | Format | Contents | Used in |
+|---|---|---|---|
+| `lexicon/normalization.tsv` | `surface ⇥ normalized ⇥ source` | 550 entries: 492 word pairs derived from MultiLexNorm Turkish **train** + 58 hand-written | cascade stage 1 (`slm → selam`) |
+| `lexicon/normalization_manual.tsv` | same | 58 hand-written entries (chat abbreviations, spoken forms, spelling variants) | merged into the lexicon; wins on conflict |
+| `wikipedia/wiki_vocab.tsv` | `word ⇥ freq` | 654,804 case-sensitive word forms seen ≥ 3 times in 267,494 Turkish Wikipedia articles (59.6M tokens) | validity check, diacritic restoration, casing, rule validation, char-LM training |
+| `wikipedia/wiki_context.tsv` | `word ⇥ L/R ⇥ neighbour ⇥ count` | left/right neighbour counts for 5,240 diacritic-ambiguous words (neighbours ASCII-folded) | context step (`su an → şu an`) |
+| `results/` | JSON, Markdown | all dev/test scores, ablation, error categories | |
+| `figures/` | PNG | test accuracy vs. leave-as-is baseline, ablation, social-media error categories, flow diagrams | |
+
+Lines starting with `#` in the TSV files are provenance comments.
+
+Examples from `wiki_vocab.tsv`: `çok 120822`, `cok 113`, `Ankara 28265`, `ANKARA 81`, `ankara 16`, `Ankara'da 3705`.
+Example from `wiki_context.tsv`: `şu R an 2338` vs. `su R an 7`.
+
+## Results (test, scored once)
+
+| Test case | Accuracy | Leave-as-is baseline | ERR |
+|---|---|---|---|
+| BOUN test, clean (does it damage good text?) | 99.56% | 100% | – |
+| BOUN test, diacritics removed (synthetic) | 98.27% | 62.0% | 0.954 |
+| BOUN test, all caps (synthetic) | 95.65% | 18.6% | 0.947 |
+| MultiLexNorm Turkish test (real tweets) | 80.48% | 64.0% | 0.458 |
+
+Thresholds were tuned on BOUN dev and on MultiLexNorm train (5-fold cross-validation, lexicon rebuilt from the
+training folds in every fold). No test sentence was used to build any resource.
+
+## Sources
+
+| Source | Licence | Use |
+|---|---|---|
+| Turkish Wikipedia, dump 20231101 ([wikimedia/wikipedia](https://huggingface.co/datasets/wikimedia/wikipedia), `20231101.tr`, shard 1 of 2) | CC BY-SA 3.0 / GFDL | `wiki_vocab.tsv`, `wiki_context.tsv`, char LM |
+| MultiLexNorm Turkish ([bitbucket.org/robvanderg/multilexnorm](https://bitbucket.org/robvanderg/multilexnorm), `data/tur`, commit 31695c6); Çolakoğlu, Sulubacak & Tantuğ 2019, ACL SRW, [doi:10.18653/v1/P19-2037](https://doi.org/10.18653/v1/P19-2037); van der Goot et al. 2021, W-NUT | not stated; raw files **not** redistributed here | train: lexicon pairs, tuning; test: evaluation only |
+| UD Turkish-BOUN ([UniversalDependencies/UD_Turkish-BOUN](https://github.com/UniversalDependencies/UD_Turkish-BOUN)); Türk et al. 2022, LRE | CC BY-SA 4.0 | evaluation text only (dev: tuning, test: scored once) |
+
+If you use the lexicon, please also cite the MultiLexNorm and Çolakoğlu et al. papers.
+
+## Main literature
+
+Torunoğlu & Eryiğit 2014 (cascaded normalization of Turkish social media, LASM); Eryiğit & Torunoğlu-Selamet 2017
+(NLE); Adalı & Eryiğit 2014 (vowel and diacritic restoration, LASM); Arslan 2016 (deASCIIfication for IR, IP&M);
+Çolakoğlu et al. 2019; van der Goot et al. 2021.

lexicon/normalization.tsv

@@ -0,0 +1,552 @@
+# generated by scripts/build_normalization_lexicon.py - edit normalization_manual.tsv instead
+surface	normalized	source
+a.b.d.	ABD	manual:variant
+aaaağlaamaaa	ağlama	multilexnorm_train
+aboooo	abo	multilexnorm_train
+aciyon	açıyorsun	multilexnorm_train
+admincim	adminciğim	multilexnorm_train
+affffffffffff	af	multilexnorm_train
+aghaaaaaa	Aha	multilexnorm_train
+aksamlarr	akşamlar	multilexnorm_train
+akşamlaar	akşamlar	multilexnorm_train
+alatasaray	Galatasaray	multilexnorm_train
+aldatiliyoz	aldatılıyoruz	multilexnorm_train
+aliyim	alayım	multilexnorm_train
+allaaah	Allah	multilexnorm_train
+allahuuuuuuu	allahu	multilexnorm_train
+allam	Allah'ım	multilexnorm_train
+almıyım	almayayım	multilexnorm_train
+altaaan	Altan	multilexnorm_train
+alıcaktım	alacaktım	multilexnorm_train
+alırsanıznçok	alırsanız çok	multilexnorm_train
+aminnn	amin	multilexnorm_train
+amk	amına koyayım	multilexnorm_train
+amkodumunlar	amına koyduklarım	multilexnorm_train
+amq	amına koyayım	multilexnorm_train
+amınakodum	amına koyduğum	multilexnorm_train
+amınakoyacağım	amına koyacağım	multilexnorm_train
+amınakoyim	amına koyayım	multilexnorm_train
+anaskm	ananı sikeyim	multilexnorm_train
+anasınısikeyim	anasını sikeyim	multilexnorm_train
+anliyorumda	anlıyorum da	multilexnorm_train
+anlαttıklarımız	anlattıklarımız	multilexnorm_train
+anlαtılαmαчαcαk	anlatılamayacak	multilexnorm_train
+anlαtαmαdıklαrımız	anlatamadıklarımız	multilexnorm_train
+annam	anam	multilexnorm_train
+annecim	anneciğim	multilexnorm_train
+annede	anne de	multilexnorm_train
+apandada	alanda da	multilexnorm_train
+aq	amına koyayım	multilexnorm_train
+arkideşlerim	arkadaşlarım	multilexnorm_train
+atanamiyosun	atanamıyorsun	multilexnorm_train
+aticam	atacağım	multilexnorm_train
+atlio	atlıyor	multilexnorm_train
+atmazlarmiydi	atmazlar mıydı	multilexnorm_train
+atıcam	atacağım	multilexnorm_train
+atıcağım	atacağım	multilexnorm_train
+atıyolar	atıyorlar	multilexnorm_train
+aw	ya	multilexnorm_train
+aybuke'cım	aybüke'ciğim	multilexnorm_train
+aydr	aydır	multilexnorm_train
+ayyy	ay	multilexnorm_train
+açamıycam	açamayacağım	multilexnorm_train
+açarmısınız	açar mısınız	multilexnorm_train
+aşkımsu	aşkımsı	multilexnorm_train
+babaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaallaaaaaaaaaaaaaaaaaaaaaaaaaaahhhhhhhh	baba Allah	multilexnorm_train
+babuuuuş	babuş	multilexnorm_train
+bahsediyoz	bahsediyoruz	multilexnorm_train
+bakanlğna	bakanlğı'na	multilexnorm_train
+bakanlıklarda	bakanlıklardan	multilexnorm_train
+bakanm	bakanım	multilexnorm_train
+bakim	bakayım	multilexnorm_train
+bakıyosun	bakıyorsun	multilexnorm_train
+baya	bayağı	multilexnorm_train
+bayaadır	Bayağıdır	multilexnorm_train
+bayildimmm	bayıldım	multilexnorm_train
+beklarim	beklerim	multilexnorm_train
+beklemiyodum	beklemiyordum	multilexnorm_train
+bekleyn	bekleyen	multilexnorm_train
+bekliyolar	bekliyorlar	multilexnorm_train
+bekliyon	bekliyorsun	multilexnorm_train
+beklyorz	bekliyoruz	multilexnorm_train
+bende	ben de	multilexnorm_train
+benimde	benim de	multilexnorm_train
+benzio	benziyor	multilexnorm_train
+benziyosun	benziyorsun	multilexnorm_train
+bergeeeeeeeeeeeeeeeeeeeeeeeeeen	bergen	multilexnorm_train
+bi	bir	manual:spoken
+bi'şey	bir şey	multilexnorm_train
+bide	bir de	multilexnorm_train
+biladerim	biraderim	multilexnorm_train
+bilgilwndirirmisinşz	bilgilendirir misiniz	multilexnorm_train
+biliyomusun	biliyor musun	multilexnorm_train
+biliyoz	biliyoruz	multilexnorm_train
+bilmiyi	bilmiyor	multilexnorm_train
+bilmiyom	bilmiyorum	manual:spoken
+bipgi	bilgi	multilexnorm_train
+birazbazı	biraz bazı	multilexnorm_train
+birdaha	bir daha	multilexnorm_train
+birde	bir de	multilexnorm_train
+birseyler	bir şeyler	multilexnorm_train
+birşey	bir şey	manual:spelling
+birşeydi	bir şeydi	multilexnorm_train
+bisey	bir şey	multilexnorm_train
+biseyler	bir şeyler	multilexnorm_train
+bisi	bir şey	multilexnorm_train
+bizene	bize ne	multilexnorm_train
+bişey	bir şey	manual:spoken
+bişi	bir şey	manual:spoken
+bişiler	bir şeyler	multilexnorm_train
+bjksinen	BJK'sinin	multilexnorm_train
+bn	ben	multilexnorm_train
+bnm	benim	manual:chat
+bulunulucagi	bulunulacağı	multilexnorm_train
+bunakk	bunak	multilexnorm_train
+bunla	bununla	multilexnorm_train
+burda	burada	manual:spoken
+burdada	Burada da	multilexnorm_train
+burdan	buradan	manual:spoken
+bı	bir	multilexnorm_train
+cagiriyo	çağırıyor	multilexnorm_train
+calisiyodum	çalışıyordum	multilexnorm_train
+calıyo	çalıyor	multilexnorm_train
+canmmm	canım	multilexnorm_train
+cannn	can	multilexnorm_train
+cenapcım	cenap'çığım	multilexnorm_train
+cikaricagi	çıkaracağı	multilexnorm_train
+cikiyolar	çıkıyorlar	multilexnorm_train
+cinbombom	Cimbombom	multilexnorm_train
+cnm	canım	manual:chat
+cokgüzel	çok güzel	multilexnorm_train
+ctesi	cumartesi	multilexnorm_train
+cumaaksaminiz	Cuma akşamınız	multilexnorm_train
+curretinde	cüretinde	multilexnorm_train
+cvb	cevap	multilexnorm_train
+cvp	cevap	multilexnorm_train
+cıkmıyo	çıkmıyor	multilexnorm_train
+cıkıyorda	çıkıyor da	multilexnorm_train
+cınım	canım	multilexnorm_train
+daaa	da	multilexnorm_train
+dediyin	dediğin	multilexnorm_train
+degılmı	değil mi	multilexnorm_train
+dehhh	deh	multilexnorm_train
+delimanyak	deli manyak	multilexnorm_train
+deliricem	delireceğim	multilexnorm_train
+delüğanlı	delikanlı	multilexnorm_train
+destekliyoruzzz	destekliyoruz	multilexnorm_train
+değiiiil	değil	multilexnorm_train
+diceksin	diyeceksin	multilexnorm_train
+diil	değil	multilexnorm_train
+dilemekte	dilemek de	multilexnorm_train
+dileyiyle	dileğiyle	multilexnorm_train
+diyeceklermi	diyecekler mi	multilexnorm_train
+diyer	diye	multilexnorm_train
+diyim	diyeyim	multilexnorm_train
+diyo	diyor	manual:spoken
+diyon	diyorsun	multilexnorm_train
+dk	dakika	multilexnorm_train
+dogumgunu	doğum günü	multilexnorm_train
+donebılcekmı	dönebilecek mi	multilexnorm_train
+donuyo	donuyor	multilexnorm_train
+donuyoz	donuyoruz	multilexnorm_train
+durmaa	durma	multilexnorm_train
+duygularn	duyguların	multilexnorm_train
+dönemezsiiiiiiiiiiiiiiiiin	dönemezsin	multilexnorm_train
+döner'de	döner de	multilexnorm_train
+dünyanyadan	dünyadan	multilexnorm_train
+düşüncez	düşüneceğiz	multilexnorm_train
+düşünn	düşün	multilexnorm_train
+düşüyeaggg	düşüyor	multilexnorm_train
+dıgıdıkk	dıgıdık	multilexnorm_train
+dıyım	diyeyim	multilexnorm_train
+e-mail	e-posta	manual:variant
+edebiyatcida	edebiyatçı da	multilexnorm_train
+ederiiim	ederim	multilexnorm_train
+ederimm	ederim	multilexnorm_train
+edicem	edeceğim	multilexnorm_train
+ediyim	edeyim	multilexnorm_train
+ediyorummm	ediyorum	multilexnorm_train
+edyorum	ediyorum	multilexnorm_train
+elele	el ele	multilexnorm_train
+elestri	eleştiri	multilexnorm_train
+email	e-posta	manual:variant
+eposta	e-posta	manual:variant
+etmiyo	etmiyor	multilexnorm_train
+evriliyor	eviriliyor	multilexnorm_train
+evt	evet	multilexnorm_train
+eyw	eyvallah	manual:chat
+eşşeği	eşeği	multilexnorm_train
+farkettim	fark ettim	multilexnorm_train
+farkettin	fark ettin	multilexnorm_train
+fatruya	Faturaya	multilexnorm_train
+gabitalizmin	kapitalizmin	multilexnorm_train
+gafası	kafası	multilexnorm_train
+gardasim	kardeşim	multilexnorm_train
+gardasım	kardeşim	multilexnorm_train
+gazeteai	gazetesi	multilexnorm_train
+gdip	gidip	multilexnorm_train
+gelcek	Gelecek	multilexnorm_train
+gelcem	geleceğim	manual:spoken
+geldiiin	geldin	multilexnorm_train
+geliyo	geliyor	manual:spoken
+gelmdi	gelmedi	multilexnorm_train
+gelmiyim	gelmeyeyim	multilexnorm_train
+gelmiyoz	gelmiyoruz	multilexnorm_train
+gercekteb	gerçekten	multilexnorm_train
+gerekiyo	gerekiyor	multilexnorm_train
+gerekmiyorrr	gerekmiyor	multilexnorm_train
+gerekıyo	gerekiyor	multilexnorm_train
+geririlebilirmiş	getirilebilirmiş	multilexnorm_train
+geçicek	geçecek	multilexnorm_train
+gggiiiitttt	git	multilexnorm_train
+gibimi	gibi mi	multilexnorm_train
+gibiyimm	gibiyim	multilexnorm_train
+gidem	gideyim	multilexnorm_train
+gidiyosun	gidiyorsun	multilexnorm_train
+giit	git	multilexnorm_train
+giitt	git	multilexnorm_train
+gisteemisti	göstermişti	multilexnorm_train
+gitmeyecem	gitmeyeceğim	multilexnorm_train
+gitmiyodur	gitmiyordur	multilexnorm_train
+glb	galiba	manual:chat
+gormuyomus	görmüyormuş	multilexnorm_train
+gorusek	görüşecek	multilexnorm_train
+grsrz	görüşürüz	manual:chat
+grşz	görüşürüz	manual:chat
+gsstore	GS Store	multilexnorm_train
+gulush	gülüş	multilexnorm_train
+guzelde	güzel de	multilexnorm_train
+gyzellikler	güzellikler	multilexnorm_train
+göreceginizde	göreceğiniz de	multilexnorm_train
+görmk	görmek	multilexnorm_train
+göynek	gömlek	multilexnorm_train
+gözlerrrr	gözler	multilexnorm_train
+güüleeer	güler	multilexnorm_train
+gızı	kızı	multilexnorm_train
+gūle	güle	multilexnorm_train
+hadi	haydi	multilexnorm_train
+hadiii	haydi	multilexnorm_train
+hafislerini	hadislerini	multilexnorm_train
+halayda	halay da	multilexnorm_train
+hapise	hapse	multilexnorm_train
+harcanirrrr	harcanır	multilexnorm_train
+hastalarada	hastalara da	multilexnorm_train
+hazirlaniyom	hazırlanıyorum	multilexnorm_train
+hb	hoş bulduk	manual:chat
+hergun	her gün	multilexnorm_train
+herkezsin	herkesin	multilexnorm_train
+hersey	her şey	multilexnorm_train
+herseyden	her şeyden	multilexnorm_train
+herseyi	her şeyi	multilexnorm_train
+hertürlü	her türlü	multilexnorm_train
+herşey	her şey	manual:spelling
+herşeyin	her şeyin	multilexnorm_train
+heç	hiç	multilexnorm_train
+hg	hoş geldin	manual:chat
+hiçbirşey	hiçbir şey	manual:spelling
+hiçbişey	hiçbir şey	multilexnorm_train
+hımmm	hım	multilexnorm_train
+iateriz	isteriz	multilexnorm_train
+icicekler	içecekler	multilexnorm_train
+iciyosa	içiyorsa	multilexnorm_train
+iconumdaki	İkonumdaki	multilexnorm_train
+imperyilizm	Emperyalizm	multilexnorm_train
+imsannarsınıs	insanlarsınız	multilexnorm_train
+indiricez	indireceğiz	multilexnorm_train
+insallahhhh	inşallah	multilexnorm_train
+insαnlαrα	insanlara	multilexnorm_train
+inş	inşallah	multilexnorm_train
+isicem	İşeyeceğim	multilexnorm_train
+isinmiya	ısınmaya	multilexnorm_train
+istiyo	istiyor	multilexnorm_train
+istiyom	istiyorum	manual:spoken
+istiyosan	istiyorsan	multilexnorm_train
+izlicez	izleyeceğiz	multilexnorm_train
+işliyorda	işliyor da	multilexnorm_train
+jetliyo	jetliyor	multilexnorm_train
+jikookuda	Jikook'u da	multilexnorm_train
+kalkıcakmı	kalkacak mı	multilexnorm_train
+kanks	kanka	multilexnorm_train
+kapansada	kapansa da	multilexnorm_train
+kemmal	Kemal	multilexnorm_train
+kesmam	kesmem	multilexnorm_train
+kib	kendine iyi bak	manual:chat
+kilemelerin	kelimelerin	multilexnorm_train
+kimetini	kıymetini	multilexnorm_train
+knk	kanka	manual:chat
+koyamıyacağım	koyamayacağım	multilexnorm_train
+koyim	koyayım	multilexnorm_train
+kpop'mu	kpop mu	multilexnorm_train
+kralçesi	kraliçesi	multilexnorm_train
+kullanin	kulanın	multilexnorm_train
+kullanmıșsınız	kullanmışsınız	multilexnorm_train
+kuralarini	kurallarını	multilexnorm_train
+kusacam	kusacağım	multilexnorm_train
+küsmeki	küsme ki	multilexnorm_train
+küçükpark	Küçük Park	multilexnorm_train
+kαdαr	kadar	multilexnorm_train
+lüfffen	lütfen	multilexnorm_train
+maaşallah	maşallah	multilexnorm_train
+maaşalllah	maşallah	multilexnorm_train
+malesef	maalesef	multilexnorm_train
+maliyeatama	maliye atama	multilexnorm_train
+masaallah	maşallah	multilexnorm_train
+maçmı	maç mı	multilexnorm_train
+maşaallah	maşallah	multilexnorm_train
+merağınıs	merakınız	multilexnorm_train
+meşurdur	meşhurdur	multilexnorm_train
+mii	mi	multilexnorm_train
+minciram	mıncırayım	multilexnorm_train
+mrb	merhaba	manual:chat
+mrh	merhaba	multilexnorm_train
+mrhb	merhaba	manual:chat
+muhammetcim	muhammet'çiğim	multilexnorm_train
+mutlumusun	mutlu musun	multilexnorm_train
+mí	mi	multilexnorm_train
+müzk	müzik	multilexnorm_train
+müüü	mü	multilexnorm_train
+naapacaz	ne yapacağız	multilexnorm_train
+naber	ne haber	manual:chat
+napabilirsiniz	ne yapabilirsiniz	multilexnorm_train
+napalım	ne yapalım	multilexnorm_train
+napcaz	ne yapacağız	manual:spoken
+napiiim	ne yapayım	multilexnorm_train
+napim	ne yapayım	manual:spoken
+napiyorsan	ne yapıyorsan	multilexnorm_train
+napsak	ne yapsak	multilexnorm_train
+naptik	ne yaptık	multilexnorm_train
+napıyon	ne yapıyorsun	manual:spoken
+napıyonuz	ne yapıyorsunuz	multilexnorm_train
+napıyorsun	ne yapıyorsun	manual:spoken
+nassı	nasıl	multilexnorm_train
+nasılsn	nasılsın	manual:chat
+naşşş	naş	multilexnorm_train
+nbr	ne haber	manual:chat
+nebçim	Ne biçim	multilexnorm_train
+nerde	nerede	multilexnorm_train
+nezamandir	ne zamandır	multilexnorm_train
+noldu	ne oldu	manual:spoken
+nolmuş	ne olmuş	multilexnorm_train
+noloooor	ne olur	multilexnorm_train
+nolur	ne olur	manual:spoken
+noluyooo	ne oluyor	multilexnorm_train
+nslsn	nasılsın	manual:chat
+odenmesini	ödemesini	multilexnorm_train
+offff	of	multilexnorm_train
+okadar	o kadar	multilexnorm_train
+okasar	o kadar	multilexnorm_train
+okuyamıyosun	okuyamıyorsun	multilexnorm_train
+olamazzz	Olamaz	multilexnorm_train
+olcak	olacak	multilexnorm_train
+olcax	olacak	multilexnorm_train
+oll	ol	multilexnorm_train
+olm	Oğlum	multilexnorm_train
+olmasada	olmasa da	multilexnorm_train
+olmiyim	olmayayım	multilexnorm_train
+olmαmız	olmamız	multilexnorm_train
+olsunn	olsun	multilexnorm_train
+olucak	olacak	multilexnorm_train
+olum	oğlum	multilexnorm_train
+olurdkdoflrxpdlv	olur dkdoflrxpdlv	multilexnorm_train
+oluuuuur	olur	multilexnorm_train
+oluyo	oluyor	manual:spoken
+onylamanzı	onaylamanızı	multilexnorm_train
+oooo	oo	multilexnorm_train
+orda	orada	manual:spoken
+ordan	oradan	manual:spoken
+ordayim	oradayım	multilexnorm_train
+osmanda	Osman da	multilexnorm_train
+otmuyuzya	ot muyuz ya	multilexnorm_train
+otobüsleride	otobüsleri de	multilexnorm_train
+oç	orospu çocuğu	multilexnorm_train
+oçlar	orospu çocukları	multilexnorm_train
+panzerimmmmmmmmmmmmm	panzerim	multilexnorm_train
+paraaaa	para	multilexnorm_train
+pery	perry	multilexnorm_train
+pesdiyorum	pes diyorum	multilexnorm_train
+phasism	Faşizm	multilexnorm_train
+piçç	piç	multilexnorm_train
+poldiii	Poldi	multilexnorm_train
+prman	orman	multilexnorm_train
+rasûlullah	resulullah	multilexnorm_train
+reisssss	reis	multilexnorm_train
+sadwce	sadece	multilexnorm_train
+sagolun	sağ olun	multilexnorm_train
+sahtekarlıkta	sahtekarlık da	multilexnorm_train
+salöa	salça	multilexnorm_train
+sanada	sana da	multilexnorm_train
+sanane	Sana ne	multilexnorm_train
+sanarlarr	sanarlar	multilexnorm_train
+sandindi	sandıydın	multilexnorm_train
+saniyodum	sanıyordum	multilexnorm_train
+satantist	satanist	multilexnorm_train
+sayenizdeee	sayenizde	multilexnorm_train
+sağol	sağ ol	multilexnorm_train
+sağolasın	sağ olasın	multilexnorm_train
+sekkiz	sekiz	multilexnorm_train
+selm	selam	manual:chat
+sende	sen de	multilexnorm_train
+senelrine	senelerine	multilexnorm_train
+seninde	senin de	multilexnorm_train
+senle	seninle	multilexnorm_train
+sevdi	sevgi	multilexnorm_train
+sevgililier	sevgililer	multilexnorm_train
+sevgílíyí	sevgiliyi	multilexnorm_train
+sevicem	seveceğim	multilexnorm_train
+sevipte	sevip de	multilexnorm_train
+sevisior	sevişiyor	multilexnorm_train
+sevmesemm	sevmesem	multilexnorm_train
+sevmiyom	sevmiyorum	manual:spoken
+sevmiyormuymus	sevmiyor muymuş	multilexnorm_train
+sikerimki	sikerim ki	multilexnorm_train
+sikim	sikeyim	multilexnorm_train
+siktimin	siktiğimin	multilexnorm_train
+simdide	şimdi de	multilexnorm_train
+simgesevgililr	Simge Sevgililer	multilexnorm_train
+sinirliyimm	sinirliyim	multilexnorm_train
+siriim	şirinim	multilexnorm_train
+siyircam	sıyıracağım	multilexnorm_train
+sizcede	sizce de	multilexnorm_train
+sizde	siz de	multilexnorm_train
+sizede	size de	multilexnorm_train
+slm	selam	manual:chat
+snn	senin	manual:chat
+sonrada	sonra da	multilexnorm_train
+sonunakadar	Sonuna kadar	multilexnorm_train
+soruyodu	soruyordu	multilexnorm_train
+sorvayvir	Survivor	multilexnorm_train
+sovuk	soğuk	multilexnorm_train
+soylecek	söyleyecek	multilexnorm_train
+soyluyom	söylüyorum	multilexnorm_train
+stadta	statta	multilexnorm_train
+suala	suale	multilexnorm_train
+suan	şu an	multilexnorm_train
+sunulacakmı	sunulacak mı	multilexnorm_train
+sínek	sinek	multilexnorm_train
+söyleeeeğ	söyle	multilexnorm_train
+süpriz	sürpriz	multilexnorm_train
+sürükleniyorki	sürükleniyor ki	multilexnorm_train
+sıkılmaaağğ	sıkılma	multilexnorm_train
+sırasıtarımda	sırası tarımda	multilexnorm_train
+sıyırıcam	sıyıracağım	multilexnorm_train
+t.c.	T.C.	manual:variant
+tamama	tamam	multilexnorm_train
+tamlarsinn	tamlarsın	multilexnorm_train
+tanesinide	tanesini de	multilexnorm_train
+tarm	tarım	multilexnorm_train
+tc	T.C.	manual:variant
+terkedin	terk edin	multilexnorm_train
+teyyy	tey	multilexnorm_train
+teşekkürederiz	teşekkür ederiz	multilexnorm_train
+tivit	tweet	multilexnorm_train
+tiviti	tweeti	multilexnorm_train
+tivitine	tweetine	multilexnorm_train
+tmm	tamam	manual:chat
+tnsbıkırız	tanışabiliriz	multilexnorm_train
+toleraaans	tolerans	multilexnorm_train
+toplayamıyoz	toplayamıyoruz	multilexnorm_train
+tr'ye	türkiye'ye	multilexnorm_train
+trübünlere	tribünlere	multilexnorm_train
+turppp	turp	multilexnorm_train
+tvit	tweet	multilexnorm_train
+tvite	tweete	multilexnorm_train
+tweetter	Twitter	multilexnorm_train
+tşk	teşekkürler	manual:chat
+tşkr	teşekkürler	manual:chat
+tşkrlr	teşekkürler	manual:chat
+ugrasiyodum	uğraşıyordum	multilexnorm_train
+ulaştirirmisiniz	ulaştırır mısınız	multilexnorm_train
+ulen	ulan	multilexnorm_train
+umrumda	umurumda	multilexnorm_train
+unutamıyacağı	unutamayacağı	multilexnorm_train
+utanmaaağ	utanma	multilexnorm_train
+uuuuuu	Uu	multilexnorm_train
+uyarmi	uyar mı	multilexnorm_train
+uzulmezdm	üzülmezdim	multilexnorm_train
+uçucam	uçacağım	multilexnorm_train
+uçuyoorr	uçuyor	multilexnorm_train
+uğraşcaz	uğraşacağız	multilexnorm_train
+valla	vallahi	manual:spoken
+vapursan	vapurdan	multilexnorm_train
+varmiiii	var mı	multilexnorm_train
+varolun	var olun	multilexnorm_train
+vaybe	vay be	multilexnorm_train
+vayy	vay	multilexnorm_train
+veriyorda	veriyor da	multilexnorm_train
+vermiyeceğim	vermeyeceğim	multilexnorm_train
+vermiyo	vermiyor	multilexnorm_train
+versikleri	verdikleri	multilexnorm_train
+vidoesunun	videosunun	multilexnorm_train
+virdim	verdim	multilexnorm_train
+websitesi	web sitesi	manual:variant
+yaa	ya	multilexnorm_train
+yaaa	ya	multilexnorm_train
+yaaaawf	ya	multilexnorm_train
+yaav	ya	multilexnorm_train
+yada	ya da	multilexnorm_train
+yakıyo	yakıyor	multilexnorm_train
+yalancıyı'da	yalancıyı da	multilexnorm_train
+yallaaah	yallah	multilexnorm_train
+yanii	yani	multilexnorm_train
+yanlız	yalnız	multilexnorm_train
+yanlızlık	yalnızlık	multilexnorm_train
+yanlıș	yanlış	multilexnorm_train
+yanmasıınn	yanmasın	multilexnorm_train
+yapcam	yapacağım	manual:spoken
+yapcez	yapacağız	multilexnorm_train
+yapicaz	yapacağız	multilexnorm_train
+yapiyo	yapıyor	multilexnorm_train
+yapticam	yaptıracağım	multilexnorm_train
+yaptida	yaptı da	multilexnorm_train
+yapıyo	yapıyor	manual:spoken
+yarrak	yarak	multilexnorm_train
+yarraklar	yaraklar	multilexnorm_train
+yarrraam	yarağım	multilexnorm_train
+yasiyo	yaşıyor	multilexnorm_train
+yav	Ya	multilexnorm_train
+yavsiyo	yavşıyor	multilexnorm_train
+yaw	ya	manual:spoken
+yazdircaz	yazdıracağız	multilexnorm_train
+yaziyim	yazayım	multilexnorm_train
+yazmaa	yazmaya	multilexnorm_train
+yeenim	yeğenim	multilexnorm_train
+yesede	yese de	multilexnorm_train
+yeyiştirmedi	yetiştirmedi	multilexnorm_train
+yiaa	ya	multilexnorm_train
+yicegimizi	yiyeceğimizi	multilexnorm_train
+yiyisemiyecekler	yiyişemeyecekler	multilexnorm_train
+yiyom	yiyorum	multilexnorm_train
+yokmu	yok mu	multilexnorm_train
+yooo	Yo	multilexnorm_train
+yoq	yok	multilexnorm_train
+youtebe	YouTube	multilexnorm_train
+yukleyevksınkz	yükleyeceksiniz	multilexnorm_train
+yükseliyagg	yükseliyor	multilexnorm_train
+zamaaaaaannnnnnnn	zaman	multilexnorm_train
+zamn	zaman	multilexnorm_train
+zirliom	zırlıyorum	multilexnorm_train
+zmn	zaman	multilexnorm_train
+ztn	zaten	multilexnorm_train
+zuhahaha	zuhaha	multilexnorm_train
+züpperr	süper	multilexnorm_train
+çalışicaz	çalışacağız	multilexnorm_train
+çoookk	çok	multilexnorm_train
+çoookkk	çok	multilexnorm_train
+çıkarıcam	çıkaracağım	multilexnorm_train
+çıkcak	çıkacak	multilexnorm_train
+çıkıcak	çıkacak	multilexnorm_train
+çıldırcam	çıldıracağım	multilexnorm_train
+öleceeğiimm	öleceğim	multilexnorm_train
+ölecuk	öleceğiz	multilexnorm_train
+üzülüüür	üzülür	multilexnorm_train
+ısıcem	işeyeceğim	multilexnorm_train
+şaaap	şap	multilexnorm_train
+şişmenij	şişmenin	multilexnorm_train
+şuppp	şup	multilexnorm_train
+şurda	şurada	manual:spoken
+şurupp	şurup	multilexnorm_train
+şuuuppp	şup	multilexnorm_train
+αcı	acı	multilexnorm_train
+αcılαr	acılar	multilexnorm_train
+чαşαmış	yaşamış	multilexnorm_train
+ѕüяєчα	Süreya	multilexnorm_train

lexicon/normalization_manual.tsv

@@ -0,0 +1,62 @@
+# Author-written normalization entries (not from an external resource). Keys are matched case-insensitively
+# on the word core (surrounding punctuation stripped). Categories: chat abbreviations, spoken/short forms of
+# frequent words, and spelling variants of the same term (equivalence classes, cf. course slides "Normalization").
+surface	normalized	source
+slm	selam	manual:chat
+selm	selam	manual:chat
+mrb	merhaba	manual:chat
+mrhb	merhaba	manual:chat
+naber	ne haber	manual:chat
+nbr	ne haber	manual:chat
+nasılsn	nasılsın	manual:chat
+nslsn	nasılsın	manual:chat
+tmm	tamam	manual:chat
+tşk	teşekkürler	manual:chat
+tşkr	teşekkürler	manual:chat
+tşkrlr	teşekkürler	manual:chat
+eyw	eyvallah	manual:chat
+kib	kendine iyi bak	manual:chat
+hg	hoş geldin	manual:chat
+hb	hoş bulduk	manual:chat
+grşz	görüşürüz	manual:chat
+grsrz	görüşürüz	manual:chat
+glb	galiba	manual:chat
+bnm	benim	manual:chat
+snn	senin	manual:chat
+cnm	canım	manual:chat
+knk	kanka	manual:chat
+bi	bir	manual:spoken
+bişey	bir şey	manual:spoken
+bişi	bir şey	manual:spoken
+birşey	bir şey	manual:spelling
+herşey	her şey	manual:spelling
+hiçbirşey	hiçbir şey	manual:spelling
+burda	burada	manual:spoken
+şurda	şurada	manual:spoken
+orda	orada	manual:spoken
+burdan	buradan	manual:spoken
+ordan	oradan	manual:spoken
+nolur	ne olur	manual:spoken
+noldu	ne oldu	manual:spoken
+napıyon	ne yapıyorsun	manual:spoken
+napıyorsun	ne yapıyorsun	manual:spoken
+napcaz	ne yapacağız	manual:spoken
+napim	ne yapayım	manual:spoken
+valla	vallahi	manual:spoken
+yaw	ya	manual:spoken
+gelcem	geleceğim	manual:spoken
+yapcam	yapacağım	manual:spoken
+diyo	diyor	manual:spoken
+geliyo	geliyor	manual:spoken
+yapıyo	yapıyor	manual:spoken
+oluyo	oluyor	manual:spoken
+bilmiyom	bilmiyorum	manual:spoken
+istiyom	istiyorum	manual:spoken
+sevmiyom	sevmiyorum	manual:spoken
+a.b.d.	ABD	manual:variant
+t.c.	T.C.	manual:variant
+tc	T.C.	manual:variant
+eposta	e-posta	manual:variant
+e-mail	e-posta	manual:variant
+email	e-posta	manual:variant
+websitesi	web sitesi	manual:variant

results/normalization.json

@@ -0,0 +1,325 @@
+{
+  "settings": {
+    "mixed_ratio": 20.0,
+    "clean_ratio": 1000.0,
+    "proper_ratio": 20.0,
+    "noisy_oov_rate": 0.1,
+    "lexicon_ratio": 100.0
+  },
+  "lexicon_entries": 550,
+  "dev": {
+    "boun_none": {
+      "tokens": 12023,
+      "accuracy": 0.9925975214172835,
+      "baseline_leave_as_is": 1.0,
+      "err": 0.0,
+      "accuracy_case_insensitive": 0.9982533477501455,
+      "changed_precision": 0.0,
+      "changed_recall": 0.0,
+      "changed_f1": 0.0
+    },
+    "boun_ascii": {
+      "tokens": 12023,
+      "accuracy": 0.9800382600016635,
+      "baseline_leave_as_is": 0.6262995924478084,
+      "err": 0.9465835744491431,
+      "accuracy_case_insensitive": 0.9871912168344007,
+      "changed_precision": 0.9586557594516913,
+      "changed_recall": 0.9650567549521478,
+      "changed_f1": 0.9618456078083407
+    },
+    "boun_upper": {
+      "tokens": 12023,
+      "accuracy": 0.95284038925393,
+      "baseline_leave_as_is": 0.18872161690093986,
+      "err": 0.9418700020504408,
+      "accuracy_case_insensitive": 0.9975047825002079,
+      "changed_precision": 0.9442458899213724,
+      "changed_recall": 0.9480213245847857,
+      "changed_f1": 0.9461298408963013
+    },
+    "social_cv5": {
+      "tokens": 6443,
+      "accuracy": 0.8252366909824616,
+      "baseline_leave_as_is": 0.6326245537792954,
+      "err": 0.5242923531896915,
+      "accuracy_case_insensitive": 0.8744373738941487,
+      "changed_precision": 0.8176139912554653,
+      "changed_recall": 0.5530207013096747,
+      "changed_f1": 0.6597782258064516
+    }
+  },
+  "test": {
+    "boun_none": {
+      "tokens": 12015,
+      "accuracy": 0.9955888472742406,
+      "baseline_leave_as_is": 1.0,
+      "err": 0.0,
+      "accuracy_case_insensitive": 0.9985851019558885,
+      "changed_precision": 0.0,
+      "changed_recall": 0.0,
+      "changed_f1": 0.0,
+      "by_genre": {
+        "bio": {
+          "tokens": 2180,
+          "accuracy": 0.9990825688073395,
+          "baseline_leave_as_is": 1.0,
+          "err": 0.0
+        },
+        "ess": {
+          "tokens": 2681,
+          "accuracy": 0.9951510630361805,
+          "baseline_leave_as_is": 1.0,
+          "err": 0.0
+        },
+        "ins": {
+          "tokens": 1984,
+          "accuracy": 0.9929435483870968,
+          "baseline_leave_as_is": 1.0,
+          "err": 0.0
+        },
+        "news": {
+          "tokens": 2971,
+          "accuracy": 0.994614607876136,
+          "baseline_leave_as_is": 1.0,
+          "err": 0.0
+        },
+        "pop": {
+          "tokens": 2199,
+          "accuracy": 0.9963619827194179,
+          "baseline_leave_as_is": 1.0,
+          "err": 0.0
+        }
+      }
+    },
+    "boun_ascii": {
+      "tokens": 12015,
+      "accuracy": 0.9826883062838119,
+      "baseline_leave_as_is": 0.6201414898044112,
+      "err": 0.9544259421560035,
+      "accuracy_case_insensitive": 0.9867665418227216,
+      "changed_precision": 0.9698834908771159,
+      "changed_recall": 0.9666958808063103,
+      "changed_f1": 0.9682870624382749,
+      "by_genre": {
+        "bio": {
+          "tokens": 2180,
+          "accuracy": 0.9834862385321101,
+          "baseline_leave_as_is": 0.6137614678899083,
+          "err": 0.9572446555819477
+        },
+        "ess": {
+          "tokens": 2681,
+          "accuracy": 0.9809772472957852,
+          "baseline_leave_as_is": 0.628496829541216,
+          "err": 0.9487951807228916
+        },
+        "ins": {
+          "tokens": 1984,
+          "accuracy": 0.9798387096774194,
+          "baseline_leave_as_is": 0.608366935483871,
+          "err": 0.9485199485199485
+        },
+        "news": {
+          "tokens": 2971,
+          "accuracy": 0.9868731066980815,
+          "baseline_leave_as_is": 0.6109054190508246,
+          "err": 0.9662629757785467
+        },
+        "pop": {
+          "tokens": 2199,
+          "accuracy": 0.9809004092769441,
+          "baseline_leave_as_is": 0.639381537062301,
+          "err": 0.9470365699873896
+        }
+      }
+    },
+    "boun_upper": {
+      "tokens": 12015,
+      "accuracy": 0.9564710778193924,
+      "baseline_leave_as_is": 0.18593424885559717,
+      "err": 0.9465289847663838,
+      "accuracy_case_insensitive": 0.9970869746150645,
+      "changed_precision": 0.9498006338820162,
+      "changed_recall": 0.9498006338820162,
+      "changed_f1": 0.9498006338820162,
+      "by_genre": {
+        "bio": {
+          "tokens": 2180,
+          "accuracy": 0.9591743119266055,
+          "baseline_leave_as_is": 0.18440366972477065,
+          "err": 0.9499437570303711
+        },
+        "ess": {
+          "tokens": 2681,
+          "accuracy": 0.9727713539723983,
+          "baseline_leave_as_is": 0.18798955613577023,
+          "err": 0.9664676159853008
+        },
+        "ins": {
+          "tokens": 1984,
+          "accuracy": 0.9627016129032258,
+          "baseline_leave_as_is": 0.19102822580645162,
+          "err": 0.9538940809968848
+        },
+        "news": {
+          "tokens": 2971,
+          "accuracy": 0.9279703803433188,
+          "baseline_leave_as_is": 0.17502524402558062,
+          "err": 0.9126886984904121
+        },
+        "pop": {
+          "tokens": 2199,
+          "accuracy": 0.9668030923146885,
+          "baseline_leave_as_is": 0.19508867667121418,
+          "err": 0.9587570621468926
+        }
+      }
+    },
+    "social": {
+      "tokens": 1639,
+      "accuracy": 0.8047589993898718,
+      "baseline_leave_as_is": 0.6400244051250763,
+      "err": 0.4576271186440678,
+      "accuracy_case_insensitive": 0.8529591214154972,
+      "changed_precision": 0.7774725274725275,
+      "changed_recall": 0.47966101694915253,
+      "changed_f1": 0.5932914046121593,
+      "by_category": {
+        "diacritics(+case)": {
+          "needed": 196,
+          "accuracy": 0.7908163265306123
+        },
+        "lexical": {
+          "needed": 168,
+          "accuracy": 0.18452380952380953
+        },
+        "case": {
+          "needed": 137,
+          "accuracy": 0.4890510948905109
+        },
+        "split": {
+          "needed": 46,
+          "accuracy": 0.3695652173913043
+        },
+        "merge": {
+          "needed": 22,
+          "accuracy": 0.0
+        },
+        "apostrophe": {
+          "needed": 21,
+          "accuracy": 0.6190476190476191
+        }
+      },
+      "top_errors": [
+        "inşaALLAH -> inşaallah (gold inşallah)",
+        "gardaşım -> gardaşım (gold kardeşim)",
+        "koç -> koç (gold Koç)",
+        "favlamis -> favlamis (gold favlamış)",
+        "Rabbim -> Rabbim (gold rabbim)",
+        "e -> e (gold )",
+        "pesdiyorum -> pes diyorum (gold pesdiyorum)",
+        "kullanıcı -> kullanıcı (gold Kullanıcı)",
+        "bekarim -> bekarim (gold bekarım)",
+        "k -> k (gold K)",
+        "Akşamlar -> Akşamlar (gold akşamlar)",
+        "m -> m (gold )",
+        "günü -> günü (gold Günü)",
+        "Doviz -> Döviz (gold döviz)",
+        "Heee -> He (gold Heee)",
+        "gardaşşş -> gardaş (gold kardeş)",
+        "Gsstorede -> Gsstorede (gold GSStore'da)",
+        "staddan -> staddan (gold stattan)",
+        "fotgraf -> fotgraf (gold fotoğraf)",
+        "tektaşda -> tektaşda (gold tek taş da)",
+        "hadi -> Haydi (gold Hadi)",
+        "ROTTİNG -> rotting (gold Rotting)",
+        "CHRİST -> christ (gold Christ)",
+        "ODER -> oder (gold öder)",
+        "twitleri -> twitleri (gold tweetleri)",
+        "Gt -> Gt (gold GT)",
+        "senn -> senn (gold senin)",
+        "yapamym -> yapamym (gold yapamıyorum)",
+        "Yurdisindaki -> Yurdışındaki (gold Yurtdışındaki)",
+        "inş -> inşallah (gold İnşallah)",
+        "gelceksin -> gelceksin (gold geleceksin)",
+        "amg -> AMG (gold amına koyayım)",
+        "de -> de (gold değişecek)",
+        "değişçek -> değişçek (gold değişecek)",
+        "subart -> subart (gold Şubat)",
+        "sevgililer -> sevgililer (gold Sevgililer)",
+        "gununuz -> gününüz (gold Günü'nüz)",
+        "Türkiyem -> Türkiyem (gold Türkiye'm)",
+        "Kalkmıycam -> Kalkmıycam (gold kalkmayacağım)",
+        "banane -> banane (gold bana ne)"
+      ]
+    },
+    "social_no_lexicon": {
+      "tokens": 1639,
+      "accuracy": 0.7925564368517388,
+      "baseline_leave_as_is": 0.6400244051250763,
+      "err": 0.423728813559322,
+      "accuracy_case_insensitive": 0.8389261744966443,
+      "changed_precision": 0.7738095238095238,
+      "changed_recall": 0.4406779661016949,
+      "changed_f1": 0.5615550755939525
+    }
+  },
+  "ablation_dev": {
+    "(full system)": {
+      "boun_ascii": 0.9800382600016635,
+      "boun_upper": 0.95284038925393,
+      "social_cv5": 0.8252366909824616
+    },
+    "lexicon": {
+      "boun_ascii": 0.9810363470015803,
+      "boun_upper": 0.9529235631705897,
+      "social_cv5": 0.8049045475710073
+    },
+    "repeat": {
+      "boun_ascii": 0.9800382600016635,
+      "boun_upper": 0.95284038925393,
+      "social_cv5": 0.8170107092969113
+    },
+    "deascii": {
+      "boun_ascii": 0.6258837228645097,
+      "boun_upper": 0.95284038925393,
+      "social_cv5": 0.7015365512959801
+    },
+    "context": {
+      "boun_ascii": 0.9789569990850869,
+      "boun_upper": 0.95284038925393,
+      "social_cv5": 0.8247710693776191
+    },
+    "charlm": {
+      "boun_ascii": 0.9555851285037013,
+      "boun_upper": 0.95284038925393,
+      "social_cv5": 0.8154586372807698
+    },
+    "colloquial": {
+      "boun_ascii": 0.9800382600016635,
+      "boun_upper": 0.95284038925393,
+      "social_cv5": 0.8230637901598634
+    },
+    "clitic": {
+      "boun_ascii": 0.9803709556683025,
+      "boun_upper": 0.95284038925393,
+      "social_cv5": 0.822598168555021
+    },
+    "proper": {
+      "boun_ascii": 0.9832820427513932,
+      "boun_upper": 0.9261415620061548,
+      "social_cv5": 0.8153034300791556
+    },
+    "case": {
+      "boun_ascii": 0.9722199118356484,
+      "boun_upper": 0.18872161690093986,
+      "social_cv5": 0.7833307465466398
+    },
+    "question": {
+      "boun_ascii": 0.9794560425850454,
+      "boun_upper": 0.95284038925393,
+      "social_cv5": 0.8243054477727767
+    }
+  }
+}

results/normalization_report.md

@@ -0,0 +1,100 @@
+# Normalization results
+
+Settings (tuned on dev): `{'mixed_ratio': 20.0, 'clean_ratio': 1000.0, 'proper_ratio': 20.0, 'noisy_oov_rate': 0.1, 'lexicon_ratio': 100.0}`; lexicon entries: 550
+
+## DEV
+
+| test case | tokens | accuracy | baseline_leave_as_is | err | accuracy_case_insensitive | changed_precision | changed_recall | changed_f1 |
+|---|---|---|---|---|---|---|---|---|
+| boun_none | 12023 | 0.9926 | 1.0000 | 0.0000 | 0.9983 | 0.0000 | 0.0000 | 0.0000 |
+| boun_ascii | 12023 | 0.9800 | 0.6263 | 0.9466 | 0.9872 | 0.9587 | 0.9651 | 0.9618 |
+| boun_upper | 12023 | 0.9528 | 0.1887 | 0.9419 | 0.9975 | 0.9442 | 0.9480 | 0.9461 |
+| social_cv5 | 6443 | 0.8252 | 0.6326 | 0.5243 | 0.8744 | 0.8176 | 0.5530 | 0.6598 |
+
+## TEST
+
+| test case | tokens | accuracy | baseline_leave_as_is | err | accuracy_case_insensitive | changed_precision | changed_recall | changed_f1 |
+|---|---|---|---|---|---|---|---|---|
+| boun_none | 12015 | 0.9956 | 1.0000 | 0.0000 | 0.9986 | 0.0000 | 0.0000 | 0.0000 |
+| boun_ascii | 12015 | 0.9827 | 0.6201 | 0.9544 | 0.9868 | 0.9699 | 0.9667 | 0.9683 |
+| boun_upper | 12015 | 0.9565 | 0.1859 | 0.9465 | 0.9971 | 0.9498 | 0.9498 | 0.9498 |
+| social | 1639 | 0.8048 | 0.6400 | 0.4576 | 0.8530 | 0.7775 | 0.4797 | 0.5933 |
+| social_no_lexicon | 1639 | 0.7926 | 0.6400 | 0.4237 | 0.8389 | 0.7738 | 0.4407 | 0.5616 |
+
+## Test accuracy per BOUN genre
+
+| test case | bio | ess | ins | news | pop |
+|---|---|---|---|---|---|
+| boun_none | 0.9991 | 0.9952 | 0.9929 | 0.9946 | 0.9964 |
+| boun_ascii | 0.9835 | 0.9810 | 0.9798 | 0.9869 | 0.9809 |
+| boun_upper | 0.9592 | 0.9728 | 0.9627 | 0.9280 | 0.9668 |
+
+## Social test: accuracy on tokens needing a change, by category
+
+| category | needed | accuracy |
+|---|---|---|
+| diacritics(+case) | 196 | 0.7908 |
+| lexical | 168 | 0.1845 |
+| case | 137 | 0.4891 |
+| split | 46 | 0.3696 |
+| merge | 22 | 0.0000 |
+| apostrophe | 21 | 0.6190 |
+
+## Ablation (dev accuracy, one stage switched off)
+
+| stage off | boun_ascii | boun_upper | social_cv5 |
+|---|---|---|---|
+| (full system) | 0.9800 | 0.9528 | 0.8252 |
+| lexicon | 0.9810 | 0.9529 | 0.8049 |
+| repeat | 0.9800 | 0.9528 | 0.8170 |
+| deascii | 0.6259 | 0.9528 | 0.7015 |
+| context | 0.9790 | 0.9528 | 0.8248 |
+| charlm | 0.9556 | 0.9528 | 0.8155 |
+| colloquial | 0.9800 | 0.9528 | 0.8231 |
+| clitic | 0.9804 | 0.9528 | 0.8226 |
+| proper | 0.9833 | 0.9261 | 0.8153 |
+| case | 0.9722 | 0.1887 | 0.7833 |
+| question | 0.9795 | 0.9528 | 0.8243 |
+
+## Most frequent social test errors
+
+- inşaALLAH -> inşaallah (gold inşallah)
+- gardaşım -> gardaşım (gold kardeşim)
+- koç -> koç (gold Koç)
+- favlamis -> favlamis (gold favlamış)
+- Rabbim -> Rabbim (gold rabbim)
+- e -> e (gold )
+- pesdiyorum -> pes diyorum (gold pesdiyorum)
+- kullanıcı -> kullanıcı (gold Kullanıcı)
+- bekarim -> bekarim (gold bekarım)
+- k -> k (gold K)
+- Akşamlar -> Akşamlar (gold akşamlar)
+- m -> m (gold )
+- günü -> günü (gold Günü)
+- Doviz -> Döviz (gold döviz)
+- Heee -> He (gold Heee)
+- gardaşşş -> gardaş (gold kardeş)
+- Gsstorede -> Gsstorede (gold GSStore'da)
+- staddan -> staddan (gold stattan)
+- fotgraf -> fotgraf (gold fotoğraf)
+- tektaşda -> tektaşda (gold tek taş da)
+- hadi -> Haydi (gold Hadi)
+- ROTTİNG -> rotting (gold Rotting)
+- CHRİST -> christ (gold Christ)
+- ODER -> oder (gold öder)
+- twitleri -> twitleri (gold tweetleri)
+- Gt -> Gt (gold GT)
+- senn -> senn (gold senin)
+- yapamym -> yapamym (gold yapamıyorum)
+- Yurdisindaki -> Yurdışındaki (gold Yurtdışındaki)
+- inş -> inşallah (gold İnşallah)
+- gelceksin -> gelceksin (gold geleceksin)
+- amg -> AMG (gold amına koyayım)
+- de -> de (gold değişecek)
+- değişçek -> değişçek (gold değişecek)
+- subart -> subart (gold Şubat)
+- sevgililer -> sevgililer (gold Sevgililer)
+- gununuz -> gününüz (gold Günü'nüz)
+- Türkiyem -> Türkiyem (gold Türkiye'm)
+- Kalkmıycam -> Kalkmıycam (gold kalkmayacağım)
+- banane -> banane (gold bana ne)

wikipedia/wiki_context.tsv

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:51c395d8f5a99c2a4592e377773cbece82e6280bd5002b8abc9e1fd37fe2d5a0
+size 11408651