Normalization results
Settings (tuned on dev): {'mixed_ratio': 20.0, 'clean_ratio': 1000.0, 'proper_ratio': 20.0, 'noisy_oov_rate': 0.1, 'lexicon_ratio': 100.0}; lexicon entries: 550
DEV
| test case | tokens | accuracy | baseline_leave_as_is | err | accuracy_case_insensitive | changed_precision | changed_recall | changed_f1 |
|---|---|---|---|---|---|---|---|---|
| boun_none | 12023 | 0.9926 | 1.0000 | 0.0000 | 0.9983 | 0.0000 | 0.0000 | 0.0000 |
| boun_ascii | 12023 | 0.9800 | 0.6263 | 0.9466 | 0.9872 | 0.9587 | 0.9651 | 0.9618 |
| boun_upper | 12023 | 0.9528 | 0.1887 | 0.9419 | 0.9975 | 0.9442 | 0.9480 | 0.9461 |
| social_cv5 | 6443 | 0.8252 | 0.6326 | 0.5243 | 0.8744 | 0.8176 | 0.5530 | 0.6598 |
TEST
| test case | tokens | accuracy | baseline_leave_as_is | err | accuracy_case_insensitive | changed_precision | changed_recall | changed_f1 |
|---|---|---|---|---|---|---|---|---|
| boun_none | 12015 | 0.9956 | 1.0000 | 0.0000 | 0.9986 | 0.0000 | 0.0000 | 0.0000 |
| boun_ascii | 12015 | 0.9827 | 0.6201 | 0.9544 | 0.9868 | 0.9699 | 0.9667 | 0.9683 |
| boun_upper | 12015 | 0.9565 | 0.1859 | 0.9465 | 0.9971 | 0.9498 | 0.9498 | 0.9498 |
| social | 1639 | 0.8048 | 0.6400 | 0.4576 | 0.8530 | 0.7775 | 0.4797 | 0.5933 |
| social_no_lexicon | 1639 | 0.7926 | 0.6400 | 0.4237 | 0.8389 | 0.7738 | 0.4407 | 0.5616 |
Test accuracy per BOUN genre
| test case | bio | ess | ins | news | pop |
|---|---|---|---|---|---|
| boun_none | 0.9991 | 0.9952 | 0.9929 | 0.9946 | 0.9964 |
| boun_ascii | 0.9835 | 0.9810 | 0.9798 | 0.9869 | 0.9809 |
| boun_upper | 0.9592 | 0.9728 | 0.9627 | 0.9280 | 0.9668 |
Social test: accuracy on tokens needing a change, by category
| category | needed | accuracy |
|---|---|---|
| diacritics(+case) | 196 | 0.7908 |
| lexical | 168 | 0.1845 |
| case | 137 | 0.4891 |
| split | 46 | 0.3696 |
| merge | 22 | 0.0000 |
| apostrophe | 21 | 0.6190 |
Ablation (dev accuracy, one stage switched off)
| stage off | boun_ascii | boun_upper | social_cv5 |
|---|---|---|---|
| (full system) | 0.9800 | 0.9528 | 0.8252 |
| lexicon | 0.9810 | 0.9529 | 0.8049 |
| repeat | 0.9800 | 0.9528 | 0.8170 |
| deascii | 0.6259 | 0.9528 | 0.7015 |
| context | 0.9790 | 0.9528 | 0.8248 |
| charlm | 0.9556 | 0.9528 | 0.8155 |
| colloquial | 0.9800 | 0.9528 | 0.8231 |
| clitic | 0.9804 | 0.9528 | 0.8226 |
| proper | 0.9833 | 0.9261 | 0.8153 |
| case | 0.9722 | 0.1887 | 0.7833 |
| question | 0.9795 | 0.9528 | 0.8243 |
Most frequent social test errors
- inşaALLAH -> inşaallah (gold inşallah)
- gardaşım -> gardaşım (gold kardeşim)
- koç -> koç (gold Koç)
- favlamis -> favlamis (gold favlamış)
- Rabbim -> Rabbim (gold rabbim)
- e -> e (gold )
- pesdiyorum -> pes diyorum (gold pesdiyorum)
- kullanıcı -> kullanıcı (gold Kullanıcı)
- bekarim -> bekarim (gold bekarım)
- k -> k (gold K)
- Akşamlar -> Akşamlar (gold akşamlar)
- m -> m (gold )
- günü -> günü (gold Günü)
- Doviz -> Döviz (gold döviz)
- Heee -> He (gold Heee)
- gardaşşş -> gardaş (gold kardeş)
- Gsstorede -> Gsstorede (gold GSStore'da)
- staddan -> staddan (gold stattan)
- fotgraf -> fotgraf (gold fotoğraf)
- tektaşda -> tektaşda (gold tek taş da)
- hadi -> Haydi (gold Hadi)
- ROTTİNG -> rotting (gold Rotting)
- CHRİST -> christ (gold Christ)
- ODER -> oder (gold öder)
- twitleri -> twitleri (gold tweetleri)
- Gt -> Gt (gold GT)
- senn -> senn (gold senin)
- yapamym -> yapamym (gold yapamıyorum)
- Yurdisindaki -> Yurdışındaki (gold Yurtdışındaki)
- inş -> inşallah (gold İnşallah)
- gelceksin -> gelceksin (gold geleceksin)
- amg -> AMG (gold amına koyayım)
- de -> de (gold değişecek)
- değişçek -> değişçek (gold değişecek)
- subart -> subart (gold Şubat)
- sevgililer -> sevgililer (gold Sevgililer)
- gununuz -> gününüz (gold Günü'nüz)
- Türkiyem -> Türkiyem (gold Türkiye'm)
- Kalkmıycam -> Kalkmıycam (gold kalkmayacağım)
- banane -> banane (gold bana ne)