| --- |
| license: mit |
| language: |
| - id |
| tags: |
| - text-normalization |
| - slang |
| - indonesian |
| - lexical-normalization |
| - preprocessing |
| pretty_name: Kamus Normalisasi Komentar Indonesia |
| size_categories: |
| - 10K<n<100K |
| --- |
| |
| # Kamus Normalisasi Komentar Indonesia |
|
|
| Normalizer + kamus untuk komentar media sosial berbahasa Indonesia: slang, singkatan, typo, |
| huruf dipanjangkan, leetspeak, sensor kata kasar, bahasa daerah, hashtag gabung, imbuhan informal. |
| Satu file Python tanpa dependensi + satu file JSON. |
|
|
| ``` |
| gw gk bs dtg krn ujan bangettt, anak2 di skolah ngerasain #liburpanjang wkwkwk |
| -> saya tidak bisa datang karena hujan banget, anak-anak di sekolah merasakan libur panjang wkwk |
| ``` |
|
|
| ## Pakai |
|
|
| ```python |
| from huggingface_hub import snapshot_download |
| import sys |
| |
| path = snapshot_download("ivanwilliaml/indo-text-normalizer", repo_type="dataset") |
| sys.path.insert(0, path) |
| from normalisasi import Normalizer |
| |
| nz = Normalizer() # muat sekali (~1 detik), lalu pakai berulang |
| nz("gw gk bs dtg krn ujan") # 'saya tidak bisa datang karena hujan' |
| nz.explain("ngerasain") # ('merasakan', 'kamus:...') -> kenapa diubah |
| ``` |
|
|
| Pandas, cepat: normalisasi hanya teks unik lalu petakan balik (komentar sering berulang). |
|
|
| ```python |
| uniq = df["text"].dropna().unique() |
| hasil = dict(zip(uniq, map(nz, uniq))) |
| df["text_norm"] = df["text"].map(hasil) |
| ``` |
|
|
| Opsi: |
|
|
| ```python |
| from normalisasi import ALL_CATEGORIES |
| Normalizer(categories=ALL_CATEGORIES) # + code-mix Inggris -> Indonesia, emoji/emotikon -> kata |
| Normalizer(min_confidence="high") # hanya entri paling yakin (konservatif) |
| Normalizer(rules=False) # kamus saja, tanpa aturan (paling cepat, cakupan lebih kecil) |
| Normalizer(extra={"otw": "dalam perjalanan"}) # tambah mapping sendiri |
| ``` |
|
|
| Kategori default: negasi, singkatan, ejaan, informal, imbuhan, kasar, daerah, interjeksi, auto, eksternal. |
| `kasar` memetakan variasi/sensor ke bentuk kanonik (`a*njing`, `4nj1ng` -> `anjing`), tidak diperhalus. |
|
|
| Hanya butuh dict `{varian: kanonik}`? Pakai `kamus_flat.json` (konfigurasi default, tanpa aturan runtime). |
|
|
| ## Isi |
|
|
| | File | Isi | |
| |---|---| |
| | `normalisasi.py` | kelas `Normalizer` (aturan + loader), tanpa dependensi luar | |
| | `kamus_normalisasi.json` | ~37,5 rb entri + kosakata baku, daftar kata, proteksi | |
| | `kamus_flat.json` | ~37,3 rb pasangan varian -> kanonik (default) | |
| | `test_normalisasi.py` | tes regresi (`python test_normalisasi.py`) | |
|
|
| Dibangun dari 1,36 juta komentar (TikTok, YouTube, Instagram, X, Reddit, ulasan aplikasi/e-commerce). |
| Lapisan: kurasi manual + koreksi audit, entri hasil aturan (elongasi, reduplikasi, segmentasi hashtag, |
| sisip vokal, klitik, imbuhan -in/nge-, ke->ter-, negasi gabung, leet, sensor), dan entri IndoCollex/STIF. |
|
|
| Setiap perubahan diaudit maknanya dengan word2vec korpus (kata asal dan hasil harus muncul di konteks mirip, |
| tidak ada kandidat lain yang lebih cocok) dan daftar kata baku; kata sah yang mirip slang |
| (`ulah`, `abdi`, `keluar`, `mangga`, `kartunya`) sengaja tidak diubah, singkatan ambigu dibiarkan. |
|
|
| Hasil: token slang tersisa 14,0% -> 0,5%; STIF test WER 0,415 -> 0,377 (versi lengkap). |
| Throughput ~6 rb teks/detik (1 core). |
|
|
| ## Batasan |
|
|
| - Normalisasi kata per kata, tanpa konteks kalimat: singkatan yang ambigu sengaja tidak disentuh. |
| - Untuk model transformer, normalisasi bisa membantu atau merugikan; uji sebagai saklar di validasi. |
| - Versi publik ini tidak memuat entri yang hanya berasal dari kamus slang pihak ketiga yang lisensinya |
| tidak jelas atau non-komersial. |
|
|
| ## Sumber & lisensi |
|
|
| Kode dan kamus: MIT. Memakai / diturunkan dari: |
| [IndoCollex](https://github.com/haryoa/indo-collex) (MIT), |
| [STIF](https://github.com/haryoa/stif-indonesia) (MIT), |
| [indonesian-wordlist](https://github.com/geovedi/indonesian-wordlist) (public domain). |
|
|
