---
license: mit
language:
- id
tags:
- text-normalization
- slang
- indonesian
- lexical-normalization
- preprocessing
pretty_name: Kamus Normalisasi Komentar Indonesia
size_categories:
- 10K<n<100K
---

# Kamus Normalisasi Komentar Indonesia

Normalizer + kamus untuk komentar media sosial berbahasa Indonesia: slang, singkatan, typo,
huruf dipanjangkan, leetspeak, sensor kata kasar, bahasa daerah, hashtag gabung, imbuhan informal.
Satu file Python tanpa dependensi + satu file JSON.

```
gw gk bs dtg krn ujan bangettt, anak2 di skolah ngerasain #liburpanjang wkwkwk
-> saya tidak bisa datang karena hujan banget, anak-anak di sekolah merasakan libur panjang wkwk
```

## Pakai

```python
from huggingface_hub import snapshot_download
import sys

path = snapshot_download("ivanwilliaml/indo-text-normalizer", repo_type="dataset")
sys.path.insert(0, path)
from normalisasi import Normalizer

nz = Normalizer()                         # muat sekali (~1 detik), lalu pakai berulang
nz("gw gk bs dtg krn ujan")               # 'saya tidak bisa datang karena hujan'
nz.explain("ngerasain")                   # ('merasakan', 'kamus:...') -> kenapa diubah
```

Pandas, cepat: normalisasi hanya teks unik lalu petakan balik (komentar sering berulang).

```python
uniq = df["text"].dropna().unique()
hasil = dict(zip(uniq, map(nz, uniq)))
df["text_norm"] = df["text"].map(hasil)
```

Opsi:

```python
from normalisasi import ALL_CATEGORIES
Normalizer(categories=ALL_CATEGORIES)          # + code-mix Inggris -> Indonesia, emoji/emotikon -> kata
Normalizer(min_confidence="high")              # hanya entri paling yakin (konservatif)
Normalizer(rules=False)                        # kamus saja, tanpa aturan (paling cepat, cakupan lebih kecil)
Normalizer(extra={"otw": "dalam perjalanan"})       # tambah mapping sendiri
```

Kategori default: negasi, singkatan, ejaan, informal, imbuhan, kasar, daerah, interjeksi, auto, eksternal.
`kasar` memetakan variasi/sensor ke bentuk kanonik (`a*njing`, `4nj1ng` -> `anjing`), tidak diperhalus.

Hanya butuh dict `{varian: kanonik}`? Pakai `kamus_flat.json` (konfigurasi default, tanpa aturan runtime).

## Isi

| File | Isi |
|---|---|
| `normalisasi.py` | kelas `Normalizer` (aturan + loader), tanpa dependensi luar |
| `kamus_normalisasi.json` | ~37,5 rb entri + kosakata baku, daftar kata, proteksi |
| `kamus_flat.json` | ~37,3 rb pasangan varian -> kanonik (default) |
| `test_normalisasi.py` | tes regresi (`python test_normalisasi.py`) |

Dibangun dari 1,36 juta komentar (TikTok, YouTube, Instagram, X, Reddit, ulasan aplikasi/e-commerce).
Lapisan: kurasi manual + koreksi audit, entri hasil aturan (elongasi, reduplikasi, segmentasi hashtag,
sisip vokal, klitik, imbuhan -in/nge-, ke->ter-, negasi gabung, leet, sensor), dan entri IndoCollex/STIF.

Setiap perubahan diaudit maknanya dengan word2vec korpus (kata asal dan hasil harus muncul di konteks mirip,
tidak ada kandidat lain yang lebih cocok) dan daftar kata baku; kata sah yang mirip slang
(`ulah`, `abdi`, `keluar`, `mangga`, `kartunya`) sengaja tidak diubah, singkatan ambigu dibiarkan.

Hasil: token slang tersisa 14,0% -> 0,5%; STIF test WER 0,415 -> 0,377 (versi lengkap).
Throughput ~6 rb teks/detik (1 core).

## Batasan

- Normalisasi kata per kata, tanpa konteks kalimat: singkatan yang ambigu sengaja tidak disentuh.
- Untuk model transformer, normalisasi bisa membantu atau merugikan; uji sebagai saklar di validasi.
- Versi publik ini tidak memuat entri yang hanya berasal dari kamus slang pihak ketiga yang lisensinya
  tidak jelas atau non-komersial.

## Sumber & lisensi

Kode dan kamus: MIT. Memakai / diturunkan dari:
[IndoCollex](https://github.com/haryoa/indo-collex) (MIT),
[STIF](https://github.com/haryoa/stif-indonesia) (MIT),
[indonesian-wordlist](https://github.com/geovedi/indonesian-wordlist) (public domain).