Datasets:

ivanwilliaml
/

indo-text-normalizer

license: mit
language:
  - id
tags:
  - text-normalization
  - slang
  - indonesian
  - lexical-normalization
  - preprocessing
pretty_name: Kamus Normalisasi Komentar Indonesia
size_categories:
  - 10K<n<100K

Kamus Normalisasi Komentar Indonesia

Normalizer + kamus untuk komentar media sosial berbahasa Indonesia: slang, singkatan, typo, huruf dipanjangkan, leetspeak, sensor kata kasar, bahasa daerah, hashtag gabung, imbuhan informal. Satu file Python tanpa dependensi + satu file JSON.

gw gk bs dtg krn ujan bangettt, anak2 di skolah ngerasain #liburpanjang wkwkwk
-> saya tidak bisa datang karena hujan banget, anak-anak di sekolah merasakan libur panjang wkwk

Pakai

from huggingface_hub import snapshot_download
import sys

path = snapshot_download("ivanwilliaml/indo-text-normalizer", repo_type="dataset")
sys.path.insert(0, path)
from normalisasi import Normalizer

nz = Normalizer()                         # muat sekali (~1 detik), lalu pakai berulang
nz("gw gk bs dtg krn ujan")               # 'saya tidak bisa datang karena hujan'
nz.explain("ngerasain")                   # ('merasakan', 'kamus:...') -> kenapa diubah

Pandas, cepat: normalisasi hanya teks unik lalu petakan balik (komentar sering berulang).

uniq = df["text"].dropna().unique()
hasil = dict(zip(uniq, map(nz, uniq)))
df["text_norm"] = df["text"].map(hasil)

Opsi:

from normalisasi import ALL_CATEGORIES
Normalizer(categories=ALL_CATEGORIES)          # + code-mix Inggris -> Indonesia, emoji/emotikon -> kata
Normalizer(min_confidence="high")              # hanya entri paling yakin (konservatif)
Normalizer(rules=False)                        # kamus saja, tanpa aturan (paling cepat, cakupan lebih kecil)
Normalizer(extra={"otw": "dalam perjalanan"})       # tambah mapping sendiri

Kategori default: negasi, singkatan, ejaan, informal, imbuhan, kasar, daerah, interjeksi, auto, eksternal. kasar memetakan variasi/sensor ke bentuk kanonik (a*njing, 4nj1ng -> anjing), tidak diperhalus.

Hanya butuh dict {varian: kanonik}? Pakai kamus_flat.json (konfigurasi default, tanpa aturan runtime).

Isi

File	Isi
`normalisasi.py`	kelas `Normalizer` (aturan + loader), tanpa dependensi luar
`kamus_normalisasi.json`	~37,5 rb entri + kosakata baku, daftar kata, proteksi
`kamus_flat.json`	~37,3 rb pasangan varian -> kanonik (default)
`test_normalisasi.py`	tes regresi (`python test_normalisasi.py`)

Dibangun dari 1,36 juta komentar (TikTok, YouTube, Instagram, X, Reddit, ulasan aplikasi/e-commerce). Lapisan: kurasi manual + koreksi audit, entri hasil aturan (elongasi, reduplikasi, segmentasi hashtag, sisip vokal, klitik, imbuhan -in/nge-, ke->ter-, negasi gabung, leet, sensor), dan entri IndoCollex/STIF.

Setiap perubahan diaudit maknanya dengan word2vec korpus (kata asal dan hasil harus muncul di konteks mirip, tidak ada kandidat lain yang lebih cocok) dan daftar kata baku; kata sah yang mirip slang (ulah, abdi, keluar, mangga, kartunya) sengaja tidak diubah, singkatan ambigu dibiarkan.

Hasil: token slang tersisa 14,0% -> 0,5%; STIF test WER 0,415 -> 0,377 (versi lengkap). Throughput ~6 rb teks/detik (1 core).

Batasan

Normalisasi kata per kata, tanpa konteks kalimat: singkatan yang ambigu sengaja tidak disentuh.
Untuk model transformer, normalisasi bisa membantu atau merugikan; uji sebagai saklar di validasi.
Versi publik ini tidak memuat entri yang hanya berasal dari kamus slang pihak ketiga yang lisensinya tidak jelas atau non-komersial.

Sumber & lisensi

Kode dan kamus: MIT. Memakai / diturunkan dari: IndoCollex (MIT), STIF (MIT), indonesian-wordlist (public domain).