indo-text-normalizer / test_normalisasi.py
ivanwilliaml's picture
Rilis awal: normalizer + kamus normalisasi komentar Indonesia
a3c28e2 verified
Raw History Blame Contribute Delete
3.7 kB
"""Tes regresi: python test_normalisasi.py (tanpa pytest)."""
import sys
from pathlib import Path
sys.path.insert(0, str(Path(__file__).parent))
from normalisasi import Normalizer, ALL_CATEGORIES # noqa: E402
nz = Normalizer()
CASES = {
# singkatan / negasi / informal
'gw gk bs dtg krn ujan': 'saya tidak bisa datang karena hujan',
'yg dgn utk skrg bnyk': 'yang dengan untuk sekarang banyak',
'gaada gabisa gatau gpp': 'tidak ada tidak bisa tidak tahu tidak apa-apa',
'kmrn dikasi cuman 15rb doang': 'kemarin diberi cuma 15 ribu doang',
# elongasi / reduplikasi / tawa
'bangettt mantapppp sukaaa': 'banget mantap suka',
'anak2 org2 mkn2': 'anak-anak orang-orang makan-makan',
'wkwkwkwk hahahaha hehehe': 'wkwk haha hehe',
# leet / sensor / spasi
'k3r4cunan g0bl00000k': 'keracunan goblok',
'a*njing b4ngs4t': 'anjing bangsat',
'k o n t o l': 'kontol',
# imbuhan informal
'ngerasain nyalahin masukin ngikutin dimarahin': 'merasakan menyalahkan masukkan mengikuti dimarahi',
# typo vokal hilang / klitik / preposisi
'kluarga brgizi pdhl': 'keluarga bergizi padahal',
'ortunya makananya': 'orang tuanya makanannya',
'disekolah dirumah kesekolah': 'di sekolah di rumah ke sekolah',
# segmentasi hashtag
'#liburpanjang #2024harusbisa': 'libur panjang 2024 harus bisa',
# daerah / religi
'enak pisan, rasane uenak, matur nuwun': 'enak sekali, rasanya enak, terima kasih',
'aamiin ya alloh insya allah': 'amin ya allah insyaallah',
# nya terpisah, emotikon tetap
'rumah nya bau :(': 'rumahnya bau :(',
# yang TIDAK boleh berubah
'bpom apbn dpr pln bpjs': 'bpom apbn dpr pln bpjs',
'formalitas lengserkan kerjaannya maaf saat': 'formalitas lengserkan pekerjaannya maaf saat',
'im3 covid19 jkt48 @user_01 https://t.co/abc': 'im3 covid19 jkt48 @user_01 https://t.co/abc',
'ngeri kelar semur kolak': 'ngeri kelar semur kolak',
# audit 2026-11-10: kata sah tidak boleh diubah
'ulah oknum abdi negara keluar rumah larang judi': 'ulah oknum abdi negara keluar rumah larang judi',
'kartunya susunya tandanya gagang timbangan gelembung didamaikan': 'kartunya susunya tandanya gagang timbangan gelembung didamaikan',
'mujur merem mulas beling mister dulang tumben utas mangga': 'mujur merem mulas beling mister dulang tumben utas mangga',
'pedesnya nampol bikin nagih': 'pedasnya nampol buat nagih',
# audit: koreksi arti
'tf dulu ngab, makasih sob, kene rasah': 'transfer dulu bang, terima kasih sobat, sini tidak usah',
'mantunya nyangkut wahh kkkk': 'menantunya tersangkut wah haha',
# audit: aturan
'sama aja.tak kira aku.gak bikin': 'sama saja. tak kira aku. tidak buat',
'makananya presidenya bangte yagn': 'makanannya presidennya banget yang',
'lalulintas suntikvaksin sayamakasih lengketttt': 'lalu lintas suntik vaksin saya terima kasih lengket',
'pigmentnya rundingin commenter henny ajee': 'pigmentnya rundingin commenter henny ajee',
}
EXTRA = {
'thanks, recomended bgt 👍': 'terima kasih, direkomendasikan banget bagus',
}
def run():
fails = 0
for src, exp in CASES.items():
got = nz(src)
if got != exp:
fails += 1
print(f'GAGAL\n in : {src}\n exp: {exp}\n got: {got}')
nz2 = Normalizer(categories=ALL_CATEGORIES)
for src, exp in EXTRA.items():
got = nz2(src)
if got != exp:
fails += 1
print(f'GAGAL (inggris+emoji)\n in : {src}\n exp: {exp}\n got: {got}')
total = len(CASES) + len(EXTRA)
print(f'{total - fails}/{total} lulus')
return fails
if __name__ == '__main__':
sys.exit(1 if run() else 0)