Datasets:
Download test_normalisasi.py from ivanwilliaml/indo-text-normalizer: direct link, hf CLI and curl.
- Browser
- Download file 3.7 kB
-
https://huggingface.co/datasets/ivanwilliaml/indo-text-normalizer/resolve/main/test_normalisasi.py
- Command line
-
hf download hf://datasets/ivanwilliaml/indo-text-normalizer/test_normalisasi.py
-
curl -L -o test_normalisasi.py https://huggingface.co/datasets/ivanwilliaml/indo-text-normalizer/resolve/main/test_normalisasi.py
3.7 kB
| """Tes regresi: python test_normalisasi.py (tanpa pytest).""" | |
| import sys | |
| from pathlib import Path | |
| sys.path.insert(0, str(Path(__file__).parent)) | |
| from normalisasi import Normalizer, ALL_CATEGORIES # noqa: E402 | |
| nz = Normalizer() | |
| CASES = { | |
| # singkatan / negasi / informal | |
| 'gw gk bs dtg krn ujan': 'saya tidak bisa datang karena hujan', | |
| 'yg dgn utk skrg bnyk': 'yang dengan untuk sekarang banyak', | |
| 'gaada gabisa gatau gpp': 'tidak ada tidak bisa tidak tahu tidak apa-apa', | |
| 'kmrn dikasi cuman 15rb doang': 'kemarin diberi cuma 15 ribu doang', | |
| # elongasi / reduplikasi / tawa | |
| 'bangettt mantapppp sukaaa': 'banget mantap suka', | |
| 'anak2 org2 mkn2': 'anak-anak orang-orang makan-makan', | |
| 'wkwkwkwk hahahaha hehehe': 'wkwk haha hehe', | |
| # leet / sensor / spasi | |
| 'k3r4cunan g0bl00000k': 'keracunan goblok', | |
| 'a*njing b4ngs4t': 'anjing bangsat', | |
| 'k o n t o l': 'kontol', | |
| # imbuhan informal | |
| 'ngerasain nyalahin masukin ngikutin dimarahin': 'merasakan menyalahkan masukkan mengikuti dimarahi', | |
| # typo vokal hilang / klitik / preposisi | |
| 'kluarga brgizi pdhl': 'keluarga bergizi padahal', | |
| 'ortunya makananya': 'orang tuanya makanannya', | |
| 'disekolah dirumah kesekolah': 'di sekolah di rumah ke sekolah', | |
| # segmentasi hashtag | |
| '#liburpanjang #2024harusbisa': 'libur panjang 2024 harus bisa', | |
| # daerah / religi | |
| 'enak pisan, rasane uenak, matur nuwun': 'enak sekali, rasanya enak, terima kasih', | |
| 'aamiin ya alloh insya allah': 'amin ya allah insyaallah', | |
| # nya terpisah, emotikon tetap | |
| 'rumah nya bau :(': 'rumahnya bau :(', | |
| # yang TIDAK boleh berubah | |
| 'bpom apbn dpr pln bpjs': 'bpom apbn dpr pln bpjs', | |
| 'formalitas lengserkan kerjaannya maaf saat': 'formalitas lengserkan pekerjaannya maaf saat', | |
| 'im3 covid19 jkt48 @user_01 https://t.co/abc': 'im3 covid19 jkt48 @user_01 https://t.co/abc', | |
| 'ngeri kelar semur kolak': 'ngeri kelar semur kolak', | |
| # audit 2026-11-10: kata sah tidak boleh diubah | |
| 'ulah oknum abdi negara keluar rumah larang judi': 'ulah oknum abdi negara keluar rumah larang judi', | |
| 'kartunya susunya tandanya gagang timbangan gelembung didamaikan': 'kartunya susunya tandanya gagang timbangan gelembung didamaikan', | |
| 'mujur merem mulas beling mister dulang tumben utas mangga': 'mujur merem mulas beling mister dulang tumben utas mangga', | |
| 'pedesnya nampol bikin nagih': 'pedasnya nampol buat nagih', | |
| # audit: koreksi arti | |
| 'tf dulu ngab, makasih sob, kene rasah': 'transfer dulu bang, terima kasih sobat, sini tidak usah', | |
| 'mantunya nyangkut wahh kkkk': 'menantunya tersangkut wah haha', | |
| # audit: aturan | |
| 'sama aja.tak kira aku.gak bikin': 'sama saja. tak kira aku. tidak buat', | |
| 'makananya presidenya bangte yagn': 'makanannya presidennya banget yang', | |
| 'lalulintas suntikvaksin sayamakasih lengketttt': 'lalu lintas suntik vaksin saya terima kasih lengket', | |
| 'pigmentnya rundingin commenter henny ajee': 'pigmentnya rundingin commenter henny ajee', | |
| } | |
| EXTRA = { | |
| 'thanks, recomended bgt 👍': 'terima kasih, direkomendasikan banget bagus', | |
| } | |
| def run(): | |
| fails = 0 | |
| for src, exp in CASES.items(): | |
| got = nz(src) | |
| if got != exp: | |
| fails += 1 | |
| print(f'GAGAL\n in : {src}\n exp: {exp}\n got: {got}') | |
| nz2 = Normalizer(categories=ALL_CATEGORIES) | |
| for src, exp in EXTRA.items(): | |
| got = nz2(src) | |
| if got != exp: | |
| fails += 1 | |
| print(f'GAGAL (inggris+emoji)\n in : {src}\n exp: {exp}\n got: {got}') | |
| total = len(CASES) + len(EXTRA) | |
| print(f'{total - fails}/{total} lulus') | |
| return fails | |
| if __name__ == '__main__': | |
| sys.exit(1 if run() else 0) | |