File size: 3,702 Bytes
a3c28e2
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
"""Tes regresi: python test_normalisasi.py  (tanpa pytest)."""
import sys
from pathlib import Path

sys.path.insert(0, str(Path(__file__).parent))
from normalisasi import Normalizer, ALL_CATEGORIES  # noqa: E402

nz = Normalizer()
CASES = {
    # singkatan / negasi / informal
    'gw gk bs dtg krn ujan': 'saya tidak bisa datang karena hujan',
    'yg dgn utk skrg bnyk': 'yang dengan untuk sekarang banyak',
    'gaada gabisa gatau gpp': 'tidak ada tidak bisa tidak tahu tidak apa-apa',
    'kmrn dikasi cuman 15rb doang': 'kemarin diberi cuma 15 ribu doang',
    # elongasi / reduplikasi / tawa
    'bangettt mantapppp sukaaa': 'banget mantap suka',
    'anak2 org2 mkn2': 'anak-anak orang-orang makan-makan',
    'wkwkwkwk hahahaha hehehe': 'wkwk haha hehe',
    # leet / sensor / spasi
    'k3r4cunan g0bl00000k': 'keracunan goblok',
    'a*njing b4ngs4t': 'anjing bangsat',
    'k o n t o l': 'kontol',
    # imbuhan informal
    'ngerasain nyalahin masukin ngikutin dimarahin': 'merasakan menyalahkan masukkan mengikuti dimarahi',
    # typo vokal hilang / klitik / preposisi
    'kluarga brgizi pdhl': 'keluarga bergizi padahal',
    'ortunya makananya': 'orang tuanya makanannya',
    'disekolah dirumah kesekolah': 'di sekolah di rumah ke sekolah',
    # segmentasi hashtag
    '#liburpanjang #2024harusbisa': 'libur panjang 2024 harus bisa',
    # daerah / religi
    'enak pisan, rasane uenak, matur nuwun': 'enak sekali, rasanya enak, terima kasih',
    'aamiin ya alloh insya allah': 'amin ya allah insyaallah',
    # nya terpisah, emotikon tetap
    'rumah nya bau :(': 'rumahnya bau :(',
    # yang TIDAK boleh berubah
    'bpom apbn dpr pln bpjs': 'bpom apbn dpr pln bpjs',
    'formalitas lengserkan kerjaannya maaf saat': 'formalitas lengserkan pekerjaannya maaf saat',
    'im3 covid19 jkt48 @user_01 https://t.co/abc': 'im3 covid19 jkt48 @user_01 https://t.co/abc',
    'ngeri kelar semur kolak': 'ngeri kelar semur kolak',
    # audit 2026-11-10: kata sah tidak boleh diubah
    'ulah oknum abdi negara keluar rumah larang judi': 'ulah oknum abdi negara keluar rumah larang judi',
    'kartunya susunya tandanya gagang timbangan gelembung didamaikan': 'kartunya susunya tandanya gagang timbangan gelembung didamaikan',
    'mujur merem mulas beling mister dulang tumben utas mangga': 'mujur merem mulas beling mister dulang tumben utas mangga',
    'pedesnya nampol bikin nagih': 'pedasnya nampol buat nagih',
    # audit: koreksi arti
    'tf dulu ngab, makasih sob, kene rasah': 'transfer dulu bang, terima kasih sobat, sini tidak usah',
    'mantunya nyangkut wahh kkkk': 'menantunya tersangkut wah haha',
    # audit: aturan
    'sama aja.tak kira aku.gak bikin': 'sama saja. tak kira aku. tidak buat',
    'makananya presidenya bangte yagn': 'makanannya presidennya banget yang',
    'lalulintas suntikvaksin sayamakasih lengketttt': 'lalu lintas suntik vaksin saya terima kasih lengket',
    'pigmentnya rundingin commenter henny ajee': 'pigmentnya rundingin commenter henny ajee',
}
EXTRA = {
    'thanks, recomended bgt 👍': 'terima kasih, direkomendasikan banget bagus',
}


def run():
    fails = 0
    for src, exp in CASES.items():
        got = nz(src)
        if got != exp:
            fails += 1
            print(f'GAGAL\n  in : {src}\n  exp: {exp}\n  got: {got}')
    nz2 = Normalizer(categories=ALL_CATEGORIES)
    for src, exp in EXTRA.items():
        got = nz2(src)
        if got != exp:
            fails += 1
            print(f'GAGAL (inggris+emoji)\n  in : {src}\n  exp: {exp}\n  got: {got}')
    total = len(CASES) + len(EXTRA)
    print(f'{total - fails}/{total} lulus')
    return fails


if __name__ == '__main__':
    sys.exit(1 if run() else 0)