| { | |
| "type": "SentencePiece Unigram", | |
| "vocab_size": 20000, | |
| "normalization": "external NFC + SentencePiece identity", | |
| "byte_fallback": true, | |
| "split_digits": true, | |
| "training_lines": 1000000, | |
| "reused_sentencepiece_model": true, | |
| "model_max_length": 5120, | |
| "special_token_ids": { | |
| "unk": 0, | |
| "bos": 1, | |
| "eos": 2, | |
| "pad": 3 | |
| }, | |
| "probes": [ | |
| { | |
| "text": "안녕하세요. 오늘 날씨가 좋습니다.", | |
| "tokens": 7, | |
| "unknown_tokens": 0, | |
| "decoded": "안녕하세요. 오늘 날씨가 좋습니다.", | |
| "exact_round_trip": true | |
| }, | |
| { | |
| "text": "이거 진짜 되는 거 맞아? ㅋㅋㅋㅋ", | |
| "tokens": 8, | |
| "unknown_tokens": 0, | |
| "decoded": "이거 진짜 되는 거 맞아? ㅋㅋㅋㅋ", | |
| "exact_round_trip": true | |
| }, | |
| { | |
| "text": "갤럭시 S26을 2026년에 구매했습니다.", | |
| "tokens": 14, | |
| "unknown_tokens": 0, | |
| "decoded": "갤럭시 S26을 2026년에 구매했습니다.", | |
| "exact_round_trip": true | |
| }, | |
| { | |
| "text": "KTX를 타고 부산에 내려갔다. 🚄", | |
| "tokens": 14, | |
| "unknown_tokens": 0, | |
| "decoded": "KTX를 타고 부산에 내려갔다. 🚄", | |
| "exact_round_trip": true | |
| } | |
| ] | |
| } | |