"""
Tokenizer GromGPT — BPE thật (Byte-Pair Encoding), giống cách các LLM hiện đại
(GPT, LLaMA, Mistral...) tokenize dữ liệu, thay vì tách theo từ/ký tự đơn giản.
Dùng thư viện `tokenizers` của HuggingFace (Rust backend, cực nhanh) để:
- train một BPE tokenizer từ corpus của chính GromGPT
- lưu lại thành 1 file JSON duy nhất (tokenizer.json), tự chứa toàn bộ vocab + merges
- encode/decode văn bản thành id token, có hỗ trợ special tokens cho hội thoại
(Người dùng:, G/AI:, , , , , , )
BPE thật khác word-level ở chỗ: nó học các đơn vị sub-word phổ biến nhất từ dữ liệu
(ví dụ "ngh", "ia", "tr", "a"...) thay vì chỉ tách theo khoảng trắng/ký tự đơn,
nên vocab nhỏ hơn nhiều mà vẫn biểu diễn được từ hiếm/từ mới ghép từ subword đã biết.
"""
from tokenizers import Tokenizer as HFTokenizer
from tokenizers import decoders, normalizers, pre_tokenizers
from tokenizers.models import BPE
from tokenizers.trainers import BpeTrainer
SPECIAL_TOKENS = [
"",
"",
"Người dùng:",
"G/AI:",
"",
"",
"",
"",
]
DEFAULT_VOCAB_SIZE = 8000
class Tokenizer:
"""Wrapper mỏng quanh HuggingFace `tokenizers.Tokenizer` (BPE),
giữ API tương thích với phần còn lại của GromGPT: build(), encode(), decode(), len()."""
def __init__(self, hf_tokenizer=None):
self._tok = hf_tokenizer
self.unk_id = 0
if self._tok is not None:
unk = self._tok.token_to_id("")
self.unk_id = unk if unk is not None else 0
# ---------- training ----------
def _new_tokenizer(self, vocab_size: int, min_frequency: int):
tok = HFTokenizer(BPE(unk_token=""))
tok.normalizer = normalizers.NFKC()
tok.pre_tokenizer = pre_tokenizers.ByteLevel(add_prefix_space=False)
tok.decoder = decoders.ByteLevel()
trainer = BpeTrainer(
vocab_size=vocab_size,
min_frequency=min_frequency,
special_tokens=SPECIAL_TOKENS,
show_progress=True,
initial_alphabet=pre_tokenizers.ByteLevel.alphabet(),
)
return tok, trainer
def build(self, text: str, vocab_size: int = DEFAULT_VOCAB_SIZE, min_frequency: int = 2):
"""Train BPE từ một chuỗi corpus."""
tok, trainer = self._new_tokenizer(vocab_size, min_frequency)
tok.train_from_iterator([text], trainer=trainer)
self._tok = tok
self.unk_id = tok.token_to_id("")
return self
def build_from_iterator(self, iterator, vocab_size: int = DEFAULT_VOCAB_SIZE, min_frequency: int = 2):
"""Train BPE streaming, không cần nạp toàn bộ corpus vào RAM."""
tok, trainer = self._new_tokenizer(vocab_size, min_frequency)
tok.train_from_iterator(iterator, trainer=trainer)
self._tok = tok
self.unk_id = tok.token_to_id("")
return self
# ---------- persistence ----------
def save(self, path):
self._tok.save(str(path))
@classmethod
def load(cls, path):
tok = HFTokenizer.from_file(str(path))
return cls(tok)
# ---------- encode/decode ----------
def encode(self, text: str):
return self._tok.encode(text).ids
def decode(self, ids):
ids = [int(i) for i in ids]
return self._tok.decode(ids, skip_special_tokens=False)
def token_to_id(self, token: str):
return self._tok.token_to_id(token)
def __len__(self):
return self._tok.get_vocab_size()