Download trainer_source/tokenizer.py from GRIMIAI-VNAnhdev/GROMAIVN: direct link, hf CLI and curl.
- Browser
- Download file 3.75 kB
-
https://huggingface.co/datasets/GRIMIAI-VNAnhdev/GROMAIVN/resolve/main/trainer_source/tokenizer.py
- Command line
-
hf download hf://datasets/GRIMIAI-VNAnhdev/GROMAIVN/trainer_source/tokenizer.py
-
curl -L -o tokenizer.py https://huggingface.co/datasets/GRIMIAI-VNAnhdev/GROMAIVN/resolve/main/trainer_source/tokenizer.py
3.75 kB
| """ | |
| Tokenizer GromGPT — BPE thật (Byte-Pair Encoding), giống cách các LLM hiện đại | |
| (GPT, LLaMA, Mistral...) tokenize dữ liệu, thay vì tách theo từ/ký tự đơn giản. | |
| Dùng thư viện `tokenizers` của HuggingFace (Rust backend, cực nhanh) để: | |
| - train một BPE tokenizer từ corpus của chính GromGPT | |
| - lưu lại thành 1 file JSON duy nhất (tokenizer.json), tự chứa toàn bộ vocab + merges | |
| - encode/decode văn bản thành id token, có hỗ trợ special tokens cho hội thoại | |
| (Người dùng:, G/AI:, <suy_nghi>, </suy_nghi>, <tra_loi>, </tra_loi>, <unk>, <pad>) | |
| BPE thật khác word-level ở chỗ: nó học các đơn vị sub-word phổ biến nhất từ dữ liệu | |
| (ví dụ "ngh", "ia", "tr", "a"...) thay vì chỉ tách theo khoảng trắng/ký tự đơn, | |
| nên vocab nhỏ hơn nhiều mà vẫn biểu diễn được từ hiếm/từ mới ghép từ subword đã biết. | |
| """ | |
| from tokenizers import Tokenizer as HFTokenizer | |
| from tokenizers import decoders, normalizers, pre_tokenizers | |
| from tokenizers.models import BPE | |
| from tokenizers.trainers import BpeTrainer | |
| SPECIAL_TOKENS = [ | |
| "<pad>", | |
| "<unk>", | |
| "Người dùng:", | |
| "G/AI:", | |
| "<suy_nghi>", | |
| "</suy_nghi>", | |
| "<tra_loi>", | |
| "</tra_loi>", | |
| ] | |
| DEFAULT_VOCAB_SIZE = 8000 | |
| class Tokenizer: | |
| """Wrapper mỏng quanh HuggingFace `tokenizers.Tokenizer` (BPE), | |
| giữ API tương thích với phần còn lại của GromGPT: build(), encode(), decode(), len().""" | |
| def __init__(self, hf_tokenizer=None): | |
| self._tok = hf_tokenizer | |
| self.unk_id = 0 | |
| if self._tok is not None: | |
| unk = self._tok.token_to_id("<unk>") | |
| self.unk_id = unk if unk is not None else 0 | |
| # ---------- training ---------- | |
| def _new_tokenizer(self, vocab_size: int, min_frequency: int): | |
| tok = HFTokenizer(BPE(unk_token="<unk>")) | |
| tok.normalizer = normalizers.NFKC() | |
| tok.pre_tokenizer = pre_tokenizers.ByteLevel(add_prefix_space=False) | |
| tok.decoder = decoders.ByteLevel() | |
| trainer = BpeTrainer( | |
| vocab_size=vocab_size, | |
| min_frequency=min_frequency, | |
| special_tokens=SPECIAL_TOKENS, | |
| show_progress=True, | |
| initial_alphabet=pre_tokenizers.ByteLevel.alphabet(), | |
| ) | |
| return tok, trainer | |
| def build(self, text: str, vocab_size: int = DEFAULT_VOCAB_SIZE, min_frequency: int = 2): | |
| """Train BPE từ một chuỗi corpus.""" | |
| tok, trainer = self._new_tokenizer(vocab_size, min_frequency) | |
| tok.train_from_iterator([text], trainer=trainer) | |
| self._tok = tok | |
| self.unk_id = tok.token_to_id("<unk>") | |
| return self | |
| def build_from_iterator(self, iterator, vocab_size: int = DEFAULT_VOCAB_SIZE, min_frequency: int = 2): | |
| """Train BPE streaming, không cần nạp toàn bộ corpus vào RAM.""" | |
| tok, trainer = self._new_tokenizer(vocab_size, min_frequency) | |
| tok.train_from_iterator(iterator, trainer=trainer) | |
| self._tok = tok | |
| self.unk_id = tok.token_to_id("<unk>") | |
| return self | |
| # ---------- persistence ---------- | |
| def save(self, path): | |
| self._tok.save(str(path)) | |
| def load(cls, path): | |
| tok = HFTokenizer.from_file(str(path)) | |
| return cls(tok) | |
| # ---------- encode/decode ---------- | |
| def encode(self, text: str): | |
| return self._tok.encode(text).ids | |
| def decode(self, ids): | |
| ids = [int(i) for i in ids] | |
| return self._tok.decode(ids, skip_special_tokens=False) | |
| def token_to_id(self, token: str): | |
| return self._tok.token_to_id(token) | |
| def __len__(self): | |
| return self._tok.get_vocab_size() | |