v1.5b faz6: cok-turlu {messages} maskeleme (encode_messages/encode_any) + base checkpoints_350m namespace + max_len 2048 (context)
Browse files
code/kod/faz6_prep_v15b.py
CHANGED
|
@@ -15,7 +15,7 @@ Kaynaklar (hepsi HF şema+lisans DOĞRULANDI 2026-07-02):
|
|
| 15 |
Şablon (SP özel-token YOK → düz metin): "### Sistem/### Kullanıcı/### Asistan". faz6_sft.py çok-tur maskeleme yolu GEREKİR (yanıt span'leri).
|
| 16 |
|
| 17 |
Çalıştırma (Colab/yerel; datasets+sentencepiece kurulu, HF login):
|
| 18 |
-
HF_TOKEN=hf_xxx python faz6_prep_v15b.py --out sft_v15b.jsonl --max_len
|
| 19 |
"""
|
| 20 |
import os, sys, json, re, random, argparse
|
| 21 |
|
|
@@ -203,7 +203,7 @@ def stats(sp, rows, name):
|
|
| 203 |
def main():
|
| 204 |
ap = argparse.ArgumentParser()
|
| 205 |
ap.add_argument("--out", default="sft_v15b.jsonl")
|
| 206 |
-
ap.add_argument("--max_len", type=int, default=
|
| 207 |
ap.add_argument("--max_turns", type=int, default=4, help="asistan tur üst sınırı (çok-turlu)")
|
| 208 |
ap.add_argument("--n_en", type=int, default=20000)
|
| 209 |
ap.add_argument("--n_tr", type=int, default=20000)
|
|
|
|
| 15 |
Şablon (SP özel-token YOK → düz metin): "### Sistem/### Kullanıcı/### Asistan". faz6_sft.py çok-tur maskeleme yolu GEREKİR (yanıt span'leri).
|
| 16 |
|
| 17 |
Çalıştırma (Colab/yerel; datasets+sentencepiece kurulu, HF login):
|
| 18 |
+
HF_TOKEN=hf_xxx python faz6_prep_v15b.py --out sft_v15b.jsonl --max_len 2048 --n_en 20000 --n_tr 20000
|
| 19 |
"""
|
| 20 |
import os, sys, json, re, random, argparse
|
| 21 |
|
|
|
|
| 203 |
def main():
|
| 204 |
ap = argparse.ArgumentParser()
|
| 205 |
ap.add_argument("--out", default="sft_v15b.jsonl")
|
| 206 |
+
ap.add_argument("--max_len", type=int, default=2048, help="chat-render token tavanı = pretraining seq_len (aşan atılır; 2048 üstü GQA-RoPE extrapolation)")
|
| 207 |
ap.add_argument("--max_turns", type=int, default=4, help="asistan tur üst sınırı (çok-turlu)")
|
| 208 |
ap.add_argument("--n_en", type=int, default=20000)
|
| 209 |
ap.add_argument("--n_tr", type=int, default=20000)
|