kdirgul commited on
Commit
1bf7aad
·
verified ·
1 Parent(s): b671c64

v1.5b faz6: cok-turlu {messages} maskeleme (encode_messages/encode_any) + base checkpoints_350m namespace + max_len 2048 (context)

Browse files
Files changed (1) hide show
  1. code/kod/faz6_prep_v15b.py +2 -2
code/kod/faz6_prep_v15b.py CHANGED
@@ -15,7 +15,7 @@ Kaynaklar (hepsi HF şema+lisans DOĞRULANDI 2026-07-02):
15
  Şablon (SP özel-token YOK → düz metin): "### Sistem/### Kullanıcı/### Asistan". faz6_sft.py çok-tur maskeleme yolu GEREKİR (yanıt span'leri).
16
 
17
  Çalıştırma (Colab/yerel; datasets+sentencepiece kurulu, HF login):
18
- HF_TOKEN=hf_xxx python faz6_prep_v15b.py --out sft_v15b.jsonl --max_len 4096 --n_en 20000 --n_tr 20000
19
  """
20
  import os, sys, json, re, random, argparse
21
 
@@ -203,7 +203,7 @@ def stats(sp, rows, name):
203
  def main():
204
  ap = argparse.ArgumentParser()
205
  ap.add_argument("--out", default="sft_v15b.jsonl")
206
- ap.add_argument("--max_len", type=int, default=4096, help="chat-render token tavanı (kesme YOK, aşan atılır)")
207
  ap.add_argument("--max_turns", type=int, default=4, help="asistan tur üst sınırı (çok-turlu)")
208
  ap.add_argument("--n_en", type=int, default=20000)
209
  ap.add_argument("--n_tr", type=int, default=20000)
 
15
  Şablon (SP özel-token YOK → düz metin): "### Sistem/### Kullanıcı/### Asistan". faz6_sft.py çok-tur maskeleme yolu GEREKİR (yanıt span'leri).
16
 
17
  Çalıştırma (Colab/yerel; datasets+sentencepiece kurulu, HF login):
18
+ HF_TOKEN=hf_xxx python faz6_prep_v15b.py --out sft_v15b.jsonl --max_len 2048 --n_en 20000 --n_tr 20000
19
  """
20
  import os, sys, json, re, random, argparse
21
 
 
203
  def main():
204
  ap = argparse.ArgumentParser()
205
  ap.add_argument("--out", default="sft_v15b.jsonl")
206
+ ap.add_argument("--max_len", type=int, default=2048, help="chat-render token tavanı = pretraining seq_len (aşan atılır; 2048 üstü GQA-RoPE extrapolation)")
207
  ap.add_argument("--max_turns", type=int, default=4, help="asistan tur üst sınırı (çok-turlu)")
208
  ap.add_argument("--n_en", type=int, default=20000)
209
  ap.add_argument("--n_tr", type=int, default=20000)