Instructions to use cisimcik/tau-4b with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use cisimcik/tau-4b with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("zero-shot-classification", model="cisimcik/tau-4b", trust_remote_code=True)# pip install -U transformers accelerate # Load model directly from transformers import AutoModel model = AutoModel.from_pretrained("cisimcik/tau-4b", trust_remote_code=True, device_map="auto") - Notebooks
- Google Colab
- Kaggle
tau-4b
tau-4b, Türkçe öncelikli bir karar modelidir ("System One" modeli). Ona bir durum (herhangi bir metin ya da JSON: bir mesaj, bir belge, bir destek talebi, bir kayıt) ve bu durumla ilgili tipli sorular verirsiniz: evet/hayır (Noul), en fazla 255 seçenekten birini seçme (Choice) ya da en fazla 255 sıralı düzeyde puanlama (Score). Model her soruyu tek bir forward pass'te, kalibre edilmiş olasılıklarla yanıtlar.
- 4,4 milyar parametre. Qwen3.5 Base, üzerine bir okuma bloğu ve üç head.
- 32 bin token context (durum + soru) cevabın, durumun herhangi bir yerinde olduğu örneklerle eğitildi. 64 bine kadar test edildi.
- Türkçe öncelikli, İngilizce + Türkçe training
- TypeSafe'in
POST /v1/systemoneendpoint'i ile (Jev) aynı istek/yanıt biçimi - Apache 2.0 lisansıyla açık kaynak olarak yayınlandı.
Hızlı başlangıç
pip install "transformers>=5.17" torch
# isteğe bağlı, NVIDIA GPU'larda daha hızlı Gated DeltaNet kernel'leri:
pip install flash-linear-attention
import torch
from transformers import AutoModel
tau = AutoModel.from_pretrained("cisimcik/tau-4b", trust_remote_code=True, dtype=torch.bfloat16)
tau = tau.to("cuda" if torch.cuda.is_available() else "cpu").eval()
result = tau.decide(
state="Siparişim 10 gündür kargoda görünüyor, kimse dönüş yapmıyor. Paramı geri istiyorum!",
questions={
"intent": {
"type": "choice",
"instructions": "Müşteri ne istiyor?",
"criteria": {
"iade": "Para iadesi istiyor",
"takip": "Kargonun nerede olduğunu soruyor",
"teşekkür": "Teşekkür ediyor",
},
},
"angry": {"type": "noul", "instructions": "Müşteri öfkeli mi?"},
"urgency": {
"type": "score",
"instructions": "Bu talep ne kadar acil?",
"criteria": ["Acil değil", "Biraz acil", "Acil", "Çok acil"],
},
},
)
print(result)
Sonuç, System One yanıt biçimindedir:
{
"model": "tau-4b",
"answers": {
"intent": {"type": "choice", "choice": "iade", "probabilities": {"iade": 0.9801, "takip": 0.0191, "teşekkür": 0.0008}, "confidence": 0.9701},
"angry": {"type": "noul", "noul": 0.9969},
"urgency": {"type": "score", "score": 2.6797,
"legend": {"0": "Acil değil", "1": "Biraz acil", "2": "Acil", "3": "Çok acil"},
"probabilities": {"0": 0.0068, "1": 0.0281, "2": 0.2436, "3": 0.7215}, "confidence": 0.6797}
},
"usage": {"input_tokens": 110, "output_tokens": 0}
}
Donanım. Ağırlıklar bf16'da yaklaşık 9 GB: 12 GB veya üzeri belleğe sahip herhangi bir GPU (A10G'de kısa bir soru
başına yaklaşık 0,13 sn) ya da 16 GB RAM'li bir CPU (4 çekirdekte kısa bir soru başına yaklaşık 10 sn) yeterlidir.
flash-linear-attention kurulu değilse Gated DeltaNet katmanları transformers'ın PyTorch uygulamasını kullanır. Bu
doğru sonuç verir ama uzun context'te daha yavaştır.
Request formatı
state: bir metin ya da herhangi bir JSON değeri.questions:{kimlik: soru}. Her soru bağımsız yanıtlanır: başka sorular eklemek ya da çıkarmak bir yanıtı değiştirmez.{"type": "noul", "instructions": "...", "criteria": {"true": "...", "false": "..."}}.criteriaisteğe bağlıdır ama faydalıdır: evet ve hayırın ne anlama geldiğini yazın.{"type": "choice", "instructions": "...", "criteria": {"<anahtar>": "<açıklama ya da null>", ...}}, 2–255 seçenek. Seçeneklerin sırası önemli değildir (model onları kanonik bir sırada görür).{"type": "score", "instructions": "...", "criteria": ["<en düşük düzey>", ..., "<en yüksek düzey>"]}, 2–255 düzey, en düşükten en yükseğe doğru sıralanır.
- Uzunluk: durum + soru en fazla 32.768 token (
decide(..., max_tokens=...)bu sınırı değiştirir). Daha uzun state'lerde state'in sonu kesilir, soru kalır.
Kıyaslamalar
Sıfır atış (zero-shot): her model aynı tipli isteği alır (durum + tek soru). Görevlerde seçenek sırası her örnek için bir kez karıştırılır ve tüm modeller aynı sırayı görür.
44 görev ve 21.566 soruda test edilmiştir.
Doğruluk = en yüksek olasılıklı yanıt ile doğru yanıtın eşleşmesi (Noul: p ≥ 0,5). Jev = TypeSafe jev-latest =
jev-1.13.0, API üzerinden (Ekim 2026). Laya = convaiinnovations/laya 0.3.24.
Özet (doğruluk, %)
Training
tau-4b, Qwen/Qwen3.5-4B-Base modelinin çeşitli aşamalarla eğitilmiş halidir. İlk aşamanın çıktısı ayrıca cisimcik-base olarak yayınlandı.
- Türkçe post-training. Büyük, çoğunlukla Türkçe bir metin derlemi üzerinde ön eğitime devam edilir, modelin iki dilli kalması için bir miktar İngilizce (replay) korunur.
- Karar eğitimi ve kalibrasyon. Gövde, okuma bloğu ve başlıklar, etiketli Türkçe ve İngilizce sınıflandırma verilerinden (duygu, doğal dil çıkarımı, niyet, zararlı içerik, konu, çoktan seçmeli sorular ve daha fazlası) üretilen tipli Noul / Choice / Score soruları ve 32 bin token'a kadar uzun durumlar üzerinde birlikte eğitilir.
Dosyalar
| Dosya | İçerik |
|---|---|
model-0000*-of-00003.safetensors |
ağırlıklar: trunk.* (bf16) + special, readout.*, *_head.* (fp32) |
config.json, configuration_tau.py, modeling_tau.py |
transformers uzak kodu (AutoModel, trust_remote_code=True) |
tau_serialize.py, tau_schema.py |
serileştirme ve System One istek / yanıt şeması |
tokenizer*.json, vocab.json, merges.txt |
Qwen3.5 tokenizer'ı (düz modda kullanılır) |
Lisans
Bu depodaki ağırlıklar ve kod Apache License 2.0 ile yayımlanmıştır (bkz. LICENSE ve NOTICE). Model, Qwen/Qwen3.5-4B-Base © 2026 Alibaba Cloud, Apache License 2.0 lisanslı modelin değiştirilmiş bir sürümüdür.
Temel model cisimcik/cisimcik-base'dir. O da Qwen/Qwen3.5-4B-Base üzerinden eğitildi.
Atıf
@misc{tau4b2026,
title = {tau-4b: a Turkish-first System One decision model},
author = {cisimcik},
year = {2026},
url = {https://huggingface.co/cisimcik/tau-4b}
}
- Downloads last month
- 112
Model tree for cisimcik/tau-4b
Dataset used to train cisimcik/tau-4b
Evaluation results
- Turkish (mean of 6 task families) on tau-4b evaluation suite (zero-shot, 44 tasks)Self-reported72.000
- General / English on tau-4b evaluation suite (zero-shot, 44 tasks)Self-reported76.000
- TR Reasoning and knowledge (MCQ) on tau-4b evaluation suite (zero-shot, 44 tasks)Self-reported80.500
- TR Classification on tau-4b evaluation suite (zero-shot, 44 tasks)Self-reported80.200
- TR Claims and routing on tau-4b evaluation suite (zero-shot, 44 tasks)Self-reported63.200
- TR Ordinal (score) on tau-4b evaluation suite (zero-shot, 44 tasks)Self-reported39.200
- TR Grammaticality on tau-4b evaluation suite (zero-shot, 44 tasks)Self-reported89.400
- All 21 accuracy tasks on CETVEL accuracy tasks (zero-shot, decision format)Self-reported77.600