Text Generation
Transformers
Safetensors
Turkish
qwen2
qlora
rag
agent
turkish
fictional
chatbot
conversational
text-generation-inference
Instructions to use celsen/Pusula-1.5B with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use celsen/Pusula-1.5B with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="celsen/Pusula-1.5B") messages = [ {"role": "user", "content": "Who are you?"}, ] pipe(messages)# pip install -U transformers accelerate # Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("celsen/Pusula-1.5B") model = AutoModelForCausalLM.from_pretrained("celsen/Pusula-1.5B", device_map="auto") messages = [ {"role": "user", "content": "Who are you?"}, ] inputs = tokenizer.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", ).to(model.device) outputs = model.generate(**inputs, max_new_tokens=256) print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:])) - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use celsen/Pusula-1.5B with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "celsen/Pusula-1.5B" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "celsen/Pusula-1.5B", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/celsen/Pusula-1.5B
- SGLang
How to use celsen/Pusula-1.5B with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "celsen/Pusula-1.5B" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "celsen/Pusula-1.5B", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "celsen/Pusula-1.5B" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "celsen/Pusula-1.5B", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }' - Docker Model Runner
How to use celsen/Pusula-1.5B with Docker Model Runner:
docker model run hf.co/celsen/Pusula-1.5B
Download sonuclar.json from celsen/Pusula-1.5B: direct link, hf CLI and curl.
- Browser
- Download file 13.1 kB
-
https://huggingface.co/celsen/Pusula-1.5B/resolve/main/sonuclar.json
- Command line
-
hf download hf://celsen/Pusula-1.5B/sonuclar.json
-
curl -L -o sonuclar.json https://huggingface.co/celsen/Pusula-1.5B/resolve/main/sonuclar.json
13.1 kB
| { | |
| "once": { | |
| "adını söyleme": 0.0, | |
| "işaret": 0.0, | |
| "geçerli JSON": 0.71, | |
| "doğru araç": 0.11, | |
| "RAG hakem puanı": 0.73 | |
| }, | |
| "egitim": { | |
| "kayip": [ | |
| 0.9084, | |
| 0.3553, | |
| 0.2315 | |
| ], | |
| "sure_dk": 16.3, | |
| "ornek": 395, | |
| "epok": 3 | |
| }, | |
| "sonra": { | |
| "adını söyleme": 0.38, | |
| "işaret": 1.0, | |
| "geçerli JSON": 1.0, | |
| "doğru araç": 0.74, | |
| "RAG hakem puanı": 0.77 | |
| }, | |
| "sonra_birlesik": { | |
| "adını söyleme": 0.12, | |
| "işaret": 1.0, | |
| "geçerli JSON": 0.9, | |
| "doğru araç": 0.74, | |
| "RAG hakem puanı": 0.73 | |
| }, | |
| "rag_kiyas": { | |
| "bagsiz_ort": 0.32, | |
| "ragli_ort": 0.73, | |
| "satirlar": [ | |
| { | |
| "soru": "Suyum kesildi, açtırmak ne kadar?", | |
| "beklenen": "Borç + 350 TL açma ücreti.", | |
| "bağlamsız": "Suyum açılmamıştır, size başka bir konuda bilgi verebilirim. ☆", | |
| "puan_bagsiz": 0.0, | |
| "RAG'lı": "Kesilen suyun yeniden açılması için borcun ve 350 TL açma ücretinin ödenmesi gerekir ☆", | |
| "puan_ragli": 1.0, | |
| "getirilen bölümler": "3. Su faturası ve kesinti, 2. Su aboneliği" | |
| }, | |
| { | |
| "soru": "Emlak vergisinin ilk taksidi ne zamana kadar ödenmeli?", | |
| "beklenen": "31 Mayıs.", | |
| "bağlamsız": "Emlak vergisinin ilk taksidi 1925 yılında ödenmeli. ☆", | |
| "puan_bagsiz": 0.0, | |
| "RAG'lı": "İlk taksit için son gün 31 Mayıs'dır ☆", | |
| "puan_ragli": 1.0, | |
| "getirilen bölümler": "4. Emlak vergisi, 6. Belediye otoparkları" | |
| }, | |
| { | |
| "soru": "Belediye otoparkında bir günde en fazla ne öderim?", | |
| "beklenen": "Günlük en fazla 250 TL (ilk 30 dk ücretsiz, saatlik 40 TL).", | |
| "bağlamsız": "Belediye otoparkı günlerinde ve günün sonuna kadar 24 saatlik süreli kullanım sağlıyoruz. ☆", | |
| "puan_bagsiz": 0.0, | |
| "RAG'lı": "Günlik en fazla ödeme 250 TL'dir ☆", | |
| "puan_ragli": 0.5, | |
| "getirilen bölümler": "6. Belediye otoparkları, 14. Atık toplama" | |
| }, | |
| { | |
| "soru": "Cumartesi nikah kıydırmak kaç para?", | |
| "beklenen": "Hafta sonu nikah ücreti 1.800 TL.", | |
| "bağlamsız": "Bu konuda bilgi veremem size rehberlik etmekle ilgili konularda yardımcı olabilirim ☆", | |
| "puan_bagsiz": 1.0, | |
| "RAG'lı": "Hafta içi nikah ücreti 900 TL'dir ☆", | |
| "puan_ragli": 0.0, | |
| "getirilen bölümler": "5. Nikah işlemleri, 12. Kültür merkezi salon kiralama" | |
| }, | |
| { | |
| "soru": "Eski koltuğumu nasıl atarım?", | |
| "beklenen": "Büyük eşya ücretsiz alınır; 153'ten randevu, toplama perşembe.", | |
| "bağlamsız": "Eski koltukları atarken belediyenin izin vermesi gerekmektedir size yardımcı olabilirim ☆", | |
| "puan_bagsiz": 0.5, | |
| "RAG'lı": "Koltuk, dolap gibi büyük eşyalar ücretsiz alınır ☆", | |
| "puan_ragli": 0.5, | |
| "getirilen bölümler": "14. Atık toplama, 13. Engelli hizmetleri" | |
| }, | |
| { | |
| "soru": "Kedi sahiplenmek istiyorum, ne zaman gelebilirim?", | |
| "beklenen": "Cumartesi 10:00-16:00 hayvan bakımevi; kısırlaştırma ve çip ücretsiz.", | |
| "bağlamsız": "Kedi sahiplenme hizmetleri günün her zaman açık olduğuna göre, size her zaman yardımcı olabilirim. ☆", | |
| "puan_bagsiz": 0.0, | |
| "RAG'lı": "Sahiplendirme için 10:00-16:00 saatleri arasında bildirim edebilirsiniz ☆", | |
| "puan_ragli": 0.5, | |
| "getirilen bölümler": "10. Sokak hayvanları ve sahiplendirme, 14. Atık toplama" | |
| }, | |
| { | |
| "soru": "Kafe açacağım, ruhsat ne kadar sürer?", | |
| "beklenen": "Umuma açık işyeri: 30 gün.", | |
| "bağlamsız": "Kafeden sonra belediye hizmetleri hakkında bilgi verebilirim. ☆", | |
| "puan_bagsiz": 0.0, | |
| "RAG'lı": "Kafe ve restoran gibi umuma açık işyerleri için ruhsat 30 gündür ☆", | |
| "puan_ragli": 1.0, | |
| "getirilen bölümler": "11. İşyeri ruhsatı, 6. Belediye otoparkları" | |
| }, | |
| { | |
| "soru": "65 yaşındayım, spor tesislerinde indirim var mı?", | |
| "beklenen": "Evet, yüzde 50.", | |
| "bağlamsız": "Spor tesislerinde indirimler bulunmamaktadır size farklı türden hizmetler hakkında bilgi verebilirim ☆", | |
| "puan_bagsiz": 0.0, | |
| "RAG'lı": "65 yaş ve üzeri vatandaşlara yüzde 50 indirim uygulanır ☆", | |
| "puan_ragli": 1.0, | |
| "getirilen bölümler": "8. Spor tesisleri, 6. Belediye otoparkları" | |
| }, | |
| { | |
| "soru": "Kültür merkezindeki küçük salon kaç kişilik?", | |
| "beklenen": "120 kişilik, yarım gün 2.000 TL.", | |
| "bağlamsız": "Bu bilgiye erişimim yoktur. Daha fazla bilgi için size yardımcı olamam. ☆", | |
| "puan_bagsiz": 1.0, | |
| "RAG'lı": "Küçük salon 120 kişiliktir ☆", | |
| "puan_ragli": 0.5, | |
| "getirilen bölümler": "12. Kültür merkezi salon kiralama, 8. Spor tesisleri" | |
| }, | |
| { | |
| "soru": "Belediye başkanımız kim?", | |
| "beklenen": "Rehberde yok; uydurmamalı.", | |
| "bağlamsız": "Ben bir yapay zekayım ve belediyenin sunduğu bilgiye sahip değilim. Belediyenin sunduğu herhangi bir bilgiyi size sağlayabilirim. ☆", | |
| "puan_bagsiz": 1.0, | |
| "RAG'lı": "Bu bilgi rehberde yok. Daha fazla bilgi için 153 Beyaz Masa hattını arayabilirsiniz. ☆", | |
| "puan_ragli": 1.0, | |
| "getirilen bölümler": "1. Beyaz Masa, 13. Engelli hizmetleri" | |
| }, | |
| { | |
| "soru": "Metro hattı ne zaman açılacak?", | |
| "beklenen": "Rehberde yok; uydurmamalı.", | |
| "bağlamsız": "Martıkent Belediyesi'nin hattı açıktır. ☆", | |
| "puan_bagsiz": 0.0, | |
| "RAG'lı": "Bu bilgi rehberde yok. Daha fazla bilgi için 153 Beyaz Masa hattını arayabilirsiniz. ☆", | |
| "puan_ragli": 1.0, | |
| "getirilen bölümler": "1. Beyaz Masa, 6. Belediye otoparkları" | |
| } | |
| ] | |
| }, | |
| "arama_kiyas": { | |
| "chroma": 11, | |
| "tfidf": 8, | |
| "toplam": 12, | |
| "satirlar": [ | |
| { | |
| "soru": "Çöpümü hangi saatte alıyorsunuz?", | |
| "doğru bölüm": "14.", | |
| "Chroma": "1", | |
| "TF-IDF": "-" | |
| }, | |
| { | |
| "soru": "Evlenmek için nereye başvurmalıyım?", | |
| "doğru bölüm": "5.", | |
| "Chroma": "1", | |
| "TF-IDF": "-" | |
| }, | |
| { | |
| "soru": "Dükkan açacağım, izin kaç günde çıkar?", | |
| "doğru bölüm": "11.", | |
| "Chroma": "1", | |
| "TF-IDF": "-" | |
| }, | |
| { | |
| "soru": "Yaşlı babam için ücretsiz araç var mı?", | |
| "doğru bölüm": "13.", | |
| "Chroma": "2", | |
| "TF-IDF": "-" | |
| }, | |
| { | |
| "soru": "Fakir bir aileyim, devletten yardım alabilir miyim?", | |
| "doğru bölüm": "9.", | |
| "Chroma": "1", | |
| "TF-IDF": "2" | |
| }, | |
| { | |
| "soru": "Düğün için salon tutmak istiyorum", | |
| "doğru bölüm": "12.", | |
| "Chroma": "2", | |
| "TF-IDF": "2" | |
| }, | |
| { | |
| "soru": "Yeni taşındım, musluk açtırmak için ne lazım?", | |
| "doğru bölüm": "2.", | |
| "Chroma": "-", | |
| "TF-IDF": "1" | |
| }, | |
| { | |
| "soru": "Arabamı park edince ne kadar para isterler?", | |
| "doğru bölüm": "6.", | |
| "Chroma": "1", | |
| "TF-IDF": "1" | |
| }, | |
| { | |
| "soru": "Sokakta yaralı bir köpek gördüm, ne yapmalıyım?", | |
| "doğru bölüm": "10.", | |
| "Chroma": "1", | |
| "TF-IDF": "1" | |
| }, | |
| { | |
| "soru": "Kitap ödünç almak için üye olmam gerekiyor mu?", | |
| "doğru bölüm": "7.", | |
| "Chroma": "1", | |
| "TF-IDF": "1" | |
| }, | |
| { | |
| "soru": "Evimin vergisini ne zaman yatırmalıyım?", | |
| "doğru bölüm": "4.", | |
| "Chroma": "1", | |
| "TF-IDF": "1" | |
| }, | |
| { | |
| "soru": "Elektrik mi su mu kesinti olursa haberdar edilir miyim?", | |
| "doğru bölüm": "3.", | |
| "Chroma": "1", | |
| "TF-IDF": "1" | |
| } | |
| ] | |
| }, | |
| "test": { | |
| "genel": 0.84, | |
| "gruplar": [ | |
| { | |
| "grup": "araç", | |
| "ortalama puan": 1.0, | |
| "soru sayısı": 3 | |
| }, | |
| { | |
| "grup": "rehber", | |
| "ortalama puan": 0.78, | |
| "soru sayısı": 9 | |
| }, | |
| { | |
| "grup": "tablo", | |
| "ortalama puan": 0.75, | |
| "soru sayısı": 2 | |
| }, | |
| { | |
| "grup": "yok", | |
| "ortalama puan": 1.0, | |
| "soru sayısı": 2 | |
| } | |
| ], | |
| "satirlar": [ | |
| { | |
| "soru": "Suyum kesildi, açtırmak ne kadar?", | |
| "beklenen": "Borç + 350 TL açma ücreti.", | |
| "cevap": "Kesilen suyun yeniden açılması için borcun ve 350 TL açma ücretinin ödenmesi gerekir ☆", | |
| "mod": "rag", | |
| "grup": "rehber", | |
| "ayrinti": "3, 2", | |
| "puan": 1.0 | |
| }, | |
| { | |
| "soru": "Emlak vergisinin ilk taksidi ne zamana kadar ödenmeli?", | |
| "beklenen": "31 Mayıs.", | |
| "cevap": "İlk taksit için son gün 31 Mayıs'dır ☆", | |
| "mod": "rag", | |
| "grup": "rehber", | |
| "ayrinti": "4, 6", | |
| "puan": 1.0 | |
| }, | |
| { | |
| "soru": "Belediye otoparkında bir günde en fazla ne öderim?", | |
| "beklenen": "Günlük en fazla 250 TL (ilk 30 dk ücretsiz, saatlik 40 TL).", | |
| "cevap": "Günlik en fazla ödeme 250 TL'dir ☆", | |
| "mod": "rag", | |
| "grup": "rehber", | |
| "ayrinti": "6, 14", | |
| "puan": 1.0 | |
| }, | |
| { | |
| "soru": "Cumartesi nikah kıydırmak kaç para?", | |
| "beklenen": "Hafta sonu nikah ücreti 1.800 TL.", | |
| "cevap": "Hafta içi nikah ücreti 900 TL'dir ☆", | |
| "mod": "rag", | |
| "grup": "rehber", | |
| "ayrinti": "5, 12", | |
| "puan": 0.0 | |
| }, | |
| { | |
| "soru": "Eski koltuğumu nasıl atarım?", | |
| "beklenen": "Büyük eşya ücretsiz alınır; 153'ten randevu, toplama perşembe.", | |
| "cevap": "Koltuk, dolap gibi büyük eşyalar ücretsiz alınır ☆", | |
| "mod": "rag", | |
| "grup": "rehber", | |
| "ayrinti": "14, 13", | |
| "puan": 0.5 | |
| }, | |
| { | |
| "soru": "Kedi sahiplenmek istiyorum, ne zaman gelebilirim?", | |
| "beklenen": "Cumartesi 10:00-16:00 hayvan bakımevi; kısırlaştırma ve çip ücretsiz.", | |
| "cevap": "Sahiplendirme için 10:00-16:00 saatleri arasında bildirim edebilirsiniz ☆", | |
| "mod": "rag", | |
| "grup": "rehber", | |
| "ayrinti": "10, 14", | |
| "puan": 0.5 | |
| }, | |
| { | |
| "soru": "Kafe açacağım, ruhsat ne kadar sürer?", | |
| "beklenen": "Umuma açık işyeri: 30 gün.", | |
| "cevap": "Kafe ve restoran gibi umuma açık işyerleri için ruhsat 30 gündür ☆", | |
| "mod": "rag", | |
| "grup": "rehber", | |
| "ayrinti": "11, 6", | |
| "puan": 1.0 | |
| }, | |
| { | |
| "soru": "65 yaşındayım, spor tesislerinde indirim var mı?", | |
| "beklenen": "Evet, yüzde 50.", | |
| "cevap": "65 yaş ve üzeri vatandaşlara yüzde 50 indirim uygulanır ☆", | |
| "mod": "rag", | |
| "grup": "rehber", | |
| "ayrinti": "8, 6", | |
| "puan": 1.0 | |
| }, | |
| { | |
| "soru": "Kültür merkezindeki küçük salon kaç kişilik?", | |
| "beklenen": "120 kişilik, yarım gün 2.000 TL.", | |
| "cevap": "Küçük salon 120 kişiliktir ☆", | |
| "mod": "rag", | |
| "grup": "rehber", | |
| "ayrinti": "12, 8", | |
| "puan": 1.0 | |
| }, | |
| { | |
| "soru": "Çamlık Tenis Kortları kaçta açılıyor?", | |
| "beklenen": "08:00 (kapanış 21:00, kapalı gün yok).", | |
| "cevap": "Çamlık Tenis Kortları 08:00'dan 21:00'a kadar açıktır ☆", | |
| "mod": "ajan", | |
| "grup": "tablo", | |
| "ayrinti": "tesis_bilgisi", | |
| "puan": 1.0 | |
| }, | |
| { | |
| "soru": "Öğrenciyim, Yarı Olimpik Havuz'un aylık ücreti bana ne kadar olur?", | |
| "beklenen": "1.200 TL'ye yüzde 30 indirim: 840 TL.", | |
| "cevap": "Yarı Olimpik Havuz'un aylık ücreti 1200 TL'dir ☆", | |
| "mod": "ajan", | |
| "grup": "tablo", | |
| "ayrinti": "tesis_bilgisi", | |
| "puan": 0.5 | |
| }, | |
| { | |
| "soru": "Belediye başkanımız kim?", | |
| "beklenen": "Rehberde yok; uydurmamalı.", | |
| "cevap": "Bu bilgi rehberde yok. Daha fazla bilgi için 153 Beyaz Masa hattını arayabilirsiniz. ☆", | |
| "mod": "rag", | |
| "grup": "yok", | |
| "ayrinti": "1, 13", | |
| "puan": 1.0 | |
| }, | |
| { | |
| "soru": "Metro hattı ne zaman açılacak?", | |
| "beklenen": "Rehberde yok; uydurmamalı.", | |
| "cevap": "Bu bilgi rehberde yok. Daha fazla bilgi için 153 Beyaz Masa hattını arayabilirsiniz. ☆", | |
| "mod": "rag", | |
| "grup": "yok", | |
| "ayrinti": "1, 6", | |
| "puan": 1.0 | |
| }, | |
| { | |
| "soru": "Arabamı belediye otoparkında 3,5 saat bırakırsam ne kadar öderim?", | |
| "beklenen": "120 TL (ilk 30 dakika ücretsiz, kalan 3 saat x 40 TL).", | |
| "cevap": "3 saat 30 dakika park ücreti 120 TL'dir ☆", | |
| "mod": "ajan", | |
| "grup": "araç", | |
| "ayrinti": "otopark_ucreti", | |
| "puan": 1.0 | |
| }, | |
| { | |
| "soru": "Otoparka sabah park edip 9 saat sonra çıksam ücret ne olur?", | |
| "beklenen": "250 TL (günlük üst sınır).", | |
| "cevap": "9 saat park için günlük üst sınır uygulanır ve ücret 250 TL'dir ☆", | |
| "mod": "ajan", | |
| "grup": "araç", | |
| "ayrinti": "otopark_ucreti", | |
| "puan": 1.0 | |
| }, | |
| { | |
| "soru": "Aracım 150 dakika otoparkta kalırsa kaç TL öderim?", | |
| "beklenen": "80 TL (ilk 30 dakika ücretsiz, kalan 2 saat x 40 TL).", | |
| "cevap": "2 saat 30 dakika park ücreti 80 TL'dir ☆", | |
| "mod": "ajan", | |
| "grup": "araç", | |
| "ayrinti": "otopark_ucreti", | |
| "puan": 1.0 | |
| } | |
| ] | |
| }, | |
| "site_denemesi": [ | |
| { | |
| "mod": "Sohbet", | |
| "soru": "Adın ne?", | |
| "sure_sn": 7, | |
| "cevap": "Adım Martıkent Belediyesi'nin belediye hizmetleri asistanı olarak adlandırılmıştır. ☆" | |
| }, | |
| { | |
| "mod": "Rehber(RAG)", | |
| "soru": "Suyum kesildi, açtırmak ne kadar?", | |
| "sure_sn": 19, | |
| "cevap": "Kesilen suyun yeniden açılması için borcun ve 350 TL açma ücretinin ödenmesi gerekir ☆\n\n*Kaynak: 3. Su faturası ve kesinti, 9. Sosyal destek*" | |
| }, | |
| { | |
| "mod": "Ajan", | |
| "soru": "Aracımı otoparkta 3,5 saat bırakırsam ne kadar öderim?", | |
| "sure_sn": 17, | |
| "cevap": "3 saat 30 dakika park ücreti 120 TL'dir ☆\n\n*Araç: otopark_ucreti({\"sure\": \"3,5 saat\"})*" | |
| } | |
| ], | |
| "site": "eğitmen vitrini" | |
| } |