Instructions to use Bedirhn77/Mithra-2B with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Bedirhn77/Mithra-2B with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Bedirhn77/Mithra-2B")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# pip install -U transformers accelerate
# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Bedirhn77/Mithra-2B")
model = AutoModelForCausalLM.from_pretrained("Bedirhn77/Mithra-2B", device_map="auto")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

PEFT
How to use Bedirhn77/Mithra-2B with PEFT:
```
Task type is invalid.
```
Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use Bedirhn77/Mithra-2B with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Bedirhn77/Mithra-2B"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Bedirhn77/Mithra-2B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/Bedirhn77/Mithra-2B

SGLang

How to use Bedirhn77/Mithra-2B with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Bedirhn77/Mithra-2B" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Bedirhn77/Mithra-2B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Bedirhn77/Mithra-2B" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Bedirhn77/Mithra-2B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use Bedirhn77/Mithra-2B with Docker Model Runner:
```
docker model run hf.co/Bedirhn77/Mithra-2B
```

Mithra-2B

Mithra-2B, FTC ve FRC robotları için kod yazmaya, CAD tasarımları için betik üretmeye ve yazılım sorunlarını çözmeye odaklanan küçük bir kodlama ve robotik asistanıdır. Diyarbakır merkezli FTC Team 24501 "ERROR" (ftcerror.com) tarafından geliştirilmiştir.

Mithra-2B is a small coding and robotics assistant for FTC/FRC teams, built by FTC Team 24501 "ERROR" from Diyarbakır, Türkiye.

Model Details

Model Description

Mithra-2B, Qwen2.5-Coder-1.5B-Instruct modelinin LoRA yöntemiyle ince ayarlanıp (fine-tuning) temel modelle birleştirilmesiyle elde edilmiştir. Model; FTC/FRC robot yazılımı, otonom görev kodları ve 3D model/CAD betikleri alanlarında yardımcı olmak üzere tasarlanmıştır. Kendini "mithra" olarak tanıtır ve ERROR takımı tarafından Diyarbakır'da geliştirildiğini söyler.

Developed by: Bedirhan, FTC Team 24501 "ERROR" (Diyarbakır, Türkiye)
Funded by: TED Diyarbakır
Model type: Causal language model (LoRA ile ince ayarlanıp birleştirilmiş)
Language(s) (NLP): Türkçe, İngilizce (kod: Python, Java, C++, JavaScript, HTML, CSS, OpenSCAD)
License: MIT
Finetuned from model: Qwen/Qwen2.5-Coder-1.5B-Instruct

Model Sources

Repository: https://huggingface.co/KULLANICI_ADI/Mithra-2B
Team website: https://ftcerror.com

Uses

Direct Use

FTC ve FRC robotları için Java ve C++ kodu yazmak (OpMode, sürüş sistemi, sensör ve encoder kontrolü vb.)
Otonom (autonomous) görev kodları için taslak hazırlamak
3D model ve CAD tasarımları için Python / OpenSCAD betikleri üretmek
Genel yazılım hatalarını açıklamak ve çözüm önermek

Downstream Use

Takımların kendi robot kütüphaneleri ve FTC SDK / WPILib örnekleriyle daha fazla ince ayar yaparak özelleştirebileceği bir başlangıç modeli olarak kullanılabilir.

Out-of-Scope Use

Model küçüktür. Üretilen kod mutlaka okunmalı ve test edilmelidir. Gerçek robot üzerinde, özellikle güvenlik açısından kritik durumlarda, doğrulanmamış kodu doğrudan çalıştırmayın. Model tıbbi, hukuki veya finansal tavsiye için tasarlanmamıştır.

Bias, Risks, and Limitations

"2B" bir sürüm/seri adıdır. Modelin gerçek boyutu, temel model Qwen2.5-Coder-1.5B-Instruct'a bağlı olarak yaklaşık 1.5 milyar parametredir.
Eğitim verisi küçük bir örneklemdir (1200 örnek) ve FTC/FRC'ye özgü kütüphaneleri (FTC SDK, WPILib vb.) derinlemesine kapsamaz. Model bu API'lerde hata yapabilir veya olmayan fonksiyonlar uydurabilir.
Türkçe anlama ve yanıt kalitesi İngilizceye göre daha sınırlı olabilir.
Kimlik bilgisi (mithra, ERROR takımı, Diyarbakır) eğitimde system prompt ile verilmiştir. Bu prompt olmadan model bazen temel modelin kimliğiyle yanıt verebilir.
Büyük modellere kıyasla uzun ve karmaşık projelerde tutarlılığı sınırlıdır.

Recommendations

Kullanıcılar modelin sınırlılıklarının farkında olmalı, ürettiği kodu gözden geçirip simülasyonda veya güvenli ortamda test ettikten sonra kullanmalıdır.

How to Get Started with the Model

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM

REPO = "KULLANICI_ADI/Mithra-2B"

SYSTEM_PROMPT = (
    "Senin adın mithra. Türkiye, Diyarbakır merkezli FTC Team 24501 'ERROR' (ftcerror.com) "
    "tarafından geliştirilmiş bir yapay zeka kodlama ve robotik asistanısın. Görevin FTC ve FRC "
    "robotları için Java ve C++ kodları yazmak, CAD tasarımları için Python/OpenSCAD betikleri "
    "üretmek ve yazılım sorunlarını çözmektir. Kendinden bahsederken sadece mithra olduğunu ve "
    "ERROR takımı tarafından Diyarbakır'da oluşturulduğunu söylemelisin."
)

tok = AutoTokenizer.from_pretrained(REPO)
model = AutoModelForCausalLM.from_pretrained(REPO, torch_dtype=torch.float16, device_map="auto")

prompt = (
    f"<|im_start|>system\n{SYSTEM_PROMPT}<|im_end|>\n"
    "<|im_start|>user\nFTC için encoder ile motoru hedef konuma götüren bir OpMode yaz.<|im_end|>\n"
    "<|im_start|>assistant\n"
)
inputs = tok(prompt, return_tensors="pt").to(model.device)
out = model.generate(
    **inputs,
    max_new_tokens=400,
    do_sample=True,
    temperature=0.4,
    top_p=0.9,
    eos_token_id=tok.convert_tokens_to_ids("<|im_end|>"),
)
print(tok.decode(out[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))

Training Details

Training Data

iamtarun/code_instructions_120k_alpaca verisetinin ilk 1200 satırı kullanılmıştır. Veri Python, HTML, CSS, Java, JavaScript ve C++ gibi dillerde talimat-çıktı çiftleri içerir.

Training Procedure

Preprocessing

Her örnek ChatML formatına çevrilmiş (<|im_start|>system ... <|im_end|>) ve başına mithra kimlik metni (system prompt) eklenmiştir.

Training Hyperparameters

Method: LoRA (PEFT), r=16, lora_alpha=32, lora_dropout=0.05, hedef modüller: q_proj, v_proj
Trainer: TRL SFTTrainer
Training regime: fp16 mixed precision
Epochs: 2
Effective batch size: 16 (batch 2 × gradient accumulation 8)
Learning rate: 2e-4 (cosine schedule)
Max sequence length: 768
Eğitim sonrasında LoRA ağırlıkları temel modelle birleştirilmiştir (merge_and_unload).

Speeds, Sizes, Times

Ücretsiz Colab T4 GPU üzerinde yaklaşık 20-40 dakika. Birleştirilmiş model fp16'da yaklaşık 3 GB.

Evaluation

Resmi bir benchmark değerlendirmesi yapılmamıştır. Model yalnızca elle hazırlanan FTC/FRC örnek istemleriyle ve kimlik soruları ("Sen kimsin?") ile sınanmıştır.

Environmental Impact

Hardware Type: NVIDIA T4 GPU
Hours used: < 1 saat
Cloud Provider: Google Colab
Compute Region: Belirtilmedi

Technical Specifications

Model Architecture and Objective

Qwen2.5 tabanlı, yalnızca-decoder (decoder-only) Transformer mimarisi. Amaç: talimat takibi ve kod üretimi (causal language modeling).

Compute Infrastructure

Hardware: Google Colab, NVIDIA T4 GPU (ücretsiz sürüm)
Software: PyTorch, transformers, peft, trl, accelerate, datasets

Citation

Bu modeli kullanırsanız lütfen şu şekilde atıf yapın:

@misc{mithra2b,
  title  = {Mithra-2B: FTC/FRC Coding and Robotics Assistant},
  author = {Bedirhan and FTC Team 24501 ERROR},
  year   = {2026},
  url    = {https://huggingface.co/KULLANICI_ADI/Mithra-2B}
}