Instructions to use Maxenith/MAXENITH-32B with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Maxenith/MAXENITH-32B with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Maxenith/MAXENITH-32B")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# pip install -U transformers accelerate
# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Maxenith/MAXENITH-32B")
model = AutoModelForCausalLM.from_pretrained("Maxenith/MAXENITH-32B", device_map="auto")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use Maxenith/MAXENITH-32B with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Maxenith/MAXENITH-32B"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Maxenith/MAXENITH-32B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/Maxenith/MAXENITH-32B

SGLang

How to use Maxenith/MAXENITH-32B with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Maxenith/MAXENITH-32B" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Maxenith/MAXENITH-32B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Maxenith/MAXENITH-32B" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Maxenith/MAXENITH-32B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use Maxenith/MAXENITH-32B with Docker Model Runner:
```
docker model run hf.co/Maxenith/MAXENITH-32B
```
Browse Quantizations to use this model in llama.cpp, Ollama, LM Studio, or any compatible app.

MAXENITH 32B / ماكسينيث 32B

🇬🇧 English

MAXENITH 32B is a 32-billion-parameter language model developed by the Maxenith organization. It is an advanced causal language model designed with a strong focus on deep reasoning, structured problem-solving, and agent-oriented capabilities.

Model Overview

Property	Value
Model	MAXENITH 32B
Parameter Count	32B
Architecture	Dense Transformer
Languages	Arabic, English
Model Type	Causal Language Model
Primary Focus	Reasoning, Coding, Agent Systems
Framework	PyTorch / Transformers

Development

The development process includes:

Reasoning: Extensive training and refinement for multi-step mathematical and logical problem-solving.
GRPO: Implementation of Group Relative Policy Optimization for self-verification and error correction.
Coding: Advanced fine-tuning focused on programming, clean code generation, and software engineering principles.
Agent Capabilities: Structured JSON outputs and tool-oriented interaction for API usage.
Recurrent Depth: Architectural modifications to explore additional computational depth during inference (Latent Space).

Usage (Standard)

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = "Maxenith/MAXENITH-32B"

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto"
)

messages = [
    {"role": "system", "content": "You are Max from Maxenith."},
    {"role": "user", "content": "Explain how neural networks learn."}
]

inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
outputs = model.generate(inputs, max_new_tokens=512)
print(tokenizer.decode(outputs[0][inputs.shape[-1]:], skip_special_tokens=True))

Usage (4-bit Quantization for lower VRAM)

To run the model on GPUs with 24GB VRAM or less, use 4-bit quantization:

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM, BitsAndBytesConfig

model_id = "Maxenith/MAXENITH-32B"
bnb_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_compute_dtype=torch.bfloat16,
    bnb_4bit_quant_type="nf4",
    bnb_4bit_use_double_quant=True,
)

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id, 
    quantization_config=bnb_config, 
    device_map="auto"
)

Limitations

Model performance depends on the task, prompt, inference configuration, and available computational resources. Reasoning accuracy, factual reliability, and coding performance should be evaluated through independent benchmarks. No guarantee of hallucination-free outputs is made.

License

This model is released under the Apache 2.0 license.

🇸🇦 العربية

ماكسينيث 32B (MAXENITH 32B) هو نموذج لغوي يضم 32 مليار معامل (Parameter)، تم تطويره بالكامل بواسطة منظمة Maxenith. هو نموذج متقدم مصمم بتركيز قوي على الاستدلال العميق، حل المشكلات المنظم، والقدرات الموجهة للوكلاء الأذكياء (Agents).

نظرة عامة على النموذج

الخاصية	القيمة
النموذج	MAXENITH 32B
عدد المعاملات	32 مليار
البنية	Dense Transformer
اللغات	العربية، الإنجليزية
نوع النموذج	نموذج لغوي سببي (Causal LM)
التركيز الأساسي	الاستدلال، البرمجة، أنظمة الوكلاء
إطار العمل	PyTorch / Transformers

عملية التطوير

تتضمن عملية التطوير ما يلي:

الاستدلال (Reasoning): تدريب مكثف لتحسين قدرات حل المشكلات الرياضية والمنطقية متعددة الخطوات.
التعلم المعزز (GRPO): تطبيق تقنية تحسين السياسة النسبية الجماعية للتحقق الذاتي وتصحيح الأخطاء.
البرمجة (Coding): ضبط دقيق متقدم يركز على كتابة الأكواد النظيفة وهندسة البرمجيات.
قدرات الوكيل (Agent): إخراج منظم بصيغة JSON والتفاعل الموجه للأدوات لاستخدام واجهات برمجة التطبيقات (APIs).
العمق المتكرر (Recurrent Depth): تعديلات معمارية لاستكشاف عمق حسابي إضافي أثناء التفكير (الفضاء الكامن).

القيود

يعتمد أداء النموذج على المهمة، ونوع المطالبة (Prompt)، وإعدادات التشغيل، والموارد الحسابية المتاحة. يجب تقييم دقة الاستدلال والموثوقية البرمجية من خلال اختبارات مستقلة. لا يوجد ضمان لخلو المخرجات من الهلوسة (Hallucinations).

الترخيص

تم إصدار هذا النموذج بموجب ترخيص Apache 2.0.

عن منظمة Maxenith

Maxenith هي منظمة مستقلة لتطوير الذكاء الاصطناعي تركز على النماذج اللغوية، معماريات الاستدلال، تحسين النماذج، والأنظمة الذكية. يجمع عملها بين تطوير النماذج الأساسية والأساليب التدريبية والمعمارية التجريبية.

Downloads last month: 39

Safetensors

Model size

33B params

Tensor type

F16

Model tree for Maxenith/MAXENITH-32B

Adapters

1 model

Quantizations

2 models