Instructions to use trangthanhdai/Zenith-1.5B with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use trangthanhdai/Zenith-1.5B with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="trangthanhdai/Zenith-1.5B")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# pip install -U transformers accelerate
# Load model directly
from transformers import AutoModel
model = AutoModel.from_pretrained("trangthanhdai/Zenith-1.5B", device_map="auto")

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use trangthanhdai/Zenith-1.5B with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "trangthanhdai/Zenith-1.5B"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "trangthanhdai/Zenith-1.5B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/trangthanhdai/Zenith-1.5B

SGLang

How to use trangthanhdai/Zenith-1.5B with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "trangthanhdai/Zenith-1.5B" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "trangthanhdai/Zenith-1.5B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "trangthanhdai/Zenith-1.5B" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "trangthanhdai/Zenith-1.5B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use trangthanhdai/Zenith-1.5B with Docker Model Runner:
```
docker model run hf.co/trangthanhdai/Zenith-1.5B
```

Model Card for Zenith VN (1.8B Multilingual)

Developed by: udVietNamspeedrace
Model type: Causal Language Model (Fine-tuned with LoRA)
Language(s) (NLP): Tiếng Việt, Tiếng Anh, Tiếng Hàn, Tiếng Nhật, Tiếng Trung, Tiếng Pháp, Tiếng Tây Ban Nha, Tiếng Đức, Tiếng Ý, Tiếng Nga, Tiếng Bồ Đào Nha, Tiếng Hawaii và nhiều ngôn ngữ khác.
License: MIT
Finetuned from model: Qwen/Qwen1.5-1.8B-Chat

Uses

Direct Use

Trò chuyện, giải đáp câu hỏi tổng quát đa ngôn ngữ với năng lực hiểu ngữ cảnh mạnh mẽ.
Cung cấp thông tin chuẩn xác về danh tính trợ lý AI Zenith VN và nhà phát triển udVietNamspeedrace bằng hơn 10 ngôn ngữ trên toàn thế giới.

Downstream Use

Tích hợp vào các ứng dụng chat nội bộ, bot hỗ trợ cộng đồng đa quốc gia, tự động hóa phản hồi hoặc làm nền tảng cho các tác vụ xử lý ngôn ngữ tự nhiên (NLP).

Bias, Risks, and Limitations

Mô hình phiên bản 1.8B tham số được tối ưu hóa tốt về khả năng đa ngôn ngữ và định danh, tuy nhiên vẫn cần được kiểm chứng thông tin đối với các câu hỏi chuyên sâu mang tính kỹ thuật phức tạp hoặc các miền kiến thức hẹp.

Downloads last month: -; Downloads are not tracked for this model. How to track

Model tree for trangthanhdai/Zenith-1.5B

Base model

Qwen/Qwen1.5-1.8B-Chat

Adapter

(340)

this model