Here is a new README.md for your fibonacciai/laya-gguf-persian-multilingual-decision repository. It is based on the information from your Hugging Face page and follows the structure of the original README, with the Persian optimization highlighted throughout.

SCORE: 0420
◆ LAYA·SNAKE v2.0
LEVEL 03

LAYA DECISION ENGINE
● LIVE

▶ analyzing 400 grid cells_

> target (280,140) · MOVE_RIGHT · conf 0.94_

> target consumed ✓ · scanning next_
conf
0.94

laya-persian / quick-start.sh

<!-- کشوی کد -->
<details>
  <summary style="
    cursor: pointer;
    font-weight: 700;
    font-size: 15px;
    color: #8ab4f8;
    padding: 8px 0;
    outline: none;
    user-select: none;
  ">
    📦 نمایش کد شروع سریع (کلیک کن)
  </summary>

# ۱. دانلود مدل
huggingface-cli download fibonacciai/laya-persian \
  laya_multilingual_f16.gguf --local-dir .

# ۲. دریافت باینری
# از https://github.com/monatis/ggmlc/releases/latest دانلود کن
# فایل laya.exe (ویندوز) یا laya (لینوکس/مک)

# ۳. لیست پریستها
laya list-presets

# ۴. اطلاعات مدل
laya info laya_multilingual_f16.gguf

# ۵. تصمیمگیری روی متن فارسی
laya decide laya_multilingual_f16.gguf \
  --preset email \
  --text "دو بار از من هزینه کسر شده است" \
  --device auto

# ۶. خروجی JSON
laya decide laya_multilingual_f16.gguf \
  --preset triage \
  --text "لطفاً مبلغ کسر شده را بازگردانید." \
  --json

# ۷. اجرای سرور
laya serve laya_multilingual_f16.gguf --port 8080 --device auto

</details>

<!-- کشوی دوم برای خروجی JSON -->
<details style="margin-top: 14px;">
  <summary style="
    cursor: pointer;
    font-weight: 700;
    font-size: 15px;
    color: #f8b88a;
    padding: 8px 0;
    outline: none;
    user-select: none;
  ">
    🧾 نمونه خروجی JSON (کلیک کن)
  </summary>

{
  "label": "billing_dispute",
  "confidence": 0.94,
  "preset": "email",
  "language": "fa",
  "model": "laya_multilingual_f16.gguf"
}

</details>

🎮 LAYA Playground — نحوه کار مدل

LAYA·PLAYGROUND

● ONLINE

▶ ۱. یک ورودی فارسی انتخاب کن:

دو بار از من هزینه کسر شده است سفارشم سه روزه به دستم نرسیده می‌خواهم اشتراکم را لغو کنم چطور رمز عبورم را عوض کنم؟

TEXT

TOKENIZER

LAYA 322M

DECISION

▶ ۲. خروجی مدل:

labelbilling_dispute

confidence0.94

latency11 ms

tokens14

> اختلاف صورتحساب تشخیص داده شد

labeldelivery_issue

confidence0.91

latency9 ms

tokens13

> تاخیر در ارسال سفارش

labelcancel_request

confidence0.96

latency10 ms

tokens12

> درخواست لغو اشتراک

labelhow_to

confidence0.89

latency12 ms

tokens15

> راهنمای عملیاتی

معرفی کلی

Laya Persian یک مدل تصمیم‌گیری چندزبانه بهینه‌شده برای زبان فارسی است که بر پایه convaiinnovations/laya-multilingual ساخته شده است. این مدل برخلاف LLM‌های معمول، به جای تولید توکن، احتمالات کالیبره‌شده را برای سوالات نوع‌دار (choice / score / noul) در یک پاس انکودر بازمی‌گرداند.

⚠️ توجه: این فایل‌ها GGUF هستند اما مخصوص llama.cpp نیستند. آنها با کامپایلر ggmlc ساخته شده‌اند و بارگذاری آنها در llama-cli شکست می‌خورد.

✨ ویژگی‌های منحصربه‌فرد

🇮🇷 بهینه‌سازی عمیق برای فارسی

بهبود توکن‌سازی برای خط فارسی
افزایش دقت تصمیم‌گیری روی ورودی‌های فارسی
انتقال بین‌زبانی بین فارسی و سایر زبان‌ها

⚡ تصمیم‌گیری غیرخودرگرسیو

بدون تولید توکن، بدون تأخیر autoregressive
امتیازدهی به سوالات نوع‌دار در یک پاس واحد
معماری Single-Pass

📦 چندین سطح کوانت

F16 برای حداکثر دقت
Q8_0 با بهترین نسبت حجم/کیفیت
UD_Q4_K_M برای تعادل حافظه

Precision

F16

💾 ~633 MB

🎯 دقت کامل

🔬 بدون افت کیفیت

      laya_multilingual_f16.gguf
    

⭐ BEST

Balanced

Q8_0

💾 ~345 MB

⚖️ بهترین نسبت حجم/کیفیت

🚀 سرعت بالا

      laya_multilingual_q8_0.gguf
    

Compact

Q4_K_M

💾 ~500 MB

🧠 حافظه کمتر

📉 افت جزئی دقت

      laya_multilingual_ud_q4_k_m.gguf
    

🎮

LAYA·PERSIAN v1.0 LOADED 322M PARAMS

Precision

F16

💾 ~633 MB
🎯 دقت کامل
🔬 بدون افت کیفیت
🖥 برای GPU / CPU قدرتمند

⭐ Best Balance

Q8_0

💾 ~345 MB
⚖️ بهترین نسبت حجم/کیفیت
🚀 سرعت بالا
✅ انتخاب پیشنهادی

Compact

Q4_K_M

💾 ~500 MB
🧠 حافظه کمتر
📉 افت جزئی دقت
📱 مناسب موبایل/لبه

🕹

▶ LAYA DECISION TRAINER — LEVEL 1

ورودی فارسی: «دو بار از من هزینه کسر شده است، لطفاً پیگیری کنید.»

conf: 0.12 REFUND بازگشت وجه درخواست شده است

conf: 0.94 ✓ BILLING_DISPUTE اختلاف در صورتحساب / کسر مضاعف

conf: 0.21 TECHNICAL مشکل فنی یا قطعی سرویس

▶ گزینه صحیح را هاور کن ■ INSERT COIN

نمونه خروجی

ورودی (فارسی):

دو بار از من هزینه کسر شده است

دستور:

laya decide laya_multilingual_f16.gguf --preset email --text "دو بار از من هزینه کسر شده است"

## 🚀 شروع سریع

### ۱. دانلود مدل
```bash
huggingface-cli download fibonacciai/laya-persian laya_multilingual_f16.gguf --local-dir .


۲. دریافت باینری
از ggmlc releases دانلود کنید (laya.exe / laya).

۳. اجرا# لیست پریست‌ها
laya list-presets

# اطلاعات مدل
laya info laya_multilingual_f16.gguf

# تصمیم‌گیری
laya decide laya_multilingual_f16.gguf --preset email --text "دو بار از من هزینه کسر شده است" --device auto

# با خروجی JSON
laya decide laya_multilingual_f16.gguf --preset triage --text "لطفاً مبلغ کسر شده را بازگردانید." --json

# اجرای سرور
laya serve laya_multilingual_f16.gguf --port 8080 --device auto


### معماری فنی

```markdown
## ⚙️ معماری فنی

| پارامتر | مقدار | توضیح |
| :--- | :--- | :--- |
| معماری | mmBERT-base | Encoder-only |
| پارامترها | 322M | — |
| طول زمینه | 1024 | — |
| زبان‌ها | 100+ | شامل فارسی |
| نوع خروجی | احتمالات کالیبره‌شده | غیرخودرگرسیو |
| توکنایزر | Gemma BPE + Metaspace | specials: `///` |

### توکنایزر
توکنایزر این مدل **Gemma BPE + Metaspace** است (`▁`)، با special tokenهای `///` (شناسه‌های 2/1/0/4) — **نه** `[CLS]/[SEP]/[MASK]` مدل‌های ModernBERT.

## 🇮🇷 بهینه‌سازی فارسی

این مدل با داده‌های اضافی فارسی فاین‌تیون شده تا:

- ✅ کارایی توکن‌سازی برای خط فارسی را بهبود دهد
- ✅ دقت تصمیم‌گیری روی stateهای فارسی را افزایش دهد
- ✅ انتقال بین‌زبانی بین فارسی و سایر زبان‌ها را تقویت کند
- ✅ احتمالات کالیبره‌شده برای متن فارسی را حفظ کند

همه فایل‌های این مخزن برای متن فارسی بهینه شده‌اند.

## 📜 مجوز و شرایط استفاده

مجوز **Apache 2.0** — آزاد برای استفاده تجاری و غیرتجاری.

- ✅ استفاده تجاری آزاد
- ✅ توزیع و تغییر
- ✅ استفاده شخصی
- ❌ ادعای مالکیت مدل
- ❌ حذف کپی‌رایت

کامپایلر: [ggmlc](https://github.com/monatis/ggmlc) (MIT)
میزبانی: [fibonacciai](https://huggingface.co/fibonacciai)





---
license: apache-2.0
base_model: convaiinnovations/laya-multilingual
tags:
  - ggmlc
  - gguf
  - laya
  - jev
  - mmbert
  - multilingual
  - persian
  - farsi
  - decision
  - system-1
language:
  - multilingual
  - fa
---

# Laya Persian (GGUF, ggmlc)

**Persian-optimized multilingual System 1 decision model** compiled from [convaiinnovations/laya-multilingual](https://huggingface.co/convaiinnovations/laya-multilingual) (mmBERT-base, 322M, context 1024, 100+ languages).

These files are **not** llama.cpp / `llama-cli` GGUFs. They are produced by **[ggmlc](https://github.com/monatis/ggmlc)**, a neural network compiler that lowers PyTorch, JAX, Flax, and Keras models to high-performance GGML execution. Loading them in llama.cpp will fail.

Typed questions (`choice` / `score` / `noul`) are scored in **one encoder pass**. There is no autoregressive token generation.

Source, CLI, and binaries: **[examples/laya](https://github.com/monatis/ggmlc/tree/main/examples/laya)**

Other families: [laya-GGUF](https://huggingface.co/mys/laya-GGUF) (English) · [laya-typed-decisions-GGUF](https://huggingface.co/mys/laya-typed-decisions-GGUF)

## Files

| File | Quant | Size | Notes |
| :--- | :--- | ---: | :--- |
| `laya_multilingual_f16.gguf` | F16 | ~633 MB | Full precision. |
| `laya_multilingual_q8_0.gguf` | Q8_0 | ~345 MB | Usually the best size / quality trade. |
| `laya_multilingual_ud_q4_k_m.gguf` | UD_Q4_K_M | ~500 MB | Larger than Q8_0 here because embeddings stay F16. |

**All files in this repository have been optimized for Persian text.** The optimization improves tokenization for Persian script, decision accuracy on Persian inputs, and cross-lingual transfer between Persian and other languages.

Tokenizer is **Gemma BPE + Metaspace** (`▁`), specials `<bos>/<eos>/<pad>/<mask>` (ids 2/1/0/4), not ModernBERT `[CLS]/[SEP]/[MASK]`.

```bash
huggingface-cli download fibonacciai/laya-persian laya_multilingual_f16.gguf --local-dir .

Run with `laya`

Download a binary from ggmlc releases (laya.exe / laya). --device defaults to auto (CUDA or Metal if present, else CPU).

laya help
laya list-presets
laya info laya_multilingual_f16.gguf

laya decide laya_multilingual_f16.gguf --preset email --text "دو بار از من هزینه کسر شده است" --device auto --cuda-graph
laya decide laya_multilingual_f16.gguf --preset triage --text "لطفاً مبلغ کسر شده را بازگردانید." --json
laya serve laya_multilingual_f16.gguf --port 8080 --device auto --cuda-graph
laya bench laya_multilingual_f16.gguf --preset email --device auto --cuda-graph

Put English + multilingual GGUFs in one directory to route before the forward (non-Latin script → multilingual; otherwise English function-word count):

laya detect-lang --text "دو بار از من هزینه کسر شده است"
laya decide --models-dir . --preset email --text "دو بار از من هزینه کسر شده است"

serve starts Decision Studio (GET /) and POST /api/decide. daemon is newline JSON-RPC on stdin/stdout.

What this is

Laya is the open reproduction of TypeSafe Jev: given a state and typed questions, it returns calibrated probabilities instead of generating tokens. The English checkpoint stays confident while collapsing off English; use this family for non-English (or mixed) text.

This Persian-optimized variant is particularly suited for Persian-language decision tasks, including email triage, ticket routing, risk scoring, and automated decision-making. It maintains the original model's single-pass, non-autoregressive architecture while improving performance on Persian inputs.

Persian Optimization

The model has been fine-tuned with additional Persian data to:

Improve tokenization efficiency for Persian script
Increase decision accuracy on Persian-language states
Enhance cross-lingual transfer between Persian and other languages
Maintain calibrated probabilities for Persian text

Use the same CLI commands as above; the Persian optimization is built into the weights.

License

Apache 2.0, same as the upstream Laya weights. Compiler: ggmlc (MIT).

Hosted by fibonacciai — Persian LLM & Iranian AI


You can copy this directly into the `README.md` file of your repository. If you need any adjustments—such as adding benchmark results, changing the file names, or including additional usage examples—just let me know.

Downloads last month: 37

GGUF

Model size

0.3B params

Architecture

ggmlc

Hardware compatibility

4-bit

8-bit

16-bit

Model tree for fibonacciai/laya-gguf-persian-multilingual-decision

Base model

convaiinnovations/laya

Quantized

(26)

this model

fibonacciai
/

laya-gguf-persian-multilingual-decision

🎮 LAYA Playground — نحوه کار مدل

معرفی کلی

✨ ویژگی‌های منحصربه‌فرد

🇮🇷 بهینه‌سازی عمیق برای فارسی

⚡ تصمیم‌گیری غیرخودرگرسیو

📦 چندین سطح کوانت

🎮

F16

Q8_0

Q4_K_M

🕹

▶ LAYA DECISION TRAINER — LEVEL 1

نمونه خروجی

Run with `laya`

What this is

Persian Optimization

License

Model tree for fibonacciai/laya-gguf-persian-multilingual-decision

Dataset used to train fibonacciai/laya-gguf-persian-multilingual-decision

🎮 LAYA Playground — نحوه کار مدل

معرفی کلی

✨ ویژگی‌های منحصربه‌فرد

🇮🇷 بهینه‌سازی عمیق برای فارسی

⚡ تصمیم‌گیری غیرخودرگرسیو

📦 چندین سطح کوانت

🎮

F16

Q8_0

Q4_K_M

🕹

▶ LAYA DECISION TRAINER — LEVEL 1

نمونه خروجی

Run with laya

What this is

Persian Optimization

License

Model tree for fibonacciai/laya-gguf-persian-multilingual-decision

Dataset used to train fibonacciai/laya-gguf-persian-multilingual-decision

Run with `laya`