Feature Extraction
Transformers
Safetensors
Korean
sysone
decision-model
classification
router
korean
custom_code
Instructions to use leapshared/nari-router-4b with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use leapshared/nari-router-4b with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("feature-extraction", model="leapshared/nari-router-4b", trust_remote_code=True)# pip install -U transformers accelerate # Load model directly from transformers import AutoModel model = AutoModel.from_pretrained("leapshared/nari-router-4b", trust_remote_code=True, device_map="auto") - Notebooks
- Google Colab
- Kaggle
nari-router-4b
blackmallangcow/nari-decision-4b(v3.2, ์ปค๋ฐ 029c4628a38859dce5b0db1742e9c97545aabe12)๋ฅผ ๊ต์ค ๊ณผํ ์คํ ๋ก๋ด(OpenArm SciEdu)์ ํ๊ตญ์ด ๋ง ๋ผ์ฐํฐ๋ก ๋ฏธ์ธ์กฐ์ ํ ๋ชจ๋ธ์ด๋ค.
๋ฐ์์ด ํ์ยท์ ์๋ ๋ง๊ณผ ๊ทธ๋์ ์ํฉ ์นธ์ ์ดํ ๊ฐ๋(pause, stop, proceed, retry, start_switch, leaf_side, hands, question, answer, chitchat, unclear) ๊ฐ์ด๋ฐ ํ๋๋ก ๊ฐ๋ฅธ๋ค.
๋ฐํ ๋ชจ๋ธ์ ์๊ฒฉ ์ฝ๋(modeling_sysone.py)๋ฅผ ๊ทธ๋๋ก ์ฐ๊ณ model.decide()๋ก ๋ถ๋ฅธ๋ค. LoRA๋ bf16 ๊ฐ์ค์น์ ํฉ์ณค๋ค.
- ํ์ต: ๋ฐฑ๋ณธ ๋ชจ๋ ์ ํ ์ธต LoRA(๊ณ์ 16, alpha 32.0) + ๊ฒฐ์ ํค๋, ํค๋๋ ๋ก๊ทธ ์์ค + Brier, ๊ธ์ ๋ต์ ๊ต์ฐจ ์ํธ๋กํผ, ๋ณด๊ธฐ ์์๋ฅผ ์ค๋ง๋ค ์์, ํ์ต๋ฅ 0.0002, ์ํฌํฌ 3, ๋ฐฐ์น 8, ์จ์ 2, ๋ฉ์ถคยท๊ทธ๋ง ๊ฐ์ค 2.0.
- ์ฝ๊ธฐ: ๊ฒฐ์ ํค๋์ ๊ธ์ ๋ต์ ๋ก๊ทธ ํ๋ฅ ์
lm_weight0.0๋ก ์๋๋ค. ๋ณด์ ์จ๋choice:6+= 2.01(๊ฒ์ฆ + ๊ฐ๋ฐ ์ธํธ๋ก ๋ค์ ๋ง์ถค). - ์
๋ ฅ: state๋
๊ต์ค ๊ณผํ ์คํ ๋ก๋ด ๊ณ์์ ๋ค๋ฆฐ ํ๊ตญ์ด ๋ง์ ๋ฐ์์ด ๊ธ๊ณผ ๊ทธ๋์ ์ํฉ์ด๋ค. '||' ์์ ์ํฉ ์นธ, ๋ค๋ ๊ทธ ๋ง์ด๋ค.๋ค์์ฅ๋ฉด=โฆ | ์คํ=โฆ | ๋๋ญ์ ํ๋=โฆ | AI ์ ์=โฆ | ๋งํ ์ฌ๋=โฆ || <๋ง>ํ ์ค, ์ง๋ฌธ์utterance_kindํ๋(choice, ๋ณด๊ธฐ๋ ํ์ตํ ๊ธ ๊ทธ๋๋ก). ๋ณด๊ธฐ ๊ธ๊ณผ ์ง์๋ฌธ์ ์ ์ฅ์dialogue/routing/nari_route.py์short_stopํ์ด๋ค. ๋ค๋ฅธ ๊ธ๋ก ๋ฌผ์ผ๋ฉด ํ์ตํ ๋ถํฌ์์ ๋ฒ์ด๋๋ค. - ์๋ฃ์ ์ธก์ : ๋น๊ณต๊ฐ ์ ์ฅ์์ ํ์ต ์๋ฃ๋ก ํ์ตํ๊ณ ์๋ฃ๋ ์ฌ๋ฆฌ์ง ์๋๋ค. ์ซ์๋ ์ ์ฅ์
docs/measurements/routing.md12~15์ .
- Downloads last month
- 80
Model tree for leapshared/nari-router-4b
Base model
Qwen/Qwen3.5-4B-Base Finetuned
Qwen/Qwen3.5-4B Finetuned
blackmallangcow/nari-decision-4b