mlx-community/plamo-2-1b-bf16

The Model mlx-community/plamo-2-1b-bf16 was converted to MLX format from pfnet/plamo-2-1b using mlx-lm version 0.22.0.

Use with mlx

# numba is required for the new PLaMo tokenizer
pip install mlx numba 'mlx-lm>=0.22.0'
python -m mlx_lm.generate \
--model mlx-community/plamo-2-1b-bf16 \
--prompt 'įžŽå‘ŗã—ã„ã‚ĢãƒŦãƒŧぎäŊœã‚Šæ–šã‚’į´šäģ‹ã—ぞす。' \
--ignore-chat-template \
--max-tokens 1024 \
--extra-eos-token '<|plamo:bos|>' \
--temp 0.7 \
--seed 0
==========

゚パイ゚ぎäŊŋい斚からã‚ĢãƒŦãƒŧぎäŊœã‚Šæ–šãžã§čŠŗã—ãč§ŖčĒŦしぞす。
## ã‚ĢãƒŦãƒŧぎäŊœã‚Šæ–š
**â‘ ææ–™ã‚’į”¨æ„ã™ã‚‹**
åĄŠã‚’éŠé‡åŠ ãˆã‚‹ã¨ã€ã‚šãƒ‘ã‚¤ã‚ˇãƒŧãĒéĻ™ã‚ŠãŒæĨŊしめぞす。
ã‚¯ãƒŸãƒŗã€ã‚ŗãƒĒã‚ĸãƒŗãƒ€ãƒŧãĒおぎ゚パイ゚をäŊŋã†ã¨ã€éŖŸæŦ˛ã‚’そそりぞす。
**â‘Ąã‚šãƒ‘ã‚¤ã‚šã‚’į‚’ã‚ã‚‹**
゚パイ゚は始めãĢ少しå…Ĩれるだけで、そぎ垌は垐々ãĢ加えぞす。
**â‘ĸįŽ‰ã­ãŽãŽãŋã˜ã‚“åˆ‡ã‚Šã‚’į‚’ã‚ã‚‹**
įŽ‰ã­ãŽã‚’į‚’ã‚ã‚‹ã“ã¨ã§ã€į”˜ãŋãŒį”Ÿãžã‚Œãžã™ã€‚
**â‘Ŗéļč‚‰ã‚’į‚’ã‚ã‚‹**
éļč‚‰ã‚’į‚’ã‚ã‚‹éš›ãĢは、į„ĻげãĒいようãĢæŗ¨æ„ã—ãžã™ã€‚
**â‘¤č‚‰ãŽč‰˛ãŒå¤‰ã‚ãŖãŸã‚‰**
č‚‰ãŽč‰˛ãŒå¤‰ã‚ãŖãŸã‚‰ã€æŽ‹ã‚ŠãŽã‚šãƒ‘ã‚¤ã‚šã‚’é †į•ĒãĢ加えぞす。
**â‘ĨãƒĢãƒŧをつくる**
最垌ãĢ、įĢをæ­ĸめãĻから、ãƒĢãƒŧを加えぞす。
**â‘ĻãƒĢãƒŧを加える**
ãƒĢãƒŧを加える際ãĢは、åŧąįĢでå„Ēã—ãåŠ į†ąã—ãžã™ã€‚
**⑧ãƒĢãƒŧがéĻ´æŸ“ã‚“ã ã‚‰åŽŒæˆ**
ãƒĢãƒŧがéĻ´æŸ“ã‚“ã ã‚‰ã€åŽŒæˆã§ã™ã€‚
## 最垌ãĢ
ã‚ĢãƒŦãƒŧぱパイ゚ぎįĩ„ãŋåˆã‚ã›ã§å‘ŗãŒå¤‰ã‚ã‚Šãžã™ã€‚
äģŠå›žį´šäģ‹ã—たãƒŦã‚ˇãƒ”ã‚’å‚č€ƒãĢ、č‡Ē分åĨŊãŋぎã‚ĢãƒŦãƒŧをäŊœãŖãĻãŋãĻください。
同じようãĢäŊœãŖãĻも、゚パイ゚ぎįĩ„ãŋåˆã‚ã›ã§å‘ŗãŒå¤‰ã‚ã‚‹ãŽã§éĸį™Ŋいです。
äģŠå›žã¯ã‚šãƒ‘イ゚ぎäŊŋã„æ–šãžã§č§ŖčĒŦしぞしたが、ã‚ĢãƒŦãƒŧぎäŊœã‚Šæ–šã¨ã—ãĻは比čŧƒįš„į°Ąå˜ãĒéƒ¨éĄžã ã¨æ€ã„ãžã™ã€‚
æ…Ŗã‚ŒãĻããŸã‚‰ã€ãƒˆãƒƒãƒ”ãƒŗã‚°ã‚‚č‰˛ã€…åŠ ãˆãĻãŋãĻ下さい。
ã‚ĢãƒŦãƒŧはã‚ĸãƒŦãƒŗã‚¸ã—ãĻã‚‚įžŽå‘ŗã—ã„ã—ã€éŖŸãšãĻæē€čļŗã—ぞす。
įš†ã•ã‚“ã‚‚įžŽå‘ŗã—ãã‚ĢãƒŦãƒŧをäŊœãŖãĻãŋãĻください。
==========
Prompt: 6 tokens, 88.572 tokens-per-sec
Generation: 238 tokens, 85.596 tokens-per-sec
Peak memory: 2.718 GB

You can also write your code to use this model like this:

from mlx_lm import load, generate

model, tokenizer = load("mlx-community/plamo-2-1b-bf16")

prompt = "įžŽå‘ŗã—ã„ã‚ĢãƒŦãƒŧぎäŊœã‚Šæ–šãŽãƒŦã‚ˇãƒ”ã‚’į´šäģ‹ã—ぞす。"

response = generate(model, tokenizer, prompt=prompt, verbose=True)
Downloads last month
61
Safetensors
Model size
1B params
Tensor type
BF16
¡
MLX
Hardware compatibility
Log In to add your hardware

Quantized

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for mlx-community/plamo-2-1b-bf16

Base model

pfnet/plamo-2-1b
Finetuned
(2)
this model

Collection including mlx-community/plamo-2-1b-bf16