MLX conversions of Nanbeige4.2-3B (Looped Transformer): bf16 + 2-8 bit quants
-
MercuriusDream/Nanbeige4.2-3B-mlx-bf16
Text Generation • 4B • Updated • 57 • 1 -
MercuriusDream/Nanbeige4.2-3B-mlx-8bit
Text Generation • 4B • Updated • 375 • 5 -
MercuriusDream/Nanbeige4.2-3B-mlx-6bit
Text Generation • 4B • Updated • 42 • 1 -
MercuriusDream/Nanbeige4.2-3B-mlx-5bit
Text Generation • 4B • Updated • 22