MLX
#4
by edgefloor - opened
Sziasztok!
Saját teszteléshez készítettem egy 4 bites MLX-változatot a Racka-4B-ből. Ha van rá igény, szívesen elkészítem és megosztom veletek valamilyen formában az összes különböző féle kvantálást amik már elérhetőek a gguf-nél.
Üdv,
Rafi
Szia!
Köszönjük a felajánlást, szívesen fogadjuk őket!
Írtam egy emailt.
Üdv,
Martin
Elérhetőek a Racka MLX modellváltozatok, köszönet értük @Ramazuri !