Instructions to use SubMaroon/Dark-Goetia-26B-A4B-LoRA-RU-v1 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- PEFT
How to use SubMaroon/Dark-Goetia-26B-A4B-LoRA-RU-v1 with PEFT:
from peft import PeftModel from transformers import AutoModelForCausalLM base_model = AutoModelForCausalLM.from_pretrained("Naphula/Goetia-26B-A4B-v1.3-Absolute-Heretic-ARA") model = PeftModel.from_pretrained(base_model, "SubMaroon/Dark-Goetia-26B-A4B-LoRA-RU-v1") - Notebooks
- Google Colab
- Kaggle
ะัะผะพััะตัะฝัะน ะถะฐะฝัะพะฒัะน LoRA-ะฐะดะฐะฟัะตั ะดะปั ััััะบะพัะทััะฝะพะณะพ ัะพะปะตะฟะปะตั. ะะพะฑะฐะฒะปัะตั ะฟะพะฒะตััะฒะพะฒะฐะฝะธั ะฑะพะปะตะต ะผัะฐัะฝัะน ะธ ะปะธัะตัะฐัััะฝัะน ัะพะฝ. ะัะตะดะฝะฐะทะฝะฐัะตะฝ ะธัะบะปััะธัะตะปัะฝะพ ะดะปั ะบะพััะตะบัะธะธ ััะธะปั ะธ ััััะบัััั ะพัะฒะตัะพะฒ ะฒ RP ะถะฐะฝัะฐ "Dark Fantasy". ะะดะฐะฟัะตั ะฝะต ัะพะดะตัะถะธั ะฒ ัะตะฑะต ััะถะตัะพะฒ ะธะปะธ ะฟะตััะพะฝะฐะถะตะน ะธะท ะพะฑััะฐััะตะน ะฒัะฑะพัะบะธ.
Recommended Scale Settings
| Scale | ะญััะตะบั (ะะฐัะฐะผะตััั ัะตััะธัะพะฒะฐะฝะธั: SillyTavern + ะัะตัะตั + ะฟะตััะพะฝะฐะถ 2000+ ัะพะบะตะฝะพะฒ.) |
|---|---|
| 0.2โ0.3 | ะญััะตะบั ะฝะต ะฒััะฐะถะตะฝ |
| 0.3โ0.5 | ะะธะฝะธะผะฐะปัะฝัะน ะฟะพัะพะณ (ัะฐััะธัะฝะพะต ะฒะปะธัะฝะธะต) |
| 0.5-0.7 | ะ ะตะบะพะผะตะฝะดัะตััั (ััะฐะฑะธะปัะฝะพะต ะฟัะพัะฒะปะตะฝะธะต ััะธะปั) |
| 0.7+ | ะะพะปััะพะน ัะธัะบ ะณะฐะปะปััะธะฝะฐัะธะน |
ะัะธะผะตัะฐะฝะธะต: ะะฐะธะฑะพะปะตะต ะทะฐะผะตัะฝะพ ะฐะดะฐะฟัะตั ัะฐัะบััะฒะฐะตััั ะฒ RP-ััะตะฝะฐัะธัั Dark Fantasy ะฝะฐะฟัะฐะฒะปะตะฝะธั. ะ ะฝะตะนััะฐะปัะฝัั ะธะปะธ ะฟะพะปะพะถะธัะตะปัะฝะพ-ะพะบัะฐัะตะฝะฝัั ััะตะฝะฐั ะฐะดะฐะฟัะตั ะฟัะฐะบัะธัะตัะบะธ ะฝะต ะฒะปะธัะตั ะฝะฐ ััะตะฝั. ะ ะตะบะพะผะตะฝะดัะตััั ะธัะฟะพะปัะทะพะฒะฐัั ะฒ ะฟะพะปะฝะพัะตะฝะฝัั RP-ััะตะฝะฐัะธัั (ะฝะฐะฟัะธะผะตั, ะฒ SillyTavern ั ะบะฐััะพัะบะพะน ะฟะตััะพะฝะฐะถะฐ ะธ ัะธััะตะผะฝัะผ ะฟัะพะผะฟัะพะผ). ะัะธ ะธะทะพะปะธัะพะฒะฐะฝะฝะพะผ ัะตััะธัะพะฒะฐะฝะธะธ ะบะพัะพัะบะธะผะธ ะทะฐะฟัะพัะฐะผะธ ะตะณะพ ััะธะปะธััะธัะตัะบะพะต ะฒะปะธัะฝะธะต ะผะพะถะตั ะฑััั ะฒััะฐะถะตะฝะพ ะทะฝะฐัะธัะตะปัะฝะพ ัะปะฐะฑะตะต.
Training
- Base: Naphula/Goetia-26B-A4B-v1.3-Absolute-Heretic-ARA (Gemma 4 MoE, abliterated)
- Method: QLoRA, attention-only (
q/k/v/o_proj, 30 ัะปะพัะฒ ัะตะบััะพะฒะพะน ะฑะฐัะฝะธ), r=16, alpha=32, 2 epochs, completion-only loss - Data: 693 ะพัะธัะตะฝะฝัะต ััััะบะพัะทััะฝัะต RP-ัะตััะธะธ (ะบะพะฝะฒะตััะธั ััะตะฝ ัะพะผะฐะฝะฐ ะฒ ะดะธะฐะปะพะณะพะฒัะน ัะพัะผะฐั ะธ ัะฐัะณะตัะธัะพะฒะฐะฝะฝะฐั ัะธะฝัะตัะธะบะฐ ั ัะธะปัััะฐัะธะตะน ะฟะพะฒัะพัะพะฒ/ััะฐะผะฟะพะฒ), ะดะพะฟะพะปะฝะตะฝะฝัะต ะดะพะปะตะน ะพะฑัะธั RP-ะดะฐะฝะฝัั ะธะท ะฟะพะฟัะปััะฝะพะณะพ RP ะบะพัะฟััะฐ (20% ะฒัะฑะพัะบะธ) ะดะปั ัะพั ัะฐะฝะตะฝะธั ััะฐะฑะธะปัะฝะพััะธ ะฑะฐะทะพะฒะพะน ะผะพะดะตะปะธ.
Limitations
- 18+. ะะฐะทะฐ ัะฐััะตะฝะทััะตะฝะฐ, ะพะฑััะฐััะธะต ะดะฐะฝะฝัะต ัะพะดะตัะถะฐั ะฒะทัะพัะปัะน ะธ ะผัะฐัะฝัะน ะบะพะฝัะตะฝั.
- ะะฟัะธะผะธะทะธัะพะฒะฐะฝะฐ ะดะปั ััััะบะพะณะพ ัะทัะบะฐ; ะฝะฐ ะฐะฝะณะปะธะนัะบะพะผ ัััะตะบั ัะปะฐะฑะตะต ะธะปะธ ะพััััััะฒัะตั.
- ะะฐัะปะตะดัะตั ััะปะพะฒะธั ะปะธัะตะฝะทะธะธ Gemma.
- Downloads last month
- 116
We're not able to determine the quantization variants.