Add model card for Q6_K GGUF
Browse files
README.md
ADDED
|
@@ -0,0 +1,44 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
tags:
|
| 3 |
+
- gguf
|
| 4 |
+
- llama.cpp
|
| 5 |
+
- text-generation
|
| 6 |
+
- ethical-hacking
|
| 7 |
+
- 33b
|
| 8 |
+
base_model: WhiteRabbitNeo/Trinity-33B-v1.0
|
| 9 |
+
pipeline_tag: text-generation
|
| 10 |
+
---
|
| 11 |
+
|
| 12 |
+
# Froged_N1
|
| 13 |
+
|
| 14 |
+
Repositori ini berisi kuantisasi **GGUF Q6_K** dari **Trinity-33B-v1.0**. Berkas model disalin dari [LoneStriker/Trinity-33B-v1.0-GGUF](https://huggingface.co/LoneStriker/Trinity-33B-v1.0-GGUF). Ini adalah berkas kuantisasi komunitas; repo ini tidak mengklaim telah melatih atau melakukan fine-tuning ulang model.
|
| 15 |
+
|
| 16 |
+
## Berkas
|
| 17 |
+
|
| 18 |
+
- `Trinity-33B-v1.0-Q6_K.gguf` — sekitar 27,36 GB.
|
| 19 |
+
|
| 20 |
+
GGUF ditujukan untuk runtime yang mendukung format ini, seperti `llama.cpp`. File ini bukan checkpoint Transformers biasa dan tidak dapat dimuat dengan contoh `AutoModelForCausalLM.from_pretrained()` langsung dari repo ini.
|
| 21 |
+
|
| 22 |
+
## Menjalankan
|
| 23 |
+
|
| 24 |
+
Dengan versi `llama.cpp` yang mendukung unduhan model dari Hugging Face:
|
| 25 |
+
|
| 26 |
+
```bash
|
| 27 |
+
llama-cli -hf bytecode66/Froged_N1:Trinity-33B-v1.0-Q6_K.gguf
|
| 28 |
+
```
|
| 29 |
+
|
| 30 |
+
Atau unduh file GGUF dari tab **Files and versions** lalu jalankan secara lokal:
|
| 31 |
+
|
| 32 |
+
```bash
|
| 33 |
+
llama-cli -m ./Trinity-33B-v1.0-Q6_K.gguf -p "Jelaskan konsep keamanan siber untuk lingkungan lab yang berizin." -n 200
|
| 34 |
+
```
|
| 35 |
+
|
| 36 |
+
Pemakaian model 33B memerlukan RAM/VRAM yang memadai. Kebutuhan aktual bergantung pada runtime, panjang konteks, dan jumlah layer yang ditempatkan di GPU.
|
| 37 |
+
|
| 38 |
+
## Penggunaan yang bertanggung jawab
|
| 39 |
+
|
| 40 |
+
Model ini ditujukan untuk pembelajaran, pengembangan, dan pengujian keamanan siber di sistem yang Anda miliki atau yang penggunaannya telah diizinkan, termasuk lab lokal dan CTF. Jangan gunakan untuk mengakses, mengganggu, atau mengeksploitasi sistem tanpa izin.
|
| 41 |
+
|
| 42 |
+
## Model dasar dan lisensi
|
| 43 |
+
|
| 44 |
+
Model dasar: [WhiteRabbitNeo/Trinity-33B-v1.0](https://huggingface.co/WhiteRabbitNeo/Trinity-33B-v1.0). Tinjau kartu model dan lisensi model dasar sebelum penggunaan atau redistribusi. Kuantisasi GGUF ini berasal dari [LoneStriker](https://huggingface.co/LoneStriker/Trinity-33B-v1.0-GGUF); lihat repositori sumber untuk rincian kuantisasi dan atribusi.
|