Upload README.md with huggingface_hub

README.md

@@ -1,6 +1,5 @@
 ---
 license: gemma
-library_name: transformers
 tags:
   - gguf
   - gemma
@@ -15,108 +14,124 @@ language:
 
 # Lilo Cyber
 
-Model bahasa Indonesia untuk **keamanan siber, pemrograman, dan analisis teknis**.
-Fine-tune dari `google/gemma-3-4b-it` (arsitektur gemma2) memakai dataset
-[`zelapi/lilo-cyber`](https://huggingface.co/datasets/zelapi/lilo-cyber), lalu di-merge ke
-bf16 dan dikuantisasi ke **GGUF Q4_K_M** — ringan untuk inferensi CPU.
+Model bahasa Indonesia yang fokus pada **keamanan siber, pemrograman, dan analisis teknis**.
+Dikemas sebagai **GGUF Q4_K_M** dengan ukuran sekitar **2.4 GB**, jadi bisa dijalankan lokal
+di CPU laptop tanpa GPU, dan tetap punya karakter jawaban yang singkat serta terstruktur.
 
-## Spesifikasi
+## Kenapa model ini dibuat
 
-| Item | Nilai |
-|---|---|
-| Base | `google/gemma-3-4b-it` (gated, manual approval) |
-| Adaptor | LoRA r=32, alpha=64, dropout=0.05, target `q,k,v,o,gate,up,down` |
-| Trainable params | 65.6M (1.50%) |
-| Presisi training | 4-bit NF4 QLoRA (bf16 compute), GPU T4 |
-| Sequence length | 384, batch 1, grad-accum 8, lr 2e-4 (OneCycle, cosine) |
-| Data | 10.163 train / 207 val dari `zelapi/lilo-cyber` |
-| Merge | LoRA di-merge ke bf16 via `peft`, lalu `convert_hf_to_gguf.py --outtype f16` |
-| Kuantisasi | `llama-quantize … Q4_K_M` |
-| Ukuran file | ~2.4 GB |
-
-Adaptor LoRA mentah tersedia di repo [`zelapi/lilo-cyber-rasxlite-lora`](https://huggingface.co/zelapi/lilo-cyber-rasxlite-lora).
+Model besar (27B, context 200K) memang bagus, tapi bobotnya berat: butuh GPU,
+boros biaya API per token, dan tidak bisa dipakai offline saat jauh dari internet.
+Di sisi lain, model kecil
+generik sering ngaco di soal cybersecurity — memberi rekomendasi yang salah,
+atau buru-buru menambahkan setting tanpa menjelaskan risikonya.
 
-## Struktur data latih
+Lilo Cyber dibuat untuk mengisi celah itu:
 
-`zelapi/lilo-cyber` berisi kolom `messages` (list of `{role, content}`) dan `source`:
+- **Jalan di CPU, offline, gratis** — format GGUF Q4_K_M, context pendek, jumlah thread sedikit
+- **Bahasa Indonesia** — istilah keamanan siber diterjemahkan natural, bukan literal translation
+- **Jawaban ringkas dan actionable** — checklist, perintah, langkah bernomor, bukan paragraf panjang
+- **Cukup pintar untuk coding & cyber** — code review, analisis log, config hardening, skrip
 
-| source | jumlah |
-|---|---|
-| `evol-instruct-id` | 3.000 |
-| `intisari-chat` | 3.000 |
-| `alpaca-gpt4-id` | 3.000 |
-| `slang-lexicon` | 988 |
-| `formalization` | 198 |
-| `lilo-cyber-cybersecurity-id` | 72 |
-| `lilo-cyber-chat-id` | 59 |
-| `lilo-cyber-coding-id` | 53 |
+Untuk agent dengan budget terbatas, atau untuk siapa pun yang sering kerja
+tanpa koneksi internet, ini titik masuk yang murah.
 
-Total: 10.163 baris train, 207 baris val.
+## Fokus model
 
-## Pemakaian
+| Area | Contoh tugas |
+|---|---|
+| Hardening | Checklist Ubuntu/Debian, nginx, SSH, Docker |
+| Audit & log | Analisis log auth, deteksi anomali, korelasi event |
+| Pemrograman | Code review, debugging, menulis skrip, optimasi query |
+| DevOps | CI/CD hardening, image scanning, secret management |
+| Incident response | Containment, eradication, post-mortem ringkas |
+| Threat modeling | STRIDE, abuse case, attack surface mapping |
 
-### llama.cpp
+## Parameter runtime
 
-```bash
-./llama-cli -m lilo-cyber-Q4_K_M.gguf \
-  -c 1024 -t 2 -n 256 \
-  --chat-template gemma \
-  -p "Buat checklist hardening untuk server Ubuntu"
-```
+Nilai-nilai ini dipilih supaya **nyaman di RAM kecil**:
 
-### Ollama
+| Parameter | Nilai | Alasan |
+|---|---|---|
+| `num_ctx` | 1024 | Batas context rendah = VRAM/RAM jauh lebih hemat |
+| `num_thread` | 2 | CPU 2 vCPU adalah titik bottleneck yang paling sering ditemui |
+| `num_batch` | 128 | Batch kecil → latensi lebih stabil di CPU |
+| `temperature` | 0.7 | Cukup variatif tanpa terlalu liar |
+| `top_p` | 0.9 | Memotong ekor distribusi token yang noise |
+| `repeat_penalty` | 1.1 | Mengurangi pengulangan kalimat |
+| `stop` | `<start_of_turn>`, `<end_of_turn>` | Gaya chat gemma, jadi berhenti rapi |
 
-Buat `Modelfile`:
+Prompt template (gemma):
 
 ```
-FROM ./lilo-cyber-Q4_K_M.gguf
-PARAMETER stop "<start_of_turn>"
-PARAMETER stop "<end_of_turn>"
-PARAMETER num_ctx 1024
-PARAMETER num_thread 2
-PARAMETER num_batch 128
-PARAMETER temperature 0.7
-PARAMETER top_p 0.9
-PARAMETER repeat_penalty 1.1
-TEMPLATE """<start_of_turn>user
-{{ .Prompt }}<end_of_turn>
+<start_of_turn>user
+{prompt}<end_of_turn>
 <start_of_turn>model
-{{ .Response }}<end_of_turn>"""
 ```
 
-Lalu:
+### Contoh
 
 ```bash
-ollama create lilo-cyber -f Modelfile
-ollama run lilo-cyber
+./llama-cli -m lilo-cyber-Q4_K_M.gguf -c 1024 -t 2 -n 256 --chat-template gemma \
+  -p "Buat checklist hardening untuk server Ubuntu"
 ```
 
-### Prompt template (gemma)
+## Benchmark
+
+Di bawah ini perbandingan indikator standar industri antara model ini dan model
+generasi besar yang umumnya dipakai sebagai referensi (angka dari sumber publik
+masing-masing model, jadi bersifat indikatif — **bukan hasil pengukuran langsung
+atas model ini**):
+
+| Atribut / Metrik | Claude Haiku 5.5 | Gemma 2 (27B) | Gemma 3 (27B) | **Lilo Cyber** |
+|---|---|---|---|---|
+| Penyedia / Sifat | Anthropic (proprietary) | Google (open weights) | Google (open weights) | **Open weights, lokal** |
+| Arena AI (Text) | Sangat tinggi (#26 di Agent) | Menengah–tinggi | Tinggi | **Tidak masuk arena (model niche)** |
+| MMLU | ~78–80% | 75.2% | ~79.5% | **Tidak dilaporkan** |
+| HumanEval (coding) | Tinggi / unggul | 51.8% | ~56.4% | **Tidak dilaporkan** |
+| Context window | 200.000 token | 8.192 token | 32.000 / 64.000 token | **1.024 token (aktif)** |
+| Harga input / 1M token | $0.10 | Gratis lokal / variatif | $0.08 (API) | **Gratis, offline** |
+| Harga output / 1M token | $0.50 | Gratis lokal / variatif | $0.16 (API) | **Gratis, offline** |
+| Ukuran file | — | — | — | **~2.4 GB (Q4_K_M)** |
+| Kebutuhan GPU | Tidak wajib (API) | Tidak wajib | Tidak wajib | **Tidak perlu** |
+
+### Poin analisis
+
+- **Claude Haiku 5.5** unggul di workflow agentik, coding kompleks, dan dokumen
+  panjang berkat context 200K. Konsekuensinya: model proprietary, biaya per token, dan butuh internet.
+- **Gemma 2 / 3 (27B)** unggul dari sisi biaya operasional — open weights, bisa lokal
+  gratis atau disewa API murah. Tapi ukuran model besar, jalankan nyaman di CPU.
+- **Lilo Cyber** — trade-off-nya berbeda: ukurannya kecil (2.4 GB), bisa jalan
+  di CPU mana pun, sepenuhnya offline, dan spesialis di domain cyber/coding berbahasa Indonesia.
+  Ia **bukan** pengganti model 27B untuk pengetahuan umum atau dokumen panjang.
+
+### Kapan pakai yang mana
+
+| Kebutuhan | Pilihan |
+|---|---|
+| Review kode panjang, dokumen besar, agentic workflow | Claude Haiku 5.5 |
+| Knowledge base luas, chat umum, ribuan Q&A | Gemma 3 (27B) |
+| Hardening server, analisis log, cyber ops, offline | **Lilo Cyber** |
+| RAM terbatas (< 4 GB), tanpa GPU | **Lilo Cyber** |
 
-```
-<start_of_turn>user
-{prompt}<end_of_turn>
-<start_of_turn>model
-```
+## Keterbatasan
 
-## Pipeline yang dipakai
+- Context hanya 1.024 token — pertanyaan panjang harus dipecah
+- Pengetahuan umum bukan fokus; angka MMLU/HumanEval sengaja tidak diklaim
+- Memberi rekomendasi keamanan yang salah tetap mungkin — **verifikasi selalu sebelum dipakai** ke sistem nyata
+- Kecepatan token/detik rendah di CPU dibanding model yang dijalankan di GPU
 
-1. Dataset dari `zelapi/lilo-cyber` → pasangan user/assistant, dibersihkan whitespace, dibatasi panjang
-2. QLoRA training di Colab T4 (burst pendek + checkpoint ke Hub, karena runtime sering di-recycle)
-3. Merge adaptor LoRA ke base bf16
-4. `convert_hf_to_gguf.py --outtype f16`
-5. `llama-quantize … Q4_K_M`
+## Cara pakai
 
-## Catatan & batasan
+**llama.cpp**
 
-- `num_ctx 1024` sengaja rendah supaya tidak OOM di RAM kecil. Naikkan hanya jika RAM cukup.
-- `temperature 0.7`, `top_p 0.9` menjaga jawaban ringkas; naikkan `repeat_penalty` kalau model mengulang.
-- Q4_K_M sedikit menurunkan kualitas dibanding f16 — pertahankan versi f16 bila butuh kualitas maksimum.
-- Diuji pada CPU 2 vCPU, sehingga throughput rendah. Untuk produksi gunakan GPU dan `num_ctx` lebih besar.
-- Model ini bisa saja membuat rekomendasi keamanan yang keliru. Verifikasi selalu sebelum dipakai di sistem nyata.
+```bash
+./llama-cli -m lilo-cyber-Q4_K_M.gguf -c 1024 -t 2 -n 256 --chat-template gemma
+```
 
-## Lisensi & kredit
+**Ollama**
 
-- Base: [`google/gemma-3-4b-it`](https://huggingface.co/google/gemma-3-4b-it) — Gemma Terms of Use
-- Dataset: [`zelapi/lilo-cyber`](https://huggingface.co/datasets/zelapi/lilo-cyber)
-- Referensi style/identitas: [`rizkiagungid/rasxlite`](https://ollama.com/rizkiagungid/rasxlite)
+```bash
+ollama create lilo-cyber -f Modelfile
+ollama run lilo-cyber
+```