README.md

---
dataset_info:
  features:
  - name: messages
    list:
    - name: content
      dtype: string
    - name: role
      dtype: string
  - name: source
    dtype: string
  configs:
  - config_name: default
    data_files:
    - split: train
      path: data/train-*
  - config_name: lilo-cyber
    data_files:
    - split: train
      path: lilo-cyber/train-*
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
- config_name: lilo-cyber
  data_files:
  - split: train
    path: lilo-cyber/train-*
license: apache-2.0
language:
- id
task_categories:
- text-generation
- question-answering
tags:
- cybersecurity
- coding
- indonesian
- sft
- lilo-cyber
- zelai
- conversational
---

# Lilo-Cyber

Dataset percakapan untuk **fine-tuning model bahasa** dengan fokus utama pada dua bidang:
**keamanan siber (*cybersecurity*)** dan **pemrograman (*coding*)**, ditambah konteks percakapan
umum. Seluruh isi dataset menggunakan **bahasa Indonesia**.

Nama model yang menjadi acuan dataset ini adalah **Lilo-Cyber**, sebuah model bahasa besar yang
dirancang dan dibangun oleh **tim peneliti di Zelai**. Model ini diciptakan untuk membantu dalam
dua hal: **percakapan** dan **pemrograman**. Lilo dirancang agar dapat dijalankan pada server
yang dilengkapi dengan **CPU, tanpa GPU**, dengan kebutuhan sumber daya berupa memori (RAM).
Informasi tersebut diterjemahkan ke dalam `system prompt` pada seluruh baris data Lilo-Cyber.

---

## Dua Konfigurasi

| Config | Isi | Baris |
|---|---|---|
| `default` | Dataset dasar (seperti aslinya) | 160.224 |
| `lilo-cyber` | Versi **Lilo-Cyber**: dataset dasar + materi Lilo-Cyber + system prompt | 160.417 |

Konfigurasi `lilo-cyber` adalah **superset** dari `default`: seluruh isi dataset dasar
dipertahankan, lalu ditambahkan 193 percakapan baru dan system prompt Lilo-Cyber pada
7.723 baris yang relevan.

### Memuat data

```python
from datasets import load_dataset

# Dataset dasar
dasar = load_dataset("zelapi/lilo-cyber", "default", split="train")

# Versi Lilo-Cyber (disarankan untuk training)
lilo = load_dataset("zelapi/lilo-cyber", "lilo-cyber", split="train")

print(lilo)
# Dataset({
#     features: ['messages', 'source'],
#     num_rows: 160417
# })
```

---

## Format Data

Setiap baris adalah satu percakapan utuh.

```python
{
    "messages": [
        {"role": "system",    "content": "Lilo-Cyber adalah AI yang dirancang ..."},
        {"role": "user",      "content": "Jelaskan tentang SQL injection ..."},
        {"role": "assistant", "content": "SQL injection terjadi ketika ..."}
    ],
    "source": "lilo-cyber-cybersecurity-id"
}
```

- `messages` — daftar pesan berurutan dengan `role` (`system`, `user`, `assistant`) dan `content`.
- `source` — asal data, berguna untuk menyaring atau menyeimbangkan komposisi.

### System prompt Lilo-Cyber

Setiap baris dari konfigurasi `lilo-cyber` yang relevan diawali system prompt berikut:

> Lilo-Cyber adalah AI yang dirancang dan dibangun oleh tim peneliti di Zelai. Model bahasa
> besar ini diciptakan untuk membantu dalam percakapan dan pemrograman (coding). Lilo
> dirancang untuk dijalankan pada server yang dilengkapi dengan CPU, namun tanpa GPU.
> Kebutuhan sumber daya awalnya adalah memori (RAM), bukan kekuatan pemrosesan grafis.

---

## Komposisi Data

### Berdasarkan sumber

| Source | Jumlah | Keterangan |
|---|---:|---|
| `evol-instruct-id` | 59.022 | Instruksi bergaya evolusi |
| `intisari-chat` | 50.047 | Percakapan ringkas |
| `alpaca-gpt4-id` | 49.969 | Instruksi bergaya Alpaca |
| `slang-lexicon` | 988 | Leksikon bahasa gaul |
| `formalization` | 198 | Formalisasi bahasa |
| **`lilo-cyber-cybersecurity-id`** | **75** | **Materi keamanan siber Lilo-Cyber** |
| **`lilo-cyber-chat-id`** | **59** | **Materi percakapan Lilo-Cyber** |
| **`lilo-cyber-coding-id`** | **59** | **Materi pemrograman Lilo-Cyber** |

### Materi Lilo-Cyber (193 percakapan)

Tiga bidang utama, masing-masing ditulis sebagai pasangan tanya-jawab berstruktur dengan
jawaban panjang, tabel, dan contoh kode yang dapat langsung dijalankan.

#### 1. Keamanan siber — 75 percakapan (8 modul)

| Sub-bidang | Cakupan topik |
|---|---|
| Keamanan aplikasi | OWASP Top 10, SQL injection, XSS, CSRF, SSRF, LDAP injection, otorisasi per objek |
| Kriptografi | Hashing vs enkripsi, Argon2id/bcrypt/scrypt, TLS 1.3, key management, envelope encryption |
| Autentikasi & identitas | JWT, refresh token rotation, OAuth, OIDC, PKCE, federasi identitas, passkey, MFA |
| Jaringan | ARP spoofing, DNS spoofing, BGP hijacking, VPN/IPsec, firewall, side-channel TLS |
| Cloud & infrastruktur | AWS IAM, CSPM, workload protection, EDR, hardening Linux, CI/CD aman, Docker |
| Rantai pasok | SBOM, dependency confusion, penandatanganan artefak, build poisoning |
| Seluler | Keamanan Android, penyimpanan terenkripsi, WebView, izin aplikasi, privasi data |
| Forensik & respons insiden | NIST SP 800-61, triase, bukti digital, log analysis, playbooks |
| Threat intel & deteksi | Threat modeling, SIEM/SOAR/EDR, intelijen operasional, anomali |
| Tata kelola & kepatuhan | UU PDP, GDPR, ISO 27001, SOC 2, PCI DSS, risk register, audit internal |
| PKI & sertifikat | Otoritas CA dan hierarki CA, OpenSSL, pencabutan sertifikat |
| Ancaman modern | Ransomware, malware, insider threat, queue poisoning, keamanan LLM |

#### 2. Pemrograman — 59 percakapan (8 modul)

| Sub-bidang | Cakupan topik |
|---|---|
| Fundamental | Struktur data, algoritma, kompleksitas, rekursi, dekorator, context manager |
| Algoritma klasik | Binary search, two-pointer, memoization, hash table, queue dan deque |
| Secure coding | Validasi input, parameterized query, escaping output, race condition |
| Backend & API | FastAPI, REST API design, SQL, cache, message queue, migrasi skema |
| Testing | pytest, fixture, mock, parameterisasi, type checking dengan mypy/pyright |
| Frontend modern | TypeScript, React hooks, formulir, CSS grid dan flexbox, state management |
| DevOps | CI/CD, Docker, Dockerfile, feature flags, observability, logging |
| Praktik rekayasa | Dependency injection, konfigurasi, secrets, packaging library, Git |

#### 3. Percakapan — 59 percakapan (6 modul)

Menjaga kemampuan dialog tetap utuh: identitas dan kemampuan model, batas jawaban,
komunikasi kerja (email, ringkasan eksekutif, presentasi, umpan balik), produktivitas,
kolaborasi, serta panduan belajar.

---

## Kualitas dan Konsistensi

Materi Lilo-Cyber dibuat agar layak dipakai sebagai data training:

- **Konsistensi format** — setiap percakapan mengikuti pola `system -> user -> assistant`,
  dengan peran user dan assistant berpasangan dengan benar.
- **Bahasa Indonesia konsisten** — seluruh teks berbahasa Indonesia; istilah teknis
  berbahasa Inggris dipertahankan apa adanya karena memang lazim dipakai.
- **System prompt seragam** — 193 baris Lilo-Cyber seluruhnya memakai system prompt yang sama.
- **Tanpa teks rusak** — modul data diperiksa secara otomatis untuk huruf non-Latin,
  campuran huruf tak lazim, dan kata yang di luar kosakata korpus.

### Validasi

Struktur data dapat diperiksa langsung:

```python
from datasets import load_dataset

ds = load_dataset("zelapi/lilo-cyber", "lilo-cyber", split="train")
lilo = ds.filter(lambda r: r["source"].startswith("lilo-cyber"))

for row in lilo:
    peran = [m["role"] for m in row["messages"]]
    isi = peran[1:]
    assert peran[0] == "system"
    assert isi[0] == "user" and isi[-1] == "assistant"
    assert all(isi[i] != isi[i + 1] for i in range(len(isi) - 1))
    assert all(m["content"].strip() for m in row["messages"])
```

---

## Penggunaan

Fine-tuning dengan TRL:

```python
from datasets import load_dataset
from trl import SFTConfig, SFTTrainer

ds = load_dataset("zelapi/lilo-cyber", "lilo-cyber", split="train")

trainer = SFTTrainer(
    model="Qwen/Qwen2.5-1.5B-Instruct",
    train_dataset=ds,
    args=SFTConfig(
        output_dir="lilo-cyber-sft",
        max_length=4096,
        num_train_epochs=2,
        packing=True,
    ),
)
trainer.train()
```

Menyaring hanya materi Lilo-Cyber untuk tahap awal:

```python
lilo_only = ds.filter(lambda r: r["source"].startswith("lilo-cyber"))
```

---

## Catatan Penggunaan

- Konten bersifat **edukasional**. Materi keamanan siber ditulis untuk memahami dan
  pertahanan, bukan untuk menyerang sistem yang tidak dimiliki.
- Materi coding menyertakan contoh kode yang **dapat dijalankan ulang**; uji di lingkungan
  terpisah sebelum digunakan di produksi.
- Konten dataset masih dapat bertambah; nomor baris tidak dijamin stabil antar versi.

---

## Referensi

- **Zelai** — tim peneliti pembuat Lilo-Cyber.
- **Model Lilo** — model bahasa dari Zelai yang dapat berjalan di server CPU-only.