Datasets:

zelapi
/

lilo-cyber

dataset_info:
  features:
    - name: messages
      list:
        - name: content
          dtype: string
        - name: role
          dtype: string
    - name: source
      dtype: string
  configs:
    - config_name: default
      data_files:
        - split: train
          path: data/train-*
    - config_name: lilo-cyber
      data_files:
        - split: train
          path: lilo-cyber/train-*
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
  - config_name: lilo-cyber
    data_files:
      - split: train
        path: lilo-cyber/train-*
license: apache-2.0
language:
  - id
task_categories:
  - text-generation
  - question-answering
tags:
  - cybersecurity
  - coding
  - indonesian
  - sft
  - lilo-cyber
  - zelai
  - conversational

Lilo-Cyber

Dataset percakapan untuk fine-tuning model bahasa dengan fokus utama pada dua bidang: keamanan siber (cybersecurity) dan pemrograman (coding), ditambah konteks percakapan umum. Seluruh isi dataset menggunakan bahasa Indonesia.

Nama model yang menjadi acuan dataset ini adalah Lilo-Cyber, sebuah model bahasa besar yang dirancang dan dibangun oleh tim peneliti di Zelai. Model ini diciptakan untuk membantu dalam dua hal: percakapan dan pemrograman. Lilo dirancang agar dapat dijalankan pada server yang dilengkapi dengan CPU, tanpa GPU, dengan kebutuhan sumber daya berupa memori (RAM). Informasi tersebut diterjemahkan ke dalam system prompt pada seluruh baris data Lilo-Cyber.

Dua Konfigurasi

Config	Isi	Baris
`default`	Dataset dasar (seperti aslinya)	160.224
`lilo-cyber`	Versi Lilo-Cyber: dataset dasar + materi Lilo-Cyber + system prompt	160.417

Konfigurasi lilo-cyber adalah superset dari default: seluruh isi dataset dasar dipertahankan, lalu ditambahkan 193 percakapan baru dan system prompt Lilo-Cyber pada 7.723 baris yang relevan.

Memuat data

from datasets import load_dataset

# Dataset dasar
dasar = load_dataset("zelapi/lilo-cyber", "default", split="train")

# Versi Lilo-Cyber (disarankan untuk training)
lilo = load_dataset("zelapi/lilo-cyber", "lilo-cyber", split="train")

print(lilo)
# Dataset({
#     features: ['messages', 'source'],
#     num_rows: 160417
# })

Format Data

Setiap baris adalah satu percakapan utuh.

{
    "messages": [
        {"role": "system",    "content": "Lilo-Cyber adalah AI yang dirancang ..."},
        {"role": "user",      "content": "Jelaskan tentang SQL injection ..."},
        {"role": "assistant", "content": "SQL injection terjadi ketika ..."}
    ],
    "source": "lilo-cyber-cybersecurity-id"
}

messages — daftar pesan berurutan dengan role (system, user, assistant) dan content.
source — asal data, berguna untuk menyaring atau menyeimbangkan komposisi.

System prompt Lilo-Cyber

Setiap baris dari konfigurasi lilo-cyber yang relevan diawali system prompt berikut:

Lilo-Cyber adalah AI yang dirancang dan dibangun oleh tim peneliti di Zelai. Model bahasa besar ini diciptakan untuk membantu dalam percakapan dan pemrograman (coding). Lilo dirancang untuk dijalankan pada server yang dilengkapi dengan CPU, namun tanpa GPU. Kebutuhan sumber daya awalnya adalah memori (RAM), bukan kekuatan pemrosesan grafis.

Komposisi Data

Berdasarkan sumber

Source	Jumlah	Keterangan
`evol-instruct-id`	59.022	Instruksi bergaya evolusi
`intisari-chat`	50.047	Percakapan ringkas
`alpaca-gpt4-id`	49.969	Instruksi bergaya Alpaca
`slang-lexicon`	988	Leksikon bahasa gaul
`formalization`	198	Formalisasi bahasa
`lilo-cyber-cybersecurity-id`	75	Materi keamanan siber Lilo-Cyber
`lilo-cyber-chat-id`	59	Materi percakapan Lilo-Cyber
`lilo-cyber-coding-id`	59	Materi pemrograman Lilo-Cyber

Materi Lilo-Cyber (193 percakapan)

Tiga bidang utama, masing-masing ditulis sebagai pasangan tanya-jawab berstruktur dengan jawaban panjang, tabel, dan contoh kode yang dapat langsung dijalankan.

1. Keamanan siber — 75 percakapan (8 modul)

Sub-bidang	Cakupan topik
Keamanan aplikasi	OWASP Top 10, SQL injection, XSS, CSRF, SSRF, LDAP injection, otorisasi per objek
Kriptografi	Hashing vs enkripsi, Argon2id/bcrypt/scrypt, TLS 1.3, key management, envelope encryption
Autentikasi & identitas	JWT, refresh token rotation, OAuth, OIDC, PKCE, federasi identitas, passkey, MFA
Jaringan	ARP spoofing, DNS spoofing, BGP hijacking, VPN/IPsec, firewall, side-channel TLS
Cloud & infrastruktur	AWS IAM, CSPM, workload protection, EDR, hardening Linux, CI/CD aman, Docker
Rantai pasok	SBOM, dependency confusion, penandatanganan artefak, build poisoning
Seluler	Keamanan Android, penyimpanan terenkripsi, WebView, izin aplikasi, privasi data
Forensik & respons insiden	NIST SP 800-61, triase, bukti digital, log analysis, playbooks
Threat intel & deteksi	Threat modeling, SIEM/SOAR/EDR, intelijen operasional, anomali
Tata kelola & kepatuhan	UU PDP, GDPR, ISO 27001, SOC 2, PCI DSS, risk register, audit internal
PKI & sertifikat	Otoritas CA dan hierarki CA, OpenSSL, pencabutan sertifikat
Ancaman modern	Ransomware, malware, insider threat, queue poisoning, keamanan LLM

2. Pemrograman — 59 percakapan (8 modul)

Sub-bidang	Cakupan topik
Fundamental	Struktur data, algoritma, kompleksitas, rekursi, dekorator, context manager
Algoritma klasik	Binary search, two-pointer, memoization, hash table, queue dan deque
Secure coding	Validasi input, parameterized query, escaping output, race condition
Backend & API	FastAPI, REST API design, SQL, cache, message queue, migrasi skema
Testing	pytest, fixture, mock, parameterisasi, type checking dengan mypy/pyright
Frontend modern	TypeScript, React hooks, formulir, CSS grid dan flexbox, state management
DevOps	CI/CD, Docker, Dockerfile, feature flags, observability, logging
Praktik rekayasa	Dependency injection, konfigurasi, secrets, packaging library, Git

3. Percakapan — 59 percakapan (6 modul)

Menjaga kemampuan dialog tetap utuh: identitas dan kemampuan model, batas jawaban, komunikasi kerja (email, ringkasan eksekutif, presentasi, umpan balik), produktivitas, kolaborasi, serta panduan belajar.

Kualitas dan Konsistensi

Materi Lilo-Cyber dibuat agar layak dipakai sebagai data training:

Konsistensi format — setiap percakapan mengikuti pola system -> user -> assistant, dengan peran user dan assistant berpasangan dengan benar.
Bahasa Indonesia konsisten — seluruh teks berbahasa Indonesia; istilah teknis berbahasa Inggris dipertahankan apa adanya karena memang lazim dipakai.
System prompt seragam — 193 baris Lilo-Cyber seluruhnya memakai system prompt yang sama.
Tanpa teks rusak — modul data diperiksa secara otomatis untuk huruf non-Latin, campuran huruf tak lazim, dan kata yang di luar kosakata korpus.

Validasi

Struktur data dapat diperiksa langsung:

from datasets import load_dataset

ds = load_dataset("zelapi/lilo-cyber", "lilo-cyber", split="train")
lilo = ds.filter(lambda r: r["source"].startswith("lilo-cyber"))

for row in lilo:
    peran = [m["role"] for m in row["messages"]]
    isi = peran[1:]
    assert peran[0] == "system"
    assert isi[0] == "user" and isi[-1] == "assistant"
    assert all(isi[i] != isi[i + 1] for i in range(len(isi) - 1))
    assert all(m["content"].strip() for m in row["messages"])

Penggunaan

Fine-tuning dengan TRL:

from datasets import load_dataset
from trl import SFTConfig, SFTTrainer

ds = load_dataset("zelapi/lilo-cyber", "lilo-cyber", split="train")

trainer = SFTTrainer(
    model="Qwen/Qwen2.5-1.5B-Instruct",
    train_dataset=ds,
    args=SFTConfig(
        output_dir="lilo-cyber-sft",
        max_length=4096,
        num_train_epochs=2,
        packing=True,
    ),
)
trainer.train()

Menyaring hanya materi Lilo-Cyber untuk tahap awal:

lilo_only = ds.filter(lambda r: r["source"].startswith("lilo-cyber"))

Catatan Penggunaan

Konten bersifat edukasional. Materi keamanan siber ditulis untuk memahami dan pertahanan, bukan untuk menyerang sistem yang tidak dimiliki.
Materi coding menyertakan contoh kode yang dapat dijalankan ulang; uji di lingkungan terpisah sebelum digunakan di produksi.
Konten dataset masih dapat bertambah; nomor baris tidak dijamin stabil antar versi.

Referensi

Zelai — tim peneliti pembuat Lilo-Cyber.
Model Lilo — model bahasa dari Zelai yang dapat berjalan di server CPU-only.