--- dataset_info: features: - name: messages list: - name: content dtype: string - name: role dtype: string - name: source dtype: string configs: - config_name: default data_files: - split: train path: data/train-* - config_name: lilo-cyber data_files: - split: train path: lilo-cyber/train-* configs: - config_name: default data_files: - split: train path: data/train-* - config_name: lilo-cyber data_files: - split: train path: lilo-cyber/train-* license: apache-2.0 language: - id task_categories: - text-generation - question-answering tags: - cybersecurity - coding - indonesian - sft - lilo-cyber - zelai - conversational --- # Lilo-Cyber Dataset percakapan untuk **fine-tuning model bahasa** dengan fokus utama pada dua bidang: **keamanan siber (*cybersecurity*)** dan **pemrograman (*coding*)**, ditambah konteks percakapan umum. Seluruh isi dataset menggunakan **bahasa Indonesia**. Nama model yang menjadi acuan dataset ini adalah **Lilo-Cyber**, sebuah model bahasa besar yang dirancang dan dibangun oleh **tim peneliti di Zelai**. Model ini diciptakan untuk membantu dalam dua hal: **percakapan** dan **pemrograman**. Lilo dirancang agar dapat dijalankan pada server yang dilengkapi dengan **CPU, tanpa GPU**, dengan kebutuhan sumber daya berupa memori (RAM). Informasi tersebut diterjemahkan ke dalam `system prompt` pada seluruh baris data Lilo-Cyber. --- ## Dua Konfigurasi | Config | Isi | Baris | |---|---|---| | `default` | Dataset dasar (seperti aslinya) | 160.224 | | `lilo-cyber` | Versi **Lilo-Cyber**: dataset dasar + materi Lilo-Cyber + system prompt | 160.417 | Konfigurasi `lilo-cyber` adalah **superset** dari `default`: seluruh isi dataset dasar dipertahankan, lalu ditambahkan 193 percakapan baru dan system prompt Lilo-Cyber pada 7.723 baris yang relevan. ### Memuat data ```python from datasets import load_dataset # Dataset dasar dasar = load_dataset("zelapi/lilo-cyber", "default", split="train") # Versi Lilo-Cyber (disarankan untuk training) lilo = load_dataset("zelapi/lilo-cyber", "lilo-cyber", split="train") print(lilo) # Dataset({ # features: ['messages', 'source'], # num_rows: 160417 # }) ``` --- ## Format Data Setiap baris adalah satu percakapan utuh. ```python { "messages": [ {"role": "system", "content": "Lilo-Cyber adalah AI yang dirancang ..."}, {"role": "user", "content": "Jelaskan tentang SQL injection ..."}, {"role": "assistant", "content": "SQL injection terjadi ketika ..."} ], "source": "lilo-cyber-cybersecurity-id" } ``` - `messages` — daftar pesan berurutan dengan `role` (`system`, `user`, `assistant`) dan `content`. - `source` — asal data, berguna untuk menyaring atau menyeimbangkan komposisi. ### System prompt Lilo-Cyber Setiap baris dari konfigurasi `lilo-cyber` yang relevan diawali system prompt berikut: > Lilo-Cyber adalah AI yang dirancang dan dibangun oleh tim peneliti di Zelai. Model bahasa > besar ini diciptakan untuk membantu dalam percakapan dan pemrograman (coding). Lilo > dirancang untuk dijalankan pada server yang dilengkapi dengan CPU, namun tanpa GPU. > Kebutuhan sumber daya awalnya adalah memori (RAM), bukan kekuatan pemrosesan grafis. --- ## Komposisi Data ### Berdasarkan sumber | Source | Jumlah | Keterangan | |---|---:|---| | `evol-instruct-id` | 59.022 | Instruksi bergaya evolusi | | `intisari-chat` | 50.047 | Percakapan ringkas | | `alpaca-gpt4-id` | 49.969 | Instruksi bergaya Alpaca | | `slang-lexicon` | 988 | Leksikon bahasa gaul | | `formalization` | 198 | Formalisasi bahasa | | **`lilo-cyber-cybersecurity-id`** | **75** | **Materi keamanan siber Lilo-Cyber** | | **`lilo-cyber-chat-id`** | **59** | **Materi percakapan Lilo-Cyber** | | **`lilo-cyber-coding-id`** | **59** | **Materi pemrograman Lilo-Cyber** | ### Materi Lilo-Cyber (193 percakapan) Tiga bidang utama, masing-masing ditulis sebagai pasangan tanya-jawab berstruktur dengan jawaban panjang, tabel, dan contoh kode yang dapat langsung dijalankan. #### 1. Keamanan siber — 75 percakapan (8 modul) | Sub-bidang | Cakupan topik | |---|---| | Keamanan aplikasi | OWASP Top 10, SQL injection, XSS, CSRF, SSRF, LDAP injection, otorisasi per objek | | Kriptografi | Hashing vs enkripsi, Argon2id/bcrypt/scrypt, TLS 1.3, key management, envelope encryption | | Autentikasi & identitas | JWT, refresh token rotation, OAuth, OIDC, PKCE, federasi identitas, passkey, MFA | | Jaringan | ARP spoofing, DNS spoofing, BGP hijacking, VPN/IPsec, firewall, side-channel TLS | | Cloud & infrastruktur | AWS IAM, CSPM, workload protection, EDR, hardening Linux, CI/CD aman, Docker | | Rantai pasok | SBOM, dependency confusion, penandatanganan artefak, build poisoning | | Seluler | Keamanan Android, penyimpanan terenkripsi, WebView, izin aplikasi, privasi data | | Forensik & respons insiden | NIST SP 800-61, triase, bukti digital, log analysis, playbooks | | Threat intel & deteksi | Threat modeling, SIEM/SOAR/EDR, intelijen operasional, anomali | | Tata kelola & kepatuhan | UU PDP, GDPR, ISO 27001, SOC 2, PCI DSS, risk register, audit internal | | PKI & sertifikat | Otoritas CA dan hierarki CA, OpenSSL, pencabutan sertifikat | | Ancaman modern | Ransomware, malware, insider threat, queue poisoning, keamanan LLM | #### 2. Pemrograman — 59 percakapan (8 modul) | Sub-bidang | Cakupan topik | |---|---| | Fundamental | Struktur data, algoritma, kompleksitas, rekursi, dekorator, context manager | | Algoritma klasik | Binary search, two-pointer, memoization, hash table, queue dan deque | | Secure coding | Validasi input, parameterized query, escaping output, race condition | | Backend & API | FastAPI, REST API design, SQL, cache, message queue, migrasi skema | | Testing | pytest, fixture, mock, parameterisasi, type checking dengan mypy/pyright | | Frontend modern | TypeScript, React hooks, formulir, CSS grid dan flexbox, state management | | DevOps | CI/CD, Docker, Dockerfile, feature flags, observability, logging | | Praktik rekayasa | Dependency injection, konfigurasi, secrets, packaging library, Git | #### 3. Percakapan — 59 percakapan (6 modul) Menjaga kemampuan dialog tetap utuh: identitas dan kemampuan model, batas jawaban, komunikasi kerja (email, ringkasan eksekutif, presentasi, umpan balik), produktivitas, kolaborasi, serta panduan belajar. --- ## Kualitas dan Konsistensi Materi Lilo-Cyber dibuat agar layak dipakai sebagai data training: - **Konsistensi format** — setiap percakapan mengikuti pola `system -> user -> assistant`, dengan peran user dan assistant berpasangan dengan benar. - **Bahasa Indonesia konsisten** — seluruh teks berbahasa Indonesia; istilah teknis berbahasa Inggris dipertahankan apa adanya karena memang lazim dipakai. - **System prompt seragam** — 193 baris Lilo-Cyber seluruhnya memakai system prompt yang sama. - **Tanpa teks rusak** — modul data diperiksa secara otomatis untuk huruf non-Latin, campuran huruf tak lazim, dan kata yang di luar kosakata korpus. ### Validasi Struktur data dapat diperiksa langsung: ```python from datasets import load_dataset ds = load_dataset("zelapi/lilo-cyber", "lilo-cyber", split="train") lilo = ds.filter(lambda r: r["source"].startswith("lilo-cyber")) for row in lilo: peran = [m["role"] for m in row["messages"]] isi = peran[1:] assert peran[0] == "system" assert isi[0] == "user" and isi[-1] == "assistant" assert all(isi[i] != isi[i + 1] for i in range(len(isi) - 1)) assert all(m["content"].strip() for m in row["messages"]) ``` --- ## Penggunaan Fine-tuning dengan TRL: ```python from datasets import load_dataset from trl import SFTConfig, SFTTrainer ds = load_dataset("zelapi/lilo-cyber", "lilo-cyber", split="train") trainer = SFTTrainer( model="Qwen/Qwen2.5-1.5B-Instruct", train_dataset=ds, args=SFTConfig( output_dir="lilo-cyber-sft", max_length=4096, num_train_epochs=2, packing=True, ), ) trainer.train() ``` Menyaring hanya materi Lilo-Cyber untuk tahap awal: ```python lilo_only = ds.filter(lambda r: r["source"].startswith("lilo-cyber")) ``` --- ## Catatan Penggunaan - Konten bersifat **edukasional**. Materi keamanan siber ditulis untuk memahami dan pertahanan, bukan untuk menyerang sistem yang tidak dimiliki. - Materi coding menyertakan contoh kode yang **dapat dijalankan ulang**; uji di lingkungan terpisah sebelum digunakan di produksi. - Konten dataset masih dapat bertambah; nomor baris tidak dijamin stabil antar versi. --- ## Referensi - **Zelai** — tim peneliti pembuat Lilo-Cyber. - **Model Lilo** — model bahasa dari Zelai yang dapat berjalan di server CPU-only.