Datasets:
|
Download README.md from AdminHugging/cyber-kb: direct link, hf CLI and curl.
- Browser
- Download file 5.87 kB
-
https://huggingface.co/datasets/AdminHugging/cyber-kb/resolve/main/README.md
- Command line
-
hf download hf://datasets/AdminHugging/cyber-kb/README.md
-
curl -L -o README.md https://huggingface.co/datasets/AdminHugging/cyber-kb/resolve/main/README.md
5.87 kB
| language: | |
| - en | |
| - ru | |
| license: other | |
| license_name: mixed-public-domain-and-mitre | |
| task_categories: | |
| - text-generation | |
| tags: | |
| - cybersecurity | |
| - cve | |
| - vulnerability | |
| - mitre-attack | |
| - cwe | |
| - cisa-kev | |
| - russian | |
| size_categories: | |
| - 100K<n<1M | |
| # Cyber-KB — открытая база знаний по кибербезопасности | |
| Нормализованный датасет из четырёх публичных первоисточников плюс | |
| сгенерированные пары «инструкция → ответ». Собран для обучения и | |
| дообучения моделей (CPT и SFT) в области информационной безопасности. | |
| Проект **PPAI**. | |
| ## Что внутри | |
| | файл | записей | размер | что это | | |
| |---|---:|---:|---| | |
| | `data/cve.jsonl` | **356 734** | 180 МБ | уязвимости NVD: описание, CVSS, серьёзность, CWE | | |
| | `data/attack.jsonl` | **1 827** | 1.8 МБ | MITRE ATT&CK: техники, тактики, меры защиты, malware, tools | | |
| | `data/cwe.jsonl` | **405** | 0.5 МБ | классы слабостей CWE с последствиями и мерами | | |
| | `data/kev.jsonl` | **1 790** | 1.0 МБ | CISA KEV: уязвимости с известными эксплойтами + требуемые действия | | |
| | `data/qa_en.jsonl` | **359 635** | 179 МБ | английские пары «вопрос → ответ» из этих записей | | |
| | `data/qa_ru_templates.jsonl` | **359 635** | 203 МБ | то же, но **инструкция на русском** (ответ — английский) | | |
| Покрытие CVE по годам: 2015 (8 787) → 2026 (95 937). По серьёзности: | |
| CRITICAL 38 098, HIGH 131 481, MEDIUM 145 001, LOW 12 610. | |
| ## Формат | |
| `cve.jsonl`: | |
| ```json | |
| {"id": "CVE-2021-44228", "published": "2021-12-10", | |
| "description": "Apache Log4j2 2.0-beta9 through 2.15.0 ...", | |
| "severity": "CRITICAL", "cvss": 10.0, "cwe": ["CWE-20", "CWE-502"]} | |
| ``` | |
| `attack.jsonl`: | |
| ```json | |
| {"type": "attack-pattern", "id": "T1059", "name": "Command and Scripting Interpreter", | |
| "description": "Adversaries may abuse command and script interpreters ...", | |
| "tactics": ["execution"], "platforms": ["Linux", "Windows", "macOS"]} | |
| ``` | |
| `cwe.jsonl`: | |
| ```json | |
| {"id": "CWE-79", "name": "Improper Neutralization of Input ...", | |
| "description": "...", "consequences": "...", "mitigations": "..."} | |
| ``` | |
| `kev.jsonl`: | |
| ```json | |
| {"cve": "CVE-2021-44228", "vendor": "Apache", "product": "Log4j2", | |
| "name": "Apache Log4j2 Remote Code Execution Vulnerability", | |
| "description": "...", "action": "Apply updates per vendor instructions.", | |
| "date_added": "2021-12-10", "ransomware": "Known"} | |
| ``` | |
| `qa_en.jsonl` / `qa_ru_templates.jsonl`: | |
| ```json | |
| {"instruction": "What is CVE-2021-44228?", "output": "...", "source": "nvd"} | |
| {"instruction": "Что известно об уязвимости CVE-2021-44228?", "output": "...", | |
| "lang": "ru-instruction", "source": "nvd"} | |
| ``` | |
| ## Как пользоваться | |
| ```python | |
| from datasets import load_dataset | |
| ds = load_dataset("AdminHugging/cyber-kb", data_files="data/qa_en.jsonl", split="train") | |
| print(ds[0]) | |
| # только уязвимости | |
| cve = load_dataset("AdminHugging/cyber-kb", data_files="data/cve.jsonl", split="train") | |
| crit = cve.filter(lambda x: x["severity"] == "CRITICAL") | |
| ``` | |
| ## Источники и лицензии | |
| | источник | лицензия | | |
| |---|---| | |
| | [NVD CVE](https://nvd.nist.gov/vuln/data-feeds) (NIST) | public domain, US Government work | | |
| | [MITRE ATT&CK](https://attack.mitre.org/) | © The MITRE Corporation, свободное использование с атрибуцией | | |
| | [MITRE CWE](https://cwe.mitre.org/) | © The MITRE Corporation, свободное использование с атрибуцией | | |
| | [CISA KEV](https://www.cisa.gov/known-exploited-vulnerabilities-catalog) | public domain, US Government work | | |
| Атрибуция: ATTACK® и CWE® — зарегистрированные товарные знаки The MITRE | |
| Corporation. Данные использованы в неизменённом по смыслу виде (нормализация | |
| формата, без изменения содержания). | |
| ## Ограничения — читать обязательно | |
| * **`qa_ru_templates.jsonl` — это не русскоязычная база знаний.** Инструкция | |
| на русском, но ответ берётся из английского первоисточника и остаётся | |
| английским. Для обучения русскому языку в домене нужен перевод или | |
| русскоязычные источники (БДУ ФСТЭК, «Код ИБ» и т.п.), которых здесь нет. | |
| * **Описания CVE написаны вендорами**: они короткие, иногда формальные | |
| («Rejected reason: DO NOT USE THIS CANDIDATE NUMBER»), содержат отсылки к | |
| версиям без контекста. Это сырые данные, не учебник. | |
| * **Нет кода эксплойтов** и пошаговых инструкций атаки — только описания, | |
| тактики и меры защиты. Датасет защитный по содержанию. | |
| * Q&A сгенерированы шаблонами, поэтому формулировки однотипные. Для SFT | |
| лучше перемешать с живыми диалогами. | |
| * Данные не дедуплицированы между `cve.jsonl` и `qa_*.jsonl` — это одни и те | |
| же факты в двух видах, при обучении берите что-то одно. | |