Datasets:
|
Download README.md from AdminHugging/cyber-kb: direct link, hf CLI and curl.
- Browser
- Download file 5.87 kB
-
https://huggingface.co/datasets/AdminHugging/cyber-kb/resolve/main/README.md
- Command line
-
hf download hf://datasets/AdminHugging/cyber-kb/README.md
-
curl -L -o README.md https://huggingface.co/datasets/AdminHugging/cyber-kb/resolve/main/README.md
5.87 kB
metadata
language:
- en
- ru
license: other
license_name: mixed-public-domain-and-mitre
task_categories:
- text-generation
tags:
- cybersecurity
- cve
- vulnerability
- mitre-attack
- cwe
- cisa-kev
- russian
size_categories:
- 100K<n<1M
Cyber-KB — открытая база знаний по кибербезопасности
Нормализованный датасет из четырёх публичных первоисточников плюс сгенерированные пары «инструкция → ответ». Собран для обучения и дообучения моделей (CPT и SFT) в области информационной безопасности.
Проект PPAI.
Что внутри
| файл | записей | размер | что это |
|---|---|---|---|
data/cve.jsonl |
356 734 | 180 МБ | уязвимости NVD: описание, CVSS, серьёзность, CWE |
data/attack.jsonl |
1 827 | 1.8 МБ | MITRE ATT&CK: техники, тактики, меры защиты, malware, tools |
data/cwe.jsonl |
405 | 0.5 МБ | классы слабостей CWE с последствиями и мерами |
data/kev.jsonl |
1 790 | 1.0 МБ | CISA KEV: уязвимости с известными эксплойтами + требуемые действия |
data/qa_en.jsonl |
359 635 | 179 МБ | английские пары «вопрос → ответ» из этих записей |
data/qa_ru_templates.jsonl |
359 635 | 203 МБ | то же, но инструкция на русском (ответ — английский) |
Покрытие CVE по годам: 2015 (8 787) → 2026 (95 937). По серьёзности: CRITICAL 38 098, HIGH 131 481, MEDIUM 145 001, LOW 12 610.
Формат
cve.jsonl:
{"id": "CVE-2021-44228", "published": "2021-12-10",
"description": "Apache Log4j2 2.0-beta9 through 2.15.0 ...",
"severity": "CRITICAL", "cvss": 10.0, "cwe": ["CWE-20", "CWE-502"]}
attack.jsonl:
{"type": "attack-pattern", "id": "T1059", "name": "Command and Scripting Interpreter",
"description": "Adversaries may abuse command and script interpreters ...",
"tactics": ["execution"], "platforms": ["Linux", "Windows", "macOS"]}
cwe.jsonl:
{"id": "CWE-79", "name": "Improper Neutralization of Input ...",
"description": "...", "consequences": "...", "mitigations": "..."}
kev.jsonl:
{"cve": "CVE-2021-44228", "vendor": "Apache", "product": "Log4j2",
"name": "Apache Log4j2 Remote Code Execution Vulnerability",
"description": "...", "action": "Apply updates per vendor instructions.",
"date_added": "2021-12-10", "ransomware": "Known"}
qa_en.jsonl / qa_ru_templates.jsonl:
{"instruction": "What is CVE-2021-44228?", "output": "...", "source": "nvd"}
{"instruction": "Что известно об уязвимости CVE-2021-44228?", "output": "...",
"lang": "ru-instruction", "source": "nvd"}
Как пользоваться
from datasets import load_dataset
ds = load_dataset("AdminHugging/cyber-kb", data_files="data/qa_en.jsonl", split="train")
print(ds[0])
# только уязвимости
cve = load_dataset("AdminHugging/cyber-kb", data_files="data/cve.jsonl", split="train")
crit = cve.filter(lambda x: x["severity"] == "CRITICAL")
Источники и лицензии
| источник | лицензия |
|---|---|
| NVD CVE (NIST) | public domain, US Government work |
| MITRE ATT&CK | © The MITRE Corporation, свободное использование с атрибуцией |
| MITRE CWE | © The MITRE Corporation, свободное использование с атрибуцией |
| CISA KEV | public domain, US Government work |
Атрибуция: ATTACK® и CWE® — зарегистрированные товарные знаки The MITRE Corporation. Данные использованы в неизменённом по смыслу виде (нормализация формата, без изменения содержания).
Ограничения — читать обязательно
qa_ru_templates.jsonl— это не русскоязычная база знаний. Инструкция на русском, но ответ берётся из английского первоисточника и остаётся английским. Для обучения русскому языку в домене нужен перевод или русскоязычные источники (БДУ ФСТЭК, «Код ИБ» и т.п.), которых здесь нет.- Описания CVE написаны вендорами: они короткие, иногда формальные («Rejected reason: DO NOT USE THIS CANDIDATE NUMBER»), содержат отсылки к версиям без контекста. Это сырые данные, не учебник.
- Нет кода эксплойтов и пошаговых инструкций атаки — только описания, тактики и меры защиты. Датасет защитный по содержанию.
- Q&A сгенерированы шаблонами, поэтому формулировки однотипные. Для SFT лучше перемешать с живыми диалогами.
- Данные не дедуплицированы между
cve.jsonlиqa_*.jsonl— это одни и те же факты в двух видах, при обучении берите что-то одно.