cyber-kb / README.md
AdminHugging's picture
cyber-kb: CVE + ATT&CK + CWE + KEV + Q&A
c137fd6 verified
|
Raw History Blame Contribute Delete
5.87 kB
metadata
language:
  - en
  - ru
license: other
license_name: mixed-public-domain-and-mitre
task_categories:
  - text-generation
tags:
  - cybersecurity
  - cve
  - vulnerability
  - mitre-attack
  - cwe
  - cisa-kev
  - russian
size_categories:
  - 100K<n<1M

Cyber-KB — открытая база знаний по кибербезопасности

Нормализованный датасет из четырёх публичных первоисточников плюс сгенерированные пары «инструкция → ответ». Собран для обучения и дообучения моделей (CPT и SFT) в области информационной безопасности.

Проект PPAI.

Что внутри

файл записей размер что это
data/cve.jsonl 356 734 180 МБ уязвимости NVD: описание, CVSS, серьёзность, CWE
data/attack.jsonl 1 827 1.8 МБ MITRE ATT&CK: техники, тактики, меры защиты, malware, tools
data/cwe.jsonl 405 0.5 МБ классы слабостей CWE с последствиями и мерами
data/kev.jsonl 1 790 1.0 МБ CISA KEV: уязвимости с известными эксплойтами + требуемые действия
data/qa_en.jsonl 359 635 179 МБ английские пары «вопрос → ответ» из этих записей
data/qa_ru_templates.jsonl 359 635 203 МБ то же, но инструкция на русском (ответ — английский)

Покрытие CVE по годам: 2015 (8 787) → 2026 (95 937). По серьёзности: CRITICAL 38 098, HIGH 131 481, MEDIUM 145 001, LOW 12 610.

Формат

cve.jsonl:

{"id": "CVE-2021-44228", "published": "2021-12-10",
 "description": "Apache Log4j2 2.0-beta9 through 2.15.0 ...",
 "severity": "CRITICAL", "cvss": 10.0, "cwe": ["CWE-20", "CWE-502"]}

attack.jsonl:

{"type": "attack-pattern", "id": "T1059", "name": "Command and Scripting Interpreter",
 "description": "Adversaries may abuse command and script interpreters ...",
 "tactics": ["execution"], "platforms": ["Linux", "Windows", "macOS"]}

cwe.jsonl:

{"id": "CWE-79", "name": "Improper Neutralization of Input ...",
 "description": "...", "consequences": "...", "mitigations": "..."}

kev.jsonl:

{"cve": "CVE-2021-44228", "vendor": "Apache", "product": "Log4j2",
 "name": "Apache Log4j2 Remote Code Execution Vulnerability",
 "description": "...", "action": "Apply updates per vendor instructions.",
 "date_added": "2021-12-10", "ransomware": "Known"}

qa_en.jsonl / qa_ru_templates.jsonl:

{"instruction": "What is CVE-2021-44228?", "output": "...", "source": "nvd"}
{"instruction": "Что известно об уязвимости CVE-2021-44228?", "output": "...",
 "lang": "ru-instruction", "source": "nvd"}

Как пользоваться

from datasets import load_dataset

ds = load_dataset("AdminHugging/cyber-kb", data_files="data/qa_en.jsonl", split="train")
print(ds[0])

# только уязвимости
cve = load_dataset("AdminHugging/cyber-kb", data_files="data/cve.jsonl", split="train")
crit = cve.filter(lambda x: x["severity"] == "CRITICAL")

Источники и лицензии

источник лицензия
NVD CVE (NIST) public domain, US Government work
MITRE ATT&CK © The MITRE Corporation, свободное использование с атрибуцией
MITRE CWE © The MITRE Corporation, свободное использование с атрибуцией
CISA KEV public domain, US Government work

Атрибуция: ATTACK® и CWE® — зарегистрированные товарные знаки The MITRE Corporation. Данные использованы в неизменённом по смыслу виде (нормализация формата, без изменения содержания).

Ограничения — читать обязательно

  • qa_ru_templates.jsonl — это не русскоязычная база знаний. Инструкция на русском, но ответ берётся из английского первоисточника и остаётся английским. Для обучения русскому языку в домене нужен перевод или русскоязычные источники (БДУ ФСТЭК, «Код ИБ» и т.п.), которых здесь нет.
  • Описания CVE написаны вендорами: они короткие, иногда формальные («Rejected reason: DO NOT USE THIS CANDIDATE NUMBER»), содержат отсылки к версиям без контекста. Это сырые данные, не учебник.
  • Нет кода эксплойтов и пошаговых инструкций атаки — только описания, тактики и меры защиты. Датасет защитный по содержанию.
  • Q&A сгенерированы шаблонами, поэтому формулировки однотипные. Для SFT лучше перемешать с живыми диалогами.
  • Данные не дедуплицированы между cve.jsonl и qa_*.jsonl — это одни и те же факты в двух видах, при обучении берите что-то одно.