Datasets:
license: other
pretty_name: kontext-security/ShellRisk-Bench (mirror)
source_datasets:
- kontext-security/ShellRisk-Bench
tags:
- laya
- laya-finetune
- mirror
- domain-technology
- domain-code
- use-unclear
- genre-source-code
- label-binary
- annot-rule
- lang-en
language:
- en
task_categories:
- text-classification
size_categories:
- 10K<n<100K
configs:
- config_name: default
data_files:
- split: train
path: data/train-*.parquet
- split: test
path: data/test-*.parquet
kontext-security/ShellRisk-Bench（複製）
データの内容
シェルコマンドの投稿を、文脈なしで「リスクあり」か「リスクなし」に二値分類するベンチマーク。1 行が 1 件のコマンドで、command にコマンドの文字列、label に risky か not_risky が入る。リスクなしは SWE-smith と Terminal-Bench の軌跡と nl2bash、リスクありは Atomic Red Team・GTFOBins・InternalAllTheThings から集めた。command は実行せず、出典ごとにライセンスが異なる。
データの概要
| 項目 | 値 |
|---|---|
| 行数 | 20,966（1 構成・2 分割の合計） |
| 列数 | 5 |
| 容量 | 2.59 MB（ファイル 4 本） |
| ファイルの形式 | parquet 2 |
| 言語 | en |
| 公開 | public |
構成と分割
| 構成（config） | 分割（split）ごとの行数 | 列数 |
|---|---|---|
default |
train 16,772、test 4,194 |
5 |
列（構成 default・分割 train）
| 列 | 型 | 先頭の行の値 |
|---|---|---|
command |
string |
rm -f reproduce_issue.py && find . -name "*.pyc"… |
id |
string |
sha256:32d8dba23443186c5ca04c446d46e0212fb04b61c… |
label |
string |
not_risky |
source |
string |
swesmith |
upstream_id |
string |
swesmith-041457 |
行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。
複製について
kontext-security/ShellRisk-Bench をリビジョン 437467862139b4e9cdd5322024ef3434a67c7ec8 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。
出典
- 元のデータセット: https://huggingface.co/datasets/kontext-security/ShellRisk-Bench
- 複製したリビジョン:
437467862139b4e9cdd5322024ef3434a67c7ec8（2026-08-19 15:14:23+00:00） - 元のライセンス表記:
other
論文
- 元のカードに論文へのリンクは見つからなかった
アノテーションの方法
出典とラベル
データは、固定された 6 つの公開の出典から構築されている:
| Class | Source | Label basis |
|---|---|---|
| リスクなし | SWE-smith trajectories | 良性のソフトウェア工学タスクから推定 |
| リスクなし | Terminal-Bench trajectories | 良性のターミナルタスクから推定 |
| リスクなし | nl2bash | 人手で整備されたコマンドのコーパス |
| リスクあり | Atomic Red Team | 実行可能な ATT&CK テスト |
| リスクあり | GTFOBins | 整備されたバイナリの悪用手法 |
| リスクあり | InternalAllTheThings | 整備された攻撃用のシェルのペイロード |
良性の軌跡（trajectory）のラベルは、コマンドごとに独立に検証したものではなく、タスクから推定したものである。リスクありのラベルは、出典のセキュリティのコレクションの目的に従う。正確なリビジョンと変換については、リポジトリの データセットの出典 を参照すること。
分割の構築
v0.1 の分割では、正規化した完全一致のコマンドを全体で重複除去し、両方のラベルで観測された文字列を取り除く。リスクありのコマンドは 966 件すべてを残し、良性のコマンドは決定的に 20,000 件を上限とする。そして、シード 13 で層化した 80/20 の分割を行う。
test の混合比がおよそ 20:1 なのは、意図的に設定した動作点である。本番環境におけるリスクのあるコマンドの出現率の、実測による推定値ではない。
微調整に使うときの注意
- 調査メモの台帳での区分: D（記載なし・other・unknown・資料間の食い違い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
調査メモの記述
| メモ | 節 | ライセンス（記載） | 確認 | 注記 |
|---|---|---|---|---|
jev_sources_tasksource_bekko.csv |
CSV（tasksource-jev-typed-decisions） | other / license_use=unspecified | 確認済 | license_use=unspecified ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
元のカード（日本語訳）
以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。
ShellRisk-Bench
ShellRisk-Bench は、個々のシェルコマンドの投稿を、文脈なしで二値のリスク分類する再現可能なベンチマークである。タスク、ユーザー、セッションの文脈なしに評価したとき、そのコマンドが意味のあるサイバーリスクまたはシステムリスクをもたらすかどうかを問う。
公開: v0.1 の Parquet の train と test の分割は、Dataset Viewer と load_dataset() から公開で利用できる。
ベンチマークには、決定的な train 分割として 16,772 行、test 分割として 4,194 行が含まれる。test セットには risky が 193 件、not_risky が 4,001 件含まれる。
ソースコード、アダプタ、評価ツール、固定されたリビジョン、公開された結果は、ShellRisk-Bench の GitHub リポジトリ にある。
使い方
from datasets import load_dataset
dataset = load_dataset("kontext-security/ShellRisk-Bench")
print(dataset["train"])
print(dataset["test"])
command フィールドは、動作しない信頼できないテキストとして扱うこと。データセットの内容を実行したり、シェルにパイプで渡したりしないこと。
スキーマ
| Field | Type | Description |
|---|---|---|
id |
string | 正規化したコマンドの、安定した sha256: のダイジェスト |
source |
string | 出典のアダプタのキー |
upstream_id |
string | 出典のアダプタが割り当てた行の識別子 |
command |
string | 正規化したシェルコマンドの投稿 |
label |
string | risky または not_risky |
1 行の投稿は、パイプラインや && または ; で結合したコマンドも含めて、分割せずそのまま残す。複数行のスクリプトとセッションは除外する。系列のラベルを、構成するコマンドに伝播させることはない。
出典とラベル
データは、固定された 6 つの公開の出典から構築されている:
| Class | Source | Label basis |
|---|---|---|
| リスクなし | SWE-smith trajectories | 良性のソフトウェア工学タスクから推定 |
| リスクなし | Terminal-Bench trajectories | 良性のターミナルタスクから推定 |
| リスクなし | nl2bash | 人手で整備されたコマンドのコーパス |
| リスクあり | Atomic Red Team | 実行可能な ATT&CK テスト |
| リスクあり | GTFOBins | 整備されたバイナリの悪用手法 |
| リスクあり | InternalAllTheThings | 整備された攻撃用のシェルのペイロード |
良性の軌跡（trajectory）のラベルは、コマンドごとに独立に検証したものではなく、タスクから推定したものである。リスクありのラベルは、出典のセキュリティのコレクションの目的に従う。正確なリビジョンと変換については、リポジトリの データセットの出典 を参照すること。
分割の構築
v0.1 の分割では、正規化した完全一致のコマンドを全体で重複除去し、両方のラベルで観測された文字列を取り除く。リスクありのコマンドは 966 件すべてを残し、良性のコマンドは決定的に 20,000 件を上限とする。そして、シード 13 で層化した 80/20 の分割を行う。
test の混合比がおよそ 20:1 なのは、意図的に設定した動作点である。本番環境におけるリスクのあるコマンドの出現率の、実測による推定値ではない。
用途と制限
ShellRisk-Bench は、固定され監査可能な分割の上で、コマンド単位の分類器とセキュリティのガードレールを比較することを目的とする。ユーザーの意図、周囲のタスクの文脈、複数コマンドのセッション、完全な認可の判断は評価しない。
主要な分割は、同じ出典から得られ、同一分布内にあるものである。既知の出典の分布から抽出した、未見のコマンド文字列に対する性能を測る。新しいコマンドの方言への転移を示す証拠ではない。出典ごとのグループ化や、1 つの出典を除外する分析を行う際は、source フィールドを残すこと。
試してみる
ShellRisk-Bench は Kontext Security が保守している。Kontext の一部として、Kestrel がエージェントのツール呼び出しのサイバーリスクを評価する様子を見るには、kontext.security を訪れること。
ライセンス
データ全体に対する単一の包括的なライセンスはない。ベンチマークのコードとドキュメントは Apache-2.0 であり、各出典は独自の条件を保持する。固定された出典は、現時点でそれぞれ MIT、Apache-2.0、MIT、MIT、GPL-3.0、ライセンスファイルなし、を宣言している。データを使用または再配布する前に、DATASETS.md にある出典ごとのリンクと注記を確認すること。
原文（英語）
ShellRisk-Bench
ShellRisk-Bench is a reproducible benchmark for context-free binary risk classification of individual shell-command submissions. It asks whether a command poses meaningful cyber or system risk when evaluated without task, user, or session context.
Release: The v0.1 Parquet train and test splits are publicly available
through Dataset Viewer and load_dataset().
The benchmark contains a deterministic train split of 16,772 rows and test
split of 4,194 rows. The test set contains 193 risky and 4,001 not_risky
examples.
The source code, adapters, evaluation tooling, pinned revisions, and published results are available in the ShellRisk-Bench GitHub repository.
Usage
from datasets import load_dataset
dataset = load_dataset("kontext-security/ShellRisk-Bench")
print(dataset["train"])
print(dataset["test"])
Treat the command field as inert, untrusted text. Do not execute dataset
contents or pipe them into a shell.
Schema
| Field | Type | Description |
|---|---|---|
id |
string | Stable sha256: digest of the normalized command |
source |
string | Source adapter key |
upstream_id |
string | Row identifier assigned by the source adapter |
command |
string | Normalized shell-command submission |
label |
string | risky or not_risky |
Single-line submissions remain whole, including pipelines and commands joined
with && or ;. Multi-line scripts and sessions are excluded; sequence labels
are never propagated onto their component commands.
Sources and labels
The data is built from six pinned public sources:
| Class | Source | Label basis |
|---|---|---|
| Not risky | SWE-smith trajectories | Inferred from benign software-engineering tasks |
| Not risky | Terminal-Bench trajectories | Inferred from benign terminal tasks |
| Not risky | nl2bash | Human-curated command corpus |
| Risky | Atomic Red Team | Executable ATT&CK tests |
| Risky | GTFOBins | Curated binary-abuse techniques |
| Risky | InternalAllTheThings | Curated offensive shell payloads |
The benign trajectory labels are task-inferred rather than independently verified command-by-command. Risky labels follow the purpose of the upstream security collections. See the repository's dataset provenance for exact revisions and transformations.
Split construction
The v0.1 split globally deduplicates exact normalized commands, removes strings observed with both labels, retains all 966 risky commands, deterministically caps benign commands at 20,000, and performs a stratified 80/20 split with seed 13.
The approximately 20:1 test mix is a constructed operating point. It is not an empirical estimate of the prevalence of risky commands in production.
Uses and limitations
ShellRisk-Bench is intended to compare command-level classifiers and security guardrails on a fixed, auditable split. It does not evaluate user intent, surrounding task context, multi-command sessions, or complete authorization decisions.
The headline split is same-source and in-distribution. It measures performance
on unseen command strings drawn from known source distributions; it is not
evidence of transfer to a novel command dialect. Keep the source field when
performing source-grouped or leave-one-source-out analysis.
Try it
ShellRisk-Bench is maintained by Kontext Security. To see Kestrel evaluating the cyber risk of agent tool calls as part of Kontext, visit kontext.security.
Licensing
There is no single blanket license for the data. The benchmark code and documentation are Apache-2.0, while each upstream source retains its own terms. The pinned sources currently declare MIT, Apache-2.0, MIT, MIT, GPL-3.0, and no license file, respectively. Consult the source-specific links and notes in DATASETS.md before using or redistributing the data.