File size: 16,549 Bytes
23e9b51
 
 
 
 
 
 
 
 
cba62a2
 
 
 
 
 
 
23e9b51
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
---
license: other
pretty_name: kontext-security/ShellRisk-Bench (mirror)
source_datasets:
- kontext-security/ShellRisk-Bench
tags:
- laya
- laya-finetune
- mirror
- domain-technology
- domain-code
- use-unclear
- genre-source-code
- label-binary
- annot-rule
- lang-en
language:
- en
task_categories:
- text-classification
size_categories:
- 10K<n<100K
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*.parquet
  - split: test
    path: data/test-*.parquet
---

# kontext-security/ShellRisk-Bench(複製)

## データの内容

シェルコマンドの投稿を、文脈なしで「リスクあり」か「リスクなし」に二値分類するベンチマーク。1 行が 1 件のコマンドで、`command` にコマンドの文字列、`label` に `risky` か `not_risky` が入る。リスクなしは SWE-smith と Terminal-Bench の軌跡と nl2bash、リスクありは Atomic Red Team・GTFOBins・InternalAllTheThings から集めた。`command` は実行せず、出典ごとにライセンスが異なる。

## データの概要

| 項目 | 値 |
|---|---|
| 行数 | 20,966(1 構成・2 分割の合計) |
| 列数 | 5 |
| 容量 | 2.59 MB(ファイル 4 本) |
| ファイルの形式 | parquet 2 |
| 言語 | en |
| 公開 | public |

### 構成と分割

| 構成(config) | 分割(split)ごとの行数 | 列数 |
|---|---|---:|
| `default` | `train` 16,772、`test` 4,194 | 5 |

### 列(構成 `default`・分割 `train`)

| 列 | 型 | 先頭の行の値 |
|---|---|---|
| `command` | `string` | `rm -f reproduce_issue.py && find . -name "*.pyc"…` |
| `id` | `string` | `sha256:32d8dba23443186c5ca04c446d46e0212fb04b61c…` |
| `label` | `string` | `not_risky` |
| `source` | `string` | `swesmith` |
| `upstream_id` | `string` | `swesmith-041457` |

行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。

## 複製について

[`kontext-security/ShellRisk-Bench`](https://huggingface.co/datasets/kontext-security/ShellRisk-Bench) をリビジョン `437467862139b4e9cdd5322024ef3434a67c7ec8` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(`convaiinnovations/laya`)の微調整に使う候補として、調査メモ(`Laya 学習用データセット調査`)に載せたデータを集めている。

## 出典

- 元のデータセット: https://huggingface.co/datasets/kontext-security/ShellRisk-Bench
- 複製したリビジョン: `437467862139b4e9cdd5322024ef3434a67c7ec8`(2026-08-19 15:14:23+00:00)
- 元のライセンス表記: `other`

## 論文

- 元のカードに論文へのリンクは見つからなかった

## アノテーションの方法

**出典とラベル**

データは、固定された 6 つの公開の出典から構築されている:

| Class | Source | Label basis |
|---|---|---|
| リスクなし | [SWE-smith trajectories](https://huggingface.co/datasets/Kwai-Klear/SWE-smith-mini_swe_agent_plus-trajectories-66k) | 良性のソフトウェア工学タスクから推定 |
| リスクなし | [Terminal-Bench trajectories](https://huggingface.co/datasets/yoonholee/terminalbench-trajectories) | 良性のターミナルタスクから推定 |
| リスクなし | [nl2bash](https://github.com/TellinaTool/nl2bash) | 人手で整備されたコマンドのコーパス |
| リスクあり | [Atomic Red Team](https://github.com/redcanaryco/atomic-red-team) | 実行可能な ATT&CK テスト |
| リスクあり | [GTFOBins](https://github.com/GTFOBins/GTFOBins.github.io) | 整備されたバイナリの悪用手法 |
| リスクあり | [InternalAllTheThings](https://github.com/swisskyrepo/InternalAllTheThings) | 整備された攻撃用のシェルのペイロード |

良性の軌跡(trajectory)のラベルは、コマンドごとに独立に検証したものではなく、タスクから推定したものである。リスクありのラベルは、出典のセキュリティのコレクションの目的に従う。正確なリビジョンと変換については、リポジトリの [データセットの出典](https://github.com/kontext-security/shellrisk-bench/blob/main/DATASETS.md) を参照すること。

**分割の構築**

v0.1 の分割では、正規化した完全一致のコマンドを全体で重複除去し、両方のラベルで観測された文字列を取り除く。リスクありのコマンドは 966 件すべてを残し、良性のコマンドは決定的に 20,000 件を上限とする。そして、シード 13 で層化した 80/20 の分割を行う。

test の混合比がおよそ 20:1 なのは、意図的に設定した動作点である。本番環境におけるリスクのあるコマンドの出現率の、実測による推定値ではない。

## 微調整に使うときの注意

- 調査メモの台帳での区分: D(記載なし・other・unknown・資料間の食い違い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

## 調査メモの記述

| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|---|---|---|---|---|
| `jev_sources_tasksource_bekko.csv` | CSV(tasksource-jev-typed-decisions) | other / license_use=unspecified | 確認済 | license_use=unspecified / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |

## 元のカード(日本語訳)

以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。

---

# ShellRisk-Bench

ShellRisk-Bench は、個々のシェルコマンドの投稿を、文脈なしで二値のリスク分類する再現可能なベンチマークである。タスク、ユーザー、セッションの文脈なしに評価したとき、そのコマンドが意味のあるサイバーリスクまたはシステムリスクをもたらすかどうかを問う。

**公開:** v0.1 の Parquet の train と test の分割は、Dataset Viewer と `load_dataset()` から公開で利用できる。

ベンチマークには、決定的な train 分割として 16,772 行、test 分割として 4,194 行が含まれる。test セットには `risky` が 193 件、`not_risky` が 4,001 件含まれる。

ソースコード、アダプタ、評価ツール、固定されたリビジョン、公開された結果は、[ShellRisk-Bench の GitHub リポジトリ](https://github.com/kontext-security/shellrisk-bench) にある。

## 使い方

```python
from datasets import load_dataset

dataset = load_dataset("kontext-security/ShellRisk-Bench")
print(dataset["train"])
print(dataset["test"])
```

`command` フィールドは、動作しない信頼できないテキストとして扱うこと。データセットの内容を実行したり、シェルにパイプで渡したりしないこと。

## スキーマ

| Field | Type | Description |
|---|---|---|
| `id` | string | 正規化したコマンドの、安定した `sha256:` のダイジェスト |
| `source` | string | 出典のアダプタのキー |
| `upstream_id` | string | 出典のアダプタが割り当てた行の識別子 |
| `command` | string | 正規化したシェルコマンドの投稿 |
| `label` | string | `risky` または `not_risky` |

1 行の投稿は、パイプラインや `&&` または `;` で結合したコマンドも含めて、分割せずそのまま残す。複数行のスクリプトとセッションは除外する。系列のラベルを、構成するコマンドに伝播させることはない。

## 出典とラベル

データは、固定された 6 つの公開の出典から構築されている:

| Class | Source | Label basis |
|---|---|---|
| リスクなし | [SWE-smith trajectories](https://huggingface.co/datasets/Kwai-Klear/SWE-smith-mini_swe_agent_plus-trajectories-66k) | 良性のソフトウェア工学タスクから推定 |
| リスクなし | [Terminal-Bench trajectories](https://huggingface.co/datasets/yoonholee/terminalbench-trajectories) | 良性のターミナルタスクから推定 |
| リスクなし | [nl2bash](https://github.com/TellinaTool/nl2bash) | 人手で整備されたコマンドのコーパス |
| リスクあり | [Atomic Red Team](https://github.com/redcanaryco/atomic-red-team) | 実行可能な ATT&CK テスト |
| リスクあり | [GTFOBins](https://github.com/GTFOBins/GTFOBins.github.io) | 整備されたバイナリの悪用手法 |
| リスクあり | [InternalAllTheThings](https://github.com/swisskyrepo/InternalAllTheThings) | 整備された攻撃用のシェルのペイロード |

良性の軌跡(trajectory)のラベルは、コマンドごとに独立に検証したものではなく、タスクから推定したものである。リスクありのラベルは、出典のセキュリティのコレクションの目的に従う。正確なリビジョンと変換については、リポジトリの [データセットの出典](https://github.com/kontext-security/shellrisk-bench/blob/main/DATASETS.md) を参照すること。

## 分割の構築

v0.1 の分割では、正規化した完全一致のコマンドを全体で重複除去し、両方のラベルで観測された文字列を取り除く。リスクありのコマンドは 966 件すべてを残し、良性のコマンドは決定的に 20,000 件を上限とする。そして、シード 13 で層化した 80/20 の分割を行う。

test の混合比がおよそ 20:1 なのは、意図的に設定した動作点である。本番環境におけるリスクのあるコマンドの出現率の、実測による推定値ではない。

## 用途と制限

ShellRisk-Bench は、固定され監査可能な分割の上で、コマンド単位の分類器とセキュリティのガードレールを比較することを目的とする。ユーザーの意図、周囲のタスクの文脈、複数コマンドのセッション、完全な認可の判断は評価しない。

主要な分割は、同じ出典から得られ、同一分布内にあるものである。既知の出典の分布から抽出した、未見のコマンド文字列に対する性能を測る。新しいコマンドの方言への転移を示す証拠ではない。出典ごとのグループ化や、1 つの出典を除外する分析を行う際は、`source` フィールドを残すこと。

## 試してみる

ShellRisk-Bench は Kontext Security が保守している。Kontext の一部として、Kestrel がエージェントのツール呼び出しのサイバーリスクを評価する様子を見るには、[kontext.security](https://kontext.security) を訪れること。

## ライセンス

データ全体に対する単一の包括的なライセンスはない。ベンチマークのコードとドキュメントは Apache-2.0 であり、各出典は独自の条件を保持する。固定された出典は、現時点でそれぞれ MIT、Apache-2.0、MIT、MIT、GPL-3.0、ライセンスファイルなし、を宣言している。データを使用または再配布する前に、[DATASETS.md](https://github.com/kontext-security/shellrisk-bench/blob/main/DATASETS.md) にある出典ごとのリンクと注記を確認すること。

<details>
<summary>原文(英語)</summary>

# ShellRisk-Bench

ShellRisk-Bench is a reproducible benchmark for context-free binary risk
classification of individual shell-command submissions. It asks whether a
command poses meaningful cyber or system risk when evaluated without task,
user, or session context.

**Release:** The v0.1 Parquet train and test splits are publicly available
through Dataset Viewer and `load_dataset()`.

The benchmark contains a deterministic train split of 16,772 rows and test
split of 4,194 rows. The test set contains 193 `risky` and 4,001 `not_risky`
examples.

The source code, adapters, evaluation tooling, pinned revisions, and published
results are available in the
[ShellRisk-Bench GitHub repository](https://github.com/kontext-security/shellrisk-bench).

## Usage

```python
from datasets import load_dataset

dataset = load_dataset("kontext-security/ShellRisk-Bench")
print(dataset["train"])
print(dataset["test"])
```

Treat the `command` field as inert, untrusted text. Do not execute dataset
contents or pipe them into a shell.

## Schema

| Field | Type | Description |
|---|---|---|
| `id` | string | Stable `sha256:` digest of the normalized command |
| `source` | string | Source adapter key |
| `upstream_id` | string | Row identifier assigned by the source adapter |
| `command` | string | Normalized shell-command submission |
| `label` | string | `risky` or `not_risky` |

Single-line submissions remain whole, including pipelines and commands joined
with `&&` or `;`. Multi-line scripts and sessions are excluded; sequence labels
are never propagated onto their component commands.

## Sources and labels

The data is built from six pinned public sources:

| Class | Source | Label basis |
|---|---|---|
| Not risky | [SWE-smith trajectories](https://huggingface.co/datasets/Kwai-Klear/SWE-smith-mini_swe_agent_plus-trajectories-66k) | Inferred from benign software-engineering tasks |
| Not risky | [Terminal-Bench trajectories](https://huggingface.co/datasets/yoonholee/terminalbench-trajectories) | Inferred from benign terminal tasks |
| Not risky | [nl2bash](https://github.com/TellinaTool/nl2bash) | Human-curated command corpus |
| Risky | [Atomic Red Team](https://github.com/redcanaryco/atomic-red-team) | Executable ATT&CK tests |
| Risky | [GTFOBins](https://github.com/GTFOBins/GTFOBins.github.io) | Curated binary-abuse techniques |
| Risky | [InternalAllTheThings](https://github.com/swisskyrepo/InternalAllTheThings) | Curated offensive shell payloads |

The benign trajectory labels are task-inferred rather than independently
verified command-by-command. Risky labels follow the purpose of the upstream
security collections. See the repository's
[dataset provenance](https://github.com/kontext-security/shellrisk-bench/blob/main/DATASETS.md)
for exact revisions and transformations.

## Split construction

The v0.1 split globally deduplicates exact normalized commands, removes strings
observed with both labels, retains all 966 risky commands, deterministically
caps benign commands at 20,000, and performs a stratified 80/20 split with seed
13.

The approximately 20:1 test mix is a constructed operating point. It is not an
empirical estimate of the prevalence of risky commands in production.

## Uses and limitations

ShellRisk-Bench is intended to compare command-level classifiers and security
guardrails on a fixed, auditable split. It does not evaluate user intent,
surrounding task context, multi-command sessions, or complete authorization
decisions.

The headline split is same-source and in-distribution. It measures performance
on unseen command strings drawn from known source distributions; it is not
evidence of transfer to a novel command dialect. Keep the `source` field when
performing source-grouped or leave-one-source-out analysis.

## Try it

ShellRisk-Bench is maintained by Kontext Security. To see Kestrel evaluating
the cyber risk of agent tool calls as part of Kontext, visit
[kontext.security](https://kontext.security).

## Licensing

There is no single blanket license for the data. The benchmark code and
documentation are Apache-2.0, while each upstream source retains its own terms.
The pinned sources currently declare MIT, Apache-2.0, MIT, MIT, GPL-3.0, and no
license file, respectively. Consult the source-specific links and notes in
[DATASETS.md](https://github.com/kontext-security/shellrisk-bench/blob/main/DATASETS.md)
before using or redistributing the data.

</details>