HYUKI5/tasksource__procedural-typed-decisions

tasksource/procedural-typed-decisions（複製）

データの内容

手続き的に生成した意思決定の問題のデータ。1 行が 1 つの状態（state）で、同じ状態に対する複数の型付きの質問（questions）と答え（answers）を持つ。答えは状態が明示するルールから厳密に計算されるため、カードはラベルにノイズは無いとしている。生成器は reasoning-core の Jev タスクで、TypeSafe の公式の Jev データセットではない。

データの概要

項目	値
行数	792,000（19 構成・57 分割の合計）
列数	6〜22（構成による）
容量	456.87 MB（ファイル 62 本）
ファイルの形式	parquet 59、json 1
言語	en
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
all	train 360,000、validation 18,000、test 18,000	6
arithmetic	train 20,000、validation 1,000、test 1,000	22
entity_belief_tracking	train 20,000、validation 1,000、test 1,000	9
event_state_reconstruction	train 20,000、validation 1,000、test 1,000	8
event_triggered_execution	train 20,000、validation 1,000、test 1,000	10
evidence_sufficiency	train 20,000、validation 1,000、test 1,000	8
goal_directed_planning	train 20,000、validation 1,000、test 1,000	11
graph_navigation	train 20,000、validation 1,000、test 1,000	10
instruction_execution	train 20,000、validation 1,000、test 1,000	11
multi_view_adjudication	train 20,000、validation 1,000、test 1,000	8
needle_retrieval	train 20,000、validation 1,000、test 1,000	8
partial_observation_calibration	train 20,000、validation 1,000、test 1,000	6
policy_applicability	train 20,000、validation 1,000、test 1,000	8
policy_under_uncertainty	train 20,000、validation 1,000、test 1,000	8
record_aggregation	train 20,000、validation 1,000、test 1,000	10
record_eligibility	train 20,000、validation 1,000、test 1,000	12
state_perturbation	train 20,000、validation 1,000、test 1,000	8
table_lookup	train 20,000、validation 1,000、test 1,000	9
taxonomy_routing	train 20,000、validation 1,000、test 1,000	8

列（構成 all・分割 train。構成ごとに列が違う）

列	型	先頭の行の値
id	string	arithmetic:train:0
task	string	arithmetic
level	int64	0
state	string	{"opening_balance": 35, "currency": "£", "transa…
questions	string	{"final_balance": {"type": "choice", "instructio…
answers	string	{"final_balance": {"type": "choice", "choice": "…

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

tasksource/procedural-typed-decisions をリビジョン 05ca1d0388f57461a634a7caed67145d28e2eca7 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/tasksource/procedural-typed-decisions
• 複製したリビジョン: 05ca1d0388f57461a634a7caed67145d28e2eca7（2026-10-23 11:02:42+00:00）
• 元のライセンス表記: apache-2.0

論文

• https://arxiv.org/abs/2608.05148
• https://aclanthology.org/2024.lrec-main.1361

アノテーションの方法

（元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した）

手続き的に生成された意思決定問題のデータセットである。各行は構造化された 1 つの状態（JSON、または算術・検索・集約の構成では表、CSV、key=value の行、散文のいずれか）であり、同じ状態に対する複数の型付きの質問を持つ。質問の形式は Jev / System One のリクエストの形に従い、choice（基準を 1 つ選ぶ）、noul（[0, 1] の数値。確率、または yes/no）、score（順序付きのルーブリック）の 3 種類がある。すべての答えは、状態そのものが明示するルールによって状態から厳密に計算されるため、ラベルにノイズは含まれない。質問の答えのうち、yes/no や choice のラベルが 60% を超えることはない。タスクの質問のうち yes/no の質問は高々 3 分の 1 である。状態は、答えや yes/no の形式がすでに過剰に表れている質問を省くため、状態ごとに質問の部分集合が異なる。選択肢の数（4 から 60）を変える構成がいくつかあり、Jev の残りの大部分を占める二値の質問と 4〜6 択の質問のバランスを取る。

レベル 0 は、強力な判断モデルにとって易しく、レベル 4 は難しくなるように意図されている。下の表は、Jev の偶然を補正した正答率（カッパ = (正答率 − 偶然の正答率) / (1 − 偶然の正答率)）を示す。測定はレベルごとに新たに生成した 40 個の状態について行った（各状態のすべての質問を対象とする）。測定には typesafe/jev-1.13-20260917（2026 年 9 月）を用いた。ただし event_triggered_execution、goal_directed_planning、graph_navigation、instruction_execution、partial_observation_calibration、record_eligibility については、jev-latest（2026 年 10 月）を用い、レベルごとに 30〜40 個の状態で測定した。値の 1 は完全な正答、0 は偶然と同じであることを表す。この測定は、生成器が reasoning-core に移る前に行われた。そこでは 5 つの構成（event_triggered_execution、goal_directed_planning、graph_navigation、instruction_execution、record_eligibility）が同一の状態を生成していた。残りの構成は、規則とレベルは保ったまま、描画方法と抽出を改めている。

tasksource、その標準化されたタスクのアノテーション、またはそれらから派生したデータセットを公表された研究で使う場合は、tasksource の論文（Sileo, LREC-COLING 2024）を引用すること。手続き的データは Reasoning Core で生成されているため、Reasoning Core の論文（Sileo et al., 2026）も引用すること。

微調整に使うときの注意

• 調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
multitask_weak_synthetic.md	Q1. Laya と同形式の合成・変換済み「typed decisions」データは、公開されているか (L25)	apache-2.0（HF API）	確認済	原文注記: 金融ニュース・アナリスト判断とは領域が違う。needle_retrieval は最大約 300 レコードで、Laya の context（512〜1024）を超える。README が level 別の Jev の cha
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	apache-2.0 / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] procedural_exact_rule
jev_sources_community.csv	CSV（sulabhkatiyar/typed-decisions-english-training-mix）	licence_tier=default	確認済	[Jev 元データ source] 上流の人手ラベル中心（約 8% が soft。label_kind = human/program/teacher）

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

procedural-typed-decisions

手続き的に生成された意思決定問題のデータセットである。各行は構造化された 1 つの状態（JSON、または算術・検索・集約の構成では表、CSV、key=value の行、散文のいずれか）であり、同じ状態に対する複数の型付きの質問を持つ。質問の形式は Jev / System One のリクエストの形に従い、choice（基準を 1 つ選ぶ）、noul（[0, 1] の数値。確率、または yes/no）、score（順序付きのルーブリック）の 3 種類がある。すべての答えは、状態そのものが明示するルールによって状態から厳密に計算されるため、ラベルにノイズは含まれない。質問の答えのうち、yes/no や choice のラベルが 60% を超えることはない。タスクの質問のうち yes/no の質問は高々 3 分の 1 である。状態は、答えや yes/no の形式がすでに過剰に表れている質問を省くため、状態ごとに質問の部分集合が異なる。選択肢の数（4 から 60）を変える構成がいくつかあり、Jev の残りの大部分を占める二値の質問と 4〜6 択の質問のバランスを取る。

生成器は reasoning-core の Jev タスクである（reasoning_core/tasks/jev/。ここでは arithmetic が practical_arithmetic、evidence_sufficiency が claim_support に当たる）。コミットとタスクのバージョンは provenance.json に記録されている。

これは独立したデータセットである。TypeSafe の公式の Jev データセットではなく、TypeSafe や OpenJev が作成したものでも、両者と提携したものでもない。

構成

config	questions
all（既定）	下の全構成を 1 つの表にまとめたもの。task 列と共通のフィールドだけを持つ（フラットなラベル列は持たない）。train の最初の 1,000 行はレベルとタスクを順に巡り、残りはシャッフルされている
arithmetic	割引と送料の規則つきの注文、勘定元帳、またはスケジュール。各状態は次のうち 2〜5 個を問う: amount_due / final_balance / finish_time（結果と典型的な誤答から選ぶ choice）、within_budget、went_negative、done_by_deadline（noul）、random_line_bulk、random_is_deposit、random_is_long（noul。正確な確率 k/n）、budget_use、net_change（score。記述的なレベル）、lines_above、withdrawal_count、starts_before_noon（score）、largest_line、lowest_day、longest_task（choice）
entity_belief_tracking	world_location（choice）、agent_belief_location（choice）、belief_matches_world（noul）。レベル 2 からは nested_belief_location（choice。A が、B はある物がどこにあると信じていると考えているかを問う）も加わる。場所は 4〜16 個
event_state_reconstruction	current_owner（choice）、is_open（noul）、current_severity（score）。ログはレベル 2 からシャッフルされ、レベル 3 からは無効化された項目を含む
event_triggered_execution	rule_on_signal（choice）、object_final_state、rule_enabled_at_end、object_ever_targeted（noul）、total_firings（score）。タイムスタンプ付きの 3〜18 個のイベントに対して、1〜8 個の競合するルールがある。ルールには優先度、イベントの条件（ガード）、クールダウン、有効化と無効化の制御があり、提示順はソートされていない
evidence_sufficiency	claim_supported（noul）、has_conflict（noul）、strongest_support_origin（choice）。レベル 2 からは撤回、レベル 3 からは互いに独立でない出所（鏡像の出所）、レベル 4 では収集日による有効性の判定を含む
goal_directed_planning	goal_reachable、probe_applicable、probe_optimal_first、probe_required（noul）、minimal_actions（score）、first_legal_action（choice）。3〜12 ステップからなり、前提条件は連言（すべて必要）と選言（代替）の両方を含む。実行できない行動を含み、最短の計画のラベルは正確である
graph_navigation	reachable、within_budget、edge_essential（noul）、shortest_cost、first_hop（choice）。4〜16 個の有向ノードからなり、辺にはコストがあり、閉鎖（通行止め）、必ず通る経由地、最適経路の代替案を含む
instruction_execution	resolution と deferred_registration（choice）、target_count、changed_count（score）、probe_selected、probe_final_state（noul）。3〜26 個のエンティティにわたり、自然言語による選択、例外、即時と遅延の更新、曖昧さ、原子的（atomic）・ベストエフォート・順序付きの実行を扱う
multi_view_adjudication	intent（choice）、is_urgent（noul）、workflow_impact（score）。レベル 2 からは閾値付近のシグナル、レベル 3 からはログインイベントから数える認証失敗、レベル 4 では時刻として与えられる期限を含む
needle_retrieval	value_of_id（choice）、id_has_value（noul）、id_listed（noul）。最大約 300 件のレコードがあり、その ID は対象の ID と 1〜2 桁だけ異なる。レベル 2 からは、1〜3 回の ID の再発行をたどる連鎖も加わる。選択肢は 6〜20 個
partial_observation_calibration	incident_real（noul。正確なベイズの事後確率）。センサーは 1〜6 個
policy_applicability	access_allowed（noul）、governing_policy（choice）、review_risk（score）。レベル 0 では制約が 1 つだけのポリシーが 2 個、レベル 4 では制約が最大 5 個のポリシーが約 12 個あり、その多くは惜しいが該当しない（ニアミス）ものである
policy_under_uncertainty	access_allowed（noul）、governing_policy（choice）、requester_role（choice）。履歴の件数と、明示された信頼性を持つ報告から知られる役割について、正確な事後確率を求める
record_aggregation	count_in_category（score）、largest_quantity（choice）、any_out_of_stock（noul）、total_above（noul）。レベル 2 からは count_filtered（score。数量と在庫のフィルタつき）も加わる
record_eligibility	散文のみのレコードの説明と、番号付きのユーザー要件。probe_eligibility、requirement_status、first_eligible、decisive_constraint（choice）、eligible_count（score）、eligible_if_relaxed、probe_fully_eligible（noul）。資格の判定は 3 値であり、連言、否定、選言、条件付きの義務、合計コストの上限、欠けている証拠や食い違う証拠、反事実的な緩和を扱う。レコード数と制約数はレベルによって異なり、4〜27 件のレコードと 1〜6 個の制約がある。
state_perturbation	material_change（noul）、changed_dimension（choice）、risk_direction（score）。1〜8 件のレコードがあり、同時に最大 4 個の変更を含む。変更のリスクへの影響は互いに打ち消し合うことがあり、見た目が似ているが重要ではないフィールドも含む
table_lookup	find_person（choice。2 条件のフィルタ。レベル 2 からは上司をたどり、レベル 3 からは開始年の条件を伴う。選択肢は 6〜40 個で、表の行数が上限となる）、manager_of（choice。結合）、started_before（noul）、count_matching（score）
taxonomy_routing	route（choice。状態ごとに引き直される、ルーティングガイドの 4〜60 個のカテゴリから選ぶ。多くのルールが正しいルールと同じ条件を共有する）、belongs_to（noul）、conditions_met（score。0〜4）

レコードの資格判定の生成

record_eligibility の状態に含まれるのは、自然言語のユーザーリクエスト、散文のレコードの説明、そして明示された評価の意味づけだけである。元になる事実と論理式の木は生成器のテストのメタデータに保持されており、公開されたデータセットには含まれない。不明な事実は違反とみなさない。違反が確認された要件は、不明な要件よりも優先される。最初に資格を満たすレコードは表示された順序で定まり、決定的な要件は番号付きの制約によって定まる。

難易度は 5 つのレベルにわたって上がる。レコード数（4〜6 から 25〜27 へ）と要件数（1 から 6 へ）が増え、入れ子の OR、条件付きの要件、合計された料金、閾値付近の紛らわしい情報、矛盾する報告が導入される。

スキーマ

field	meaning
id	task:split:index
level	難易度のレベル（0〜4）。Jev に対して較正してある（後述）。
state	状態。JSON の文字列か、検索と集約の構成では描画されたテキスト。
questions	名前付きの System One の質問からなる JSON オブジェクト（type、instructions、criteria）。
answers	System One の answers の形をした、参照用の答えの JSON オブジェクト。
質問ごとに 1 列	閲覧と絞り込みのためのフラットなラベル。choice、score、yes/no の noul の質問には ClassLabel、段階的な noul（incident_real、random_*）には float、数値を開いた choice（amount_due、final_balance、finish_time）には選択肢のテキストが入る。状態がその質問を問わない場合は null となる（arithmetic と、レベルによって異なる質問）。

状態は分割の中で一意である。validation と test の状態は train に現れない。各構成で、train の最初の 1,000 行は閲覧用に、レベルを（易しいものから順に）巡る。分割の残りはシャッフルされている。

レベルごとの難易度

レベル 0 は、強力な判断モデルにとって易しく、レベル 4 は難しくなるように意図されている。下の表は、Jev の偶然を補正した正答率（カッパ = (正答率 − 偶然の正答率) / (1 − 偶然の正答率)）を示す。測定はレベルごとに新たに生成した 40 個の状態について行った（各状態のすべての質問を対象とする）。測定には typesafe/jev-1.13-20260917（2026 年 9 月）を用いた。ただし event_triggered_execution、goal_directed_planning、graph_navigation、instruction_execution、partial_observation_calibration、record_eligibility については、jev-latest（2026 年 10 月）を用い、レベルごとに 30〜40 個の状態で測定した。値の 1 は完全な正答、0 は偶然と同じであることを表す。この測定は、生成器が reasoning-core に移る前に行われた。そこでは 5 つの構成（event_triggered_execution、goal_directed_planning、graph_navigation、instruction_execution、record_eligibility）が同一の状態を生成していた。残りの構成は、規則とレベルは保ったまま、描画方法と抽出を改めている。

config	level 0	1	2	3	4
arithmetic	0.83	0.64	0.59	0.54	0.59
entity_belief_tracking	0.91	0.93	0.78	0.74	0.66
event_state_reconstruction	0.97	0.99	0.92	0.73	0.60
event_triggered_execution	0.91	0.75	0.63	0.44	0.60
evidence_sufficiency	0.99	0.97	0.78	0.72	0.78
goal_directed_planning	1.00	0.87	0.62	0.53	0.51
graph_navigation	0.90	0.81	0.54	0.27	0.17
instruction_execution	0.99	0.98	0.73	0.72	0.67
multi_view_adjudication	0.82	0.87	0.82	0.73	0.74
needle_retrieval	1.00	0.99	0.78	0.83	0.36
partial_observation_calibration	0.74	0.45	0.35	0.30	0.20
policy_applicability	0.73	0.60	0.53	0.64	0.35
policy_under_uncertainty	0.35	0.42	0.38	0.57	0.39
record_aggregation	0.99	0.96	0.84	0.75	0.70
record_eligibility	0.97	0.94	0.74	0.56	0.53
state_perturbation	0.95	0.89	0.44	0.63	0.50
table_lookup	1.00	0.98	0.97	0.90	0.87
taxonomy_routing	1.00	0.98	0.92	0.78	0.64

確率の答えは、上の表では yes/no に丸めて採点している。正確な確率に対する Jev の平均絶対誤差は、incident_real ではレベル 0 の 0.16 からレベル 4 の 0.29 へ増え、policy_under_uncertainty の事後確率 access_allowed では 0.33 前後で推移する。policy_under_uncertainty と partial_observation_calibration（正確な事後確率を求める）は、レベル 0 から難しい。table_lookup と multi_view_adjudication は、レベル 4 でも最も易しいままである。

2 つ目のモデル upstage/solar-decide（レベルごとに 10 個の状態。選択肢は最大 26 個までしか扱えないため、最も長いリストは除外してある）では、ほとんどの構成で同じく易しいものから難しいものへの傾きが見られる。例えば event_state_reconstruction では 0.95 → 0.53、evidence_sufficiency では 1.00 → 0.48、policy_applicability では 0.88 → 0.42 である。arithmetic、table_lookup、state_perturbation は、このモデルにとってもどのレベルでも易しいまま（おおよそ 0.8〜0.9）である。再実行は scripts/calibrate_procedural_levels.py で行う（別のモデルを使うには --model を指定する。対象は OpenRouter の decisions API）。

使い方

複数質問の Jev リクエストとして、{"state": row["state"], "questions": json.loads(row["questions"])} を送る（状態が JSON の場合は先に解析する）。答えは row["answers"] と比べる。 同じ行は、状態ごとにまとめた形で tasksource/tasksource-jev-typed-decisions にも含まれている。

再現

生成は決定的である（分割の行 i は task:split:i でシードされる）。tasksource のチェックアウトから、provenance.json に記された reasoning-core のコミットをインストールした上で実行する:

PYTHONPATH=.:src python scripts/build_procedural_jev.py --output build/procedural-typed-decisions --upload

引用

tasksource、その標準化されたタスクのアノテーション、またはそれらから派生したデータセットを公表された研究で使う場合は、tasksource の論文（Sileo, LREC-COLING 2024）を引用すること。手続き的データは Reasoning Core で生成されているため、Reasoning Core の論文（Sileo et al., 2026）も引用すること。

@inproceedings{sileo-2024-tasksource,
    title = "tasksource: A Large Collection of {NLP} tasks with a Structured Dataset Preprocessing Framework",
    author = "Sileo, Damien",
    booktitle = "Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING 2024)",
    month = may,
    year = "2024",
    address = "Torino, Italia",
    publisher = "ELRA and ICCL",
    url = "https://aclanthology.org/2024.lrec-main.1361",
    doi = "10.63317/2h4pkr685mkq",
    pages = "15655--15684",
}

@article{sileo2026reasoning,
  title={Reasoning Core: Designing Broad Procedural Data for Completion-Supervised Reasoning Training},
  author={Sileo, Damien and Lacombe, Valentin and Kachler, Dimitri},
  journal={arXiv preprint arXiv:2608.05148},
  year={2026},
  url={https://arxiv.org/abs/2608.05148}
}

原文（英語）

procedural-typed-decisions

Procedurally generated decision problems. Each row is one structured state (JSON, or a table, CSV, key=value lines, or prose for the arithmetic, retrieval, and aggregation configs) with several typed questions over that same state, following the Jev / System One request shape: choice (pick one criterion), noul (a number in [0, 1]; a probability or a yes/no), and score (an ordered rubric). Every answer is computed exactly from the state by rules that the state itself spells out, so the labels are noise-free. No yes/no or choice label exceeds 60% of a question's answers: yes/no questions are at most a third of a task's questions. A state skips a question whose answer, or whose yes/no format, is already over-represented, so states ask varying subsets of their task's questions. Several configs vary the number of options (4 to 60), to balance the binary and 4–6-option questions that dominate the rest of Jev.

The generators are the Jev tasks of reasoning-core (reasoning_core/tasks/jev/; arithmetic is practical_arithmetic there and evidence_sufficiency is claim_support); provenance.json records the commit and task versions.

This is an independent dataset. It is not an official TypeSafe Jev dataset and is not produced by or affiliated with TypeSafe or OpenJev.

Configs

config	questions
all (default)	Every config below in one table, with a task column and the shared fields only (no flat label columns); the first 1,000 train rows cycle through levels and tasks, the rest is shuffled
arithmetic	An order with a discount/shipping rule, an account ledger, or a schedule; each state asks 2–5 of: amount_due / final_balance / finish_time (choice among the result and typical slips), within_budget, went_negative, done_by_deadline (noul), random_line_bulk, random_is_deposit, random_is_long (noul, exact probability k/n), budget_use, net_change (score, descriptive levels), lines_above, withdrawal_count, starts_before_noon (score), largest_line, lowest_day, longest_task (choice)
entity_belief_tracking	world_location (choice), agent_belief_location (choice), belief_matches_world (noul), from level 2 nested_belief_location (choice: where A thinks B believes an object is); 4 to 16 locations
event_state_reconstruction	current_owner (choice), is_open (noul), current_severity (score); the log is shuffled from level 2 and has voided entries from level 3
event_triggered_execution	rule_on_signal (choice), object_final_state, rule_enabled_at_end, object_ever_targeted (noul), total_firings (score); 1–8 competing rules over 3–18 timestamped events, with priorities, event guards, cooldowns, enable/disable controls, and unsorted presentation
evidence_sufficiency	claim_supported (noul), has_conflict (noul), strongest_support_origin (choice); retractions from level 2, mirrored (non-independent) origins from level 3, validity by collection day at level 4
goal_directed_planning	goal_reachable, probe_applicable, probe_optimal_first, probe_required (noul), minimal_actions (score), first_legal_action (choice); 3–12 steps with conjunctive and alternative prerequisites, unavailable actions, and exact shortest-plan labels
graph_navigation	reachable, within_budget, edge_essential (noul), shortest_cost, first_hop (choice); 4–16 directed nodes with edge costs, closures, mandatory waypoints, and optimal-route alternatives
instruction_execution	resolution and deferred_registration (choice), target_count, changed_count (score), probe_selected, probe_final_state (noul); natural-language selection, exceptions, immediate/deferred updates, ambiguity, and atomic/best-effort/ordered execution across 3–26 entities
multi_view_adjudication	intent (choice), is_urgent (noul), workflow_impact (score); near-threshold signals from level 2, auth failures counted from login events from level 3, deadlines as clock times at level 4
needle_retrieval	value_of_id (choice), id_has_value (noul), id_listed (noul); up to ~300 records whose ids differ from the target by one or two digits, and from level 2 a chain of one to three id reissues to follow; 6 to 20 options
partial_observation_calibration	incident_real (noul, exact Bayesian posterior); 1 to 6 sensors
policy_applicability	access_allowed (noul), governing_policy (choice), review_risk (score); 2 one-constraint policies at level 0, about 12 policies of up to 5 constraints, many of them near misses, at level 4
policy_under_uncertainty	access_allowed (noul), governing_policy (choice), requester_role (choice); exact posteriors over a role known through history counts and reports of stated reliability
record_aggregation	count_in_category (score), largest_quantity (choice), any_out_of_stock (noul), total_above (noul), from level 2 count_filtered (score, quantity and stock filters)
record_eligibility	Prose-only record descriptions and numbered user requirements. probe_eligibility, requirement_status, first_eligible, decisive_constraint (choice); eligible_count (score), eligible_if_relaxed, probe_fully_eligible (noul). Three-valued eligibility covers conjunction, negation, disjunction, conditional obligations, combined-cost limits, missing or conflicting evidence, and counterfactual relaxation. 4–27 records and 1–6 constraints by level.
state_perturbation	material_change (noul), changed_dimension (choice), risk_direction (score); 1 to 8 records with up to 4 simultaneous changes whose risk effects can offset, and look-alike non-material fields
table_lookup	find_person (choice, two-condition filter, through the manager from level 2 and with a start-year condition from level 3; 6 to 40 options, capped by the table), manager_of (choice, join), started_before (noul), count_matching (score)
taxonomy_routing	route (choice among the 4–60 categories of a routing guide drawn fresh per state; many rules share a condition with the right one), belongs_to (noul), conditions_met (score, 0–4)

Record eligibility generation

The record_eligibility state contains only a natural-language user request, prose record descriptions, and explicit evaluation semantics. Source facts and logical expression trees are kept in generator test metadata, not the published dataset. Unknown facts are not treated as violations; a known violated requirement dominates any unknown requirements. The first eligible record is defined by the displayed order, and the decisive requirement by the numbered constraints.

Difficulty rises across five levels by increasing record count (4–6 to 25–27), requirement count (1 to 6), and the introduction of nested OR, conditional requirements, summed charges, near-threshold distractors and contradictory reports.

Schema

field	meaning
id	task:split:index
level	Difficulty level (0–4), calibrated against Jev (see below).
state	The state: a JSON string, or rendered text for the retrieval and aggregation configs.
questions	JSON object of named System One questions (type, instructions, criteria).
answers	JSON object of reference answers, in the System One answers shape.
one column per question	Flat label, for browsing and filtering: a ClassLabel for choice, score, and yes/no noul questions; a float for graded noul (incident_real, random_*); the option text for open numeric choices (amount_due, final_balance, finish_time). Null when the state does not ask that question (arithmetic, and level-dependent questions).

States are unique within a split, and validation/test states never occur in train. In each config, the first 1,000 train rows cycle through the levels (easiest first) for browsing; the rest of the split is shuffled.

Difficulty by level

Level 0 is meant to be easy for a strong decision model and level 4 hard. The table gives Jev's chance-adjusted accuracy, kappa = (accuracy − chance) / (1 − chance), on 40 fresh states per level (every question of each state; typesafe/jev-1.13-20260917, September 2026; jev-latest, October 2026, for event_triggered_execution, goal_directed_planning, graph_navigation, instruction_execution, partial_observation_calibration and record_eligibility, 30–40 states per level). 1 is perfect, 0 is chance. It was measured before the generators moved to reasoning-core: five configs generate identical states there (event_triggered_execution, goal_directed_planning, graph_navigation, instruction_execution, record_eligibility), the others keep their rules and levels with revised renderings and sampling.

config	level 0	1	2	3	4
arithmetic	0.83	0.64	0.59	0.54	0.59
entity_belief_tracking	0.91	0.93	0.78	0.74	0.66
event_state_reconstruction	0.97	0.99	0.92	0.73	0.60
event_triggered_execution	0.91	0.75	0.63	0.44	0.60
evidence_sufficiency	0.99	0.97	0.78	0.72	0.78
goal_directed_planning	1.00	0.87	0.62	0.53	0.51
graph_navigation	0.90	0.81	0.54	0.27	0.17
instruction_execution	0.99	0.98	0.73	0.72	0.67
multi_view_adjudication	0.82	0.87	0.82	0.73	0.74
needle_retrieval	1.00	0.99	0.78	0.83	0.36
partial_observation_calibration	0.74	0.45	0.35	0.30	0.20
policy_applicability	0.73	0.60	0.53	0.64	0.35
policy_under_uncertainty	0.35	0.42	0.38	0.57	0.39
record_aggregation	0.99	0.96	0.84	0.75	0.70
record_eligibility	0.97	0.94	0.74	0.56	0.53
state_perturbation	0.95	0.89	0.44	0.63	0.50
table_lookup	1.00	0.98	0.97	0.90	0.87
taxonomy_routing	1.00	0.98	0.92	0.78	0.64

Probability answers are scored above by their rounding to yes/no; Jev's mean absolute error on the exact probability grows from 0.16 (level 0) to 0.29 (level 4) on incident_real, and stays around 0.33 on the posterior access_allowed of policy_under_uncertainty. policy_under_uncertainty and partial_observation_calibration (exact posteriors) are hard from level 0 on; table_lookup and multi_view_adjudication remain the easiest at level 4.

A second model, upstage/solar-decide (10 states per level; it takes at most 26 options, so the longest lists are left out), shows the same easy-to-hard slope on most configs, e.g. 0.95 → 0.53 on event_state_reconstruction, 1.00 → 0.48 on evidence_sufficiency, 0.88 → 0.42 on policy_applicability; arithmetic, table_lookup, and state_perturbation stay easy for it (about 0.8–0.9 at every level). Rerun with scripts/calibrate_procedural_levels.py (--model for another model of the OpenRouter decisions API).

Use

As a multi-question Jev request, send {"state": row["state"], "questions": json.loads(row["questions"])} (parsing the state first when it is JSON) and compare with row["answers"]. The same rows are included, grouped by state, in tasksource/tasksource-jev-typed-decisions.

Reproduction

Generation is deterministic (row i of a split is seeded by task:split:i). From a tasksource checkout, with the reasoning-core commit of provenance.json installed:

PYTHONPATH=.:src python scripts/build_procedural_jev.py --output build/procedural-typed-decisions --upload

Citation

If you use tasksource, its standardized task annotations, or datasets derived from them in published research, please cite the tasksource paper (Sileo, LREC-COLING 2024). The procedural data is generated with Reasoning Core; please also cite the Reasoning Core paper (Sileo et al., 2026).

@inproceedings{sileo-2024-tasksource,
    title = "tasksource: A Large Collection of {NLP} tasks with a Structured Dataset Preprocessing Framework",
    author = "Sileo, Damien",
    booktitle = "Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING 2024)",
    month = may,
    year = "2024",
    address = "Torino, Italia",
    publisher = "ELRA and ICCL",
    url = "https://aclanthology.org/2024.lrec-main.1361",
    doi = "10.63317/2h4pkr685mkq",
    pages = "15655--15684",
}

@article{sileo2026reasoning,
  title={Reasoning Core: Designing Broad Procedural Data for Completion-Supervised Reasoning Training},
  author={Sileo, Damien and Lacombe, Valentin and Kachler, Dimitri},
  journal={arXiv preprint arXiv:2608.05148},
  year={2026},
  url={https://arxiv.org/abs/2608.05148}
}