Laya command-safety domain fine-tune (T5)

.gitattributes

@@ -33,3 +33,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 *.zip filter=lfs diff=lfs merge=lfs -text
 *.zst filter=lfs diff=lfs merge=lfs -text
 *tfevents* filter=lfs diff=lfs merge=lfs -text
+tokenizer/tokenizer.json filter=lfs diff=lfs merge=lfs -text

CHECKPOINT-SHA256.txt

@@ -0,0 +1,8 @@
+model.safetensors sha256 = cff1f7be90ce3032b1129f18c30bb813dce30bca98482db23708ef90153e92e7
+t5_train.jsonl    sha256 = 76927295bdfd2cc74ca12ca9aa9cd7a569846dc9be2ebece2eda0453b24974bc
+train rows               = 691
+as_trained sha256        = a9bc15e3da57498cbdcbe017b37eedf400fe4417807d518d6d1cf353c7d9cc36
+as_trained rows          = 691
+checkpoint meta          = {}
+assembled at             = 2026-09-30 23:55:01
+note: rl_agent_config.json 取自训练产物；其中 fine_tuned_from_checkpoint 仍为 false 是基座自带字段，不代表本次微调——见模型卡说明

README.md

@@ -0,0 +1,74 @@
+# 模型卡 · Laya 命令安全判定（322M，RLCD 微调）
+
+## 概要
+
+把一个**只读的** 322M 文本编码器基座微调成命令安全三档分类器：给定「命令 + 工作目录 + 备注」，
+输出 `allow`（直接执行）/ `ask`（执行前确认）/ `deny`（拦截不执行）。
+
+| 项 | 值 |
+|---|---|
+| 基座 | Laya multilingual（322M 编码器） |
+| 微调方式 | RLCD（proper-scoring-rule 奖励 + GRPO 式策略梯度 + 软交叉熵） |
+| 训练数据 | 合成（抗模板改写）+ 脱敏真实会话；规模、指纹与「入集/梯度/温度拟合」三条条数见 [`REPORT.md`](../REPORT.md) §5 区块 |
+| 任务类型 | 三选一 typed decision（选项文本进编码器） |
+| 权重指纹 | `model.safetensors` sha256 记于 `CHECKPOINT-SHA256.txt`（与训练数据指纹绑定） |
+| 许可 | 见 `LICENSE` |
+
+## 训练/评测口径
+
+真值不是单点标签，是**可接受集合**：不可逆或高危 → `{ask, deny}`；其余 → `{allow, ask}`。
+评测头条是 **严格命中** 与 **平衡准确率（macro-recall）**；容忍命中是业务口径，其上界为 100%（常量 ask 即满）。
+
+<!-- RESULTS:START -->
+| 指标 | 未微调 | **微调后** | 同题常量基线 |
+|---|---|---|---|
+| 严格命中 | 42.0% | **71.0%** | 常量 deny 42.0% |
+| 平衡准确率 | 34.5% | **71.5%** | 33.3% |
+| 危险漏放 | 12 | **4** | 常量 ask 0（故此项不证明判别力）|
+| 误杀 | 35 | **1** | 常量 ask 0（同上）|
+
+### 血缘（自动生成，勿手抄）
+
+```
+data/t5_train.jsonl (sha256 76927295bdfd…, 691 行)   ← FREEZE.json 冻结于 2026-09-30 21:48:04
+        │  裁剪副本（仅 id/state/questions/gold/weight）
+kaggle/dataset/t5_train.jsonl (sha256 a9bc15e3da57…, 691 行)   → 训练
+        │
+models/t5_ft/model.safetensors (sha256 cff1f7be90ce…)
+```
+
+校验：`python3 ../synth/audit_t5_v2.py` 会实际比对上述每一环。
+<!-- RESULTS:END -->
+
+完整分层结果、域外退化与**局限**见 [`REPORT.md`](../REPORT.md) §5–§9。引用上面的数字前先读 §9。
+
+## 直接用途
+
+- 作为命令执行前的**建议档**，接在人机确认链路里：`deny` 拦截、`ask` 弹确认、`allow` 放行。
+- 作为规则引擎的**边界补充**：手写正则在「该问的判成拦、该放的判成问」这类边界上表现差（见 REPORT §6），模型的价值在这一段。
+
+## 不适用
+
+- **不要**当作权限控制的唯一防线。留出集只有一百条量级，一个条目 = 1 个百分点。
+- **不要**把它当通用判断模型用：域外（检索结果有用性）上它**低于「全判有用」这个多数类基线**——
+  窄任务微调**收窄**了基座的行为面（数字见 REPORT §5 区块的 E2 段）。
+- **不要**读 `confidence` 当概率用：训练做了温度缩放拟合，但**未测 ECE**；全部结论只依赖 argmax。
+
+## 已知偏差与局限
+
+**完整局限以 [`REPORT.md`](../REPORT.md) §9 为准**（那里有十余条，此处只列最要紧的）。其中：
+
+1. 训练集以合成为主，合成样本经另一模型改写去模板化，仍可能与真实分布有系统差异。
+2. 生成真值的裁判 prompt 与判据表曾有一处措辞分叉（「覆盖关键文件」vs「清空关键配置」），
+   影响面已量化（对训练目标净影响 0 条）但**未按新措辞重判**。
+3. 真实会话臂的真值依赖未公开的对话上下文，公开版只有合成臂可复核。
+4. **权重不可逐字节复现**：训练未固定 torch 随机源。可复现的是**数据**，不是权重。
+5. 模型臂在 Kaggle（CPU）评测，基线臂在本地 venv 评测，**环境不完全可比**（版本未钉）。
+6. 公开的合成分集**不是**本模型训练集的子集（多 9 条 + 路径已改写），不能用来复现这份权重。
+7. 判据表 17 条规则覆盖不足：T1 标注上 R6 无实例、R4b 零样本；组装数据上零锚点是 R3/R6（两个论域，别混用）。
+
+## 关于 `rl_agent_config.json`
+
+该文件继承自基座，其中 `fine_tuned_from_checkpoint` 仍为 `false`，**不代表本次微调的状态**——
+它是基座自带的配置，本次训练与导出的实际产物以权重与 `CHECKPOINT-SHA256.txt` 为准。
+`temperature` 字段是本次训练**温度拟合的产物**（首个温度 ≠ 基座占位值即为证据）。

encoder/config.json

@@ -0,0 +1,79 @@
+{
+  "architectures": [
+    "ModernBertForMaskedLM"
+  ],
+  "attention_bias": false,
+  "attention_dropout": 0.0,
+  "bos_token_id": 2,
+  "classifier_activation": "gelu",
+  "classifier_bias": false,
+  "classifier_dropout": 0.0,
+  "classifier_pooling": "mean",
+  "cls_token_id": 1,
+  "decoder_bias": true,
+  "deterministic_flash_attn": false,
+  "dtype": "float32",
+  "embedding_dropout": 0.0,
+  "eos_token_id": 1,
+  "global_attn_every_n_layers": 3,
+  "gradient_checkpointing": false,
+  "hidden_activation": "gelu",
+  "hidden_size": 768,
+  "initializer_cutoff_factor": 2.0,
+  "initializer_range": 0.02,
+  "intermediate_size": 1152,
+  "layer_norm_eps": 1e-05,
+  "layer_types": [
+    "full_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "full_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "full_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "full_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "full_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "full_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "full_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "full_attention"
+  ],
+  "local_attention": 128,
+  "mask_token_id": 4,
+  "max_position_embeddings": 8192,
+  "mlp_bias": false,
+  "mlp_dropout": 0.0,
+  "model_type": "modernbert",
+  "norm_bias": false,
+  "norm_eps": 1e-05,
+  "num_attention_heads": 12,
+  "num_hidden_layers": 22,
+  "pad_token_id": 0,
+  "position_embedding_type": "sans_pos",
+  "repad_logits_with_grad": false,
+  "rope_parameters": {
+    "full_attention": {
+      "rope_theta": 160000,
+      "rope_type": "default"
+    },
+    "sliding_attention": {
+      "rope_theta": 160000,
+      "rope_type": "default"
+    }
+  },
+  "sep_token_id": 1,
+  "sparse_pred_ignore_index": -100,
+  "sparse_prediction": false,
+  "tie_word_embeddings": true,
+  "transformers_version": "5.17.0",
+  "vocab_size": 256000
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cff1f7be90ce3032b1129f18c30bb813dce30bca98482db23708ef90153e92e7
+size 643835524

rl_agent_config.json

@@ -0,0 +1,28 @@
+{
+  "encoder": "jhu-clsp/mmBERT-base",
+  "head_layers": 2,
+  "max_len": 1024,
+  "head_max_len": 256,
+  "max_prefixes": 6,
+  "act_costs": {
+    "escalate": 0.5
+  },
+  "cost_wrong_act": 3.0,
+  "amp_dtype": "bf16",
+  "model_name": "laya-typed-decisions",
+  "temperature": [
+    1.2575325965881348,
+    1.2,
+    1.2
+  ],
+  "training": {
+    "updates": 15987,
+    "epochs_completed": 4,
+    "hours": 4.97,
+    "world_size": 1,
+    "fine_tuned_from_checkpoint": false
+  },
+  "gradient_checkpointing": true,
+  "max_tokens_per_batch": 4096,
+  "fine_tuned": true
+}

tokenizer/tokenizer.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:609d8f4c067cd3950f88594c5a802616cea245823836ef5848ee4fc40aab5b6f
+size 34363188

tokenizer/tokenizer_config.json

@@ -0,0 +1,27 @@
+{
+  "backend": "tokenizers",
+  "bos_token": "<bos>",
+  "clean_up_tokenization_spaces": false,
+  "cls_token": "<bos>",
+  "eos_token": "<eos>",
+  "extra_0": "<start_of_turn>",
+  "extra_1": "<end_of_turn>",
+  "is_local": true,
+  "local_files_only": false,
+  "mask_token": "<mask>",
+  "model_input_names": [
+    "input_ids",
+    "attention_mask"
+  ],
+  "model_max_length": 8192,
+  "model_specific_special_tokens": {
+    "extra_0": "<start_of_turn>",
+    "extra_1": "<end_of_turn>"
+  },
+  "pad_token": "<pad>",
+  "padding_side": "right",
+  "sep_token": "<eos>",
+  "spaces_between_special_tokens": false,
+  "tokenizer_class": "TokenizersBackend",
+  "unk_token": "<unk>"
+}