# Barbet SFT

以臺灣繁體中文為中心的 Grounded Decision SFT。新版設定目標為 1,000,000 筆，
包含十種操作原語、來源證據、有限工具操作及結構化回答。
實際驗收狀態必須以發布資料夾內的報告為準，不以本說明的目標筆數當成完成證據。

## 使用已發布的 SFT

```python
from datasets import load_dataset

dataset = load_dataset("voidful/barbet-sft", split="train", streaming=True)
sample = next(iter(dataset))
messages = sample["messages"]
```

預設 `sft` config 僅載入固定結構的 Parquet：`messages` 為真正的
`list<struct<role: string, content: string>>`。完整 canonical、品質報告與來源快照
另外提供下載，不會被混入訓練資料的欄位推斷。

## 從 canonical 轉換

程式碼套件位於 `src/barbet_bgd`。在本專案根目錄先設定 `PYTHONPATH=src`，或安裝本專案。

```python
from barbet_bgd.io import iter_jsonl_gz
from barbet_bgd.serializers_v3 import build_messages_v3

record = next(iter_jsonl_gz("canonical/part-00000.jsonl.gz"))
messages = build_messages_v3(record)
```

四種 serializer 共用同一份語意目標。新版會在模型可見的提示中明示輸出格式，
並移除模型不需要知道的資料列序號。

## 臺灣用語與品質

`taiwan_usage.py` 逐筆檢查指令、輸入與回答的自然語言：

- 臺灣慣用詞，例如軟體、伺服器、資料庫、網路、資訊。
- 高辨識度簡體字、地區用語混用、已知不自然模板與欄位型別錯配。
- 忠實複製原文與刻意受污染的候選另有可追溯例外，不會盲目改寫來源。

生成器與獨立檢查器另驗證 evidence IDs、可執行編輯、候選排序、分類覆蓋、
證據不足標籤、格式往返與來源群組分割。寫入後重讀全量 canonical、quality sidecar
及 Parquet，再以 `datasets` 串流讀完所有 SFT 資料。

規則檢查通過不代表百萬筆皆經人工確認，也不是所有臺灣語句自然度的完備證明。

## 建立與驗證

依 Battleship 資源規範，完整測試、資料重建與上傳皆在 Slurm 運算節點執行。
登入節點只做輕量檢視與提交工作。

```bash
sbatch slurm/build_barbet_sft.sbatch
```

預定組成：train 980,000、validation 10,000、test 10,000；同來源群組不跨分割。
COPY 100K、EDIT 130K、CLASSIFY 50K、EXTRACT 160K、LOCATE 130K、ALIGN 60K、
MATCH 40K、RANK 120K、VERIFY 140K、ROUTE 70K。JSON、FUNCTION_CALL、COMPACT_TAGS、
KEY_VALUE 各 250K。

新版修正紀錄見 `docs/review_v3.md`。舊版資料、來源快照及舊驗收報告保留其歷史意義，
不能將舊版的 KEEP 統計當成新版的品質證據。

## 限制與授權

本資料集為 100% 確定性合成資料，不含人工 Anchor-50K、真實音訊或影像。
音訊與影像任務使用符號化代理輸入，無法據此宣稱真實模態辨識品質。
Confidence 是合成先驗而非實測校準標籤。長度以輸入 Unicode 字元數衡量，
不是 PangolinTokenizer token 數；50K 長帳本資料仍有模板及可見狀態的限制。
`BASE_CAPABILITY_REPLAY` 是歷史 mixture 名稱，內容是合成基本能力練習，並非原始基模語料 replay。

資料公開存取與資料授權分開處理，見 `LICENSE_DATA.md`；程式碼沿用 Apache-2.0。