| # Barbet SFT |
|
|
| 以臺灣繁體中文為中心的 Grounded Decision SFT。新版設定目標為 1,000,000 筆， |
| 包含十種操作原語、來源證據、有限工具操作及結構化回答。 |
| 實際驗收狀態必須以發布資料夾內的報告為準，不以本說明的目標筆數當成完成證據。 |
|
|
| ## 使用已發布的 SFT |
|
|
| ```python |
| from datasets import load_dataset |
| |
| dataset = load_dataset("voidful/barbet-sft", split="train", streaming=True) |
| sample = next(iter(dataset)) |
| messages = sample["messages"] |
| ``` |
|
|
| 預設 `sft` config 僅載入固定結構的 Parquet：`messages` 為真正的 |
| `list<struct<role: string, content: string>>`。完整 canonical、品質報告與來源快照 |
| 另外提供下載，不會被混入訓練資料的欄位推斷。 |
|
|
| ## 從 canonical 轉換 |
|
|
| 程式碼套件位於 `src/barbet_bgd`。在本專案根目錄先設定 `PYTHONPATH=src`，或安裝本專案。 |
|
|
| ```python |
| from barbet_bgd.io import iter_jsonl_gz |
| from barbet_bgd.serializers_v3 import build_messages_v3 |
| |
| record = next(iter_jsonl_gz("canonical/part-00000.jsonl.gz")) |
| messages = build_messages_v3(record) |
| ``` |
|
|
| 四種 serializer 共用同一份語意目標。新版會在模型可見的提示中明示輸出格式， |
| 並移除模型不需要知道的資料列序號。 |
|
|
| ## 臺灣用語與品質 |
|
|
| `taiwan_usage.py` 逐筆檢查指令、輸入與回答的自然語言： |
|
|
| - 臺灣慣用詞，例如軟體、伺服器、資料庫、網路、資訊。 |
| - 高辨識度簡體字、地區用語混用、已知不自然模板與欄位型別錯配。 |
| - 忠實複製原文與刻意受污染的候選另有可追溯例外，不會盲目改寫來源。 |
|
|
| 生成器與獨立檢查器另驗證 evidence IDs、可執行編輯、候選排序、分類覆蓋、 |
| 證據不足標籤、格式往返與來源群組分割。寫入後重讀全量 canonical、quality sidecar |
| 及 Parquet，再以 `datasets` 串流讀完所有 SFT 資料。 |
|
|
| 規則檢查通過不代表百萬筆皆經人工確認，也不是所有臺灣語句自然度的完備證明。 |
|
|
| ## 建立與驗證 |
|
|
| 依 Battleship 資源規範，完整測試、資料重建與上傳皆在 Slurm 運算節點執行。 |
| 登入節點只做輕量檢視與提交工作。 |
|
|
| ```bash |
| sbatch slurm/build_barbet_sft.sbatch |
| ``` |
|
|
| 預定組成：train 980,000、validation 10,000、test 10,000；同來源群組不跨分割。 |
| COPY 100K、EDIT 130K、CLASSIFY 50K、EXTRACT 160K、LOCATE 130K、ALIGN 60K、 |
| MATCH 40K、RANK 120K、VERIFY 140K、ROUTE 70K。JSON、FUNCTION_CALL、COMPACT_TAGS、 |
| KEY_VALUE 各 250K。 |
| |
| 新版修正紀錄見 `docs/review_v3.md`。舊版資料、來源快照及舊驗收報告保留其歷史意義， |
| 不能將舊版的 KEEP 統計當成新版的品質證據。 |
|
|
| ## 限制與授權 |
|
|
| 本資料集為 100% 確定性合成資料，不含人工 Anchor-50K、真實音訊或影像。 |
| 音訊與影像任務使用符號化代理輸入，無法據此宣稱真實模態辨識品質。 |
| Confidence 是合成先驗而非實測校準標籤。長度以輸入 Unicode 字元數衡量， |
| 不是 PangolinTokenizer token 數；50K 長帳本資料仍有模板及可見狀態的限制。 |
| `BASE_CAPABILITY_REPLAY` 是歷史 mixture 名稱，內容是合成基本能力練習，並非原始基模語料 replay。 |
|
|
| 資料公開存取與資料授權分開處理，見 `LICENSE_DATA.md`；程式碼沿用 Apache-2.0。 |
|
|
