code/README.md

Barbet SFT

以臺灣繁體中文為中心的 Grounded Decision SFT。新版設定目標為 1,000,000 筆， 包含十種操作原語、來源證據、有限工具操作及結構化回答。 實際驗收狀態必須以發布資料夾內的報告為準，不以本說明的目標筆數當成完成證據。

使用已發布的 SFT

from datasets import load_dataset

dataset = load_dataset("voidful/barbet-sft", split="train", streaming=True)
sample = next(iter(dataset))
messages = sample["messages"]

預設 sft config 僅載入固定結構的 Parquet：messages 為真正的 list<struct<role: string, content: string>>。完整 canonical、品質報告與來源快照 另外提供下載，不會被混入訓練資料的欄位推斷。

從 canonical 轉換

程式碼套件位於 src/barbet_bgd。在本專案根目錄先設定 PYTHONPATH=src，或安裝本專案。

from barbet_bgd.io import iter_jsonl_gz
from barbet_bgd.serializers_v3 import build_messages_v3

record = next(iter_jsonl_gz("canonical/part-00000.jsonl.gz"))
messages = build_messages_v3(record)

四種 serializer 共用同一份語意目標。新版會在模型可見的提示中明示輸出格式， 並移除模型不需要知道的資料列序號。

臺灣用語與品質

taiwan_usage.py 逐筆檢查指令、輸入與回答的自然語言：

• 臺灣慣用詞，例如軟體、伺服器、資料庫、網路、資訊。
• 高辨識度簡體字、地區用語混用、已知不自然模板與欄位型別錯配。
• 忠實複製原文與刻意受污染的候選另有可追溯例外，不會盲目改寫來源。

生成器與獨立檢查器另驗證 evidence IDs、可執行編輯、候選排序、分類覆蓋、 證據不足標籤、格式往返與來源群組分割。寫入後重讀全量 canonical、quality sidecar 及 Parquet，再以 datasets 串流讀完所有 SFT 資料。

規則檢查通過不代表百萬筆皆經人工確認，也不是所有臺灣語句自然度的完備證明。

建立與驗證

依 Battleship 資源規範，完整測試、資料重建與上傳皆在 Slurm 運算節點執行。 登入節點只做輕量檢視與提交工作。

sbatch slurm/build_barbet_sft.sbatch

預定組成：train 980,000、validation 10,000、test 10,000；同來源群組不跨分割。 COPY 100K、EDIT 130K、CLASSIFY 50K、EXTRACT 160K、LOCATE 130K、ALIGN 60K、 MATCH 40K、RANK 120K、VERIFY 140K、ROUTE 70K。JSON、FUNCTION_CALL、COMPACT_TAGS、 KEY_VALUE 各 250K。

新版修正紀錄見 docs/review_v3.md。舊版資料、來源快照及舊驗收報告保留其歷史意義， 不能將舊版的 KEEP 統計當成新版的品質證據。

限制與授權

本資料集為 100% 確定性合成資料，不含人工 Anchor-50K、真實音訊或影像。 音訊與影像任務使用符號化代理輸入，無法據此宣稱真實模態辨識品質。 Confidence 是合成先驗而非實測校準標籤。長度以輸入 Unicode 字元數衡量， 不是 PangolinTokenizer token 數；50K 長帳本資料仍有模板及可見狀態的限制。 BASE_CAPABILITY_REPLAY 是歷史 mixture 名稱，內容是合成基本能力練習，並非原始基模語料 replay。

資料公開存取與資料授權分開處理，見 LICENSE_DATA.md；程式碼沿用 Apache-2.0。