taic-filtered：臺灣政府文件預訓練語料

本資料集來自臺灣主權 AI 訓練語料庫（TAIC），用途為繁體中文語言模型的持續預訓練。目前的 train 分割為 6,639 份文件、102,787,577 個 Gemma 4 tokens（0.102787577B）。資料蒐集截止時間沿用原版紀錄：2026-02-11 19:15:43；本版更新日期為 2026-09-30。

2026-09-29 的整理從原版 9,410 筆移出 2,178 筆字元／編碼掃描候選；2026-09-30 再從 7,232 筆中清理網址、目錄與已確認的新聞稿頁首／頁碼，並將 593 筆無法安全界定清理範圍的文件移入待審。掃描候選可能包含正當原文，不能直接等同已確認污染。

資料檔

用途	路徑	數量
train	data/train-00000-of-00001.parquet	6,639 筆
前一輪字元／編碼待審	review_unfixed/taic_excluded_20260929.jsonl	2,178 筆
本輪內容邊界待審	review_unfixed/taic_content_review_20260930.jsonl	593 筆
從正文移出的片段	review_unfixed/taic_removed_segments_20260930.jsonl	17,116 個範圍

資料集卡片的 configs 只把 Parquet 指定為 train。三份 JSONL 供判讀、修復與稽核使用，不屬於訓練分割；它們保留未修復原文或已移除的目錄、網址等片段。原始備份與包含完整正文前後對照的本機 audit 未上傳。

text 是預訓練正文，content 與它逐筆相同。本語料沒有指令／回答配對。訓練時請讀取 train，不要遞迴將待審 JSONL 一起載入。

本版統計

項目	數值
原始整理版文件數	9,410
字元掃描移出	2,178
本輪新增待審	593
現行訓練文件數	6,639
本輪局部修改文件數	3,017
現行 text 字元數	140,742,436
Gemma 4 正文 tokens	102,787,577（0.102787577B）
從保留正文移出的字元	2,945,023
text == content	6,639／6,639

Gemma 4 計數使用 /model/gemma-4-26B-A4B-it/tokenizer.json，對每筆完整 text 執行 encode(..., add_special_tokens=False)，沒有截斷，也沒有加入對話模板或 BOS／EOS。tokenizer SHA-256：cc8d3a0ce36466ccc1278bf987df5f71db1719b9ca6b4118264f45cb627bfe0f。每筆結果存於 gemma4_token_count；原有 token_count 是歷史前處理欄位，不能當作本版 Gemma 4 token 數。

本次清理與驗證

本輪先保存 7,232 筆原版備份，再依候選的原文範圍清理：

• 移除可界定的網址與 [url] 佔位，保護電子郵件及一般英文句子；空格拆開或 URL 邊界不明的文件先移入待審。
• 移除有點線／橫線、頁碼及正文重複標題證據的目錄、圖目錄、表目錄；平行標題序列或缺少可信正文邊界的候選先移入待審。
• 移除已確認的 N E W S L E T T E R 新聞稿頁首與其 ～頁碼～ 印刷頁碼。
• 同步更新 text 和 content，新增 text_char_count 與 gemma4_token_count；其餘原有欄位保留為來源紀錄。

獨立驗證從備份逐段重播 17,116 個移除範圍，核對 3,017 筆完整前後文字，並對 6,639 筆保留資料及 593 筆完整待審原文逐筆比對。從磁碟重讀後重新執行 token 計數與目標掃描，網址／佔位、已確認頁首、密集或平行標題目錄訊號、PUA／U+FFFD／控制字元／Unicode 白名單、HTML 與既有編碼損壞規則均為 0 命中。

具體規則、驗證數字與雜湊值見 CLEANUP.md、發布 manifest及規則程式。零命中只適用於這些規則；其他 OCR、排版、重複、簡繁用字、內容事實及授權問題沒有因此獲得全面人工驗收。

欄位

欄位	說明
text、content	本輪清理後正文；兩者逐筆相同
text_char_count	目前 text 的字元數
gemma4_token_count	目前 text 的 Gemma 4 token 數
src_file	來源 TAIC 匯出檔名
title、description、keywords	來源標題、描述、關鍵字
license、size	來源授權與原始大小描述
processed_by	原版品質評估模型名稱
content_original_length、word_count、token_count	原前處理的歷史長度欄位，未隨本輪正文重新計算
stage_notes、processing_note	原前處理與品質評估紀錄
disposition、readable、title_match、content_type、value_score、llm_issues	原版評估結果，未重新執行 LLM 評分

待審文件另有 orig_row_index（9,410 筆原版的 0 起算列號）、review_reasons；本輪待審另有 input_row_index（7,232 筆上一版的列號）。片段檔包含移除前文字、替換文字、來源列號、stage、位置與文字雜湊值，足以依紀錄核對範圍。

授權欄位分布

license 原值	筆數
臺灣主權AI訓練語料授權條款-第1版	6,130
政府資料開放授權條款-第1版	307
政府資料開放授權條款	186
CC授權-姓名標示	1
開放資料共享授權-開放資料庫	15

資料含不同授權欄位值；使用時仍需依各筆 license 與原始來源的條款判斷適用範圍。卡片的 license: other 沿用原 repo 設定。

來源與限制

原版經結構檢查、編碼處理、內容分類、文字清洗、Devstral-Small-2-24B-Instruct-2512 品質評估及去重形成 9,410 筆。部分長文件的原評估只讀節錄；本次未重跑原版 pipeline，完整正文也沒有截斷。

本版採保守移出，待審文件有些可能經人工修復後可回併。新聞稿等保留文件仍可能有其他版面文字或正文內頁碼；本輪只清除有明確證據的範圍。政府公開文件可能含人名或其他個資；公開來源仍需按用途與授權條款處理。

• 原始來源：臺灣主權 AI 訓練語料庫
• Dataset repo：lianghsun/taic-filtered
• 原版整理者：Liang Hsun Huang