🏛️ tw-moi-corpus 是把內政部全球資訊網（www.moi.gov.tw）整站有意義的內容—— 新聞稿、即時新聞澄清、行政公告、部務會報決定、政策說明（打詐、住宅、淨零）、民政／宗教禮制／殯葬／合作及人民團體等業務說明與問答、施政計畫與績效報告、研究報告、性別平等與人權資料、法規與訴願、史料專區等—— 連同頁面上的 PDF／DOCX／ODT 附件，整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。

文件數：9,506
token 數：6,293,677（tiktoken cl100k_base）
最近建置：2026-10-04
本版只含網頁正文：附件 PDF 仍有 1,548 份在 OCR 中，全部完成後的下一次同步會自動發布含附件的完整版本（屆時 doc_type 會出現 pdf／docx／odt）

Dataset Details

Dataset Description

內政部網站是 CCMS（ASP.NET）版型。本資料集以爬蟲從首頁與站方「網站導覽」（SiteMap.aspx）出發，走訪所有分類頁（cl.aspx）與列表頁（News.aspx、News_toggle3.aspx 等，逐頁翻到最後一頁），取得所有內容頁（cp.aspx、News_Content.aspx、Occupation_Content.aspx、History_*.aspx）與列表上直接掛載的檔案，再把內容頁正文與附件分別轉為純文字：

網頁：只取正文區塊（#CCMS_Content），去掉導覽列、頁尾、發布資訊列、點閱數、分享列、相關檔案清單、查詢表單與分頁；「專區首頁」型內容頁嵌在正文裡的選單與最新消息列表（連結文字占 60% 以上的區塊）也一併去掉。表格轉為以「 | 」分隔的列。每篇以標題為第一行。
PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API，丟棄 Page-header／Page-footer／Picture 區塊，表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。
DOCX／ODT／TXT：直接解析文件結構取出段落與表格。

一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文，典型例子是新聞稿 PDF），只保留網頁版；有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。

Curated by: Liang Hsun Huang
Language(s) (NLP): Traditional Chinese
License: 依內政部網站政府網站資料開放宣告：網站資料以無償、非專屬、得再授權方式提供公眾利用，使用時應註明出處（精神同政府資料開放授權條款－第 1 版）

Dataset Sources

Source: https://www.moi.gov.tw/
Repository: lianghsun/tw-moi-corpus

收錄範圍與排除

依需求不收全國法規資料庫與判決書；所屬機關（警政署、消防署、移民署、國土管理署、國家公園署、國土測繪中心、建築研究所、戶政司全球資訊網 ris.gov.tw、地政司 land.moi.gov.tw 等）的獨立網站、英文版網站不在本資料集範圍。另外排除個資密集或無語料價值的區塊：

範圍	排除理由
節點 `n=52` 及其子節點	支付或接受之補助（表格清單）
節點 `n=68` 及其子節點	採購案決標公告（表格清單）
節點 `n=71` 及其子節點	媒體政策及業務宣導執行情形（經費表格）
節點 `n=94` 及其子節點	預算書及決算書、會計月報（數字報表）
節點 `n=137` 及其子節點	國賠年度統計（數字報表）
節點 `n=22562` 及其子節點	出國及赴大陸地區計畫執行情形表（表格清單）
節點 `n=22682` 及其子節點	因公派員出國計畫考察費用執行情形表（表格清單）
節點 `n=8756` 及其子節點	兩公約人權教育訓練種子師資名冊（個人名冊）
節點 `n=12` 及其子節點	地方公職人員資訊專區（民選首長、民代、村里長名冊）
節點 `n=4646` 及其子節點	遊說法各機關受理單位聯絡窗口（人員聯絡資料）
節點 `n=4647` 及其子節點	受委託進行遊說備案資料（個人／團體備案名冊）
節點 `n=4648` 及其子節點	遊說案件統計資料（數字報表）
`localofficial.aspx` 類頁面	地方公職人員資訊（民選首長、民代、村里長姓名名冊）
`contactinfos.aspx` 類頁面	聯絡資訊（人員姓名、電話）
`news_monthcalendar.aspx` 類頁面	部次長公開行程（行事曆條目）
`news_photo.aspx` 類頁面	照片集（僅圖說）
`news_photo_content.aspx` 類頁面	照片集（僅圖說）
`news_video.aspx` 類頁面	影音專區
`news_video_content.aspx` 類頁面	影音專區
`history_relphotos.aspx` 類頁面	史料照片
`history_relvideos.aspx` 類頁面	史料影片
`rss.aspx` 類頁面	RSS
`advanced_search.aspx` 類頁面	站內搜尋
`sitemap.aspx` 類頁面	網站導覽（另作為對照組）
`cp_print.aspx` 類頁面	列印版
`activelist.aspx` 類頁面	講習報名系統
`active_query.aspx` 類頁面	講習報名查詢

影音、圖片、試算表（xls/xlsx/ods/csv）、壓縮檔附件不處理；.doc（舊版 Word）目前不處理。超過 400 頁的 PDF 不送 OCR（本版共 0 份），之後可能分批補上。

Uses

Direct Use

繁體中文、台灣內政與公共行政領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
地方自治、戶政、地政、宗教禮制、殯葬、人民團體、役政、警消災防政策、住宅、國土規劃、打詐等主題的領域適應（domain-adaptive pretraining）。

Out-of-Scope Use

不應作為法律意見或現行法規與行政程序的依據：網站內容有時效性，法規請以全國法規資料庫為準。
本資料集不含指令－回應結構，不直接適用於 SFT；「常見問答」類文件雖為問答體，仍以原文形式收錄。
不得用於識別、追蹤或評價特定個人。

Dataset Structure

一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。

欄位	說明
`text`	文件全文（網頁以標題為首行）
`id`	`<urn:moi:s:NNN>`（新聞類內容頁）、`<urn:moi:cp:NNN>`（一般內容頁）、`<urn:moi:occ:…>`／`<urn:moi:history_…>`（其他內容頁）或 `<urn:moi:media:HASH>`（附件）
`dump`	抓取批次，`MOI-YYYY-MM`
`url`	內容頁網址或附件下載網址
`date`	本筆最近一次抓取時間
`file_path`	內容頁：本地原始 HTML 封存路徑；附件：檔案網址
`language` / `language_score` / `language_script` / `top_langs`	GlotLID 語言辨識結果（同 fineweb 系列）
`avg_words_per_line` / `word_count`	詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法）
`token_count`	tiktoken `cl100k_base` token 數
`title`	標題；附件為「所屬頁標題｜檔名」
`section`	網站麵包屑路徑，例如 `訊息快遞 > 新聞發布`
`list_title`	所在列表頁名稱
`doc_type`	`html` / `pdf` / `docx` / `odt` / `txt`
`extraction`	`html` / `ocr:dots.ocr` / `docx` / `odt` / `txt`
`parent_url`	附件所屬內容頁網址（網頁本身與列表直掛檔案為 null）
`published_date` / `updated_date`	網站標示的發布日期、最後更新日期（ISO，民國年已轉西元）
`ocr_pages`	OCR 的 PDF 頁數
`content_sha1`	去空白後全文的 SHA-1（用於增量同步比對）

各區塊分布

網站大類	文件數	token 數
訊息快遞	4,071	3,913,693
互動交流	2,746	929,203
主題服務	2,531	1,378,242
本部簡介	141	62,513
主題政策	9	3,229
網站連結	3	3,224
分眾導覽	3	337
網站資訊	2	3,236

第二層區塊（前 40）

區塊	文件數
互動交流 > 常見問答	2,744
訊息快遞 > 新聞發布	2,338
主題服務 > 合作及人民團體專區	1,282
訊息快遞 > 行政公告	792
主題服務 > 法規及訴願	668
訊息快遞 > 活動訊息	524
訊息快遞 > 即時新聞澄清	300
主題服務 > 民政服務專區	210
主題服務 > 政風專區	140
本部簡介 > 史料專區	109
訊息快遞 > 部務會報決定(議)	107
主題服務 > 統計主題專區	76
主題服務 > 工程施工查核專區	55
主題服務 > 採購稽核小組專區	35
本部簡介 > 職掌及組織	31
主題服務 > 轉型正義業務專區	29
主題服務 > 宗教禮制殯葬專區	26
主題服務 > 政府資訊公開	10
訊息快遞 > 本部徵才	9
主題政策 > 打詐防騙	3
主題政策 > 安居家園	3
主題政策 > 淨零碳排	3
網站資訊 > 內政部聽證專區	2
互動交流 > 民意信箱	1
網站連結 > 網站安全政策	1
網站連結 > 隱私權政策	1
網站連結 > 政府網站資料開放宣告	1
分眾導覽 > 一般民眾	1
分眾導覽 > 政府機關	1
分眾導覽 > 企業法人	1
本部簡介 > 部長專區	1
互動交流 > 電子報	1
訊息快遞 > 多媒體專區	1

抽取方式

extraction	文件數	token 數
html	9,506	6,293,677

語言辨識

language_script	文件數
cmn_Hani	9,493
yue_Hani	3
jpn_Jpan	3
wuu_Hani	3
eng_Latn	2
tam_Taml	1
kiu_Latn	1

發布年份

年份	文件數
????	5,436
2026	871
2025	865
2024	847
2023	635
2022	576
2021	179
2018	58
2019	27
2020	12

Dataset Creation

Curation Rationale

內政部主管地方自治、戶政、地政、宗教、人民團體、役政、國土與住宅，以及警政、消防、移民等所屬機關業務，網站累積多年的新聞稿、政策說明、業務問答與研究報告，是台灣公共行政領域少見的大量、權威、以正體中文書寫的公開文本，但散落在上萬個網頁與 PDF 中。本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。

Source Data

Data Collection and Processing

探索：自首頁與 SiteMap.aspx 出發 BFS 走訪所有分類頁與列表頁，列表頁以 page=&PageSize= 逐頁翻完；問答類列表（News_toggle3.aspx）的每一題以其 News_Content.aspx 單篇收錄；站外連結一律不收。
抓取：內容頁存原始 HTML，解析標題、發布／更新日期、麵包屑、相關檔案；附件（ws.moi.gov.tw/Download.ashx）下載原檔。
抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
過濾：去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件（幾乎都是數字統計表）、與所屬網頁重複的附件、全文完全相同的文件（保留發布日期最早者）。
增量同步：每日 cron 只翻列表頁前段抓新項目；每週一次完整重走並重抓所有內容頁，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。

Who are the source data producers?

中華民國內政部及其各司處（新聞稿中亦含所屬機關提供之內容）。

Personal and Sensitive Information

網站為公開資訊，但仍包含公務員姓名與職稱、新聞稿聯絡人電話、表揚名單（如模範公務人員）、歷任部長與行政團隊等。地方公職人員名冊、聯絡資訊、師資名冊、遊說備案名冊等個資密集區塊已整區排除（見上表）。使用時請勿據以識別或評價特定個人。

Bias, Risks, and Limitations

內容為政府機關觀點與用語，具官方立場；新聞稿中「澄清媒體報導」類文件代表機關說法。
OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；extraction 欄可用來區分。
網站內容有時效性，舊的政策、法規說明可能已不適用。
抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。

Recommendations

from datasets import load_dataset
ds = load_dataset("lianghsun/tw-moi-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要新聞稿
news = ds.filter(lambda r: "新聞發布" in (r["section"] or ""))

抓取狀態（最近一次同步）

內容項目狀態：gone 30, new 17, nocp 7,730, ok 14,389
文字抽取狀態：dup_of_page 12, error 4, ok 16,916, partial 47
過濾：drop_exact_dup 129, drop_short 1,831, drop_low_cjk_table 10, drop_title_only 37

Changelog

建置時間	文件數	token 數	新增	更新	移除
2026-10-04 19:13	9,506	6,293,677	+2	~1	-23
2026-10-04 06:46	9,527	6,309,845	+8	~0	-0
2026-10-03 09:59	9,519	6,301,889	+8	~0	-0
2026-10-02 13:22	9,511	6,295,750	+7	~0	-0
2026-10-01 16:54	9,504	6,291,281	+2	~0	-0
2026-09-30 16:53	9,502	6,289,241	+9502	~0	-0

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang

Downloads last month: 3

Total file size:

7.17 MB