NAER-Dictionary / README.md
minyichen's picture
README:記錄中國譯名行保留的決定
80d7220 verified
|
Raw History Blame Contribute Delete
2.92 kB
metadata
license: other
task_categories:
  - text-generation
language:
  - zh
  - en
tags:
  - pretraining
  - zh-tw
  - dictionary
  - terminology
  - bilingual
size_categories:
  - 1M<n<10M
configs:
  - config_name: default
    data_files:
      - split: train
        path: datasets.jsonl

NAER-Dictionary:國家教育研究院中英名詞對照(PT)

資料集概述

  • 來源:國家教育研究院「樂詞網」(https://terms.naer.edu.tw)提供下載的名詞資料,原始檔為 ods 試算表。
  • 爬取與轉檔專案:Projects/Dictionary(放在使用者的 Mac 上,未收錄在本 repo)。
  • 用途:繁體中文/英文術語對照的 PT(continued pretraining)語料。ACE-3 的 CPT 訓練設定有使用。
  • 本 repo 為 private。名詞資料的權利歸國家教育研究院所有,使用時請依樂詞網的規定。

Splits

Split 檔案 列數
train datasets.jsonl 2,013,043

收錄類別

category 列數
學術名詞 1,840,860
兩岸對照名詞 124,034
雙語詞彙 39,043
教科書名詞 9,106
合計 2,013,043

共來自 379 個 ods 檔。

欄位說明

欄位 說明
category 樂詞網的名詞類別
source_file 原始 ods 檔名
relative_path 原始檔的相對路徑(<類別>/<檔名>)
sheet 工作表名稱
row_index 在工作表中的列號
text 訓練文字,每行一個「標籤:內容」。標籤沿用原始試算表的欄名,主要是 英文名稱/中文名稱,部分檔案用 英文詞彙/中文詞彙、英文名詞/中文名詞,機關名稱類另有 機關名稱中文/機關名稱英譯 等;有些列另有 中國譯名 一行(見限制與備註)

(relative_path, sheet, row_index) 在全檔唯一,可作為每列的鍵。

範例:

英文名稱:senior high school (學校名稱用);upper secondary school (學制層級)
中文名稱:高級中等學校

使用方式(最小示例)

from datasets import load_dataset

ds = load_dataset("minyichen/NAER-Dictionary", split="train")
print(ds[0]["category"], ds[0]["text"])

限制與備註

  • 含陸用語的列:共 134,824 列帶有「中國譯名」行(含「作曲家中國譯名」),內容是中國大陸用語與簡體字:兩岸對照名詞 123,868 列、學術名詞 9,203 列、雙語詞彙 1,753 列。2026-09-27 決定保留,不刪列也不刪行:這些行明確標示為「中國譯名」,與台灣用語並列成對照,不是混在正文裡的污染。
  • 2026-09-27 修正:移除 3 列 text 為空白的資料(地方機關銜稱壓縮檔_0.ods 第 71、108、139 列),列數由 2,013,046 變為 2,013,043。其餘列逐位元組未變動。
  • Token 數:Gemma 4 tokenizer 共 32,243,409 tokens,不含特殊 token。