Datasets:
|
Download README.md from minyichen/NAER-Dictionary: direct link, hf CLI and curl.
- Browser
- Download file 2.92 kB
-
https://huggingface.co/datasets/minyichen/NAER-Dictionary/resolve/main/README.md
- Command line
-
hf download hf://datasets/minyichen/NAER-Dictionary/README.md
-
curl -L -H "Authorization: Bearer $HF_TOKEN" -o README.md https://huggingface.co/datasets/minyichen/NAER-Dictionary/resolve/main/README.md
2.92 kB
| license: other | |
| task_categories: | |
| - text-generation | |
| language: | |
| - zh | |
| - en | |
| tags: | |
| - pretraining | |
| - zh-tw | |
| - dictionary | |
| - terminology | |
| - bilingual | |
| size_categories: | |
| - 1M<n<10M | |
| configs: | |
| - config_name: default | |
| data_files: | |
| - split: train | |
| path: datasets.jsonl | |
| # NAER-Dictionary:國家教育研究院中英名詞對照(PT) | |
| ## 資料集概述 | |
| - 來源:國家教育研究院「樂詞網」(https://terms.naer.edu.tw)提供下載的名詞資料,原始檔為 ods 試算表。 | |
| - 爬取與轉檔專案:`Projects/Dictionary`(放在使用者的 Mac 上,未收錄在本 repo)。 | |
| - 用途:繁體中文/英文術語對照的 PT(continued pretraining)語料。ACE-3 的 CPT 訓練設定有使用。 | |
| - 本 repo 為 private。名詞資料的權利歸國家教育研究院所有,使用時請依樂詞網的規定。 | |
| ## Splits | |
| | Split | 檔案 | 列數 | | |
| |---|---|---:| | |
| | `train` | `datasets.jsonl` | 2,013,043 | | |
| ## 收錄類別 | |
| | `category` | 列數 | | |
| |---|---:| | |
| | 學術名詞 | 1,840,860 | | |
| | 兩岸對照名詞 | 124,034 | | |
| | 雙語詞彙 | 39,043 | | |
| | 教科書名詞 | 9,106 | | |
| | **合計** | **2,013,043** | | |
| 共來自 379 個 ods 檔。 | |
| ## 欄位說明 | |
| | 欄位 | 說明 | | |
| |---|---| | |
| | `category` | 樂詞網的名詞類別 | | |
| | `source_file` | 原始 ods 檔名 | | |
| | `relative_path` | 原始檔的相對路徑(`<類別>/<檔名>`) | | |
| | `sheet` | 工作表名稱 | | |
| | `row_index` | 在工作表中的列號 | | |
| | `text` | 訓練文字,每行一個「標籤:內容」。標籤沿用原始試算表的欄名,主要是 `英文名稱`/`中文名稱`,部分檔案用 `英文詞彙`/`中文詞彙`、`英文名詞`/`中文名詞`,機關名稱類另有 `機關名稱中文`/`機關名稱英譯` 等;有些列另有 `中國譯名` 一行(見限制與備註) | | |
| `(relative_path, sheet, row_index)` 在全檔唯一,可作為每列的鍵。 | |
| 範例: | |
| ```text | |
| 英文名稱:senior high school (學校名稱用);upper secondary school (學制層級) | |
| 中文名稱:高級中等學校 | |
| ``` | |
| ## 使用方式(最小示例) | |
| ```python | |
| from datasets import load_dataset | |
| ds = load_dataset("minyichen/NAER-Dictionary", split="train") | |
| print(ds[0]["category"], ds[0]["text"]) | |
| ``` | |
| ## 限制與備註 | |
| - **含陸用語的列**:共 134,824 列帶有「中國譯名」行(含「作曲家中國譯名」),內容是中國大陸用語與簡體字:兩岸對照名詞 123,868 列、學術名詞 9,203 列、雙語詞彙 1,753 列。2026-09-27 決定保留,不刪列也不刪行:這些行明確標示為「中國譯名」,與台灣用語並列成對照,不是混在正文裡的污染。 | |
| - **2026-09-27 修正**:移除 3 列 `text` 為空白的資料(`地方機關銜稱壓縮檔_0.ods` 第 71、108、139 列),列數由 2,013,046 變為 2,013,043。其餘列逐位元組未變動。 | |
| - **Token 數**:Gemma 4 tokenizer 共 32,243,409 tokens,不含特殊 token。 | |