NAER-Dictionary / README.md
minyichen's picture
README:記錄中國譯名行保留的決定
80d7220 verified
|
Raw History Blame Contribute Delete
2.92 kB
---
license: other
task_categories:
- text-generation
language:
- zh
- en
tags:
- pretraining
- zh-tw
- dictionary
- terminology
- bilingual
size_categories:
- 1M<n<10M
configs:
- config_name: default
data_files:
- split: train
path: datasets.jsonl
---
# NAER-Dictionary:國家教育研究院中英名詞對照(PT)
## 資料集概述
- 來源:國家教育研究院「樂詞網」(https://terms.naer.edu.tw)提供下載的名詞資料,原始檔為 ods 試算表。
- 爬取與轉檔專案:`Projects/Dictionary`(放在使用者的 Mac 上,未收錄在本 repo)。
- 用途:繁體中文/英文術語對照的 PT(continued pretraining)語料。ACE-3 的 CPT 訓練設定有使用。
- 本 repo 為 private。名詞資料的權利歸國家教育研究院所有,使用時請依樂詞網的規定。
## Splits
| Split | 檔案 | 列數 |
|---|---|---:|
| `train` | `datasets.jsonl` | 2,013,043 |
## 收錄類別
| `category` | 列數 |
|---|---:|
| 學術名詞 | 1,840,860 |
| 兩岸對照名詞 | 124,034 |
| 雙語詞彙 | 39,043 |
| 教科書名詞 | 9,106 |
| **合計** | **2,013,043** |
共來自 379 個 ods 檔。
## 欄位說明
| 欄位 | 說明 |
|---|---|
| `category` | 樂詞網的名詞類別 |
| `source_file` | 原始 ods 檔名 |
| `relative_path` | 原始檔的相對路徑(`<類別>/<檔名>`) |
| `sheet` | 工作表名稱 |
| `row_index` | 在工作表中的列號 |
| `text` | 訓練文字,每行一個「標籤:內容」。標籤沿用原始試算表的欄名,主要是 `英文名稱`/`中文名稱`,部分檔案用 `英文詞彙`/`中文詞彙`、`英文名詞`/`中文名詞`,機關名稱類另有 `機關名稱中文`/`機關名稱英譯` 等;有些列另有 `中國譯名` 一行(見限制與備註) |
`(relative_path, sheet, row_index)` 在全檔唯一,可作為每列的鍵。
範例:
```text
英文名稱:senior high school (學校名稱用);upper secondary school (學制層級)
中文名稱:高級中等學校
```
## 使用方式(最小示例)
```python
from datasets import load_dataset
ds = load_dataset("minyichen/NAER-Dictionary", split="train")
print(ds[0]["category"], ds[0]["text"])
```
## 限制與備註
- **含陸用語的列**:共 134,824 列帶有「中國譯名」行(含「作曲家中國譯名」),內容是中國大陸用語與簡體字:兩岸對照名詞 123,868 列、學術名詞 9,203 列、雙語詞彙 1,753 列。2026-09-27 決定保留,不刪列也不刪行:這些行明確標示為「中國譯名」,與台灣用語並列成對照,不是混在正文裡的污染。
- **2026-09-27 修正**:移除 3 列 `text` 為空白的資料(`地方機關銜稱壓縮檔_0.ods` 第 71、108、139 列),列數由 2,013,046 變為 2,013,043。其餘列逐位元組未變動。
- **Token 數**:Gemma 4 tokenizer 共 32,243,409 tokens,不含特殊 token。