| --- |
| language: |
| - zh |
| tags: |
| - sft |
| - multiple-choice |
| - traditional-chinese |
| - reasoning |
| --- |
| |
| # tmmlu |
|
|
| 本資料集是由本機 `/data/sdg_data/tmmluplus` 生成的繁體中文選擇題 SFT 資料。 |
|
|
| ## 可驗證來源 |
|
|
| 目前能在本機完整回溯到的最上游檔案為： |
|
|
| - `/data/sdg_data/tmmluplus/tmmluplus_train.jsonl`：335 列 |
| - `/data/sdg_data/tmmluplus/tmmluplus_val.jsonl`：2,247 列 |
|
|
| 兩者共 2,582 列。現有 notebook／script 沒有記錄這兩個原始 split 的外部下載 URL，因此不能僅憑名稱推定更上游的 Hub repo。 |
|
|
| ## 生成流程 |
|
|
| 主要處理紀錄位於 `/data/sdg_data/tmmluplus/postprocess.ipynb`： |
|
|
| 1. 合併 train 335 列與 val 2,247 列，保留 `split`，組成 `questions.jsonl`，共 2,582 列。 |
| 2. 將題目與 A／B／C／D 選項組成 `full_question`。 |
| 3. `batch_gemini.py` 使用 `gemini-2.5-pro` 產生搜尋增強回答與 reasoning，輸出 `questions_gemini_search.jsonl`，共 2,579 列：train 334、val 2,245；相較輸入少 3 列。 |
| 4. 後續經 MiniMax-M2.5／ACE-2-2602 的 rethink、翻譯與推理改寫流程；最終 `rethink_model` 為 `ACE-2-2602`。 |
| 5. 依 `simple_messages` 最後答案中的 `boxed` 選項是否等於題目標準答案分流： |
| - 通過：2,370 列，寫入 `/data/sdg_data/tmmluplus/datasets.jsonl` |
| - 不通過：209 列，寫入 `/data/sdg_data/tmmluplus/wrong.jsonl` |
| 6. notebook 將通過資料上傳至 Hugging Face dataset `minyichen/tmmlu`。 |
|
|
| 列數關係：`2,582 - 3 - 209 = 2,370`。 |
|
|
| ## 本目錄版本 |
|
|
| 目前訓練檔：`datasets.jsonl` |
|
|
| - 列數：2,370 |
| - SHA-256：`936e4c2685ff2e18df260c99665e78bbe6d7fda48b61eb4cf08a42df5649d012` |
| - 欄位：`prompt_id`、`question`、`answer`、`simple_messages`、`messages`、`gen_model`、`gen_reasoning`、`rethink`、`rethink_model` |
| - `gen_model`：2,370/2,370 為 `gemini-2.5-pro` |
| - `rethink_model`：2,370/2,370 為 `ACE-2-2602` |
|
|
| `prompt_id` 並非全域唯一：2,370 列只有 2,366 個不重複 `prompt_id`。進行逐列 lineage 比對時不可只用 `prompt_id` 當唯一鍵。 |
|
|
| ## 與 `/data/sdg_data` 的差異 |
| |
| 生成端檔案：`/data/sdg_data/tmmluplus/datasets.jsonl` |
|
|
| - 列數：2,370 |
| - SHA-256：`bdb7e31f55c1405142053533fb8767da4287e96e7770ca8f1b46a08e20b5d9a7` |
| - 此雜湊同時是本 repo 目前 Git HEAD 的 LFS 物件 ID。 |
|
|
| 工作目錄的 `datasets.jsonl` 與生成端有相同的 `prompt_id` 多重集合，但有 11 筆共同資料被修改；變動欄位涵蓋： |
|
|
| - `messages`：11 筆 |
| - `simple_messages`：9 筆 |
| - `question`：2 筆 |
| - `rethink`：2 筆 |
|
|
| ## Hugging Face 目前版本（2026-09-21 查核） |
|
|
| Hugging Face dataset `minyichen/tmmlu` 的 `main`： |
|
|
| - repo commit：`c0afef340a7b1353e9a776d55e73bec4f5ba71bf` |
| - 最後更新：2026-06-01 07:16:33 UTC |
| - `datasets.jsonl` 大小：23,006,200 bytes |
| - 遠端安全掃描 metadata 所列 SHA-256：`936e4c2685ff2e18df260c99665e78bbe6d7fda48b61eb4cf08a42df5649d012` |
|
|
| 此大小與 SHA-256 都和本目錄目前的 `datasets.jsonl` 完全一致。因此，**本目錄資料檔與 Hugging Face `main` 是同一個最新內容版本**；只是本機 Git ref 尚未更新到遠端 commit。`/data/sdg_data/tmmluplus/datasets.jsonl` 則是較早的生成端版本。 |
|
|
| ## 最小載入方式 |
|
|
| ```python |
| import json |
| |
| with open("datasets.jsonl", "r", encoding="utf-8") as f: |
| row = json.loads(next(f)) |
| |
| print(row["simple_messages"]) |
| ``` |
|
|
| ## 注意事項 |
|
|
| - `wrong.jsonl` 是答案選項與標準答案不一致的隔離資料，不屬於本資料集 train split。 |
| - 若要重建資料，應從 `/data/sdg_data/tmmluplus` 的原始 split 與 pipeline 開始，不要只靠現行 `datasets.jsonl` 反推。 |
| - 本文件只描述已驗證的本機 lineage；最上游外部 split 來源仍待補正式來源 URL。 |
|
|
