README.md

metadata

language:
  - zh
tags:
  - sft
  - multiple-choice
  - traditional-chinese
  - reasoning

tmmlu

本資料集是由本機 /data/sdg_data/tmmluplus 生成的繁體中文選擇題 SFT 資料。

可驗證來源

目前能在本機完整回溯到的最上游檔案為：

• /data/sdg_data/tmmluplus/tmmluplus_train.jsonl：335 列
• /data/sdg_data/tmmluplus/tmmluplus_val.jsonl：2,247 列

兩者共 2,582 列。現有 notebook／script 沒有記錄這兩個原始 split 的外部下載 URL，因此不能僅憑名稱推定更上游的 Hub repo。

生成流程

主要處理紀錄位於 /data/sdg_data/tmmluplus/postprocess.ipynb：

1. 合併 train 335 列與 val 2,247 列，保留 split，組成 questions.jsonl，共 2,582 列。
2. 將題目與 A／B／C／D 選項組成 full_question。
3. batch_gemini.py 使用 gemini-2.5-pro 產生搜尋增強回答與 reasoning，輸出 questions_gemini_search.jsonl，共 2,579 列：train 334、val 2,245；相較輸入少 3 列。
4. 後續經 MiniMax-M2.5／ACE-2-2602 的 rethink、翻譯與推理改寫流程；最終 rethink_model 為 ACE-2-2602。
5. 依 simple_messages 最後答案中的 boxed 選項是否等於題目標準答案分流：
   • 通過：2,370 列，寫入 /data/sdg_data/tmmluplus/datasets.jsonl
   • 不通過：209 列，寫入 /data/sdg_data/tmmluplus/wrong.jsonl
6. notebook 將通過資料上傳至 Hugging Face dataset minyichen/tmmlu。

列數關係：2,582 - 3 - 209 = 2,370。

本目錄版本

目前訓練檔：datasets.jsonl

• 列數：2,370
• SHA-256：936e4c2685ff2e18df260c99665e78bbe6d7fda48b61eb4cf08a42df5649d012
• 欄位：prompt_id、question、answer、simple_messages、messages、gen_model、gen_reasoning、rethink、rethink_model
• gen_model：2,370/2,370 為 gemini-2.5-pro
• rethink_model：2,370/2,370 為 ACE-2-2602

prompt_id 並非全域唯一：2,370 列只有 2,366 個不重複 prompt_id。進行逐列 lineage 比對時不可只用 prompt_id 當唯一鍵。

與 /data/sdg_data 的差異

生成端檔案：/data/sdg_data/tmmluplus/datasets.jsonl

• 列數：2,370
• SHA-256：bdb7e31f55c1405142053533fb8767da4287e96e7770ca8f1b46a08e20b5d9a7
• 此雜湊同時是本 repo 目前 Git HEAD 的 LFS 物件 ID。

工作目錄的 datasets.jsonl 與生成端有相同的 prompt_id 多重集合，但有 11 筆共同資料被修改；變動欄位涵蓋：

• messages：11 筆
• simple_messages：9 筆
• question：2 筆
• rethink：2 筆

Hugging Face 目前版本（2026-09-21 查核）

Hugging Face dataset minyichen/tmmlu 的 main：

• repo commit：c0afef340a7b1353e9a776d55e73bec4f5ba71bf
• 最後更新：2026-06-01 07:16:33 UTC
• datasets.jsonl 大小：23,006,200 bytes
• 遠端安全掃描 metadata 所列 SHA-256：936e4c2685ff2e18df260c99665e78bbe6d7fda48b61eb4cf08a42df5649d012

此大小與 SHA-256 都和本目錄目前的 datasets.jsonl 完全一致。因此，本目錄資料檔與 Hugging Face main 是同一個最新內容版本；只是本機 Git ref 尚未更新到遠端 commit。/data/sdg_data/tmmluplus/datasets.jsonl 則是較早的生成端版本。

最小載入方式

import json

with open("datasets.jsonl", "r", encoding="utf-8") as f:
    row = json.loads(next(f))

print(row["simple_messages"])

注意事項

• wrong.jsonl 是答案選項與標準答案不一致的隔離資料，不屬於本資料集 train split。
• 若要重建資料，應從 /data/sdg_data/tmmluplus 的原始 split 與 pipeline 開始，不要只靠現行 datasets.jsonl 反推。
• 本文件只描述已驗證的本機 lineage；最上游外部 split 來源仍待補正式來源 URL。