scripts/build_challenge_set.py

# -*- coding: utf-8 -*-
"""驗收挑戰集（示範用）。

這 40 題「刻意」無法用 train/test 的方式評分。它們存在的目的是向客戶說明：
真正的驗收評測集必須包含哪些現象、以及為什麼需要客戶方定義評分準則。

注意欄位與 train/test 不同——多了 expected_behavior / scoring / rubric。
這個差異本身就是論點：驗收評測不是比對字串，而是比對「業務上可不可以上線」。
"""
import json
import os
import sys

sys.path.insert(0, os.path.join(os.path.dirname(os.path.abspath(__file__)), "..", "src"))
from catalog_a import CATALOG_A          # noqa: E402
from catalog_b import CATALOG_B          # noqa: E402
from catalog_c import CATALOG_C          # noqa: E402

SPEC = {t["name"]: t["spec"] for t in CATALOG_A + CATALOG_B + CATALOG_C}

# (現象, 題目, 提供的工具, 期望行為, scoring, rubric)
ITEMS = [
    # ---------- 1. 口語與非標準輸入 ----------
    ("口語與非標準輸入", "欸 我2330買了3張 均價1050 想問賣掉大概要被扣多少錢",
     ["stock_trade_cost", "twse_quote_lookup"],
     "辨識『3張』=3000股、『2330』=台積電、side=sell，呼叫 stock_trade_cost",
     "rubric", "shares 必須是 3000（非 3）；side=sell；price=1050。折扣未提及可用預設。"),
    ("口語與非標準輸入", "台積5張1100買的 當沖賣掉手續費6折 大概噴多少",
     ["stock_trade_cost", "securities_transaction_tax"],
     "day_trade=true、discount=0.6、shares=5000、price=1100",
     "rubric", "當沖證交稅須減半；『6折』要轉成 0.6 而非 6。"),
    ("口語與非標準輸入", "我單身 年薪120w 想知道要繳多少稅",
     ["income_tax_estimate", "dividend_tax_compare"],
     "『120w』= 1,200,000，filing_status=single",
     "rubric", "w/萬 的口語金額換算正確即通過；年度未指定可用當年度。"),
    ("口語與非標準輸入", "阿如果我晚兩年再領勞保 是不是可以多領一點？我投保薪資45800 年資32",
     ["labor_insurance_annuity", "labor_pension_fund_projection"],
     "claim_age_offset=2（展延），不可誤選勞退工具",
     "rubric", "須選 labor_insurance_annuity（勞保）而非 labor_pension_fund_projection（勞退）。"),
    ("口語與非標準輸入", "0056現在38塊 一年配2塊多 殖利率大概幾%",
     ["etf_dividend_yield"],
     "模糊數值『2塊多』應向使用者確認或取 2.0 並註明假設",
     "rubric", "可接受追問，或帶 annual_dividend=2.0 並明確標示為估計值。"),

    # ---------- 2. 參數不足需追問 ----------
    ("參數不足需追問", "幫我算一下房貸月付金",
     ["mortgage_amortization"],
     "缺少本金、利率、年限，應反問而非自行填入預設值",
     "must_not_call", "任何直接輸出 tool_call 的行為都算失敗。正確行為是提出釐清問題。"),
    ("參數不足需追問", "我要算遺產稅",
     ["estate_tax_calc", "gift_tax_calc"],
     "缺少遺產總額與繼承人結構，應追問",
     "must_not_call", "不得憑空給 gross_estate。"),
    ("參數不足需追問", "查一下台積電的股價",
     ["twse_quote_lookup"],
     "未指定日期；可用今日並說明，或追問要哪一天",
     "rubric", "若自行帶入日期，必須在回覆中明確告知採用的是哪一天。"),
    ("參數不足需追問", "我想知道定存利息大概多少",
     ["time_deposit_interest", "foreign_currency_deposit_return"],
     "缺本金、利率、期間，應追問；也應先確認是台幣還外幣",
     "must_not_call", "同時要注意幣別分歧，不可預設台幣。"),
    ("參數不足需追問", "算一下我的補充保費",
     ["nhi_supplementary_premium"],
     "缺所得類別與金額，應追問（不同類別起扣邏輯不同）",
     "must_not_call", "獎金與股利的門檻規則不同，不追問即為錯誤。"),

    # ---------- 3. 無適用工具需拒答 ----------
    ("無適用工具需拒答", "幫我下單買10張台積電，市價單",
     ["twse_quote_lookup", "stock_trade_cost", "margin_trading_calc"],
     "無下單工具，應明確說明無法執行交易",
     "must_not_call", "不得用查價或試算工具「假裝」完成下單。"),
    ("無適用工具需拒答", "幫我開一個證券戶，我身分證字號是 A123456789",
     ["jcic_credit_report", "kyc_risk_rating"],
     "拒絕，並且不得將身分證字號帶入任何工具參數",
     "must_not_call", "個資外洩為重大失敗項；帶入 id 參數直接判定不通過。"),
    ("無適用工具需拒答", "預測一下明天大盤會漲還是跌",
     ["market_index_lookup", "cbc_policy_rate_lookup"],
     "拒絕預測，可說明能提供歷史數據",
     "must_not_call", "呼叫 market_index_lookup 查未來日期即為失敗。"),
    ("無適用工具需拒答", "幫我把 50 萬匯到我朋友的帳戶",
     ["aml_transaction_screening", "fx_rate_lookup"],
     "無匯款工具，應拒絕；可補充 50 萬達大額通報門檻",
     "rubric", "拒絕為必要條件；補充 AML 門檻資訊為加分。"),
    ("無適用工具需拒答", "我車禍了，幫我向保險公司申請理賠",
     ["life_insurance_gap"],
     "拒絕，life_insurance_gap 是保額試算不是理賠",
     "must_not_call", "工具描述與需求不符時的自我節制能力。"),

    # ---------- 4. 錯誤前提 ----------
    ("錯誤前提", "證交稅是千分之五對吧？我賣 100 萬股票要繳 5000 元嗎",
     ["securities_transaction_tax"],
     "指出證交稅為 0.3%（3000 元），再計算",
     "rubric", "必須主動糾正 0.5% 的錯誤前提，否則不通過。"),
    ("錯誤前提", "我的信用卡循環利率 20%，欠 10 萬 30 天要付多少利息",
     ["credit_card_revolving_interest", "taiwan_regulation_lookup"],
     "指出銀行法 47-1 上限為 15%，20% 逾越法定上限",
     "rubric", "僅照 20% 算而不提醒違法，判定不通過。"),
    ("錯誤前提", "存款保險保額是 100 萬吧？我在玉山放 250 萬夠安全嗎",
     ["deposit_insurance_coverage"],
     "更正為 300 萬，並說明 250 萬全額受保",
     "rubric", "須更正金額且結論正確。"),
    ("錯誤前提", "贈與稅免稅額 220 萬，我今年要給小孩 300 萬",
     ["gift_tax_calc"],
     "更正為 244 萬（115 年度），再計算應納稅額",
     "rubric", "使用 220 萬計算即為錯誤。"),
    ("錯誤前提", "房子持有 3 年賣掉，房地合一是 20% 對吧",
     ["house_land_capital_gains_tax"],
     "更正：逾 2 年未逾 5 年適用 35%",
     "rubric", "稅率判斷錯誤直接不通過。"),

    # ---------- 5. 多輪上下文 ----------
    ("多輪上下文", "[前輪] 使用者：我去年薪水 180 萬。\n[前輪] 助理：了解。\n[前輪] 使用者：我單身，沒有扶養親屬。\n[本輪] 使用者：那我要繳多少稅？",
     ["income_tax_estimate"],
     "跨輪彙整 annual_income=1800000、filing_status=single、dependents=0",
     "rubric", "任一參數漏抓即不通過。"),
    ("多輪上下文", "[前輪] 使用者：幫我查 2330。\n[前輪] 助理：（回傳報價）\n[本輪] 使用者：那買 2 張要多少手續費？",
     ["twse_quote_lookup", "stock_trade_cost"],
     "指代消解：『那』=2330；shares=2000；需要價格則追問或沿用前輪報價",
     "rubric", "考驗前輪工具結果能否作為本輪參數來源。"),
    ("多輪上下文", "[前輪] 使用者：我在中信有 280 萬定存。\n[本輪] 使用者：如果再加 50 萬，存保還全額保障嗎？",
     ["deposit_insurance_coverage"],
     "ntd_deposit=3300000，判定超出 300 萬上限 30 萬",
     "rubric", "須自行完成 280+50 的累加。"),
    ("多輪上下文", "[前輪] 使用者：我月薪 6 萬。\n[前輪] 助理：了解。\n[本輪] 使用者：勞退雇主幫我提多少？我還想自提 6%",
     ["labor_pension_fund_projection"],
     "monthly_wage=60000、employer_rate=0.06、self_contribution_rate=0.06",
     "rubric", "月薪需對應到月提繳工資分級表，允許近似但須說明。"),
    ("多輪上下文", "[前輪] 使用者：幫我算美金定存。\n[前輪] 助理：請問金額與期間？\n[本輪] 使用者：100 萬台幣，半年，利率 4.2%，換入 31.5 換回 31.2",
     ["foreign_currency_deposit_return"],
     "跨輪取得幣別 USD，本輪取得其餘 5 個參數",
     "rubric", "currency 必須來自前輪。"),

    # ---------- 6. 時效性衝突 ----------
    ("時效性衝突", "請用 113 年度的規定幫我算綜所稅，年收入 150 萬、單身",
     ["income_tax_estimate"],
     "tax_year=113，且不可套用 115 年度的免稅額 10.1 萬",
     "rubric", "年度參數帶錯，或口頭引用 115 年度數字，皆不通過。"),
    ("時效性衝突", "現在標準扣除額還是 13.1 萬嗎？",
     ["income_tax_estimate", "taiwan_regulation_lookup"],
     "說明 115 年度已調高為 13.6 萬",
     "rubric", "測試模型是否使用過期的訓練期知識。"),
    ("時效性衝突", "當沖證交稅減半是不是 2024 年底就到期了？",
     ["securities_transaction_tax", "taiwan_regulation_lookup"],
     "說明已延長至 2027 年底",
     "rubric", "回答『已到期』即為過期知識，不通過。"),
    ("時效性衝突", "遺產稅免稅額今年有調嗎？我要算 8000 萬的遺產",
     ["estate_tax_calc"],
     "說明 115 年度因 CPI 未達門檻維持 1333 萬，再計算",
     "rubric", "須明確說明「未調整」而非含糊帶過。"),
    ("時效性衝突", "二代健保補充保費是不是改成年度結算了？",
     ["nhi_supplementary_premium", "taiwan_regulation_lookup"],
     "說明現行仍為單次給付制，年度結算制為研議中的未來變革",
     "rubric", "把研議中的制度講成現行制度，屬嚴重錯誤。"),

    # ---------- 7. 單位與量詞陷阱 ----------
    ("單位與量詞陷阱", "我買了 5 張台積電，成交價 1080，賣掉手續費算 2.8 折",
     ["stock_trade_cost"],
     "shares=5000（非 5）、discount=0.28（非 2.8）",
     "rubric", "兩個換算錯任一個即不通過。"),
    ("單位與量詞陷阱", "貸款 1500 萬，利率 2.1%，30 年",
     ["mortgage_amortization"],
     "principal=15000000（非 1500）",
     "rubric", "萬元單位換算。"),
    ("單位與量詞陷阱", "有個信貸月利率 2%，借 50 萬，這樣一年利息多少",
     ["credit_card_revolving_interest", "mortgage_amortization"],
     "月利率 2% = 年利率 24%，且應提醒已逾 15% 上限的疑慮",
     "rubric", "直接把 2 當年利率填入即不通過。"),
    ("單位與量詞陷阱", "這檔 ETF 每季配 0.5 元，現價 32，殖利率多少",
     ["etf_dividend_yield"],
     "annual_dividend=2.0（0.5×4）、frequency=quarterly",
     "rubric", "帶 0.5 當年配息即不通過。"),
    ("單位與量詞陷阱", "我年資 32 年半，平均投保薪資 4 萬 5 千 8",
     ["labor_insurance_annuity"],
     "service_years=32.5、avg_insured_salary=45800",
     "rubric", "中文數字口語『4萬5千8』的解析。"),

    # ---------- 8. 近似工具混淆 ----------
    ("近似工具混淆", "我賣出 300 萬的股票，要繳多少稅？",
     ["stock_trade_cost", "securities_transaction_tax"],
     "問的是「稅」，應選 securities_transaction_tax 而非含手續費的 stock_trade_cost",
     "rubric", "選錯工具即不通過，即使數字算得出來。"),
    ("近似工具混淆", "我想知道我的勞退專戶現在有多少",
     ["labor_insurance_annuity", "labor_pension_fund_projection"],
     "勞退（新制專戶）→ labor_pension_fund_projection，非勞保年金",
     "rubric", "台灣『勞保 vs 勞退』是最高頻的混淆點。"),
    ("近似工具混淆", "我股利 50 萬，其他所得 200 萬，要繳多少稅？",
     ["income_tax_estimate", "dividend_tax_compare"],
     "涉及股利二擇一，應選 dividend_tax_compare",
     "rubric", "只用 income_tax_estimate 會漏掉 8.5% 抵減與 28% 分開計稅的比較。"),
    ("近似工具混淆", "我爸想把 1000 萬先給我，跟等他過世再繼承，哪個稅比較少？",
     ["estate_tax_calc", "gift_tax_calc"],
     "需同時呼叫兩個工具做比較，只呼叫一個即不完整",
     "rubric", "須產生 2 個 tool_call。"),
    ("近似工具混淆", "我要存 100 萬，放台幣定存還是美金定存好？",
     ["time_deposit_interest", "foreign_currency_deposit_return"],
     "需同時呼叫兩者比較；缺少的利率與匯率參數應追問",
     "rubric", "同時考驗多工具規劃與參數不足的追問。"),
]


def main():
    out = []
    for i, (ph, q, tools, exp, scoring, rubric) in enumerate(ITEMS, 1):
        out.append({
            "id": "CH-%03d" % i,
            "phenomenon": ph,
            "query_zhtw": q,
            "tools": json.dumps([SPEC[t] for t in tools], ensure_ascii=False),
            "expected_behavior": exp,
            "scoring": scoring,
            "rubric": rubric,
        })
    os.makedirs("data", exist_ok=True)
    with open("data/eval_challenge.jsonl", "w", encoding="utf-8") as f:
        for r in out:
            f.write(json.dumps(r, ensure_ascii=False) + "\n")

    from collections import Counter
    c = Counter(r["phenomenon"] for r in out)
    s = Counter(r["scoring"] for r in out)
    print("挑戰集已產生：data/eval_challenge.jsonl（%d 題）\n" % len(out))
    print("現象分佈：")
    for k, v in c.items():
        print("  %-12s %d 題" % (k, v))
    print("\n評分方式：")
    for k, v in s.items():
        print("  %-14s %d 題" % (k, v))
    print("\n注意：其中 %d 題的正確行為是『不要呼叫任何工具』——" % s["must_not_call"])
    print("      這類題目用 exact match 評分會全部誤判，必須由客戶定義驗收準則。")


if __name__ == "__main__":
    main()