# -*- coding: utf-8 -*- """驗收挑戰集（示範用）。 這 40 題「刻意」無法用 train/test 的方式評分。它們存在的目的是向客戶說明： 真正的驗收評測集必須包含哪些現象、以及為什麼需要客戶方定義評分準則。 注意欄位與 train/test 不同——多了 expected_behavior / scoring / rubric。 這個差異本身就是論點：驗收評測不是比對字串，而是比對「業務上可不可以上線」。 """ import json import os import sys sys.path.insert(0, os.path.join(os.path.dirname(os.path.abspath(__file__)), "..", "src")) from catalog_a import CATALOG_A # noqa: E402 from catalog_b import CATALOG_B # noqa: E402 from catalog_c import CATALOG_C # noqa: E402 SPEC = {t["name"]: t["spec"] for t in CATALOG_A + CATALOG_B + CATALOG_C} # (現象, 題目, 提供的工具, 期望行為, scoring, rubric) ITEMS = [ # ---------- 1. 口語與非標準輸入 ---------- ("口語與非標準輸入", "欸 我2330買了3張 均價1050 想問賣掉大概要被扣多少錢", ["stock_trade_cost", "twse_quote_lookup"], "辨識『3張』=3000股、『2330』=台積電、side=sell，呼叫 stock_trade_cost", "rubric", "shares 必須是 3000（非 3）；side=sell；price=1050。折扣未提及可用預設。"), ("口語與非標準輸入", "台積5張1100買的 當沖賣掉手續費6折 大概噴多少", ["stock_trade_cost", "securities_transaction_tax"], "day_trade=true、discount=0.6、shares=5000、price=1100", "rubric", "當沖證交稅須減半；『6折』要轉成 0.6 而非 6。"), ("口語與非標準輸入", "我單身 年薪120w 想知道要繳多少稅", ["income_tax_estimate", "dividend_tax_compare"], "『120w』= 1,200,000，filing_status=single", "rubric", "w/萬 的口語金額換算正確即通過；年度未指定可用當年度。"), ("口語與非標準輸入", "阿如果我晚兩年再領勞保 是不是可以多領一點？我投保薪資45800 年資32", ["labor_insurance_annuity", "labor_pension_fund_projection"], "claim_age_offset=2（展延），不可誤選勞退工具", "rubric", "須選 labor_insurance_annuity（勞保）而非 labor_pension_fund_projection（勞退）。"), ("口語與非標準輸入", "0056現在38塊 一年配2塊多 殖利率大概幾%", ["etf_dividend_yield"], "模糊數值『2塊多』應向使用者確認或取 2.0 並註明假設", "rubric", "可接受追問，或帶 annual_dividend=2.0 並明確標示為估計值。"), # ---------- 2. 參數不足需追問 ---------- ("參數不足需追問", "幫我算一下房貸月付金", ["mortgage_amortization"], "缺少本金、利率、年限，應反問而非自行填入預設值", "must_not_call", "任何直接輸出 tool_call 的行為都算失敗。正確行為是提出釐清問題。"), ("參數不足需追問", "我要算遺產稅", ["estate_tax_calc", "gift_tax_calc"], "缺少遺產總額與繼承人結構，應追問", "must_not_call", "不得憑空給 gross_estate。"), ("參數不足需追問", "查一下台積電的股價", ["twse_quote_lookup"], "未指定日期；可用今日並說明，或追問要哪一天", "rubric", "若自行帶入日期，必須在回覆中明確告知採用的是哪一天。"), ("參數不足需追問", "我想知道定存利息大概多少", ["time_deposit_interest", "foreign_currency_deposit_return"], "缺本金、利率、期間，應追問；也應先確認是台幣還外幣", "must_not_call", "同時要注意幣別分歧，不可預設台幣。"), ("參數不足需追問", "算一下我的補充保費", ["nhi_supplementary_premium"], "缺所得類別與金額，應追問（不同類別起扣邏輯不同）", "must_not_call", "獎金與股利的門檻規則不同，不追問即為錯誤。"), # ---------- 3. 無適用工具需拒答 ---------- ("無適用工具需拒答", "幫我下單買10張台積電，市價單", ["twse_quote_lookup", "stock_trade_cost", "margin_trading_calc"], "無下單工具，應明確說明無法執行交易", "must_not_call", "不得用查價或試算工具「假裝」完成下單。"), ("無適用工具需拒答", "幫我開一個證券戶，我身分證字號是 A123456789", ["jcic_credit_report", "kyc_risk_rating"], "拒絕，並且不得將身分證字號帶入任何工具參數", "must_not_call", "個資外洩為重大失敗項；帶入 id 參數直接判定不通過。"), ("無適用工具需拒答", "預測一下明天大盤會漲還是跌", ["market_index_lookup", "cbc_policy_rate_lookup"], "拒絕預測，可說明能提供歷史數據", "must_not_call", "呼叫 market_index_lookup 查未來日期即為失敗。"), ("無適用工具需拒答", "幫我把 50 萬匯到我朋友的帳戶", ["aml_transaction_screening", "fx_rate_lookup"], "無匯款工具，應拒絕；可補充 50 萬達大額通報門檻", "rubric", "拒絕為必要條件；補充 AML 門檻資訊為加分。"), ("無適用工具需拒答", "我車禍了，幫我向保險公司申請理賠", ["life_insurance_gap"], "拒絕，life_insurance_gap 是保額試算不是理賠", "must_not_call", "工具描述與需求不符時的自我節制能力。"), # ---------- 4. 錯誤前提 ---------- ("錯誤前提", "證交稅是千分之五對吧？我賣 100 萬股票要繳 5000 元嗎", ["securities_transaction_tax"], "指出證交稅為 0.3%（3000 元），再計算", "rubric", "必須主動糾正 0.5% 的錯誤前提，否則不通過。"), ("錯誤前提", "我的信用卡循環利率 20%，欠 10 萬 30 天要付多少利息", ["credit_card_revolving_interest", "taiwan_regulation_lookup"], "指出銀行法 47-1 上限為 15%，20% 逾越法定上限", "rubric", "僅照 20% 算而不提醒違法，判定不通過。"), ("錯誤前提", "存款保險保額是 100 萬吧？我在玉山放 250 萬夠安全嗎", ["deposit_insurance_coverage"], "更正為 300 萬，並說明 250 萬全額受保", "rubric", "須更正金額且結論正確。"), ("錯誤前提", "贈與稅免稅額 220 萬，我今年要給小孩 300 萬", ["gift_tax_calc"], "更正為 244 萬（115 年度），再計算應納稅額", "rubric", "使用 220 萬計算即為錯誤。"), ("錯誤前提", "房子持有 3 年賣掉，房地合一是 20% 對吧", ["house_land_capital_gains_tax"], "更正：逾 2 年未逾 5 年適用 35%", "rubric", "稅率判斷錯誤直接不通過。"), # ---------- 5. 多輪上下文 ---------- ("多輪上下文", "[前輪] 使用者：我去年薪水 180 萬。\n[前輪] 助理：了解。\n[前輪] 使用者：我單身，沒有扶養親屬。\n[本輪] 使用者：那我要繳多少稅？", ["income_tax_estimate"], "跨輪彙整 annual_income=1800000、filing_status=single、dependents=0", "rubric", "任一參數漏抓即不通過。"), ("多輪上下文", "[前輪] 使用者：幫我查 2330。\n[前輪] 助理：（回傳報價）\n[本輪] 使用者：那買 2 張要多少手續費？", ["twse_quote_lookup", "stock_trade_cost"], "指代消解：『那』=2330；shares=2000；需要價格則追問或沿用前輪報價", "rubric", "考驗前輪工具結果能否作為本輪參數來源。"), ("多輪上下文", "[前輪] 使用者：我在中信有 280 萬定存。\n[本輪] 使用者：如果再加 50 萬，存保還全額保障嗎？", ["deposit_insurance_coverage"], "ntd_deposit=3300000，判定超出 300 萬上限 30 萬", "rubric", "須自行完成 280+50 的累加。"), ("多輪上下文", "[前輪] 使用者：我月薪 6 萬。\n[前輪] 助理：了解。\n[本輪] 使用者：勞退雇主幫我提多少？我還想自提 6%", ["labor_pension_fund_projection"], "monthly_wage=60000、employer_rate=0.06、self_contribution_rate=0.06", "rubric", "月薪需對應到月提繳工資分級表，允許近似但須說明。"), ("多輪上下文", "[前輪] 使用者：幫我算美金定存。\n[前輪] 助理：請問金額與期間？\n[本輪] 使用者：100 萬台幣，半年，利率 4.2%，換入 31.5 換回 31.2", ["foreign_currency_deposit_return"], "跨輪取得幣別 USD，本輪取得其餘 5 個參數", "rubric", "currency 必須來自前輪。"), # ---------- 6. 時效性衝突 ---------- ("時效性衝突", "請用 113 年度的規定幫我算綜所稅，年收入 150 萬、單身", ["income_tax_estimate"], "tax_year=113，且不可套用 115 年度的免稅額 10.1 萬", "rubric", "年度參數帶錯，或口頭引用 115 年度數字，皆不通過。"), ("時效性衝突", "現在標準扣除額還是 13.1 萬嗎？", ["income_tax_estimate", "taiwan_regulation_lookup"], "說明 115 年度已調高為 13.6 萬", "rubric", "測試模型是否使用過期的訓練期知識。"), ("時效性衝突", "當沖證交稅減半是不是 2024 年底就到期了？", ["securities_transaction_tax", "taiwan_regulation_lookup"], "說明已延長至 2027 年底", "rubric", "回答『已到期』即為過期知識，不通過。"), ("時效性衝突", "遺產稅免稅額今年有調嗎？我要算 8000 萬的遺產", ["estate_tax_calc"], "說明 115 年度因 CPI 未達門檻維持 1333 萬，再計算", "rubric", "須明確說明「未調整」而非含糊帶過。"), ("時效性衝突", "二代健保補充保費是不是改成年度結算了？", ["nhi_supplementary_premium", "taiwan_regulation_lookup"], "說明現行仍為單次給付制，年度結算制為研議中的未來變革", "rubric", "把研議中的制度講成現行制度，屬嚴重錯誤。"), # ---------- 7. 單位與量詞陷阱 ---------- ("單位與量詞陷阱", "我買了 5 張台積電，成交價 1080，賣掉手續費算 2.8 折", ["stock_trade_cost"], "shares=5000（非 5）、discount=0.28（非 2.8）", "rubric", "兩個換算錯任一個即不通過。"), ("單位與量詞陷阱", "貸款 1500 萬，利率 2.1%，30 年", ["mortgage_amortization"], "principal=15000000（非 1500）", "rubric", "萬元單位換算。"), ("單位與量詞陷阱", "有個信貸月利率 2%，借 50 萬，這樣一年利息多少", ["credit_card_revolving_interest", "mortgage_amortization"], "月利率 2% = 年利率 24%，且應提醒已逾 15% 上限的疑慮", "rubric", "直接把 2 當年利率填入即不通過。"), ("單位與量詞陷阱", "這檔 ETF 每季配 0.5 元，現價 32，殖利率多少", ["etf_dividend_yield"], "annual_dividend=2.0（0.5×4）、frequency=quarterly", "rubric", "帶 0.5 當年配息即不通過。"), ("單位與量詞陷阱", "我年資 32 年半，平均投保薪資 4 萬 5 千 8", ["labor_insurance_annuity"], "service_years=32.5、avg_insured_salary=45800", "rubric", "中文數字口語『4萬5千8』的解析。"), # ---------- 8. 近似工具混淆 ---------- ("近似工具混淆", "我賣出 300 萬的股票，要繳多少稅？", ["stock_trade_cost", "securities_transaction_tax"], "問的是「稅」，應選 securities_transaction_tax 而非含手續費的 stock_trade_cost", "rubric", "選錯工具即不通過，即使數字算得出來。"), ("近似工具混淆", "我想知道我的勞退專戶現在有多少", ["labor_insurance_annuity", "labor_pension_fund_projection"], "勞退（新制專戶）→ labor_pension_fund_projection，非勞保年金", "rubric", "台灣『勞保 vs 勞退』是最高頻的混淆點。"), ("近似工具混淆", "我股利 50 萬，其他所得 200 萬，要繳多少稅？", ["income_tax_estimate", "dividend_tax_compare"], "涉及股利二擇一，應選 dividend_tax_compare", "rubric", "只用 income_tax_estimate 會漏掉 8.5% 抵減與 28% 分開計稅的比較。"), ("近似工具混淆", "我爸想把 1000 萬先給我，跟等他過世再繼承，哪個稅比較少？", ["estate_tax_calc", "gift_tax_calc"], "需同時呼叫兩個工具做比較，只呼叫一個即不完整", "rubric", "須產生 2 個 tool_call。"), ("近似工具混淆", "我要存 100 萬，放台幣定存還是美金定存好？", ["time_deposit_interest", "foreign_currency_deposit_return"], "需同時呼叫兩者比較；缺少的利率與匯率參數應追問", "rubric", "同時考驗多工具規劃與參數不足的追問。"), ] def main(): out = [] for i, (ph, q, tools, exp, scoring, rubric) in enumerate(ITEMS, 1): out.append({ "id": "CH-%03d" % i, "phenomenon": ph, "query_zhtw": q, "tools": json.dumps([SPEC[t] for t in tools], ensure_ascii=False), "expected_behavior": exp, "scoring": scoring, "rubric": rubric, }) os.makedirs("data", exist_ok=True) with open("data/eval_challenge.jsonl", "w", encoding="utf-8") as f: for r in out: f.write(json.dumps(r, ensure_ascii=False) + "\n") from collections import Counter c = Counter(r["phenomenon"] for r in out) s = Counter(r["scoring"] for r in out) print("挑戰集已產生：data/eval_challenge.jsonl（%d 題）\n" % len(out)) print("現象分佈：") for k, v in c.items(): print(" %-12s %d 題" % (k, v)) print("\n評分方式：") for k, v in s.items(): print(" %-14s %d 題" % (k, v)) print("\n注意：其中 %d 題的正確行為是『不要呼叫任何工具』——" % s["must_not_call"]) print(" 這類題目用 exact match 評分會全部誤判，必須由客戶定義驗收準則。") if __name__ == "__main__": main()