"""Model input construction and Judge prompts. The model prompt is the dataset's own ``prompt`` field, sent verbatim: it already carries the task instruction, the source text and the numbered constraints, so rewriting it here would change what the benchmark measures. """ from __future__ import annotations from typing import Any MODEL_PROMPT_VERSION = "insttrans-inference-v1" QUALITY_JUDGE_PROMPT_VERSION = "insttrans-quality-judge-v1" SOFT_CONSTRAINT_JUDGE_PROMPT_VERSION = "insttrans-soft-constraint-judge-v1" LANGUAGE_NAMES = { "ar": "阿拉伯语", "de": "德语", "en": "英语", "es": "西班牙语", "fil": "菲律宾语", "fr": "法语", "hi": "印地语", "id": "印尼语", "it": "意大利语", "ja": "日语", "ko": "韩语", "ms": "马来语", "nl": "荷兰语", "pl": "波兰语", "pt": "葡萄牙语", "ro": "罗马尼亚语", "ru": "俄语", "sv": "瑞典语", "th": "泰语", "tr": "土耳其语", "vi": "越南语", "zh": "中文", } def build_model_messages(row: dict[str, Any]) -> list[dict[str, str]]: """Chat messages for the system under test. Sends `prompt` unchanged.""" return [{"role": "user", "content": row["prompt"]}] def _lang_name(code: str) -> str: return LANGUAGE_NAMES.get(code, code) def build_quality_prompt(row: dict[str, Any], prediction: str) -> str: """Translation-quality Judge prompt (0 / 0.5 / 1). `web_html` instances get a variant that tells the Judge to score only the visible text, because their source embeds HTML/JSON markup. """ src_name = _lang_name(row["source_lang"]) tgt_name = _lang_name(row["target_lang"]) source_text = row["source_text"] reference = row["reference"] if row.get("scenario") == "web_html": return f"""你是精通{src_name}和{tgt_name}的网页文本翻译质量评估专家。请仅从翻译准确性和流畅度角度评估以下<待评估译文>。 注意:源文中包含HTML/JSON标签,这些标签是文本的一部分,评估时只关注可见文本的翻译质量。 # 评估维度 ## 翻译准确性 <严重错误>: - 可见文本的核心语义发生变化、漏译或严重误译。 - 添加了原文中不存在的内容。 <轻度错误>: - 专有名词翻译不准确。 - 部分表达语义有偏移。 ## 译文流畅度 <严重错误>: - 可见文本不通顺,无法正常阅读理解。 <轻度错误>: - 用词不够自然,有翻译腔。 - 语法有轻微瑕疵但不影响理解。 # 评分标准 评分时请考虑文本长度:短文本(1-3句)和长文本(10句以上)应使用相同的质量密度标准,即关注错误占比而非错误绝对数量。 1分: 翻译准确自然,无严重错误。轻度错误占比极低(不超过总句数的10%)。 0.5分: 无严重错误,轻度错误占比适中(约10%-30%的句子有轻度错误),整体可读。 0分: 有严重错误;或轻度错误占比过高(超过30%的句子有轻度错误),严重影响整体质量。 # 评估材料 <源文>: {source_text} <参考译文>: {reference} <待评估译文>: {prediction} 请将你的打分写在<输出>中,直接输出[0/0.5/1]中的数字,不要输出任何其他内容。 <输出>:""" return f"""你是精通{src_name}和{tgt_name}的翻译质量评估专家。请仅从翻译准确性和流畅度角度评估以下<待评估译文>,不评估格式、约束等方面。 # 评估维度 ## 翻译准确性 <严重错误>: - 核心语义发生变化,原文意思被曲解。 - 重要内容漏译或严重误译。 - 添加了原文中不存在的内容。 <轻度错误>: - 专有名词翻译不准确。 - 部分表达语义有偏移。 ## 译文流畅度 <严重错误>: - 译文不通顺,无法正常阅读理解。 - 出现目标语言中不自然的表达方式。 <轻度错误>: - 用词不够自然,有翻译腔。 - 语法有轻微瑕疵但不影响理解。 # 评分标准 评分时请考虑文本长度:短文本(1-3句)和长文本(10句以上)应使用相同的质量密度标准,即关注错误占比而非错误绝对数量。 1分: 翻译准确自然,无严重错误,轻度错误极少。 0.5分: 只有轻度错误,或仅有少量严重错误(不超过总句数的10%),整体可读。 0分: 有大量严重错误(超过总句数的10%),严重影响整体质量。 # 评估材料 <源文>: {source_text} <参考译文>: {reference} <待评估译文>: {prediction} 请将你的打分写在<输出>中,直接输出[0/0.5/1]中的数字,不要输出任何其他内容。 <输出>:""" SOFT_CONSTRAINT_JUDGE_TEMPLATE = """请评估译文对每条约束的满足程度。 【源文】 {source_text} 【译文】 {target_text} 【约束列表】 {constraint_list} 评分标准(每条约束三档): - 1:完全满足 - 0.5:部分满足(有小瑕疵但不影响理解) - 0:未满足或严重偏离 如果译文中存在大段内容不断重复(同一句话或片段连续出现3次及以上),所有约束直接判0分。 请输出JSON,以约束ID为key: {{ "constraint_id": {{ "score": 0或0.5或1, "note": "简短说明" }} }} 只输出JSON,不要输出任何其他内容。""" def build_soft_constraint_prompt( row: dict[str, Any], prediction: str, soft_descs: dict[str, str] ) -> str: constraint_list = "\n".join(f"[{cid}] {desc}" for cid, desc in soft_descs.items()) return SOFT_CONSTRAINT_JUDGE_TEMPLATE.format( source_text=row["source_text"], target_text=prediction, constraint_list=constraint_list, )