Datasets:
Download construction/query_filter.py from leequeue/MIPR: direct link, hf CLI and curl.
- Browser
- Download file 26.6 kB
-
https://huggingface.co/datasets/leequeue/MIPR/resolve/main/construction/query_filter.py
- Command line
-
hf download hf://datasets/leequeue/MIPR/construction/query_filter.py
-
curl -L -o query_filter.py https://huggingface.co/datasets/leequeue/MIPR/resolve/main/construction/query_filter.py
26.6 kB
| #!/usr/bin/env python3 | |
| """Query 筛选:规则 → 粗筛 → 双模型细筛 → 意图去重。""" | |
| import argparse | |
| import json | |
| import os | |
| import re | |
| import subprocess | |
| import threading | |
| import time | |
| from concurrent.futures import ThreadPoolExecutor, as_completed | |
| from pathlib import Path | |
| from utils import (deduplicate, load_embeddings, load_model_and_processor, | |
| read_jsonl, write_jsonl) | |
| # 共用 I/O。 | |
| _write_lock = threading.Lock() | |
| def load_done(path): | |
| """读取已完成的 idx(支持 ok 文件;failed 里的 idx 不算 done,允许重试)。""" | |
| done = set() | |
| if not os.path.exists(path): | |
| return done | |
| with open(path, encoding="utf-8") as f: | |
| for line in f: | |
| line = line.strip() | |
| if not line: | |
| continue | |
| try: | |
| done.add(str(json.loads(line)["idx"])) | |
| except Exception: | |
| continue | |
| return done | |
| def append_jsonl(path, obj): | |
| with _write_lock: | |
| with open(path, "a", encoding="utf-8") as f: | |
| f.write(json.dumps(obj, ensure_ascii=False) + "\n") | |
| f.flush() | |
| def extract_json_obj(text): | |
| try: | |
| match = re.search(r"\{.*\}", text, re.DOTALL) | |
| if match: | |
| parsed = json.loads(match.group()) | |
| if isinstance(parsed, dict): | |
| return parsed | |
| except (json.JSONDecodeError, ValueError): | |
| pass | |
| return {} | |
| # 1. 规则筛选。 | |
| EXCLUDE_RULES = [ | |
| # ── 品牌/产品识别 ── | |
| (r'(是|什么|哪个|哪家).*(品牌|牌子)', '品牌识别'), | |
| (r'(哪些|推荐|有没有|有.*).*(品牌|牌子)', '品牌推荐'), | |
| (r'是什么(材质|宝石|面料|系列|风格|成分)', '材质识别'), | |
| (r'(叫什么|叫啥)', '名称识别'), | |
| # ── 材质选择(非识别,答案是材质不是商品)── | |
| (r'(用|选|买|换).*(什么|哪种).*(材质|材料|面料)', '材质选择'), | |
| (r'(哪种|什么样的?|什么).*(材质|材料|面料)', '材质选择'), | |
| # ── 穿搭搭配(服饰/饰品/鞋帽审美类)── | |
| (r'(配|搭|穿).*(什么|哪种|哪款|哪个).*' | |
| r'(衣服|裤子|裙子|外套|鞋子|鞋|内搭|打底|袜子|围巾|包包|帽子|项链|' | |
| r'戒指|头盔|内衣|手链|耳环|腰带|领带|饰品|发饰|枕套|杯套|' | |
| r'花边|地毯|桌布|桌旗)', '穿搭搭配'), | |
| (r'(配|搭配).*(什么|哪种).*' | |
| r'(茶几|沙发|椅子|灯|窗帘|桌子|柜子|鼠标垫|办公桌|床)', '家居搭配'), | |
| (r'怎么(搭配|搭|穿).*(好看|显瘦|显高|不臃肿|不单调|不压|显腿长|不显)', | |
| '穿搭建议'), | |
| (r'(什么|哪种|哪款).*(比较搭|很搭|更搭|搭$)', '穿搭搭配'), | |
| (r'(配|搭配).*(什么|哪种).*' | |
| r'(茶点|饮品|零食|甜品|小吃|饮料|酒)', '食品搭配'), | |
| (r'.{0,6}(什么|哪种).*(好看|好吃|好喝).*$', '审美主观'), | |
| # ── 颜色选择 ── | |
| (r'(什么|哪个|哪种|选|挑).*颜色', '颜色选择'), | |
| (r'(还有|其他|别的).*(颜色|色$|主题)', '颜色主题'), | |
| # ── 体型/年龄/肤色适合 ── | |
| (r'适合(什么|哪种).*(身材|体型|脚型|肤色|体质|人穿|人群|身高|发量|肤质)', '体型适合'), | |
| (r'适合(多大|几岁|什么|哪个).*(年龄|年龄段|岁|孩子|小朋友|宝宝|女宝|男宝)', '年龄适合'), | |
| (r'多大.*(年龄|岁).*(可以|能|适合)', '年龄适合'), | |
| (r'(什么|哪种)(身材|体型|肤质|肤色|发量|体质).*(适合|合适)', '体型适合'), | |
| (r'适合(什么|哪种).*(鞋型|脸型|发型|户型|腿型|手型)', '类型适合'), | |
| (r'适合.*(什么|哪种|哪些|哪个).*(场合|场景|季节)', '场合适合'), | |
| (r'适合(多大|多少).*(平米|平方|面积)', '面积适合'), | |
| (r'适合.*送(给|什么)', '送礼对象'), | |
| (r'送.*(选|挑|买|推荐).*(哪种|什么|哪个)', '送礼选择'), | |
| (r'送.*(人|长辈|朋友|领导|客户|同事|老师|父母).*(买|选|推荐|哪种|什么|哪个)', '送礼选择'), | |
| (r'适合.*(放在|放到|摆在|摆放)', '摆放位置'), | |
| (r'(放在|放到|摆在).*(哪里|哪儿|什么位置)', '摆放位置'), | |
| # ── 价格/定制/性价比 ── | |
| (r'多少钱|怎么收费|怎么定制|运费险', '价格定制'), | |
| (r'(平价|便宜|性价比|同价位|低价|高价).*(替代|替换|推荐|平替|款|高的|好的)', '价格比较'), | |
| (r'(贵不贵|划算|值不值|预算)', '价格咨询'), | |
| # ── 找同款/来源 ── | |
| (r'(同款|去哪|在哪|哪里).*(买|找|配|搜)', '找同款'), | |
| (r'找源头|上哪买', '找渠道'), | |
| (r'(博主|模特).*(同款|佩戴|穿)', '找同款'), | |
| (r'怎么(搜|搜索|找到|搜到)', '找同款'), | |
| (r'一模一样', '找同款'), | |
| # ── 找类似款式 ── | |
| (r'类似.*(款式|款|风格|的有|还有|有哪些|有没有)', '找类似款'), | |
| # ── 尺寸/规格/型号 ── | |
| (r'(多大|什么|哪种|哪个).*(尺寸|尺码|号码)', '尺寸询问'), | |
| (r'(适配|兼容|匹配).*(尺寸|型号|规格)', '适配规格'), | |
| (r'(搭配|配).*(什么|哪个).*(型号|规格)', '适配规格'), | |
| (r'(买|选|该).*什么.*(型号|规格)', '型号选择'), | |
| (r'(怎么|如何).*(选|挑|买).*(尺码|尺寸|码数|号)', '尺码选择'), | |
| (r'(容量|尺寸).*(一般|大概)?(多大|多少)', '规格询问'), | |
| (r'(多大|多少).*容量', '规格询问'), | |
| (r'能(装|放|容纳|坐|睡).*多少', '容量询问'), | |
| (r'多(大码|少瓦|厚|薄|宽|长|高|重)', '规格询问'), | |
| (r'搭配.*多(厚|薄|宽|长|高|大)', '规格询问'), | |
| (r'(适合|够).*几(个|口).*(人|口)', '容量规格'), | |
| (r'(挂|放|装|摆).*几(个|只|盏|盆)', '数量规格'), | |
| (r'多少(瓦|升|毫升|安|伏|度|克|斤)', '规格询问'), | |
| (r'能.*(用|跑|玩|撑|续航).*(几|多少).*(个小时|小时|天|分钟|公里)', '续航询问'), | |
| # ── 使用寿命/更换周期/质保 ── | |
| (r'(能用|能放|能保存|能跑|能走|能飞|能开|留香|一局).*多(少|久|长|远)', '使用寿命'), | |
| (r'多久(换|更换)', '更换周期'), | |
| (r'(质保|保修).*(多久|多长|几年)', '质保询问'), | |
| # ── 问答/是非类(答案是事实不是商品)── | |
| (r'.{2,}(效果|质量|手感|口感)(好吗|好不好|怎么样)', '产品评价'), | |
| (r'.{2,}(要|需要).{0,6}吗$', '使用知识'), | |
| (r'.{2,}能.{0,10}吗$', '使用知识'), | |
| (r'.{2,}可以.{1,10}吗$', '使用知识'), | |
| (r'.{2,}是.*(材质|材料|正品|真皮|纯棉|实木|新米|新茶|新款|全新|原装|国产|进口)吗', '属性确认'), | |
| (r'(显胖|显黑|显白|显高|显矮|显瘦|显老|显嫩|显壮|压身高|压个子|穿.*透)吗', '穿搭是非'), | |
| (r'(稳固|牢固|结实|耐用|防滑|耐磨|防水|耐高温)吗', '属性确认'), | |
| (r'(透气|缩水|漏气|掉钻|勾丝|闷热|粘腻|磨脚|漏水|漏电|生锈|褪色|发霉|防滑|耐磨|扎皮肤|扎手).*吗', '属性缺陷'), | |
| (r'(噪音|误差|味道|气味|色差|辐射|油烟|口感).*(大|小|重|苦|甜|酸|辣|涩|冲|淡).*吗', '属性程度'), | |
| (r'(包裹性|支撑性|透气性|稳定性|密封性|弹性).*(好|强|够|差).*吗', '属性评价'), | |
| (r'(透不透|热不热|重不重|硬不硬|闷不闷|粘不粘|厚不厚|软不软|滑不滑)', '属性是非'), | |
| (r'够.+吗', '属性够否'), | |
| (r'真的.+吗', '属性确认'), | |
| (r'适合.*(用|穿|戴|吃|喝).*吗', '适用确认'), | |
| (r'适合.{2,}(穿|用|戴|吃|喝)$', '适用确认'), | |
| (r'会不会.+$', '属性确认'), | |
| (r'(和|跟|与).*(哪个|哪种).*(好用|好|方便|实用)', '产品比较'), | |
| # ── 穿搭体型建议 ── | |
| (r'(小个子|大个子|微胖|矮个|胖|高个子).*(怎么穿|适合穿|穿什么)', '穿搭建议'), | |
| (r'适合.*(小个子|大个子|微胖|矮个|胖|高个子)', '体型适合'), | |
| (r'(小个子|微胖|矮个).*(穿|背|戴).*(显|会)', '穿搭是非'), | |
| # ── 维修/教程/故障诊断 ── | |
| (r'怎么(修|修理|维修|修复|配新)', '维修教程'), | |
| (r'(坏了|不良|故障|损坏).*怎么', '故障维修'), | |
| (r'(失灵|不灵|不好使).*(是|还是)', '故障诊断'), | |
| (r'(分辨|辨别|鉴别|辨认|区分).*(正品|真假|真伪)', '鉴别知识'), | |
| (r'(在哪|哪里).{0,4}(听|看|下载|播放|学)', '使用知识'), | |
| (r'用在.*(哪一步|第几步|哪步|哪个步骤|哪个环节)', '使用知识'), | |
| # ── 产品属性/区别 ── | |
| (r'(区别|不同).*(在哪|是什么|有什么)', '产品比较'), | |
| # ── 适合什么场景/季节 ── | |
| (r'(适合|针对).*(什么|哪种).*(症状|季节|场景)', '用途场景'), | |
| (r'什么(季节|时候|场景)(用|穿|戴)', '用途场景'), | |
| # ── 同系列/同款/同品牌/款式变体 ── | |
| (r'同系列.*(还有|其他)', '系列探索'), | |
| (r'同(款|品牌).*(推荐|还有|有哪些|有没有|生产|出品)', '同款探索'), | |
| (r'还有.*(同款|其他|什么).*(尺码|规格|款)', '同系列探索'), | |
| (r'(什么|哪些|哪种|哪个).*(口味|包装|版本)', '款式选择'), | |
| (r'(长袖|短袖|加长|加大|加厚|薄款|厚款|大号|小号).*(款|版|有哪些|有没有)', '款式变体'), | |
| (r'(更长|更大|更短|更小|更厚|更薄).*(的|尺寸|尺码|版本|款)', '尺寸变体'), | |
| # ── 人群/机型/症状等非商品类型询问 ── | |
| (r'(哪些|什么).*(人群|机型|车型).*(可以|能|适合|不建议|不适合|不能)', '类型询问'), | |
| (r'(症状|病症|副作用|禁忌).*(有哪些|是什么|有什么)', '医疗知识'), | |
| # ── 食材/早餐搭配 ── | |
| (r'(加点|加些|配点|配些|放点|放些).*什么', '食材搭配'), | |
| ] | |
| def classify(query): | |
| for pattern, rule in EXCLUDE_RULES: | |
| if re.search(pattern, query): | |
| return 'exclude', rule | |
| return 'pending', '' | |
| def run_rules(args): | |
| write_jsonl(args.output, [row for row in read_jsonl(args.input) | |
| if classify(row["query"])[0] != "exclude"]) | |
| # 2. 粗筛:消费已生成的 scene。 | |
| STAGE2_PROMPT = """你在筛选多模态用户 query。根据图像内容、用户意图、原始 query,判断这条 query 属于 keep / discard。 | |
| 【判断步骤】 | |
| 1. 用户的需求能否用某个商品解决? | |
| 不能(要的是知识/方法/评价/识别/参数)→ discard | |
| 2. 这个需求有客观明确的解吗?还是取决于个人审美/喜好? | |
| 取决于个人喜好、没有客观对错的(搭配、配色、风格选择)→ discard | |
| (如"穿什么好看""用什么颜色适合""配什么风格",答案因人而异) | |
| 3. 前两关都过 → keep | |
| 【原则】拿不准就 discard。基于用户真实意图判断,不要脑补需求。 | |
| 【示例】 | |
| 图片内容: 生锈的菜刀 | |
| 用户意图: 寻找去除菜刀锈迹的工具或用品 | |
| query: 生锈了怎么除锈 | |
| 输出: {"reason":"可用"除锈剂"商品解决,有明确解","action":"keep"} | |
| 图片内容: 牛仔短裙 | |
| 用户意图: 了解洗涤牛仔短裙的注意事项 | |
| query: 洗这种面料要注意什么 | |
| 输出: {"reason":"要的是洗涤注意事项,属于知识类问答,买商品解决不了该问题","action":"discard"} | |
| 图片内容: 白衬衫 | |
| 用户意图: 寻找搭配白衬衫的裤子 | |
| query: 这件衬衫配什么裤子 | |
| 输出: {"reason":"可用"裤子"商品解决,但搭配取决于个人审美,无客观解","action":"discard"} | |
| 图片内容: 保温水杯 | |
| 用户意图: 寻找可以挂在水杯上方便携带的背带绳 | |
| query: 这个水杯出门配个什么绳子好 | |
| 输出: {"reason":"可用"水杯背带绳"商品解决,有明确解","action":"keep"} | |
| 【输入】 | |
| 图片内容: __CONTENT__ | |
| 用户意图: __INTENT__ | |
| query: __QUERY__ | |
| 输出:""" | |
| def parse_coarse_decision(text): | |
| obj = extract_json_obj(text) | |
| action = str(obj.get("action", "")).lower().strip() | |
| if action not in ("keep", "discard"): | |
| action = "discard" if "discard" in text.lower() else "keep" | |
| return {"action": action, "reason": str(obj.get("reason", "")).strip() or text[:80]} | |
| def run_coarse(model, processor, stage1_path, stage2_path): | |
| from utils import run_text_only, load_scenes | |
| scenes = load_scenes(stage1_path) | |
| done = load_done(stage2_path) | |
| os.makedirs(os.path.dirname(os.path.abspath(stage2_path)), exist_ok=True) | |
| n_new = 0 | |
| for idx, row in scenes.items(): | |
| if idx in done: | |
| continue | |
| scene = row["scene"] | |
| prompt = (STAGE2_PROMPT | |
| .replace("__CONTENT__", scene["content"]) | |
| .replace("__INTENT__", scene["intent"]) | |
| .replace("__QUERY__", row["query"])) | |
| raw = run_text_only(model, processor, prompt, max_new_tokens=300, | |
| enable_thinking=False, do_sample=False, seed=0) | |
| append_jsonl(stage2_path, {**row, "idx": idx, **parse_coarse_decision(raw)}) | |
| n_new += 1 | |
| print(f"初筛完成:新增 {n_new} 条") | |
| return n_new | |
| # 3. 细筛:两个模型独立判断,再取交集。 | |
| DISCARD_AND_CLASSIFY_PROMPT = '''用户发来一张图片并提出问题,想买商品来解决它。你的任务是判断这条 query 是否适合"图+意图→商品检索"这个任务,如果适合,再对它做分类。 | |
| # 任务背景 | |
| 我们要构建的任务是:用户拍一张图 + 说一句只表达意图、不直接点名商品的短文本,模型需要【看图识别对象 + 理解意图 → 推断出能解决问题的商品】。 | |
| 好的 query 必须满足:图片提供了关键信息、意图指向一个能用商品解决的明确需求、答案是客观的(有相对确定的商品品类可以对应)。 | |
| # 输入说明 | |
| 你会看到三部分信息: | |
| - 图片内容、用户提问:这两项合起来是用户最原始的真实需求,判断以此为准。 | |
| - 用户意图:对用户需求的进一步分析,供你参考,帮助你理解用户想要什么。 | |
| 注意:用户意图是辅助分析,可能有误或不完整。若它与图片内容/用户提问矛盾,一律以图片内容和用户提问为准。不要因为意图分析把需求"洗白",就放过本该丢弃的 query。 | |
| # 第一步:判断 keep 还是 discard | |
| 符合下面【任一】丢弃标准,就判为 discard,并给出对应编号。 | |
| ## A 组:答案主观(没有客观正确的商品) | |
| - A1 搭配/审美类:问搭配什么衣服好看、什么料子/款式好看、怎么穿搭。 | |
| 例:"手臂粗适合配什么披肩"、"这种上衣适合配什么裤子"、"日常通勤可以穿什么"、"什么颜色好看" | |
| - A2 对比/优选类:问怎么挑更好的、哪个效果更好,需要主观权衡。 | |
| 例:"怎么挑选保温效果好的"、"敏感肌买哪款好" | |
| - A3 相似款/配色类:找相似款式、同款、其他配色,本质是图像相似或审美。 | |
| 例:"还有哪些相似款式"、"还有哪些其他配色可选" | |
| ## B 组:缺关键参数,无法确定具体商品 | |
| - B1 精确规格类:答案依赖精确的尺寸/容量/型号,且【图片和文本都无法直接确定】这个规格。 | |
| 注意:如果规格能从图/文直接看出(如 Type-C 接口、可见的电池型号),则不算此项,可以保留。 | |
| 例(丢弃):"类似容量的推荐哪些"、"适合装在什么样的笔壳里"、"需要多大尺寸的" | |
| - B2 精确配件类:需要商品的详细参数才能配对的配件。 | |
| 例:"原装遥控器丢了怎么重新配" | |
| - B3 价格约束类:需求里带价格限制(我们的商品库没有价格信息,无法满足)。 | |
| 例:"一百块以内有哪些平替" | |
| ## C 组:不符合任务形式 | |
| - C1 清单/成套类:一次要多种不同商品凑成一套/一个清单(多目标,非单一需求)。 | |
| 例:"去海边玩还需要准备什么"、"露营还要准备哪些东西"、"有没有成套的材料包" | |
| - C2 纯文本可解类:不看图片、只凭文本就能回答,图片没有提供必要信息。 | |
| 例:"夹菜工具买哪种不生锈"、"冬天骑电瓶车配哪种挡风被" | |
| ## D 组:数据质量问题 | |
| - D1 图片模糊/不匹配:图片非常模糊看不清,或图文明显不匹配。 | |
| 例:图片糊到认不出物体 | |
| # 第二步:如果 keep,进行分类 | |
| ## type(功能类型,四选一) | |
| - T1 配套/使能:识别图中对象/接口 → 推断需要的工具、配件、转接器。 | |
| 例:螺丝→螺丝刀;Type-C 接口→转接头 | |
| - T2 恢复/修复/补给:图中物品处于缺失/损坏/耗尽/脏污状态 → 推断替换件、耗材、清洁/维修用品。 | |
| 例:电池仓→电池;瓷砖发霉→除霉剂;小白鞋脏了→清洗剂 | |
| - T3 空间/场景约束:图提供空间/尺寸/环境约束 → 检索适配该场景的商品。 | |
| 例:厨房窄缝→窄缝收纳架;窄阳台→折叠晾衣架 | |
| - T4 替代/升级:图中是旧的/低效的方案 → 推断某个维度更好的替代品。 | |
| 例:白炽灯→LED 灯;普通花洒→增压花洒 | |
| # 输出格式 | |
| 只输出 JSON,不要输出其他内容。 | |
| - 若 discard:{{"decision": "discard", "discard_reason": "编号", "type": null}} | |
| - 若 keep: {{"decision": "keep", "discard_reason": null, "type": "T1/T2/T3/T4"}} | |
| # 示例 | |
| 输入: | |
| 图片内容:白色帆布厚底运动鞋(小白鞋),鞋面为白色帆布材质,鞋边有做旧毛边设计,厚底橡胶大底,系带款 | |
| 用户提问:脏了用什么洗比较好 | |
| 用户意图:寻找清洗白色帆布运动鞋(小白鞋)的洗鞋剂或清洁用品 | |
| 输出: | |
| {{"decision": "keep", "discard_reason": null, "type": "T2"}} | |
| 输入: | |
| 图片内容:墙上钉着一颗铁钉 | |
| 用户提问:怎么把它拔下来 | |
| 用户意图:寻找能把墙上的钉子拔出或撬出的工具 | |
| 输出: | |
| {{"decision": "keep", "discard_reason": null, "type": "T1"}} | |
| 输入: | |
| 图片内容:粉色无袖连衣裙,A字裙摆,圆领,中长款,挂于衣架展示,面料疑似棉质或混纺 | |
| 用户提问:手臂粗适合配什么披肩 | |
| 用户意图:寻找适合手臂较粗人群搭配该款无袖连衣裙的披肩 | |
| 输出: | |
| {{"decision": "discard", "discard_reason": "A1", "type": null}} | |
| 输入: | |
| 图片内容:某家用电器(疑似热水器或类似储能/储水类电器)的铭牌标签,标签上印有品牌名称(字迹模糊,疑似"万利达"或类似品牌)、额定电压、额定功率及容量等技术参数,并带有CCC认证标志;因图片模糊,具体容量数值(如升数)无法准确读取 | |
| 用户提问:类似容量的推荐哪些 | |
| 用户意图:根据图中铭牌所示的容量规格,寻找同类容量的同类电器产品推荐 | |
| 输出: | |
| {{"decision": "discard", "discard_reason": "B1", "type": null}} | |
| 输入: | |
| 图片内容:泳池场景,前景为一名戴着泳帽和泳镜的婴幼儿,背景中有一名穿粉色连体泳衣、戴紫色遮阳帽的小女孩在池中玩耍,旁边可见浮圈、水上玩具等游泳装备 | |
| 用户提问:去海边玩还需要准备什么 | |
| 用户意图:图中已有泳帽、泳镜、泳衣等基本装备,用户带小孩去海边玩,想寻找还需补充的海边出行用品(如防晒、安全、娱乐类) | |
| 输出: | |
| {{"decision": "discard", "discard_reason": "C1", "type": null}} | |
| 输入: | |
| 图片内容:踏板式电动自行车(电动车),白色/薄荷绿色车身,配有前置车篮,前部挡泥板区域可见明显龟裂纹路(疑似塑料件老化开裂) | |
| 用户提问:冬天骑电瓶车配哪种挡风被 | |
| 用户意图:寻找适合该踏板式电动车冬季骑行使用的挡风被(腿部防风罩) | |
| 输出: | |
| {{"decision": "discard", "discard_reason": "C2", "type": null}} | |
| # 本次输入 | |
| 图片内容:{content} | |
| 用户提问:{query} | |
| 用户意图:{intent} | |
| 直接输出 JSON。''' | |
| SYSTEM_PROMPT = "你是一个 query 筛选与分类助手。只输出 JSON 对象,不要输出任何解释或其他内容。" | |
| def load_keep_rows(path): | |
| with open(path, encoding="utf-8") as f: | |
| rows = [json.loads(line) for line in f if line.strip()] | |
| return [dict(row, idx=str(row["idx"])) for row in rows if row["action"] == "keep"] | |
| def _clean(v): | |
| """JSON null -> None;其余去空白。""" | |
| if v is None: | |
| return None | |
| s = str(v).strip() | |
| return s or None | |
| def parse_result(text): | |
| """从模型输出提取 {decision, discard_reason, type}。""" | |
| obj = extract_json_obj(text) | |
| decision = str(obj.get("decision", "")).lower().strip() | |
| if decision not in ("keep", "discard"): | |
| raise ValueError("Invalid eligibility response; an explicit keep/discard is required") | |
| return { | |
| "decision": decision, | |
| "discard_reason": _clean(obj.get("discard_reason")), | |
| "type": _clean(obj.get("type")), | |
| } | |
| def call_claude(prompt, model, timeout_seconds): | |
| result = subprocess.run( | |
| [ | |
| "claude", "-p", prompt, | |
| "--system-prompt", SYSTEM_PROMPT, | |
| "--model", model, | |
| "--output-format", "text", | |
| "--no-session-persistence", | |
| "--bare", | |
| ], | |
| stdin=subprocess.DEVNULL, | |
| capture_output=True, | |
| text=True, | |
| timeout=timeout_seconds, | |
| ) | |
| if result.returncode != 0: | |
| stderr = (result.stderr or "").strip() | |
| raise RuntimeError(f"claude -p exit {result.returncode}: {stderr}") | |
| return result.stdout.strip() | |
| def call_claude_with_retry(prompt, model, max_retries, timeout_seconds): | |
| for attempt in range(1, max_retries + 1): | |
| try: | |
| raw = call_claude(prompt, model, timeout_seconds) | |
| parse_result(raw) | |
| return raw, None | |
| except Exception as exc: | |
| if attempt == max_retries: | |
| return None, str(exc) | |
| time.sleep(min(2 ** attempt, 10)) | |
| return None, "max retries exceeded" | |
| def build_prompt(row): | |
| return DISCARD_AND_CLASSIFY_PROMPT.format( | |
| content=row["scene"]["content"], query=row["query"], intent=row["scene"]["intent"]) | |
| def run_fine(args): | |
| rows = load_keep_rows(args.input) | |
| done = load_done(args.output) | |
| os.makedirs(os.path.dirname(os.path.abspath(args.output)), exist_ok=True) | |
| def process_one(row): | |
| raw, error = call_claude_with_retry( | |
| build_prompt(row), args.model, args.max_retries, args.timeout) | |
| if error: | |
| raise RuntimeError(f"idx={row['idx']}: {error}") | |
| append_jsonl(args.output, {**row, **parse_result(raw), "raw_response": raw}) | |
| with ThreadPoolExecutor(max_workers=args.concurrency) as pool: | |
| futures = [pool.submit(process_one, row) for row in rows if row["idx"] not in done] | |
| for future in as_completed(futures): | |
| future.result() | |
| print(f"资格判定完成:{args.output}") | |
| def load_votes(path): | |
| records = {} | |
| with open(path, encoding="utf-8") as f: | |
| for line in f: | |
| line = line.strip() | |
| if not line: | |
| continue | |
| r = json.loads(line) | |
| records[str(r["idx"])] = r | |
| return records | |
| def merge_eligibility(glm_path, ds_path, out_path): | |
| glm, ds = load_votes(glm_path), load_votes(ds_path) | |
| if set(glm) != set(ds): | |
| raise ValueError("Eligibility models must cover the same query IDs") | |
| kept = [] | |
| for idx, row in glm.items(): | |
| other = ds.get(idx) | |
| if row["decision"] == "keep" and other and other["decision"] == "keep": | |
| kept.append({"idx": idx, "query": row["query"], "image_url": row["image_url"], | |
| "scene": row["scene"], "type": other["type"]}) | |
| with open(out_path, "w", encoding="utf-8") as f: | |
| for row in kept: | |
| f.write(json.dumps(row, ensure_ascii=False) + "\n") | |
| print(f"双模型均通过:{len(kept)} 条,保存到 {out_path}") | |
| # 4. 意图向量去重。 | |
| def run_dedup(args): | |
| items = read_jsonl(args.input) | |
| if args.emb_path: | |
| emb = load_embeddings(args.emb_path, [row["idx"] for row in items]) | |
| else: | |
| from sentence_transformers import SentenceTransformer | |
| model = SentenceTransformer(args.model, model_kwargs={"torch_dtype": "bfloat16"}) | |
| model.max_seq_length = 512 | |
| emb = model.encode([row["scene"]["intent"] for row in items], batch_size=64, | |
| convert_to_numpy=True, normalize_embeddings=True, show_progress_bar=True) | |
| kept, mapping = deduplicate(items, emb, "query", args.threshold) | |
| out = Path(args.output_dir) | |
| write_jsonl(out / "deduplicated.jsonl", kept) | |
| (out / "id_mapping.json").write_text(json.dumps(mapping, ensure_ascii=False, indent=2), encoding="utf-8") | |
| print(f"Query 去重:{len(items)} → {len(kept)}") | |
| def main(): | |
| p = argparse.ArgumentParser(description=__doc__) | |
| sub = p.add_subparsers(dest="stage", required=True) | |
| for stage in ("rules", "coarse", "fine", "merge", "dedup"): | |
| command = sub.add_parser(stage) | |
| if stage == "merge": | |
| command.add_argument("--glm", required=True) | |
| command.add_argument("--ds", required=True) | |
| else: | |
| command.add_argument("--input", required=True) | |
| command.add_argument("--output-dir" if stage == "dedup" else "--output", required=True) | |
| if stage == "coarse": | |
| command.add_argument("--model-path", required=True) | |
| elif stage == "fine": | |
| command.add_argument("--model", required=True, choices=["GLM-5.2", "deepseek-v4-pro"]) | |
| command.add_argument("--concurrency", type=int, default=8) | |
| command.add_argument("--max-retries", type=int, default=3) | |
| command.add_argument("--timeout", type=int, default=120) | |
| elif stage == "dedup": | |
| command.add_argument("--emb-path", help="NPZ with emb and ids in input order") | |
| command.add_argument("--model", default="Qwen/Qwen3-Embedding-8B") | |
| command.add_argument("--threshold", type=float, default=0.70) | |
| args = p.parse_args() | |
| if args.stage == "rules": | |
| run_rules(args) | |
| elif args.stage == "coarse": | |
| model, processor = load_model_and_processor(args.model_path) | |
| run_coarse(model, processor, args.input, args.output) | |
| elif args.stage == "fine": | |
| run_fine(args) | |
| elif args.stage == "merge": | |
| Path(args.output).parent.mkdir(parents=True, exist_ok=True) | |
| merge_eligibility(args.glm, args.ds, args.output) | |
| else: | |
| run_dedup(args) | |
| if __name__ == "__main__": | |
| main() | |