MIPR / construction /query_filter.py
leequeue's picture
Upload folder using huggingface_hub
49654fc verified
Raw History Blame Contribute Delete
26.6 kB
#!/usr/bin/env python3
"""Query 筛选:规则 → 粗筛 → 双模型细筛 → 意图去重。"""
import argparse
import json
import os
import re
import subprocess
import threading
import time
from concurrent.futures import ThreadPoolExecutor, as_completed
from pathlib import Path
from utils import (deduplicate, load_embeddings, load_model_and_processor,
read_jsonl, write_jsonl)
# 共用 I/O。
_write_lock = threading.Lock()
def load_done(path):
"""读取已完成的 idx(支持 ok 文件;failed 里的 idx 不算 done,允许重试)。"""
done = set()
if not os.path.exists(path):
return done
with open(path, encoding="utf-8") as f:
for line in f:
line = line.strip()
if not line:
continue
try:
done.add(str(json.loads(line)["idx"]))
except Exception:
continue
return done
def append_jsonl(path, obj):
with _write_lock:
with open(path, "a", encoding="utf-8") as f:
f.write(json.dumps(obj, ensure_ascii=False) + "\n")
f.flush()
def extract_json_obj(text):
try:
match = re.search(r"\{.*\}", text, re.DOTALL)
if match:
parsed = json.loads(match.group())
if isinstance(parsed, dict):
return parsed
except (json.JSONDecodeError, ValueError):
pass
return {}
# 1. 规则筛选。
EXCLUDE_RULES = [
# ── 品牌/产品识别 ──
(r'(是|什么|哪个|哪家).*(品牌|牌子)', '品牌识别'),
(r'(哪些|推荐|有没有|有.*).*(品牌|牌子)', '品牌推荐'),
(r'是什么(材质|宝石|面料|系列|风格|成分)', '材质识别'),
(r'(叫什么|叫啥)', '名称识别'),
# ── 材质选择(非识别,答案是材质不是商品)──
(r'(用|选|买|换).*(什么|哪种).*(材质|材料|面料)', '材质选择'),
(r'(哪种|什么样的?|什么).*(材质|材料|面料)', '材质选择'),
# ── 穿搭搭配(服饰/饰品/鞋帽审美类)──
(r'(配|搭|穿).*(什么|哪种|哪款|哪个).*'
r'(衣服|裤子|裙子|外套|鞋子|鞋|内搭|打底|袜子|围巾|包包|帽子|项链|'
r'戒指|头盔|内衣|手链|耳环|腰带|领带|饰品|发饰|枕套|杯套|'
r'花边|地毯|桌布|桌旗)', '穿搭搭配'),
(r'(配|搭配).*(什么|哪种).*'
r'(茶几|沙发|椅子|灯|窗帘|桌子|柜子|鼠标垫|办公桌|床)', '家居搭配'),
(r'怎么(搭配|搭|穿).*(好看|显瘦|显高|不臃肿|不单调|不压|显腿长|不显)',
'穿搭建议'),
(r'(什么|哪种|哪款).*(比较搭|很搭|更搭|搭$)', '穿搭搭配'),
(r'(配|搭配).*(什么|哪种).*'
r'(茶点|饮品|零食|甜品|小吃|饮料|酒)', '食品搭配'),
(r'.{0,6}(什么|哪种).*(好看|好吃|好喝).*$', '审美主观'),
# ── 颜色选择 ──
(r'(什么|哪个|哪种|选|挑).*颜色', '颜色选择'),
(r'(还有|其他|别的).*(颜色|色$|主题)', '颜色主题'),
# ── 体型/年龄/肤色适合 ──
(r'适合(什么|哪种).*(身材|体型|脚型|肤色|体质|人穿|人群|身高|发量|肤质)', '体型适合'),
(r'适合(多大|几岁|什么|哪个).*(年龄|年龄段|岁|孩子|小朋友|宝宝|女宝|男宝)', '年龄适合'),
(r'多大.*(年龄|岁).*(可以|能|适合)', '年龄适合'),
(r'(什么|哪种)(身材|体型|肤质|肤色|发量|体质).*(适合|合适)', '体型适合'),
(r'适合(什么|哪种).*(鞋型|脸型|发型|户型|腿型|手型)', '类型适合'),
(r'适合.*(什么|哪种|哪些|哪个).*(场合|场景|季节)', '场合适合'),
(r'适合(多大|多少).*(平米|平方|面积)', '面积适合'),
(r'适合.*送(给|什么)', '送礼对象'),
(r'送.*(选|挑|买|推荐).*(哪种|什么|哪个)', '送礼选择'),
(r'送.*(人|长辈|朋友|领导|客户|同事|老师|父母).*(买|选|推荐|哪种|什么|哪个)', '送礼选择'),
(r'适合.*(放在|放到|摆在|摆放)', '摆放位置'),
(r'(放在|放到|摆在).*(哪里|哪儿|什么位置)', '摆放位置'),
# ── 价格/定制/性价比 ──
(r'多少钱|怎么收费|怎么定制|运费险', '价格定制'),
(r'(平价|便宜|性价比|同价位|低价|高价).*(替代|替换|推荐|平替|款|高的|好的)', '价格比较'),
(r'(贵不贵|划算|值不值|预算)', '价格咨询'),
# ── 找同款/来源 ──
(r'(同款|去哪|在哪|哪里).*(买|找|配|搜)', '找同款'),
(r'找源头|上哪买', '找渠道'),
(r'(博主|模特).*(同款|佩戴|穿)', '找同款'),
(r'怎么(搜|搜索|找到|搜到)', '找同款'),
(r'一模一样', '找同款'),
# ── 找类似款式 ──
(r'类似.*(款式|款|风格|的有|还有|有哪些|有没有)', '找类似款'),
# ── 尺寸/规格/型号 ──
(r'(多大|什么|哪种|哪个).*(尺寸|尺码|号码)', '尺寸询问'),
(r'(适配|兼容|匹配).*(尺寸|型号|规格)', '适配规格'),
(r'(搭配|配).*(什么|哪个).*(型号|规格)', '适配规格'),
(r'(买|选|该).*什么.*(型号|规格)', '型号选择'),
(r'(怎么|如何).*(选|挑|买).*(尺码|尺寸|码数|号)', '尺码选择'),
(r'(容量|尺寸).*(一般|大概)?(多大|多少)', '规格询问'),
(r'(多大|多少).*容量', '规格询问'),
(r'能(装|放|容纳|坐|睡).*多少', '容量询问'),
(r'多(大码|少瓦|厚|薄|宽|长|高|重)', '规格询问'),
(r'搭配.*多(厚|薄|宽|长|高|大)', '规格询问'),
(r'(适合|够).*几(个|口).*(人|口)', '容量规格'),
(r'(挂|放|装|摆).*几(个|只|盏|盆)', '数量规格'),
(r'多少(瓦|升|毫升|安|伏|度|克|斤)', '规格询问'),
(r'能.*(用|跑|玩|撑|续航).*(几|多少).*(个小时|小时|天|分钟|公里)', '续航询问'),
# ── 使用寿命/更换周期/质保 ──
(r'(能用|能放|能保存|能跑|能走|能飞|能开|留香|一局).*多(少|久|长|远)', '使用寿命'),
(r'多久(换|更换)', '更换周期'),
(r'(质保|保修).*(多久|多长|几年)', '质保询问'),
# ── 问答/是非类(答案是事实不是商品)──
(r'.{2,}(效果|质量|手感|口感)(好吗|好不好|怎么样)', '产品评价'),
(r'.{2,}(要|需要).{0,6}吗$', '使用知识'),
(r'.{2,}能.{0,10}吗$', '使用知识'),
(r'.{2,}可以.{1,10}吗$', '使用知识'),
(r'.{2,}是.*(材质|材料|正品|真皮|纯棉|实木|新米|新茶|新款|全新|原装|国产|进口)吗', '属性确认'),
(r'(显胖|显黑|显白|显高|显矮|显瘦|显老|显嫩|显壮|压身高|压个子|穿.*透)吗', '穿搭是非'),
(r'(稳固|牢固|结实|耐用|防滑|耐磨|防水|耐高温)吗', '属性确认'),
(r'(透气|缩水|漏气|掉钻|勾丝|闷热|粘腻|磨脚|漏水|漏电|生锈|褪色|发霉|防滑|耐磨|扎皮肤|扎手).*吗', '属性缺陷'),
(r'(噪音|误差|味道|气味|色差|辐射|油烟|口感).*(大|小|重|苦|甜|酸|辣|涩|冲|淡).*吗', '属性程度'),
(r'(包裹性|支撑性|透气性|稳定性|密封性|弹性).*(好|强|够|差).*吗', '属性评价'),
(r'(透不透|热不热|重不重|硬不硬|闷不闷|粘不粘|厚不厚|软不软|滑不滑)', '属性是非'),
(r'够.+吗', '属性够否'),
(r'真的.+吗', '属性确认'),
(r'适合.*(用|穿|戴|吃|喝).*吗', '适用确认'),
(r'适合.{2,}(穿|用|戴|吃|喝)$', '适用确认'),
(r'会不会.+$', '属性确认'),
(r'(和|跟|与).*(哪个|哪种).*(好用|好|方便|实用)', '产品比较'),
# ── 穿搭体型建议 ──
(r'(小个子|大个子|微胖|矮个|胖|高个子).*(怎么穿|适合穿|穿什么)', '穿搭建议'),
(r'适合.*(小个子|大个子|微胖|矮个|胖|高个子)', '体型适合'),
(r'(小个子|微胖|矮个).*(穿|背|戴).*(显|会)', '穿搭是非'),
# ── 维修/教程/故障诊断 ──
(r'怎么(修|修理|维修|修复|配新)', '维修教程'),
(r'(坏了|不良|故障|损坏).*怎么', '故障维修'),
(r'(失灵|不灵|不好使).*(是|还是)', '故障诊断'),
(r'(分辨|辨别|鉴别|辨认|区分).*(正品|真假|真伪)', '鉴别知识'),
(r'(在哪|哪里).{0,4}(听|看|下载|播放|学)', '使用知识'),
(r'用在.*(哪一步|第几步|哪步|哪个步骤|哪个环节)', '使用知识'),
# ── 产品属性/区别 ──
(r'(区别|不同).*(在哪|是什么|有什么)', '产品比较'),
# ── 适合什么场景/季节 ──
(r'(适合|针对).*(什么|哪种).*(症状|季节|场景)', '用途场景'),
(r'什么(季节|时候|场景)(用|穿|戴)', '用途场景'),
# ── 同系列/同款/同品牌/款式变体 ──
(r'同系列.*(还有|其他)', '系列探索'),
(r'同(款|品牌).*(推荐|还有|有哪些|有没有|生产|出品)', '同款探索'),
(r'还有.*(同款|其他|什么).*(尺码|规格|款)', '同系列探索'),
(r'(什么|哪些|哪种|哪个).*(口味|包装|版本)', '款式选择'),
(r'(长袖|短袖|加长|加大|加厚|薄款|厚款|大号|小号).*(款|版|有哪些|有没有)', '款式变体'),
(r'(更长|更大|更短|更小|更厚|更薄).*(的|尺寸|尺码|版本|款)', '尺寸变体'),
# ── 人群/机型/症状等非商品类型询问 ──
(r'(哪些|什么).*(人群|机型|车型).*(可以|能|适合|不建议|不适合|不能)', '类型询问'),
(r'(症状|病症|副作用|禁忌).*(有哪些|是什么|有什么)', '医疗知识'),
# ── 食材/早餐搭配 ──
(r'(加点|加些|配点|配些|放点|放些).*什么', '食材搭配'),
]
def classify(query):
for pattern, rule in EXCLUDE_RULES:
if re.search(pattern, query):
return 'exclude', rule
return 'pending', ''
def run_rules(args):
write_jsonl(args.output, [row for row in read_jsonl(args.input)
if classify(row["query"])[0] != "exclude"])
# 2. 粗筛:消费已生成的 scene。
STAGE2_PROMPT = """你在筛选多模态用户 query。根据图像内容、用户意图、原始 query,判断这条 query 属于 keep / discard。
【判断步骤】
1. 用户的需求能否用某个商品解决?
不能(要的是知识/方法/评价/识别/参数)→ discard
2. 这个需求有客观明确的解吗?还是取决于个人审美/喜好?
取决于个人喜好、没有客观对错的(搭配、配色、风格选择)→ discard
(如"穿什么好看""用什么颜色适合""配什么风格",答案因人而异)
3. 前两关都过 → keep
【原则】拿不准就 discard。基于用户真实意图判断,不要脑补需求。
【示例】
图片内容: 生锈的菜刀
用户意图: 寻找去除菜刀锈迹的工具或用品
query: 生锈了怎么除锈
输出: {"reason":"可用"除锈剂"商品解决,有明确解","action":"keep"}
图片内容: 牛仔短裙
用户意图: 了解洗涤牛仔短裙的注意事项
query: 洗这种面料要注意什么
输出: {"reason":"要的是洗涤注意事项,属于知识类问答,买商品解决不了该问题","action":"discard"}
图片内容: 白衬衫
用户意图: 寻找搭配白衬衫的裤子
query: 这件衬衫配什么裤子
输出: {"reason":"可用"裤子"商品解决,但搭配取决于个人审美,无客观解","action":"discard"}
图片内容: 保温水杯
用户意图: 寻找可以挂在水杯上方便携带的背带绳
query: 这个水杯出门配个什么绳子好
输出: {"reason":"可用"水杯背带绳"商品解决,有明确解","action":"keep"}
【输入】
图片内容: __CONTENT__
用户意图: __INTENT__
query: __QUERY__
输出:"""
def parse_coarse_decision(text):
obj = extract_json_obj(text)
action = str(obj.get("action", "")).lower().strip()
if action not in ("keep", "discard"):
action = "discard" if "discard" in text.lower() else "keep"
return {"action": action, "reason": str(obj.get("reason", "")).strip() or text[:80]}
def run_coarse(model, processor, stage1_path, stage2_path):
from utils import run_text_only, load_scenes
scenes = load_scenes(stage1_path)
done = load_done(stage2_path)
os.makedirs(os.path.dirname(os.path.abspath(stage2_path)), exist_ok=True)
n_new = 0
for idx, row in scenes.items():
if idx in done:
continue
scene = row["scene"]
prompt = (STAGE2_PROMPT
.replace("__CONTENT__", scene["content"])
.replace("__INTENT__", scene["intent"])
.replace("__QUERY__", row["query"]))
raw = run_text_only(model, processor, prompt, max_new_tokens=300,
enable_thinking=False, do_sample=False, seed=0)
append_jsonl(stage2_path, {**row, "idx": idx, **parse_coarse_decision(raw)})
n_new += 1
print(f"初筛完成:新增 {n_new} 条")
return n_new
# 3. 细筛:两个模型独立判断,再取交集。
DISCARD_AND_CLASSIFY_PROMPT = '''用户发来一张图片并提出问题,想买商品来解决它。你的任务是判断这条 query 是否适合"图+意图→商品检索"这个任务,如果适合,再对它做分类。
# 任务背景
我们要构建的任务是:用户拍一张图 + 说一句只表达意图、不直接点名商品的短文本,模型需要【看图识别对象 + 理解意图 → 推断出能解决问题的商品】。
好的 query 必须满足:图片提供了关键信息、意图指向一个能用商品解决的明确需求、答案是客观的(有相对确定的商品品类可以对应)。
# 输入说明
你会看到三部分信息:
- 图片内容、用户提问:这两项合起来是用户最原始的真实需求,判断以此为准。
- 用户意图:对用户需求的进一步分析,供你参考,帮助你理解用户想要什么。
注意:用户意图是辅助分析,可能有误或不完整。若它与图片内容/用户提问矛盾,一律以图片内容和用户提问为准。不要因为意图分析把需求"洗白",就放过本该丢弃的 query。
# 第一步:判断 keep 还是 discard
符合下面【任一】丢弃标准,就判为 discard,并给出对应编号。
## A 组:答案主观(没有客观正确的商品)
- A1 搭配/审美类:问搭配什么衣服好看、什么料子/款式好看、怎么穿搭。
例:"手臂粗适合配什么披肩"、"这种上衣适合配什么裤子"、"日常通勤可以穿什么"、"什么颜色好看"
- A2 对比/优选类:问怎么挑更好的、哪个效果更好,需要主观权衡。
例:"怎么挑选保温效果好的"、"敏感肌买哪款好"
- A3 相似款/配色类:找相似款式、同款、其他配色,本质是图像相似或审美。
例:"还有哪些相似款式"、"还有哪些其他配色可选"
## B 组:缺关键参数,无法确定具体商品
- B1 精确规格类:答案依赖精确的尺寸/容量/型号,且【图片和文本都无法直接确定】这个规格。
注意:如果规格能从图/文直接看出(如 Type-C 接口、可见的电池型号),则不算此项,可以保留。
例(丢弃):"类似容量的推荐哪些"、"适合装在什么样的笔壳里"、"需要多大尺寸的"
- B2 精确配件类:需要商品的详细参数才能配对的配件。
例:"原装遥控器丢了怎么重新配"
- B3 价格约束类:需求里带价格限制(我们的商品库没有价格信息,无法满足)。
例:"一百块以内有哪些平替"
## C 组:不符合任务形式
- C1 清单/成套类:一次要多种不同商品凑成一套/一个清单(多目标,非单一需求)。
例:"去海边玩还需要准备什么"、"露营还要准备哪些东西"、"有没有成套的材料包"
- C2 纯文本可解类:不看图片、只凭文本就能回答,图片没有提供必要信息。
例:"夹菜工具买哪种不生锈"、"冬天骑电瓶车配哪种挡风被"
## D 组:数据质量问题
- D1 图片模糊/不匹配:图片非常模糊看不清,或图文明显不匹配。
例:图片糊到认不出物体
# 第二步:如果 keep,进行分类
## type(功能类型,四选一)
- T1 配套/使能:识别图中对象/接口 → 推断需要的工具、配件、转接器。
例:螺丝→螺丝刀;Type-C 接口→转接头
- T2 恢复/修复/补给:图中物品处于缺失/损坏/耗尽/脏污状态 → 推断替换件、耗材、清洁/维修用品。
例:电池仓→电池;瓷砖发霉→除霉剂;小白鞋脏了→清洗剂
- T3 空间/场景约束:图提供空间/尺寸/环境约束 → 检索适配该场景的商品。
例:厨房窄缝→窄缝收纳架;窄阳台→折叠晾衣架
- T4 替代/升级:图中是旧的/低效的方案 → 推断某个维度更好的替代品。
例:白炽灯→LED 灯;普通花洒→增压花洒
# 输出格式
只输出 JSON,不要输出其他内容。
- 若 discard:{{"decision": "discard", "discard_reason": "编号", "type": null}}
- 若 keep: {{"decision": "keep", "discard_reason": null, "type": "T1/T2/T3/T4"}}
# 示例
输入:
图片内容:白色帆布厚底运动鞋(小白鞋),鞋面为白色帆布材质,鞋边有做旧毛边设计,厚底橡胶大底,系带款
用户提问:脏了用什么洗比较好
用户意图:寻找清洗白色帆布运动鞋(小白鞋)的洗鞋剂或清洁用品
输出:
{{"decision": "keep", "discard_reason": null, "type": "T2"}}
输入:
图片内容:墙上钉着一颗铁钉
用户提问:怎么把它拔下来
用户意图:寻找能把墙上的钉子拔出或撬出的工具
输出:
{{"decision": "keep", "discard_reason": null, "type": "T1"}}
输入:
图片内容:粉色无袖连衣裙,A字裙摆,圆领,中长款,挂于衣架展示,面料疑似棉质或混纺
用户提问:手臂粗适合配什么披肩
用户意图:寻找适合手臂较粗人群搭配该款无袖连衣裙的披肩
输出:
{{"decision": "discard", "discard_reason": "A1", "type": null}}
输入:
图片内容:某家用电器(疑似热水器或类似储能/储水类电器)的铭牌标签,标签上印有品牌名称(字迹模糊,疑似"万利达"或类似品牌)、额定电压、额定功率及容量等技术参数,并带有CCC认证标志;因图片模糊,具体容量数值(如升数)无法准确读取
用户提问:类似容量的推荐哪些
用户意图:根据图中铭牌所示的容量规格,寻找同类容量的同类电器产品推荐
输出:
{{"decision": "discard", "discard_reason": "B1", "type": null}}
输入:
图片内容:泳池场景,前景为一名戴着泳帽和泳镜的婴幼儿,背景中有一名穿粉色连体泳衣、戴紫色遮阳帽的小女孩在池中玩耍,旁边可见浮圈、水上玩具等游泳装备
用户提问:去海边玩还需要准备什么
用户意图:图中已有泳帽、泳镜、泳衣等基本装备,用户带小孩去海边玩,想寻找还需补充的海边出行用品(如防晒、安全、娱乐类)
输出:
{{"decision": "discard", "discard_reason": "C1", "type": null}}
输入:
图片内容:踏板式电动自行车(电动车),白色/薄荷绿色车身,配有前置车篮,前部挡泥板区域可见明显龟裂纹路(疑似塑料件老化开裂)
用户提问:冬天骑电瓶车配哪种挡风被
用户意图:寻找适合该踏板式电动车冬季骑行使用的挡风被(腿部防风罩)
输出:
{{"decision": "discard", "discard_reason": "C2", "type": null}}
# 本次输入
图片内容:{content}
用户提问:{query}
用户意图:{intent}
直接输出 JSON。'''
SYSTEM_PROMPT = "你是一个 query 筛选与分类助手。只输出 JSON 对象,不要输出任何解释或其他内容。"
def load_keep_rows(path):
with open(path, encoding="utf-8") as f:
rows = [json.loads(line) for line in f if line.strip()]
return [dict(row, idx=str(row["idx"])) for row in rows if row["action"] == "keep"]
def _clean(v):
"""JSON null -> None;其余去空白。"""
if v is None:
return None
s = str(v).strip()
return s or None
def parse_result(text):
"""从模型输出提取 {decision, discard_reason, type}。"""
obj = extract_json_obj(text)
decision = str(obj.get("decision", "")).lower().strip()
if decision not in ("keep", "discard"):
raise ValueError("Invalid eligibility response; an explicit keep/discard is required")
return {
"decision": decision,
"discard_reason": _clean(obj.get("discard_reason")),
"type": _clean(obj.get("type")),
}
def call_claude(prompt, model, timeout_seconds):
result = subprocess.run(
[
"claude", "-p", prompt,
"--system-prompt", SYSTEM_PROMPT,
"--model", model,
"--output-format", "text",
"--no-session-persistence",
"--bare",
],
stdin=subprocess.DEVNULL,
capture_output=True,
text=True,
timeout=timeout_seconds,
)
if result.returncode != 0:
stderr = (result.stderr or "").strip()
raise RuntimeError(f"claude -p exit {result.returncode}: {stderr}")
return result.stdout.strip()
def call_claude_with_retry(prompt, model, max_retries, timeout_seconds):
for attempt in range(1, max_retries + 1):
try:
raw = call_claude(prompt, model, timeout_seconds)
parse_result(raw)
return raw, None
except Exception as exc:
if attempt == max_retries:
return None, str(exc)
time.sleep(min(2 ** attempt, 10))
return None, "max retries exceeded"
def build_prompt(row):
return DISCARD_AND_CLASSIFY_PROMPT.format(
content=row["scene"]["content"], query=row["query"], intent=row["scene"]["intent"])
def run_fine(args):
rows = load_keep_rows(args.input)
done = load_done(args.output)
os.makedirs(os.path.dirname(os.path.abspath(args.output)), exist_ok=True)
def process_one(row):
raw, error = call_claude_with_retry(
build_prompt(row), args.model, args.max_retries, args.timeout)
if error:
raise RuntimeError(f"idx={row['idx']}: {error}")
append_jsonl(args.output, {**row, **parse_result(raw), "raw_response": raw})
with ThreadPoolExecutor(max_workers=args.concurrency) as pool:
futures = [pool.submit(process_one, row) for row in rows if row["idx"] not in done]
for future in as_completed(futures):
future.result()
print(f"资格判定完成:{args.output}")
def load_votes(path):
records = {}
with open(path, encoding="utf-8") as f:
for line in f:
line = line.strip()
if not line:
continue
r = json.loads(line)
records[str(r["idx"])] = r
return records
def merge_eligibility(glm_path, ds_path, out_path):
glm, ds = load_votes(glm_path), load_votes(ds_path)
if set(glm) != set(ds):
raise ValueError("Eligibility models must cover the same query IDs")
kept = []
for idx, row in glm.items():
other = ds.get(idx)
if row["decision"] == "keep" and other and other["decision"] == "keep":
kept.append({"idx": idx, "query": row["query"], "image_url": row["image_url"],
"scene": row["scene"], "type": other["type"]})
with open(out_path, "w", encoding="utf-8") as f:
for row in kept:
f.write(json.dumps(row, ensure_ascii=False) + "\n")
print(f"双模型均通过:{len(kept)} 条,保存到 {out_path}")
# 4. 意图向量去重。
def run_dedup(args):
items = read_jsonl(args.input)
if args.emb_path:
emb = load_embeddings(args.emb_path, [row["idx"] for row in items])
else:
from sentence_transformers import SentenceTransformer
model = SentenceTransformer(args.model, model_kwargs={"torch_dtype": "bfloat16"})
model.max_seq_length = 512
emb = model.encode([row["scene"]["intent"] for row in items], batch_size=64,
convert_to_numpy=True, normalize_embeddings=True, show_progress_bar=True)
kept, mapping = deduplicate(items, emb, "query", args.threshold)
out = Path(args.output_dir)
write_jsonl(out / "deduplicated.jsonl", kept)
(out / "id_mapping.json").write_text(json.dumps(mapping, ensure_ascii=False, indent=2), encoding="utf-8")
print(f"Query 去重:{len(items)} → {len(kept)}")
def main():
p = argparse.ArgumentParser(description=__doc__)
sub = p.add_subparsers(dest="stage", required=True)
for stage in ("rules", "coarse", "fine", "merge", "dedup"):
command = sub.add_parser(stage)
if stage == "merge":
command.add_argument("--glm", required=True)
command.add_argument("--ds", required=True)
else:
command.add_argument("--input", required=True)
command.add_argument("--output-dir" if stage == "dedup" else "--output", required=True)
if stage == "coarse":
command.add_argument("--model-path", required=True)
elif stage == "fine":
command.add_argument("--model", required=True, choices=["GLM-5.2", "deepseek-v4-pro"])
command.add_argument("--concurrency", type=int, default=8)
command.add_argument("--max-retries", type=int, default=3)
command.add_argument("--timeout", type=int, default=120)
elif stage == "dedup":
command.add_argument("--emb-path", help="NPZ with emb and ids in input order")
command.add_argument("--model", default="Qwen/Qwen3-Embedding-8B")
command.add_argument("--threshold", type=float, default=0.70)
args = p.parse_args()
if args.stage == "rules":
run_rules(args)
elif args.stage == "coarse":
model, processor = load_model_and_processor(args.model_path)
run_coarse(model, processor, args.input, args.output)
elif args.stage == "fine":
run_fine(args)
elif args.stage == "merge":
Path(args.output).parent.mkdir(parents=True, exist_ok=True)
merge_eligibility(args.glm, args.ds, args.output)
else:
run_dedup(args)
if __name__ == "__main__":
main()