"""Qwen3.6-27B 两轮商品词生成:枚举 → 反思;共用一个 vLLM 模型。""" import argparse import json from pathlib import Path from utils import append_result, extract_keywords, load_done_idx, RESULTS_DIR TEMPLATE_R1 = '''用户发来一张图片并提出问题,想买商品解决它。你会看到四部分信息(按重要性排序): - 用户意图:强力模型结合图文分析后得出的需求判断,比较清晰可靠,是你理解需求的主要依据。 - 图片内容:客观描述了用户拍的东西,是确定的事实锚点,用来防止跑偏。 - 用户提问:用户的原始口语提问,可能模糊简略,作为参考。 - 选品注意:对需求的补充分析,仅供参考,不要被它过度约束。 你的任务是推荐淘宝搜索关键词。 先想:解决这个需求,有哪几类不同商品能帮上忙?沿下面几个角度过一遍 (这些角度覆盖了"用户与商品的不同关系",不必每个角度都有商品,但要都想一下): - 专用品:为这个需求量身设计的最直接商品 - 通用替代品:没有专用品时,能顶替使用的通用商品 - 配套品:用户已有主体物,需要补充的配件 / 耗材 / 替换件 - 前置品:解决这个需求前,用户可能需要先具备的东西(这一类最容易被忽略,务必想一下:动手之前还缺什么?) 再写关键词,要求: 1. 必须是淘宝能直接买到的实物,不要土办法或家里的现成物。比如母乳、土、旧牙刷这类不算商品。 2. 有几种不同解法就给几个词,通常 2~5 个,**至少给一个词,最多不超过 7 个**。同一种商品只保留一个词,不要用不同说法重复描述同一种商品来凑数量。如果这个需求本身只有一种解法,给 1~2 个词就够,不必凑满。 例如"小白鞋清洗剂""小白鞋清洁液""白色运动鞋去污剂""白色运动鞋清洗泡沫"搜出来是同一类商品,只保留一个即可;"小白鞋清洗剂""洗衣液""肥皂"这些是不同类商品,可以都保留。 3. 用词要像真人在淘宝搜索框里输入的那样简洁,不要堆砌营销长尾词。例如写"小白鞋清洁液"即可,不要写成"白鞋白鞋清洗清洗剂清洁神器一擦一擦白去污清洁剂专用"。 4. 用词精准,能指向具体商品,不要用过泛的大类词。例如清洁瓷砖缝隙应写"瓷砖缝隙除垢剂",而不是笼统的"清洁剂"。 5. 以用户意图为主来判断该推荐什么商品,用图片内容作为事实锚点防止跑偏;选品注意仅供参考,不要被它过度约束。 6. 结合图片内容一起判断:如果图里的物品还有其他解决方式,也要补上对应关键词。只补图里确实能看出的解法,不要凭空猜测。 示例 1: 用户意图:寻找清洗白色帆布运动鞋(小白鞋)的洗鞋剂或清洁用品 图片内容:白色帆布运动鞋 用户提问:脏了用什么洗比较好 选品注意:帆布材质适合用专用白鞋清洁剂或小白鞋去污膏,需避免使用强力漂白剂以防帆布泛黄损伤;鞋边毛边为设计细节,清洗时应避免大力搓刷以防毛边过度脱散变形 关键词:["小白鞋清洗剂", "小白鞋去污膏", "软毛洗鞋刷", "洗衣皂", "洗衣液"] 示例 2: 用户意图:寻找菜刀的除锈清洗及日常保养用品(如除锈产品、食用级保养油等) 图片内容:一把生锈的菜刀 用户提问:生锈了怎么办 选品注意:铲柄锈蚀严重,需选用食品安全级别的除锈产品(不可用工业除锈剂);铲面清洗后建议涂抹食用油进行开锅养护防锈,所用保养油须为食用油或食品级护理油 关键词:["食品级除锈剂", "食品级护理油", "磨刀石"] 示例 3: 用户意图:寻找适合泳镜使用的防雾剂,解决泳镜起雾问题 图片内容:游泳护目镜(泳镜) 用户提问:老是起雾怎么办 选品注意:泳镜镜片通常有防雾涂层,需选择专为泳镜设计的防雾剂(如泳镜专用防雾喷雾或防雾液),避免使用汽车玻璃或普通眼镜用的防雾产品,否则可能损伤镜片原有防雾涂层 关键词:["泳镜防雾剂", "泳镜防雾液", "泳镜防雾湿巾"] 以下是本次需要处理的输入: 用户意图:{intent} 图片内容:{content} 用户提问:{query} 选品注意:{note} 直接输出 JSON 列表,不要输出其他内容。''' TEMPLATE_R2 = '''用户发来一张图片并提出问题,想买商品解决它。你之前已经推荐了一批淘宝搜索关键词,现在要复查一遍,重点是查漏补缺,输出最终列表。 先回顾这次需求的原始信息(按重要性排序): - 用户意图:这是强力模型结合图文分析后得出的需求判断,比较清晰可靠,是你理解需求的主要依据。 - 图片内容:客观描述了用户拍的东西,是确定的事实锚点,用来防止跑偏。 - 用户提问:用户的原始口语提问,可能模糊简略,作为参考。 - 选品注意:对需求的补充分析,仅供参考,不要被它过度约束。 请执行以下检查,然后给出最终关键词列表: ■ 检查1(查漏补缺,最重要):对照"专用品 / 通用替代品 / 配套品 / 前置品"四个角度,再过一遍是否有遗漏。 重点复查【配套品】和【前置品】——它们最常被漏: - 配套品:用户已有的主体物,是否需要补充配件、耗材或替换件? - 前置品:用户满足这个需求之前,是否还缺某个前置物品? 补充时优先补"新的解法",不必刻意补与已有词只是材质、款式不同的同类商品(如已有"耳机架",不必再单列"木质耳机架""金属耳机架")。 只补图片和需求里确实能看出的解法,不要凭空猜测。 ■ 检查2(防重复):现有关键词里,有没有搜出来其实是同一类商品的? 例如"小白鞋清洗剂"和"白鞋去污液"搜出来是同一类商品,应合并成一个; 而"小白鞋清洗剂"和"洗衣液"是不同类商品,应都保留。 如有重复,合并即可。 ■ 检查3(防跑偏,仅处理明显问题): - 是否有关键词只是字面相关,买来其实完全解决不了需求?→ 删掉 - 是否有关键词太宽泛、无法指向具体商品(如"清洁剂")?→ 细化为精准词(如"瓷砖缝隙除垢剂") 注意:不确定的不要删,后续流程会兜底。宁可多给,不要漏给。 修订原则: - 以补充为主,不要轻易删除上一轮的关键词。 - 若某个需求本身解法就很有限,不必为凑数强行发散,自然覆盖到即可。 - 关键词总数最多不超过 7 个。如果补充后超过 7 个,优先保留最能解决需求的词,合并或去掉冗余的、最弱的。 - 每个关键词都必须是淘宝能直接买到的实物。 - 用词简洁,像真人在搜索框输入的那样,不要堆砌长尾词。 示例: 用户意图:寻找清洗白色帆布运动鞋(小白鞋)的洗鞋剂或清洁用品 图片内容:白色帆布运动鞋 用户提问:脏了用什么洗比较好 选品注意:帆布材质适合用专用白鞋清洁剂或小白鞋去污膏,需避免使用强力漂白剂以防帆布泛黄损伤 上一轮关键词:["小白鞋清洗剂", "小白鞋清洗液", "白鞋去污膏", "洗衣液"] 复查过程: - 检查1:配套品角度——洗鞋需要刷子,补"软毛洗鞋刷";通用替代品角度——洗衣皂也能洗鞋,补"洗衣皂";前置品角度——洗后防泛黄可用"补色/防氧化"类,但图片和需求看不出明确需要,不凭空补。 - 检查2:"小白鞋清洗剂"和"小白鞋清洗液"搜出来是同一类商品,合并为"小白鞋清洗剂";"白鞋去污膏"和"洗衣液"是不同解法,保留。 - 检查3:无字面相关或过泛的词,不删。 最终关键词:["小白鞋清洗剂", "白鞋去污膏", "洗衣液", "软毛洗鞋刷", "洗衣皂"] 以下是本次需要处理的输入: 用户意图:{intent} 图片内容:{content} 用户提问:{query} 选品注意:{note} 你上一轮给出的关键词: {first_round_keywords} 只输出最终 JSON 列表,不要输出其他内容。''' R1_OUT_NAME = "terms_r1" R2_OUT_NAME = "terms_r2" R1_PIPELINE = "enumeration" R2_PIPELINE = "reflection" CHUNK_SIZE = 512 MAX_NEW_TOKENS = 512 DEFAULT_MODEL_PATH = str(Path.home() / "models" / "Qwen" / "Qwen3.6-27B") def load_input(path): with open(path, encoding="utf-8") as f: rows = [json.loads(line) for line in f if line.strip()] return {str(row["idx"]): dict(row, idx=str(row["idx"])) for row in rows} def _sort_key(idx): return (0, int(idx)) if str(idx).isdigit() else (1, str(idx)) def load_r1_results(out_dir=None): base = Path(out_dir) if out_dir is not None else RESULTS_DIR path = base / f"{R1_OUT_NAME}.jsonl" results = {} if path.exists(): with open(path, encoding="utf-8") as f: for line in f: line = line.strip() if line: try: d = json.loads(line) results[d["idx"]] = d except (json.JSONDecodeError, KeyError): continue return results def generate_batch(llm, prompts): from vllm import SamplingParams tokenizer = llm.get_tokenizer() inputs = [tokenizer.apply_chat_template( [{"role": "user", "content": prompt}], tokenize=False, add_generation_prompt=True, enable_thinking=False) for prompt in prompts] outputs = llm.generate(inputs, SamplingParams(max_tokens=MAX_NEW_TOKENS, temperature=0.0)) if len(outputs) != len(prompts): raise ValueError("vLLM output count does not match input count") return [output.outputs[0].text.strip() for output in outputs] def run_round(llm, items, template, out_name, pipeline, done_idx, r1_results=None, out_dir=None): pending = [(idx, row) for idx, row in items if idx not in done_idx and (r1_results is None or idx in r1_results)] for start in range(0, len(pending), CHUNK_SIZE): chunk = pending[start:start + CHUNK_SIZE] prompts = [] for idx, row in chunk: fields = dict(row["scene"], query=row["query"]) if r1_results is not None: fields["first_round_keywords"] = json.dumps( r1_results[idx]["product_keywords"], ensure_ascii=False) prompts.append(template.format(**fields)) responses = generate_batch(llm, prompts) for (idx, row), raw in zip(chunk, responses): result = {"idx": idx, "query": row["query"], "image_url": row["image_url"], "scene": row["scene"], "pipeline": pipeline, "product_keywords": list(dict.fromkeys(k.strip() for k in extract_keywords(raw) if k.strip()))[:7], "raw_response": raw} if r1_results is not None: result["r1_keywords"] = r1_results[idx]["product_keywords"] append_result(result, out_name, out_dir=out_dir) done_idx.add(idx) print(f"{pipeline}:新增 {len(pending)} 条") return len(pending) def main(): p = argparse.ArgumentParser(description=__doc__) p.add_argument("--input", required=True, help="JSONL: idx, query, image_url, scene") p.add_argument("--out-dir", required=True) p.add_argument("--model-path", default=DEFAULT_MODEL_PATH) args = p.parse_args() from vllm import LLM llm = LLM(model=args.model_path, trust_remote_code=True, dtype="bfloat16") items = sorted(load_input(args.input).items(), key=lambda kv: _sort_key(kv[0])) run_round(llm, items, TEMPLATE_R1, R1_OUT_NAME, R1_PIPELINE, load_done_idx(R1_OUT_NAME, out_dir=args.out_dir), out_dir=args.out_dir) run_round(llm, items, TEMPLATE_R2, R2_OUT_NAME, R2_PIPELINE, load_done_idx(R2_OUT_NAME, out_dir=args.out_dir), r1_results=load_r1_results(args.out_dir), out_dir=args.out_dir) if __name__ == "__main__": main()