Datasets:
Download construction/generate_terms.py from leequeue/MIPR: direct link, hf CLI and curl.
- Browser
- Download file 12.3 kB
-
https://huggingface.co/datasets/leequeue/MIPR/resolve/main/construction/generate_terms.py
- Command line
-
hf download hf://datasets/leequeue/MIPR/construction/generate_terms.py
-
curl -L -o generate_terms.py https://huggingface.co/datasets/leequeue/MIPR/resolve/main/construction/generate_terms.py
12.3 kB
| """Qwen3.6-27B 两轮商品词生成:枚举 → 反思;共用一个 vLLM 模型。""" | |
| import argparse | |
| import json | |
| from pathlib import Path | |
| from utils import append_result, extract_keywords, load_done_idx, RESULTS_DIR | |
| TEMPLATE_R1 = '''用户发来一张图片并提出问题,想买商品解决它。你会看到四部分信息(按重要性排序): | |
| - 用户意图:强力模型结合图文分析后得出的需求判断,比较清晰可靠,是你理解需求的主要依据。 | |
| - 图片内容:客观描述了用户拍的东西,是确定的事实锚点,用来防止跑偏。 | |
| - 用户提问:用户的原始口语提问,可能模糊简略,作为参考。 | |
| - 选品注意:对需求的补充分析,仅供参考,不要被它过度约束。 | |
| 你的任务是推荐淘宝搜索关键词。 | |
| 先想:解决这个需求,有哪几类不同商品能帮上忙?沿下面几个角度过一遍 | |
| (这些角度覆盖了"用户与商品的不同关系",不必每个角度都有商品,但要都想一下): | |
| - 专用品:为这个需求量身设计的最直接商品 | |
| - 通用替代品:没有专用品时,能顶替使用的通用商品 | |
| - 配套品:用户已有主体物,需要补充的配件 / 耗材 / 替换件 | |
| - 前置品:解决这个需求前,用户可能需要先具备的东西(这一类最容易被忽略,务必想一下:动手之前还缺什么?) | |
| 再写关键词,要求: | |
| 1. 必须是淘宝能直接买到的实物,不要土办法或家里的现成物。比如母乳、土、旧牙刷这类不算商品。 | |
| 2. 有几种不同解法就给几个词,通常 2~5 个,**至少给一个词,最多不超过 7 个**。同一种商品只保留一个词,不要用不同说法重复描述同一种商品来凑数量。如果这个需求本身只有一种解法,给 1~2 个词就够,不必凑满。 | |
| 例如"小白鞋清洗剂""小白鞋清洁液""白色运动鞋去污剂""白色运动鞋清洗泡沫"搜出来是同一类商品,只保留一个即可;"小白鞋清洗剂""洗衣液""肥皂"这些是不同类商品,可以都保留。 | |
| 3. 用词要像真人在淘宝搜索框里输入的那样简洁,不要堆砌营销长尾词。例如写"小白鞋清洁液"即可,不要写成"白鞋白鞋清洗清洗剂清洁神器一擦一擦白去污清洁剂专用"。 | |
| 4. 用词精准,能指向具体商品,不要用过泛的大类词。例如清洁瓷砖缝隙应写"瓷砖缝隙除垢剂",而不是笼统的"清洁剂"。 | |
| 5. 以用户意图为主来判断该推荐什么商品,用图片内容作为事实锚点防止跑偏;选品注意仅供参考,不要被它过度约束。 | |
| 6. 结合图片内容一起判断:如果图里的物品还有其他解决方式,也要补上对应关键词。只补图里确实能看出的解法,不要凭空猜测。 | |
| 示例 1: | |
| 用户意图:寻找清洗白色帆布运动鞋(小白鞋)的洗鞋剂或清洁用品 | |
| 图片内容:白色帆布运动鞋 | |
| 用户提问:脏了用什么洗比较好 | |
| 选品注意:帆布材质适合用专用白鞋清洁剂或小白鞋去污膏,需避免使用强力漂白剂以防帆布泛黄损伤;鞋边毛边为设计细节,清洗时应避免大力搓刷以防毛边过度脱散变形 | |
| 关键词:["小白鞋清洗剂", "小白鞋去污膏", "软毛洗鞋刷", "洗衣皂", "洗衣液"] | |
| 示例 2: | |
| 用户意图:寻找菜刀的除锈清洗及日常保养用品(如除锈产品、食用级保养油等) | |
| 图片内容:一把生锈的菜刀 | |
| 用户提问:生锈了怎么办 | |
| 选品注意:铲柄锈蚀严重,需选用食品安全级别的除锈产品(不可用工业除锈剂);铲面清洗后建议涂抹食用油进行开锅养护防锈,所用保养油须为食用油或食品级护理油 | |
| 关键词:["食品级除锈剂", "食品级护理油", "磨刀石"] | |
| 示例 3: | |
| 用户意图:寻找适合泳镜使用的防雾剂,解决泳镜起雾问题 | |
| 图片内容:游泳护目镜(泳镜) | |
| 用户提问:老是起雾怎么办 | |
| 选品注意:泳镜镜片通常有防雾涂层,需选择专为泳镜设计的防雾剂(如泳镜专用防雾喷雾或防雾液),避免使用汽车玻璃或普通眼镜用的防雾产品,否则可能损伤镜片原有防雾涂层 | |
| 关键词:["泳镜防雾剂", "泳镜防雾液", "泳镜防雾湿巾"] | |
| 以下是本次需要处理的输入: | |
| 用户意图:{intent} | |
| 图片内容:{content} | |
| 用户提问:{query} | |
| 选品注意:{note} | |
| 直接输出 JSON 列表,不要输出其他内容。''' | |
| TEMPLATE_R2 = '''用户发来一张图片并提出问题,想买商品解决它。你之前已经推荐了一批淘宝搜索关键词,现在要复查一遍,重点是查漏补缺,输出最终列表。 | |
| 先回顾这次需求的原始信息(按重要性排序): | |
| - 用户意图:这是强力模型结合图文分析后得出的需求判断,比较清晰可靠,是你理解需求的主要依据。 | |
| - 图片内容:客观描述了用户拍的东西,是确定的事实锚点,用来防止跑偏。 | |
| - 用户提问:用户的原始口语提问,可能模糊简略,作为参考。 | |
| - 选品注意:对需求的补充分析,仅供参考,不要被它过度约束。 | |
| 请执行以下检查,然后给出最终关键词列表: | |
| ■ 检查1(查漏补缺,最重要):对照"专用品 / 通用替代品 / 配套品 / 前置品"四个角度,再过一遍是否有遗漏。 | |
| 重点复查【配套品】和【前置品】——它们最常被漏: | |
| - 配套品:用户已有的主体物,是否需要补充配件、耗材或替换件? | |
| - 前置品:用户满足这个需求之前,是否还缺某个前置物品? | |
| 补充时优先补"新的解法",不必刻意补与已有词只是材质、款式不同的同类商品(如已有"耳机架",不必再单列"木质耳机架""金属耳机架")。 | |
| 只补图片和需求里确实能看出的解法,不要凭空猜测。 | |
| ■ 检查2(防重复):现有关键词里,有没有搜出来其实是同一类商品的? | |
| 例如"小白鞋清洗剂"和"白鞋去污液"搜出来是同一类商品,应合并成一个; | |
| 而"小白鞋清洗剂"和"洗衣液"是不同类商品,应都保留。 | |
| 如有重复,合并即可。 | |
| ■ 检查3(防跑偏,仅处理明显问题): | |
| - 是否有关键词只是字面相关,买来其实完全解决不了需求?→ 删掉 | |
| - 是否有关键词太宽泛、无法指向具体商品(如"清洁剂")?→ 细化为精准词(如"瓷砖缝隙除垢剂") | |
| 注意:不确定的不要删,后续流程会兜底。宁可多给,不要漏给。 | |
| 修订原则: | |
| - 以补充为主,不要轻易删除上一轮的关键词。 | |
| - 若某个需求本身解法就很有限,不必为凑数强行发散,自然覆盖到即可。 | |
| - 关键词总数最多不超过 7 个。如果补充后超过 7 个,优先保留最能解决需求的词,合并或去掉冗余的、最弱的。 | |
| - 每个关键词都必须是淘宝能直接买到的实物。 | |
| - 用词简洁,像真人在搜索框输入的那样,不要堆砌长尾词。 | |
| 示例: | |
| 用户意图:寻找清洗白色帆布运动鞋(小白鞋)的洗鞋剂或清洁用品 | |
| 图片内容:白色帆布运动鞋 | |
| 用户提问:脏了用什么洗比较好 | |
| 选品注意:帆布材质适合用专用白鞋清洁剂或小白鞋去污膏,需避免使用强力漂白剂以防帆布泛黄损伤 | |
| 上一轮关键词:["小白鞋清洗剂", "小白鞋清洗液", "白鞋去污膏", "洗衣液"] | |
| 复查过程: | |
| - 检查1:配套品角度——洗鞋需要刷子,补"软毛洗鞋刷";通用替代品角度——洗衣皂也能洗鞋,补"洗衣皂";前置品角度——洗后防泛黄可用"补色/防氧化"类,但图片和需求看不出明确需要,不凭空补。 | |
| - 检查2:"小白鞋清洗剂"和"小白鞋清洗液"搜出来是同一类商品,合并为"小白鞋清洗剂";"白鞋去污膏"和"洗衣液"是不同解法,保留。 | |
| - 检查3:无字面相关或过泛的词,不删。 | |
| 最终关键词:["小白鞋清洗剂", "白鞋去污膏", "洗衣液", "软毛洗鞋刷", "洗衣皂"] | |
| 以下是本次需要处理的输入: | |
| 用户意图:{intent} | |
| 图片内容:{content} | |
| 用户提问:{query} | |
| 选品注意:{note} | |
| 你上一轮给出的关键词: | |
| {first_round_keywords} | |
| 只输出最终 JSON 列表,不要输出其他内容。''' | |
| R1_OUT_NAME = "terms_r1" | |
| R2_OUT_NAME = "terms_r2" | |
| R1_PIPELINE = "enumeration" | |
| R2_PIPELINE = "reflection" | |
| CHUNK_SIZE = 512 | |
| MAX_NEW_TOKENS = 512 | |
| DEFAULT_MODEL_PATH = str(Path.home() / "models" / "Qwen" / "Qwen3.6-27B") | |
| def load_input(path): | |
| with open(path, encoding="utf-8") as f: | |
| rows = [json.loads(line) for line in f if line.strip()] | |
| return {str(row["idx"]): dict(row, idx=str(row["idx"])) for row in rows} | |
| def _sort_key(idx): | |
| return (0, int(idx)) if str(idx).isdigit() else (1, str(idx)) | |
| def load_r1_results(out_dir=None): | |
| base = Path(out_dir) if out_dir is not None else RESULTS_DIR | |
| path = base / f"{R1_OUT_NAME}.jsonl" | |
| results = {} | |
| if path.exists(): | |
| with open(path, encoding="utf-8") as f: | |
| for line in f: | |
| line = line.strip() | |
| if line: | |
| try: | |
| d = json.loads(line) | |
| results[d["idx"]] = d | |
| except (json.JSONDecodeError, KeyError): | |
| continue | |
| return results | |
| def generate_batch(llm, prompts): | |
| from vllm import SamplingParams | |
| tokenizer = llm.get_tokenizer() | |
| inputs = [tokenizer.apply_chat_template( | |
| [{"role": "user", "content": prompt}], tokenize=False, | |
| add_generation_prompt=True, enable_thinking=False) for prompt in prompts] | |
| outputs = llm.generate(inputs, SamplingParams(max_tokens=MAX_NEW_TOKENS, temperature=0.0)) | |
| if len(outputs) != len(prompts): | |
| raise ValueError("vLLM output count does not match input count") | |
| return [output.outputs[0].text.strip() for output in outputs] | |
| def run_round(llm, items, template, out_name, pipeline, done_idx, | |
| r1_results=None, out_dir=None): | |
| pending = [(idx, row) for idx, row in items if idx not in done_idx | |
| and (r1_results is None or idx in r1_results)] | |
| for start in range(0, len(pending), CHUNK_SIZE): | |
| chunk = pending[start:start + CHUNK_SIZE] | |
| prompts = [] | |
| for idx, row in chunk: | |
| fields = dict(row["scene"], query=row["query"]) | |
| if r1_results is not None: | |
| fields["first_round_keywords"] = json.dumps( | |
| r1_results[idx]["product_keywords"], ensure_ascii=False) | |
| prompts.append(template.format(**fields)) | |
| responses = generate_batch(llm, prompts) | |
| for (idx, row), raw in zip(chunk, responses): | |
| result = {"idx": idx, "query": row["query"], "image_url": row["image_url"], | |
| "scene": row["scene"], "pipeline": pipeline, | |
| "product_keywords": list(dict.fromkeys(k.strip() for k in extract_keywords(raw) if k.strip()))[:7], "raw_response": raw} | |
| if r1_results is not None: | |
| result["r1_keywords"] = r1_results[idx]["product_keywords"] | |
| append_result(result, out_name, out_dir=out_dir) | |
| done_idx.add(idx) | |
| print(f"{pipeline}:新增 {len(pending)} 条") | |
| return len(pending) | |
| def main(): | |
| p = argparse.ArgumentParser(description=__doc__) | |
| p.add_argument("--input", required=True, help="JSONL: idx, query, image_url, scene") | |
| p.add_argument("--out-dir", required=True) | |
| p.add_argument("--model-path", default=DEFAULT_MODEL_PATH) | |
| args = p.parse_args() | |
| from vllm import LLM | |
| llm = LLM(model=args.model_path, trust_remote_code=True, dtype="bfloat16") | |
| items = sorted(load_input(args.input).items(), key=lambda kv: _sort_key(kv[0])) | |
| run_round(llm, items, TEMPLATE_R1, R1_OUT_NAME, R1_PIPELINE, | |
| load_done_idx(R1_OUT_NAME, out_dir=args.out_dir), out_dir=args.out_dir) | |
| run_round(llm, items, TEMPLATE_R2, R2_OUT_NAME, R2_PIPELINE, | |
| load_done_idx(R2_OUT_NAME, out_dir=args.out_dir), | |
| r1_results=load_r1_results(args.out_dir), out_dir=args.out_dir) | |
| if __name__ == "__main__": | |
| main() | |