MIPR / construction /generate_terms.py
leequeue's picture
Upload folder using huggingface_hub
49654fc verified
Raw History Blame Contribute Delete
12.3 kB
"""Qwen3.6-27B 两轮商品词生成:枚举 → 反思;共用一个 vLLM 模型。"""
import argparse
import json
from pathlib import Path
from utils import append_result, extract_keywords, load_done_idx, RESULTS_DIR
TEMPLATE_R1 = '''用户发来一张图片并提出问题,想买商品解决它。你会看到四部分信息(按重要性排序):
- 用户意图:强力模型结合图文分析后得出的需求判断,比较清晰可靠,是你理解需求的主要依据。
- 图片内容:客观描述了用户拍的东西,是确定的事实锚点,用来防止跑偏。
- 用户提问:用户的原始口语提问,可能模糊简略,作为参考。
- 选品注意:对需求的补充分析,仅供参考,不要被它过度约束。
你的任务是推荐淘宝搜索关键词。
先想:解决这个需求,有哪几类不同商品能帮上忙?沿下面几个角度过一遍
(这些角度覆盖了"用户与商品的不同关系",不必每个角度都有商品,但要都想一下):
- 专用品:为这个需求量身设计的最直接商品
- 通用替代品:没有专用品时,能顶替使用的通用商品
- 配套品:用户已有主体物,需要补充的配件 / 耗材 / 替换件
- 前置品:解决这个需求前,用户可能需要先具备的东西(这一类最容易被忽略,务必想一下:动手之前还缺什么?)
再写关键词,要求:
1. 必须是淘宝能直接买到的实物,不要土办法或家里的现成物。比如母乳、土、旧牙刷这类不算商品。
2. 有几种不同解法就给几个词,通常 2~5 个,**至少给一个词,最多不超过 7 个**。同一种商品只保留一个词,不要用不同说法重复描述同一种商品来凑数量。如果这个需求本身只有一种解法,给 1~2 个词就够,不必凑满。
例如"小白鞋清洗剂""小白鞋清洁液""白色运动鞋去污剂""白色运动鞋清洗泡沫"搜出来是同一类商品,只保留一个即可;"小白鞋清洗剂""洗衣液""肥皂"这些是不同类商品,可以都保留。
3. 用词要像真人在淘宝搜索框里输入的那样简洁,不要堆砌营销长尾词。例如写"小白鞋清洁液"即可,不要写成"白鞋白鞋清洗清洗剂清洁神器一擦一擦白去污清洁剂专用"。
4. 用词精准,能指向具体商品,不要用过泛的大类词。例如清洁瓷砖缝隙应写"瓷砖缝隙除垢剂",而不是笼统的"清洁剂"。
5. 以用户意图为主来判断该推荐什么商品,用图片内容作为事实锚点防止跑偏;选品注意仅供参考,不要被它过度约束。
6. 结合图片内容一起判断:如果图里的物品还有其他解决方式,也要补上对应关键词。只补图里确实能看出的解法,不要凭空猜测。
示例 1:
用户意图:寻找清洗白色帆布运动鞋(小白鞋)的洗鞋剂或清洁用品
图片内容:白色帆布运动鞋
用户提问:脏了用什么洗比较好
选品注意:帆布材质适合用专用白鞋清洁剂或小白鞋去污膏,需避免使用强力漂白剂以防帆布泛黄损伤;鞋边毛边为设计细节,清洗时应避免大力搓刷以防毛边过度脱散变形
关键词:["小白鞋清洗剂", "小白鞋去污膏", "软毛洗鞋刷", "洗衣皂", "洗衣液"]
示例 2:
用户意图:寻找菜刀的除锈清洗及日常保养用品(如除锈产品、食用级保养油等)
图片内容:一把生锈的菜刀
用户提问:生锈了怎么办
选品注意:铲柄锈蚀严重,需选用食品安全级别的除锈产品(不可用工业除锈剂);铲面清洗后建议涂抹食用油进行开锅养护防锈,所用保养油须为食用油或食品级护理油
关键词:["食品级除锈剂", "食品级护理油", "磨刀石"]
示例 3:
用户意图:寻找适合泳镜使用的防雾剂,解决泳镜起雾问题
图片内容:游泳护目镜(泳镜)
用户提问:老是起雾怎么办
选品注意:泳镜镜片通常有防雾涂层,需选择专为泳镜设计的防雾剂(如泳镜专用防雾喷雾或防雾液),避免使用汽车玻璃或普通眼镜用的防雾产品,否则可能损伤镜片原有防雾涂层
关键词:["泳镜防雾剂", "泳镜防雾液", "泳镜防雾湿巾"]
以下是本次需要处理的输入:
用户意图:{intent}
图片内容:{content}
用户提问:{query}
选品注意:{note}
直接输出 JSON 列表,不要输出其他内容。'''
TEMPLATE_R2 = '''用户发来一张图片并提出问题,想买商品解决它。你之前已经推荐了一批淘宝搜索关键词,现在要复查一遍,重点是查漏补缺,输出最终列表。
先回顾这次需求的原始信息(按重要性排序):
- 用户意图:这是强力模型结合图文分析后得出的需求判断,比较清晰可靠,是你理解需求的主要依据。
- 图片内容:客观描述了用户拍的东西,是确定的事实锚点,用来防止跑偏。
- 用户提问:用户的原始口语提问,可能模糊简略,作为参考。
- 选品注意:对需求的补充分析,仅供参考,不要被它过度约束。
请执行以下检查,然后给出最终关键词列表:
■ 检查1(查漏补缺,最重要):对照"专用品 / 通用替代品 / 配套品 / 前置品"四个角度,再过一遍是否有遗漏。
重点复查【配套品】和【前置品】——它们最常被漏:
- 配套品:用户已有的主体物,是否需要补充配件、耗材或替换件?
- 前置品:用户满足这个需求之前,是否还缺某个前置物品?
补充时优先补"新的解法",不必刻意补与已有词只是材质、款式不同的同类商品(如已有"耳机架",不必再单列"木质耳机架""金属耳机架")。
只补图片和需求里确实能看出的解法,不要凭空猜测。
■ 检查2(防重复):现有关键词里,有没有搜出来其实是同一类商品的?
例如"小白鞋清洗剂"和"白鞋去污液"搜出来是同一类商品,应合并成一个;
而"小白鞋清洗剂"和"洗衣液"是不同类商品,应都保留。
如有重复,合并即可。
■ 检查3(防跑偏,仅处理明显问题):
- 是否有关键词只是字面相关,买来其实完全解决不了需求?→ 删掉
- 是否有关键词太宽泛、无法指向具体商品(如"清洁剂")?→ 细化为精准词(如"瓷砖缝隙除垢剂")
注意:不确定的不要删,后续流程会兜底。宁可多给,不要漏给。
修订原则:
- 以补充为主,不要轻易删除上一轮的关键词。
- 若某个需求本身解法就很有限,不必为凑数强行发散,自然覆盖到即可。
- 关键词总数最多不超过 7 个。如果补充后超过 7 个,优先保留最能解决需求的词,合并或去掉冗余的、最弱的。
- 每个关键词都必须是淘宝能直接买到的实物。
- 用词简洁,像真人在搜索框输入的那样,不要堆砌长尾词。
示例:
用户意图:寻找清洗白色帆布运动鞋(小白鞋)的洗鞋剂或清洁用品
图片内容:白色帆布运动鞋
用户提问:脏了用什么洗比较好
选品注意:帆布材质适合用专用白鞋清洁剂或小白鞋去污膏,需避免使用强力漂白剂以防帆布泛黄损伤
上一轮关键词:["小白鞋清洗剂", "小白鞋清洗液", "白鞋去污膏", "洗衣液"]
复查过程:
- 检查1:配套品角度——洗鞋需要刷子,补"软毛洗鞋刷";通用替代品角度——洗衣皂也能洗鞋,补"洗衣皂";前置品角度——洗后防泛黄可用"补色/防氧化"类,但图片和需求看不出明确需要,不凭空补。
- 检查2:"小白鞋清洗剂"和"小白鞋清洗液"搜出来是同一类商品,合并为"小白鞋清洗剂";"白鞋去污膏"和"洗衣液"是不同解法,保留。
- 检查3:无字面相关或过泛的词,不删。
最终关键词:["小白鞋清洗剂", "白鞋去污膏", "洗衣液", "软毛洗鞋刷", "洗衣皂"]
以下是本次需要处理的输入:
用户意图:{intent}
图片内容:{content}
用户提问:{query}
选品注意:{note}
你上一轮给出的关键词:
{first_round_keywords}
只输出最终 JSON 列表,不要输出其他内容。'''
R1_OUT_NAME = "terms_r1"
R2_OUT_NAME = "terms_r2"
R1_PIPELINE = "enumeration"
R2_PIPELINE = "reflection"
CHUNK_SIZE = 512
MAX_NEW_TOKENS = 512
DEFAULT_MODEL_PATH = str(Path.home() / "models" / "Qwen" / "Qwen3.6-27B")
def load_input(path):
with open(path, encoding="utf-8") as f:
rows = [json.loads(line) for line in f if line.strip()]
return {str(row["idx"]): dict(row, idx=str(row["idx"])) for row in rows}
def _sort_key(idx):
return (0, int(idx)) if str(idx).isdigit() else (1, str(idx))
def load_r1_results(out_dir=None):
base = Path(out_dir) if out_dir is not None else RESULTS_DIR
path = base / f"{R1_OUT_NAME}.jsonl"
results = {}
if path.exists():
with open(path, encoding="utf-8") as f:
for line in f:
line = line.strip()
if line:
try:
d = json.loads(line)
results[d["idx"]] = d
except (json.JSONDecodeError, KeyError):
continue
return results
def generate_batch(llm, prompts):
from vllm import SamplingParams
tokenizer = llm.get_tokenizer()
inputs = [tokenizer.apply_chat_template(
[{"role": "user", "content": prompt}], tokenize=False,
add_generation_prompt=True, enable_thinking=False) for prompt in prompts]
outputs = llm.generate(inputs, SamplingParams(max_tokens=MAX_NEW_TOKENS, temperature=0.0))
if len(outputs) != len(prompts):
raise ValueError("vLLM output count does not match input count")
return [output.outputs[0].text.strip() for output in outputs]
def run_round(llm, items, template, out_name, pipeline, done_idx,
r1_results=None, out_dir=None):
pending = [(idx, row) for idx, row in items if idx not in done_idx
and (r1_results is None or idx in r1_results)]
for start in range(0, len(pending), CHUNK_SIZE):
chunk = pending[start:start + CHUNK_SIZE]
prompts = []
for idx, row in chunk:
fields = dict(row["scene"], query=row["query"])
if r1_results is not None:
fields["first_round_keywords"] = json.dumps(
r1_results[idx]["product_keywords"], ensure_ascii=False)
prompts.append(template.format(**fields))
responses = generate_batch(llm, prompts)
for (idx, row), raw in zip(chunk, responses):
result = {"idx": idx, "query": row["query"], "image_url": row["image_url"],
"scene": row["scene"], "pipeline": pipeline,
"product_keywords": list(dict.fromkeys(k.strip() for k in extract_keywords(raw) if k.strip()))[:7], "raw_response": raw}
if r1_results is not None:
result["r1_keywords"] = r1_results[idx]["product_keywords"]
append_result(result, out_name, out_dir=out_dir)
done_idx.add(idx)
print(f"{pipeline}:新增 {len(pending)} 条")
return len(pending)
def main():
p = argparse.ArgumentParser(description=__doc__)
p.add_argument("--input", required=True, help="JSONL: idx, query, image_url, scene")
p.add_argument("--out-dir", required=True)
p.add_argument("--model-path", default=DEFAULT_MODEL_PATH)
args = p.parse_args()
from vllm import LLM
llm = LLM(model=args.model_path, trust_remote_code=True, dtype="bfloat16")
items = sorted(load_input(args.input).items(), key=lambda kv: _sort_key(kv[0]))
run_round(llm, items, TEMPLATE_R1, R1_OUT_NAME, R1_PIPELINE,
load_done_idx(R1_OUT_NAME, out_dir=args.out_dir), out_dir=args.out_dir)
run_round(llm, items, TEMPLATE_R2, R2_OUT_NAME, R2_PIPELINE,
load_done_idx(R2_OUT_NAME, out_dir=args.out_dir),
r1_results=load_r1_results(args.out_dir), out_dir=args.out_dir)
if __name__ == "__main__":
main()