Datasets:
File size: 12,268 Bytes
49654fc | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 | """Qwen3.6-27B 两轮商品词生成:枚举 → 反思;共用一个 vLLM 模型。"""
import argparse
import json
from pathlib import Path
from utils import append_result, extract_keywords, load_done_idx, RESULTS_DIR
TEMPLATE_R1 = '''用户发来一张图片并提出问题,想买商品解决它。你会看到四部分信息(按重要性排序):
- 用户意图:强力模型结合图文分析后得出的需求判断,比较清晰可靠,是你理解需求的主要依据。
- 图片内容:客观描述了用户拍的东西,是确定的事实锚点,用来防止跑偏。
- 用户提问:用户的原始口语提问,可能模糊简略,作为参考。
- 选品注意:对需求的补充分析,仅供参考,不要被它过度约束。
你的任务是推荐淘宝搜索关键词。
先想:解决这个需求,有哪几类不同商品能帮上忙?沿下面几个角度过一遍
(这些角度覆盖了"用户与商品的不同关系",不必每个角度都有商品,但要都想一下):
- 专用品:为这个需求量身设计的最直接商品
- 通用替代品:没有专用品时,能顶替使用的通用商品
- 配套品:用户已有主体物,需要补充的配件 / 耗材 / 替换件
- 前置品:解决这个需求前,用户可能需要先具备的东西(这一类最容易被忽略,务必想一下:动手之前还缺什么?)
再写关键词,要求:
1. 必须是淘宝能直接买到的实物,不要土办法或家里的现成物。比如母乳、土、旧牙刷这类不算商品。
2. 有几种不同解法就给几个词,通常 2~5 个,**至少给一个词,最多不超过 7 个**。同一种商品只保留一个词,不要用不同说法重复描述同一种商品来凑数量。如果这个需求本身只有一种解法,给 1~2 个词就够,不必凑满。
例如"小白鞋清洗剂""小白鞋清洁液""白色运动鞋去污剂""白色运动鞋清洗泡沫"搜出来是同一类商品,只保留一个即可;"小白鞋清洗剂""洗衣液""肥皂"这些是不同类商品,可以都保留。
3. 用词要像真人在淘宝搜索框里输入的那样简洁,不要堆砌营销长尾词。例如写"小白鞋清洁液"即可,不要写成"白鞋白鞋清洗清洗剂清洁神器一擦一擦白去污清洁剂专用"。
4. 用词精准,能指向具体商品,不要用过泛的大类词。例如清洁瓷砖缝隙应写"瓷砖缝隙除垢剂",而不是笼统的"清洁剂"。
5. 以用户意图为主来判断该推荐什么商品,用图片内容作为事实锚点防止跑偏;选品注意仅供参考,不要被它过度约束。
6. 结合图片内容一起判断:如果图里的物品还有其他解决方式,也要补上对应关键词。只补图里确实能看出的解法,不要凭空猜测。
示例 1:
用户意图:寻找清洗白色帆布运动鞋(小白鞋)的洗鞋剂或清洁用品
图片内容:白色帆布运动鞋
用户提问:脏了用什么洗比较好
选品注意:帆布材质适合用专用白鞋清洁剂或小白鞋去污膏,需避免使用强力漂白剂以防帆布泛黄损伤;鞋边毛边为设计细节,清洗时应避免大力搓刷以防毛边过度脱散变形
关键词:["小白鞋清洗剂", "小白鞋去污膏", "软毛洗鞋刷", "洗衣皂", "洗衣液"]
示例 2:
用户意图:寻找菜刀的除锈清洗及日常保养用品(如除锈产品、食用级保养油等)
图片内容:一把生锈的菜刀
用户提问:生锈了怎么办
选品注意:铲柄锈蚀严重,需选用食品安全级别的除锈产品(不可用工业除锈剂);铲面清洗后建议涂抹食用油进行开锅养护防锈,所用保养油须为食用油或食品级护理油
关键词:["食品级除锈剂", "食品级护理油", "磨刀石"]
示例 3:
用户意图:寻找适合泳镜使用的防雾剂,解决泳镜起雾问题
图片内容:游泳护目镜(泳镜)
用户提问:老是起雾怎么办
选品注意:泳镜镜片通常有防雾涂层,需选择专为泳镜设计的防雾剂(如泳镜专用防雾喷雾或防雾液),避免使用汽车玻璃或普通眼镜用的防雾产品,否则可能损伤镜片原有防雾涂层
关键词:["泳镜防雾剂", "泳镜防雾液", "泳镜防雾湿巾"]
以下是本次需要处理的输入:
用户意图:{intent}
图片内容:{content}
用户提问:{query}
选品注意:{note}
直接输出 JSON 列表,不要输出其他内容。'''
TEMPLATE_R2 = '''用户发来一张图片并提出问题,想买商品解决它。你之前已经推荐了一批淘宝搜索关键词,现在要复查一遍,重点是查漏补缺,输出最终列表。
先回顾这次需求的原始信息(按重要性排序):
- 用户意图:这是强力模型结合图文分析后得出的需求判断,比较清晰可靠,是你理解需求的主要依据。
- 图片内容:客观描述了用户拍的东西,是确定的事实锚点,用来防止跑偏。
- 用户提问:用户的原始口语提问,可能模糊简略,作为参考。
- 选品注意:对需求的补充分析,仅供参考,不要被它过度约束。
请执行以下检查,然后给出最终关键词列表:
■ 检查1(查漏补缺,最重要):对照"专用品 / 通用替代品 / 配套品 / 前置品"四个角度,再过一遍是否有遗漏。
重点复查【配套品】和【前置品】——它们最常被漏:
- 配套品:用户已有的主体物,是否需要补充配件、耗材或替换件?
- 前置品:用户满足这个需求之前,是否还缺某个前置物品?
补充时优先补"新的解法",不必刻意补与已有词只是材质、款式不同的同类商品(如已有"耳机架",不必再单列"木质耳机架""金属耳机架")。
只补图片和需求里确实能看出的解法,不要凭空猜测。
■ 检查2(防重复):现有关键词里,有没有搜出来其实是同一类商品的?
例如"小白鞋清洗剂"和"白鞋去污液"搜出来是同一类商品,应合并成一个;
而"小白鞋清洗剂"和"洗衣液"是不同类商品,应都保留。
如有重复,合并即可。
■ 检查3(防跑偏,仅处理明显问题):
- 是否有关键词只是字面相关,买来其实完全解决不了需求?→ 删掉
- 是否有关键词太宽泛、无法指向具体商品(如"清洁剂")?→ 细化为精准词(如"瓷砖缝隙除垢剂")
注意:不确定的不要删,后续流程会兜底。宁可多给,不要漏给。
修订原则:
- 以补充为主,不要轻易删除上一轮的关键词。
- 若某个需求本身解法就很有限,不必为凑数强行发散,自然覆盖到即可。
- 关键词总数最多不超过 7 个。如果补充后超过 7 个,优先保留最能解决需求的词,合并或去掉冗余的、最弱的。
- 每个关键词都必须是淘宝能直接买到的实物。
- 用词简洁,像真人在搜索框输入的那样,不要堆砌长尾词。
示例:
用户意图:寻找清洗白色帆布运动鞋(小白鞋)的洗鞋剂或清洁用品
图片内容:白色帆布运动鞋
用户提问:脏了用什么洗比较好
选品注意:帆布材质适合用专用白鞋清洁剂或小白鞋去污膏,需避免使用强力漂白剂以防帆布泛黄损伤
上一轮关键词:["小白鞋清洗剂", "小白鞋清洗液", "白鞋去污膏", "洗衣液"]
复查过程:
- 检查1:配套品角度——洗鞋需要刷子,补"软毛洗鞋刷";通用替代品角度——洗衣皂也能洗鞋,补"洗衣皂";前置品角度——洗后防泛黄可用"补色/防氧化"类,但图片和需求看不出明确需要,不凭空补。
- 检查2:"小白鞋清洗剂"和"小白鞋清洗液"搜出来是同一类商品,合并为"小白鞋清洗剂";"白鞋去污膏"和"洗衣液"是不同解法,保留。
- 检查3:无字面相关或过泛的词,不删。
最终关键词:["小白鞋清洗剂", "白鞋去污膏", "洗衣液", "软毛洗鞋刷", "洗衣皂"]
以下是本次需要处理的输入:
用户意图:{intent}
图片内容:{content}
用户提问:{query}
选品注意:{note}
你上一轮给出的关键词:
{first_round_keywords}
只输出最终 JSON 列表,不要输出其他内容。'''
R1_OUT_NAME = "terms_r1"
R2_OUT_NAME = "terms_r2"
R1_PIPELINE = "enumeration"
R2_PIPELINE = "reflection"
CHUNK_SIZE = 512
MAX_NEW_TOKENS = 512
DEFAULT_MODEL_PATH = str(Path.home() / "models" / "Qwen" / "Qwen3.6-27B")
def load_input(path):
with open(path, encoding="utf-8") as f:
rows = [json.loads(line) for line in f if line.strip()]
return {str(row["idx"]): dict(row, idx=str(row["idx"])) for row in rows}
def _sort_key(idx):
return (0, int(idx)) if str(idx).isdigit() else (1, str(idx))
def load_r1_results(out_dir=None):
base = Path(out_dir) if out_dir is not None else RESULTS_DIR
path = base / f"{R1_OUT_NAME}.jsonl"
results = {}
if path.exists():
with open(path, encoding="utf-8") as f:
for line in f:
line = line.strip()
if line:
try:
d = json.loads(line)
results[d["idx"]] = d
except (json.JSONDecodeError, KeyError):
continue
return results
def generate_batch(llm, prompts):
from vllm import SamplingParams
tokenizer = llm.get_tokenizer()
inputs = [tokenizer.apply_chat_template(
[{"role": "user", "content": prompt}], tokenize=False,
add_generation_prompt=True, enable_thinking=False) for prompt in prompts]
outputs = llm.generate(inputs, SamplingParams(max_tokens=MAX_NEW_TOKENS, temperature=0.0))
if len(outputs) != len(prompts):
raise ValueError("vLLM output count does not match input count")
return [output.outputs[0].text.strip() for output in outputs]
def run_round(llm, items, template, out_name, pipeline, done_idx,
r1_results=None, out_dir=None):
pending = [(idx, row) for idx, row in items if idx not in done_idx
and (r1_results is None or idx in r1_results)]
for start in range(0, len(pending), CHUNK_SIZE):
chunk = pending[start:start + CHUNK_SIZE]
prompts = []
for idx, row in chunk:
fields = dict(row["scene"], query=row["query"])
if r1_results is not None:
fields["first_round_keywords"] = json.dumps(
r1_results[idx]["product_keywords"], ensure_ascii=False)
prompts.append(template.format(**fields))
responses = generate_batch(llm, prompts)
for (idx, row), raw in zip(chunk, responses):
result = {"idx": idx, "query": row["query"], "image_url": row["image_url"],
"scene": row["scene"], "pipeline": pipeline,
"product_keywords": list(dict.fromkeys(k.strip() for k in extract_keywords(raw) if k.strip()))[:7], "raw_response": raw}
if r1_results is not None:
result["r1_keywords"] = r1_results[idx]["product_keywords"]
append_result(result, out_name, out_dir=out_dir)
done_idx.add(idx)
print(f"{pipeline}:新增 {len(pending)} 条")
return len(pending)
def main():
p = argparse.ArgumentParser(description=__doc__)
p.add_argument("--input", required=True, help="JSONL: idx, query, image_url, scene")
p.add_argument("--out-dir", required=True)
p.add_argument("--model-path", default=DEFAULT_MODEL_PATH)
args = p.parse_args()
from vllm import LLM
llm = LLM(model=args.model_path, trust_remote_code=True, dtype="bfloat16")
items = sorted(load_input(args.input).items(), key=lambda kv: _sort_key(kv[0]))
run_round(llm, items, TEMPLATE_R1, R1_OUT_NAME, R1_PIPELINE,
load_done_idx(R1_OUT_NAME, out_dir=args.out_dir), out_dir=args.out_dir)
run_round(llm, items, TEMPLATE_R2, R2_OUT_NAME, R2_PIPELINE,
load_done_idx(R2_OUT_NAME, out_dir=args.out_dir),
r1_results=load_r1_results(args.out_dir), out_dir=args.out_dir)
if __name__ == "__main__":
main()
|