pandada / Recommend /progress.md
hulehule's picture
[auto] Upload file Recommend/progress.md
a3012e7 verified
|
Raw History Blame Contribute Delete
548 Bytes

Nov 3

  1. 创建对比数据的code:zero-shot的结果为负样本
  2. 数据下载和预处理 pipline,可以直接搬运CARD代码过来
  3. 搭建prompt-dpo基本模型

Nov 5

  1. 下载lamp和longlamp数据集
  2. 完成zero_shot推理,推理需要和baseline prompt template保持一致,多卡推理
  3. 构建偏好对
  4. 分别尝试SFT和DPO来训练soft prompt generator

Nov 24:

  1. 完成Qwen 2.5的zero-shot推理
  2. 完成Qwen 2.5的RAG推理

Nov 25:

  1. 完成Qwen 2.5的SFT训练
  2. Qwen soft prompt generator(SFT)版本训练