Upload folder using huggingface_hub
Browse files- SFT/README.md +46 -0
- SFT/baseline_caption_tag_lists.parquet +3 -0
SFT/README.md
ADDED
|
@@ -0,0 +1,46 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# 懂推荐
|
| 2 |
+
|
| 3 |
+
懂推荐任务的 baseline SID 对齐数据。
|
| 4 |
+
|
| 5 |
+
## 文件
|
| 6 |
+
|
| 7 |
+
| 文件 | 说明 |
|
| 8 |
+
| --- | --- |
|
| 9 |
+
| `baseline_caption_tag_lists.parquet` | 每条 baseline SFT 样本一行,保留原始 `messages`,以及从 `messages` 中抽取出的 SID token 序列和对应的 caption/tag 序列 |
|
| 10 |
+
|
| 11 |
+
## 数据规模
|
| 12 |
+
|
| 13 |
+
- 行数:19,204
|
| 14 |
+
- SID token 位置数:3,539,794
|
| 15 |
+
- 文件大小:约 696 MB
|
| 16 |
+
|
| 17 |
+
## 字段
|
| 18 |
+
|
| 19 |
+
| 字段 | 类型 | 说明 |
|
| 20 |
+
| --- | --- | --- |
|
| 21 |
+
| `record_id` | int64 | 样本行 ID,范围为 `0 - 19203` |
|
| 22 |
+
| `messages` | string | 原始 SFT messages JSON 字符串,通常包含 `system/user/assistant` 三条消息 |
|
| 23 |
+
| `sid_token_list` | list[string] | 从 `messages` 中按出现顺序抽取出的 SID token |
|
| 24 |
+
| `caption_list` | list[string] | 与 `sid_token_list` 位置对齐的 caption;未找到时为 null |
|
| 25 |
+
| `tag_list` | list[string] | 与 `sid_token_list` 位置对齐的 tag;未找到时为 null |
|
| 26 |
+
|
| 27 |
+
## 对齐规则
|
| 28 |
+
|
| 29 |
+
三个 list 字段按位置一一对应:
|
| 30 |
+
|
| 31 |
+
```text
|
| 32 |
+
sid_token_list[i] <-> caption_list[i] <-> tag_list[i]
|
| 33 |
+
```
|
| 34 |
+
|
| 35 |
+
例如第 `i` 个 SID token 的文本描述为 `caption_list[i]`,三级类目为 `tag_list[i]`。如果 caption 或 tag 没有匹配到,对应位置保留 null,不改变 list 长度和顺序。
|
| 36 |
+
|
| 37 |
+
## 覆盖率
|
| 38 |
+
|
| 39 |
+
| 指标 | 数量 | 占 SID 位置比例 |
|
| 40 |
+
| --- | ---: | ---: |
|
| 41 |
+
| caption hit | 3,478,100 | 98.26% |
|
| 42 |
+
| caption null | 61,694 | 1.74% |
|
| 43 |
+
| tag hit | 1,356,390 | 38.32% |
|
| 44 |
+
| tag null | 2,183,404 | 61.68% |
|
| 45 |
+
|
| 46 |
+
注意:goods 域 tag 为 100% null。
|
SFT/baseline_caption_tag_lists.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:c307fe6d723ebdebc2d343de3481bdc878f6193d65456e3b933ae7f6b78b8d9d
|
| 3 |
+
size 729700717
|