OpenOneRec commited on
Commit
dd8a712
·
verified ·
1 Parent(s): 8b88c76

Upload folder using huggingface_hub

Browse files
SFT/README.md ADDED
@@ -0,0 +1,46 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 懂推荐
2
+
3
+ 懂推荐任务的 baseline SID 对齐数据。
4
+
5
+ ## 文件
6
+
7
+ | 文件 | 说明 |
8
+ | --- | --- |
9
+ | `baseline_caption_tag_lists.parquet` | 每条 baseline SFT 样本一行,保留原始 `messages`,以及从 `messages` 中抽取出的 SID token 序列和对应的 caption/tag 序列 |
10
+
11
+ ## 数据规模
12
+
13
+ - 行数:19,204
14
+ - SID token 位置数:3,539,794
15
+ - 文件大小:约 696 MB
16
+
17
+ ## 字段
18
+
19
+ | 字段 | 类型 | 说明 |
20
+ | --- | --- | --- |
21
+ | `record_id` | int64 | 样本行 ID,范围为 `0 - 19203` |
22
+ | `messages` | string | 原始 SFT messages JSON 字符串,通常包含 `system/user/assistant` 三条消息 |
23
+ | `sid_token_list` | list[string] | 从 `messages` 中按出现顺序抽取出的 SID token |
24
+ | `caption_list` | list[string] | 与 `sid_token_list` 位置对齐的 caption;未找到时为 null |
25
+ | `tag_list` | list[string] | 与 `sid_token_list` 位置对齐的 tag;未找到时为 null |
26
+
27
+ ## 对齐规则
28
+
29
+ 三个 list 字段按位置一一对应:
30
+
31
+ ```text
32
+ sid_token_list[i] <-> caption_list[i] <-> tag_list[i]
33
+ ```
34
+
35
+ 例如第 `i` 个 SID token 的文本描述为 `caption_list[i]`,三级类目为 `tag_list[i]`。如果 caption 或 tag 没有匹配到,对应位置保留 null,不改变 list 长度和顺序。
36
+
37
+ ## 覆盖率
38
+
39
+ | 指标 | 数量 | 占 SID 位置比例 |
40
+ | --- | ---: | ---: |
41
+ | caption hit | 3,478,100 | 98.26% |
42
+ | caption null | 61,694 | 1.74% |
43
+ | tag hit | 1,356,390 | 38.32% |
44
+ | tag null | 2,183,404 | 61.68% |
45
+
46
+ 注意:goods 域 tag 为 100% null。
SFT/baseline_caption_tag_lists.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c307fe6d723ebdebc2d343de3481bdc878f6193d65456e3b933ae7f6b78b8d9d
3
+ size 729700717