Godners commited on
Commit
f736778
·
1 Parent(s): 2ade236

single-split dataset: drop files.parquet (auto-inference requires standard split names and unified schema)

Browse files
Files changed (2) hide show
  1. README.md +5 -3
  2. data/files.parquet +0 -3
README.md CHANGED
@@ -25,7 +25,6 @@ tags:
25
  | 分片 | 行数 | 粒度 | 字段 |
26
  |---|---|---|---|
27
  | `train` (data/train.parquet) | 285,117 | 文本块 (chunk) | `source` / `title` / `chunk_index` / `chars` / `text` / **`embedding`** |
28
- | `files` (data/files.parquet) | 3,152 | 经文文件 | `source` / `title` / `chunks` / `chars` |
29
 
30
  - `source` = 源 Markdown 文件名 (与 ChromaDB 元数据一致);
31
  - `chunk_index` = 该块在文件内的序号 (与 ChromaDB `chunk_index` 一致),可按
@@ -34,7 +33,8 @@ tags:
34
  - `embedding` = `fixed_size_list<float32, 1024>`, `BAAI/bge-m3` 输出向量
35
  (**已 L2 归一化**,范数=1.0,与向量库完全一致),由建库时的 SiliconFlow 嵌入缓存
36
  直接导出, **未重新调用任何嵌入 API**;
37
- - 仓库内另含 **未压缩 Markdown 源文件** `markdowns/`(3,152 篇,与 `source` 一一对应)。
 
38
 
39
  ## 加载
40
 
@@ -42,11 +42,13 @@ tags:
42
  from datasets import load_dataset
43
 
44
  ds = load_dataset("Godners/DaoZang", split="train") # 285,117 个文本块 (含向量)
45
- files = load_dataset("Godners/DaoZang", split="files") # 3,152 个经文文件
46
 
47
  # 直接取出与 ChromaDB 一致的向量做检索
48
  import numpy as np
49
  embeddings = np.array(ds["embedding"], dtype=np.float32) # [N, 1024]
 
 
 
50
  ```
51
 
52
  ## 相关仓库
 
25
  | 分片 | 行数 | 粒度 | 字段 |
26
  |---|---|---|---|
27
  | `train` (data/train.parquet) | 285,117 | 文本块 (chunk) | `source` / `title` / `chunk_index` / `chars` / `text` / **`embedding`** |
 
28
 
29
  - `source` = 源 Markdown 文件名 (与 ChromaDB 元数据一致);
30
  - `chunk_index` = 该块在文件内的序号 (与 ChromaDB `chunk_index` 一致),可按
 
33
  - `embedding` = `fixed_size_list<float32, 1024>`, `BAAI/bge-m3` 输出向量
34
  (**已 L2 归一化**,范数=1.0,与向量库完全一致),由建库时的 SiliconFlow 嵌入缓存
35
  直接导出, **未重新调用任何嵌入 API**;
36
+ - 仓库内另含 **未压缩 Markdown 源文件** `markdowns/`(3,152 篇,与 `source` 一一对应;
37
+ 文件级统计可按 `source` 分组聚合得到)。
38
 
39
  ## 加载
40
 
 
42
  from datasets import load_dataset
43
 
44
  ds = load_dataset("Godners/DaoZang", split="train") # 285,117 个文本块 (含向量)
 
45
 
46
  # 直接取出与 ChromaDB 一致的向量做检索
47
  import numpy as np
48
  embeddings = np.array(ds["embedding"], dtype=np.float32) # [N, 1024]
49
+
50
+ # 文件级统计 (按 source 聚合)
51
+ files = ds.to_pandas().groupby(["source", "title"])["chars"].agg(["count", "sum"])
52
  ```
53
 
54
  ## 相关仓库
data/files.parquet DELETED
@@ -1,3 +0,0 @@
1
- version https://git-lfs.github.com/spec/v1
2
- oid sha256:ca60ddd960af75a0f69f3499f842b9a7207db170e353180fb9b58683673d63ce
3
- size 149151