single-split dataset: drop files.parquet (auto-inference requires standard split names and unified schema)
Browse files- README.md +5 -3
- data/files.parquet +0 -3
README.md
CHANGED
|
@@ -25,7 +25,6 @@ tags:
|
|
| 25 |
| 分片 | 行数 | 粒度 | 字段 |
|
| 26 |
|---|---|---|---|
|
| 27 |
| `train` (data/train.parquet) | 285,117 | 文本块 (chunk) | `source` / `title` / `chunk_index` / `chars` / `text` / **`embedding`** |
|
| 28 |
-
| `files` (data/files.parquet) | 3,152 | 经文文件 | `source` / `title` / `chunks` / `chars` |
|
| 29 |
|
| 30 |
- `source` = 源 Markdown 文件名 (与 ChromaDB 元数据一致);
|
| 31 |
- `chunk_index` = 该块在文件内的序号 (与 ChromaDB `chunk_index` 一致),可按
|
|
@@ -34,7 +33,8 @@ tags:
|
|
| 34 |
- `embedding` = `fixed_size_list<float32, 1024>`, `BAAI/bge-m3` 输出向量
|
| 35 |
(**已 L2 归一化**,范数=1.0,与向量库完全一致),由建库时的 SiliconFlow 嵌入缓存
|
| 36 |
直接导出, **未重新调用任何嵌入 API**;
|
| 37 |
-
- 仓库内另含 **未压缩 Markdown 源文件** `markdowns/`(3,152 篇,与 `source` 一一对应
|
|
|
|
| 38 |
|
| 39 |
## 加载
|
| 40 |
|
|
@@ -42,11 +42,13 @@ tags:
|
|
| 42 |
from datasets import load_dataset
|
| 43 |
|
| 44 |
ds = load_dataset("Godners/DaoZang", split="train") # 285,117 个文本块 (含向量)
|
| 45 |
-
files = load_dataset("Godners/DaoZang", split="files") # 3,152 个经文文件
|
| 46 |
|
| 47 |
# 直接取出与 ChromaDB 一致的向量做检索
|
| 48 |
import numpy as np
|
| 49 |
embeddings = np.array(ds["embedding"], dtype=np.float32) # [N, 1024]
|
|
|
|
|
|
|
|
|
|
| 50 |
```
|
| 51 |
|
| 52 |
## 相关仓库
|
|
|
|
| 25 |
| 分片 | 行数 | 粒度 | 字段 |
|
| 26 |
|---|---|---|---|
|
| 27 |
| `train` (data/train.parquet) | 285,117 | 文本块 (chunk) | `source` / `title` / `chunk_index` / `chars` / `text` / **`embedding`** |
|
|
|
|
| 28 |
|
| 29 |
- `source` = 源 Markdown 文件名 (与 ChromaDB 元数据一致);
|
| 30 |
- `chunk_index` = 该块在文件内的序号 (与 ChromaDB `chunk_index` 一致),可按
|
|
|
|
| 33 |
- `embedding` = `fixed_size_list<float32, 1024>`, `BAAI/bge-m3` 输出向量
|
| 34 |
(**已 L2 归一化**,范数=1.0,与向量库完全一致),由建库时的 SiliconFlow 嵌入缓存
|
| 35 |
直接导出, **未重新调用任何嵌入 API**;
|
| 36 |
+
- 仓库内另含 **未压缩 Markdown 源文件** `markdowns/`(3,152 篇,与 `source` 一一对应;
|
| 37 |
+
文件级统计可按 `source` 分组聚合得到)。
|
| 38 |
|
| 39 |
## 加载
|
| 40 |
|
|
|
|
| 42 |
from datasets import load_dataset
|
| 43 |
|
| 44 |
ds = load_dataset("Godners/DaoZang", split="train") # 285,117 个文本块 (含向量)
|
|
|
|
| 45 |
|
| 46 |
# 直接取出与 ChromaDB 一致的向量做检索
|
| 47 |
import numpy as np
|
| 48 |
embeddings = np.array(ds["embedding"], dtype=np.float32) # [N, 1024]
|
| 49 |
+
|
| 50 |
+
# 文件级统计 (按 source 聚合)
|
| 51 |
+
files = ds.to_pandas().groupby(["source", "title"])["chars"].agg(["count", "sum"])
|
| 52 |
```
|
| 53 |
|
| 54 |
## 相关仓库
|
data/files.parquet
DELETED
|
@@ -1,3 +0,0 @@
|
|
| 1 |
-
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:ca60ddd960af75a0f69f3499f842b9a7207db170e353180fb9b58683673d63ce
|
| 3 |
-
size 149151
|
|
|
|
|
|
|
|
|
|
|
|