AncientWings/AncientWings_R2AI_STAGE3_ds

AncientWings — corpus ViBioMIR và dữ liệu chuẩn bị huấn luyện

Dataset chứa văn bản crawl theo URL nguồn ViBioMIR và hai tập đầu vào đã chuẩn bị cho quy trình teacher–student. Dùng corpus/ để chuẩn hóa, chia đoạn, embedding và truy hồi; dùng inputs/ khi cần tiếp tục quy trình tạo dữ liệu huấn luyện tổng hợp.

Đây chưa phải tập supervised training có nhãn relevance đầy đủ. Tên split train ở cấu hình HF là cách gom file để đọc; không xác nhận tất cả hàng đã qua phân chia train/validation hay được gán nhãn. Corpus không chứa các cặp query–positive–negative đã được chấm sẵn.

Cấu trúc dataset

.
├── README.md
├── .gitattributes
├── corpus/
│   └── *.parquet                  # 269 shard: 266 crawl trực tiếp + 3 bản sao Wayback
├── archive/                       # giữ nguyên 4 file gốc của lô Wayback 1
├── archive2/                      # giữ nguyên 4 file gốc của lô Wayback 2
├── archive3/                      # giữ nguyên 4 file gốc của lô Wayback 3
├── inputs/
│   ├── chunks.parquet             # 224.939 chunk đã chuẩn bị
│   └── seeds.jsonl                # 30.000 seed để teacher sinh query
└── metadata/
    ├── training_release.json      # revision nguồn, hash/count và danh sách file
    └── wayback/<lô>/provenance.csv # CSV chuẩn; không ghi đè provenance.txt gốc

Không cần tải ZIP checkpoint, archives/, JSONL corpus trùng, diagnostics hoặc code cũ để đọc các đầu vào này. archives/ chứa ZIP phụ khác với ba thư mục Wayback archive/, archive2/, archive3/ được giữ nguyên. Code của các notebook pipeline và teacher–student được nhúng trong notebook, không nạp từ thư mục code/ của dataset.

Nội dung và số liệu kiểm kê

Số liệu kiểm từ snapshot fa52ebed1d28b83814946cd1179cb5f8a410eb51, rà lại ngày 04/11/2026. Corpus, inputs và ba thư mục Wayback gốc được giữ nguyên byte. Ba Parquet Wayback được thêm bản sao vào corpus/ để pipeline hiện có đọc được; đây không phải đợt dedup hoặc viết lại text.

Thành phần	Số lượng
Parquet trong cấu hình corpus	269 file
Tổng hàng corpus	1.762.677
ID corpus duy nhất	1.691.715
ID xuất hiện nhiều lần	70.730
ID có URL hoặc hash text khác nhau giữa các bản	6.782
Hàng corpus không khớp cặp ID/URL của nguồn BTC hiện hành	656.089
Hash text không khớp / text rỗng trong phép kiểm toàn bộ	0 / 0
Prepared chunks	224.939 hàng, thuộc 57.563 document ID
Prepared seeds	30.000: 28.506 train, 1.494 dev
Seed không tìm thấy chunk_id trong prepared chunks	0

Số hàng không khớp nguồn BTC được tính theo từng hàng, có thể gồm overlap shard. Nhiều shard được crawl theo danh sách nguồn cũ; số này không có nghĩa từng văn bản đều hỏng. Nếu làm đúng bài toán hiện hành, cần lọc theo cặp ID/URL chính thức trước khi lập chỉ mục hoặc huấn luyện.

266 shard crawl trực tiếp không lưu lang; ba shard Wayback có metadata lang='vi' do exporter ghi, chưa phải kết quả nhận diện ngôn ngữ độc lập. Không suy ngôn ngữ từ dải ID hoặc tên shard. Prepared chunks có lang: 224.915 vi, 24 en; seeds có 29.999 vi, 1 en.

Các thống kê corpus chỉ tính các file trong corpus/, không cộng thêm bản gốc giống byte ở archive*/.

Ba lô Wayback được bảo toàn

Thư mục gốc	URL mục tiêu	Bản ghi có text export	Mục tiêu chưa có text export
archive/	29.501	22.587	6.914
archive2/	19.504	14.219	5.285
archive3/	12.653	8.892	3.761

Mỗi thư mục giữ nguyên Parquet văn bản, provenance.txt, targets.parquet và targets_manifest.json. Ba lô không overlap ID export với nhau. Toàn bộ 45.698 export khớp cặp ID/URL chính thức, hash text và các giá trị provenance đã lưu. Chưa có đủ log trạng thái cho những target không có export để phân biệt tải lỗi với chưa chạy; không coi chúng là đã hoàn tất.

Để dùng với pipeline chỉ glob corpus/*.parquet, bản sao giống byte của ba Parquet được đặt thêm trong corpus/. Chỉ đọc một giao diện này khi ghép text; không nạp thêm bản gốc archive*/ids_*.parquet vào cùng tập vì sẽ nhân đôi bản ghi.

provenance.txt có nội dung CSV. Riêng dòng ID 201122 trong archive/ chứa dấu phẩy trong URL nhưng chưa quote, khiến csv.DictReader thông thường tách sai cột. Parquet vẫn giữ đầy đủ các giá trị. Ba file metadata/wayback/<archive|archive2|archive3>/provenance.csv được tạo với quoting CSV chuẩn từ các trường Parquet đã đối chiếu với từng dòng gốc; cả ba đã được đọc lại và kiểm đủ hàng/trường. Bản .txt gốc không bị sửa.

QC nội dung còn có giới hạn: 206 text Wayback dưới 300 ký tự; mẫu đọc có trang chỉ giữ lời dẫn/video hoặc UI, ví dụ ID 516471, 549310, và một số bài Long Châu còn tiểu sử tác giả/UI trong text. Không tự xóa hoặc sửa chúng trong đợt sắp xếp file; cần review/lọc theo mục tiêu train. Đối chiếu raw HTML hoặc xác minh đầy đủ bài gốc chưa được thực hiện trong phép kiểm này.

Cài thư viện

python -m pip install "datasets==4.8.5" "huggingface_hub>=0.34,<2" "pyarrow>=19"

Giới hạn huggingface_hub<2 phù hợp với yêu cầu dependency của Datasets 4.8.5; tránh nâng Hub lên 2.x trong cùng môi trường đó. Khi cài vào notebook đã import thư viện, khởi động lại kernel trước khi sử dụng bộ phiên bản mới. Không cần Pillow/Gradio để đọc dataset này.

Dataset công khai tại thời điểm kiểm kê. Có thể đọc không có token; đăng nhập bằng hf auth login hoặc Kaggle Secret HF_TOKEN nếu môi trường/pipeline yêu cầu token. Không dán token vào notebook được chia sẻ.

Đọc corpus bằng Hugging Face Datasets

Ghim một commit cho toàn bộ lần đọc. Bốn cột id,url,title,text là giao diện dùng chung; projection này tránh kéo metadata tùy chọn và tránh khác biệt schema giữa các đời crawler.

from huggingface_hub import HfApi, get_token
from datasets import load_dataset

REPO = "AncientWings/AncientWings_R2AI_STAGE3_ds"
TOKEN = get_token()  # None vẫn đọc được dataset public
REVISION = HfApi(token=TOKEN).dataset_info(REPO, revision="main").sha
print("Ghim revision cho lần chạy:", REVISION)

corpus = load_dataset(
    REPO,
    name="corpus",
    revision=REVISION,
    split="train",
    streaming=True,
    columns=["id", "url", "title", "text"],
    token=TOKEN,
)
row = next(iter(corpus))
print(row["id"], row["url"], (row["title"] or "")[:100])

Streaming đọc dần, không nạp toàn corpus vào RAM. Muốn dùng nhiều lần qua PyTorch hoặc thao tác cần random access, có thể đọc không streaming hoặc tải shard về local. Không glob mọi Parquet trong repository: inputs/chunks.parquet là dữ liệu đoạn, không có cùng schema với corpus tài liệu.

Lọc đúng nguồn BTC và xử lý trùng ID

Nguồn ID/URL hiện hành là AIGuruTinix/ViBioMIR, file links_corpus_vi_en_zh.parquet, revision 71be0e1239a19dfd7a717e2bc13e3bec21bd0334, SHA-256 87e44a792d7a99fb0fde5dff7f09f1a38a0a1fdf02ddd1ac93a005736e00b0a7.

Ví dụ sau tiếp tục dùng biến corpus ở trên. Có thể đặt LINKS tới bản nguồn local nếu đã có; luôn kiểm hash trước khi dùng:

import hashlib
from pathlib import Path
import pyarrow.parquet as pq
from huggingface_hub import hf_hub_download

LINKS = hf_hub_download(
    "AIGuruTinix/ViBioMIR",
    filename="links_corpus_vi_en_zh.parquet",
    repo_type="dataset",
    revision="71be0e1239a19dfd7a717e2bc13e3bec21bd0334",
    token=TOKEN,
)
with Path(LINKS).open("rb") as stream:
    assert hashlib.file_digest(stream, "sha256").hexdigest() == (
        "87e44a792d7a99fb0fde5dff7f09f1a38a0a1fdf02ddd1ac93a005736e00b0a7"
    )
official = {}
for batch in pq.ParquetFile(LINKS).iter_batches(columns=["id", "url"]):
    official.update((int(r["id"]), r["url"]) for r in batch.to_pylist())

ID_START, ID_END = 1_500_000, 1_999_999  # inclusive, sửa theo lô muốn đọc

def valid_in_range(row):
    doc_id = int(row["id"])
    return (
        ID_START <= doc_id <= ID_END
        and official.get(doc_id) == row["url"]
        and bool((row["text"] or "").strip())
    )

selected = corpus.filter(valid_in_range)

Sau bước lọc, vẫn cần xử lý ID trùng. Cùng ID/URL/hash text là overlap có thể gộp; cùng ID nhưng khác text là biến thể cần chính sách lựa chọn hoặc review. Không xem file có tên mới hơn là tự động có chất lượng tốt hơn. Ghi revision, thứ tự shard và chính sách chọn bản vào manifest của lần train/index.

Notebook pipeline.ipynb hiện có trong mã dự án chỉ đọc corpus/*.parquet, ghim commit, lọc cặp ID/URL và khoảng ID, giữ tài liệu tiếng Việt hợp lệ rồi xử lý ID trùng theo thứ tự shard được xác định bởi seed. Đây là chính sách tái lập của pipeline, không phải chứng nhận biến thể được chọn là tốt nhất. Pipeline này chạy embedding/retrieval/rerank, không fine-tune model.

Tải shard về local hoặc đọc bằng PyArrow

Chỉ tải corpus khi cần toàn văn tài liệu:

from pathlib import Path
from huggingface_hub import snapshot_download
import pyarrow.parquet as pq

folder = snapshot_download(
    REPO,
    repo_type="dataset",
    revision=REVISION,
    allow_patterns=["corpus/*.parquet", "metadata/**"],
    local_dir="vibiomir_dataset",
    token=TOKEN,
)
paths = sorted((Path(folder) / "corpus").glob("*.parquet"))
for path in paths:
    for batch in pq.ParquetFile(path).iter_batches(
        batch_size=1024, columns=["id", "url", "title", "text"]
    ):
        # Chuẩn hóa/lọc/ghi lô hoặc tokenize tại đây; tránh list toàn corpus.
        pass

Nếu chỉ dùng một số shard, thay allow_patterns bằng tên file cụ thể. Giữ nguyên id và URL để liên kết văn bản với kết quả truy hồi. Dải ID trong tên file chỉ hỗ trợ chọn sơ bộ, không cho biết số tài liệu thực hoặc sự duy nhất giữa shard.

Sử dụng prepared inputs cho teacher–student

chunks = load_dataset(REPO, name="prepared_chunks", revision=REVISION,
                      split="train", streaming=True, token=TOKEN)
seeds = load_dataset(
    "json",
    data_files={"train": f"hf://datasets/{REPO}@{REVISION}/inputs/seeds.jsonl"},
    split="train", streaming=True, token=TOKEN,
)
print(next(iter(chunks))["chunk_id"])
print(next(iter(seeds))["split"])

Seeds là JSONL nên dùng builder json riêng; hai cấu hình trên dataset card là Parquet. Không nạp seeds bằng cấu hình Parquet hoặc gom JSONL/Parquet vào cùng một lần đọc.

File	Trường chính	Vai trò
inputs/chunks.parquet	chunk_id, doc_id, chunk_order, char_start, char_end, text, title, lang, n_tokens, domain	Đoạn gốc và offset cho sample, mine negative và train reranker/embedding
inputs/seeds.jsonl	chunk_id, doc_id, domain, lang, passage, style, split, shard	Hạt giống cho teacher viết query; chưa phải query/nhãn đã được teacher tạo/chấm

Prepared inputs có thể thuộc một snapshot chuẩn bị riêng, không phải toàn bộ 1.762.677 hàng corpus. Trong phép kiểm hiện tại, document ID của chúng đều thuộc danh sách BTC và mọi seed đều có chunk tương ứng. Không ghép offset của prepared chunks với một phiên bản text khác chỉ vì trùng doc_id.

Quy trình teach_kaggle.ipynb là: sample → generate → mine → judge → train. Hai file inputs hiện có mới cung cấp chunk và seed. Để đi đến bước train cần tạo thêm:

• Query tổng hợp dưới teach/generated/.
• Chỉ mục chunk phù hợp cho mining, thường đặt dưới inputs/index/; index này chưa có trong snapshot hiện tại.
• Nhóm positive/negative teach/groups.jsonl và điểm teacher dưới teach/judged/.

Snapshot hiện tại chưa có các kết quả teach/ trên, nên không thể chuyển thẳng sang STAGE="train" và coi dữ liệu đã đủ. Không cần chạy lại sample nếu chủ động tái dùng đúng seeds hiện tại; mọi bước tiếp theo phải dùng cùng chunk/seed snapshot. Adapter model được lưu ở model repository riêng theo cấu hình notebook, không phải trong corpus này.

Trường split của seeds phải được giữ khi sinh query và gán nhãn. Trước đánh giá, kiểm thêm overlap theo doc_id và nhóm duplicate để tránh cùng tài liệu lọt qua train/dev; không coi chia theo seed đơn lẻ là bảo đảm độc lập theo document.

Schema và chất lượng dữ liệu

Giao diện văn bản chung: id:int64, url:string, title:string, text:string. Các shard còn có metadata như final_url, domain, extractor, published_at, raw_path, raw_sha256, text_sha256, duplicate_doc_ids; shard mới có thêm trường tác giả/reviewer/thời gian cập nhật. Không giả định mọi metadata tùy chọn đều tồn tại ở mọi shard.

Shard Wayback có thêm archive_timestamp, lang, status, quality_flags, và không có đầy đủ metadata raw của crawler trực tiếp. Giao diện bốn cột chung được kiểm với cả ba biến thể schema.

raw_path là tham chiếu tới output crawler gốc, không phải đường dẫn local tồn tại sau khi tải Parquet. Đọc corpus hoặc train trên text không cần mở raw. Muốn audit nguồn phải dùng snapshot lưu trữ trước đợt dọn.

Text được crawler trích từ website/abstract/PDF có text; accepted là QC tự động, không phải thẩm định nội dung y khoa. Tập có thể còn boilerplate, câu trả lời thiếu ngữ cảnh, claim nguồn hoặc nội dung lặp. Cần review/lọc phù hợp mục tiêu sử dụng; kiểm hash đạt chỉ xác nhận tính toàn vẹn. PubMed có title/abstract, không đồng nghĩa full text bài báo.

Nguồn nội dung thuộc các website tương ứng. Không suy ra giấy phép của toàn bộ văn bản từ giấy phép mã nguồn crawler; đối chiếu quyền sử dụng theo nguồn và mục đích khai thác.

Phiên bản, lưu trữ và phục hồi

Mỗi lần dùng dữ liệu nên ghi REVISION vào manifest, dùng cùng commit cho corpus/inputs và lưu config/tokenizer/chunking. metadata/training_release.json chứa hash/count kiểm kê và đường dẫn các file đã được giữ.

Các cây phụ archives/, checkpoints/, code/, corpus_jsonl/, diagnostics/, manifests/ được đưa ra khỏi main trong đợt dọn file. Chúng vẫn được giữ ở tag:

pre-training-cleanup-20261104-fa52ebed1d28

Xem snapshot trước dọn khi cần raw/checkpoint/provenance lịch sử. Một số checkpoint còn dữ liệu accepted chưa xuất thành corpus; corpus hiện tại không được tuyên bố đã bao gồm hết những record đó. Ba thư mục archive/, archive2/, archive3/ vẫn còn nguyên trên main, không cần quay về tag để lấy chúng.

Dọn file ở main không xóa vĩnh viễn lịch sử/blob lưu trữ của repository. Dung lượng tải dataset chính giảm, nhưng chỉ số storage tính cả lịch sử trên HF có thể vẫn cao. Không có thao tác squash lịch sử hoặc purge blob trong đợt phát hành này.

Tham khảo API đọc dữ liệu: Hugging Face Datasets — loading, cấu hình dataset card.