Dataset Viewer
Auto-converted to Parquet Duplicate
id
stringlengths
59
73
messages
listlengths
2
2
construction_58_Контракт___0321...___22635244194260010230002.bin_chunk_0
[ { "role": "user", "content": "<document>\nКОНТРАКТ № 0321500001626000075\n\nОказание услуг по лабораторным испытаниям строительных материалов\n\nи контролируемых в них показателей на прочность (бетон тяжелый, мелкозернистый, легкий)\n\nИдентификационный код закупки в соответствии с планом-графиком\n\n262263...
construction_58_Контракт___0321...___22635244194260010230002.bin_chunk_1
[ { "role": "user", "content": "<document>\nКОНТРАКТ № 0321500001626000075\n\nОказание услуг по лабораторным испытаниям строительных материалов\n\nи контролируемых в них показателей на прочность (бетон тяжелый, мелкозернистый, легкий)\n\nИдентификационный код закупки в соответствии с планом-графиком\n\n262263...
construction_58_Контракт___0321...___22635244194260010230002.bin_chunk_2
[ { "role": "user", "content": "<document>\nКОНТРАКТ № 0321500001626000075\n\nОказание услуг по лабораторным испытаниям строительных материалов\n\nи контролируемых в них показателей на прочность (бетон тяжелый, мелкозернистый, легкий)\n\nИдентификационный код закупки в соответствии с планом-графиком\n\n262263...
construction_58_Контракт___0321...___22635244194260010230002.bin_chunk_3
[ { "role": "user", "content": "<document>\nКОНТРАКТ № 0321500001626000075\n\nОказание услуг по лабораторным испытаниям строительных материалов\n\nи контролируемых в них показателей на прочность (бетон тяжелый, мелкозернистый, легкий)\n\nИдентификационный код закупки в соответствии с планом-графиком\n\n262263...
construction_58_Контракт___0321...___22635244194260010230002.bin_chunk_4
[ { "role": "user", "content": "<document>\nКОНТРАКТ № 0321500001626000075\n\nОказание услуг по лабораторным испытаниям строительных материалов\n\nи контролируемых в них показателей на прочность (бетон тяжелый, мелкозернистый, легкий)\n\nИдентификационный код закупки в соответствии с планом-графиком\n\n262263...
construction_58_Контракт___0321...___22635244194260010230002.bin_chunk_5
[ { "role": "user", "content": "<document>\nКОНТРАКТ № 0321500001626000075\n\nОказание услуг по лабораторным испытаниям строительных материалов\n\nи контролируемых в них показателей на прочность (бетон тяжелый, мелкозернистый, легкий)\n\nИдентификационный код закупки в соответствии с планом-графиком\n\n262263...
construction_58_Контракт___0321...___22635244194260010230002.bin_chunk_6
[ { "role": "user", "content": "<document>\nКОНТРАКТ № 0321500001626000075\n\nОказание услуг по лабораторным испытаниям строительных материалов\n\nи контролируемых в них показателей на прочность (бетон тяжелый, мелкозернистый, легкий)\n\nИдентификационный код закупки в соответствии с планом-графиком\n\n262263...
construction_58_Контракт___0321...___22635244194260010230002.bin_chunk_7
[ { "role": "user", "content": "<document>\nКОНТРАКТ № 0321500001626000075\n\nОказание услуг по лабораторным испытаниям строительных материалов\n\nи контролируемых в них показателей на прочность (бетон тяжелый, мелкозернистый, легкий)\n\nИдентификационный код закупки в соответствии с планом-графиком\n\n262263...
construction_58_Контракт___0321...___22635244194260010230002.bin_chunk_8
[ { "role": "user", "content": "<document>\nКОНТРАКТ № 0321500001626000075\n\nОказание услуг по лабораторным испытаниям строительных материалов\n\nи контролируемых в них показателей на прочность (бетон тяжелый, мелкозернистый, легкий)\n\nИдентификационный код закупки в соответствии с планом-графиком\n\n262263...
construction_58_Контракт___0321...___22635244194260010230002.bin_chunk_9
[{"role":"user","content":"<document>\nКОНТРАКТ № 0321500001626000075\n\nОказание(...TRUNCATED)
End of preview. Expand in Data Studio

ru-contextual-chunks

Датасет для обучения и оценки моделей в задаче Contextual Retrieval (Anthropic-style chunk contextualization) на русском языке (договоры, контракты и официальная документация РФ).

Описание

Каждая запись представляет чанк документа, сопоставленный с полным документом, и сгенерированное краткое описание контекста (1-2 предложения), привязывающее фрагмент к общему содержанию документа.

Подход решает проблему потери контекста при классическом чанковании в RAG / BM25 / dense search пайплайнах.

Конфигурации датасета

  1. default (SFT формат, ShareGPT / OpenAI chat format):
    • messages: [{"role": "user", "content": ...}, {"role": "assistant", "content": ...}] — готово для SFT / instruction tuning (LLaMA-Factory, Axolotl, Unsloth, TRL).
  2. metadata (Расширенные поля):
    • id: уникальный хеш чанка.
    • category: тип документа (напр. contracts_agreements).
    • doc_id: идентификатор исходного документа.
    • is_table: булевый флаг наличия табличной структуры.
    • is_requisites: флаг реквизитов / подписей.
    • chunk: исходный текст чанка.
    • generated_context: сгенерированный контекст чанка.
    • doc_chunk_index / doc_total_chunks: позиция чанка в документе.

Использование

from datasets import load_dataset

# SFT формат для обучения
ds_sft = load_dataset("p4ulbr4dl3y/ru-contextual-chunks")
print(ds_sft["train"][0]["messages"])

# Формат с метаданными
ds_meta = load_dataset("p4ulbr4dl3y/ru-contextual-chunks", "metadata")
print(ds_meta["train"][0]["generated_context"])
Downloads last month
43