README.md

---
pretty_name: high_educability_training_split
language:
- pt
size_categories:
- 1M<n<10M
task_categories:
- text-generation
tags:
- portuguese
- educational-content
- synthetic-data
- text
configs:
- config_name: default
  data_files:
  - split: train
    path: data/high_educability_training_split.parquet
---

# high_educability_training_split

Textos em português selecionados para treinamento: originais de Carolina e Wikipédia classificados nas classes **3 ou 4** pelo `educability-norberto-mini-4class-v1`, mais as reformulações publicadas vinculadas aos originais elegíveis.

## Carregamento

```python
from datasets import load_dataset

ds = load_dataset(
    "br-llm-data/high_educability_training_split",
    split="train",
    streaming=True,
)
registro = next(iter(ds))
```

## Conteúdo e seleção

Total: **6.218.824 registros** em um único Parquet.

- Carolina: **655.167 originais** (424.924 na classe 3; 230.243 na classe 4).
- Wikipédia: **544.792 originais** (324.378 na classe 3; 220.414 na classe 4).
- Reformulações: **5.018.865 registros**, em nove subsets (`article_pt`, `commentary_pt`, `discussion_pt`, `explanation_pt`, `faq_pt`, `math_pt`, `narrative_pt`, `table_pt`, `tutorial_pt`), incluindo reformulações de trechos de artigos.
- Os originais são incluídos uma vez por ocorrência classificada. Ocorrências repetidas publicadas nas reformulações são preservadas; cada uma recebe identidade própria.
- Reformulações **não foram classificadas independentemente**. A seleção usa somente a classe do original vinculado. `predicted_class`, `probabilities`, `logits`, `classifier_revision` e campos de tokenização própria são nulos nas reformulações.

## Uso e correspondência

`text` sempre contém o texto completo da própria linha. `record_kind` distingue `original` de `reformulation`. `selection_class` contém 3 ou 4 em todas as linhas: é a classe do original que justificou a inclusão.

**`original_document_id` é a chave de ligação**: nas reformulações, aponta para `document_id` da linha original; nos originais, aponta para a própria linha. Isso evita repetir o texto original em cada reformulação. `wikipedia_page_id` preserva a chave nativa da Wikipédia.

```python
import duckdb
con = duckdb.connect()
con.execute("CREATE VIEW dados AS SELECT * FROM read_parquet('data/high_educability_training_split.parquet')")
pares = con.execute('''
  SELECT o.wikipedia_page_id, o.text AS texto_original,
         r.text AS texto_reformulado, r.dataset_config AS estilo,
         r.selection_class AS classe_do_original, r.rewrite_chunk_index
  FROM dados r JOIN dados o ON r.original_document_id = o.document_id
  WHERE r.record_kind = 'reformulation' AND o.record_kind = 'original'
  LIMIT 10
''').fetchall()
```

## Rastreabilidade

- `document_id`: ocorrência única no arquivo; nas reformulações é SHA-256 de repositório, revisão, arquivo e posição física.
- `original_id`: ID nativo da própria linha. Nas reformulações pode conter `::chunk-N`; não é o `page_id`.
- `dataset`, `dataset_repo`, `dataset_revision`, `dataset_config`, `split`, `source`, `source_method`: origem da própria linha. `prompt_id` preserva o prompt publicado.
- `original_record_json`: registro nativo completo serializado em JSON. Nos originais preserva todos os campos recebidos, incluindo XML/TEI de Carolina e `title`, `page_id`, `ns`, `section_texts` da Wikipédia. Nas reformulações preserva `id`, `title`, `text`, `subset` e `prompt_id` exatamente como publicados.
- `input_file`, `row_group`, `row_index`: localizador da ocorrência. Nas reformulações, `row_group` é nulo e `row_index` é a posição no arquivo inteiro, começando em zero. Nos originais, a posição é dentro do row group.
- `text_sha256`, `original_length`: hash UTF-8 e comprimento em pontos de código Unicode do texto integral da própria linha.
- `predicted_class`, `logits`, `probabilities`, `precision`, `temperature`, `classifier_revision`: classificação direta disponível apenas nos originais. Probabilidades calibradas com temperatura 1,138848624315927, aplicada uma vez.
- `prefix_text`, `prefix_sha256`, `content_token_ids`, `content_tokens_original`, `content_tokens_used`, `classifier_truncated`, `classifier_sequence_limit`, `special_tokens`: escopo auditável da classificação do original. Janela de 1.024 tokens, dos quais até 1.022 de conteúdo. Texto integral exportado pode exceder o prefixo avaliado.
- `selection_basis`, `selection_classifier_model`, `selection_classifier_revision`: origem do critério de seleção; `original_probabilities` e `original_logits` preservam a classificação do original também nas linhas reformuladas.
- `parent_original_id`, `parent_dataset_repo`, `parent_dataset_revision`, `parent_text_sha256`, `parent_prefix_sha256`: proveniência do original vinculado.
- `bridge_id`, `bridge_file`, `bridge_row`, `generation_index`, `linkage_method`: evidência da vinculação exata pela preparação do dataset de reformulações. `bridge_row` é a posição no arquivo inteiro, começando em zero.
- `rewrite_chunk_index`: índice do trecho, extraído apenas do sufixo explícito `::chunk-N`; nulo quando não há esse sufixo. O rótulo continua sendo do prefixo do artigo original, não uma avaliação específica desse trecho.

## Vinculação verificada

O subset `original` das reformulações usa `page_id_N`, enquanto as reformulações usam SHA-256 do JSON canônico `{"index":i,"row":{"text":texto_de_entrada}}` (UTF-8, chaves ordenadas, sem espaços, sem escapar Unicode). A preparação usou índices de lote entre 0 e 1.023. Os índices foram recuperados testando hashes exatos contra os identificadores publicados; as mudanças de numeração ficaram registradas em [recovered_link_audit.json](audit/recovered_link_audit.json). Para trechos, removeu-se somente o sufixo `::chunk-[0-9]+` antes de vincular o hash do artigo pai.

Todos os **1.171.567 identificadores-pai distintos publicados nas reformulações** foram recuperados, sem órfãos. Os 1.171.568 registros do subset `original` foram vinculados por `page_id`, e seu conteúdo foi comparado por SHA-256 com a Wikipédia classificada, removendo apenas o prefixo explícito `Título: <title>\n\n`. Não houve divergências de texto nem de identidade. Não foi usado pareamento aproximado por título ou similaridade.

O artigo `page_id_343235` (classe 3) está incluído como original e não tem reformulação publicada. Isso é ausência no dataset de origem, não exclusão pela classificação. As reformulações podem introduzir erros ou mudanças de conteúdo; a seleção herdada não confirma sua qualidade.


## Fontes e revisões

| Componente | Repositório | Revisão |
|---|---|---|
| Carolina (`default/corpus`) | [ggg-llms-team2/corpus-carolina-v2](https://huggingface.co/datasets/ggg-llms-team2/corpus-carolina-v2) | `b1b41279af99879343186dfd68a65c4cf387e9db` |
| Wikipédia (`default/train`, Parquet) | [br-llm-data/wikipedia-pt-br-extract](https://huggingface.co/datasets/br-llm-data/wikipedia-pt-br-extract) | `0f1cd2678495e067aec66d535b3025b15ed74eed` |
| Reformulações (nove subsets, `train`) | [br-llm-data/wikipedia_rephrase_pt](https://huggingface.co/datasets/br-llm-data/wikipedia_rephrase_pt) | `b483a3205e6370a7e1d93b95faf06b342e23f223` |
| Classificador | [gregassagraf/educability-norberto-mini-4class-v1](https://huggingface.co/gregassagraf/educability-norberto-mini-4class-v1) | `a249e2f5833b0490d3faa0b02631cf7f88875afe` |

O subset `original` das reformulações foi usado somente como ponte. A lista dos 60 Parquets de origem está em [audit/source_files.json](audit/source_files.json); os caminhos reais são `<subset>/train-*.parquet`, apesar do prefixo `data/` anunciado no card dessa revisão.

## Validações e limitações

Foram verificados contagem total, unicidade de `document_id`, inclusão de todos os originais elegíveis, classes de seleção, probabilidades, vínculos aos pais e hashes dos textos. Resultados em [manifest.json](manifest.json). As contagens por arquivo estão em [audit/selection_audit.json](audit/selection_audit.json).

Há 184.806 reformulações de trechos e 345 ocorrências adicionais com o mesmo par `(dataset_config, original_id)`, preservadas conforme a publicação. Todas têm `document_id` próprio. 544.791 artigos elegíveis têm reformulações publicadas.

O classificador avalia somente o prefixo do original. A seleção não certifica a precisão factual do texto completo ou de reformulações sintéticas. Domínios presentes no treinamento do classificador, truncamento e repetição podem afetar a composição deste conjunto.

## Licenças e atribuição

As condições de origem são descritas em [LICENSE_NOTICES.md](LICENSE_NOTICES.md). Não se atribui uma licença única ao conjunto: a extração da Wikipédia declara CC BY-SA 3.0, as reformulações declaram CC BY-SA 4.0, e o card do Carolina na revisão utilizada não declara uma licença no campo de metadados. Os registros preservam a proveniência e os metadados de origem.