br-llm-data/cutia-corpus-v1

CutIA-Corpus v1

Corpus em português para pré-treinamento continuado (CPT) de modelos de linguagem, montado pelo grupo BR-LLM. Reúne 35 fontes num schema único, deduplicadas entre si (exato e fuzzy), com contagem de tokens e rótulo de valor educacional em cada documento.

Uso: pesquisa, dentro do grupo. O acesso é controlado e aprovado manualmente. Cada fonte mantém os termos de uso do seu repositório de origem.

Números

	Documentos	Tokens (Qwen3)
Corpus (default)	1.184.179.060	1.329.357.679.427
Removidos na deduplicação (quarantine_map, sem texto)	881.281.072	802.760.742.771

Tokens contados com o tokenizador do Qwen/Qwen3-1.7B-Base, sem tokens especiais. Antes da deduplicação eram 2.065.460.132 documentos.

Como foi feito

1. Ingestão: cada fonte lida do original e convertida para o mesmo schema, com doc_uid global e a origem de cada documento (repositório, revisão, arquivo, linha, id original, URL, datas).
2. Deduplicação exata: hash xxh3 de 128 bits do texto normalizado (NFC, espaços colapsados).
3. Deduplicação fuzzy (NeMo Curator): MinHash de 24-gramas de caracteres, 20 bandas × 13, LSH; remove só com Jaccard estimado ≥ 0,9 em relação ao documento mantido. Nas fontes primárias do grupo, não remove por semelhança dentro da mesma fonte.
4. Qual cópia fica: conteúdo mais recente; depois a fonte mais próxima do original; depois a versão mais nova do dataset; depois doc_uid.
5. Rótulo de educabilidade: classificador gregassagraf/educability-norberto-mini-4class-v1 (revisão 6a114f1), classes 1 (baixo valor educacional) a 4 (alto). É rótulo, não filtro: nenhum documento foi descartado por ele.

Configs

• default: o corpus inteiro.
• Uma config por fonte (source_dataset), para carregar só uma parte.
• quarantine_map: os documentos removidos, sem texto, cada um com o documento que ficou no lugar.
• contamination: candidatos a contaminação por conjuntos de avaliação, sem texto (ver abaixo).
• form_labels: rótulos de forma, idioma, dados pessoais e contaminação por documento (ver abaixo).

from datasets import load_dataset

ds = load_dataset("br-llm-data/cutia-corpus-v1", split="train", streaming=True)

Colunas do corpus

Coluna	Descrição
doc_id, doc_uid	identificador do documento no corpus (texto e inteiro)
text	texto
source_dataset	fonte
source_config, source_split, source_revision, source_file, source_row, source_doc_id	onde o documento está na origem
upstream, url	origem declarada pela fonte e URL do documento
content_date, content_date_kind	data do conteúdo e o que ela representa (publicação, coleta, snapshot)
release_date, extraction_date	versão do dataset de origem e data da ingestão
n_chars, n_tokens	caracteres e tokens Qwen3
content_kind	synthetic nas fontes sintéticas
source_meta	metadados originais da fonte, em JSON
text_xxh3_128	hash do texto normalizado usado no dedup exato
educability_class, educability_label	classe de educabilidade (1 a 4)
educability_p1 … educability_p4	probabilidades de cada classe
educability_expected_score	score esperado, Σ i·pᵢ
educability_max_chunk_score, educability_first_chunk_score	score do melhor trecho e do primeiro
educability_tokens_used, educability_chunk_count, educability_truncated, educability_status	dados da inferência

Colunas do quarantine_map

Coluna	Descrição
doc_id, doc_uid, source_dataset	o documento removido
removal_stage	exact ou fuzzy
group_id, group_size	grupo de duplicatas
kept_doc_uid, kept_doc_id, kept_source_dataset, kept_content_date	o documento mantido no grupo
decided_by	critério que decidiu qual ficou
similarity_to_kept	Jaccard estimado (1,0 no exato)
final_kept_doc_uid	o documento que está no corpus no lugar deste (segue cadeias exato → fuzzy)
n_chars, n_tokens, text_xxh3_128	tamanho e hash do texto removido

Rótulos de forma (form_labels)

Sinais de forma, extração, idioma, dados pessoais e contaminação por conjuntos de avaliação, um registro por documento do corpus (1.184.179.060 linhas), calculados numa passada sobre o texto. Ficam em labels/form-v1/<fonte>/, uma pasta por source_dataset, só com doc_uid e colunas numéricas. Nenhum documento foi removido ou alterado por eles.

Para juntar com o corpus, use doc_uid:

from datasets import load_dataset

labels = load_dataset("br-llm-data/cutia-corpus-v1", "form_labels", split="train", streaming=True)

import duckdb

duckdb.sql("CREATE SECRET hf (TYPE huggingface, PROVIDER credential_chain)")
duckdb.sql("""
    SELECT d.doc_uid, d.text, l.pt_frac, l.dup_line_frac, l.bench_hits
    FROM 'hf://datasets/br-llm-data/cutia-corpus-v1/data/scielo/*.parquet' d
    JOIN 'hf://datasets/br-llm-data/cutia-corpus-v1/labels/form-v1/scielo/*.parquet' l USING (doc_uid)
    LIMIT 10
""").show()

Família	Colunas
Forma	n_words, n_sentences, n_lines, ttr (bruto), mattr (janela de 500 palavras), punct_ratio, n_urls, n_emoji (só faixas de pictogramas; U+2600–27BF só com U+FE0F), n_mentions, n_refs, repeated_char_ratio, special_char_ratio, as 13 razões do Gopher (dup_line_frac, dup_para_frac, dup_*_char_frac, top_{2,3,4}gram_frac, dup_{5..10}gram_frac), n_toxic, toxic_ratio
Extração	n_html_tags, n_html_entities, n_cid, n_replacement, n_mojibake, n_pdf_symbols (dingbats sem FE0F e Private Use Area), n_broken_accent ("PROGRAMAÇ ÃO", "S ÃO"), table_line_frac, separator_line_frac, n_boilerplate, short_line_frac, digit_ratio, symbol_ratio, n_hyphen_breaks, no_final_punct, code_line_frac
Idioma	pt_frac, lang_coverage, lang_main_id (posição na lista do fastText lid.176, em labels/form-v1/lang_labels.json; -1 sem idioma identificado), lang_ident_chars, lang_skipped_chars, lang_decision (0 mantém, 1 outro idioma, 2 sem idioma)
Dados pessoais	pii_cpf, pii_cpf_bare, pii_cnpj, pii_cnpj_bare (com dígito verificador), pii_email, pii_phone, pii_cep, pii_plate (só com placa, veículo, carro, moto, caminhão, Detran ou Renavam a até 40 caracteres)
Contaminação	bench_hits e bench_hits_<grupo> (13-gramas distintos casados com conjuntos de avaliação), bench_max_item_frac (maior fração dos n-gramas de um item no documento), bench_hashes (lista esparsa dos hashes casados)

Idioma: fastText lid.176 em trechos de 2.000 caracteres. Contaminação: 13-gramas de palavras do texto normalizado (NFC, minúsculas, sem pontuação, espaços colapsados), comparados com os dos conjuntos de teste; bench_hashes permite refinar a regra depois sem varrer o corpus de novo. Textos com mais de 1 milhão de caracteres são medidos em segmentos de 1 milhão; ttr, mattr e as razões do Gopher descrevem o primeiro.

Rótulo, não filtro. As flags que se derivam destes sinais, inclusive lang_decision, usam limiares provisórios, ainda em revisão pelo grupo. Servem para medir e estudar o corpus, não para filtrar documentos.

Contaminação por benchmarks (contamination)

Candidatos a cópia de itens de conjuntos de avaliação em português no corpus, em labels/contamination-v1/, como rótulo: nenhum documento foi removido, e cada usuário escolhe o corte. Os arquivos não têm texto de documento, de questão nem de n-grama.

• Conjuntos: Canarinho v0, PoETaV2, INCLUDE-2.0 PT, Portuguese-IFEval, CulturalRiddles PT e gsm8k-pt. Cada item (questão, prompt ou exemplo) vira um conjunto de n-gramas de 13 palavras, do texto normalizado como o do corpus (NFC, minúsculas, sem pontuação, espaços colapsados).
• df e n-gramas raros: o df de um n-grama é o número de documentos do corpus em que ele aparece. Para um limite K, o n-grama é raro se df ≤ K. Um n-grama que circula em muitos documentos (artigo da Constituição, poema, rodapé de site) não indica cópia da questão.
• Cobertura rara de um item num documento: n-gramas raros do item presentes no documento dividido pelos n-gramas raros do item (cobertura_rara); cobertura_bruta faz a mesma conta com todos os n-gramas.
• Candidatos: pares (documento, item) com cobertura_rara ≥ 0,5 e n_raros ≥ 5, para K = 10, 100 e 1000, uma linha por par e K.

Arquivo	Colunas
candidates*.parquet	doc_uid, fonte, grupo, item_id, K, n_ngramas (do item), n_raros (do item, para esse K), raros_casados (no documento), cobertura_rara, cobertura_bruta
items.parquet	item_id, grupo, arquivo, linha, n_ngramas: onde está o item no conjunto de origem

Corte sugerido: K = 1000, cobertura_rara ≥ 0,5 e n_raros ≥ 10. Marca 83.403 documentos (cerca de 645 milhões de tokens), quase todos cópias de questões do ENEM. As citações comuns ficam fora em qualquer K.

import duckdb

duckdb.sql("CREATE SECRET hf (TYPE huggingface, PROVIDER credential_chain)")
duckdb.sql("""
    SELECT DISTINCT doc_uid
    FROM 'hf://datasets/br-llm-data/cutia-corpus-v1/labels/contamination-v1/candidates*.parquet'
    WHERE K = 1000 AND cobertura_rara >= 0.5 AND n_raros >= 10
""").show()

Os doc_uid juntam com data e com form_labels. Os cortes são limiares provisórios: servem para rótulo, não para filtro automático.