{
  "target_tokens": 250000000,
  "target_label": "250M",
  "actual_tokens": 250000289,
  "chunks_selected": 187989,
  "chunks_total": 924639,
  "target_seed_size": 164785,
  "bucket_count": 10000,
  "method": "DSIR Gumbel resampled hashed 1+2gram M=10000 split+zlib.crc32 parallel shard offset-IPC",
  "seed": 42,
  "kl_divergence": {
    "pre": 0.0769,
    "post": 0.0534,
    "reduction": 0.0234,
    "ratio": 0.305,
    "gate_pass": true
  },
  "gates": {
    "duplicate_ratio": 0.0,
    "duplicate_pass": true,
    "hoje_ratio": 0.0269,
    "hoje_pass": true,
    "kl_gate_pass": true,
    "expected_threshold": 375977.6,
    "r_predictive": 0.82
  },
  "by_category_total": {
    "aviso aos acionistas": 17755,
    "comunicado ao mercado": 120144,
    "dados econômico-financeiros": 687012,
    "fato relevante": 26886,
    "política de divulgação de ato ou fato relevante": 2771,
    "acordo de acionistas": 5232,
    "política de negociação das ações da companhia": 575,
    "informações de companhias em recuperação judicial ou extrajudicial": 28933,
    "plano de remuneração baseado em ações": 1159,
    "estatuto social": 23934,
    "código de conduta": 2851,
    "relatório de sustentabilidade": 1864,
    "regimento interno do comitê de auditoria estatutário": 294,
    "plano de remuneração baseado em ações (exceto plano de opções)": 228,
    "comunicação sobre transação entre partes relacionadas": 1700,
    "política de dividendos": 114,
    "política de gerenciamento de riscos": 437,
    "política de transações entre partes relacionadas": 351,
    "carta anual de governança corporativa": 506,
    "política de remuneração": 135,
    "regimento interno de comitês": 696,
    "regimento interno do conselho de administração": 452,
    "regimento interno do conselho fiscal": 238,
    "política sobre contribuições e doações": 23,
    "política de destinação de resultados": 74,
    "regimento interno da diretoria": 140,
    "política para contratação de serviços extra-auditoria de seus auditores independentes": 40,
    "política de negociação de valores mobiliários": 91,
    "política de sustentabilidade": 4
  },
  "by_category_selected": {
    "comunicado ao mercado": 64943,
    "dados econômico-financeiros": 49399,
    "relatório de sustentabilidade": 409,
    "aviso aos acionistas": 14371,
    "fato relevante": 22494,
    "política de negociação das ações da companhia": 519,
    "código de conduta": 1250,
    "informações de companhias em recuperação judicial ou extrajudicial": 3050,
    "política de divulgação de ato ou fato relevante": 2579,
    "acordo de acionistas": 3921,
    "estatuto social": 20744,
    "comunicação sobre transação entre partes relacionadas": 875,
    "política de negociação de valores mobiliários": 80,
    "plano de remuneração baseado em ações": 1043,
    "política de dividendos": 88,
    "política de gerenciamento de riscos": 123,
    "regimento interno do conselho fiscal": 193,
    "política de remuneração": 98,
    "plano de remuneração baseado em ações (exceto plano de opções)": 202,
    "regimento interno do comitê de auditoria estatutário": 113,
    "regimento interno da diretoria": 104,
    "regimento interno do conselho de administração": 370,
    "regimento interno de comitês": 486,
    "carta anual de governança corporativa": 289,
    "política de transações entre partes relacionadas": 183,
    "política de destinação de resultados": 43,
    "política para contratação de serviços extra-auditoria de seus auditores independentes": 13,
    "política sobre contribuições e doações": 6,
    "política de sustentabilidade": 1
  },
  "top_buckets": [
    {
      "bucket": 2792,
      "log_ratio": 1.5442,
      "top_ngram": "",
      "count": 0
    },
    {
      "bucket": 9227,
      "log_ratio": 1.5204,
      "top_ngram": "",
      "count": 0
    },
    {
      "bucket": 8225,
      "log_ratio": 1.5123,
      "top_ngram": "",
      "count": 0
    },
    {
      "bucket": 9317,
      "log_ratio": 1.467,
      "top_ngram": "",
      "count": 0
    },
    {
      "bucket": 3910,
      "log_ratio": 1.4287,
      "top_ngram": "",
      "count": 0
    },
    {
      "bucket": 807,
      "log_ratio": 1.4116,
      "top_ngram": "",
      "count": 0
    },
    {
      "bucket": 8208,
      "log_ratio": 1.3746,
      "top_ngram": "",
      "count": 0
    },
    {
      "bucket": 9662,
      "log_ratio": 1.3459,
      "top_ngram": "",
      "count": 0
    },
    {
      "bucket": 8985,
      "log_ratio": 1.258,
      "top_ngram": "",
      "count": 0
    },
    {
      "bucket": 7986,
      "log_ratio": 1.2509,
      "top_ngram": "",
      "count": 0
    }
  ],
  "input": "D:\\Repositories\\research\\logun\\dataset\\data\\output\\corpus.jsonl",
  "output": "D:\\Repositories\\research\\logun\\dataset\\data\\output\\corpus-250M.jsonl"
}