| {
|
| "target_tokens": 250000000,
|
| "target_label": "250M",
|
| "actual_tokens": 250000289,
|
| "chunks_selected": 187989,
|
| "chunks_total": 924639,
|
| "target_seed_size": 164785,
|
| "bucket_count": 10000,
|
| "method": "DSIR Gumbel resampled hashed 1+2gram M=10000 split+zlib.crc32 parallel shard offset-IPC",
|
| "seed": 42,
|
| "kl_divergence": {
|
| "pre": 0.0769,
|
| "post": 0.0534,
|
| "reduction": 0.0234,
|
| "ratio": 0.305,
|
| "gate_pass": true
|
| },
|
| "gates": {
|
| "duplicate_ratio": 0.0,
|
| "duplicate_pass": true,
|
| "hoje_ratio": 0.0269,
|
| "hoje_pass": true,
|
| "kl_gate_pass": true,
|
| "expected_threshold": 375977.6,
|
| "r_predictive": 0.82
|
| },
|
| "by_category_total": {
|
| "aviso aos acionistas": 17755,
|
| "comunicado ao mercado": 120144,
|
| "dados econômico-financeiros": 687012,
|
| "fato relevante": 26886,
|
| "política de divulgação de ato ou fato relevante": 2771,
|
| "acordo de acionistas": 5232,
|
| "política de negociação das ações da companhia": 575,
|
| "informações de companhias em recuperação judicial ou extrajudicial": 28933,
|
| "plano de remuneração baseado em ações": 1159,
|
| "estatuto social": 23934,
|
| "código de conduta": 2851,
|
| "relatório de sustentabilidade": 1864,
|
| "regimento interno do comitê de auditoria estatutário": 294,
|
| "plano de remuneração baseado em ações (exceto plano de opções)": 228,
|
| "comunicação sobre transação entre partes relacionadas": 1700,
|
| "política de dividendos": 114,
|
| "política de gerenciamento de riscos": 437,
|
| "política de transações entre partes relacionadas": 351,
|
| "carta anual de governança corporativa": 506,
|
| "política de remuneração": 135,
|
| "regimento interno de comitês": 696,
|
| "regimento interno do conselho de administração": 452,
|
| "regimento interno do conselho fiscal": 238,
|
| "política sobre contribuições e doações": 23,
|
| "política de destinação de resultados": 74,
|
| "regimento interno da diretoria": 140,
|
| "política para contratação de serviços extra-auditoria de seus auditores independentes": 40,
|
| "política de negociação de valores mobiliários": 91,
|
| "política de sustentabilidade": 4
|
| },
|
| "by_category_selected": {
|
| "comunicado ao mercado": 64943,
|
| "dados econômico-financeiros": 49399,
|
| "relatório de sustentabilidade": 409,
|
| "aviso aos acionistas": 14371,
|
| "fato relevante": 22494,
|
| "política de negociação das ações da companhia": 519,
|
| "código de conduta": 1250,
|
| "informações de companhias em recuperação judicial ou extrajudicial": 3050,
|
| "política de divulgação de ato ou fato relevante": 2579,
|
| "acordo de acionistas": 3921,
|
| "estatuto social": 20744,
|
| "comunicação sobre transação entre partes relacionadas": 875,
|
| "política de negociação de valores mobiliários": 80,
|
| "plano de remuneração baseado em ações": 1043,
|
| "política de dividendos": 88,
|
| "política de gerenciamento de riscos": 123,
|
| "regimento interno do conselho fiscal": 193,
|
| "política de remuneração": 98,
|
| "plano de remuneração baseado em ações (exceto plano de opções)": 202,
|
| "regimento interno do comitê de auditoria estatutário": 113,
|
| "regimento interno da diretoria": 104,
|
| "regimento interno do conselho de administração": 370,
|
| "regimento interno de comitês": 486,
|
| "carta anual de governança corporativa": 289,
|
| "política de transações entre partes relacionadas": 183,
|
| "política de destinação de resultados": 43,
|
| "política para contratação de serviços extra-auditoria de seus auditores independentes": 13,
|
| "política sobre contribuições e doações": 6,
|
| "política de sustentabilidade": 1
|
| },
|
| "top_buckets": [
|
| {
|
| "bucket": 2792,
|
| "log_ratio": 1.5442,
|
| "top_ngram": "",
|
| "count": 0
|
| },
|
| {
|
| "bucket": 9227,
|
| "log_ratio": 1.5204,
|
| "top_ngram": "",
|
| "count": 0
|
| },
|
| {
|
| "bucket": 8225,
|
| "log_ratio": 1.5123,
|
| "top_ngram": "",
|
| "count": 0
|
| },
|
| {
|
| "bucket": 9317,
|
| "log_ratio": 1.467,
|
| "top_ngram": "",
|
| "count": 0
|
| },
|
| {
|
| "bucket": 3910,
|
| "log_ratio": 1.4287,
|
| "top_ngram": "",
|
| "count": 0
|
| },
|
| {
|
| "bucket": 807,
|
| "log_ratio": 1.4116,
|
| "top_ngram": "",
|
| "count": 0
|
| },
|
| {
|
| "bucket": 8208,
|
| "log_ratio": 1.3746,
|
| "top_ngram": "",
|
| "count": 0
|
| },
|
| {
|
| "bucket": 9662,
|
| "log_ratio": 1.3459,
|
| "top_ngram": "",
|
| "count": 0
|
| },
|
| {
|
| "bucket": 8985,
|
| "log_ratio": 1.258,
|
| "top_ngram": "",
|
| "count": 0
|
| },
|
| {
|
| "bucket": 7986,
|
| "log_ratio": 1.2509,
|
| "top_ngram": "",
|
| "count": 0
|
| }
|
| ],
|
| "input": "D:\\Repositories\\research\\logun\\dataset\\data\\output\\corpus.jsonl",
|
| "output": "D:\\Repositories\\research\\logun\\dataset\\data\\output\\corpus-250M.jsonl"
|
| } |
