Datasets:
Upload README.md with huggingface_hub
Browse files
README.md
CHANGED
|
@@ -16,7 +16,7 @@ coletados por `crawler-ons/ons_crawler.py` (bibliotecas SharePoint de
|
|
| 16 |
e semanal do SDRO, o portal de dados abertos `dados.ons.org.br` e o site legado),
|
| 17 |
convertidos em texto.
|
| 18 |
|
| 19 |
-
**
|
| 20 |
quais foi possível extrair algum texto.
|
| 21 |
|
| 22 |
## Estrutura
|
|
@@ -55,7 +55,7 @@ print(ds[0]["text"][:500])
|
|
| 55 |
| source | arquivos |
|
| 56 |
|---|---|
|
| 57 |
| `sharepoint` | 10525 |
|
| 58 |
-
| `dados-abertos` |
|
| 59 |
| `sdro-diario` | 4242 |
|
| 60 |
| `sdro-semanal` | 598 |
|
| 61 |
| `publico-legado` | 5 |
|
|
@@ -65,13 +65,13 @@ print(ds[0]["text"][:500])
|
|
| 65 |
| extensão | arquivos |
|
| 66 |
|---|---|
|
| 67 |
| `pdf` | 10302 |
|
| 68 |
-
| `xlsx` |
|
| 69 |
| `docx` | 2097 |
|
| 70 |
-
| `csv` |
|
| 71 |
-
| `parquet` |
|
| 72 |
| `doc` | 454 |
|
| 73 |
| `zip` | 151 |
|
| 74 |
-
| `json` |
|
| 75 |
| `ana` | 10 |
|
| 76 |
| `pptx` | 3 |
|
| 77 |
| `xlsm` | 3 |
|
|
|
|
| 16 |
e semanal do SDRO, o portal de dados abertos `dados.ons.org.br` e o site legado),
|
| 17 |
convertidos em texto.
|
| 18 |
|
| 19 |
+
**20572 arquivos (98.1 GB nos originais).** Entram todos os arquivos dos
|
| 20 |
quais foi possível extrair algum texto.
|
| 21 |
|
| 22 |
## Estrutura
|
|
|
|
| 55 |
| source | arquivos |
|
| 56 |
|---|---|
|
| 57 |
| `sharepoint` | 10525 |
|
| 58 |
+
| `dados-abertos` | 5202 |
|
| 59 |
| `sdro-diario` | 4242 |
|
| 60 |
| `sdro-semanal` | 598 |
|
| 61 |
| `publico-legado` | 5 |
|
|
|
|
| 65 |
| extensão | arquivos |
|
| 66 |
|---|---|
|
| 67 |
| `pdf` | 10302 |
|
| 68 |
+
| `xlsx` | 4175 |
|
| 69 |
| `docx` | 2097 |
|
| 70 |
+
| `csv` | 1737 |
|
| 71 |
+
| `parquet` | 1614 |
|
| 72 |
| `doc` | 454 |
|
| 73 |
| `zip` | 151 |
|
| 74 |
+
| `json` | 24 |
|
| 75 |
| `ana` | 10 |
|
| 76 |
| `pptx` | 3 |
|
| 77 |
| `xlsm` | 3 |
|