| --- |
| dataset_info: |
| features: |
| - name: sentences |
| dtype: string |
| - name: tokens |
| dtype: string |
| - name: bigrams |
| dtype: string |
| splits: |
| - name: train |
| num_bytes: 2027746 |
| num_examples: 5206 |
| download_size: 93846 |
| dataset_size: 2027746 |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: data/train-* |
| license: mit |
| language: |
| - en |
| pretty_name: segmented dataset |
| --- |
| |
| # Датасет с сегментированным текстом |
|
|
| Датасет содержит текст, сегментированный по предложениям, словам и биграммам. |
|
|
| ## Описание датасета |
|
|
| ### Статистический анализ |
|
|
| Проведено 4 типа статистического анализа: |
|
|
| - Анализ лексического разнообразия (метрики TTR, HLR) |
| - Анализ частоты POS-тегов |
| - Анализ длин предложений, слов и биграмм |
| - Анализ совместной встречаемости |
|
|
| ### Результаты |
|
|
| - Текст характеризуется низким уровнем лексического разнообразия (TTR = 0.00300578364055956, HLR = 0) |
| - Наблюдается высокий коэффициент статичности, выраженный в преобладании именных форм над глагольными |
| - Длины предложений распределены неравномерно |
|
|
|  |
|  |
|  |
|  |
|  |
|  |
|  |
