# Датасет с сегментированным текстом
Датасет содержит текст книги *"Harry Potter and the Philosopher's stone"*, сегментированный по 3 уровням: предложения, слова, биграммы
# Статистический анализ
1. **Анализ уникальности данных**: Оценка доли уникальных слов в корпусе текста и вычисление коэффициента лексического разнообразия.
2. **Анализ частоты POS-тегов**: Изучение частоты встречаемости грамматических категорий (частей речи) в тексте.
3. **TF-IDF анализ**: Определение ключевых слов в тексте с помощью метрики TF-IDF, что помогает выделить наиболее значимые термины.
# Результаты анализа
## 1. Анализ уникальности данных
Этот анализ позволил изучить, насколько разнообразен текст с точки зрения лексики, с фокусом на:
- **Долю уникальных слов**: Какую часть от общего количества слов составляют уникальные слова.
- **Коэффициент лексического разнообразия (TTR)**: Это отношение числа уникальных слов к общему количеству слов в тексте, что дает представление о разнообразии используемой ле…
