| --- |
| license: mit |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: data/train-* |
| dataset_info: |
| features: |
| - name: sentence |
| dtype: string |
| - name: word |
| dtype: string |
| - name: bigram |
| dtype: string |
| splits: |
| - name: train |
| num_bytes: 586050 |
| num_examples: 6394 |
| download_size: 380897 |
| dataset_size: 586050 |
| task_categories: |
| - text-generation |
| language: |
| - en |
| tags: |
| - linguistics |
| - text_processing |
| pretty_name: harry potter dataset |
| size_categories: |
| - 10K<n<100K |
| --- |
| # Статистический анализ и визуализация |
|
|
| ## Описание |
|
|
| Данный датасет представляет результат статистического анализа текста книги *"Harry Potter and the Philosopher's Stone"*, выполненного с использованием различных методов обработки естественного языка. В процессе анализа были проведены три ключевых типа анализа: |
|
|
| 1. **Анализ уникальности данных**: Оценка доли уникальных слов в корпусе текста и вычисление коэффициента лексического разнообразия. |
| 2. **Анализ частоты POS-тегов**: Изучение частоты встречаемости грамматических категорий (частей речи) в тексте. |
| 3. **TF-IDF анализ**: Определение ключевых слов в тексте с помощью метрики TF-IDF, что помогает выделить наиболее значимые термины. |
|
|
| ## 1. Анализ уникальности данных |
| Этот анализ позволил изучить, насколько разнообразен текст с точки зрения лексики, с фокусом на: |
| - **Долю уникальных слов**: Какую часть от общего количества слов составляют уникальные слова. |
| - **Коэффициент лексического разнообразия (TTR)**: Это отношение числа уникальных слов к общему количеству слов в тексте, что дает представление о разнообразии используемой лексики. |
|
|
| **Выводы**: Анализ показал, что текст имеет тносительно низкий показатель для большинства текстов. Он может свидетельствовать о том, что текст содержит много повторяющихся слов, и возможно, включает в себя большое количество стоп-слов или слов, используемых часто в повторяющихся контекстах. |
|
|
| ## 2. Анализ частоты POS-тегов |
| Этот анализ был проведен с использованием библиотеки Spacy для извлечения грамматических категорий (частей речи) текста, что позволяет понять, как часто используются различные части речи (например, существительные, глаголы, прилагательные и т. д.). |
|
|
| **Выводы**: Частотный анализ POS-тегов помог выявить наиболее часто встречающиеся части речи, что может дать представление о структуре текста. Например, доминирование существительных и глаголов может указывать на более фактический или описательный характер текста. |
| - **Пунктуация (PUNCT)** на первом месте — это обычное явление, если текст сложный или включает длинные предложения с множеством зависимых элементов. |
| - **Глаголы (VERB)** и **существительные (NOUN)** занимают высокие позиции, что говорит о динамичности текста и активном описании событий или объектов. |
| - **Местоимения (PRON)** также в топе, что может говорить о высоком уровне повторяемости понятий и объектов, о которых уже говорилось в тексте. |
| - **Предлоги (ADP)** свидетельствуют о наличии сложных отношений между словами в предложении. |
|
|
|
|
| ## 3. TF-IDF анализ |
| Используя метрику **TF-IDF (Term Frequency-Inverse Document Frequency)**, был проведен анализ ключевых слов в тексте. Этот метод помогает выделить наиболее важные и значимые слова, игнорируя часто встречающиеся, но не информативные термины (например, стоп-слова). |
|
|
| **Выводы**: TF-IDF анализ помог определить топовые ключевые слова в тексте, что может быть полезно для дальнейшей классификации или извлечения информации из текста. Тренды, выявленные с помощью TF-IDF, отражают важнейшие термины, которые характеризуют содержание текста. |
|
|
| ## Визуализация |
| 1. **Гистограмма частоты слов**: Гистограмма, отображающая 20 самых частых слов в тексте (без учета стоп-слов). Это позволяет увидеть, какие слова доминируют в тексте и имеют наибольшее значение. |
|
|
|  |
|
|
| Для более репрезентативной визуализации данных анализа также были построены графики с удаленными стоп-словами: |
|
|
|  |
|
|
| 2. **Облако слов** |
|
|
|  |
|
|
| Без учета стоп-слов: |
|
|
|  |
|
|
| 3. **Облако ключевых слов**: Облако слов, созданное на основе анализа TF-IDF, помогает визуализировать наиболее важные слова, выделенные в тексте, что дает наглядное представление о ключевых терминах. |
|
|
|  |
|
|
| Без учета стоп-слов: |
|
|
|  |
