Update README.md

README.md

@@ -12,3 +12,41 @@ task_ids:
 
 # Pikabushnik RuDataset
 
+## Параметры датасета
+- Тип контента: только комментарии
+- Минимальный рейтинг комментария: 20
+- Тематика: посты с тегом "юмор"
+- Язык: русский
+
+## Структура данных
+- num - уникальный номер записи
+- system - системный промпт для модели
+- user - контекст (текст поста или родительского комментария)
+- assistant - текст комментария
+- u_tokens - количество токенов в контексте
+- a_tokens - количество токенов в комментарии
+- u_lang - язык контекста (ru)
+- a_lang - язык комментария (ru)
+- cluster - случайный номер кластера
+
+## Особенности обработки
+- Очистка от HTML-тегов
+- Удаление ссылок и упоминаний
+- Фильтрация коротких текстов (менее 3 слов)
+- Удаление комментариев на английском языке
+- Сохранение только комментариев с высоким рейтингом
+- Сохранение иерархии комментариев (ответы на посты и другие комментарии)
+
+## Использование
+- Для обучения диалоговых моделей
+- Для fine-tuning существующих LLM
+- Для анализа юмористических диалогов
+- Для тестирования моделей на русском языке
+
+## Оригинальный датасет:
+
+- Автор: [Ilya Gusev](https://huggingface.co/datasets/IlyaGusev/pikabu)
+
+## Переработка датасета:
+
+- Автор: [Николай Веселов](https://nickveselov.ru/)