Upload README.md with huggingface_hub

README.md

@@ -2,101 +2,61 @@
 language: ru
 task_categories:
 - text-classification
+multilinguality:
+- monolingual
+license: cc-by-nc-sa-4.0
 pretty_name: Multi-Task Russian Toxicity
-license: other
-dataset_info:
-  features:
-  - name: record_id
-    dtype: string
-  - name: text
-    dtype: string
-  - name: profanity
-    dtype: int64
-  - name: threat
-    dtype: int64
-  - name: illegal
-    dtype: int64
-  - name: source
-    dtype: string
-  - name: origin
-    dtype: string
-  - name: domain
-    dtype: string
-  - name: article
-    dtype: string
-  - name: language
-    dtype: string
-  - name: cyrillic_share
-    dtype: float64
-  - name: length_chars
-    dtype: int64
-  - name: length_tokens
-    dtype: int64
-  - name: has_question
-    dtype: int64
-  splits:
-  - name: train
-    num_bytes: 3591999
-    num_examples: 8003
-  - name: validation
-    num_bytes: 456651
-    num_examples: 1007
-  - name: test
-    num_bytes: 475320
-    num_examples: 1013
-  download_size: 1352710
-  dataset_size: 4523970
-configs:
-- config_name: default
-  data_files:
-  - split: train
-    path: data/train-*
-  - split: validation
-    path: data/validation-*
-  - split: test
-    path: data/test-*
 ---
 
 # Multi-Task Russian Toxicity
 
-Multi-label учебный датасет с метками `profanity`, `threat`, `illegal`.
+Нативный русскоязычный multi-label датасет с метками `profanity`, `threat`,
+`illegal`.
 
-## Происхождение и преобразования
+## Источники
 
-- Toxic Russian Comments: нативные русские комментарии; INSULT/OBSCENITY →
-  `profanity`, THREAT → `threat`.
-- BeaverTails 30k train: prompts переведены en→ru локальной моделью
-  `Helsinki-NLP/opus-mt-en-ru` с greedy decoding (`do_sample=False`,
-  `max_new_tokens=192`, SEED=42).
-- Curated Russian Prompts: 30 `illegal`-примеров и 30 тематически близких
-  hard negatives, проверяемых построчно в ноутбуке.
+1. Toxic Russian Comments (ok.ru / All Cups): нативные комментарии.
+   `THREAT` используется только для направленной угрозы. `profanity`
+   определяется по наличию явной обсценной лексики, а не по общей метке INSULT.
+2. RUCriminal (`yura-leb/RUCriminal`, CC BY 4.0): вручную отфильтрованные
+   вредоносные русские запросы по действующим статьям УК РФ.
+3. Законные hard negatives созданы по тем же статьям RUCriminal: вопросы о
+   защите, профилактике, ответственности и обращении в полицию.
+4. Малый manual gold-набор полностью выведен и построчно проверен в notebook.
 
-`origin` хранит точное происхождение. `source` группирует данные по
-сопоставимому домену/процессу: `native_russian` и `translated_beavertails`.
-Обе source-группы содержат `illegal=0` и `illegal=1`, поэтому эта метка не
-определяется одной только source-группой.
+Переводные датасеты не используются. Все строки имеют долю кириллицы >=70%.
 
-## Размер и баланс
+## Очистка и разбиение
 
-- Всего: 6296 строк.
-- Source: {'native_russian': 5101, 'translated_beavertails': 1195}.
-- Origin: {'toxic_russian_comments': 4341, 'beavertails_30k_train': 1195, 'ru_criminal': 700, 'curated_russian_prompts': 60}.
-- Положительные метки: {'profanity': 1541, 'threat': 1300, 'illegal': 1429}.
-- Разбиение: 80/10/10, iterative multi-label stratification, SEED=42.
+Удалены URL, email, телефоны, user handles, IP-адреса, длинные цифровые
+идентификаторы, HTML, управляющие/zero-width символы и дубликаты.
+Политические высказывания и политически чувствительные темы исключены
+fail-closed фильтром по тексту и метаданным: выборы, партии, органы власти,
+политические деятели, протесты, войны, санкции, экстремизм/терроризм и
+государственно-чувствительные разделы права. После фильтра выполнен assert нулевого
+числа совпадений; отчёт об удалении: {'toxic_russian_comments': 7981, 'rucriminal': 940, 'final_gate': 0}.
+Social comments разделены iterative multi-label stratification. Legal questions
+разделены по непересекающимся статьям: статья из test отсутствует в train.
+SEED=42.
 
-## Очистка и язык
+## Размер и баланс
 
-Удалены URL, HTML, управляющие и zero-width символы; удалены дубликаты.
-Сохранены только строки с долей кириллических букв не ниже 70%. В датасете
-публикуются `language`, `cyrillic_share`, длины в символах и токенах.
+- Всего: 10023
+- Split: {'train': 8003, 'validation': 1007, 'test': 1013}
+- Source: {'toxic_russian_comments': 5000, 'rucriminal_family': 5000, 'curated_russian_gold': 23}
+- Origin: {'ok_ru_allcups': 5000, 'rucriminal_family': 5000, 'manual_gold': 23}
+- Positive labels: {'profanity': 1404, 'threat': 906, 'illegal': 1003}
+- Source-only diagnostic: [{'class': 'profanity', 'balanced_accuracy': 0.7893, 'f1': 0.4367}, {'class': 'threat', 'balanced_accuracy': 0.7742, 'f1': 0.3056}, {'class': 'illegal', 'balanced_accuracy': 0.776, 'f1': 0.3324}]
 
 ## Ограничения
 
-Таксономии источников близки, но не идентичны. Машинный перевод может менять
-оттенки смысла. Curated-часть мала и предназначена для устранения очевидной
-ложной корреляции, а не для полноценного покрытия незаконной активности.
-Точный `origin` всё ещё может быть полезным диагностическим признаком, поэтому
-при реальном применении требуется дополнительная проверка переносимости между
-источниками. Датасет предназначен для учебной предварительной модерации с
-обязательной ручной проверкой. Лицензии исходных наборов следует соблюдать
-отдельно; поэтому объединённый набор помечен как `license: other`.
+Лексикон profanity может пропустить новые способы маскировки. RUCriminal —
+синтетический adversarial corpus, хотя авторы выполнили ручную фильтрацию.
+Модель предназначена для предварительной модерации, не для юридической
+квалификации. Редкие и контекстные случаи требуют человека.
+
+## Лицензия
+
+Toxic Russian Comments: CC BY-NC-SA 4.0; RUCriminal: CC BY 4.0. Для
+объединённого производного набора применяется более ограничительная
+CC BY-NC-SA 4.0 с обязательной атрибуцией исходных источников.