modheel

Дообученная модель на основе sentence-transformers/all-MiniLM-L6-v2 для семантического поиска на русском языке.

Описание

Модель дообучена на датасете deepvk/ru-HNP с использованием Triplet Loss для улучшения качества эмбеддингов русскоязычных текстов. Базовая модель была обучена на английском языке, дообучение позволило адаптировать её к русскому языку.

Данные для дообучения

• Датасет: deepvk/ru-HNP
• Количество примеров: 20000 (первые 20000 записей из train)
• Разделение: 90/10 (train/val)

Использование

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("NikolayRainWay/modheel")
embeddings = model.encode(["Пример текста"], normalize_embeddings=True)
Лицензия
Apache 2.0

---

Визуализация

UMAP проекция эмбеддингов дообученной модели на датасете headline-classification: