How to use DiTy/bi-encoder-russian-msmarco with sentence-transformers:
from sentence_transformers import SentenceTransformer model = SentenceTransformer("DiTy/bi-encoder-russian-msmarco") sentences = [ "определение новичка", "Часть пятая: Посещение художественного музея. Для новичка посещение художественного музея может стать непростой задачей. Большинство музеев очень большие и требуют выносливости и хорошего чувства направления. Потратьте некоторое время на то, чтобы узнать больше о музее, прежде чем отправиться в путь, - лучший способ обеспечить более информативное и приятное посещение. ПРЕЖДЕ ЧЕМ ТЫ УЙДЕШЬ.", "Определение новичка - это новичок или человек в начале чего-либо." ] embeddings = model.encode(sentences) similarities = model.similarity(embeddings, embeddings) print(similarities.shape) # [3, 3]
How to use DiTy/bi-encoder-russian-msmarco with Transformers:
# pip install -U transformers accelerate # Load model directly from transformers import AutoTokenizer, AutoModel tokenizer = AutoTokenizer.from_pretrained("DiTy/bi-encoder-russian-msmarco") model = AutoModel.from_pretrained("DiTy/bi-encoder-russian-msmarco", device_map="auto")
https://huggingface.co/DiTy/bi-encoder-russian-msmarco/resolve/main/tokenizer.json
hf download hf://DiTy/bi-encoder-russian-msmarco/tokenizer.json
curl -L -o tokenizer.json https://huggingface.co/DiTy/bi-encoder-russian-msmarco/resolve/main/tokenizer.json
