Sentence Similarity
sentence-transformers
GGUF
Russian
text-embeddings-inference
feature-extraction
embeddings
modernbert
1c
bsl
Instructions to use Unimikes/USER2-1C-code-GGUF with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- sentence-transformers
How to use Unimikes/USER2-1C-code-GGUF with sentence-transformers:
from sentence_transformers import SentenceTransformer model = SentenceTransformer("Unimikes/USER2-1C-code-GGUF") sentences = [ "Это счастливый человек", "Это счастливая собака", "Это очень счастливый человек", "Сегодня солнечный день" ] embeddings = model.encode(sentences) similarities = model.similarity(embeddings, embeddings) print(similarities.shape) # [4, 4] - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use Unimikes/USER2-1C-code-GGUF with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible embeddings server: llama serve -hf Unimikes/USER2-1C-code-GGUF:F16 --embeddings
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible embeddings server: llama serve -hf Unimikes/USER2-1C-code-GGUF:F16 --embeddings
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible embeddings server: ./build/bin/llama serve -hf Unimikes/USER2-1C-code-GGUF:F16 --embeddings
- Llama new
- LM Studio
- Jan
- Ollama
How to use Unimikes/USER2-1C-code-GGUF with Ollama:
ollama run hf.co/Unimikes/USER2-1C-code-GGUF:F16
- Unsloth Desktop
- Docker Model Runner
How to use Unimikes/USER2-1C-code-GGUF with Docker Model Runner:
docker model run hf.co/Unimikes/USER2-1C-code-GGUF:F16
- Lemonade
How to use Unimikes/USER2-1C-code-GGUF with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull Unimikes/USER2-1C-code-GGUF:F16
Run and chat with the model
lemonade run user.USER2-1C-code-GGUF-F16
List all available models
lemonade list
- Atomic Chat
docs: update description with detailed specs, LM Studio setup, and link to MCP server repository
Browse files
README.md
CHANGED
|
@@ -1,28 +1,70 @@
|
|
| 1 |
-
---
|
| 2 |
-
base_model: PruhaNLP/USER2-1C-code
|
| 3 |
-
pipeline_tag: sentence-similarity
|
| 4 |
-
tags:
|
| 5 |
-
- sentence-transformers
|
| 6 |
-
- text-embeddings-inference
|
| 7 |
-
- sentence-similarity
|
| 8 |
-
- feature-extraction
|
| 9 |
-
- embeddings
|
| 10 |
-
- gguf
|
| 11 |
-
- modernbert
|
| 12 |
-
- 1c
|
| 13 |
-
- bsl
|
| 14 |
-
- ru
|
| 15 |
-
language:
|
| 16 |
-
- ru
|
| 17 |
-
license: apache-2.0
|
| 18 |
-
---
|
| 19 |
-
|
| 20 |
-
# USER2-1C-code-GGUF (FP16)
|
| 21 |
-
|
| 22 |
-
GGUF-в
|
| 23 |
-
|
| 24 |
-
|
| 25 |
-
|
| 26 |
-
-
|
| 27 |
-
|
| 28 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
base_model: PruhaNLP/USER2-1C-code
|
| 3 |
+
pipeline_tag: sentence-similarity
|
| 4 |
+
tags:
|
| 5 |
+
- sentence-transformers
|
| 6 |
+
- text-embeddings-inference
|
| 7 |
+
- sentence-similarity
|
| 8 |
+
- feature-extraction
|
| 9 |
+
- embeddings
|
| 10 |
+
- gguf
|
| 11 |
+
- modernbert
|
| 12 |
+
- 1c
|
| 13 |
+
- bsl
|
| 14 |
+
- ru
|
| 15 |
+
language:
|
| 16 |
+
- ru
|
| 17 |
+
license: apache-2.0
|
| 18 |
+
---
|
| 19 |
+
|
| 20 |
+
# USER2-1C-code-GGUF (FP16)
|
| 21 |
+
|
| 22 |
+
Официальная GGUF-квантизация модели векторных эмбеддингов **[PruhaNLP/USER2-1C-code](https://huggingface.co/PruhaNLP/USER2-1C-code)** в формате **FP16** без потери качества для использования в `llama.cpp`, `llama-server` и `LM Studio`.
|
| 23 |
+
|
| 24 |
+
Модель специально обучена на кодовой базе 1С:Предприятие (язык BSL, структура конфигураций, типовые библиотеки БСП) и предназначена для семантического поиска по коду, построения RAG-систем и поиска дубликатов процедур/функций.
|
| 25 |
+
|
| 26 |
+
---
|
| 27 |
+
|
| 28 |
+
## Характеристики модели
|
| 29 |
+
|
| 30 |
+
- **Базовая архитектура:** ModernBERT-base (`modern-bert`), дообученная на корпусе кода 1С:Предприятие.
|
| 31 |
+
- **Размерность эмбеддингов:** 256 (MRL / Matryoshka Representation Learning) или 768 (полная).
|
| 32 |
+
- **Размер контекста:** до 8192 токенов.
|
| 33 |
+
- **Формат:** GGUF (FP16, вес файла ~287 МБ).
|
| 34 |
+
- **Пулинг:** `CLS` (`pooling_type = 1`).
|
| 35 |
+
|
| 36 |
+
---
|
| 37 |
+
|
| 38 |
+
## Интеграция с ИИ-агентами через MCP
|
| 39 |
+
|
| 40 |
+
Для подключения модели к средам разработки (**Google Antigravity**, **OpenCode**, **Claude Desktop**, **Cursor**, **Windsurf**, **Continue.dev**) используйте официальный MCP-сервер:
|
| 41 |
+
|
| 42 |
+
👉 **GitHub репозиторий:** [**Unimik-gem/lmstudio-embedding-mcp**](https://github.com/Unimik-gem/lmstudio-embedding-mcp)
|
| 43 |
+
|
| 44 |
+
Сервер работает без сторонних зависимостей (чистый Python) и позволяет любому ИИ-ассистенту выполнять семантический поиск и расчет эмбеддингов через локальный инстанс LM Studio.
|
| 45 |
+
|
| 46 |
+
---
|
| 47 |
+
|
| 48 |
+
## Использование в LM Studio
|
| 49 |
+
|
| 50 |
+
1. Скачайте файл `USER2-1C-code-f16.gguf` через поиск LM Studio (по запросу `Unimikes/USER2-1C-code-GGUF`) или поместите вручную в папку моделей.
|
| 51 |
+
2. **Важная настройка классификации:**
|
| 52 |
+
* В разделе **My Models** выберите `user2-1c-code`.
|
| 53 |
+
* В правой панели настроек в блоке **Domain Control** переключите значение на **Text Embedding**.
|
| 54 |
+
3. Во вкладке **Developer / Local Server** (`<->`) нажмите **Load Model** и запустите локальный сервер (порт по умолчанию: `1234`).
|
| 55 |
+
|
| 56 |
+
### Тестовый запрос к серверу (PowerShell)
|
| 57 |
+
|
| 58 |
+
```powershell
|
| 59 |
+
curl.exe -X POST http://127.0.0.1:1234/v1/embeddings `
|
| 60 |
+
-H "Content-Type: application/json" `
|
| 61 |
+
-d '{\"model\": \"user2-1c-code\", \"input\": \"Процедура ПриСозданииНаСервере(Отказ, СтандартнаяОбработка)\"}'
|
| 62 |
+
```
|
| 63 |
+
|
| 64 |
+
---
|
| 65 |
+
|
| 66 |
+
## Использование в llama-server / llama.cpp
|
| 67 |
+
|
| 68 |
+
```bash
|
| 69 |
+
llama-server -m USER2-1C-code-f16.gguf --embedding --pooling cls -c 8192 --port 8080
|
| 70 |
+
```
|