| --- |
| pretty_name: 1C-Code-Train |
| language: |
| - ru |
| task_categories: |
| - sentence-similarity |
| size_categories: |
| - 100K<n<1M |
| license: other |
| tags: |
| - code-retrieval |
| - 1c |
| - bsl |
| - hard-negatives |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: train-*.parquet |
| --- |
| |
| # 1C-Code-Train |
|
|
| `1C-Code-Train` содержит 784 057 синтетических триплетов для поиска кода 1С:E/BSL преимущественно по русскоязычным запросам. Датасет использовался для обучения модели [`PruhaNLP/USER2-1C-code`](https://huggingface.co/PruhaNLP/USER2-1C-code). |
|
|
| ## Данные |
|
|
| Сплит `train` содержит три текстовых поля: |
|
|
| - `query` — синтетический поисковый запрос на естественном языке; |
| - `positive` — соответствующий запросу фрагмент кода 1С/BSL; |
| - `negative` — сложный отрицательный пример, найденный в корпусе кода. |
|
|
| ```python |
| from datasets import load_dataset |
| |
| dataset = load_dataset("PruhaNLP/1C-Code-Train", split="train") |
| ``` |
|
|
| ## Подготовка |
|
|
| Код происходит из публичного корпуса [`leongl/1c_github`](https://huggingface.co/datasets/leongl/1c_github). После фильтрации и точной дедупликации запросы были сгенерированы моделью `google/gemma-4-26B-A4B-it`. Сложные отрицательные примеры отбирались из первых 20 результатов `deepvk/USER2-small` с помощью FAISS и поиска по скалярному произведению. |
|
|
| Публикуемый файл прошёл очистку персональных данных. Консервативная обработка на основе правил заменяет обнаруженные адреса электронной почты, номера телефонов, IP-адреса, пути файловой системы и имена людей на `[EMAIL]`, `[PHONE]`, `[IP]`, `[PATH]` и `[PERSON]`. Это снижает риск раскрытия персональных данных, но не является формальной гарантией полной деидентификации. |
|
|
| ## Назначение и ограничения |
|
|
| Датасет предназначен для исследований и обучения моделей поиска кода по текстовому запросу. Запросы являются синтетическими, среди сложных отрицательных примеров могут встречаться ложноотрицательные, а исходный код может содержать повторяющиеся шаблоны или неполные фрагменты. |
|
|
| Для исходного корпуса лицензия не указана. Поэтому для этого датасета установлено `license: other`. Перед повторным распространением или коммерческим использованием пользователи должны самостоятельно проверить происхождение исходных данных и лицензии соответствующих репозиториев. Проект является независимым, не аффилирован с фирмой «1С» и не одобрен ею. |
|
|
| Код оценки: [`PruhaNLP/1C-RB`](https://github.com/PruhaNLP/1C-RB). |
|
|
