Datasets:
Оценка
Сравниваем исходную Qwen3.5-4B и модель с LoRA с одинаковыми промптом, контекстом, длиной генерации и настройками. Начинаем со свободного JSON без исправления ответа. Режим ограниченного JSON позже оценивается отдельно для обеих моделей.
Автоматически: accuracy категории и приоритета (обязательны в ТЗ), настроение, общее и конкретное действие, эскалация, точное совпадение множеств недостающих сведений и rule ids; macro-F1 категории/приоритета, recall critical, разбор JSON и инварианты. F1 усредняется по меткам, присутствующим в gold; список меток публикуется. Невалидный или отсутствующий ответ ошибочен для всех задач. Несуществующие и повторные id прогнозов запрещены.
Эталонная ссылка на правило не доказывает корректность всех фраз ответа. Response quality и hallucination rate — отдельная разметка. Формат файла ручной оценки:
{"id":"идентификатор_записи","hallucination":false,"response_quality":4}
hallucination=true, если есть существенный неподтверждённый факт, выполненная операция, срок, компенсация или обещание в обход политики. За сомнительные случаи сохраняем пояснение разметчика. Quality: 1 — неверный или опасный ответ; 2 — существенные ошибки/бесполезность; 3 — правильный, но неполный или неестественный; 4 — правильный и полезный; 5 — точный, ясный, естественный и достаточный. В начале желательно второе независимое чтение спорных случаев.
Файл передаётся evaluate через --human-reviews. Если его нет, качество и галлюцинации остаются null, не нулём. Для частичной оценки показываем coverage и размер проверенной выборки. До сравнения моделей фиксируем один и тот же перечень случаев для ручной проверки.
Validation используется для разработки. Итоговый test — только после фиксации промпта и настройки обучения. Результаты счётчика на gold-ответах помечены как selfcheck и не включаются в сравнение моделей.
Группы с разным эмоциональным тоном зависимы. Для будущих интервалов неопределённости группировать по scenario_group_id, а не считать каждую строку независимой. Текущий маленький пилот не доказывает отсутствие галлюцинаций в новых условиях.
Для бизнес-эффекта позднее измерим время оператора с помощью и без неё, задержку ответа и долю правильных и безопасных решений без человека. Доля human_escalation=false сама по себе не является качественной автоматизацией. На синтетическом пилоте можно показывать только ограниченную оценку сценариев, с явными допущениями.
Отдельная классификация и полный контракт
Финальные результаты находятся в RESULTS.md и reports/test-comparison-final.json. Содержательный аудит 36 пар выполнен AI-ассистентом по скрытым меткам моделей; это не независимая человеческая оценка. Метрики human_evaluation не заполнены этим аудитом. Дополнительный base-контроль с четырьмя заранее выбранными train-примерами хранится отдельно и использует другой промпт.
Задержки измерены в общей desktop-сессии. Пользователь параллельно играл; точное пересечение игры с основным benchmark неизвестно. Дополнительный контроль из-за конкуренции за GPU перезапущен с batch 4 вместо 8. Эти значения не доказывают сравнительное преимущество скорости и не заменяют изолированное измерение на свободной GPU. Подробности: reports/runtime-contention.json и reports/fourshot-memory-restart.json.
Версия счётчика 0.4 сохраняет два показателя. accuracy — строгая пригодность поля внутри целиком валидного результата: любое нарушение схемы или инварианта делает обращение ошибочным. field_only_accuracy — точное совпадение каждого поля независимо от остальных, с совпадением JSON-типа. Неразбираемый JSON, отсутствие поля и неправильное значение считаются ошибкой этого поля. Никакого восстановления, извлечения вложенного value или удаления Markdown нет.
Для Classification Accuracy и Priority Accuracy отдельно показываем field-only показатели; строгую точность используем как характеристику готовности результата к обработке приложением. Высокая классификация при низком соблюдении контракта означает, что категория распознана, но полный результат нуждается в исправлении. Сравнение пересчитывает дополнительные показатели из исходных предсказаний, сохраняя прежние журналы и файлы метрик.