metadata
license: cc-by-4.0
task_categories:
- question-answering
- text-generation
language:
- ru
tags:
- finance
- llm-evaluation
- chain-of-thought
- benchmark
- russian
RusFinQABenchmark
Результаты оценки шести больших языковых моделей на датасете RuFinQA с использованием системы метрик FinCoT-Eval.
Модели
- gemma2:9b
- qwen2.5:7b
- deepseek-r1:7b
- phi3:3.8b
- llama3.1:8b
- aya:8b
Метрики
- FinCoT-Eval: FAA, OT, CSPS, NEPS, FCS, Composite
- Текстовые: COMET, BERTScore, ROUGE, BLEU
Структура файлов
evaluation.csv— построчные метрики для 6000 генераций (1000 вопросов × 6 моделей)summary.csv— агрегированные метрики по каждой модели
Цитирование
Если используете эти результаты, пожалуйста, процитируйте соответствующую статью.