File size: 1,118 Bytes
0264cf3 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 |
---
license: cc-by-4.0
task_categories:
- question-answering
- text-generation
language:
- ru
tags:
- finance
- llm-evaluation
- chain-of-thought
- benchmark
- russian
---
# RusFinQABenchmark
Результаты оценки шести больших языковых моделей на датасете [RuFinQA](https://huggingface.co/datasets/RusNLPWorld/RuFinQA) с использованием системы метрик **FinCoT-Eval**.
## Модели
- gemma2:9b
- qwen2.5:7b
- deepseek-r1:7b
- phi3:3.8b
- llama3.1:8b
- aya:8b
## Метрики
- **FinCoT-Eval**: FAA, OT, CSPS, NEPS, FCS, Composite
- **Текстовые**: COMET, BERTScore, ROUGE, BLEU
## Структура файлов
- `evaluation.csv` — построчные метрики для 6000 генераций (1000 вопросов × 6 моделей)
- `summary.csv` — агрегированные метрики по каждой модели
## Цитирование
Если используете эти результаты, пожалуйста, процитируйте соответствующую статью.
|