---
license: cc-by-4.0
task_categories:
- question-answering
- text-generation
language:
- ru
tags:
- finance
- llm-evaluation
- chain-of-thought
- benchmark
- russian
---

# RusFinQABenchmark

Результаты оценки шести больших языковых моделей на датасете [RuFinQA](https://huggingface.co/datasets/RusNLPWorld/RuFinQA) с использованием системы метрик **FinCoT-Eval**.

## Модели
- gemma2:9b
- qwen2.5:7b
- deepseek-r1:7b
- phi3:3.8b
- llama3.1:8b
- aya:8b

## Метрики
- **FinCoT-Eval**: FAA, OT, CSPS, NEPS, FCS, Composite
- **Текстовые**: COMET, BERTScore, ROUGE, BLEU

## Структура файлов
- `evaluation.csv` — построчные метрики для 6000 генераций (1000 вопросов × 6 моделей)
- `summary.csv` — агрегированные метрики по каждой модели

## Цитирование
Если используете эти результаты, пожалуйста, процитируйте соответствующую статью.