| license: cc-by-4.0 | |
| task_categories: | |
| - question-answering | |
| - text-generation | |
| language: | |
| - ru | |
| tags: | |
| - finance | |
| - llm-evaluation | |
| - chain-of-thought | |
| - benchmark | |
| - russian | |
| # RusFinQABenchmark | |
| Результаты оценки шести больших языковых моделей на датасете [RuFinQA](https://huggingface.co/datasets/RusNLPWorld/RuFinQA) с использованием системы метрик **FinCoT-Eval**. | |
| ## Модели | |
| - gemma2:9b | |
| - qwen2.5:7b | |
| - deepseek-r1:7b | |
| - phi3:3.8b | |
| - llama3.1:8b | |
| - aya:8b | |
| ## Метрики | |
| - **FinCoT-Eval**: FAA, OT, CSPS, NEPS, FCS, Composite | |
| - **Текстовые**: COMET, BERTScore, ROUGE, BLEU | |
| ## Структура файлов | |
| - `evaluation.csv` — построчные метрики для 6000 генераций (1000 вопросов × 6 моделей) | |
| - `summary.csv` — агрегированные метрики по каждой модели | |
| ## Цитирование | |
| Если используете эти результаты, пожалуйста, процитируйте соответствующую статью. | |