Datasets:

yandex
/

WikiWebFacts

---
license: cc-by-sa-4.0
language:
  - ru
pretty_name: WikiWebFacts
task_categories:
  - question-answering
size_categories:
  - 1K<n<10K
tags:
  - factuality
  - knowledge-evaluation
  - short-answer
  - russian
  - lighteval
configs:
  - config_name: default
    data_files:
      - split: test
        path: data/test-*
      - split: fewshot
        path: data/fewshot-*
---
# 🌐 WikiWebFacts 🌐

[English version](./README_en.md)

> [!NOTE]
> ВАЖНО: Пожалуйста, помогите сохранить объективность этого бенчмарка, снизив риск попадания его вопросов и ответов в обучающие данные моделей. Просим вас делиться ссылкой на этот репозиторий вместо того, чтобы публиковать датасет в открытом доступе или создавать его публичные копии. Это добровольная просьба, которая не ограничивает ваши права, предусмотренные лицензией CC BY-SA 4.0.

**WikiWebFacts** — русскоязычный бенчмарк для оценки фактологических знаний языковых моделей. Он содержит 1365 коротких вопросов по разным тематикам с короткими ответами. Вопросы были собраны из двух источников: популярных статей русскоязычной Википедии и поисковых запросов в Яндекс Поиск, ответы провалидированы на корректность экспертами. Для оценки качества на бенчмарке мы предлагаем использовать LLM as a judge.


## 🧩 Состав датасета
| Split | Строк | Назначение |
| --- | ---: | --- |
| `test` | 1 365 | Вопросы для замера |
| `fewshot` | 5 | Примеры для 5-shot |

Внутри `test` поле `source` разделяет вопросы по источникам:
| Источник | Строк | Доля |
| --- | ---: | ---: |
| `wiki` | 675 | 49,45% |
| `web` | 690 | 50,55% |

Вопросы покрывают различные тематики, на картинке ниже представлено их распределение:
<img src="https://cdn-uploads.huggingface.co/production/uploads/662a8fae32d622270b8236dc/2mXFYMDGpdshucMA7IKNa.png" alt="Тематики WikiWebFacts" width="600">



## 📊 Сетап замера

Файл `wikiwebfacts_lighteval.py` регистрирует два режима оценки на одних и тех же примерах с использованием одной метрики.

### Pretrain

`wikiwebfacts:pretrain` использует промпт в формате продолжения текста:

```text
Вопрос: <question>
Ответ:
```

В этом режиме используются фьюшоты, он предназначен для оценки претрейн-моделей.

### Alignment

`wikiwebfacts:alignment` использует промпт:

```text
<question> Дай короткий ответ без дополнительных пояснений.
```

Этот режим предназначен для оценки инстракт-моделей.

Вопрос и инструкция передаются модели единым текстовым промптом. Инструкция задаёт ожидаемый формат: модель должна дать короткий фактологический ответ без дополнительных пояснений. Режим оценивает фактологические знания модели при явной инструкции к форме ответа. Способы запуска указаны ниже.


### Метрика

`wikiwebfacts_judge` — метрика бенчмарка. Она передаёт вопрос, полный
ответ модели и эталон отдельной judge-модели.

Judge завершает ответ строкой `Оценка: 1` (ответ соответствует эталонному), `Оценка: -1`
(ответ противоречит эталонному) или `Оценка: 0`  (модель не дала ответа). В итоговой метрике
`Оценка: 1` преобразуется в `1`, а `Оценка: -1` и `Оценка: 0` — в `0`. Итоговый результат —
среднее значение по всем примерам.

Judge-промпт формируется функцией `wikiwebfacts_judge_prompt`. В качестве LLMaJ по умолчанию
используется `Qwen/Qwen3.5-35B-A3B` с `temperature=0`; ризонинг отключён.

## 🚀 Как использовать

### Требования

- Linux и Python 3;
- `HF_TOKEN` — только для gated-моделей.

Перед первым запуском создайте виртуальное окружение и установите зависимости:

```bash
python3 -m venv .venv
source .venv/bin/activate
python -m pip install -r requirements.txt
```

Перед последующими запусками достаточно активировать окружение:

```bash
source .venv/bin/activate
```

### Загрузка датасета

```python
from datasets import load_dataset
dataset = load_dataset("yandex/wikiwebfacts")
print(dataset)
print(dataset["test"][0])
```

### Запуск модели и judge через vLLM

В первом терминале запустите публичную оцениваемую модель. Для gated-модели предварительно экспортируйте `HF_TOKEN`:

```bash
export HF_TOKEN="<your-hugging-face-token>"
CUDA_VISIBLE_DEVICES="0" \
vllm serve Qwen/Qwen3-8B-Base \
  --dtype bfloat16 \
  --tensor-parallel-size 1 \
  --port 8001 \
  --trust-remote-code
```

Во втором терминале запустите judge:

```bash
export HF_TOKEN="<your-hugging-face-token>"
CUDA_VISIBLE_DEVICES="1,2" \
vllm serve Qwen/Qwen3.5-35B-A3B \
  --dtype bfloat16 \
  --tensor-parallel-size 2 \
  --port 8002 \
  --max-model-len 8192 \
  --max-num-seqs 16 \
  --reasoning-parser qwen3 \
  --language-model-only \
  --trust-remote-code
```

В третьем терминале выполните тестовый запуск на 10 примерах:

```bash
python ./run_lighteval.py \
  --model Qwen/Qwen3-8B-Base
```

Полный 5-shot прогон претрейн-модели:

```bash
python ./run_lighteval.py \
  --model Qwen/Qwen3-8B-Base \
  --task "wikiwebfacts:pretrain|5" \
  --full
```


## Лицензия

Датасет WikiWebFacts, включая выборки `test` и `fewshot`, распространяется на условиях лицензии [Creative Commons Attribution-ShareAlike 4.0 International License (CC BY-SA 4.0)](https://creativecommons.org/licenses/by-sa/4.0/). Полный текст лицензии приведён в файле [LICENSE](https://huggingface.co/datasets/yandex/WikiWebFacts/blob/main/LICENSE).

Указанная лицензия распространяется только на файлы датасета и не распространяется на код для его оценки.

	---
	license: cc-by-sa-4.0
	language:
	- ru
	pretty_name: WikiWebFacts
	task_categories:
	- question-answering
	size_categories:
	- 1K<n<10K
	tags:
	- factuality
	- knowledge-evaluation
	- short-answer
	- russian
	- lighteval
	configs:
	- config_name: default
	data_files:
	- split: test
	path: data/test-*
	- split: fewshot
	path: data/fewshot-*
	---
	# 🌐 WikiWebFacts 🌐

	[English version](./README_en.md)

	> [!NOTE]
	> ВАЖНО: Пожалуйста, помогите сохранить объективность этого бенчмарка, снизив риск попадания его вопросов и ответов в обучающие данные моделей. Просим вас делиться ссылкой на этот репозиторий вместо того, чтобы публиковать датасет в открытом доступе или создавать его публичные копии. Это добровольная просьба, которая не ограничивает ваши права, предусмотренные лицензией CC BY-SA 4.0.

	WikiWebFacts — русскоязычный бенчмарк для оценки фактологических знаний языковых моделей. Он содержит 1365 коротких вопросов по разным тематикам с короткими ответами. Вопросы были собраны из двух источников: популярных статей русскоязычной Википедии и поисковых запросов в Яндекс Поиск, ответы провалидированы на корректность экспертами. Для оценки качества на бенчмарке мы предлагаем использовать LLM as a judge.


	## 🧩 Состав датасета
	\| Split \| Строк \| Назначение \|
	\| --- \| ---: \| --- \|
	\| `test` \| 1 365 \| Вопросы для замера \|
	\| `fewshot` \| 5 \| Примеры для 5-shot \|

	Внутри `test` поле `source` разделяет вопросы по источникам:
	\| Источник \| Строк \| Доля \|
	\| --- \| ---: \| ---: \|
	\| `wiki` \| 675 \| 49,45% \|
	\| `web` \| 690 \| 50,55% \|

	Вопросы покрывают различные тематики, на картинке ниже представлено их распределение:
	<img src="https://cdn-uploads.huggingface.co/production/uploads/662a8fae32d622270b8236dc/2mXFYMDGpdshucMA7IKNa.png" alt="Тематики WikiWebFacts" width="600">



	## 📊 Сетап замера

	Файл `wikiwebfacts_lighteval.py` регистрирует два режима оценки на одних и тех же примерах с использованием одной метрики.

	### Pretrain

	`wikiwebfacts:pretrain` использует промпт в формате продолжения текста:

	```text
	Вопрос: <question>
	Ответ:
	```

	В этом режиме используются фьюшоты, он предназначен для оценки претрейн-моделей.

	### Alignment

	`wikiwebfacts:alignment` использует промпт:

	```text
	<question> Дай короткий ответ без дополнительных пояснений.
	```

	Этот режим предназначен для оценки инстракт-моделей.

	Вопрос и инструкция передаются модели единым текстовым промптом. Инструкция задаёт ожидаемый формат: модель должна дать короткий фактологический ответ без дополнительных пояснений. Режим оценивает фактологические знания модели при явной инструкции к форме ответа. Способы запуска указаны ниже.


	### Метрика

	`wikiwebfacts_judge` — метрика бенчмарка. Она передаёт вопрос, полный
	ответ модели и эталон отдельной judge-модели.

	Judge завершает ответ строкой `Оценка: 1` (ответ соответствует эталонному), `Оценка: -1`
	(ответ противоречит эталонному) или `Оценка: 0` (модель не дала ответа). В итоговой метрике
	`Оценка: 1` преобразуется в `1`, а `Оценка: -1` и `Оценка: 0` — в `0`. Итоговый результат —
	среднее значение по всем примерам.

	Judge-промпт формируется функцией `wikiwebfacts_judge_prompt`. В качестве LLMaJ по умолчанию
	используется `Qwen/Qwen3.5-35B-A3B` с `temperature=0`; ризонинг отключён.

	## 🚀 Как использовать

	### Требования

	- Linux и Python 3;
	- `HF_TOKEN` — только для gated-моделей.

	Перед первым запуском создайте виртуальное окружение и установите зависимости:

	```bash
	python3 -m venv .venv
	source .venv/bin/activate
	python -m pip install -r requirements.txt
	```

	Перед последующими запусками достаточно активировать окружение:

	```bash
	source .venv/bin/activate
	```

	### Загрузка датасета

	```python
	from datasets import load_dataset

	dataset = load_dataset("yandex/wikiwebfacts")
	print(dataset)
	print(dataset["test"][0])
	```

	### Запуск модели и judge через vLLM

	В первом терминале запустите публичную оцениваемую модель. Для gated-модели предварительно экспортируйте `HF_TOKEN`:

	```bash
	export HF_TOKEN="<your-hugging-face-token>"

	CUDA_VISIBLE_DEVICES="0" \
	vllm serve Qwen/Qwen3-8B-Base \
	--dtype bfloat16 \
	--tensor-parallel-size 1 \
	--port 8001 \
	--trust-remote-code
	```

	Во втором терминале запустите judge:

	```bash
	export HF_TOKEN="<your-hugging-face-token>"

	CUDA_VISIBLE_DEVICES="1,2" \
	vllm serve Qwen/Qwen3.5-35B-A3B \
	--dtype bfloat16 \
	--tensor-parallel-size 2 \
	--port 8002 \
	--max-model-len 8192 \
	--max-num-seqs 16 \
	--reasoning-parser qwen3 \
	--language-model-only \
	--trust-remote-code
	```

	В третьем терминале выполните тестовый запуск на 10 примерах:

	```bash
	python ./run_lighteval.py \
	--model Qwen/Qwen3-8B-Base
	```

	Полный 5-shot прогон претрейн-модели:

	```bash
	python ./run_lighteval.py \
	--model Qwen/Qwen3-8B-Base \
	--task "wikiwebfacts:pretrain\|5" \
	--full
	```


	## Лицензия

	Датасет WikiWebFacts, включая выборки `test` и `fewshot`, распространяется на условиях лицензии [Creative Commons Attribution-ShareAlike 4.0 International License (CC BY-SA 4.0)](https://creativecommons.org/licenses/by-sa/4.0/). Полный текст лицензии приведён в файле [LICENSE](https://huggingface.co/datasets/yandex/WikiWebFacts/blob/main/LICENSE).

	Указанная лицензия распространяется только на файлы датасета и не распространяется на код для его оценки.