Este conjunto de datos se comparte para investigación. Los textos conservan la licencia de su fuente original. Complete el formulario para solicitar acceso; las solicitudes se revisan manualmente. This dataset is shared for research. Texts keep the license of their original source. Fill in the form to request access; requests are reviewed manually.

iBio Nitrogen Benchmarks

Three evaluation sets for nitrogen biology in plants, soils and ecosystems, plus the results of 17 open models.

Conjuntos de evaluación desarrollados en el proyecto iBio (CENIA / LatamGPT) para medir el conocimiento de modelos de lenguaje sobre biología del nitrógeno.

Configuración	Ítems	Formato	Idioma	Origen
`nitrogen_mcqa`	208	opción múltiple, 4 alternativas	93 es · 115 en	párrafos de artículos de PubMed Central
`nitrogen_open`	275	respuesta abierta	265 es · 10 en	párrafos y tablas de artículos de PubMed Central
`ibio_qa`	200	respuesta abierta	en	escrito por especialistas, con referencia bibliográfica

ibio_qa es el benchmark principal del proyecto: no se deriva del corpus de entrenamiento, así que no puede contaminarse por él.

Uso

Requiere haber solicitado y obtenido acceso, e iniciar sesión (huggingface-cli login).

from datasets import load_dataset
mcqa = load_dataset("rbnqc/ibio-nitrogen-benchmarks", "nitrogen_mcqa", split="test")

Esquemas

nitrogen_mcqa — id, question, choices (lista de 4), answer (letra), answer_index (0–3), explanation, language, source_context (párrafo de origen), pmcid, doi. Formato compatible con evaluadores tipo MMLU.

nitrogen_open — id, question, ideal_answer, key_concepts, language, source_context, pmcid, doi. El id es nopen_ + los 12 primeros caracteres del SHA-1 de pmcid|question, reproducible desde el contenido.

ibio_qa — id, subtopic, question, ideal_answer, reference, language. Subtemas: Uptake and transporters (64), PSBL (42), Nitrogen acquisition (26), Short questions and answers (24), Signaling (10), OMICS (9), NUE (7) y otros seis con 2–4 ítems.

La respuesta correcta del MCQA no está balanceada (A 47 · B 92 · C 55 · D 14). Un modelo que responda siempre "B" obtiene 44,2%; ésa es la línea base trivial, no 25%.

Protocolo de evaluación

MCQA: se elige la alternativa con mayor log-probabilidad; métrica, exactitud.
Respuesta abierta: juez automático Qwen2.5-72B-Instruct, escala 1–5 por criterio, puntaje global = media de criterios. ibio_qa usa corrección, completitud y relevancia; nitrogen_open agrega anclaje en la fuente (groundedness).

Resultados

17 modelos de 7–9 mil millones de parámetros, en results/leaderboard.csv. Extracto ordenado por ibio_qa:

Modelo	Tipo	iBio QA (1–5)	Nitrogen Open (1–5)	MCQA (%)
qwen2.5-7b-instruct	instruct	3,66	4,17	77,4
gemma-2-9b-it	instruct	3,66	4,25	58,2
granite-3.1-8b-instruct	instruct	3,65	4,29	74,0
med42-8b	instruct	3,63	4,27	80,3
qwen3.5-9b-base	base	3,11	4,30	90,4
qwen3.5-9b	instruct	3,27	3,60	20,2

Promedio en iBio QA: 3,43 en modelos instruct (9) y 2,71 en modelos base (8).

Advertencia sobre el MCQA en modelos instruct. qwen3.5-9b responde "A" en 189 de 208 preguntas, un colapso a una sola letra; su versión base reproduce casi exactamente la distribución real de respuestas y logra 90,4%. En modelos instruct el MCQA mide adherencia al formato además de conocimiento, por eso el benchmark principal es de respuesta abierta.

Limitaciones

nitrogen_mcqa y nitrogen_open se generaron a partir de artículos de PubMed Central. Si esos artículos están en los datos de entrenamiento de un modelo, el resultado puede estar inflado.
El idioma de cada ítem se asignó con una heurística léxica (columna language).
Los textos de origen (source_context) conservan la licencia del artículo citado en pmcid / doi.

Corpus asociado

rbnqc/ibio-nitrogen-biology-corpus

Downloads last month: 21

Total file size:

1.18 MB