EstebanCQ/gh-aw-workflows-dataset

GH-AW Workflows Dataset

Dataset relacional con repositorios de GitHub que usan GitHub Agentic Workflows (GH-AW), y el contenido estructurado de sus archivos de workflow: el .md fuente (frontmatter YAML + body Markdown) y su .lock.yml/.lock.yaml compilado.

Generado con Miner, una CLI en Python que identifica repositorios que usan GH-AW y extrae sus pares .md + .lock en un formato analítico.

• Repositorios incluidos: 338
• Archivos de workflow incluidos: 1390 (cada uno con su .lock correspondiente)
• Fecha de generación: 2026-09-12

Estructura del dataset

El dataset está compuesto por 4 tablas Parquet relacionadas:

Tabla	Filas ≈	Descripción
repositories.parquet	1 por repo	Repositorios de GitHub que usan GH-AW.
workflow_files.parquet	1 por archivo .md	Frontmatter completo (como JSON) + body Markdown de cada workflow fuente.
workflow_locks.parquet	1 por archivo .md (relación 1:1)	El .lock.yml/.lock.yaml compilado correspondiente, como texto plano (raw_content).
frontmatter_attributes.parquet	N por archivo .md	Atributos del frontmatter aplanados como pares clave-valor (ej. permissions.contents, on.schedule[0].cron) — el frontmatter de GH-AW varía entre workflows, así que no se fuerzan columnas fijas.

Esquema entidad-relación completo y diccionario de datos (tipos, PKs, FKs) disponibles en el repositorio de Miner: docs/er-diagram.md y docs/data-dictionary.md.

Cómo cargar el dataset

from datasets import load_dataset

files = load_dataset("EstebanCQ/gh-aw-workflows-dataset", data_files="workflow_files.parquet")
attrs = load_dataset("EstebanCQ/gh-aw-workflows-dataset", data_files="frontmatter_attributes.parquet")

O directamente con pandas:

import pandas as pd
from huggingface_hub import hf_hub_download

path = hf_hub_download("EstebanCQ/gh-aw-workflows-dataset", "workflow_files.parquet", repo_type="dataset")
files = pd.read_parquet(path)

Cómo se generó

1. Se identificaron repositorios candidatos y se filtraron los que usan GH-AW (al menos un par <nombre>.md + <nombre>.lock.yml en .github/workflows/).
2. Para cada repositorio identificado, se descargó cada par .md + .lock de workflow; el .md se separó en frontmatter YAML y body Markdown, el .lock se conservó como texto plano. Un par solo se incluye si ambos archivos se descargaron con éxito, para garantizar la relación 1:1 entre workflow_files y workflow_locks.
3. El frontmatter del .md se aplanó en pares clave-valor (tabla frontmatter_attributes) y se conservó completo como JSON en workflow_files.raw_frontmatter, para no perder ningún campo.

Limitaciones

• Solo incluye repositorios públicos accesibles con un token de GitHub estándar al momento de la generación.
• Es una instantánea (snapshot): los workflows pueden cambiar o eliminarse después de la fecha de generación indicada arriba.
• Todo archivo de workflow_files tiene exactamente un .lock en workflow_locks (relación 1:1): solo se incluyen pares .md + .lock.yml/.lock.yaml confirmados (la definición de "usa GH-AW" de este proyecto), y ambos deben haberse descargado con éxito.

Licencia

MIT — ten en cuenta que el contenido de cada workflow (el body Markdown y el frontmatter) es propiedad de sus respectivos repositorios de origen y puede tener su propia licencia; este dataset agrega y estructura metadatos públicos, no releva la licencia del código fuente original.