luchosqi/gh-aw-workflows

GitHub Agentic Workflows (GH-AW) Dataset

Dataset relacional construido con Miner a partir de repositorios de GitHub que adoptaron GitHub Agentic Workflows (GH-AW). Para cada repositorio se identificaron sus workflows agénticos (pares <base>.md + <base>.lock.yml dentro de .github/workflows/), se descargó el contenido de cada .md, y se separó su frontmatter YAML (configuración del workflow: disparadores, permisos, motor de IA, herramientas, etc.) de su body en Markdown (el prompt/instrucciones del agente).

• 370 repositorios
• 1490 archivos .md de GH-AW
• 42 079 entradas de frontmatter (claves aplanadas)

Estructura

El dataset tiene tres tablas relacionadas, en formato Parquet:

repositories (1) ----< workflow_files (1) ----< frontmatter_entries

repositories.parquet

Columna	Tipo	Descripción
repo_id	int64	Clave primaria.
full_name	string	owner/repo en GitHub.
owner	string	Cuenta u organización dueña del repo.
name	string	Nombre del repositorio.

workflow_files.parquet

Columna	Tipo	Descripción
file_id	int64	Clave primaria.
repo_id	int64	Clave foránea → repositories.repo_id.
path	string	Ruta del archivo, p. ej. .github/workflows/daily-report.md.
filename	string	Nombre del archivo.
body_markdown	string	Contenido Markdown del archivo (sin el frontmatter).

frontmatter_entries.parquet

Frontmatter YAML aplanado a pares clave/valor (modelo entidad-atributo-valor), porque cada workflow define su propio conjunto de claves y niveles de anidamiento.

Columna	Tipo	Descripción
entry_id	int64	Clave primaria.
file_id	int64	Clave foránea → workflow_files.file_id.
key_path	string	Ruta de la clave YAML (notación de punto para anidamiento, p. ej. permissions.contents).
value	string	Valor serializado a texto (listas/objetos como JSON).
value_type	string	Tipo original: str, int, float, bool, null o json.

Documentación completa del esquema (diagrama entidad-relación y diccionario de datos) en el repositorio de Miner: docs/er-diagram.md y docs/data-dictionary.md.

Uso

import pandas as pd

repos = pd.read_parquet("hf://datasets/luchosqi/gh-aw-workflows/repositories.parquet")
files = pd.read_parquet("hf://datasets/luchosqi/gh-aw-workflows/workflow_files.parquet")
entries = pd.read_parquet("hf://datasets/luchosqi/gh-aw-workflows/frontmatter_entries.parquet")

# Archivos con su repositorio de origen
files.merge(repos, on="repo_id")[["full_name", "filename", "body_markdown"]]

Generación

Generado con Miner (miner dataset), a partir de la lista de repositorios que usan GH-AW obtenida previamente con miner mine. Ver el repositorio de Miner para el código y los detalles de la extracción.