File size: 1,719 Bytes
4559903
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
---
pretty_name: Sajaniemi Variable Dataset Large
language:
- code
tags:
- code
- variable-roles
- sajaniemi
---

# Sajaniemi Variable Dataset Large

Corpus de code C, C++, JavaScript et Python pour l'étude et la prédiction des rôles de variables de Sajaniemi. La sélection finale comprend 2 171 fichiers et 47 016 annotations de variables avec rôle, répartis en `train` (1 086 fichiers), `validation` (434) et `test` (651). Les variables sans rôle attribué sont fournies séparément. Les annotations sont produites par un pipeline automatique ; elles ne doivent pas être considérées comme des étiquettes vérifiées manuellement.

## Organisation

- `code/{train,validation,test}/{C,C++,JavaScript,Python}/` : fichiers source de la sélection finale.
- `code/annotations/{train,validation,test}.jsonl` : une variable avec rôle par ligne, avec identifiant, emplacement et vues de code ; les fichiers `*_no_role.jsonl` contiennent les variables sans rôle attribué.
- `code/source_manifest.jsonl` : provenance, empreintes et informations de licence des fichiers sélectionnés ; `code/report.*` et `code/provenance_report.json` résument la sélection et la provenance.
- `pool/` : corpus candidat organisé en shards, avec index et manifestes ; `pool_annotations/` et `pool_graph/` conservent les annotations et données intermédiaires.
- `selection/`, `calibration_features.parquet`, `thresholds.json` et `logs/` : affectation aux partitions, rapports et artefacts de préparation.

Les sources proviennent de `codeparrot/github-code`. Les licences peuvent varier selon le dépôt d'origine : consulter le champ `license` de `code/source_manifest.jsonl` avant toute réutilisation des fichiers source.