PhysiQuanty commited on
Commit
f105773
·
verified ·
1 Parent(s): ed754bb

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +210 -0
README.md CHANGED
@@ -1,3 +1,213 @@
1
  ---
2
  license: apache-2.0
 
 
 
 
 
 
 
 
 
 
 
 
 
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: apache-2.0
3
+ language:
4
+ - fr
5
+ - en
6
+ pretty_name: CNRS Dataset Atlas
7
+ tags:
8
+ - open-science
9
+ - scientific-data
10
+ - research
11
+ - dataverse
12
+ - recherche-data-gouv
13
+ - metadata
14
+ - parquet
15
+ - pyarrow
16
  ---
17
+
18
+ # 🔬 CNRS Dataset Atlas
19
+
20
+ **Un catalogue de métadonnées scientifiques issues de Recherche Data Gouv, accessible dans un format adapté au Machine Learning.**
21
+
22
+ CNRS Dataset Atlas référence **9 849 jeux de données scientifiques** publiés ou indexés sur [Recherche Data Gouv](https://entrepot.recherche.data.gouv.fr/).
23
+
24
+ Il rassemble les descriptions, références bibliographiques, auteurs, organismes, disciplines et identifiants persistants des jeux de données dans un format structuré **Apache Parquet**.
25
+
26
+ Le catalogue couvre de nombreuses disciplines scientifiques et ne se limite pas aux travaux du CNRS.
27
+
28
+ ## Dataset Overview
29
+
30
+ | Propriété | Valeur |
31
+ | :--- | :--- |
32
+ | **Version** | 0.5 |
33
+ | **Observations** | 9 849 |
34
+ | **Colonnes** | 29 |
35
+ | **Format** | Apache Parquet |
36
+ | **Structure** | 1 ligne par dataset |
37
+ | **Source** | Recherche Data Gouv |
38
+ | **Licence du catalogue** | Apache-2.0 |
39
+ | **Organisation** | [CNRS-ML](https://huggingface.co/CNRS-ML) |
40
+
41
+ Les données scientifiques originales ne sont pas incluses dans cette version. Le catalogue contient leurs métadonnées et références.
42
+
43
+ ## Dataset Structure
44
+
45
+ Le dataset possède un unique split, `train`, contenant 9 849 observations.
46
+
47
+ Chaque observation correspond à un jeu de données scientifique identifié par son titre et son identifiant persistant.
48
+
49
+ Les champs multivalués sont représentés par des listes et les métadonnées structurées par des objets imbriqués.
50
+
51
+ ### Data Fields
52
+
53
+ #### Identification
54
+
55
+ | Champ | Type | Description |
56
+ | :--- | :--- | :--- |
57
+ | `name` | string | Titre du jeu de données. |
58
+ | `type` | string | Type de ressource référencée. |
59
+ | `url` | string | URL publique du jeu de données. |
60
+ | `global_id` | string | Identifiant persistant, généralement un DOI. |
61
+ | `description` | string | Description scientifique du jeu de données. |
62
+
63
+ #### Publication et provenance
64
+
65
+ | Champ | Type | Description |
66
+ | :--- | :--- | :--- |
67
+ | `published_at` | string | Date de publication retournée par l'API. |
68
+ | `publisher` | string | Organisme ou entrepôt éditeur. |
69
+ | `identifier_of_dataverse` | string | Identifiant de la collection Dataverse. |
70
+ | `name_of_dataverse` | string | Nom de la collection Dataverse. |
71
+ | `storageIdentifier` | string | Identifiant de stockage de la ressource. |
72
+ | `createdAt` | string | Date de création de la ressource. |
73
+ | `updatedAt` | string | Date de dernière mise à jour. |
74
+
75
+ #### Références bibliographiques
76
+
77
+ | Champ | Type | Description |
78
+ | :--- | :--- | :--- |
79
+ | `citation` | string | Référence bibliographique du dataset. |
80
+ | `citationHtml` | string | Référence bibliographique au format HTML. |
81
+ | `publications` | list<struct> | Publications scientifiques associées, avec leurs références et URL. |
82
+ | `relatedMaterial` | list<struct> | Ressources documentaires associées. |
83
+
84
+ #### Classification scientifique
85
+
86
+ | Champ | Type | Description |
87
+ | :--- | :--- | :--- |
88
+ | `subjects` | list<string> | Disciplines scientifiques associées. |
89
+ | `keywords` | list<string> | Mots-clés décrivant le contenu scientifique. |
90
+ | `geographicCoverage` | list<struct> | Couverture géographique : pays, région, ville et informations complémentaires. |
91
+ | `dataSources` | list<string> | Sources de données déclarées par les producteurs. |
92
+
93
+ #### Auteurs et organismes
94
+
95
+ | Champ | Type | Description |
96
+ | :--- | :--- | :--- |
97
+ | `authors` | list<string> | Noms des auteurs scientifiques. |
98
+ | `contacts` | list<struct> | Contacts scientifiques et affiliations. |
99
+ | `producers` | list<string> | Organismes producteurs des données. |
100
+
101
+ #### Fichiers et versions
102
+
103
+ | Champ | Type | Description |
104
+ | :--- | :--- | :--- |
105
+ | `fileCount` | int64 | Nombre de fichiers associés au dataset. |
106
+ | `versionId` | int64 | Identifiant de version Dataverse. |
107
+ | `versionState` | string | État de publication de la version. |
108
+ | `majorVersion` | int64 | Numéro de version majeure. |
109
+ | `minorVersion` | int64 | Numéro de version mineure. |
110
+
111
+ Les champs peuvent contenir des valeurs nulles lorsque les informations correspondantes ne sont pas disponibles dans la source.
112
+
113
+ ## Scientific Coverage
114
+
115
+ Le catalogue couvre notamment :
116
+
117
+ - Physique et sciences de l'Univers
118
+ - Mathématiques et informatique
119
+ - Sciences de la Terre et de l'environnement
120
+ - Biologie et sciences du vivant
121
+ - Médecine et santé
122
+ - Chimie
123
+ - Sciences agricoles
124
+ - Ingénierie
125
+ - Sciences humaines et sociales
126
+ - Arts et humanités
127
+
128
+ Les descriptions et métadonnées sont conservées dans leur langue d'origine.
129
+
130
+ ## Data Example
131
+
132
+ Exemple d'une observation du catalogue :
133
+
134
+ ```json
135
+ {
136
+ "name": "Replication Data for: Universal Relations in Scaling-Structured Turbulence",
137
+ "type": "dataset",
138
+ "url": "https://doi.org/10.57745/YJKPP7",
139
+ "global_id": "doi:10.57745/YJKPP7",
140
+ "publisher": "French Fluid Dynamics Database",
141
+ "subjects": [
142
+ "Physics"
143
+ ],
144
+ "keywords": [
145
+ "Turbulence",
146
+ "Hot-wire anemometry",
147
+ "Fluid dynamics"
148
+ ],
149
+ "authors": [
150
+ "Schmitt, Felix"
151
+ ],
152
+ "producers": [
153
+ "Centre national de la recherche scientifique",
154
+ "Université Grenoble Alpes"
155
+ ],
156
+ "fileCount": 7,
157
+ "versionState": "RELEASED",
158
+ "majorVersion": 2,
159
+ "minorVersion": 0
160
+ }
161
+ ```
162
+
163
+ ## Data Access
164
+
165
+ Le catalogue est directement accessible avec la bibliothèque Hugging Face Datasets.
166
+
167
+ ```python
168
+ from datasets import load_dataset
169
+
170
+ dataset = load_dataset(
171
+ "CNRS-ML/CNRS-Dataset-Atlas",
172
+ split="train"
173
+ )
174
+
175
+ print(dataset)
176
+ print(dataset[0])
177
+ ```
178
+
179
+ Les fichiers Parquet peuvent également être consultés avec PyArrow, Pandas ou Polars.
180
+
181
+ ## Licensing
182
+
183
+ **CNRS Dataset Atlas** est publié sous licence [Apache-2.0](https://www.apache.org/licenses/LICENSE-2.0).
184
+
185
+ Cette licence concerne la publication du catalogue. Elle ne remplace pas les licences et conditions d'utilisation applicables aux jeux de données scientifiques originaux.
186
+
187
+ Chaque ressource référencée conserve sa provenance scientifique et ses conditions de réutilisation propres.
188
+
189
+ ## Attribution
190
+
191
+ Les métadonnées proviennent de [Recherche Data Gouv](https://entrepot.recherche.data.gouv.fr/).
192
+
193
+ Les travaux scientifiques restent attribués à leurs auteurs et organismes producteurs respectifs.
194
+
195
+ Pour citer un jeu de données particulier, utiliser la référence disponible dans le champ `citation` et son identifiant `global_id`.
196
+
197
+ **CNRS-ML est une initiative communautaire indépendante et ne constitue pas une publication officielle du CNRS.**
198
+
199
+ ## Dataset Versions
200
+
201
+ | Version | Contenu |
202
+ | :--- | :--- |
203
+ | **V0.5** | Catalogue de 9 849 datasets, 29 colonnes de métadonnées scientifiques. |
204
+ | **V1** | Enrichissement des métadonnées, licences et inventaire détaillé des fichiers. |
205
+
206
+ La V1 est en préparation.
207
+
208
+ ## Links
209
+
210
+ - [Dataset sur Hugging Face](https://huggingface.co/datasets/CNRS-ML/CNRS-Dataset-Atlas)
211
+ - [Organisation CNRS-ML](https://huggingface.co/CNRS-ML)
212
+ - [Recherche Data Gouv](https://entrepot.recherche.data.gouv.fr/)
213
+ - [Documentation Dataverse](https://guides.dataverse.org/en/latest/api/)