ITAgnesmeyer commited on
Commit
e489d78
·
1 Parent(s): daf5023

Upload folder using huggingface_hub

Browse files
Files changed (2) hide show
  1. README.md +37 -4
  2. examples/load_with_datasets.py +41 -0
README.md CHANGED
@@ -5,17 +5,50 @@ language:
5
  pretty_name: Text to IPA Phoneme
6
  ---
7
 
8
- # Dataset Card for Dataset Name
9
 
10
  <!-- Provide a quick summary of the dataset. -->
 
11
 
12
- This dataset card aims to be a base template for new datasets. It has been generated using [this raw template](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/templates/datasetcard_template.md?plain=1).
13
 
14
  ## Dataset Details
15
-
 
 
 
 
16
  ### Dataset Description
17
 
18
- <!-- Provide a longer summary of what this dataset is. -->
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
19
 
20
 
21
 
 
5
  pretty_name: Text to IPA Phoneme
6
  ---
7
 
8
+ # Dataset Card for Dataset Text-To-IPA
9
 
10
  <!-- Provide a quick summary of the dataset. -->
11
+ Die 50000 Datensätze um Deutsch in IPA umzuwandeln.
12
 
 
13
 
14
  ## Dataset Details
15
+ Spalten:
16
+ klartext: Enthält deutschen Klartext
17
+ phon: Enthält IPA Phoneme
18
+ Daten: Die vollständigen Daten befinden sich in `data/all_data.parquet`.
19
+ Das Parquet-File hat die Spalten `klartext` und `phon`.
20
  ### Dataset Description
21
 
22
+ ## Daten laden
23
+
24
+ Zum schnellen Laden des Parquet-Files mit Python `pandas` (empfohlen: `pyarrow` als Engine):
25
+
26
+ ```python
27
+ # Falls noch nicht installiert:
28
+ # pip install pandas pyarrow
29
+
30
+ import pandas as pd
31
+
32
+ # Pfad zur Datei
33
+ path = 'data/all_data.parquet'
34
+
35
+ # Parquet laden
36
+ df = pd.read_parquet(path)
37
+
38
+ print(df.shape)
39
+ print(df.columns)
40
+ print(df.head(3))
41
+
42
+ # Beispiel: erstes Paar ausgeben
43
+ print(df.iloc[0]['klartext'], '->', df.iloc[0]['phon'])
44
+ ```
45
+
46
+ Hinweis: Alternativ kann als Engine auch `fastparquet` verwendet werden (`pip install fastparquet`).
47
+
48
+ Beispiel: Ein konkretes Skript für die `datasets`-Library befindet sich unter [examples/load_with_datasets.py](examples/load_with_datasets.py).
49
+
50
+ 50000 Datensätze um Deutsch in IPA - Phoneme zu übersetzen.
51
+
52
 
53
 
54
 
examples/load_with_datasets.py ADDED
@@ -0,0 +1,41 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ """
2
+ Beispiel: Parquet mit Hugging Face `datasets` laden
3
+
4
+ Voraussetzungen:
5
+ pip install datasets pyarrow
6
+
7
+ Dieses Skript lädt `data/all_data.parquet` und zeigt erste Zeilen sowie
8
+ ein kurzes Beispiel, wie man auf Spalten zugreift.
9
+ """
10
+ from datasets import load_dataset
11
+
12
+
13
+ def main():
14
+ data_files = "data/all_data.parquet"
15
+
16
+ # Parquet als Dataset laden
17
+ ds = load_dataset("parquet", data_files=data_files)
18
+
19
+ # Übersicht
20
+ print(ds)
21
+ print("Spalten:", ds["train"].column_names)
22
+
23
+ # Erste Zeile
24
+ first = ds["train"][0]
25
+ print("Erste Zeile:", first)
26
+
27
+ # In pandas konvertieren
28
+ df = ds["train"].to_pandas()
29
+ print("DataFrame shape:", df.shape)
30
+ print(df.head(3))
31
+
32
+ # Beispielausgabe: erste 5 Paarungen
33
+ print("\nErste 5 Paare:")
34
+ for i, row in enumerate(ds["train"]):
35
+ if i >= 5:
36
+ break
37
+ print(f"{i+1}. {row['klartext']} -> {row['phon']}")
38
+
39
+
40
+ if __name__ == "__main__":
41
+ main()