Datasets:

pathcosmos
/

korean-pretrain-code

Dieses Repository enthält die bereinigten und aufgeteilten Daten der unten angegebenen einzelnen Quelle. Dieselben Dateien sind auch im zugehörigen Ordner des Gesamtkorpus verfügbar. Fixierte Datenversion und Dokumentationsrevision sind getrennt.

Übersetzungssprachen bedeuten keine entsprechenden Trainingsdaten. Hauptsprachen sind Koreanisch und Englisch; Web-, Mathematik- und Codeinhalte können weitere Sprachen enthalten.

Inhalt und Umfang


Quelle	github_code_v1
Dokumente	2,148,459
Trainingsdokumente	2,125,938
Evaluationsdokumente	22,521
Textbytes	3,584,084,955


tokens	4,006,737,196
eval tokens	42,420,481
revision	v1.0.0
upstream	codeparrot/github-code
upstream license	other
provenance_status	`repo_path_row_preserved_git_commit_unknown`

Verarbeitung und Aufteilung

Webverarbeitung bereinigt Leerraum, nutzt Längen-/Wiederholungs-/Sprachheuristiken und maskiert ausgewählte personenbezogene Muster. Der anfängliche shardinterne Hash unterscheidet sich vom abschließenden NFC-SHA256. Code behält Großschreibung, Einrückung und ursprüngliches Unicode; Pfade, Lizenzangaben, generierter Code und ausgewählte Geheimnismuster werden geprüft. Verbundene Gruppen gleicher Texte, NFC-äquivalenter Webtexte und Code-Repositories werden train/eval zugeteilt.

Verwendung

Die Befehle im Repository-Hauptverzeichnis ausführen. Neue Ausgabe-/Downloadordner verwenden und Umfang, Größe sowie fixierte Revision prüfen. Das synthetische CPU-Beispiel lädt keine externen Daten. Benötigte Dateien aus separaten Veröffentlichungen wählen und Größe/SHA256 anhand CHECKSUMS.json oder Quellmanifests prüfen.

python -m pip install "pyarrow>=19,<20" "huggingface_hub>=0.34,<1" "tokenizers>=0.21,<0.23" "transformers==4.55.2" "requests>=2,<3"

from huggingface_hub import snapshot_download
root = snapshot_download('pathcosmos/korean-pretrain-code', repo_type="dataset",
    revision='v1.0.0', allow_patterns=['text/*.parquet', 'source.json', 'manifest.json', 'release.json', 'LICENSE-SCOPE.md'],
    local_dir='korean-pretrain-code', token=False)

from pathlib import Path
import subprocess, sys
from huggingface_hub import snapshot_download
reader = snapshot_download("pathcosmos/korean-pretrain-corpus", repo_type="dataset", revision="v1.1.0",
    allow_patterns=["examples/*"], local_dir="corpus-reader", token=False)
subprocess.run([sys.executable, str(Path(reader) / "examples/stream_documents.py"),
    "--repo", "pathcosmos/korean-pretrain-corpus", "--revision", "v1.1.0", "--source", "github_code_v1",
    "--split", "train", "--limit", "10"], check=True)

examples/stream_documents.py · manifest.json

Modell und Training

Der reine PyTorch-Dense-Decoder verwendet RMSNorm, RoPE, GQA und SwiGLU. Der reale3B-Pfad nutzt FSDP2,8GPUs und eager: Kontext4096, Microbatch4, global2,097,152Tokens, Spitzen-LR3e-4 und Ziel57,000Schritte. Das CPU-Microbeispiel unterscheidet sich vom verteilten Training. Exakte Wiederaufnahme verlangt Modell, Optimizer, RNG und Eingabe-/Konfigurationsverträge.

Optimierung und Benchmarks

Verglichen werden Worker, Threads, Batches, SQLite-Cache, RAM, lokal/NFS, eager/compile, Präzision und GPU-Speicher. Gesamtzeit, Durchsatz, Speicherspitze und Inhalts-/numerische Gleichwertigkeit begründen Annahme oder Ablehnung:47 Kampagnen,99 Ergebnis-JSONs. Geschwindigkeit rechtfertigt keinen numerisch fehlerhaften Kandidaten; kleine Stichproben beweisen kein Gesamtoptimum.

Validierung

Die GH-Quellversion bestand284 CPU-Tests bei9 Überspringungen; frische GitHub-CPU-CI bestand258 bei35 Überspringungen. Gründe sind fehlende Originalprotokolle oder ein zweites Dateisystem. Der synthetische Quickstart nutzt120Dokumente, train100/eval20, Vokabular272 und108,864Parameter und prüft exakte Modell-/Optimizer-Wiederaufnahme. Datenhashes, Splits und Readerprüfungen sind keine vollständige unabhängige3B-Reproduktion.

release.json · source.json

Quellen und Lizenzen

Originaler Projektcode steht unter MIT, eigener Erklärungstext unter CC BY4.0. Dies ersetzt nicht die Rechte an Quelldaten. source.json, LICENSE-SCOPE.md und Herkunftsdokumente nennen Bedingungen, Zuschreibungen, Hinweise und offene Punkte. Eine unbeschränkte kommerzielle Weitergabe aller Originaltexte wird nicht behauptet.

codeparrot/github-code · source.json · LICENSE-SCOPE.md

Grenzen

Globale Fast-Duplikatentfernung, vollständige PII-/Geheimnisentfernung, kontaminationsfreie Bewertung und finale Qualität werden nicht garantiert. Haupttraining lief beim Snapshot; SFT, Export und offizielle Sprachbenchmarks sind nicht abgeschlossen.11 historische Codeverweise/9einzigartige Hashes haben keinen wiedergefundenen Snapshot. Einige Betriebswerkzeuge benötigen Originalmanifests.

korean-pretrain-code — Deutsch

Überblick