Datasets:

pathcosmos
/

korean-pretrain-wikipedia

text stringlengths 192 99.2k	h int64 -9,223,350,435,538,226,000 9,223,348,383B
제임스 얼 카터 주니어(, 1924년 10월 1일~)는 민주당 출신 미국의 제39대 대통령(1977년~1981년)이다. 생애 어린 시절 지미 카터는 조지아주 섬터 카운티 플레인스 마을에서 태어났다. 조지아 공과대학교를 졸업하였다. 그 후 해군에 들어가 전함·원자력·잠수함의 승무원으로 일하였다. 1953년 미국 해군 대위로 예편하였고 이후 땅콩·면화 등을 가꿔 많은 돈을 벌었다. 그의 별명이 "땅콩 농부" (Peanut Farmer)로 알려졌다. 정계 입문 1962년 조지아주 상원 의원 선거에서 낙선하였으나, 그 선거가 부정선거 였음을 입증하게 되어 당선되고, ...	-8,556,376,341,732,082,000
수학(數學, , 줄여서 math)은 수, 양, 구조, 공간, 변화 등의 개념을 다루는 학문이다. 널리 받아들여지는 명확한 정의는 없으나 현대 수학은 일반적으로 엄밀한 논리에 근거하여 추상적 대상을 탐구하며, 이는 규칙의 발견과 문제의 제시 및 해결의 과정으로 이루어진다. 수학은 그 발전 과정에 있어서 철학, 과학과 깊은 연관을 맺고 있으며, 엄밀한 논리와 특유의 추상성, 보편성에 의해 다른 학문들과 구별된다. 특히 수학은 과학의 여느 분야들과는 달리 자연계에서 관측되지 않는 개념들에 대해서까지 이론을 추상화시키는 특징을 보이는데, 수학자들은 그러한 개념들에 대한 추측...	6,581,493,356,167,712,000
수학에서 상수란 그 값이 변하지 않는 불변량으로, 변수의 반대말이다. 물리 상수와는 달리, 수학 상수는 물리적 측정과는 상관없이 정의된다. 수학 상수는 대개 실수체나 복소수체의 원소이다. 우리가 이야기할 수 있는 상수는 (거의 대부분 계산 가능한) 정의가능한 수이다. 특정 수학 상수, 예를 들면 골롬-딕맨 상수, 프랑세즈-로빈슨 상수, , 레비 상수와 같은 상수는 다른 수학상수 또는 함수와 약한 상관관계 또는 강한 상관관계를 갖는다. 수학 상수표 관련 상수들 e 관련 레비 상수 라플라스 극한 알라디-그린스테드 상수 뤼로스 상수 감마함수 관련 오일러-마스케로...	-4,261,734,571,167,821,300
문학(文學, )은 언어를 예술적 표현의 제재로 삼아 새로운 의미를 창출하여, 인간과 사회를 진실되게 묘사하는 예술의 하위분야이다. 간단하게 설명하면, 언어를 통해 인간의 삶을 미적(美的)으로 형상화한 것이라고 볼 수 있다. 문학은 원래 문예(文藝)라고 부르는 것이 옳으며, 문학을 학문의 대상으로서 탐구하는 학문의 명칭 역시 문예학이다. 문예학은 음악사학, 미술사학 등과 함께 예술학의 핵심분야로서 인문학의 하위범주에 포함된다. 일반적으로 문학의 정의는 텍스트들의 집합이다. 각각의 국가들은 고유한 문학을 가질 수 있으며, 이는 기업이나 철학 조류, 어떤 특정한 역사적 ...	3,195,165,619,670,769,000
이 목록에 실린 국가 기준은 1933년 몬테비데오 협약 1장을 참고로 하였다. 협정에 따르면, 국가는 다음의 조건을 만족해야 한다. (a) 영속적인 국민 (b) 일정한 영토 (c) 정부 (d) 타국과의 관계 참여 자격 특히, 마지막 조건은 국제 공동체의 참여 용인을 내포하고 있기 때문에, 다른 나라의 승인이 매우 중요한 역할을 할 수 있다. 이 목록에 포함된 모든 국가는 보통 이 기준을 만족하는 것으로 보이는 자주적이고 독립적인 국가이다. 하지만 몬테비데오 협약 기준을 만족하는지의 여부는 많은 국가가 논쟁이 되고 있는 실정이다. 또한, 몬테비데오 협약 기준만이 국가...	-4,029,433,996,125,756,000
화학(化學)은 물질의 성질, 조성, 구조, 변화 및 그에 수반하는 에너지의 변화를 연구하는 자연과학(自然科學)의 한 분야이다. 물리학(物理學)도 역시 물질을 다루는 학문이지만, 물리학이 원소(元素)와 화합물(化合物)을 모두 포함한 물체의 운동과 에너지, 열적·전기적·광학적·기계적 속성을 다루고 이러한 현상으로부터 통일된 이론을 구축하려는 것과는 달리 화학에서는 물질 자체를 연구 대상으로 한다. 화학은 이미 존재하는 물질을 이용하여 특정한 목적에 맞는 새로운 물질을 합성하는 길을 제공하며, 이는 농작물(農作物)의 증산, 질병의 치료 및 예방, 에너지 효율 증대, 환경오...	8,694,748,613,888,215,000
체첸 공화국(, , ), 또는 줄여서 체첸(, , )은 연방국가인 러시아를 이루는 러시아의 공화국이다. 북캅카스 지역에 위치하여 있으며, 인구 다수는 체첸인으로 구성되어 있다. 언어와 주민 거의 대부분이 체첸인이다. 일부는 러시아인, 인구시인과 기타 북코카서스계 민족도 섞여있다. 체첸에서는 체첸인들의 토착 언어인 체첸어와 러시아어가 모두 사용된다. 체첸어는 캅카스 제어 중 북동 캅카스어족으로 불리는 그룹에 속하는데 인근의 인구시인들이 쓰는 인구시어와 밀접한 관계에 있다. 1989년에 행해진 체첸-인구시 자치공화국의 통계에서는 체첸인이 956,879명, 인구시인이 ...	7,705,242,959,560,499,000
맥스웰 방정식(-方程式, s)은 전기와 자기의 발생, 전기장과 자기장, 전하 밀도와 전류 밀도의 형성을 나타내는 4개의 편미분 방정식이다. 맥스웰 방정식은 빛 역시 전자기파의 하나임을 보여준다. 각각의 방정식은 가우스 법칙, 가우스 자기 법칙, 패러데이 전자기 유도 법칙, 앙페르 회로 법칙으로 불린다. 각각의 방정식을 제임스 클러크 맥스웰이 종합한 이후 맥스웰 방정식으로 불리게 되었다. 전자기역학은 맥스웰 방정식과 로런츠 힘 법칙으로 요약된다. 로랜츠 힘은 맥스웰 방정식으로부터 유도될 수 있다. 개요 맥스웰의 방정식은 네 개의 법칙을 모아 종합하여 구성한 것이다...	-6,525,013,896,203,789,000
초월수(超越數, )는 수학에서 대수학적이지 않은 수, 즉 유리수 계수를 가지는 0이 아닌 유한 차수 다항 방정식의 해가 될 수 없는 수를 의미한다. 가장 잘 알려진 초월수는 (원주율)과 (자연로그의 밑)이다. 현재까지는 적은 양의 초월수들만 알려져 있다. 이는 어떤 주어진 수가 초월수인지 보여주는 것은 극히 어려울 수 있기 때문이다. 그러나 초월수들은 드물지 않다. 실제로 대수적 수들이 가산 집합을 구성하는 반면 실수의 집합, 복소수의 집합은 모두 비가산 집합이므로 거의 모든 실수들과 복소수들은 초월적이다. 또한 모든 유리수가 대수학적이기 때문에 모든 초월실수("실...	-4,997,127,422,673,527,000
음계(音階)는 음악에서 음높이(pitch) 순서로 된 음의 집합을 말한다. 악곡을 주로 구성하는 음을 나타낸 것이며 음계의 종류에 따라 곡의 분위기가 달라진다. 음계의 각각의 음에는 위치에 따라 도수가 붙는다. 음계의 종류 음계는, 음계가 포함하고 있는 음정(interval)에 따라서 이름을 붙일 수 있다. 예시: 온음계, 반음계, 온음음계 또는 음계가 포함하고 있는 서로 다른 피치 클래스의 수에 따라서 이름을 붙일 수 있다. 팔음 음계 칠음 음계 육음 음계와 오음 음계 사음 음계, 삼음 음계와 이음 음계 모노토닉 음계 "음계의 음정(interval) 뿐만 아...	6,052,329,823,248,523,000
대한민국 제16대 대통령 선거는 2002년 12월 19일 목요일 치뤄진 대통령 선거로, 21세기에 처음으로 치뤄진 대한민국 대통령 선거이다. 제15대 김대중 대통령의 차기 대통령을 뽑기 위한 선거이다. 16대 대선은 지난 15대 대선에서 간발의 차로 낙선하고 재도전한 이회창 한나라당 후보와 사상 최초의 국민 참여 경선을 통해 여당의 대통령 후보가 된 해양수산부 장관 출신 노무현 새천년민주당 후보의 양강 구도로 진행되었다. 대선 재수생인 이회창 후보는 경험이나 세력 면에서 노무현 후보보다 대권 고지에 좀 더 유리할 것으로 점쳐졌으나, 이전 대선부터 불거진 이회창 후...	-2,017,929,457,114,174,200
함석헌(咸錫憲, 1901년 3월 13일 ~ 1989년 2월 4일)은 대한민국의 독립운동가, 종교인, 언론인, 출판인이며 기독교운동가, 시민사회운동가였다. 주요 이력 광복 이후 비폭력 인권 운동을 전개한 인권운동가, 언론인, 재야운동가, 문필가로 활약한 그의 본관은 강릉(江陵)이며 호는 신천(信天), 씨알, 바보새이다. 1919년 3.1 운동에 참여했다가 퇴학 당한 후, 사무원과 소학교 교사 등을 전전하다가 1928년부터 1938년까지 오산학교의 교사를 역임했다. 이후 교육, 언론 활동 등에 종사하다가 해방 후, 1947년 월남하였다. 이후에는 성서 강해 등을 하다...	865,096,461,177,676,000
백남준(白南準, 1932년 7월 20일 ~ 2006년 1월 29일, 서울 출생, )은 한국 태생의 세계적인 비디오 아트 예술가, 작곡가, 전위 예술가이다. 본관은 수원(水原). 생전에 뉴욕, 쾰른, 도쿄, 마이애미와 서울에 주로 거주한 그는 여러 가지 매체로 예술 활동을 하였다. 특히 비디오 아트라는 새로운 예술의 범주를 발전시켰다는 평가를 받는 예술가로서 '비디오 아트의 창시자'로 알려져 있다. 생애 현 서울특별시 종로구 서린동 (구 일제 강점기 경기도 경성부 서린정) 출신이다. 친일파인 아버지 백낙승과 어머니 조종희 사이의 3남 2녀 중 막내로 태어났다. 그...	-784,955,784,460,277,900
2002년은 화요일로 시작하는 평년이며, 이 해는 21세기의 첫 대규모 행사의 해이다. 사건 1월 1일 김대중 대통령은 신년사에서 2002년을 '국운융성의 해'로 만들자고 강조하였다. EU, 공식적으로 유로화 사용을 시작하다. 프랑스가 징병제를 폐지하고 모병제로 병역 제도를 바꾸다. 1월 3일 - 유로화 발행 3일만에 독일과 아일랜드 등에서 위조된 유로화가 대량 발견되었다. 1월 29일 - 조지 W. 부시 미국 대통령, 2002년 첫 국정연설에서 조선민주주의인민공화국과 이라크, 이란을 '惡(악)의 軸(축)'으로 지목하다. 2월 2일 - 가수 유승준(미국명 스티브 유...	-6,356,316,378,161,532,000
12월 19일은 그레고리력으로 353번째(윤년일 경우 354번째) 날에 해당한다. 사건 1963년 - 잔지바르가 독립했다. 2002년 - 대한민국 제16대 대통령 선거에서 노무현 후보가 당선되다. 2007년 - 대한민국 제17대 대통령 선거에서 이명박 후보가 당선되다. 2011년 - 조선민주주의인민공화국의 김정일 국방위원장이 이틀 전(12월 17일) 사망했다는 소식이 보도되었다. 2012년 - 대한민국 제18대 대통령 선거에서 박근혜 후보가 당선되다. 2014년 - 헌법재판소가 법무부의 청구를 받아들여 통합진보당 해산을 선고했고, 통합진보당 소속 지역구 의원 3명과...	4,110,517,731,241,025,000
5월 31일은 그레고리력으로 151번째(윤년일 경우 152번째) 날에 해당한다. 사건 1933년 - 탕구 협정의 체결에 의해서 만주사변이 종결. 1945년 - 타이베이 대공습. 1970년 - 페루 북부에서 앙카슈 지진이 발생했다. 2004년 - 대한민국의 무역인 김선일이 피랍됐다. 2005년 - 마크 펠트가 자신이 딥 스로트임을 언론과의 인터뷰에서 밝혔다. 문화 1935년 - 미국 캘리포니아주 로스앤젤레스에서 20세기 폭스가 설립되었다. 1982년 - 대한민국의 첫 인터넷 개설되었다. 1996년 FIFA는 2002년 축구 월드컵을 대한민국과 일본에서 공동 개최하도...	4,375,252,591,790,665,000

End of preview. Expand in Data Studio

korean-pretrain-wikipedia

한국어 · English · 简体中文 · 繁體中文 · 日本語 · Français · Deutsch · Español · Português (Brasil) · हिन्दी · العربية · עברית · Русский

한국어

개요

이 저장소는 아래에 표시한 한 소스의 정제·분리 자료를 제공합니다. 동일 소스의 전체 파일은 통합 corpus의 해당 폴더에서도 받을 수 있습니다. 데이터의 고정 버전과 문서의 갱신 버전은 구분합니다.

문서 번역 언어는 학습 데이터에 그 언어가 포함된다는 뜻이 아닙니다. 주 자연언어는 한국어·영어이며 웹·수학·코드에 다른 언어가 섞일 수 있습니다.

구성과 규모


소스	wiki_ko
문서 수	455,397
train 문서	450,929
eval 문서	4,468
텍스트 bytes	529,810,285


tokens	293,092,049
eval tokens	2,847,194
revision	v1.0.0
upstream	wikimedia/wikipedia
upstream license	cc-by-sa-3.0 / gfdl
provenance_status	`all_wiki_source_candidates_restored`

처리와 분리

웹은 공백 정리, 길이·반복·언어 휴리스틱, 일부 개인정보 패턴 마스킹을 거칩니다. 초기 샤드 내부 hash와 최종 웹 NFC SHA256의 기준은 다릅니다. 코드 정제는 대소문자·들여쓰기·원문 Unicode를 보존하고 경로·라이선스 표기·생성 코드·일부 비밀정보 패턴을 검사합니다. 동일 본문·웹 NFC 동등 본문·코드 저장소의 연결 그룹을 train/eval로 분리합니다.

사용법

아래 명령은 저장소 루트에서 실행합니다. 새 출력/다운로드 디렉터리를 사용하고 다운로드 전에 범위·용량·고정 revision을 확인하세요. 합성 CPU 예제는 외부 데이터를 받지 않습니다. 실제 데이터는 별도 배포에서 필요한 파일만 선택하고 CHECKSUMS.json 또는 소스별 manifest의 크기·SHA256을 검증하세요.

python -m pip install "pyarrow>=19,<20" "huggingface_hub>=0.34,<1" "tokenizers>=0.21,<0.23" "transformers==4.55.2" "requests>=2,<3"

from huggingface_hub import snapshot_download
root = snapshot_download('pathcosmos/korean-pretrain-wikipedia', repo_type="dataset",
    revision='v1.0.0', allow_patterns=['text/*.parquet', 'source.json', 'manifest.json', 'release.json', 'LICENSE-SCOPE.md'],
    local_dir='korean-pretrain-wikipedia', token=False)

from pathlib import Path
import subprocess, sys
from huggingface_hub import snapshot_download
reader = snapshot_download("pathcosmos/korean-pretrain-corpus", repo_type="dataset", revision="v1.1.0",
    allow_patterns=["examples/*"], local_dir="corpus-reader", token=False)
subprocess.run([sys.executable, str(Path(reader) / "examples/stream_documents.py"),
    "--repo", "pathcosmos/korean-pretrain-corpus", "--revision", "v1.1.0", "--source", "wiki_ko",
    "--split", "train", "--limit", "10"], check=True)

examples/stream_documents.py · manifest.json

모델과 학습

모델은 RMSNorm·RoPE·GQA·SwiGLU를 사용하는 순수 PyTorch Dense decoder입니다. 실제 3B 경로는 FSDP2·8GPU·eager이며 문맥4096, micro batch4, global batch2,097,152 tokens, peak LR3e-4, 목표57,000step입니다. 예제의 CPU micro 모델과 실제 분산 학습 경로는 다릅니다. 체크포인트 재개에는 모델·optimizer·RNG·입력/설정 계약 검증이 필요합니다.

최적화·벤치마크

worker·thread·batch·SQLite 캐시·RAM·로컬/NFS와 eager/compile·정밀도·GPU 메모리를 비교했습니다. 총시간·처리량·peak 메모리·내용/수치 동등성을 함께 확인하고 채택·기각 이유를 기록합니다. 47개 캠페인·99개 결과 JSON을 제공하며 빠르더라도 수치 조건에 실패한 후보를 권장하지 않습니다. 짧은 표본의 최적값을 전체 최적값으로 주장하지 않습니다.

검증

GH 소스 공개판의 독립 CPU 검사는284통과/9건너뜀, 새 GitHub CPU 환경은258통과/35건너뜀입니다. 건너뜀은 원래 운영 기록 또는 별도 파일시스템이 필요한 검사입니다. 합성 quickstart는120문서·train100/eval20·vocab272·108,864parameter 모델로 저장/재개 후 model과optimizer 일치를 확인합니다. 데이터 배포의 내용 해시·분할/reader 검사와 전체3B 독립 재현은 구분합니다.

release.json · source.json

출처와 라이선스

프로젝트 원본 코드는 MIT, 원본 설명문은 CC BY4.0입니다. 이는 원문 데이터의 권리를 대신하지 않습니다. 소스별 라이선스·귀속·고지·알려진 미확정 항목은 source.json, LICENSE-SCOPE.md와 출처 문서를 확인하세요. 모든 원문에 대한 무조건적 상업 재배포 허가를 주장하지 않습니다.

wikimedia/wikipedia · source.json · LICENSE-SCOPE.md

한계

전역 유사중복 제거·개인정보/secret 완전 제거·공식 평가 오염 없음·최종 모델 품질을 보장하지 않습니다. 공개 시점의 본학습은 진행 중이며 SFT·모델 export·공식 언어능력 benchmark 완료를 뜻하지 않습니다. 과거 실험11개 코드 참조/고유9hash는 원본 snapshot을 회수하지 못했습니다. 일부 운영 도구는 별도 원래 실행 manifest가 필요합니다.

English

Overview

This repository provides the cleaned, split material for the single source identified below. The same source files are also available in its directory within the unified corpus. Pinned data versions and documentation revisions are distinct.

Translation languages do not imply training-data coverage in those languages. The principal natural languages are Korean and English; web, math and code may contain other languages.

Contents and scale


Source	wiki_ko
Documents	455,397
Train documents	450,929
Evaluation documents	4,468
Text bytes	529,810,285


tokens	293,092,049
eval tokens	2,847,194
revision	v1.0.0
upstream	wikimedia/wikipedia
upstream license	cc-by-sa-3.0 / gfdl
provenance_status	`all_wiki_source_candidates_restored`

Processing and splits

Web processing applies whitespace cleanup, length/repetition/language heuristics and selected PII-pattern masking. Initial within-shard hashes differ from final web NFC SHA256. Code filtering preserves case, indentation and original Unicode while checking paths, license labels, generated code and selected secret patterns. Connected groups of identical bodies, NFC-equivalent web bodies and code repositories are assigned to train/eval.

Usage

Run commands below from the repository root. Use new output/download directories and check scope, size and pinned revision first. The synthetic CPU example downloads no external data. Select only the needed files from the separate data releases and verify sizes/SHA256 against CHECKSUMS.json or the source manifests.

python -m pip install "pyarrow>=19,<20" "huggingface_hub>=0.34,<1" "tokenizers>=0.21,<0.23" "transformers==4.55.2" "requests>=2,<3"

from huggingface_hub import snapshot_download
root = snapshot_download('pathcosmos/korean-pretrain-wikipedia', repo_type="dataset",
    revision='v1.0.0', allow_patterns=['text/*.parquet', 'source.json', 'manifest.json', 'release.json', 'LICENSE-SCOPE.md'],
    local_dir='korean-pretrain-wikipedia', token=False)

from pathlib import Path
import subprocess, sys
from huggingface_hub import snapshot_download
reader = snapshot_download("pathcosmos/korean-pretrain-corpus", repo_type="dataset", revision="v1.1.0",
    allow_patterns=["examples/*"], local_dir="corpus-reader", token=False)
subprocess.run([sys.executable, str(Path(reader) / "examples/stream_documents.py"),
    "--repo", "pathcosmos/korean-pretrain-corpus", "--revision", "v1.1.0", "--source", "wiki_ko",
    "--split", "train", "--limit", "10"], check=True)

examples/stream_documents.py · manifest.json

Model and training

The model is a plain PyTorch dense decoder with RMSNorm, RoPE, GQA and SwiGLU. The actual3B path uses FSDP2,8GPUs and eager execution: context4096, micro batch4, global batch2,097,152tokens, peak LR3e-4 and target57,000steps. The CPU micro demonstration differs from distributed training. Exact resume requires model, optimizer, RNG and input/configuration contracts.

Optimization and benchmarks

Experiments compare workers, threads, batches, SQLite caches, RAM, local/NFS storage, eager/compile execution, precision and GPU memory. Total time, throughput, peak memory and content/numerical equivalence accompany adoption or rejection decisions.47 campaigns and99 result JSON files are included. Speed alone does not justify a numerically failing candidate, and a small sample does not establish a full-scale optimum.

Validation

The GH source release passed284 independent CPU tests with9 skips; fresh GitHub CPU CI passed258 with35 skips. Skips require original-run records or a second filesystem. The synthetic quickstart uses120documents, train100/eval20, vocab272 and a108,864parameter model, verifying exact model/optimizer resume. Dataset content-hash, split and reader checks are separate from full independent3B reproduction.

release.json · source.json

Sources and licensing

Original project code is MIT and original prose is CC BY4.0. These grants do not replace original-content rights. Consult source.json, LICENSE-SCOPE.md and provenance documents for source-specific conditions, attribution, notices and known unresolved items. Unrestricted commercial redistribution of every original text is not asserted.

wikimedia/wikipedia · source.json · LICENSE-SCOPE.md

Limitations

Global near-duplicate removal, complete PII/secret removal, contamination-free official evaluation and final model quality are not guaranteed. Main training was ongoing at the publication snapshot; SFT, model export and official language benchmarks are not completed features.11 historical code references/9unique hashes lack a recovered snapshot. Some operational tools require original-run manifests.