Datasets:

pathcosmos
/

korean-pretrain-corpus

text stringlengths 192 99.2k	h int64 -9,223,350,435,538,226,000 9,223,348,383B
제임스 얼 카터 주니어(, 1924년 10월 1일~)는 민주당 출신 미국의 제39대 대통령(1977년~1981년)이다. 생애 어린 시절 지미 카터는 조지아주 섬터 카운티 플레인스 마을에서 태어났다. 조지아 공과대학교를 졸업하였다. 그 후 해군에 들어가 전함·원자력·잠수함의 승무원으로 일하였다. 1953년 미국 해군 대위로 예편하였고 이후 땅콩·면화 등을 가꿔 많은 돈을 벌었다. 그의 별명이 "땅콩 농부" (Peanut Farmer)로 알려졌다. 정계 입문 1962년 조지아주 상원 의원 선거에서 낙선하였으나, 그 선거가 부정선거 였음을 입증하게 되어 당선되고, ...	-8,556,376,341,732,082,000
수학(數學, , 줄여서 math)은 수, 양, 구조, 공간, 변화 등의 개념을 다루는 학문이다. 널리 받아들여지는 명확한 정의는 없으나 현대 수학은 일반적으로 엄밀한 논리에 근거하여 추상적 대상을 탐구하며, 이는 규칙의 발견과 문제의 제시 및 해결의 과정으로 이루어진다. 수학은 그 발전 과정에 있어서 철학, 과학과 깊은 연관을 맺고 있으며, 엄밀한 논리와 특유의 추상성, 보편성에 의해 다른 학문들과 구별된다. 특히 수학은 과학의 여느 분야들과는 달리 자연계에서 관측되지 않는 개념들에 대해서까지 이론을 추상화시키는 특징을 보이는데, 수학자들은 그러한 개념들에 대한 추측...	6,581,493,356,167,712,000
수학에서 상수란 그 값이 변하지 않는 불변량으로, 변수의 반대말이다. 물리 상수와는 달리, 수학 상수는 물리적 측정과는 상관없이 정의된다. 수학 상수는 대개 실수체나 복소수체의 원소이다. 우리가 이야기할 수 있는 상수는 (거의 대부분 계산 가능한) 정의가능한 수이다. 특정 수학 상수, 예를 들면 골롬-딕맨 상수, 프랑세즈-로빈슨 상수, , 레비 상수와 같은 상수는 다른 수학상수 또는 함수와 약한 상관관계 또는 강한 상관관계를 갖는다. 수학 상수표 관련 상수들 e 관련 레비 상수 라플라스 극한 알라디-그린스테드 상수 뤼로스 상수 감마함수 관련 오일러-마스케로...	-4,261,734,571,167,821,300
문학(文學, )은 언어를 예술적 표현의 제재로 삼아 새로운 의미를 창출하여, 인간과 사회를 진실되게 묘사하는 예술의 하위분야이다. 간단하게 설명하면, 언어를 통해 인간의 삶을 미적(美的)으로 형상화한 것이라고 볼 수 있다. 문학은 원래 문예(文藝)라고 부르는 것이 옳으며, 문학을 학문의 대상으로서 탐구하는 학문의 명칭 역시 문예학이다. 문예학은 음악사학, 미술사학 등과 함께 예술학의 핵심분야로서 인문학의 하위범주에 포함된다. 일반적으로 문학의 정의는 텍스트들의 집합이다. 각각의 국가들은 고유한 문학을 가질 수 있으며, 이는 기업이나 철학 조류, 어떤 특정한 역사적 ...	3,195,165,619,670,769,000
이 목록에 실린 국가 기준은 1933년 몬테비데오 협약 1장을 참고로 하였다. 협정에 따르면, 국가는 다음의 조건을 만족해야 한다. (a) 영속적인 국민 (b) 일정한 영토 (c) 정부 (d) 타국과의 관계 참여 자격 특히, 마지막 조건은 국제 공동체의 참여 용인을 내포하고 있기 때문에, 다른 나라의 승인이 매우 중요한 역할을 할 수 있다. 이 목록에 포함된 모든 국가는 보통 이 기준을 만족하는 것으로 보이는 자주적이고 독립적인 국가이다. 하지만 몬테비데오 협약 기준을 만족하는지의 여부는 많은 국가가 논쟁이 되고 있는 실정이다. 또한, 몬테비데오 협약 기준만이 국가...	-4,029,433,996,125,756,000
화학(化學)은 물질의 성질, 조성, 구조, 변화 및 그에 수반하는 에너지의 변화를 연구하는 자연과학(自然科學)의 한 분야이다. 물리학(物理學)도 역시 물질을 다루는 학문이지만, 물리학이 원소(元素)와 화합물(化合物)을 모두 포함한 물체의 운동과 에너지, 열적·전기적·광학적·기계적 속성을 다루고 이러한 현상으로부터 통일된 이론을 구축하려는 것과는 달리 화학에서는 물질 자체를 연구 대상으로 한다. 화학은 이미 존재하는 물질을 이용하여 특정한 목적에 맞는 새로운 물질을 합성하는 길을 제공하며, 이는 농작물(農作物)의 증산, 질병의 치료 및 예방, 에너지 효율 증대, 환경오...	8,694,748,613,888,215,000
체첸 공화국(, , ), 또는 줄여서 체첸(, , )은 연방국가인 러시아를 이루는 러시아의 공화국이다. 북캅카스 지역에 위치하여 있으며, 인구 다수는 체첸인으로 구성되어 있다. 언어와 주민 거의 대부분이 체첸인이다. 일부는 러시아인, 인구시인과 기타 북코카서스계 민족도 섞여있다. 체첸에서는 체첸인들의 토착 언어인 체첸어와 러시아어가 모두 사용된다. 체첸어는 캅카스 제어 중 북동 캅카스어족으로 불리는 그룹에 속하는데 인근의 인구시인들이 쓰는 인구시어와 밀접한 관계에 있다. 1989년에 행해진 체첸-인구시 자치공화국의 통계에서는 체첸인이 956,879명, 인구시인이 ...	7,705,242,959,560,499,000
맥스웰 방정식(-方程式, s)은 전기와 자기의 발생, 전기장과 자기장, 전하 밀도와 전류 밀도의 형성을 나타내는 4개의 편미분 방정식이다. 맥스웰 방정식은 빛 역시 전자기파의 하나임을 보여준다. 각각의 방정식은 가우스 법칙, 가우스 자기 법칙, 패러데이 전자기 유도 법칙, 앙페르 회로 법칙으로 불린다. 각각의 방정식을 제임스 클러크 맥스웰이 종합한 이후 맥스웰 방정식으로 불리게 되었다. 전자기역학은 맥스웰 방정식과 로런츠 힘 법칙으로 요약된다. 로랜츠 힘은 맥스웰 방정식으로부터 유도될 수 있다. 개요 맥스웰의 방정식은 네 개의 법칙을 모아 종합하여 구성한 것이다...	-6,525,013,896,203,789,000
초월수(超越數, )는 수학에서 대수학적이지 않은 수, 즉 유리수 계수를 가지는 0이 아닌 유한 차수 다항 방정식의 해가 될 수 없는 수를 의미한다. 가장 잘 알려진 초월수는 (원주율)과 (자연로그의 밑)이다. 현재까지는 적은 양의 초월수들만 알려져 있다. 이는 어떤 주어진 수가 초월수인지 보여주는 것은 극히 어려울 수 있기 때문이다. 그러나 초월수들은 드물지 않다. 실제로 대수적 수들이 가산 집합을 구성하는 반면 실수의 집합, 복소수의 집합은 모두 비가산 집합이므로 거의 모든 실수들과 복소수들은 초월적이다. 또한 모든 유리수가 대수학적이기 때문에 모든 초월실수("실...	-4,997,127,422,673,527,000
음계(音階)는 음악에서 음높이(pitch) 순서로 된 음의 집합을 말한다. 악곡을 주로 구성하는 음을 나타낸 것이며 음계의 종류에 따라 곡의 분위기가 달라진다. 음계의 각각의 음에는 위치에 따라 도수가 붙는다. 음계의 종류 음계는, 음계가 포함하고 있는 음정(interval)에 따라서 이름을 붙일 수 있다. 예시: 온음계, 반음계, 온음음계 또는 음계가 포함하고 있는 서로 다른 피치 클래스의 수에 따라서 이름을 붙일 수 있다. 팔음 음계 칠음 음계 육음 음계와 오음 음계 사음 음계, 삼음 음계와 이음 음계 모노토닉 음계 "음계의 음정(interval) 뿐만 아...	6,052,329,823,248,523,000
대한민국 제16대 대통령 선거는 2002년 12월 19일 목요일 치뤄진 대통령 선거로, 21세기에 처음으로 치뤄진 대한민국 대통령 선거이다. 제15대 김대중 대통령의 차기 대통령을 뽑기 위한 선거이다. 16대 대선은 지난 15대 대선에서 간발의 차로 낙선하고 재도전한 이회창 한나라당 후보와 사상 최초의 국민 참여 경선을 통해 여당의 대통령 후보가 된 해양수산부 장관 출신 노무현 새천년민주당 후보의 양강 구도로 진행되었다. 대선 재수생인 이회창 후보는 경험이나 세력 면에서 노무현 후보보다 대권 고지에 좀 더 유리할 것으로 점쳐졌으나, 이전 대선부터 불거진 이회창 후...	-2,017,929,457,114,174,200
함석헌(咸錫憲, 1901년 3월 13일 ~ 1989년 2월 4일)은 대한민국의 독립운동가, 종교인, 언론인, 출판인이며 기독교운동가, 시민사회운동가였다. 주요 이력 광복 이후 비폭력 인권 운동을 전개한 인권운동가, 언론인, 재야운동가, 문필가로 활약한 그의 본관은 강릉(江陵)이며 호는 신천(信天), 씨알, 바보새이다. 1919년 3.1 운동에 참여했다가 퇴학 당한 후, 사무원과 소학교 교사 등을 전전하다가 1928년부터 1938년까지 오산학교의 교사를 역임했다. 이후 교육, 언론 활동 등에 종사하다가 해방 후, 1947년 월남하였다. 이후에는 성서 강해 등을 하다...	865,096,461,177,676,000
백남준(白南準, 1932년 7월 20일 ~ 2006년 1월 29일, 서울 출생, )은 한국 태생의 세계적인 비디오 아트 예술가, 작곡가, 전위 예술가이다. 본관은 수원(水原). 생전에 뉴욕, 쾰른, 도쿄, 마이애미와 서울에 주로 거주한 그는 여러 가지 매체로 예술 활동을 하였다. 특히 비디오 아트라는 새로운 예술의 범주를 발전시켰다는 평가를 받는 예술가로서 '비디오 아트의 창시자'로 알려져 있다. 생애 현 서울특별시 종로구 서린동 (구 일제 강점기 경기도 경성부 서린정) 출신이다. 친일파인 아버지 백낙승과 어머니 조종희 사이의 3남 2녀 중 막내로 태어났다. 그...	-784,955,784,460,277,900
2002년은 화요일로 시작하는 평년이며, 이 해는 21세기의 첫 대규모 행사의 해이다. 사건 1월 1일 김대중 대통령은 신년사에서 2002년을 '국운융성의 해'로 만들자고 강조하였다. EU, 공식적으로 유로화 사용을 시작하다. 프랑스가 징병제를 폐지하고 모병제로 병역 제도를 바꾸다. 1월 3일 - 유로화 발행 3일만에 독일과 아일랜드 등에서 위조된 유로화가 대량 발견되었다. 1월 29일 - 조지 W. 부시 미국 대통령, 2002년 첫 국정연설에서 조선민주주의인민공화국과 이라크, 이란을 '惡(악)의 軸(축)'으로 지목하다. 2월 2일 - 가수 유승준(미국명 스티브 유...	-6,356,316,378,161,532,000
12월 19일은 그레고리력으로 353번째(윤년일 경우 354번째) 날에 해당한다. 사건 1963년 - 잔지바르가 독립했다. 2002년 - 대한민국 제16대 대통령 선거에서 노무현 후보가 당선되다. 2007년 - 대한민국 제17대 대통령 선거에서 이명박 후보가 당선되다. 2011년 - 조선민주주의인민공화국의 김정일 국방위원장이 이틀 전(12월 17일) 사망했다는 소식이 보도되었다. 2012년 - 대한민국 제18대 대통령 선거에서 박근혜 후보가 당선되다. 2014년 - 헌법재판소가 법무부의 청구를 받아들여 통합진보당 해산을 선고했고, 통합진보당 소속 지역구 의원 3명과...	4,110,517,731,241,025,000
5월 31일은 그레고리력으로 151번째(윤년일 경우 152번째) 날에 해당한다. 사건 1933년 - 탕구 협정의 체결에 의해서 만주사변이 종결. 1945년 - 타이베이 대공습. 1970년 - 페루 북부에서 앙카슈 지진이 발생했다. 2004년 - 대한민국의 무역인 김선일이 피랍됐다. 2005년 - 마크 펠트가 자신이 딥 스로트임을 언론과의 인터뷰에서 밝혔다. 문화 1935년 - 미국 캘리포니아주 로스앤젤레스에서 20세기 폭스가 설립되었다. 1982년 - 대한민국의 첫 인터넷 개설되었다. 1996년 FIFA는 2002년 축구 월드컵을 대한민국과 일본에서 공동 개최하도...	4,375,252,591,790,665,000

End of preview. Expand in Data Studio

korean-pretrain-corpus

한국어 · English · 简体中文 · 繁體中文 · 日本語 · Français · Deutsch · Español · Português (Brasil) · हिन्दी · العربية · עברית · Русский

한국어

개요

한국어 중심 LLM 사전학습을 위한 코퍼스입니다. 한국어 위키·웹 문서, 영어 교육 웹 문서, 수학, 코드를 모아 추가 정제·정확중복 제거·그룹 분리·토큰화를 수행했습니다. 제작자는 pathcosmos이며 원본 자료의 제작자는 아래 출처에 표시합니다. 모델 가중치나 대화용 SFT 데이터셋은 포함하지 않습니다.

이 문서의 번역 언어가 학습 데이터에 해당 언어가 포함된다는 의미는 아닙니다. 주된 자연어는 한국어·영어이며, 코드·수학 및 웹 자료에 다른 언어가 섞일 수 있습니다.

공개 상태

6개 소스의 기존 정제 스냅샷 텍스트, train/eval 토큰, 분리 정보와 문서별 토큰 위치를 공개했습니다. 토크나이저·재현 코드도 제공합니다. 고정 파일과 commit은 release.json을 따릅니다. 문서별 URL·원 Git commit·고지의 미확인 범위는 소스별 source.json에 명시합니다.

구성 및 규모

Metric	Locally prepared value
Documents	128,856,258
Train documents	127,565,418
Validation documents	1,290,840
Train tokens	121,174,609,758
Validation tokens	1,227,784,055
All tokens	122,402,393,813
Text Parquet bytes	247,751,650,872
Token binary bytes	244,804,787,626
Portable split bytes	9,131,189,705
Document offset bytes	845,171,422

GB = 10^9 bytes. Token counts use this project's tokenizer and include appended EOS.

Source	Train docs	Validation docs	All tokens	Training sampling weight
wiki_ko	450,929	4,468	295,939,243	0.500000%
fineweb2_ko	58,077,534	586,880	42,742,972,949	29.464577%
hplt_ko	27,159,019	275,213	29,063,842,403	20.035423%
fineweb_edu	34,357,395	347,441	36,414,110,544	30.000000%
owm	5,394,603	54,317	9,836,370,997	10.000000%
github_code_v1	2,125,938	22,521	4,049,157,677	10.000000%

정제와 분리

웹 자료에는 공백 정리, 길이·반복·언어 관련 휴리스틱, 일부 개인정보 패턴 치환, 파일 내 정확중복 제거를 적용했습니다. 웹 소스 간 중복 제거는 위키→FineWeb2→HPLT→FineWeb-Edu→OpenWebMath 순서의 NFC 본문 SHA256 판정으로 수행했습니다. 코드는 원래 UTF8·대소문자·들여쓰기를 보존하고 경로·언어·길이·라이선스 라벨·일부 생성/secret 패턴을 필터링했습니다.

train/eval은 문서 그룹 단위로 분리했습니다. 정확히 같은 본문, 웹의 NFC 동등 본문, 코드 저장소의 연결 그룹을 양쪽에 나누지 않는 정책입니다. 공개 validation은 기존 eval에 대응합니다. 전역 유사중복 제거 또는 모든 형태의 오염 제거를 의미하지 않습니다.

토크나이저와 형식

토크나이저는 어휘 65,536개의 raw BPE입니다. BOS=0, EOS=1, PAD=2이며 별도의 UNK 토큰은 없습니다. 원문 Unicode를 보존하는 정책을 사용합니다. 바이너리는 little-endian uint16이며 각 문서 끝에 EOS 하나를 추가합니다. 다른 토크나이저로 학습하려면 공개 텍스트에서 다시 토큰화해야 합니다. AutoTokenizer에서도 원본과 동일한 어휘 및 16개 특수토큰 ID를 검증했습니다. 대규모 3B 학습의 독립 환경 전체 재현은 별도 검증 대상입니다.

tokenizer_sha256 = 050f9b43cf964f0c3b29ae443a1c2eae46cb2ee0022cc010bcfea3d26acf1706
split_contract_id = c06e2f6a42b6f8ba0d8a6ecd15f3b9d156ea7f44601efe86ad59f38ab0aedfc4

출처와 라이선스

자체 코드는 MIT, 자체 설명 문서는 CC BY 4.0입니다. 이 허락은 원본 코퍼스 전체의 이용 조건을 대체하지 않습니다. 데이터베이스/포장 조건과 개별 본문 권리를 구별하며, 문서별 귀속·예외·코드 고지 작업을 진행 중입니다. 모든 원문이 상업적으로 자유롭게 재배포 가능하다고 보장하지 않습니다.

Source / original publisher	Pinned revision	Selected subset
wikimedia/wikipedia	`b04c8d1ceb2f5cd4588862100d08de323dccfbaa`	20231101.ko: all 3 selected shards
HuggingFaceFW/fineweb-2	`af9c13333eb981300149d5ca60a8e9d659b276b9`	data/kor_Hang/train: 25 shards
HPLT/HPLT2.0_cleaned	`d1324a5283f762ee62c2a5c81de08fc6450ea540`	kor_Hang: 464 shards
HuggingFaceFW/fineweb-edu	`87f09149ef4734204d70ed1d046ddc9ca3f2b8f9`	sample/100BT: first 56 sorted shards, not complete 100BT sample
open-web-math/open-web-math	`fde8ef8de2300f5e778f56261843dab89f230815`	data: 114 shards
codeparrot/github-code	`b5661e6b17396364b2bcf8e68977b0d28e1ebd19`	64 evenly spread shards out of 1126

Material	Upstream condition / scope
FineWeb2 / FineWeb-Edu / OpenWebMath	ODC-By 1.0 database rights + Common Crawl terms; individual content rights remain separate
HPLT2	CC0 packaging; no blanket ownership of individual texts
Wikipedia	Per-article attribution and Wikimedia terms; HF card's CC BY-SA 3.0/GFDL labels differ from the 2023 transition to CC BY-SA 4.0; exceptions require review
GitHub code	Source labels: MIT, Apache-2.0, BSD-3-Clause, CC0-1.0, BSD-2-Clause, Unlicense, ISC; original Git commits and complete LICENSE/NOTICE coverage are not yet established

SOURCES.md · License scope

검증 범위

전체 128,856,258행의 portable split을 읽기 전용 canonical DB에서 내보내고 재읽기 논리 대조를 통과했습니다. 1,452개 token bin의 SHA256·문서 수·EOS 경계를 대조해 122,402,393,813토큰의 문서 위치를 검증했습니다. 위키 455,397문서의 원본 URL 후보를 복원했고, 다중 출처 7건은 모두 보존하며 원래 생존 행을 검증했습니다. 이 결과는 원문 전체의 재배포 권리 확정이나 새 전역 유사중복 검사와 다릅니다.

사용 방법

전체 파일은 release.json의 고정 commit으로 받으세요. 텍스트는 canonical 분리 로더로 읽어 새 토크나이저를 학습하거나, 제공된 토큰·토크나이저·recipe를 재사용할 수 있습니다. REPRODUCE.md와 examples/를 참고하세요. 독립 환경에서의 전체 3B 학습 재현은 아직 별도 검증 대상입니다.

한계

웹의 편향, 유해 표현, 사실 오류, 개인정보 또는 secret 잔존 가능성이 있습니다. 정제만으로 이를 완전히 제거했다고 주장하지 않습니다. 공식 benchmark 무오염·전역 유사중복 없음·일정한 모델 성능은 입증하지 않았습니다. 평가 데이터는 학습에 섞지 말고, 데이터 양과 실제 sampling weight를 구별해야 합니다.

문의와 인용

제작자: pathcosmos. 문의·비공개 삭제 요청: miracle.yang@pathcosmos.com. URL, doc_id 또는 저장소/파일 경로를 함께 알려 주세요. 공개 이슈에 민감한 개인정보를 게시하지 마세요. 이 코퍼스와 함께 실제 사용한 원 데이터 제작자도 인용해 주세요.

Original project prose: CC BY 4.0 · pathcosmos · https://creativecommons.org/licenses/by/4.0/

사용법

아래 명령은 저장소 루트에서 실행합니다. 새 출력/다운로드 디렉터리를 사용하고 다운로드 전에 범위·용량·고정 revision을 확인하세요. 합성 CPU 예제는 외부 데이터를 받지 않습니다. 실제 데이터는 별도 배포에서 필요한 파일만 선택하고 CHECKSUMS.json 또는 소스별 manifest의 크기·SHA256을 검증하세요.

python -m pip install "pyarrow>=19,<20" "huggingface_hub>=0.34,<1" "tokenizers>=0.21,<0.23" "transformers==4.55.2" "requests>=2,<3"

from huggingface_hub import snapshot_download
root = snapshot_download('pathcosmos/korean-pretrain-corpus', repo_type="dataset",
    revision='v1.1.0', allow_patterns=['wiki_ko/*', 'tokenizer/*', 'examples/*', 'release.json', 'CHECKSUMS.json'],
    local_dir='korean-pretrain-corpus', token=False)

from pathlib import Path
import subprocess, sys
from huggingface_hub import snapshot_download
reader = snapshot_download("pathcosmos/korean-pretrain-corpus", repo_type="dataset", revision="v1.1.0",
    allow_patterns=["examples/*"], local_dir="corpus-reader", token=False)
subprocess.run([sys.executable, str(Path(reader) / "examples/stream_documents.py"),
    "--repo", "pathcosmos/korean-pretrain-corpus", "--revision", "v1.1.0", "--source", "wiki_ko",
    "--split", "train", "--limit", "10"], check=True)

from pathlib import Path
from huggingface_hub import snapshot_download
from transformers import AutoTokenizer
cache = snapshot_download("pathcosmos/korean-pretrain-training-data",
    repo_type="dataset", revision="v1.0.1",
    allow_patterns=["tokenizer/*"], token=False)
tokenizer = AutoTokenizer.from_pretrained(Path(cache) / "tokenizer")

English

Overview

A Korean-centric corpus for language-model pretraining, combining Korean encyclopedia/web text, English educational web text, mathematics, and code. pathcosmos performed additional filtering, exact deduplication, grouped splitting, and tokenization. Original data creators are credited below. This release does not contain model weights or an instruction-tuning dataset.

Documentation translations do not imply training-data coverage in those languages. The main natural languages are Korean and English; web, math, and code content may contain other languages.

Publication status

The complete existing six-source snapshot is public: cleaned text, train/eval tokens, canonical assignments and document offsets, plus tokenizer and reproduction code. Use release.json for pinned commits and files. Remaining document-URL, original-Git-commit and notice gaps are explicitly documented in each source.json.

Composition and scale

Metric	Locally prepared value
Documents	128,856,258
Train documents	127,565,418
Validation documents	1,290,840
Train tokens	121,174,609,758
Validation tokens	1,227,784,055
All tokens	122,402,393,813
Text Parquet bytes	247,751,650,872
Token binary bytes	244,804,787,626
Portable split bytes	9,131,189,705
Document offset bytes	845,171,422

GB = 10^9 bytes. Token counts use this project's tokenizer and include appended EOS.

Source	Train docs	Validation docs	All tokens	Training sampling weight
wiki_ko	450,929	4,468	295,939,243	0.500000%
fineweb2_ko	58,077,534	586,880	42,742,972,949	29.464577%
hplt_ko	27,159,019	275,213	29,063,842,403	20.035423%
fineweb_edu	34,357,395	347,441	36,414,110,544	30.000000%
owm	5,394,603	54,317	9,836,370,997	10.000000%
github_code_v1	2,125,938	22,521	4,049,157,677	10.000000%

Processing and splits

Web processing includes whitespace cleanup, length/repetition/language heuristics, selected PII-pattern masking, and within-shard exact deduplication. Cross-source web deduplication uses NFC body SHA256 in this order: Wikipedia → FineWeb2 → HPLT → FineWeb-Edu → OpenWebMath. Code preserves original UTF8, case, and indentation, with path, language, length, license-label, generated-content, and selected secret-pattern filters.

Documents are split by connected groups of identical content, NFC-equivalent web content, and code repositories. Public validation corresponds to the existing eval split. This policy does not establish global near-duplicate removal or freedom from every form of evaluation contamination.

Tokenizer and format

Raw BPE with vocabulary size 65,536; BOS=0, EOS=1, PAD=2, and no separate UNK token. The policy preserves source Unicode. Token binaries use little-endian uint16 with one appended EOS per document. Users choosing a different tokenizer must retokenize the released text. AutoTokenizer preserves the original vocabulary and all 16 special-token IDs. Full independent 3B training reproduction remains a separate validation task.

tokenizer_sha256 = 050f9b43cf964f0c3b29ae443a1c2eae46cb2ee0022cc010bcfea3d26acf1706
split_contract_id = c06e2f6a42b6f8ba0d8a6ecd15f3b9d156ea7f44601efe86ad59f38ab0aedfc4

Sources and licensing

Original project code is MIT; original explanatory prose is CC BY 4.0. These grants do not replace upstream corpus conditions. Database/packaging rights and individual content rights are distinct. Document attribution, exceptions, and code notices are still being completed; unrestricted commercial redistribution of every original text is not asserted.

Source / original publisher	Pinned revision	Selected subset
wikimedia/wikipedia	`b04c8d1ceb2f5cd4588862100d08de323dccfbaa`	20231101.ko: all 3 selected shards
HuggingFaceFW/fineweb-2	`af9c13333eb981300149d5ca60a8e9d659b276b9`	data/kor_Hang/train: 25 shards
HPLT/HPLT2.0_cleaned	`d1324a5283f762ee62c2a5c81de08fc6450ea540`	kor_Hang: 464 shards
HuggingFaceFW/fineweb-edu	`87f09149ef4734204d70ed1d046ddc9ca3f2b8f9`	sample/100BT: first 56 sorted shards, not complete 100BT sample
open-web-math/open-web-math	`fde8ef8de2300f5e778f56261843dab89f230815`	data: 114 shards
codeparrot/github-code	`b5661e6b17396364b2bcf8e68977b0d28e1ebd19`	64 evenly spread shards out of 1126

Material	Upstream condition / scope
FineWeb2 / FineWeb-Edu / OpenWebMath	ODC-By 1.0 database rights + Common Crawl terms; individual content rights remain separate
HPLT2	CC0 packaging; no blanket ownership of individual texts
Wikipedia	Per-article attribution and Wikimedia terms; HF card's CC BY-SA 3.0/GFDL labels differ from the 2023 transition to CC BY-SA 4.0; exceptions require review
GitHub code	Source labels: MIT, Apache-2.0, BSD-3-Clause, CC0-1.0, BSD-2-Clause, Unlicense, ISC; original Git commits and complete LICENSE/NOTICE coverage are not yet established

SOURCES.md · License scope

Validation scope

All 128,856,258 portable split rows were exported from the read-only canonical DB and logically compared after decoding. SHA256, document counts, and EOS boundaries of 1,452 token binaries were checked to establish document offsets for 122,402,393,813 tokens. Source URL candidates were recovered for 455,397 Wikipedia documents; all candidates for seven multiple-origin cases were retained and their original surviving rows verified. This is not per-document rights clearance or a new global near-deduplication audit.

How to use

Download pinned commits from release.json. Use the canonical split reader to train a new tokenizer from text, or reuse the supplied tokens, tokenizer and recipe. See REPRODUCE.md and examples/. Full independent reproduction of the complete 3B training run remains a separate validation task.

Limitations

Web bias, harmful language, factual errors, residual personal information, and secrets may remain. Filtering is not a guarantee of their absence. Official-benchmark decontamination, global absence of near duplicates, and a particular model-quality level have not been established. Keep validation separate from training and distinguish stored token amounts from sampling weights.

Contact and citation

Publisher: pathcosmos. Questions and private removal requests: miracle.yang@pathcosmos.com. Include a URL, doc_id, or repository/file path; do not post sensitive personal information in public issues. Cite the upstream datasets actually used as well as this corpus.