Add files using upload-large-folder tool
Browse files- audit-v2-gate-50k/audit_summary.json +183 -0
- audit-v2-gate-50k/lowest_quality.jsonl +0 -0
- audit-v2-gate-50k/random_sample.jsonl +0 -0
- audit-v2-smoke-50k/audit_summary.json +170 -0
- audit-v2-smoke-50k/lowest_quality.jsonl +0 -0
- audit-v2-smoke-50k/random_sample.jsonl +0 -0
- clean-5b-parallel-smoke/prepare_stats.json +36 -0
- clean-5b-parallel-smoke/test-00000.jsonl +1 -0
- clean-5b-parallel-smoke/validation-00000.jsonl +10 -0
- clean-5b-sequential-aborted-20260730/exact_dedupe.sqlite3-shm +0 -0
- clean-5b-sequential-aborted-20260730/test-00000.jsonl +0 -0
- clean-5b-sequential-aborted-20260730/validation-00000.jsonl +0 -0
- clean-5b/prepare_stats.json +169 -0
- clean-v2-full/prepare_stats.json +194 -0
- clean-v2-full/train-00068.jsonl +0 -0
- clean-v2-gate-100k/prepare_stats.json +192 -0
- clean-v2-gate-100k/test-00000.jsonl +0 -0
- clean-v2-gate-100k/validation-00000.jsonl +0 -0
- clean-v2-smoke-100k/prepare_stats.json +189 -0
- clean-v2-smoke-100k/test-00000.jsonl +0 -0
- clean-v2-smoke-100k/validation-00000.jsonl +0 -0
- raw/fineweb2-kor-5b-sequential-aborted-20260730/download_state.json +16 -0
- raw/fineweb2-kor-5b/download_summary.json +10 -0
- raw/fineweb2-kor-5b/part-00/download_state.json +18 -0
- raw/fineweb2-kor-5b/part-01/download_state.json +18 -0
- raw/fineweb2-kor-5b/part-02/download_state.json +18 -0
- raw/fineweb2-kor-5b/part-03/download_state.json +18 -0
- tokenize-parallel-smoke/combined.metadata.json +11 -0
- tokenize-parallel-smoke/train-00000.json +11 -0
- tokenized-5b/metadata.json +40 -0
- tokenized-5b/parts/train/train-00000.json +11 -0
- tokenized-5b/parts/train/train-00003.json +11 -0
- tokenized-5b/parts/train/train-00004.json +11 -0
- tokenized-5b/parts/train/train-00005.json +11 -0
- tokenized-5b/parts/train/train-00006.json +11 -0
- tokenized-5b/parts/train/train-00007.json +11 -0
- tokenized-5b/parts/train/train-00010.json +11 -0
- tokenized-5b/parts/train/train-00013.json +11 -0
- tokenized-5b/test.metadata.json +11 -0
- tokenized-5b/train.metadata.json +11 -0
- tokenized-5b/validation.metadata.json +11 -0
- tokenized-pilot/metadata.json +37 -0
- tokenized-v2-100m/metadata.json +37 -0
- tokenized-v2-20b/manifest.json +15 -0
- tokenized-v2-cpt-3b/manifest.json +489 -0
- tokenized-v2-stream-smoke/state.json +60 -0
- tokenized-v2-stream-smoke2/state.json +60 -0
- tokenized-v2-stream-smoke3/state.json +60 -0
- tokenized-v2-stream-smoke4/state.json +60 -0
- tokenized-v2b-100m/metadata.json +37 -0
audit-v2-gate-50k/audit_summary.json
ADDED
|
@@ -0,0 +1,183 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"inputs": [
|
| 3 |
+
"/workspace/KAWK50M/data/clean-v2-gate-100k/train-00000.jsonl",
|
| 4 |
+
"/workspace/KAWK50M/data/clean-v2-gate-100k/train-00001.jsonl",
|
| 5 |
+
"/workspace/KAWK50M/data/clean-v2-gate-100k/train-00002.jsonl"
|
| 6 |
+
],
|
| 7 |
+
"limit": 50000,
|
| 8 |
+
"seed": 42,
|
| 9 |
+
"filter": {
|
| 10 |
+
"min_chars": 300,
|
| 11 |
+
"max_chars": 100000,
|
| 12 |
+
"min_hangul_chars": 50,
|
| 13 |
+
"min_hangul_letter_ratio": 0.7,
|
| 14 |
+
"min_hangul_visible_ratio": 0.55,
|
| 15 |
+
"max_digit_ratio": 0.08,
|
| 16 |
+
"max_symbol_ratio": 0.15,
|
| 17 |
+
"max_url_per_word": 0.01,
|
| 18 |
+
"min_unique_line_ratio": 0.7,
|
| 19 |
+
"min_unique_word_ratio": 0.2,
|
| 20 |
+
"max_short_line_ratio": 0.5,
|
| 21 |
+
"max_list_line_ratio": 0.25,
|
| 22 |
+
"max_table_line_ratio": 0.1,
|
| 23 |
+
"max_boilerplate_hits_per_1k": 1.5,
|
| 24 |
+
"max_repeated_character_run": 20,
|
| 25 |
+
"max_code_line_ratio": 0.25,
|
| 26 |
+
"max_code_math_char_ratio": 0.15,
|
| 27 |
+
"min_quality_score": 0.7,
|
| 28 |
+
"strip_html": true,
|
| 29 |
+
"mask_pii": true
|
| 30 |
+
},
|
| 31 |
+
"counts": {
|
| 32 |
+
"accepted": 50000,
|
| 33 |
+
"documents": 50000
|
| 34 |
+
},
|
| 35 |
+
"sources": {
|
| 36 |
+
"fineweb2:kor_Hang": 50000
|
| 37 |
+
},
|
| 38 |
+
"quantiles": {
|
| 39 |
+
"characters": {
|
| 40 |
+
"min": 300.0,
|
| 41 |
+
"p01": 310.0,
|
| 42 |
+
"p05": 358.0,
|
| 43 |
+
"p25": 623.0,
|
| 44 |
+
"p50": 1077.0,
|
| 45 |
+
"p75": 1947.0,
|
| 46 |
+
"p95": 4938.049999999996,
|
| 47 |
+
"p99": 9957.05000000001,
|
| 48 |
+
"max": 88750.0
|
| 49 |
+
},
|
| 50 |
+
"hangul_visible_ratio": {
|
| 51 |
+
"min": 0.5506329113924051,
|
| 52 |
+
"p01": 0.6568261417790057,
|
| 53 |
+
"p05": 0.7269063350174894,
|
| 54 |
+
"p25": 0.845719111969112,
|
| 55 |
+
"p50": 0.8906970832692922,
|
| 56 |
+
"p75": 0.9211876386872222,
|
| 57 |
+
"p95": 0.9511278195488722,
|
| 58 |
+
"p99": 0.9670848006428588,
|
| 59 |
+
"max": 0.9993765586034913
|
| 60 |
+
},
|
| 61 |
+
"hangul_letter_ratio": {
|
| 62 |
+
"min": 0.7,
|
| 63 |
+
"p01": 0.7245475416879247,
|
| 64 |
+
"p05": 0.806165153285984,
|
| 65 |
+
"p25": 0.9418162225705329,
|
| 66 |
+
"p50": 0.9812946375557705,
|
| 67 |
+
"p75": 0.9960735319947233,
|
| 68 |
+
"p95": 1.0,
|
| 69 |
+
"p99": 1.0,
|
| 70 |
+
"max": 1.0
|
| 71 |
+
},
|
| 72 |
+
"digit_ratio": {
|
| 73 |
+
"min": 0.0,
|
| 74 |
+
"p01": 0.0,
|
| 75 |
+
"p05": 0.0,
|
| 76 |
+
"p25": 0.009238816648257858,
|
| 77 |
+
"p50": 0.02109704641350211,
|
| 78 |
+
"p75": 0.038347066573192576,
|
| 79 |
+
"p95": 0.06572084240977509,
|
| 80 |
+
"p99": 0.07633589788774701,
|
| 81 |
+
"max": 0.08
|
| 82 |
+
},
|
| 83 |
+
"symbol_ratio": {
|
| 84 |
+
"min": 0.0006234413965087282,
|
| 85 |
+
"p01": 0.021254774272400887,
|
| 86 |
+
"p05": 0.03098910507142977,
|
| 87 |
+
"p25": 0.04511198950157856,
|
| 88 |
+
"p50": 0.056241426611796985,
|
| 89 |
+
"p75": 0.06972422258377338,
|
| 90 |
+
"p95": 0.09546925566343042,
|
| 91 |
+
"p99": 0.11688328190234165,
|
| 92 |
+
"max": 0.14960629921259844
|
| 93 |
+
},
|
| 94 |
+
"unique_line_ratio": {
|
| 95 |
+
"min": 0.6666666666666666,
|
| 96 |
+
"p01": 0.8333333333333334,
|
| 97 |
+
"p05": 0.95,
|
| 98 |
+
"p25": 1.0,
|
| 99 |
+
"p50": 1.0,
|
| 100 |
+
"p75": 1.0,
|
| 101 |
+
"p95": 1.0,
|
| 102 |
+
"p99": 1.0,
|
| 103 |
+
"max": 1.0
|
| 104 |
+
},
|
| 105 |
+
"unique_word_ratio": {
|
| 106 |
+
"min": 0.21162280701754385,
|
| 107 |
+
"p01": 0.5573409962988507,
|
| 108 |
+
"p05": 0.6595939596626931,
|
| 109 |
+
"p25": 0.762094209143889,
|
| 110 |
+
"p50": 0.8220338983050848,
|
| 111 |
+
"p75": 0.8734177215189873,
|
| 112 |
+
"p95": 0.9368421052631579,
|
| 113 |
+
"p99": 0.9705882352941176,
|
| 114 |
+
"max": 1.0
|
| 115 |
+
},
|
| 116 |
+
"short_line_ratio": {
|
| 117 |
+
"min": 0.0,
|
| 118 |
+
"p01": 0.0,
|
| 119 |
+
"p05": 0.0,
|
| 120 |
+
"p25": 0.0,
|
| 121 |
+
"p50": 0.1111111111111111,
|
| 122 |
+
"p75": 0.23684210526315788,
|
| 123 |
+
"p95": 0.4444444444444444,
|
| 124 |
+
"p99": 0.5,
|
| 125 |
+
"max": 0.8571428571428571
|
| 126 |
+
},
|
| 127 |
+
"list_line_ratio": {
|
| 128 |
+
"min": 0.0,
|
| 129 |
+
"p01": 0.0,
|
| 130 |
+
"p05": 0.0,
|
| 131 |
+
"p25": 0.0,
|
| 132 |
+
"p50": 0.0,
|
| 133 |
+
"p75": 0.0,
|
| 134 |
+
"p95": 0.17391304347826086,
|
| 135 |
+
"p99": 0.2857142857142857,
|
| 136 |
+
"max": 1.0
|
| 137 |
+
},
|
| 138 |
+
"table_line_ratio": {
|
| 139 |
+
"min": 0.0,
|
| 140 |
+
"p01": 0.0,
|
| 141 |
+
"p05": 0.0,
|
| 142 |
+
"p25": 0.0,
|
| 143 |
+
"p50": 0.0,
|
| 144 |
+
"p75": 0.0,
|
| 145 |
+
"p95": 0.0,
|
| 146 |
+
"p99": 0.09090909090909091,
|
| 147 |
+
"max": 1.0
|
| 148 |
+
},
|
| 149 |
+
"boilerplate_hits_per_1k": {
|
| 150 |
+
"min": 0.0,
|
| 151 |
+
"p01": 0.0,
|
| 152 |
+
"p05": 0.0,
|
| 153 |
+
"p25": 0.0,
|
| 154 |
+
"p50": 0.0,
|
| 155 |
+
"p75": 0.0,
|
| 156 |
+
"p95": 0.0,
|
| 157 |
+
"p99": 1.1655079614263302,
|
| 158 |
+
"max": 1.4992503748125936
|
| 159 |
+
},
|
| 160 |
+
"repeated_character_run": {
|
| 161 |
+
"min": 1.0,
|
| 162 |
+
"p01": 1.0,
|
| 163 |
+
"p05": 1.0,
|
| 164 |
+
"p25": 2.0,
|
| 165 |
+
"p50": 2.0,
|
| 166 |
+
"p75": 3.0,
|
| 167 |
+
"p95": 4.0,
|
| 168 |
+
"p99": 7.0,
|
| 169 |
+
"max": 20.0
|
| 170 |
+
},
|
| 171 |
+
"quality_score": {
|
| 172 |
+
"min": 0.7303416131969591,
|
| 173 |
+
"p01": 0.8156910781252887,
|
| 174 |
+
"p05": 0.864080026750694,
|
| 175 |
+
"p25": 0.9138649419198747,
|
| 176 |
+
"p50": 0.9401167660005454,
|
| 177 |
+
"p75": 0.9585889570552147,
|
| 178 |
+
"p95": 0.9765444584636159,
|
| 179 |
+
"p99": 0.984032042298382,
|
| 180 |
+
"max": 0.9996882793017458
|
| 181 |
+
}
|
| 182 |
+
}
|
| 183 |
+
}
|
audit-v2-gate-50k/lowest_quality.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
audit-v2-gate-50k/random_sample.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
audit-v2-smoke-50k/audit_summary.json
ADDED
|
@@ -0,0 +1,170 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"inputs": [
|
| 3 |
+
"/workspace/KAWK50M/data/clean-v2-smoke-100k/train-00000.jsonl",
|
| 4 |
+
"/workspace/KAWK50M/data/clean-v2-smoke-100k/train-00001.jsonl",
|
| 5 |
+
"/workspace/KAWK50M/data/clean-v2-smoke-100k/train-00002.jsonl"
|
| 6 |
+
],
|
| 7 |
+
"limit": 50000,
|
| 8 |
+
"seed": 42,
|
| 9 |
+
"filter": {
|
| 10 |
+
"min_chars": 300,
|
| 11 |
+
"max_chars": 100000,
|
| 12 |
+
"min_hangul_chars": 50,
|
| 13 |
+
"min_hangul_letter_ratio": 0.7,
|
| 14 |
+
"min_hangul_visible_ratio": 0.35,
|
| 15 |
+
"max_digit_ratio": 0.12,
|
| 16 |
+
"max_symbol_ratio": 0.2,
|
| 17 |
+
"max_url_per_word": 0.02,
|
| 18 |
+
"min_unique_line_ratio": 0.7,
|
| 19 |
+
"min_unique_word_ratio": 0.2,
|
| 20 |
+
"max_short_line_ratio": 0.6,
|
| 21 |
+
"max_list_line_ratio": 0.35,
|
| 22 |
+
"max_boilerplate_hits_per_1k": 2.0,
|
| 23 |
+
"max_repeated_character_run": 20,
|
| 24 |
+
"max_code_line_ratio": 0.25,
|
| 25 |
+
"max_code_math_char_ratio": 0.15,
|
| 26 |
+
"strip_html": true,
|
| 27 |
+
"mask_pii": true
|
| 28 |
+
},
|
| 29 |
+
"counts": {
|
| 30 |
+
"accepted": 50000,
|
| 31 |
+
"documents": 50000
|
| 32 |
+
},
|
| 33 |
+
"sources": {
|
| 34 |
+
"fineweb2:kor_Hang": 50000
|
| 35 |
+
},
|
| 36 |
+
"quantiles": {
|
| 37 |
+
"characters": {
|
| 38 |
+
"min": 300.0,
|
| 39 |
+
"p01": 310.0,
|
| 40 |
+
"p05": 356.0,
|
| 41 |
+
"p25": 617.0,
|
| 42 |
+
"p50": 1075.0,
|
| 43 |
+
"p75": 1948.0,
|
| 44 |
+
"p95": 4933.049999999996,
|
| 45 |
+
"p99": 10117.190000000039,
|
| 46 |
+
"max": 88503.0
|
| 47 |
+
},
|
| 48 |
+
"hangul_visible_ratio": {
|
| 49 |
+
"min": 0.40185387131952016,
|
| 50 |
+
"p01": 0.6392244844845776,
|
| 51 |
+
"p05": 0.7064212021287015,
|
| 52 |
+
"p25": 0.8261463075191182,
|
| 53 |
+
"p50": 0.8812095032397408,
|
| 54 |
+
"p75": 0.9164457986806134,
|
| 55 |
+
"p95": 0.9491260123033313,
|
| 56 |
+
"p99": 0.9652716557831207,
|
| 57 |
+
"max": 0.9993765586034913
|
| 58 |
+
},
|
| 59 |
+
"hangul_letter_ratio": {
|
| 60 |
+
"min": 0.7,
|
| 61 |
+
"p01": 0.7211894914139351,
|
| 62 |
+
"p05": 0.794116723902367,
|
| 63 |
+
"p25": 0.9347455796200681,
|
| 64 |
+
"p50": 0.9786342343860832,
|
| 65 |
+
"p75": 0.9950248756218906,
|
| 66 |
+
"p95": 1.0,
|
| 67 |
+
"p99": 1.0,
|
| 68 |
+
"max": 1.0
|
| 69 |
+
},
|
| 70 |
+
"digit_ratio": {
|
| 71 |
+
"min": 0.0,
|
| 72 |
+
"p01": 0.0,
|
| 73 |
+
"p05": 0.0,
|
| 74 |
+
"p25": 0.010344827586206896,
|
| 75 |
+
"p50": 0.023746701846965697,
|
| 76 |
+
"p75": 0.04408468909977728,
|
| 77 |
+
"p95": 0.08163265306122448,
|
| 78 |
+
"p99": 0.10683014434739098,
|
| 79 |
+
"max": 0.12
|
| 80 |
+
},
|
| 81 |
+
"symbol_ratio": {
|
| 82 |
+
"min": 0.0006234413965087282,
|
| 83 |
+
"p01": 0.022222222222222223,
|
| 84 |
+
"p05": 0.03203831669142798,
|
| 85 |
+
"p25": 0.046766300852028146,
|
| 86 |
+
"p50": 0.058876626785304864,
|
| 87 |
+
"p75": 0.07447503203425991,
|
| 88 |
+
"p95": 0.10278116940190533,
|
| 89 |
+
"p99": 0.125858988177925,
|
| 90 |
+
"max": 0.19960861056751467
|
| 91 |
+
},
|
| 92 |
+
"unique_line_ratio": {
|
| 93 |
+
"min": 0.6666666666666666,
|
| 94 |
+
"p01": 0.7894736842105263,
|
| 95 |
+
"p05": 0.9230769230769231,
|
| 96 |
+
"p25": 1.0,
|
| 97 |
+
"p50": 1.0,
|
| 98 |
+
"p75": 1.0,
|
| 99 |
+
"p95": 1.0,
|
| 100 |
+
"p99": 1.0,
|
| 101 |
+
"max": 1.0
|
| 102 |
+
},
|
| 103 |
+
"unique_word_ratio": {
|
| 104 |
+
"min": 0.21162280701754385,
|
| 105 |
+
"p01": 0.5455981843054347,
|
| 106 |
+
"p05": 0.6521121760601841,
|
| 107 |
+
"p25": 0.7581699346405228,
|
| 108 |
+
"p50": 0.8196574941451991,
|
| 109 |
+
"p75": 0.872093023255814,
|
| 110 |
+
"p95": 0.9361702127659575,
|
| 111 |
+
"p99": 0.9699255639097746,
|
| 112 |
+
"max": 1.0
|
| 113 |
+
},
|
| 114 |
+
"short_line_ratio": {
|
| 115 |
+
"min": 0.0,
|
| 116 |
+
"p01": 0.0,
|
| 117 |
+
"p05": 0.0,
|
| 118 |
+
"p25": 0.0,
|
| 119 |
+
"p50": 0.13333333333333333,
|
| 120 |
+
"p75": 0.27450980392156865,
|
| 121 |
+
"p95": 0.5,
|
| 122 |
+
"p99": 0.6,
|
| 123 |
+
"max": 0.8571428571428571
|
| 124 |
+
},
|
| 125 |
+
"list_line_ratio": {
|
| 126 |
+
"min": 0.0,
|
| 127 |
+
"p01": 0.0,
|
| 128 |
+
"p05": 0.0,
|
| 129 |
+
"p25": 0.0,
|
| 130 |
+
"p50": 0.0,
|
| 131 |
+
"p75": 0.0,
|
| 132 |
+
"p95": 0.25,
|
| 133 |
+
"p99": 0.3333333333333333,
|
| 134 |
+
"max": 1.0
|
| 135 |
+
},
|
| 136 |
+
"boilerplate_hits_per_1k": {
|
| 137 |
+
"min": 0.0,
|
| 138 |
+
"p01": 0.0,
|
| 139 |
+
"p05": 0.0,
|
| 140 |
+
"p25": 0.0,
|
| 141 |
+
"p50": 0.0,
|
| 142 |
+
"p75": 0.0,
|
| 143 |
+
"p95": 0.5574836864242394,
|
| 144 |
+
"p99": 1.6508665236388236,
|
| 145 |
+
"max": 2.0
|
| 146 |
+
},
|
| 147 |
+
"repeated_character_run": {
|
| 148 |
+
"min": 1.0,
|
| 149 |
+
"p01": 1.0,
|
| 150 |
+
"p05": 1.0,
|
| 151 |
+
"p25": 2.0,
|
| 152 |
+
"p50": 2.0,
|
| 153 |
+
"p75": 3.0,
|
| 154 |
+
"p95": 4.0,
|
| 155 |
+
"p99": 7.0,
|
| 156 |
+
"max": 20.0
|
| 157 |
+
},
|
| 158 |
+
"quality_score": {
|
| 159 |
+
"min": 0.6609972677595629,
|
| 160 |
+
"p01": 0.7571098833517471,
|
| 161 |
+
"p05": 0.8025692706633302,
|
| 162 |
+
"p25": 0.8729033470000109,
|
| 163 |
+
"p50": 0.9124278161091945,
|
| 164 |
+
"p75": 0.9394188723223917,
|
| 165 |
+
"p95": 0.9658692264762243,
|
| 166 |
+
"p99": 0.9760130756855295,
|
| 167 |
+
"max": 0.9995324189526186
|
| 168 |
+
}
|
| 169 |
+
}
|
| 170 |
+
}
|
audit-v2-smoke-50k/lowest_quality.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
audit-v2-smoke-50k/random_sample.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
clean-5b-parallel-smoke/prepare_stats.json
ADDED
|
@@ -0,0 +1,36 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"inputs": [
|
| 3 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00000.jsonl.gz"
|
| 4 |
+
],
|
| 5 |
+
"filter": {
|
| 6 |
+
"min_chars": 300,
|
| 7 |
+
"max_chars": 100000,
|
| 8 |
+
"min_hangul_chars": 50,
|
| 9 |
+
"min_hangul_letter_ratio": 0.45,
|
| 10 |
+
"max_url_per_word": 0.02,
|
| 11 |
+
"min_unique_line_ratio": 0.7,
|
| 12 |
+
"max_code_line_ratio": 0.25,
|
| 13 |
+
"max_code_math_char_ratio": 0.15,
|
| 14 |
+
"strip_html": true,
|
| 15 |
+
"mask_pii": true
|
| 16 |
+
},
|
| 17 |
+
"split": {
|
| 18 |
+
"train": 0.997,
|
| 19 |
+
"validation": 0.002,
|
| 20 |
+
"test": 0.001,
|
| 21 |
+
"seed": 42
|
| 22 |
+
},
|
| 23 |
+
"counts": {
|
| 24 |
+
"accepted_characters": 13138312,
|
| 25 |
+
"accepted_test": 1,
|
| 26 |
+
"accepted_train": 8387,
|
| 27 |
+
"accepted_validation": 10,
|
| 28 |
+
"rejected_code_or_math_heavy": 2,
|
| 29 |
+
"rejected_low_hangul_ratio": 257,
|
| 30 |
+
"rejected_repeated_lines": 33,
|
| 31 |
+
"rejected_too_long": 1,
|
| 32 |
+
"rejected_too_many_urls": 46,
|
| 33 |
+
"rejected_too_short": 1263,
|
| 34 |
+
"seen": 10000
|
| 35 |
+
}
|
| 36 |
+
}
|
clean-5b-parallel-smoke/test-00000.jsonl
ADDED
|
@@ -0,0 +1 @@
|
|
|
|
|
|
|
| 1 |
+
{"id":"fineweb2:<urn:uuid:2e966a31-9d2b-404d-b44a-d9ed8282471d>","text":"교황 우르바노 4세\n||이 문서의 내용은 출처가 분명하지 않습니다.\n지금 바로 이 하여, 참고하신 문헌이나 신뢰할 수 있는 출처를 주석 등으로 표기해 주세요. 검증되지 않은 내용은 삭제될 수도 있습니다. 내용에 대한 의견은 토론 문서에서 나누어 주세요.\n|본명||자크 팡탈레옹|\n|임기 시작||1261년 8월 29일|\n|임기 종료||1264년 10월 2일|\n|전임||알렉산데르 4세|\n|후임||클레멘스 4세|\n|탄생||1195년경\n프랑스 트루아\n|선종||1264년 10월 2일\n이탈리아 페루자\n교황이 되기 전에 1245년 리옹 공의회에 참석하여 신성 로마 제국과 동유럽의 교황 사절로 일하였고 동방에서 수년 간 지낸 후 정치적인 감각을 쌓았다. 교황이 된 후 뛰어난 행정력으로 교황청을 개혁하고 교황령 내부의 행정을 강화시켰다. 추기경단을 강화하고 새로운 추기경들(그 중에 여섯 명은 프랑스인)을 임명하였다. 프리드리히 2세 시절부터 격화된 황제와 교황과의 다툼으로 로마에서 전쟁이 일어나 전세가 혼란해지자 비테르보와 오르비에토에 거주하였다. 시칠리아 왕국의 프리드리히 2세의 서자로서 조카의 왕위를 강탈한 만프레디와 토스카나와 롬바르디아의 기벨린파 연합당의 세력이 강해서 교황은 만프레디를 견제하기 위해 그를 파문하고 시칠리아의 왕위를 프랑스의 루이 9세에게 위임하여 루이의 동생인 앙주의 샤를(카를로 1세)에게 양도하였다. 그러나 앙주의 샤를이 원정을 준비하는 동안 만프레디가 로마로 처들어와서 페루자로 긴급히 대피하였다. 만프레디와 기벨린파의 알력은 후임 교황인 클레멘스 4세에게까지 이어졌다.\n|전 임\n알렉산데르 4세\n|제182대 교황\n1261년 8월 29일 - 1264년 10월 2일\n|후 임\n클레멘스 4세","source":"fineweb2:kor_Hang","url":"http://ko.wikipedia.org/wiki/%EA%B5%90%ED%99%A9_%EC%9A%B0%EB%A5%B4%EB%B0%94%EB%85%B8_4%EC%84%B8","license":"ODC-By-1.0","sha256":"9038776cc679c716bf4ddc568dc94f302c837e523ec9b9c19faf2bcef6e5d588"}
|
clean-5b-parallel-smoke/validation-00000.jsonl
ADDED
|
@@ -0,0 +1,10 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{"id":"fineweb2:<urn:uuid:4a9d4341-2cab-49f2-8a47-e2f7ee1b2a88>","text":"현대차가 국내에서 개최되는 골프대회 가운데 최대규모로 유일한 유러피언투어 골프대회인 '발렌타인 챔피언십'을 후원한다고 6일 밝혔다.\n발렌타인 챔피언십을 2년째 후원기업으로 참여하는 현대차는 오는 9일부터 대회 관람 희망자를 모집하고 에쿠스, 제네시스, i40살룬, 제네시스 프라다 등 총 4대의 차량 전시와 5개 홀에서 진행되는 A보드 광고, 에쿠스, 스타렉스 등 총31대의 차량을 운영차량으로 지원해 전 세계 시청자들에게 현대차 브랜드 위상을 높인다는 계획이다.\n올해로 5회째 열리는 발렌타인 챔피언십은 오는 26일부터 29일까지 경기도 이천 블랙스톤GC에서 개최되며 아시아 선수 최초의 메이저 대회 챔피언 양용은(대한민국), 애덤 스콧(호주)를 비롯, 이안 폴터(영국), 대런 클라크(아일랜드), 미구엘 앙헬 히메네즈(스페인) 등 세계 정상권 선수들이 총 출동해 4일간 명승부를 펼칠 예정이다.\n한편 대회 관람을 희망자는 현대차 홈페이지(www.hyundai.com)를 통해 9일부터 응모할 수 있으며, 대상은 에쿠스 및 제네시스 보유 및 계약고객으로 추첨을 통해 총 240명을 선발할 예정이다.\n고객 초청과 함께 작년 6월부터 10월까지 열렸던 '현대자동차 고객사랑 아마추어 골프대회' 예선대회 우승자 및 예선 상위 스코어 참가자 총 19명을 대상으로 프로암 대회와 골프 클리닉도 함께 진행한다.\n현대차 관계자는 \"이번 대회는 세계정상권 선수들의 경기를 바로 눈앞에서 볼 수 있는 좋은 기회가 될 것\"이라며, \"세계적 규모의 대회에 후원사로 참여하는 동시에 고객만족을 위한 다양한 마케팅을 통해 현대차 브랜드의 위상을 높이고, 고객에게 색다른 경험을 선사할 것\"이라고 밝혔다.\n<저작권자 ⓒ 오토헤럴드\n무단전재 및 재배포금지>","source":"fineweb2:kor_Hang","url":"http://car.donga.com/3/0111/20120406/45336333/1","license":"ODC-By-1.0","sha256":"44b47dd8e63caf74c4381b37fb5ed25c24d116ce77e6cf83bf70bbcb5dec4710"}
|
| 2 |
+
{"id":"fineweb2:<urn:uuid:09c35a0a-96c0-4813-86af-d4764ff63f03>","text":"목차없음\n본문내용세상을 살아가면서 정말 사소한 것에 목숨을 걸고 자존심을 내세우고 고집을 부리며 살아가는 사람들이 많이 있는 것 같다. 우선 나부터도 사소한 것을 웃음으로 여유롭게 넘기지 못하고 목숨걸고 달려드는 경우가 있기 때문이다.\n이런 세상 사람들에게 꼭 필요한 책인 것 같은 '우리는 사소한 것에 목숨을 건다'라는 책은 마음의 여유로움을 되찾아 주고 혼자 사는 세상이 아닌 더불어 사는 세상의 기쁨을 맛보게 한다.\n한 발짝만 물러서서 생각해보고 남의 입장을 먼저 들여다보면 될 사소한 것들을 맞설 때의 방법같은 것들을 설명해주고 있다.\n모두 100가지의 아름답게 여유롭게 세상사는 법을 알려주는 책이라고 할 수 있다. '마음을 열어주는 101가지 이야기'라는 책을 많이 접해보고 읽어도 보았을 것이다. 이 책도 마음문을 환하게 열어주어 감동을 주는 책이라고 생각한다. 이 책과 비슷하면서도 다르게 이 책은 자신을 돌아보고 다시 생각할 기회를 주며 세상에 이 방법들을 꼭 적용해보고 싶은 욕구가 생기게 한다.\n상담 쪽에 관심이 있던 나로서는 엄청난 도움을 주는 책이었다. 정말 이 100가지 방법을 다 실생활에 꼭 적용하고 싶은 희망도 가져본다. 인생이 책 한 권으로도 변화 될 수 있다는 생각이 들었다. 나도 변화되어 새로운 삶에 아름다운 세상 속으로 뛰어들고 싶은 생각이 든다.\n*원하는 자료를 검색 해 보세요.\n-\n- [독서감상문] 유진과 유진 22페이지\n- 책따세 추천도서 한국문화예술진흥원 우수창작 지원도서 한국출판인회의 선정이달의 책 한우리 독서문화운동본부 권장도서 책 읽는 서울 한도서관 한 책 읽기 선정도서 교보문고 선정 마음에 힘을 주는 책 창비어린이 선정 올해의..\n-\n- 워렌 버핏과 빌게이츠가 추천한 경영의 모험 독서감상문, 경영의 모험 독후감 우수(독후감, .. 5페이지\n- 많은 인기를 끌고 있는 경영서적 중 하나가 바로 ‘경영의 모험’이라고 할 수 있다. 왜? ‘경영의 모험’은 이토록 많은 인기를 끌었는가? 먼저 이 책은 빌 게이츠가 자신의 홈페이지와 월스트리트저널을 통해서 자신이 읽은 ..\n-\n- ZERO TO ONE 제로 투 원 독후감 : 피터 틸의 제로 투 원(ZERO TO ONE.. 2페이지\n- 'ZERO TO ONE' 경영서적을 천천히 읽어나갔다. 피터 틸이 쓴 저서라서 그런지 정말 제대로 읽자는 생각을 가지고 읽었기에 책 내용을 충분히 이해할 수 있었던 ‘독점’과 ‘경쟁’에 대해서 그동안 알고 있던 지식들이 모두 ..\n-\n- Zero to One(제로 투 원), 경쟁하지말고 독점하라 제로 투 원 우수 독후감(독후감.. 2페이지\n- 우리가 바라는 기업은 어떤 기업인가? 그 해답을 알기 위해서 세계적인 벤처투자자이자, 페이팔 창업자인 피터 틸의 ‘제로 투 원’을 읽게 되었다.사업을 시작하려고 생각하는 사람이라면 한 번쯤은 읽어볼만한 책이 바로 이 책이 아닐..\n-\n- 청년과 철학자의 대화를 통해 아들러 심리학을 보는 미움받을 용기 독후감 : 새로운 심리학의.. 2페이지\n- 사람이 인생을 살아가면서 가장 고민이 되는 것이 무엇이냐면 바로 인간관계가 아닐까 생각한다. 물론 돈 문제도 그렇지만 결국 돈 또한 인간관계에 비롯해서 문제가 생기는 것이다. 이 책은 아들러 심리학을 통해서, 철학자가 ..\n판매자 정보\nksjgg***\n위 정보 및 게시물 내용의 불법적 이용, 무단 전재·배포는 금지되어 있습니다. 저작권침해, 명예훼손 등 분쟁요소 발견시 고객센터의 저작권침해 신고센터를 이용해 주시기 바랍니다.\n1 . 파일오류\n2 . 중복자료\n3 . 저작권 없음\n4 . 설명과 실제내용 불일치 자세히보기","source":"fineweb2:kor_Hang","url":"http://www.happycampus.com/doc/1235666","license":"ODC-By-1.0","sha256":"8c06303f735c1c7a7c7af1a196958d23724cded2309dadcd2027f6c9d64c759d"}
|
| 3 |
+
{"id":"fineweb2:<urn:uuid:587d7934-ff00-45d9-bce8-03f668a1251f>","text":"Oracle WebLogic Server 12c는 기존 및 클라우드 및 환경을 위한 세계 1위의 애플리케이션 서버입니다. Oracle WebLogic을 이용하여 미션 크리티컬한 클라우드 플랫폼상에서 차세대 애플리케이션을 제공하고 기본 클라우드 관리로 운영을 단순화하며 최신 개발 플랫폼과 통합 툴로 시장 출시 시간을 가속화할 수 있습니다.\nOracle WebLogic Server 12c는 온 프레미스 및 외부 클라우드 간을 유연하게 지원하며 Oracle Exalogic Elastic Cloud를 위해 최적화되어 있습니다. Oracle Cloud Application Foundation의 핵심 요소인 Oracle WebLogic Server는 최고의 클라우드 성능, 확장성 및 탄력성 그리고 멀티 테넌트 데이터베이스 지원을 비롯해 단연 독보적인 수준의 Oracle Database 12c 통합 기능을 제공하며 모바일 애플리케이션 개발과 전문가 지원을 바탕으로 개발자 생산성을 높일 수 있도록 합니다. 이에 힘 입어 오라클은 시장 점유율 측면에서 업계 리더로서 확고한 입지를 다지고 있습니다.","source":"fineweb2:kor_Hang","url":"http://www.oracle.com/kr/products/middleware/cloud-app-foundation/weblogic/overview/index.html","license":"ODC-By-1.0","sha256":"37944a7b5a0116b0e0d9e8b3b920c8fc6ef7ac06e90468a4f397799d72d5af0b"}
|
| 4 |
+
{"id":"fineweb2:<urn:uuid:528e0421-9046-4448-bf50-31b37ad00cb3>","text":"저온을 위한 고성능 환경 및 높은 자기장 응용을 원자 가늠자에 물리학 연구와 공정개발에 있는 아래로 만들기.\nNanoscience\n옥스포드 계기 NanoScience 사업은 옥스포드 계기의 본래 핵심 기업에서 증가했습니다. 광대했던 것을 물리학 연구 단체 제공에 집중한 그것의 기초 때문에 혁신적인 저온 및 높은 자기장 견본 환경의 구역 수색하십시오. 그(것)들은 기술과 응용의 범위를 통해 지도적 위치를 유지하는 것을 계속합니다.\n사업에는 향상된 저온학 및 적용되는 초전도성에 있는 강한 기능이 있습니다. 이 기술의 응용을 통해 그(것)들은 기본적인 물리학, 적용 물리학, 재료 과학 및 차세대 장치 발달의 최전선에 일해 과학자의 요구 필요를 충족시키는 해결책을 전달합니다. 성과를 위한 광대한 고객 통신망, 강한 명망 및 질로, 그(것)들은 세계 우수의 그들의 추적에 있는 주요한 연구 과학자에게 제공된 지원을 평가합니다.\n현재 생산 한계는 넓은 채용 범위를 위해 구성될 수 있는 낙관한 모듈 장비를 포함합니다. 추가적으로, 주문을 받아서 만들어진 장비는, 지나치게 요구하는 연구 프로그램의 특정 요구에 응하기 위하여 맞추어 제공될 수 있습니다. 범위는 4He, 3He 및 3He/4He 희석 냉장고 기술에 근거를 둔 변하기 쉬운 온도 견본 환경을 포함합니다. 이들은 측정 시스템의 광학, 엑스레이, 입자선, 높은 진공 및 그밖 양식에 공용영역으로 구성될 수 있습니다.\n회사는 특정 자석 필드 기능을 제공하기 위하여 superconducting 자석 제품의 광범위를 통합하는 유일한 기능이 있습니다. 모든 시스템은 전자와 소프트웨어 통제로 강력한 사용자 인터페이스를 제공하기 위하여 제공됩니다. 모든 이것은 세계적인 서비스에 의해 지원되�� OI 플러스 지원 통신망은 여분과 부속품 공급을 지시합니다.","source":"fineweb2:kor_Hang","url":"http://www.azonano.com/article.aspx?ArticleID=1761&lang=ko","license":"ODC-By-1.0","sha256":"ecabeb84b7ff77344260f4e953256e1140d79399cc314c539b43c2d8cbb5f9f9"}
|
| 5 |
+
{"id":"fineweb2:<urn:uuid:bbd70dc3-9ab2-4f4b-90dd-e56ce1984cf3>","text":"오늘날 소비자는 최고의 성능을 지닌 오디오 제품을 요구합니다. 장소나 사용 형식에 구애받지 않는 깨끗하고 맑은 사운드를 원합니다.\n텍사스 인스트루먼트는 청취자의 오디오 환경을 개선하기 위한 기술을 제공합니다. 뛰어난 성능, 탁월한 통합성 및 설계 유연성을 제공하는 TI의 프로그래머블 부품은 고객이 효율적인 비용으로 생생하고 살아 있는 사운드와 폭넓은 기능을 갖춘 오디오 시스템을 만들 수 있게 해줍니다. TI의 포트폴리오는 모든 디지털 오디오 부품과 디지털 및 아날로그 오디오 솔루션을 제공합니다. 업계 최고 수준의 DSP와 고성능 아날로그에서 확장된 애플리케이션 소프트웨어 포트폴리오까지, TI는 단순 또는 복잡한 오디오 시스템 모두를 위한 가장 믿을 수 있고 확장 가능하며 전력 효율적인 솔루션을 제공합니다.","source":"fineweb2:kor_Hang","url":"http://www.ti.com/ww/kr/prod_audio.html","license":"ODC-By-1.0","sha256":"db830dc0d287c0b6ab972f4fbcfb907c86ca40bc216c51e2fc8f4682fecdc86d"}
|
| 6 |
+
{"id":"fineweb2:<urn:uuid:dcadef26-9275-49c3-8202-e1cb9e6ec32a>","text":"클레이튼 커쇼 / 사진=Gettyimages 제공\n[스포츠투데이 이상필 기자]클레이튼 커쇼(LA 다저스)는 역시 괴물이었다.\n커쇼는 17일(한국시간) 미국 일리노이주 시카고 리글리 필드에서 열린 2016 메이저리그 포스트시즌 내셔널리그 챔피언십 시리즈 2차전 시카고 컵스와의 경기에 선발 등판해 7이닝 동안 2피안타 1볼넷 6탈삼진 무실점으로 호투하며 다저스의 1-0 승리를 이끌었다.\n커쇼는 자타가 공인하는 현 지구상 최고의 투수다. 수많은 에이스급 투수들이 득실거리는 메이저리그에서도 최고로 인정받는다. 하지만 가을만 되면 늘 고개를 숙였다. 잘 던지다가도 결정적인 순간이면 고비를 넘기지 못했다. 정규시즌 보여준 활약과 비교하면 분명히 손색이 있었다.\n그랬기에 올해 가을을 맞이하는 커쇼의 마음가짐은 어느 때보다 간절했다. 워싱턴 내셔널스와의 디비전 시리즈에서 커쇼는 1, 4차전에 선발 등판한 뒤, 5차전까지 구원 등판하는 괴력을 발휘하며 팀을 챔피언십 시리즈로 이끌었다. 그리고 단 이틀의 휴식을 취하고 다시 선발 투수로 마운드에 올랐다. 100% 컨디션일 수 없는 상황에서의 등판. 게다가 컵스 타선은 전날 마에다 겐타와 조 블랜튼을 두들기며 물이 오른 상황이었다.\n하지만 커쇼는 자신이 왜 \"에이스\"로 불리는 지를 다시 한 번 증명했다. 5회 2사까지 14타자를 연속 범타 처리하며 컵스 타선을 잠재웠다. \"칠 테면 쳐봐라\"는 커쇼의 공격적인 피칭에 컵스 타자들은 줄줄이 더그아웃으로 향했다.\n위기가 없던 것은 아니었다. 5회말 2사 이후 연속 안타를 내주며 첫 득점권 위기에 몰렸다. 하지만 제이슨 헤이워드를 내야 뜬공으로 처리하며 한숨을 돌렸다. 7회말에는 선두타자 앤소니 리조에게 스트레이트 볼넷을 허용하며 무사에 주자를 내보냈다. 이어 벤 조브리스트를 파울 플라이로 유도했지만, 포수 야스마니 그랜달이 공을 잡아내지 못했다. 힘이 빠질 수 있는 상황. 하지만 커쇼는 조브리스트를 삼진으로 처리한 뒤, 후속 타자들까지 범타로 막아내며 자신의 임무를 마쳤다. 7이닝 무실점. 이틀 휴식을 취한 투수의 성적이라고 믿겨지지 않을 정도의 활약이었다.\n커쇼의 활약으로 다저스는 1승1패의 성적을 안고 홈구장 다저스타디움으로 돌아가게 됐다. 여전히 팀 전체 전력과 남은 선발 맞대결을 보면 컵스의 우세가 예상되지만, 5차전 등판이 유력한 커쇼의 투혼이 다시 발휘된다면 승부는 알 수 없다.\n이상필 기자 <EMAIL>","source":"fineweb2:kor_Hang","url":"http://www.alltvda.com/sports/8489042","license":"ODC-By-1.0","sha256":"88a9e94727a41f3824244c8e5554898c3857e314f2d6649522987f8f4f700bb1"}
|
| 7 |
+
{"id":"fineweb2:<urn:uuid:35795c5c-8e67-46e9-a7b1-27c4dbeccd07>","text":"반제 회의(Wannsee Conference) 이후 수 개월간, 나치 제국은 \"최종 해결(Final Solution)\"을 위한 계획을 실행에 옮겼다. 유태인들은 \"강제 추방\"되어 기차나 트럭을 통해 폴란드 점령 지역에 있는 헤움노, 트레블링카, 소비보르, 베르젝, 아우슈비츠-베르키나우 및 마이다네크-루블린등의 6개 수용소로 보내졌다.\n나치는 이러한 6개 수용소�� \"집단 학살 수용소\"라고 불렀다. 대부분의 강제 추방자들은 도착 즉시 독가스로 인해 대량으로 학살되었다. 나치는 총살보다 독가스 사용이 \"깨끗\"하고 \"효율적\"이라고 판단해서 대량 학살에 독가스를 쓰기로 결정했다. 또한, 독가스 방식은 이동 특별 학살 부대가 사람들의 얼굴에 맞대고 총살시킬 때 느끼는 감정적 스트레스를 받지 않아도 된다는 점이 있었다. 집단 학살 수용소는 약간 한적하고 격리된 지역에 일반인들의 눈에 잘 띄지 않는 곳에 있었다. 간선 철도 근처에 위치하고 있어서, 기차를 통해 수십만 명의 사람들을 학살 수용소로 이송할 수 있도록 했다.\n희생자 중 많은 사람들은 근처 게토로부터 이송되어 왔는데, 심지어 반제 회의가 있기 전인 1941년 12월에 이송된 사람들도 있었다. 그러나, 1942년 여름에 독일 친위대는 본격적으로 게토를 비우기 시작했다. 2년 내에 200만명 이상의 유태인들이 게토로부터 이송 되었다. 1944년 여름 즈음앤 동유럽에는 몇개의 게토만 남아 있게 되었다.\n게토가 비워지기 시작하면서 프랑스, 벨기에, 네덜란드, 노르웨이, 헝가리, 루마이나, 이탈리아, 북아프리카 및 그리스 등과 같이 독일이 점령한 원거리 국가들로부터 대규모의 유태인들과 로마니(집시)들이 이송되었다. 강제 추방 작업은 독일 정부의 모든 부서로부터 많은 사람들의 지원을 받아야 했다. 폴란드의 희생자들은 게토에 이미 수감되어 독일군의 완전한 통제 하에 있었다. 그러나 유럽의 다른 지역에 있는 유태인들을 이송하는 것은 훨씬 복잡한 문제였다. 독일 외교부는 대부분의 점령지와 동맹국에 성공적으로 압력을 행사하여 해당 국가에 거주하는 유태인들을 추방하는데 독일을 지원하도록 했다.\n주요 날짜\n1942년 7월 15일\n네덜란드에서 조직적인 추방 시작\n네덜란드에 살던 유태인들은 웨스터보크 임시 수용소에 체계적으로 수용되었다. 웨스터보크로 보내진 유태인들의 대부분은 그곳에 단기간 머무른 다음에 동쪽의 학살 수용소로 이송되었다. 1942년 7월 15일부터, 독일은 웨스터보크에서 약 10만명의 유태인들을 이송하기 시작했다. 약 6만명은 아우슈비츠로, 약 3만 4,000명은 소비버로, 약 5,000명은 테레지엔슈타트 게토로, 그리고 약 4,000명은 베르겐-벨젠 집단 수용소로 보내졌다. 이렇게 이송된 대부분의 사람들은 수용소에 도착하는 즉시 살해되었다.\n1942년 7월 22일\n트레블링카 학살 수용소로 이송된 바르샤바 유태인들\n1942년 7월 22일부터 9월 중순까지 30만명 이상의 사람들이 바르샤바 게토로부터 이송되었다. 이 중 25만명 이상의 사람들이 트레블링카 학살 수용소로 보내졌다. 수감자들은 움슈라그 광장(이송 지점)에 강제로 집결되었는데, 이곳으로부터 바르샤바-밀키니아 철도가 연결되었다. 이들은 화물칸에 빽빽하게 실려서 대부분 밀키니아를 거쳐 트레블링카로 이송되었다. 수감자들의 거의 대부분은 트레블링카 도착 즉시 살해되었다. 1942년 대량 이송이 끝나는 시점인 9월에는 5만 5,000여명 정도의 유태인들 만이 게토에 남아 있게 된다.\n1944년 5월 15일\n헝가리에서 유태인들의 체계적인 추방 시작\n1944년 3월 19일, 독일군은 헝가리를 점령한다. 1944년 4월에는 부다페스트에 거주하는 유태인들을 제외한 모든 유태인들이 게토로 이주하도록 명령을 받는다. 헝가리의 케토에서 아우슈비츠-비르키나우로의 체계적인 이주는 그 다음 달인 1944년 5월에 시작된다. 불과 3개월 내에, 약44만명의 유태인들이 145대 이상의 열차를 타고 헝가리에서 이주한다. 거의 대부분은 아우슈비츠 도착 즉시 살해된다.","source":"fineweb2:kor_Hang","url":"http://www.ushmm.org/outreach/ko/article.php?ModuleId=10007716","license":"ODC-By-1.0","sha256":"927c795257deed4f68306db93a6da4676640cfe85443a536358c117d7bf91f83"}
|
| 8 |
+
{"id":"fineweb2:<urn:uuid:fb06af1e-c8d2-401d-9245-66453c30c7c2>","text":"일단 전 여행시 목베개와 슬리퍼 챙기기..\n아무래도 여행시 걸어다니려면 운동화를 신고 가는 편인데.. 비행기안에서는 발에 땀도 나고 갑갑하더라구요..\n그래서 슬리퍼 같은거 챙겨가면 좋을 것 같아요..\n그리고 목베개... 목베개는 버스를 타든 비행기를 타든 전 항상 챙겨갑니다..\n김경옥2014.05.21 16:33\n왜 저는 보려고 하면 창이 안뜨죠?ㅠㅠ 까맣게만되고 아무것도 안보이는데.....클릭하면 사라지고\n왜그런거에여??\n정하나2014.04.03 14:12\n정하나안녕하세요? 정하나님~ 아마도 정하나님이 사용하시는 PC의 익스플로���(브라우저) 버전이 낮아서 생기는 문제 같습니다.\n익스플로러 버전을 최신 버전으로 업그레이드 해보신 후 다시 이용하시면 잘 보이실것입니다. ^^\n또 궁금한 사항이 있으시면 언제든지 문의 주시기 바랍니다. 감사합니다!\n투어팁스2014.04.03 16:24\n개인적으로 꼭 챙겨가야 한다고 생각이 들었던 건 슬리퍼였습니다.ㅠㅠ 호스텔, 등급 낮은 호텔은.... 슬리퍼 자체가 구비가 안되어 있어서ㅠㅠ씻고 바로 운동화 신고 ...이렇게 다녀야 했어요ㅠㅠ\n영국덕후2014.04.02 16:37\n장시간 비행일 경우, 수분크림이나 미스트는 필수입니다.\n요즘은 여성분들뿐 아니라 남성분들도 피부관리 해야하는 시대잖아요!!^^\n비행기내는 굉장히 건조한 환경이라 장시간 비행의 경우, 피부가 엄청 수분을 빼앗겨요. 소중한 내피부를 위해서 준비하세요^^\n윤지영2014.03.26 17:35\n현지 여행마치고 귀국하실 때 기내 반입 금지 물품은 동일합니다. 특히 화장품, 양주 등 액체류는 출국장에서 찾아서 기내에 반입했다고해서 귀국하실때 부치는 짐에 넣지 않고 들고타시면 다시 별도로 짐을 부쳐야 하는 상황이 발생합니다. 꼭 주의하도록 하세요.\n박성재2014.03.25 16:19\n캐리어 안에~ 쇼퍼백을 챙겨갑니다! 접었을땐 부피가 적고 펴면 완전 많이 담기는 효자백! 그런거 몇개면 늘어난 쇼핑 짐도 문제 없이 가져올 수 있어요~ >_<\n젤라또리^ㅁ^2014.03.24 15:44\n체크리스트에 썬 크림이 빠진 것 같네요. 열대 지역으로 가시는 경우 썬 크림은 필수! SPF +50 이상으로 준비하시고 비싼 것 보다는 싸고 용량이 충분한 것으로 준비하시는 것이 좋습니다. 얼굴 뿐 만 아니라 팔 다리 목 등에도 발라줘야 하니까요. 그리고 썬크림은 개봉후 6개월 정도가 지나면 보호성분이 파괴되어 효과가 떨어지기 때문에 오래된 썬크림은 버리시고 새걸로 구매하시는 것이 좋습니다. 그리고 열대 지역에서는 날씨가 흐리다고 썬크림을 안바르시는 경우가 있는데 자외선은 구름이 껴도 그다지 약해지지 않는다고 하니 낮에 활동하시는 경우 2시간마다 꼭 발라주시구요.\n박성재2014.03.20 17:06\n비행기 타고 가다가, 고도가 높아져서 귀가 아프신분들은 귀마개를 꼭 구입해 가세요. 효과 만빵입니다.\n꿈꾸는바보2014.03.19 13:23\n꿈꾸는바보제 경우에는 귀가 멍멍할 경우 코를 손으로 잡아서 막은 상태에서 코로 숨을 내보내면 좋아지더라구요. ^^\n박성재2014.03.19 16:23\n여행전 준비물 : 저가항공을 밤에 이용할 경우 작은휴대용 담요 준비는 필수. 대형 항공사의 경우 담요와 쿠션을 제공하지만 저가항공의 경우 담요를 주지 않습니다. (예전에 담요없이 홍콩가다 얼어죽을뻔-_-)","source":"fineweb2:kor_Hang","url":"http://m.tourtips.com/ap/tboard/opinion_proc/?bid=12&aid=&contentid=2&contentname=%EC%97%AC%ED%96%89+%EC%A4%80%EB%B9%84%EB%AC%BC&contenttype=&page=2&mode=list&_=1459866236407","license":"ODC-By-1.0","sha256":"81c55bbb9fb0598d8566d8191d67feb27468d0b595520a233e71ebd6b880228b"}
|
| 9 |
+
{"id":"fineweb2:<urn:uuid:e2e1d40b-aaeb-400d-94fe-7415f3fbde86>","text":"해외통신 - 해외여행 정보 공유 (홍보/광고성 글 강퇴)\n28일 수요일\n아직은 낯설어 보이지만 4일 동안 끼고 놀아야 될 슬럿과 테이블 들을 두루두루 돌아보고\n미니멈 500 짜리 ㅂㅋㄹ 테이블에서 솔레어의 첫날이 시작 되었습니다.\n먹죽먹죽먹죽먹죽\n전 ㅂㅋㄹ는 완전 초보 입니다.\n그냥 내키는 대로 배팅하고 줄나오면 줄타고 가끔 시스템으로 시간 떼웁니다.\n첫날 3시간 결과 소액패..\n오늘 제 친구가 공항으로 입국하기 때문에 솔레어 차량으로 공항 나가야 됩니다.\n공항가서 친구 만나니까 힘이 납니다.\n친구와 허기 채우고 친구 재운뒤 밤새 슬럿 했습니다.\n낮에 충분히 수면 취해서 쌩 쌩 합니다.\n중국풍기계 이것 저것 파이브드레곤 포츈킹 스고이 다복다재 등등 물만난 고기 처럼\n이기계 저기계 들이 댑니다.\n생판 안해본 기계도 해보고 잭팟 연결된 기계도 계속 합니다.\n오늘은 솔레어가 나한테 환영인사를 하는 날인가 봅니다.\n60벳으로 아침까지 10만을 윈 합니다.\n잠이 와서 더 이상 못하고 대충 바우처 환전하니 10만을 윈하고도 자투리가 남네요...\n이번이 고별전이라 충분히 손맛 보려고 평소 보다 달러를 넉넉하게 가져 왔는데\n첫날 승을 하니 전략 수정을 합니다.\n이번 경비승 에다 친구와 이것 저것 즐기다 기기로 맘을 바꿉니다.\n보통 마닐라 와서 게임 하면 10만 잃은 적은 많아도 이렇게 딴 적은 없었습니다.\n예전 제친구가 로티플 족보로 300 윈 한것 빼고는...\n베이타워에 있는 사우나 가서 기분 좋게 샤워하고 자고 있는 친구 깨웁니다.\n같이 뷔페 가서 아침을 먹는데 기분이 참 좋네요...\n다른 분들에 비하면 아주 소액 이지만 이긴거로 관광하고 먹고 마실 생각하니\n기쁨니다.\n친구도 같이 기뻐 하고\n솔레어 뷔페 레스토랑 후레쉬는 맥심보다는 먹을게 많네요...\n특히 돼지고기 요리가 좋네요^^\n친구는 여자친구 불렀는데 셋이서 저녁에 해산물 식당에 가서 배가 터지도록 먹었습니다.\n랍스터 알라망오 새우 다금바리 등등 먹었는데도 술까지 1만페소 남짓...\n식사후 호텔로 와서 다시 게임 하더라도 30벳으로 조금씩 슬럿 하면서 즐겼습니다.\n애초 계획은 고별 여행이라 원 없이 슬럿 테이블 하려고 했는데 첫날 소액승 하면서\n계획 수정을 했습니다.\n그냥 경비 제하고 딴돈으로 먹고 놀기로.....\n이렇게 전략 수정 하니까 할게 많아 집니다.\n내일 목요일은 기사 딸린 렌트카 빌려서 관광을 가기로 했습니다.\n따가이 따가이,팍상한,88온천....\n친구와 헤어져 방에 들어오니 방안에 케익을 갖다 놨네요^^\n제 생일이라 생일 케익을 준비 했답니다.\n이론 서비스는 처음 입니다.\n다시 친구와 여자친구 불러서 케익 먹고 놀다가 재밌는 하루 마감 합니다.\n다음편에 계속","source":"fineweb2:kor_Hang","url":"http://kangchin.com/tour/1700122","license":"ODC-By-1.0","sha256":"7a8b33dd3aff153de8c120c6effedff55e05a17b271553c145d0060d9f745e15"}
|
| 10 |
+
{"id":"fineweb2:<urn:uuid:5aa9e38a-6235-4e56-9f39-d289f71e2449>","text":"손학규 전 더불어민주당 대표가 이른바 '최순실 게이트'로 인한 작금의 국정공백 사태에 야권, 특히 민주당도 책임이 있음을 강하게 주장했다.\n손학규 전 대표는 12일 \"야당부터 집권 욕심을 애국심으로 무장해야 한다\"며 \"민주당은 오늘의 위기를 예견하고도 아무런 조치를 하지 않았다\"고 밝혔다.\n손학규 전 대표는 이날 충남도청 브리핑룸에서 기자회견을 갖고 \"저는 촛불정국 초기부터 박근혜 대통령은 모든 것을 내려놓고, 여야는 국무총리를 합의 선출하고 거국적인 중립내각을 구성해야 한다고 주장했다\"며 이같이 말했다.\n손학규 전 대표는 \"야당은 이에 대해 아무런 조치를 하지 않고 외면해서 지금의 사태, 즉 국정 무책임사태를 유발했다\"고 지적했다.\n그러면서 \"야당이 국회를 주도하고 국정을 주도해야할 위치에 서 있다\"며 \"총리가 야당과 국회의 협조를 구해서 국난과 위기를 수습하는 체제를 진작 만들었어야 했다\"고 강조했다.\n탄핵 정국에서 민주당과 국민의당은 총리 선임의 순서를 놓고 갈등을 겪기도 했다. 국민의당은 '선(先)총리후탄핵'을 강조한 반면, 민주당은 탄핵 절차를 먼저 밟아야 한다고 주장했다.\n그러다 당시 국민의당 박지원 비상대책위원장은 \"선총리를 갖고 야권 공조가 삐그덕거리는 모습을 보이면 국민이 실망하고 정치권에 자극이 된다\"면서 당초 방침을 접고 야권공조 강화에 나섰다.\n황교안 대행체제가 들어선 책임은 결과적으로 신임 국무총리 선임을 거부한 야권에 있는 셈이다.\n이에 대해 손학규 전 대표는 지난해 11월에도 \"이 나라를 책임질 야당이 이따위 수습책을 내놓고 있냐\"며 질타한 바 있다.\n대표적인 개헌론자인 손학규 전 대표는 이날 거듭 개헌의 필요성을 강조했다.\n손학규 전 대표는 \"지금 대선에 급급해서, 새롭지도 않고 이미 국회에 가 있는 입법안을 마치 새로운 개혁인양 떠들고 있는 상황은 한심하다는 말 밖에 다른 표현이 떠오르지 않는다\"면서 \"지금 해야 할 일은 국정운영의 틀, 시스템을 바꿀 준비를 하는 것\"이라고 지적했다.\n손학규 전 대표는 \"정치와 경제, 사회, 외교의 모든 면에서 새판짜기가 필요하다\"며 \"7공화국을 건설하자는 뜻으로 개헌은 이를 위한 수단이고 도구일 뿐이다\"고 말했다.\n또한 \"지금의 헌법으로는 누가 대통령이 돼도 여소야대가 된다\"며 \"다당제는 현실이고 연정과 협치는 우리의 당면과제다. 독일식 책임총리에 의한 의원내각제를 요구하는 이유는 바로 여기에 있다\"고 덧붙였다.\n한편 최근 안희정 충남지사가 자신에게 정계 은퇴를 공개적으로 요구한 데 대해선 \"안희정 지사를 사랑한다\"며 \"젊은 정치인으로 꿈을 갖고 있는 것은 좋다. 그 꿈을 잘 이뤄나가길 바란다\"고 답변을 피했다.","source":"fineweb2:kor_Hang","url":"http://newdaily.co.kr/news/article.html?no=332861&imp=whot","license":"ODC-By-1.0","sha256":"1f1c453d76a493b303f49516ba3046ce230747e852c31716ec3efed63be38cc8"}
|
clean-5b-sequential-aborted-20260730/exact_dedupe.sqlite3-shm
ADDED
|
Binary file (65.5 kB). View file
|
|
|
clean-5b-sequential-aborted-20260730/test-00000.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
clean-5b-sequential-aborted-20260730/validation-00000.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
clean-5b/prepare_stats.json
ADDED
|
@@ -0,0 +1,169 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"inputs": [
|
| 3 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00000.jsonl.gz",
|
| 4 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00001.jsonl.gz",
|
| 5 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00002.jsonl.gz",
|
| 6 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00003.jsonl.gz",
|
| 7 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00004.jsonl.gz",
|
| 8 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00005.jsonl.gz",
|
| 9 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00006.jsonl.gz",
|
| 10 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00007.jsonl.gz",
|
| 11 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00008.jsonl.gz",
|
| 12 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00009.jsonl.gz",
|
| 13 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00010.jsonl.gz",
|
| 14 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00011.jsonl.gz",
|
| 15 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00012.jsonl.gz",
|
| 16 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00013.jsonl.gz",
|
| 17 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00014.jsonl.gz",
|
| 18 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00015.jsonl.gz",
|
| 19 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00016.jsonl.gz",
|
| 20 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00017.jsonl.gz",
|
| 21 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00018.jsonl.gz",
|
| 22 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00019.jsonl.gz",
|
| 23 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00020.jsonl.gz",
|
| 24 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00021.jsonl.gz",
|
| 25 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00022.jsonl.gz",
|
| 26 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00023.jsonl.gz",
|
| 27 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00024.jsonl.gz",
|
| 28 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00025.jsonl.gz",
|
| 29 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00026.jsonl.gz",
|
| 30 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00027.jsonl.gz",
|
| 31 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00028.jsonl.gz",
|
| 32 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00029.jsonl.gz",
|
| 33 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00030.jsonl.gz",
|
| 34 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00031.jsonl.gz",
|
| 35 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00032.jsonl.gz",
|
| 36 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00000.jsonl.gz",
|
| 37 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00001.jsonl.gz",
|
| 38 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00002.jsonl.gz",
|
| 39 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00003.jsonl.gz",
|
| 40 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00004.jsonl.gz",
|
| 41 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00005.jsonl.gz",
|
| 42 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00006.jsonl.gz",
|
| 43 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00007.jsonl.gz",
|
| 44 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00008.jsonl.gz",
|
| 45 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00009.jsonl.gz",
|
| 46 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00010.jsonl.gz",
|
| 47 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00011.jsonl.gz",
|
| 48 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00012.jsonl.gz",
|
| 49 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00013.jsonl.gz",
|
| 50 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00014.jsonl.gz",
|
| 51 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00015.jsonl.gz",
|
| 52 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00016.jsonl.gz",
|
| 53 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00017.jsonl.gz",
|
| 54 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00018.jsonl.gz",
|
| 55 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00019.jsonl.gz",
|
| 56 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00020.jsonl.gz",
|
| 57 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00021.jsonl.gz",
|
| 58 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00022.jsonl.gz",
|
| 59 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00023.jsonl.gz",
|
| 60 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00024.jsonl.gz",
|
| 61 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00025.jsonl.gz",
|
| 62 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00026.jsonl.gz",
|
| 63 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00027.jsonl.gz",
|
| 64 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00028.jsonl.gz",
|
| 65 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00029.jsonl.gz",
|
| 66 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00030.jsonl.gz",
|
| 67 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00031.jsonl.gz",
|
| 68 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00032.jsonl.gz",
|
| 69 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00000.jsonl.gz",
|
| 70 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00001.jsonl.gz",
|
| 71 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00002.jsonl.gz",
|
| 72 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00003.jsonl.gz",
|
| 73 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00004.jsonl.gz",
|
| 74 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00005.jsonl.gz",
|
| 75 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00006.jsonl.gz",
|
| 76 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00007.jsonl.gz",
|
| 77 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00008.jsonl.gz",
|
| 78 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00009.jsonl.gz",
|
| 79 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00010.jsonl.gz",
|
| 80 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00011.jsonl.gz",
|
| 81 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00012.jsonl.gz",
|
| 82 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00013.jsonl.gz",
|
| 83 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00014.jsonl.gz",
|
| 84 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00015.jsonl.gz",
|
| 85 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00016.jsonl.gz",
|
| 86 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00017.jsonl.gz",
|
| 87 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00018.jsonl.gz",
|
| 88 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00019.jsonl.gz",
|
| 89 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00020.jsonl.gz",
|
| 90 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00021.jsonl.gz",
|
| 91 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00022.jsonl.gz",
|
| 92 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00023.jsonl.gz",
|
| 93 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00024.jsonl.gz",
|
| 94 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00025.jsonl.gz",
|
| 95 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00026.jsonl.gz",
|
| 96 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00027.jsonl.gz",
|
| 97 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00028.jsonl.gz",
|
| 98 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00029.jsonl.gz",
|
| 99 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00030.jsonl.gz",
|
| 100 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00031.jsonl.gz",
|
| 101 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00032.jsonl.gz",
|
| 102 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00000.jsonl.gz",
|
| 103 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00001.jsonl.gz",
|
| 104 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00002.jsonl.gz",
|
| 105 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00003.jsonl.gz",
|
| 106 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00004.jsonl.gz",
|
| 107 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00005.jsonl.gz",
|
| 108 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00006.jsonl.gz",
|
| 109 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00007.jsonl.gz",
|
| 110 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00008.jsonl.gz",
|
| 111 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00009.jsonl.gz",
|
| 112 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00010.jsonl.gz",
|
| 113 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00011.jsonl.gz",
|
| 114 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00012.jsonl.gz",
|
| 115 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00013.jsonl.gz",
|
| 116 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00014.jsonl.gz",
|
| 117 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00015.jsonl.gz",
|
| 118 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00016.jsonl.gz",
|
| 119 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00017.jsonl.gz",
|
| 120 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00018.jsonl.gz",
|
| 121 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00019.jsonl.gz",
|
| 122 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00020.jsonl.gz",
|
| 123 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00021.jsonl.gz",
|
| 124 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00022.jsonl.gz",
|
| 125 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00023.jsonl.gz",
|
| 126 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00024.jsonl.gz",
|
| 127 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00025.jsonl.gz",
|
| 128 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00026.jsonl.gz",
|
| 129 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00027.jsonl.gz",
|
| 130 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00028.jsonl.gz",
|
| 131 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00029.jsonl.gz",
|
| 132 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00030.jsonl.gz",
|
| 133 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00031.jsonl.gz",
|
| 134 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00032.jsonl.gz"
|
| 135 |
+
],
|
| 136 |
+
"filter": {
|
| 137 |
+
"min_chars": 300,
|
| 138 |
+
"max_chars": 100000,
|
| 139 |
+
"min_hangul_chars": 50,
|
| 140 |
+
"min_hangul_letter_ratio": 0.45,
|
| 141 |
+
"max_url_per_word": 0.02,
|
| 142 |
+
"min_unique_line_ratio": 0.7,
|
| 143 |
+
"max_code_line_ratio": 0.25,
|
| 144 |
+
"max_code_math_char_ratio": 0.15,
|
| 145 |
+
"strip_html": true,
|
| 146 |
+
"mask_pii": true
|
| 147 |
+
},
|
| 148 |
+
"split": {
|
| 149 |
+
"train": 0.997,
|
| 150 |
+
"validation": 0.002,
|
| 151 |
+
"test": 0.001,
|
| 152 |
+
"seed": 42
|
| 153 |
+
},
|
| 154 |
+
"counts": {
|
| 155 |
+
"accepted_characters": 10041039571,
|
| 156 |
+
"accepted_test": 5822,
|
| 157 |
+
"accepted_train": 5718334,
|
| 158 |
+
"accepted_validation": 11457,
|
| 159 |
+
"rejected_code_heavy": 520,
|
| 160 |
+
"rejected_code_or_math_heavy": 1639,
|
| 161 |
+
"rejected_low_hangul_ratio": 92369,
|
| 162 |
+
"rejected_repeated_lines": 43755,
|
| 163 |
+
"rejected_too_little_hangul": 5,
|
| 164 |
+
"rejected_too_long": 356,
|
| 165 |
+
"rejected_too_many_urls": 42309,
|
| 166 |
+
"rejected_too_short": 583434,
|
| 167 |
+
"seen": 6500000
|
| 168 |
+
}
|
| 169 |
+
}
|
clean-v2-full/prepare_stats.json
ADDED
|
@@ -0,0 +1,194 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"inputs": [
|
| 3 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00000.jsonl.gz",
|
| 4 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00001.jsonl.gz",
|
| 5 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00002.jsonl.gz",
|
| 6 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00003.jsonl.gz",
|
| 7 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00004.jsonl.gz",
|
| 8 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00005.jsonl.gz",
|
| 9 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00006.jsonl.gz",
|
| 10 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00007.jsonl.gz",
|
| 11 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00008.jsonl.gz",
|
| 12 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00009.jsonl.gz",
|
| 13 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00010.jsonl.gz",
|
| 14 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00011.jsonl.gz",
|
| 15 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00012.jsonl.gz",
|
| 16 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00013.jsonl.gz",
|
| 17 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00014.jsonl.gz",
|
| 18 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00015.jsonl.gz",
|
| 19 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00016.jsonl.gz",
|
| 20 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00017.jsonl.gz",
|
| 21 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00018.jsonl.gz",
|
| 22 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00019.jsonl.gz",
|
| 23 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00020.jsonl.gz",
|
| 24 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00021.jsonl.gz",
|
| 25 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00022.jsonl.gz",
|
| 26 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00023.jsonl.gz",
|
| 27 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00024.jsonl.gz",
|
| 28 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00025.jsonl.gz",
|
| 29 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00026.jsonl.gz",
|
| 30 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00027.jsonl.gz",
|
| 31 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00028.jsonl.gz",
|
| 32 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00029.jsonl.gz",
|
| 33 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00030.jsonl.gz",
|
| 34 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00031.jsonl.gz",
|
| 35 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00032.jsonl.gz",
|
| 36 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00000.jsonl.gz",
|
| 37 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00001.jsonl.gz",
|
| 38 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00002.jsonl.gz",
|
| 39 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00003.jsonl.gz",
|
| 40 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00004.jsonl.gz",
|
| 41 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00005.jsonl.gz",
|
| 42 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00006.jsonl.gz",
|
| 43 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00007.jsonl.gz",
|
| 44 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00008.jsonl.gz",
|
| 45 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00009.jsonl.gz",
|
| 46 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00010.jsonl.gz",
|
| 47 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00011.jsonl.gz",
|
| 48 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00012.jsonl.gz",
|
| 49 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00013.jsonl.gz",
|
| 50 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00014.jsonl.gz",
|
| 51 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00015.jsonl.gz",
|
| 52 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00016.jsonl.gz",
|
| 53 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00017.jsonl.gz",
|
| 54 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00018.jsonl.gz",
|
| 55 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00019.jsonl.gz",
|
| 56 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00020.jsonl.gz",
|
| 57 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00021.jsonl.gz",
|
| 58 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00022.jsonl.gz",
|
| 59 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00023.jsonl.gz",
|
| 60 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00024.jsonl.gz",
|
| 61 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00025.jsonl.gz",
|
| 62 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00026.jsonl.gz",
|
| 63 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00027.jsonl.gz",
|
| 64 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00028.jsonl.gz",
|
| 65 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00029.jsonl.gz",
|
| 66 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00030.jsonl.gz",
|
| 67 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00031.jsonl.gz",
|
| 68 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00032.jsonl.gz",
|
| 69 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00000.jsonl.gz",
|
| 70 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00001.jsonl.gz",
|
| 71 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00002.jsonl.gz",
|
| 72 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00003.jsonl.gz",
|
| 73 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00004.jsonl.gz",
|
| 74 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00005.jsonl.gz",
|
| 75 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00006.jsonl.gz",
|
| 76 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00007.jsonl.gz",
|
| 77 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00008.jsonl.gz",
|
| 78 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00009.jsonl.gz",
|
| 79 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00010.jsonl.gz",
|
| 80 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00011.jsonl.gz",
|
| 81 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00012.jsonl.gz",
|
| 82 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00013.jsonl.gz",
|
| 83 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00014.jsonl.gz",
|
| 84 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00015.jsonl.gz",
|
| 85 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00016.jsonl.gz",
|
| 86 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00017.jsonl.gz",
|
| 87 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00018.jsonl.gz",
|
| 88 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00019.jsonl.gz",
|
| 89 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00020.jsonl.gz",
|
| 90 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00021.jsonl.gz",
|
| 91 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00022.jsonl.gz",
|
| 92 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00023.jsonl.gz",
|
| 93 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00024.jsonl.gz",
|
| 94 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00025.jsonl.gz",
|
| 95 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00026.jsonl.gz",
|
| 96 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00027.jsonl.gz",
|
| 97 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00028.jsonl.gz",
|
| 98 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00029.jsonl.gz",
|
| 99 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00030.jsonl.gz",
|
| 100 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00031.jsonl.gz",
|
| 101 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00032.jsonl.gz",
|
| 102 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00000.jsonl.gz",
|
| 103 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00001.jsonl.gz",
|
| 104 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00002.jsonl.gz",
|
| 105 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00003.jsonl.gz",
|
| 106 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00004.jsonl.gz",
|
| 107 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00005.jsonl.gz",
|
| 108 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00006.jsonl.gz",
|
| 109 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00007.jsonl.gz",
|
| 110 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00008.jsonl.gz",
|
| 111 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00009.jsonl.gz",
|
| 112 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00010.jsonl.gz",
|
| 113 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00011.jsonl.gz",
|
| 114 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00012.jsonl.gz",
|
| 115 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00013.jsonl.gz",
|
| 116 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00014.jsonl.gz",
|
| 117 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00015.jsonl.gz",
|
| 118 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00016.jsonl.gz",
|
| 119 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00017.jsonl.gz",
|
| 120 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00018.jsonl.gz",
|
| 121 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00019.jsonl.gz",
|
| 122 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00020.jsonl.gz",
|
| 123 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00021.jsonl.gz",
|
| 124 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00022.jsonl.gz",
|
| 125 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00023.jsonl.gz",
|
| 126 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00024.jsonl.gz",
|
| 127 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00025.jsonl.gz",
|
| 128 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00026.jsonl.gz",
|
| 129 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00027.jsonl.gz",
|
| 130 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00028.jsonl.gz",
|
| 131 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00029.jsonl.gz",
|
| 132 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00030.jsonl.gz",
|
| 133 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00031.jsonl.gz",
|
| 134 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00032.jsonl.gz"
|
| 135 |
+
],
|
| 136 |
+
"filter": {
|
| 137 |
+
"min_chars": 300,
|
| 138 |
+
"max_chars": 100000,
|
| 139 |
+
"min_hangul_chars": 50,
|
| 140 |
+
"min_hangul_letter_ratio": 0.7,
|
| 141 |
+
"min_hangul_visible_ratio": 0.55,
|
| 142 |
+
"max_digit_ratio": 0.08,
|
| 143 |
+
"max_symbol_ratio": 0.15,
|
| 144 |
+
"max_url_per_word": 0.01,
|
| 145 |
+
"min_unique_line_ratio": 0.7,
|
| 146 |
+
"min_unique_word_ratio": 0.2,
|
| 147 |
+
"max_short_line_ratio": 0.5,
|
| 148 |
+
"max_list_line_ratio": 0.25,
|
| 149 |
+
"max_table_line_ratio": 0.1,
|
| 150 |
+
"max_boilerplate_hits_per_1k": 1.5,
|
| 151 |
+
"max_repeated_character_run": 20,
|
| 152 |
+
"max_code_line_ratio": 0.25,
|
| 153 |
+
"max_code_math_char_ratio": 0.15,
|
| 154 |
+
"min_quality_score": 0.7,
|
| 155 |
+
"strip_html": true,
|
| 156 |
+
"mask_pii": true
|
| 157 |
+
},
|
| 158 |
+
"near_dedupe": {
|
| 159 |
+
"enabled": true,
|
| 160 |
+
"method": "bottom-k paragraph/chunk sketch"
|
| 161 |
+
},
|
| 162 |
+
"split": {
|
| 163 |
+
"train": 0.997,
|
| 164 |
+
"validation": 0.002,
|
| 165 |
+
"test": 0.001,
|
| 166 |
+
"seed": 42
|
| 167 |
+
},
|
| 168 |
+
"counts": {
|
| 169 |
+
"accepted_characters": 6023465567,
|
| 170 |
+
"accepted_quality_score_micros": 3171468853652,
|
| 171 |
+
"accepted_test": 3432,
|
| 172 |
+
"accepted_train": 3400652,
|
| 173 |
+
"accepted_validation": 6755,
|
| 174 |
+
"rejected_boilerplate_heavy": 246522,
|
| 175 |
+
"rejected_code_heavy": 201,
|
| 176 |
+
"rejected_digit_heavy": 565393,
|
| 177 |
+
"rejected_list_heavy": 382933,
|
| 178 |
+
"rejected_low_hangul_letter_ratio": 374705,
|
| 179 |
+
"rejected_low_hangul_visible_ratio": 7006,
|
| 180 |
+
"rejected_low_quality_score": 1,
|
| 181 |
+
"rejected_low_unique_word_ratio": 219,
|
| 182 |
+
"rejected_near_duplicate": 22272,
|
| 183 |
+
"rejected_repeated_character_run": 28498,
|
| 184 |
+
"rejected_repeated_lines": 25960,
|
| 185 |
+
"rejected_short_line_heavy": 539355,
|
| 186 |
+
"rejected_symbol_heavy": 24279,
|
| 187 |
+
"rejected_table_heavy": 223954,
|
| 188 |
+
"rejected_too_little_hangul": 5,
|
| 189 |
+
"rejected_too_long": 356,
|
| 190 |
+
"rejected_too_many_urls": 64068,
|
| 191 |
+
"rejected_too_short": 583434,
|
| 192 |
+
"seen": 6500000
|
| 193 |
+
}
|
| 194 |
+
}
|
clean-v2-full/train-00068.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
clean-v2-gate-100k/prepare_stats.json
ADDED
|
@@ -0,0 +1,192 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"inputs": [
|
| 3 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00000.jsonl.gz",
|
| 4 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00001.jsonl.gz",
|
| 5 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00002.jsonl.gz",
|
| 6 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00003.jsonl.gz",
|
| 7 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00004.jsonl.gz",
|
| 8 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00005.jsonl.gz",
|
| 9 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00006.jsonl.gz",
|
| 10 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00007.jsonl.gz",
|
| 11 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00008.jsonl.gz",
|
| 12 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00009.jsonl.gz",
|
| 13 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00010.jsonl.gz",
|
| 14 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00011.jsonl.gz",
|
| 15 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00012.jsonl.gz",
|
| 16 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00013.jsonl.gz",
|
| 17 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00014.jsonl.gz",
|
| 18 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00015.jsonl.gz",
|
| 19 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00016.jsonl.gz",
|
| 20 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00017.jsonl.gz",
|
| 21 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00018.jsonl.gz",
|
| 22 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00019.jsonl.gz",
|
| 23 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00020.jsonl.gz",
|
| 24 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00021.jsonl.gz",
|
| 25 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00022.jsonl.gz",
|
| 26 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00023.jsonl.gz",
|
| 27 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00024.jsonl.gz",
|
| 28 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00025.jsonl.gz",
|
| 29 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00026.jsonl.gz",
|
| 30 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00027.jsonl.gz",
|
| 31 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00028.jsonl.gz",
|
| 32 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00029.jsonl.gz",
|
| 33 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00030.jsonl.gz",
|
| 34 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00031.jsonl.gz",
|
| 35 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00032.jsonl.gz",
|
| 36 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00000.jsonl.gz",
|
| 37 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00001.jsonl.gz",
|
| 38 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00002.jsonl.gz",
|
| 39 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00003.jsonl.gz",
|
| 40 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00004.jsonl.gz",
|
| 41 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00005.jsonl.gz",
|
| 42 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00006.jsonl.gz",
|
| 43 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00007.jsonl.gz",
|
| 44 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00008.jsonl.gz",
|
| 45 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00009.jsonl.gz",
|
| 46 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00010.jsonl.gz",
|
| 47 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00011.jsonl.gz",
|
| 48 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00012.jsonl.gz",
|
| 49 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00013.jsonl.gz",
|
| 50 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00014.jsonl.gz",
|
| 51 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00015.jsonl.gz",
|
| 52 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00016.jsonl.gz",
|
| 53 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00017.jsonl.gz",
|
| 54 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00018.jsonl.gz",
|
| 55 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00019.jsonl.gz",
|
| 56 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00020.jsonl.gz",
|
| 57 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00021.jsonl.gz",
|
| 58 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00022.jsonl.gz",
|
| 59 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00023.jsonl.gz",
|
| 60 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00024.jsonl.gz",
|
| 61 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00025.jsonl.gz",
|
| 62 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00026.jsonl.gz",
|
| 63 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00027.jsonl.gz",
|
| 64 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00028.jsonl.gz",
|
| 65 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00029.jsonl.gz",
|
| 66 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00030.jsonl.gz",
|
| 67 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00031.jsonl.gz",
|
| 68 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00032.jsonl.gz",
|
| 69 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00000.jsonl.gz",
|
| 70 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00001.jsonl.gz",
|
| 71 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00002.jsonl.gz",
|
| 72 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00003.jsonl.gz",
|
| 73 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00004.jsonl.gz",
|
| 74 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00005.jsonl.gz",
|
| 75 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00006.jsonl.gz",
|
| 76 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00007.jsonl.gz",
|
| 77 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00008.jsonl.gz",
|
| 78 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00009.jsonl.gz",
|
| 79 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00010.jsonl.gz",
|
| 80 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00011.jsonl.gz",
|
| 81 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00012.jsonl.gz",
|
| 82 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00013.jsonl.gz",
|
| 83 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00014.jsonl.gz",
|
| 84 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00015.jsonl.gz",
|
| 85 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00016.jsonl.gz",
|
| 86 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00017.jsonl.gz",
|
| 87 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00018.jsonl.gz",
|
| 88 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00019.jsonl.gz",
|
| 89 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00020.jsonl.gz",
|
| 90 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00021.jsonl.gz",
|
| 91 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00022.jsonl.gz",
|
| 92 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00023.jsonl.gz",
|
| 93 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00024.jsonl.gz",
|
| 94 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00025.jsonl.gz",
|
| 95 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00026.jsonl.gz",
|
| 96 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00027.jsonl.gz",
|
| 97 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00028.jsonl.gz",
|
| 98 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00029.jsonl.gz",
|
| 99 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00030.jsonl.gz",
|
| 100 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00031.jsonl.gz",
|
| 101 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00032.jsonl.gz",
|
| 102 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00000.jsonl.gz",
|
| 103 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00001.jsonl.gz",
|
| 104 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00002.jsonl.gz",
|
| 105 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00003.jsonl.gz",
|
| 106 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00004.jsonl.gz",
|
| 107 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00005.jsonl.gz",
|
| 108 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00006.jsonl.gz",
|
| 109 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00007.jsonl.gz",
|
| 110 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00008.jsonl.gz",
|
| 111 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00009.jsonl.gz",
|
| 112 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00010.jsonl.gz",
|
| 113 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00011.jsonl.gz",
|
| 114 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00012.jsonl.gz",
|
| 115 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00013.jsonl.gz",
|
| 116 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00014.jsonl.gz",
|
| 117 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00015.jsonl.gz",
|
| 118 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00016.jsonl.gz",
|
| 119 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00017.jsonl.gz",
|
| 120 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00018.jsonl.gz",
|
| 121 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00019.jsonl.gz",
|
| 122 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00020.jsonl.gz",
|
| 123 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00021.jsonl.gz",
|
| 124 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00022.jsonl.gz",
|
| 125 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00023.jsonl.gz",
|
| 126 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00024.jsonl.gz",
|
| 127 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00025.jsonl.gz",
|
| 128 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00026.jsonl.gz",
|
| 129 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00027.jsonl.gz",
|
| 130 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00028.jsonl.gz",
|
| 131 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00029.jsonl.gz",
|
| 132 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00030.jsonl.gz",
|
| 133 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00031.jsonl.gz",
|
| 134 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00032.jsonl.gz"
|
| 135 |
+
],
|
| 136 |
+
"filter": {
|
| 137 |
+
"min_chars": 300,
|
| 138 |
+
"max_chars": 100000,
|
| 139 |
+
"min_hangul_chars": 50,
|
| 140 |
+
"min_hangul_letter_ratio": 0.7,
|
| 141 |
+
"min_hangul_visible_ratio": 0.55,
|
| 142 |
+
"max_digit_ratio": 0.08,
|
| 143 |
+
"max_symbol_ratio": 0.15,
|
| 144 |
+
"max_url_per_word": 0.01,
|
| 145 |
+
"min_unique_line_ratio": 0.7,
|
| 146 |
+
"min_unique_word_ratio": 0.2,
|
| 147 |
+
"max_short_line_ratio": 0.5,
|
| 148 |
+
"max_list_line_ratio": 0.25,
|
| 149 |
+
"max_table_line_ratio": 0.1,
|
| 150 |
+
"max_boilerplate_hits_per_1k": 1.5,
|
| 151 |
+
"max_repeated_character_run": 20,
|
| 152 |
+
"max_code_line_ratio": 0.25,
|
| 153 |
+
"max_code_math_char_ratio": 0.15,
|
| 154 |
+
"min_quality_score": 0.7,
|
| 155 |
+
"strip_html": true,
|
| 156 |
+
"mask_pii": true
|
| 157 |
+
},
|
| 158 |
+
"near_dedupe": {
|
| 159 |
+
"enabled": true,
|
| 160 |
+
"method": "bottom-k paragraph/chunk sketch"
|
| 161 |
+
},
|
| 162 |
+
"split": {
|
| 163 |
+
"train": 0.997,
|
| 164 |
+
"validation": 0.002,
|
| 165 |
+
"test": 0.001,
|
| 166 |
+
"seed": 42
|
| 167 |
+
},
|
| 168 |
+
"counts": {
|
| 169 |
+
"accepted_characters": 93404448,
|
| 170 |
+
"accepted_quality_score_micros": 51216972256,
|
| 171 |
+
"accepted_test": 55,
|
| 172 |
+
"accepted_train": 54776,
|
| 173 |
+
"accepted_validation": 96,
|
| 174 |
+
"rejected_boilerplate_heavy": 2682,
|
| 175 |
+
"rejected_code_heavy": 1,
|
| 176 |
+
"rejected_digit_heavy": 6580,
|
| 177 |
+
"rejected_list_heavy": 6191,
|
| 178 |
+
"rejected_low_hangul_letter_ratio": 5078,
|
| 179 |
+
"rejected_low_hangul_visible_ratio": 103,
|
| 180 |
+
"rejected_low_unique_word_ratio": 2,
|
| 181 |
+
"rejected_near_duplicate": 88,
|
| 182 |
+
"rejected_repeated_character_run": 596,
|
| 183 |
+
"rejected_repeated_lines": 296,
|
| 184 |
+
"rejected_short_line_heavy": 8029,
|
| 185 |
+
"rejected_symbol_heavy": 469,
|
| 186 |
+
"rejected_table_heavy": 4223,
|
| 187 |
+
"rejected_too_long": 5,
|
| 188 |
+
"rejected_too_many_urls": 996,
|
| 189 |
+
"rejected_too_short": 9734,
|
| 190 |
+
"seen": 100000
|
| 191 |
+
}
|
| 192 |
+
}
|
clean-v2-gate-100k/test-00000.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
clean-v2-gate-100k/validation-00000.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
clean-v2-smoke-100k/prepare_stats.json
ADDED
|
@@ -0,0 +1,189 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"inputs": [
|
| 3 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00000.jsonl.gz",
|
| 4 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00001.jsonl.gz",
|
| 5 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00002.jsonl.gz",
|
| 6 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00003.jsonl.gz",
|
| 7 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00004.jsonl.gz",
|
| 8 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00005.jsonl.gz",
|
| 9 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00006.jsonl.gz",
|
| 10 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00007.jsonl.gz",
|
| 11 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00008.jsonl.gz",
|
| 12 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00009.jsonl.gz",
|
| 13 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00010.jsonl.gz",
|
| 14 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00011.jsonl.gz",
|
| 15 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00012.jsonl.gz",
|
| 16 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00013.jsonl.gz",
|
| 17 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00014.jsonl.gz",
|
| 18 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00015.jsonl.gz",
|
| 19 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00016.jsonl.gz",
|
| 20 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00017.jsonl.gz",
|
| 21 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00018.jsonl.gz",
|
| 22 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00019.jsonl.gz",
|
| 23 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00020.jsonl.gz",
|
| 24 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00021.jsonl.gz",
|
| 25 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00022.jsonl.gz",
|
| 26 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00023.jsonl.gz",
|
| 27 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00024.jsonl.gz",
|
| 28 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00025.jsonl.gz",
|
| 29 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00026.jsonl.gz",
|
| 30 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00027.jsonl.gz",
|
| 31 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00028.jsonl.gz",
|
| 32 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00029.jsonl.gz",
|
| 33 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00030.jsonl.gz",
|
| 34 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00031.jsonl.gz",
|
| 35 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-00/fineweb2-kor-00032.jsonl.gz",
|
| 36 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00000.jsonl.gz",
|
| 37 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00001.jsonl.gz",
|
| 38 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00002.jsonl.gz",
|
| 39 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00003.jsonl.gz",
|
| 40 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00004.jsonl.gz",
|
| 41 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00005.jsonl.gz",
|
| 42 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00006.jsonl.gz",
|
| 43 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00007.jsonl.gz",
|
| 44 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00008.jsonl.gz",
|
| 45 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00009.jsonl.gz",
|
| 46 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00010.jsonl.gz",
|
| 47 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00011.jsonl.gz",
|
| 48 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00012.jsonl.gz",
|
| 49 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00013.jsonl.gz",
|
| 50 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00014.jsonl.gz",
|
| 51 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00015.jsonl.gz",
|
| 52 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00016.jsonl.gz",
|
| 53 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00017.jsonl.gz",
|
| 54 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00018.jsonl.gz",
|
| 55 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00019.jsonl.gz",
|
| 56 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00020.jsonl.gz",
|
| 57 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00021.jsonl.gz",
|
| 58 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00022.jsonl.gz",
|
| 59 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00023.jsonl.gz",
|
| 60 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00024.jsonl.gz",
|
| 61 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00025.jsonl.gz",
|
| 62 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00026.jsonl.gz",
|
| 63 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00027.jsonl.gz",
|
| 64 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00028.jsonl.gz",
|
| 65 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00029.jsonl.gz",
|
| 66 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00030.jsonl.gz",
|
| 67 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00031.jsonl.gz",
|
| 68 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-01/fineweb2-kor-00032.jsonl.gz",
|
| 69 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00000.jsonl.gz",
|
| 70 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00001.jsonl.gz",
|
| 71 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00002.jsonl.gz",
|
| 72 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00003.jsonl.gz",
|
| 73 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00004.jsonl.gz",
|
| 74 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00005.jsonl.gz",
|
| 75 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00006.jsonl.gz",
|
| 76 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00007.jsonl.gz",
|
| 77 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00008.jsonl.gz",
|
| 78 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00009.jsonl.gz",
|
| 79 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00010.jsonl.gz",
|
| 80 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00011.jsonl.gz",
|
| 81 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00012.jsonl.gz",
|
| 82 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00013.jsonl.gz",
|
| 83 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00014.jsonl.gz",
|
| 84 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00015.jsonl.gz",
|
| 85 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00016.jsonl.gz",
|
| 86 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00017.jsonl.gz",
|
| 87 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00018.jsonl.gz",
|
| 88 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00019.jsonl.gz",
|
| 89 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00020.jsonl.gz",
|
| 90 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00021.jsonl.gz",
|
| 91 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00022.jsonl.gz",
|
| 92 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00023.jsonl.gz",
|
| 93 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00024.jsonl.gz",
|
| 94 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00025.jsonl.gz",
|
| 95 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00026.jsonl.gz",
|
| 96 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00027.jsonl.gz",
|
| 97 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00028.jsonl.gz",
|
| 98 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00029.jsonl.gz",
|
| 99 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00030.jsonl.gz",
|
| 100 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00031.jsonl.gz",
|
| 101 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-02/fineweb2-kor-00032.jsonl.gz",
|
| 102 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00000.jsonl.gz",
|
| 103 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00001.jsonl.gz",
|
| 104 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00002.jsonl.gz",
|
| 105 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00003.jsonl.gz",
|
| 106 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00004.jsonl.gz",
|
| 107 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00005.jsonl.gz",
|
| 108 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00006.jsonl.gz",
|
| 109 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00007.jsonl.gz",
|
| 110 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00008.jsonl.gz",
|
| 111 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00009.jsonl.gz",
|
| 112 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00010.jsonl.gz",
|
| 113 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00011.jsonl.gz",
|
| 114 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00012.jsonl.gz",
|
| 115 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00013.jsonl.gz",
|
| 116 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00014.jsonl.gz",
|
| 117 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00015.jsonl.gz",
|
| 118 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00016.jsonl.gz",
|
| 119 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00017.jsonl.gz",
|
| 120 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00018.jsonl.gz",
|
| 121 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00019.jsonl.gz",
|
| 122 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00020.jsonl.gz",
|
| 123 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00021.jsonl.gz",
|
| 124 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00022.jsonl.gz",
|
| 125 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00023.jsonl.gz",
|
| 126 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00024.jsonl.gz",
|
| 127 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00025.jsonl.gz",
|
| 128 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00026.jsonl.gz",
|
| 129 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00027.jsonl.gz",
|
| 130 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00028.jsonl.gz",
|
| 131 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00029.jsonl.gz",
|
| 132 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00030.jsonl.gz",
|
| 133 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00031.jsonl.gz",
|
| 134 |
+
"/workspace/KAWK50M/data/raw/fineweb2-kor-5b/part-03/fineweb2-kor-00032.jsonl.gz"
|
| 135 |
+
],
|
| 136 |
+
"filter": {
|
| 137 |
+
"min_chars": 300,
|
| 138 |
+
"max_chars": 100000,
|
| 139 |
+
"min_hangul_chars": 50,
|
| 140 |
+
"min_hangul_letter_ratio": 0.7,
|
| 141 |
+
"min_hangul_visible_ratio": 0.35,
|
| 142 |
+
"max_digit_ratio": 0.12,
|
| 143 |
+
"max_symbol_ratio": 0.2,
|
| 144 |
+
"max_url_per_word": 0.02,
|
| 145 |
+
"min_unique_line_ratio": 0.7,
|
| 146 |
+
"min_unique_word_ratio": 0.2,
|
| 147 |
+
"max_short_line_ratio": 0.6,
|
| 148 |
+
"max_list_line_ratio": 0.35,
|
| 149 |
+
"max_boilerplate_hits_per_1k": 2.0,
|
| 150 |
+
"max_repeated_character_run": 20,
|
| 151 |
+
"max_code_line_ratio": 0.25,
|
| 152 |
+
"max_code_math_char_ratio": 0.15,
|
| 153 |
+
"strip_html": true,
|
| 154 |
+
"mask_pii": true
|
| 155 |
+
},
|
| 156 |
+
"near_dedupe": {
|
| 157 |
+
"enabled": true,
|
| 158 |
+
"method": "bottom-k paragraph/chunk sketch"
|
| 159 |
+
},
|
| 160 |
+
"split": {
|
| 161 |
+
"train": 0.997,
|
| 162 |
+
"validation": 0.002,
|
| 163 |
+
"test": 0.001,
|
| 164 |
+
"seed": 42
|
| 165 |
+
},
|
| 166 |
+
"counts": {
|
| 167 |
+
"accepted_characters": 115784215,
|
| 168 |
+
"accepted_quality_score_micros": 61207204450,
|
| 169 |
+
"accepted_test": 69,
|
| 170 |
+
"accepted_train": 67729,
|
| 171 |
+
"accepted_validation": 124,
|
| 172 |
+
"rejected_boilerplate_heavy": 2724,
|
| 173 |
+
"rejected_code_heavy": 1,
|
| 174 |
+
"rejected_digit_heavy": 1612,
|
| 175 |
+
"rejected_list_heavy": 5414,
|
| 176 |
+
"rejected_low_hangul_letter_ratio": 5078,
|
| 177 |
+
"rejected_low_hangul_visible_ratio": 2,
|
| 178 |
+
"rejected_low_unique_word_ratio": 3,
|
| 179 |
+
"rejected_near_duplicate": 144,
|
| 180 |
+
"rejected_repeated_character_run": 803,
|
| 181 |
+
"rejected_repeated_lines": 356,
|
| 182 |
+
"rejected_short_line_heavy": 5742,
|
| 183 |
+
"rejected_symbol_heavy": 159,
|
| 184 |
+
"rejected_too_long": 5,
|
| 185 |
+
"rejected_too_many_urls": 301,
|
| 186 |
+
"rejected_too_short": 9734,
|
| 187 |
+
"seen": 100000
|
| 188 |
+
}
|
| 189 |
+
}
|
clean-v2-smoke-100k/test-00000.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
clean-v2-smoke-100k/validation-00000.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
raw/fineweb2-kor-5b-sequential-aborted-20260730/download_state.json
ADDED
|
@@ -0,0 +1,16 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset": "HuggingFaceFW/fineweb-2",
|
| 3 |
+
"subset": "kor_Hang",
|
| 4 |
+
"split": "train",
|
| 5 |
+
"revision": "af9c13333eb981300149d5ca60a8e9d659b276b9",
|
| 6 |
+
"license": "ODC-By-1.0; subject to CommonCrawl Terms of Use",
|
| 7 |
+
"seed": 42,
|
| 8 |
+
"shuffle_buffer": 10000,
|
| 9 |
+
"max_documents": 6500000,
|
| 10 |
+
"documents_per_shard": 50000,
|
| 11 |
+
"documents_written": 100000,
|
| 12 |
+
"utf8_bytes": 376019918,
|
| 13 |
+
"completed_shards": 2,
|
| 14 |
+
"elapsed_seconds": 186.19385647773743,
|
| 15 |
+
"complete": false
|
| 16 |
+
}
|
raw/fineweb2-kor-5b/download_summary.json
ADDED
|
@@ -0,0 +1,10 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"workers": 4,
|
| 3 |
+
"documents": 6500000,
|
| 4 |
+
"utf8_text_gib": 22.87336837965995,
|
| 5 |
+
"shards": 132,
|
| 6 |
+
"complete": true,
|
| 7 |
+
"revision": [
|
| 8 |
+
"af9c13333eb981300149d5ca60a8e9d659b276b9"
|
| 9 |
+
]
|
| 10 |
+
}
|
raw/fineweb2-kor-5b/part-00/download_state.json
ADDED
|
@@ -0,0 +1,18 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset": "HuggingFaceFW/fineweb-2",
|
| 3 |
+
"subset": "kor_Hang",
|
| 4 |
+
"split": "train",
|
| 5 |
+
"revision": "af9c13333eb981300149d5ca60a8e9d659b276b9",
|
| 6 |
+
"license": "ODC-By-1.0; subject to CommonCrawl Terms of Use",
|
| 7 |
+
"seed": 42,
|
| 8 |
+
"shuffle_buffer": 10000,
|
| 9 |
+
"dataset_num_shards": 4,
|
| 10 |
+
"dataset_shard_index": 0,
|
| 11 |
+
"max_documents": 1625000,
|
| 12 |
+
"documents_per_shard": 50000,
|
| 13 |
+
"documents_written": 1625000,
|
| 14 |
+
"utf8_bytes": 6172672934,
|
| 15 |
+
"completed_shards": 33,
|
| 16 |
+
"elapsed_seconds": 1019.4298460483551,
|
| 17 |
+
"complete": true
|
| 18 |
+
}
|
raw/fineweb2-kor-5b/part-01/download_state.json
ADDED
|
@@ -0,0 +1,18 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset": "HuggingFaceFW/fineweb-2",
|
| 3 |
+
"subset": "kor_Hang",
|
| 4 |
+
"split": "train",
|
| 5 |
+
"revision": "af9c13333eb981300149d5ca60a8e9d659b276b9",
|
| 6 |
+
"license": "ODC-By-1.0; subject to CommonCrawl Terms of Use",
|
| 7 |
+
"seed": 43,
|
| 8 |
+
"shuffle_buffer": 10000,
|
| 9 |
+
"dataset_num_shards": 4,
|
| 10 |
+
"dataset_shard_index": 1,
|
| 11 |
+
"max_documents": 1625000,
|
| 12 |
+
"documents_per_shard": 50000,
|
| 13 |
+
"documents_written": 1625000,
|
| 14 |
+
"utf8_bytes": 6087870763,
|
| 15 |
+
"completed_shards": 33,
|
| 16 |
+
"elapsed_seconds": 1001.0197038650513,
|
| 17 |
+
"complete": true
|
| 18 |
+
}
|
raw/fineweb2-kor-5b/part-02/download_state.json
ADDED
|
@@ -0,0 +1,18 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset": "HuggingFaceFW/fineweb-2",
|
| 3 |
+
"subset": "kor_Hang",
|
| 4 |
+
"split": "train",
|
| 5 |
+
"revision": "af9c13333eb981300149d5ca60a8e9d659b276b9",
|
| 6 |
+
"license": "ODC-By-1.0; subject to CommonCrawl Terms of Use",
|
| 7 |
+
"seed": 44,
|
| 8 |
+
"shuffle_buffer": 10000,
|
| 9 |
+
"dataset_num_shards": 4,
|
| 10 |
+
"dataset_shard_index": 2,
|
| 11 |
+
"max_documents": 1625000,
|
| 12 |
+
"documents_per_shard": 50000,
|
| 13 |
+
"documents_written": 1625000,
|
| 14 |
+
"utf8_bytes": 6115172552,
|
| 15 |
+
"completed_shards": 33,
|
| 16 |
+
"elapsed_seconds": 1020.6348021030426,
|
| 17 |
+
"complete": true
|
| 18 |
+
}
|
raw/fineweb2-kor-5b/part-03/download_state.json
ADDED
|
@@ -0,0 +1,18 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset": "HuggingFaceFW/fineweb-2",
|
| 3 |
+
"subset": "kor_Hang",
|
| 4 |
+
"split": "train",
|
| 5 |
+
"revision": "af9c13333eb981300149d5ca60a8e9d659b276b9",
|
| 6 |
+
"license": "ODC-By-1.0; subject to CommonCrawl Terms of Use",
|
| 7 |
+
"seed": 45,
|
| 8 |
+
"shuffle_buffer": 10000,
|
| 9 |
+
"dataset_num_shards": 4,
|
| 10 |
+
"dataset_shard_index": 3,
|
| 11 |
+
"max_documents": 1625000,
|
| 12 |
+
"documents_per_shard": 50000,
|
| 13 |
+
"documents_written": 1625000,
|
| 14 |
+
"utf8_bytes": 6184376036,
|
| 15 |
+
"completed_shards": 33,
|
| 16 |
+
"elapsed_seconds": 1054.3620955944061,
|
| 17 |
+
"complete": true
|
| 18 |
+
}
|
tokenize-parallel-smoke/combined.metadata.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"output": "data/tokenize-parallel-smoke/combined.bin",
|
| 3 |
+
"tokens": 1000000,
|
| 4 |
+
"bytes": 2000000,
|
| 5 |
+
"dtype": "uint16",
|
| 6 |
+
"available_part_tokens": 48560701,
|
| 7 |
+
"parts_available": 1,
|
| 8 |
+
"parts_used": 1,
|
| 9 |
+
"documents_seen": 50000,
|
| 10 |
+
"documents_written": 50000
|
| 11 |
+
}
|
tokenize-parallel-smoke/train-00000.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"split": "train-00000",
|
| 3 |
+
"output": "data/tokenize-parallel-smoke/train-00000.bin",
|
| 4 |
+
"input_files": 1,
|
| 5 |
+
"documents_seen": 50000,
|
| 6 |
+
"documents_written": 50000,
|
| 7 |
+
"tokens": 48560701,
|
| 8 |
+
"bytes": 97121402,
|
| 9 |
+
"dtype": "uint16",
|
| 10 |
+
"input": "data/clean-5b/train-00000.jsonl"
|
| 11 |
+
}
|
tokenized-5b/metadata.json
ADDED
|
@@ -0,0 +1,40 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"tokenizer": "/workspace/KAWK50M/artifacts/tokenizer-20k-pilot",
|
| 3 |
+
"vocab_size": 20000,
|
| 4 |
+
"eos_token_id": 2,
|
| 5 |
+
"splits": {
|
| 6 |
+
"train": {
|
| 7 |
+
"output": "data/tokenized-5b/train.bin",
|
| 8 |
+
"tokens": 5000000000,
|
| 9 |
+
"bytes": 10000000000,
|
| 10 |
+
"dtype": "uint16",
|
| 11 |
+
"available_part_tokens": 5711467874,
|
| 12 |
+
"parts_available": 115,
|
| 13 |
+
"parts_used": 101,
|
| 14 |
+
"documents_seen": 5718334,
|
| 15 |
+
"documents_written": 5718334
|
| 16 |
+
},
|
| 17 |
+
"validation": {
|
| 18 |
+
"output": "data/tokenized-5b/validation.bin",
|
| 19 |
+
"tokens": 2000000,
|
| 20 |
+
"bytes": 4000000,
|
| 21 |
+
"dtype": "uint16",
|
| 22 |
+
"available_part_tokens": 11287100,
|
| 23 |
+
"parts_available": 1,
|
| 24 |
+
"parts_used": 1,
|
| 25 |
+
"documents_seen": 11457,
|
| 26 |
+
"documents_written": 11457
|
| 27 |
+
},
|
| 28 |
+
"test": {
|
| 29 |
+
"output": "data/tokenized-5b/test.bin",
|
| 30 |
+
"tokens": 1000000,
|
| 31 |
+
"bytes": 2000000,
|
| 32 |
+
"dtype": "uint16",
|
| 33 |
+
"available_part_tokens": 5866761,
|
| 34 |
+
"parts_available": 1,
|
| 35 |
+
"parts_used": 1,
|
| 36 |
+
"documents_seen": 5822,
|
| 37 |
+
"documents_written": 5822
|
| 38 |
+
}
|
| 39 |
+
}
|
| 40 |
+
}
|
tokenized-5b/parts/train/train-00000.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"split": "train-00000",
|
| 3 |
+
"output": "data/tokenized-5b/parts/train/train-00000.bin",
|
| 4 |
+
"input_files": 1,
|
| 5 |
+
"documents_seen": 50000,
|
| 6 |
+
"documents_written": 50000,
|
| 7 |
+
"tokens": 48560701,
|
| 8 |
+
"bytes": 97121402,
|
| 9 |
+
"dtype": "uint16",
|
| 10 |
+
"input": "data/clean-5b/train-00000.jsonl"
|
| 11 |
+
}
|
tokenized-5b/parts/train/train-00003.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"split": "train-00003",
|
| 3 |
+
"output": "data/tokenized-5b/parts/train/train-00003.bin",
|
| 4 |
+
"input_files": 1,
|
| 5 |
+
"documents_seen": 50000,
|
| 6 |
+
"documents_written": 50000,
|
| 7 |
+
"tokens": 49598374,
|
| 8 |
+
"bytes": 99196748,
|
| 9 |
+
"dtype": "uint16",
|
| 10 |
+
"input": "data/clean-5b/train-00003.jsonl"
|
| 11 |
+
}
|
tokenized-5b/parts/train/train-00004.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"split": "train-00004",
|
| 3 |
+
"output": "data/tokenized-5b/parts/train/train-00004.bin",
|
| 4 |
+
"input_files": 1,
|
| 5 |
+
"documents_seen": 50000,
|
| 6 |
+
"documents_written": 50000,
|
| 7 |
+
"tokens": 49620935,
|
| 8 |
+
"bytes": 99241870,
|
| 9 |
+
"dtype": "uint16",
|
| 10 |
+
"input": "data/clean-5b/train-00004.jsonl"
|
| 11 |
+
}
|
tokenized-5b/parts/train/train-00005.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"split": "train-00005",
|
| 3 |
+
"output": "data/tokenized-5b/parts/train/train-00005.bin",
|
| 4 |
+
"input_files": 1,
|
| 5 |
+
"documents_seen": 50000,
|
| 6 |
+
"documents_written": 50000,
|
| 7 |
+
"tokens": 51156813,
|
| 8 |
+
"bytes": 102313626,
|
| 9 |
+
"dtype": "uint16",
|
| 10 |
+
"input": "data/clean-5b/train-00005.jsonl"
|
| 11 |
+
}
|
tokenized-5b/parts/train/train-00006.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"split": "train-00006",
|
| 3 |
+
"output": "data/tokenized-5b/parts/train/train-00006.bin",
|
| 4 |
+
"input_files": 1,
|
| 5 |
+
"documents_seen": 50000,
|
| 6 |
+
"documents_written": 50000,
|
| 7 |
+
"tokens": 49789847,
|
| 8 |
+
"bytes": 99579694,
|
| 9 |
+
"dtype": "uint16",
|
| 10 |
+
"input": "data/clean-5b/train-00006.jsonl"
|
| 11 |
+
}
|
tokenized-5b/parts/train/train-00007.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"split": "train-00007",
|
| 3 |
+
"output": "data/tokenized-5b/parts/train/train-00007.bin",
|
| 4 |
+
"input_files": 1,
|
| 5 |
+
"documents_seen": 50000,
|
| 6 |
+
"documents_written": 50000,
|
| 7 |
+
"tokens": 48382596,
|
| 8 |
+
"bytes": 96765192,
|
| 9 |
+
"dtype": "uint16",
|
| 10 |
+
"input": "data/clean-5b/train-00007.jsonl"
|
| 11 |
+
}
|
tokenized-5b/parts/train/train-00010.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"split": "train-00010",
|
| 3 |
+
"output": "data/tokenized-5b/parts/train/train-00010.bin",
|
| 4 |
+
"input_files": 1,
|
| 5 |
+
"documents_seen": 50000,
|
| 6 |
+
"documents_written": 50000,
|
| 7 |
+
"tokens": 48766264,
|
| 8 |
+
"bytes": 97532528,
|
| 9 |
+
"dtype": "uint16",
|
| 10 |
+
"input": "data/clean-5b/train-00010.jsonl"
|
| 11 |
+
}
|
tokenized-5b/parts/train/train-00013.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"split": "train-00013",
|
| 3 |
+
"output": "data/tokenized-5b/parts/train/train-00013.bin",
|
| 4 |
+
"input_files": 1,
|
| 5 |
+
"documents_seen": 50000,
|
| 6 |
+
"documents_written": 50000,
|
| 7 |
+
"tokens": 49131574,
|
| 8 |
+
"bytes": 98263148,
|
| 9 |
+
"dtype": "uint16",
|
| 10 |
+
"input": "data/clean-5b/train-00013.jsonl"
|
| 11 |
+
}
|
tokenized-5b/test.metadata.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"output": "data/tokenized-5b/test.bin",
|
| 3 |
+
"tokens": 1000000,
|
| 4 |
+
"bytes": 2000000,
|
| 5 |
+
"dtype": "uint16",
|
| 6 |
+
"available_part_tokens": 5866761,
|
| 7 |
+
"parts_available": 1,
|
| 8 |
+
"parts_used": 1,
|
| 9 |
+
"documents_seen": 5822,
|
| 10 |
+
"documents_written": 5822
|
| 11 |
+
}
|
tokenized-5b/train.metadata.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"output": "data/tokenized-5b/train.bin",
|
| 3 |
+
"tokens": 5000000000,
|
| 4 |
+
"bytes": 10000000000,
|
| 5 |
+
"dtype": "uint16",
|
| 6 |
+
"available_part_tokens": 5711467874,
|
| 7 |
+
"parts_available": 115,
|
| 8 |
+
"parts_used": 101,
|
| 9 |
+
"documents_seen": 5718334,
|
| 10 |
+
"documents_written": 5718334
|
| 11 |
+
}
|
tokenized-5b/validation.metadata.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"output": "data/tokenized-5b/validation.bin",
|
| 3 |
+
"tokens": 2000000,
|
| 4 |
+
"bytes": 4000000,
|
| 5 |
+
"dtype": "uint16",
|
| 6 |
+
"available_part_tokens": 11287100,
|
| 7 |
+
"parts_available": 1,
|
| 8 |
+
"parts_used": 1,
|
| 9 |
+
"documents_seen": 11457,
|
| 10 |
+
"documents_written": 11457
|
| 11 |
+
}
|
tokenized-pilot/metadata.json
ADDED
|
@@ -0,0 +1,37 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"tokenizer": "C:\\Users\\wonye\\project\\AI\\KAWK50M\\artifacts\\tokenizer-20k-pilot",
|
| 3 |
+
"vocab_size": 20000,
|
| 4 |
+
"eos_token_id": 2,
|
| 5 |
+
"splits": {
|
| 6 |
+
"train": {
|
| 7 |
+
"split": "train",
|
| 8 |
+
"output": "data\\tokenized-pilot\\train.bin",
|
| 9 |
+
"input_files": 6,
|
| 10 |
+
"documents_seen": 107456,
|
| 11 |
+
"documents_written": 107454,
|
| 12 |
+
"tokens": 100000000,
|
| 13 |
+
"bytes": 200000000,
|
| 14 |
+
"dtype": "uint16"
|
| 15 |
+
},
|
| 16 |
+
"validation": {
|
| 17 |
+
"split": "validation",
|
| 18 |
+
"output": "data\\tokenized-pilot\\validation.bin",
|
| 19 |
+
"input_files": 1,
|
| 20 |
+
"documents_seen": 528,
|
| 21 |
+
"documents_written": 528,
|
| 22 |
+
"tokens": 510846,
|
| 23 |
+
"bytes": 1021692,
|
| 24 |
+
"dtype": "uint16"
|
| 25 |
+
},
|
| 26 |
+
"test": {
|
| 27 |
+
"split": "test",
|
| 28 |
+
"output": "data\\tokenized-pilot\\test.bin",
|
| 29 |
+
"input_files": 1,
|
| 30 |
+
"documents_seen": 284,
|
| 31 |
+
"documents_written": 284,
|
| 32 |
+
"tokens": 282089,
|
| 33 |
+
"bytes": 564178,
|
| 34 |
+
"dtype": "uint16"
|
| 35 |
+
}
|
| 36 |
+
}
|
| 37 |
+
}
|
tokenized-v2-100m/metadata.json
ADDED
|
@@ -0,0 +1,37 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"tokenizer": "/workspace/KAWK50M/artifacts/tokenizer-20k-v2",
|
| 3 |
+
"vocab_size": 20000,
|
| 4 |
+
"eos_token_id": 2,
|
| 5 |
+
"splits": {
|
| 6 |
+
"train": {
|
| 7 |
+
"split": "train",
|
| 8 |
+
"output": "data/tokenized-v2-100m/train.bin",
|
| 9 |
+
"input_files": 69,
|
| 10 |
+
"documents_seen": 100416,
|
| 11 |
+
"documents_written": 100385,
|
| 12 |
+
"tokens": 100000000,
|
| 13 |
+
"bytes": 200000000,
|
| 14 |
+
"dtype": "uint16"
|
| 15 |
+
},
|
| 16 |
+
"validation": {
|
| 17 |
+
"split": "validation",
|
| 18 |
+
"output": "data/tokenized-v2-100m/validation.bin",
|
| 19 |
+
"input_files": 1,
|
| 20 |
+
"documents_seen": 2112,
|
| 21 |
+
"documents_written": 2095,
|
| 22 |
+
"tokens": 2000000,
|
| 23 |
+
"bytes": 4000000,
|
| 24 |
+
"dtype": "uint16"
|
| 25 |
+
},
|
| 26 |
+
"test": {
|
| 27 |
+
"split": "test",
|
| 28 |
+
"output": "data/tokenized-v2-100m/test.bin",
|
| 29 |
+
"input_files": 1,
|
| 30 |
+
"documents_seen": 1088,
|
| 31 |
+
"documents_written": 1071,
|
| 32 |
+
"tokens": 1000000,
|
| 33 |
+
"bytes": 2000000,
|
| 34 |
+
"dtype": "uint16"
|
| 35 |
+
}
|
| 36 |
+
}
|
| 37 |
+
}
|
tokenized-v2-20b/manifest.json
ADDED
|
@@ -0,0 +1,15 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"initial_tokens": 3143722996,
|
| 3 |
+
"stream_workers": 5,
|
| 4 |
+
"stream_tokens": 16856277004,
|
| 5 |
+
"total_tokens": 20000000000,
|
| 6 |
+
"complete": true,
|
| 7 |
+
"revision": [
|
| 8 |
+
"af9c13333eb981300149d5ca60a8e9d659b276b9"
|
| 9 |
+
],
|
| 10 |
+
"recovery": {
|
| 11 |
+
"reason": "part-03 exhausted before the equal per-worker cap",
|
| 12 |
+
"overflow_source": "part-00 remaining documents",
|
| 13 |
+
"partial_part_03_finalized": true
|
| 14 |
+
}
|
| 15 |
+
}
|
tokenized-v2-cpt-3b/manifest.json
ADDED
|
@@ -0,0 +1,489 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dtype": "uint16",
|
| 3 |
+
"base": {
|
| 4 |
+
"tokens": 2900000000,
|
| 5 |
+
"files": [
|
| 6 |
+
{
|
| 7 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00000.bin",
|
| 8 |
+
"output": "data/tokenized-v2-cpt-3b/base/00000-train-00000.bin",
|
| 9 |
+
"source_tokens": 44623270,
|
| 10 |
+
"tokens": 44623270,
|
| 11 |
+
"mode": "hardlink"
|
| 12 |
+
},
|
| 13 |
+
{
|
| 14 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00001.bin",
|
| 15 |
+
"output": "data/tokenized-v2-cpt-3b/base/00001-train-00001.bin",
|
| 16 |
+
"source_tokens": 47865705,
|
| 17 |
+
"tokens": 47865705,
|
| 18 |
+
"mode": "hardlink"
|
| 19 |
+
},
|
| 20 |
+
{
|
| 21 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00002.bin",
|
| 22 |
+
"output": "data/tokenized-v2-cpt-3b/base/00002-train-00002.bin",
|
| 23 |
+
"source_tokens": 45858070,
|
| 24 |
+
"tokens": 45858070,
|
| 25 |
+
"mode": "hardlink"
|
| 26 |
+
},
|
| 27 |
+
{
|
| 28 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00003.bin",
|
| 29 |
+
"output": "data/tokenized-v2-cpt-3b/base/00003-train-00003.bin",
|
| 30 |
+
"source_tokens": 47528778,
|
| 31 |
+
"tokens": 47528778,
|
| 32 |
+
"mode": "hardlink"
|
| 33 |
+
},
|
| 34 |
+
{
|
| 35 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00004.bin",
|
| 36 |
+
"output": "data/tokenized-v2-cpt-3b/base/00004-train-00004.bin",
|
| 37 |
+
"source_tokens": 45170591,
|
| 38 |
+
"tokens": 45170591,
|
| 39 |
+
"mode": "hardlink"
|
| 40 |
+
},
|
| 41 |
+
{
|
| 42 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00005.bin",
|
| 43 |
+
"output": "data/tokenized-v2-cpt-3b/base/00005-train-00005.bin",
|
| 44 |
+
"source_tokens": 47361838,
|
| 45 |
+
"tokens": 47361838,
|
| 46 |
+
"mode": "hardlink"
|
| 47 |
+
},
|
| 48 |
+
{
|
| 49 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00006.bin",
|
| 50 |
+
"output": "data/tokenized-v2-cpt-3b/base/00006-train-00006.bin",
|
| 51 |
+
"source_tokens": 45100299,
|
| 52 |
+
"tokens": 45100299,
|
| 53 |
+
"mode": "hardlink"
|
| 54 |
+
},
|
| 55 |
+
{
|
| 56 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00007.bin",
|
| 57 |
+
"output": "data/tokenized-v2-cpt-3b/base/00007-train-00007.bin",
|
| 58 |
+
"source_tokens": 47310318,
|
| 59 |
+
"tokens": 47310318,
|
| 60 |
+
"mode": "hardlink"
|
| 61 |
+
},
|
| 62 |
+
{
|
| 63 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00008.bin",
|
| 64 |
+
"output": "data/tokenized-v2-cpt-3b/base/00008-train-00008.bin",
|
| 65 |
+
"source_tokens": 45060705,
|
| 66 |
+
"tokens": 45060705,
|
| 67 |
+
"mode": "hardlink"
|
| 68 |
+
},
|
| 69 |
+
{
|
| 70 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00009.bin",
|
| 71 |
+
"output": "data/tokenized-v2-cpt-3b/base/00009-train-00009.bin",
|
| 72 |
+
"source_tokens": 47175955,
|
| 73 |
+
"tokens": 47175955,
|
| 74 |
+
"mode": "hardlink"
|
| 75 |
+
},
|
| 76 |
+
{
|
| 77 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00010.bin",
|
| 78 |
+
"output": "data/tokenized-v2-cpt-3b/base/00010-train-00010.bin",
|
| 79 |
+
"source_tokens": 46011564,
|
| 80 |
+
"tokens": 46011564,
|
| 81 |
+
"mode": "hardlink"
|
| 82 |
+
},
|
| 83 |
+
{
|
| 84 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00011.bin",
|
| 85 |
+
"output": "data/tokenized-v2-cpt-3b/base/00011-train-00011.bin",
|
| 86 |
+
"source_tokens": 46269772,
|
| 87 |
+
"tokens": 46269772,
|
| 88 |
+
"mode": "hardlink"
|
| 89 |
+
},
|
| 90 |
+
{
|
| 91 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00012.bin",
|
| 92 |
+
"output": "data/tokenized-v2-cpt-3b/base/00012-train-00012.bin",
|
| 93 |
+
"source_tokens": 46697792,
|
| 94 |
+
"tokens": 46697792,
|
| 95 |
+
"mode": "hardlink"
|
| 96 |
+
},
|
| 97 |
+
{
|
| 98 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00013.bin",
|
| 99 |
+
"output": "data/tokenized-v2-cpt-3b/base/00013-train-00013.bin",
|
| 100 |
+
"source_tokens": 45177429,
|
| 101 |
+
"tokens": 45177429,
|
| 102 |
+
"mode": "hardlink"
|
| 103 |
+
},
|
| 104 |
+
{
|
| 105 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00014.bin",
|
| 106 |
+
"output": "data/tokenized-v2-cpt-3b/base/00014-train-00014.bin",
|
| 107 |
+
"source_tokens": 46270359,
|
| 108 |
+
"tokens": 46270359,
|
| 109 |
+
"mode": "hardlink"
|
| 110 |
+
},
|
| 111 |
+
{
|
| 112 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00015.bin",
|
| 113 |
+
"output": "data/tokenized-v2-cpt-3b/base/00015-train-00015.bin",
|
| 114 |
+
"source_tokens": 45917252,
|
| 115 |
+
"tokens": 45917252,
|
| 116 |
+
"mode": "hardlink"
|
| 117 |
+
},
|
| 118 |
+
{
|
| 119 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00016.bin",
|
| 120 |
+
"output": "data/tokenized-v2-cpt-3b/base/00016-train-00016.bin",
|
| 121 |
+
"source_tokens": 45789879,
|
| 122 |
+
"tokens": 45789879,
|
| 123 |
+
"mode": "hardlink"
|
| 124 |
+
},
|
| 125 |
+
{
|
| 126 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00017.bin",
|
| 127 |
+
"output": "data/tokenized-v2-cpt-3b/base/00017-train-00017.bin",
|
| 128 |
+
"source_tokens": 46143763,
|
| 129 |
+
"tokens": 46143763,
|
| 130 |
+
"mode": "hardlink"
|
| 131 |
+
},
|
| 132 |
+
{
|
| 133 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00018.bin",
|
| 134 |
+
"output": "data/tokenized-v2-cpt-3b/base/00018-train-00018.bin",
|
| 135 |
+
"source_tokens": 45527851,
|
| 136 |
+
"tokens": 45527851,
|
| 137 |
+
"mode": "hardlink"
|
| 138 |
+
},
|
| 139 |
+
{
|
| 140 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00019.bin",
|
| 141 |
+
"output": "data/tokenized-v2-cpt-3b/base/00019-train-00019.bin",
|
| 142 |
+
"source_tokens": 45502322,
|
| 143 |
+
"tokens": 45502322,
|
| 144 |
+
"mode": "hardlink"
|
| 145 |
+
},
|
| 146 |
+
{
|
| 147 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00020.bin",
|
| 148 |
+
"output": "data/tokenized-v2-cpt-3b/base/00020-train-00020.bin",
|
| 149 |
+
"source_tokens": 45130013,
|
| 150 |
+
"tokens": 45130013,
|
| 151 |
+
"mode": "hardlink"
|
| 152 |
+
},
|
| 153 |
+
{
|
| 154 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00021.bin",
|
| 155 |
+
"output": "data/tokenized-v2-cpt-3b/base/00021-train-00021.bin",
|
| 156 |
+
"source_tokens": 45509693,
|
| 157 |
+
"tokens": 45509693,
|
| 158 |
+
"mode": "hardlink"
|
| 159 |
+
},
|
| 160 |
+
{
|
| 161 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00022.bin",
|
| 162 |
+
"output": "data/tokenized-v2-cpt-3b/base/00022-train-00022.bin",
|
| 163 |
+
"source_tokens": 45450974,
|
| 164 |
+
"tokens": 45450974,
|
| 165 |
+
"mode": "hardlink"
|
| 166 |
+
},
|
| 167 |
+
{
|
| 168 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00023.bin",
|
| 169 |
+
"output": "data/tokenized-v2-cpt-3b/base/00023-train-00023.bin",
|
| 170 |
+
"source_tokens": 45622454,
|
| 171 |
+
"tokens": 45622454,
|
| 172 |
+
"mode": "hardlink"
|
| 173 |
+
},
|
| 174 |
+
{
|
| 175 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00024.bin",
|
| 176 |
+
"output": "data/tokenized-v2-cpt-3b/base/00024-train-00024.bin",
|
| 177 |
+
"source_tokens": 45542596,
|
| 178 |
+
"tokens": 45542596,
|
| 179 |
+
"mode": "hardlink"
|
| 180 |
+
},
|
| 181 |
+
{
|
| 182 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00025.bin",
|
| 183 |
+
"output": "data/tokenized-v2-cpt-3b/base/00025-train-00025.bin",
|
| 184 |
+
"source_tokens": 45477661,
|
| 185 |
+
"tokens": 45477661,
|
| 186 |
+
"mode": "hardlink"
|
| 187 |
+
},
|
| 188 |
+
{
|
| 189 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00026.bin",
|
| 190 |
+
"output": "data/tokenized-v2-cpt-3b/base/00026-train-00026.bin",
|
| 191 |
+
"source_tokens": 45380268,
|
| 192 |
+
"tokens": 45380268,
|
| 193 |
+
"mode": "hardlink"
|
| 194 |
+
},
|
| 195 |
+
{
|
| 196 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00027.bin",
|
| 197 |
+
"output": "data/tokenized-v2-cpt-3b/base/00027-train-00027.bin",
|
| 198 |
+
"source_tokens": 46316249,
|
| 199 |
+
"tokens": 46316249,
|
| 200 |
+
"mode": "hardlink"
|
| 201 |
+
},
|
| 202 |
+
{
|
| 203 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00028.bin",
|
| 204 |
+
"output": "data/tokenized-v2-cpt-3b/base/00028-train-00028.bin",
|
| 205 |
+
"source_tokens": 45311775,
|
| 206 |
+
"tokens": 45311775,
|
| 207 |
+
"mode": "hardlink"
|
| 208 |
+
},
|
| 209 |
+
{
|
| 210 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00029.bin",
|
| 211 |
+
"output": "data/tokenized-v2-cpt-3b/base/00029-train-00029.bin",
|
| 212 |
+
"source_tokens": 46163871,
|
| 213 |
+
"tokens": 46163871,
|
| 214 |
+
"mode": "hardlink"
|
| 215 |
+
},
|
| 216 |
+
{
|
| 217 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00030.bin",
|
| 218 |
+
"output": "data/tokenized-v2-cpt-3b/base/00030-train-00030.bin",
|
| 219 |
+
"source_tokens": 45043649,
|
| 220 |
+
"tokens": 45043649,
|
| 221 |
+
"mode": "hardlink"
|
| 222 |
+
},
|
| 223 |
+
{
|
| 224 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00031.bin",
|
| 225 |
+
"output": "data/tokenized-v2-cpt-3b/base/00031-train-00031.bin",
|
| 226 |
+
"source_tokens": 45985115,
|
| 227 |
+
"tokens": 45985115,
|
| 228 |
+
"mode": "hardlink"
|
| 229 |
+
},
|
| 230 |
+
{
|
| 231 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00032.bin",
|
| 232 |
+
"output": "data/tokenized-v2-cpt-3b/base/00032-train-00032.bin",
|
| 233 |
+
"source_tokens": 46028057,
|
| 234 |
+
"tokens": 46028057,
|
| 235 |
+
"mode": "hardlink"
|
| 236 |
+
},
|
| 237 |
+
{
|
| 238 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00033.bin",
|
| 239 |
+
"output": "data/tokenized-v2-cpt-3b/base/00033-train-00033.bin",
|
| 240 |
+
"source_tokens": 45798964,
|
| 241 |
+
"tokens": 45798964,
|
| 242 |
+
"mode": "hardlink"
|
| 243 |
+
},
|
| 244 |
+
{
|
| 245 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00034.bin",
|
| 246 |
+
"output": "data/tokenized-v2-cpt-3b/base/00034-train-00034.bin",
|
| 247 |
+
"source_tokens": 46056620,
|
| 248 |
+
"tokens": 46056620,
|
| 249 |
+
"mode": "hardlink"
|
| 250 |
+
},
|
| 251 |
+
{
|
| 252 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00035.bin",
|
| 253 |
+
"output": "data/tokenized-v2-cpt-3b/base/00035-train-00035.bin",
|
| 254 |
+
"source_tokens": 45874653,
|
| 255 |
+
"tokens": 45874653,
|
| 256 |
+
"mode": "hardlink"
|
| 257 |
+
},
|
| 258 |
+
{
|
| 259 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00036.bin",
|
| 260 |
+
"output": "data/tokenized-v2-cpt-3b/base/00036-train-00036.bin",
|
| 261 |
+
"source_tokens": 45601174,
|
| 262 |
+
"tokens": 45601174,
|
| 263 |
+
"mode": "hardlink"
|
| 264 |
+
},
|
| 265 |
+
{
|
| 266 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00037.bin",
|
| 267 |
+
"output": "data/tokenized-v2-cpt-3b/base/00037-train-00037.bin",
|
| 268 |
+
"source_tokens": 46149257,
|
| 269 |
+
"tokens": 46149257,
|
| 270 |
+
"mode": "hardlink"
|
| 271 |
+
},
|
| 272 |
+
{
|
| 273 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00038.bin",
|
| 274 |
+
"output": "data/tokenized-v2-cpt-3b/base/00038-train-00038.bin",
|
| 275 |
+
"source_tokens": 46355491,
|
| 276 |
+
"tokens": 46355491,
|
| 277 |
+
"mode": "hardlink"
|
| 278 |
+
},
|
| 279 |
+
{
|
| 280 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00039.bin",
|
| 281 |
+
"output": "data/tokenized-v2-cpt-3b/base/00039-train-00039.bin",
|
| 282 |
+
"source_tokens": 46020943,
|
| 283 |
+
"tokens": 46020943,
|
| 284 |
+
"mode": "hardlink"
|
| 285 |
+
},
|
| 286 |
+
{
|
| 287 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00040.bin",
|
| 288 |
+
"output": "data/tokenized-v2-cpt-3b/base/00040-train-00040.bin",
|
| 289 |
+
"source_tokens": 45877709,
|
| 290 |
+
"tokens": 45877709,
|
| 291 |
+
"mode": "hardlink"
|
| 292 |
+
},
|
| 293 |
+
{
|
| 294 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00041.bin",
|
| 295 |
+
"output": "data/tokenized-v2-cpt-3b/base/00041-train-00041.bin",
|
| 296 |
+
"source_tokens": 45731866,
|
| 297 |
+
"tokens": 45731866,
|
| 298 |
+
"mode": "hardlink"
|
| 299 |
+
},
|
| 300 |
+
{
|
| 301 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00042.bin",
|
| 302 |
+
"output": "data/tokenized-v2-cpt-3b/base/00042-train-00042.bin",
|
| 303 |
+
"source_tokens": 45885194,
|
| 304 |
+
"tokens": 45885194,
|
| 305 |
+
"mode": "hardlink"
|
| 306 |
+
},
|
| 307 |
+
{
|
| 308 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00043.bin",
|
| 309 |
+
"output": "data/tokenized-v2-cpt-3b/base/00043-train-00043.bin",
|
| 310 |
+
"source_tokens": 46257391,
|
| 311 |
+
"tokens": 46257391,
|
| 312 |
+
"mode": "hardlink"
|
| 313 |
+
},
|
| 314 |
+
{
|
| 315 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00044.bin",
|
| 316 |
+
"output": "data/tokenized-v2-cpt-3b/base/00044-train-00044.bin",
|
| 317 |
+
"source_tokens": 46366317,
|
| 318 |
+
"tokens": 46366317,
|
| 319 |
+
"mode": "hardlink"
|
| 320 |
+
},
|
| 321 |
+
{
|
| 322 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00045.bin",
|
| 323 |
+
"output": "data/tokenized-v2-cpt-3b/base/00045-train-00045.bin",
|
| 324 |
+
"source_tokens": 45925081,
|
| 325 |
+
"tokens": 45925081,
|
| 326 |
+
"mode": "hardlink"
|
| 327 |
+
},
|
| 328 |
+
{
|
| 329 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00046.bin",
|
| 330 |
+
"output": "data/tokenized-v2-cpt-3b/base/00046-train-00046.bin",
|
| 331 |
+
"source_tokens": 46644452,
|
| 332 |
+
"tokens": 46644452,
|
| 333 |
+
"mode": "hardlink"
|
| 334 |
+
},
|
| 335 |
+
{
|
| 336 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00047.bin",
|
| 337 |
+
"output": "data/tokenized-v2-cpt-3b/base/00047-train-00047.bin",
|
| 338 |
+
"source_tokens": 46300870,
|
| 339 |
+
"tokens": 46300870,
|
| 340 |
+
"mode": "hardlink"
|
| 341 |
+
},
|
| 342 |
+
{
|
| 343 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00048.bin",
|
| 344 |
+
"output": "data/tokenized-v2-cpt-3b/base/00048-train-00048.bin",
|
| 345 |
+
"source_tokens": 45791032,
|
| 346 |
+
"tokens": 45791032,
|
| 347 |
+
"mode": "hardlink"
|
| 348 |
+
},
|
| 349 |
+
{
|
| 350 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00049.bin",
|
| 351 |
+
"output": "data/tokenized-v2-cpt-3b/base/00049-train-00049.bin",
|
| 352 |
+
"source_tokens": 46494918,
|
| 353 |
+
"tokens": 46494918,
|
| 354 |
+
"mode": "hardlink"
|
| 355 |
+
},
|
| 356 |
+
{
|
| 357 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00050.bin",
|
| 358 |
+
"output": "data/tokenized-v2-cpt-3b/base/00050-train-00050.bin",
|
| 359 |
+
"source_tokens": 45732773,
|
| 360 |
+
"tokens": 45732773,
|
| 361 |
+
"mode": "hardlink"
|
| 362 |
+
},
|
| 363 |
+
{
|
| 364 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00051.bin",
|
| 365 |
+
"output": "data/tokenized-v2-cpt-3b/base/00051-train-00051.bin",
|
| 366 |
+
"source_tokens": 45950434,
|
| 367 |
+
"tokens": 45950434,
|
| 368 |
+
"mode": "hardlink"
|
| 369 |
+
},
|
| 370 |
+
{
|
| 371 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00052.bin",
|
| 372 |
+
"output": "data/tokenized-v2-cpt-3b/base/00052-train-00052.bin",
|
| 373 |
+
"source_tokens": 46792838,
|
| 374 |
+
"tokens": 46792838,
|
| 375 |
+
"mode": "hardlink"
|
| 376 |
+
},
|
| 377 |
+
{
|
| 378 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00053.bin",
|
| 379 |
+
"output": "data/tokenized-v2-cpt-3b/base/00053-train-00053.bin",
|
| 380 |
+
"source_tokens": 46865357,
|
| 381 |
+
"tokens": 46865357,
|
| 382 |
+
"mode": "hardlink"
|
| 383 |
+
},
|
| 384 |
+
{
|
| 385 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00054.bin",
|
| 386 |
+
"output": "data/tokenized-v2-cpt-3b/base/00054-train-00054.bin",
|
| 387 |
+
"source_tokens": 46555844,
|
| 388 |
+
"tokens": 46555844,
|
| 389 |
+
"mode": "hardlink"
|
| 390 |
+
},
|
| 391 |
+
{
|
| 392 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00055.bin",
|
| 393 |
+
"output": "data/tokenized-v2-cpt-3b/base/00055-train-00055.bin",
|
| 394 |
+
"source_tokens": 46714350,
|
| 395 |
+
"tokens": 46714350,
|
| 396 |
+
"mode": "hardlink"
|
| 397 |
+
},
|
| 398 |
+
{
|
| 399 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00056.bin",
|
| 400 |
+
"output": "data/tokenized-v2-cpt-3b/base/00056-train-00056.bin",
|
| 401 |
+
"source_tokens": 47152397,
|
| 402 |
+
"tokens": 47152397,
|
| 403 |
+
"mode": "hardlink"
|
| 404 |
+
},
|
| 405 |
+
{
|
| 406 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00057.bin",
|
| 407 |
+
"output": "data/tokenized-v2-cpt-3b/base/00057-train-00057.bin",
|
| 408 |
+
"source_tokens": 46985274,
|
| 409 |
+
"tokens": 46985274,
|
| 410 |
+
"mode": "hardlink"
|
| 411 |
+
},
|
| 412 |
+
{
|
| 413 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00058.bin",
|
| 414 |
+
"output": "data/tokenized-v2-cpt-3b/base/00058-train-00058.bin",
|
| 415 |
+
"source_tokens": 47225603,
|
| 416 |
+
"tokens": 47225603,
|
| 417 |
+
"mode": "hardlink"
|
| 418 |
+
},
|
| 419 |
+
{
|
| 420 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00059.bin",
|
| 421 |
+
"output": "data/tokenized-v2-cpt-3b/base/00059-train-00059.bin",
|
| 422 |
+
"source_tokens": 47730398,
|
| 423 |
+
"tokens": 47730398,
|
| 424 |
+
"mode": "hardlink"
|
| 425 |
+
},
|
| 426 |
+
{
|
| 427 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00060.bin",
|
| 428 |
+
"output": "data/tokenized-v2-cpt-3b/base/00060-train-00060.bin",
|
| 429 |
+
"source_tokens": 47124339,
|
| 430 |
+
"tokens": 47124339,
|
| 431 |
+
"mode": "hardlink"
|
| 432 |
+
},
|
| 433 |
+
{
|
| 434 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00061.bin",
|
| 435 |
+
"output": "data/tokenized-v2-cpt-3b/base/00061-train-00061.bin",
|
| 436 |
+
"source_tokens": 47075904,
|
| 437 |
+
"tokens": 47075904,
|
| 438 |
+
"mode": "hardlink"
|
| 439 |
+
},
|
| 440 |
+
{
|
| 441 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-20b/initial/train-00062.bin",
|
| 442 |
+
"output": "data/tokenized-v2-cpt-3b/base/00062-train-00062-partial.bin",
|
| 443 |
+
"source_tokens": 47058332,
|
| 444 |
+
"tokens": 39636670,
|
| 445 |
+
"mode": "prefix-copy"
|
| 446 |
+
}
|
| 447 |
+
]
|
| 448 |
+
},
|
| 449 |
+
"structured": {
|
| 450 |
+
"tokens": 100000000,
|
| 451 |
+
"files": [
|
| 452 |
+
{
|
| 453 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-cpt-structured-v2/chat/tokens-00000.bin",
|
| 454 |
+
"output": "data/tokenized-v2-cpt-3b/structured/00000-tokens-00000.bin",
|
| 455 |
+
"source_tokens": 25044476,
|
| 456 |
+
"tokens": 25044476,
|
| 457 |
+
"mode": "hardlink"
|
| 458 |
+
},
|
| 459 |
+
{
|
| 460 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-cpt-structured-v2/chat/tokens-00001.bin",
|
| 461 |
+
"output": "data/tokenized-v2-cpt-3b/structured/00001-tokens-00001.bin",
|
| 462 |
+
"source_tokens": 24955524,
|
| 463 |
+
"tokens": 24955524,
|
| 464 |
+
"mode": "hardlink"
|
| 465 |
+
},
|
| 466 |
+
{
|
| 467 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-cpt-structured-v2/rag/tokens-00000.bin",
|
| 468 |
+
"output": "data/tokenized-v2-cpt-3b/structured/00002-tokens-00000.bin",
|
| 469 |
+
"source_tokens": 25199001,
|
| 470 |
+
"tokens": 25199001,
|
| 471 |
+
"mode": "hardlink"
|
| 472 |
+
},
|
| 473 |
+
{
|
| 474 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2-cpt-structured-v2/rag/tokens-00001.bin",
|
| 475 |
+
"output": "data/tokenized-v2-cpt-3b/structured/00003-tokens-00001.bin",
|
| 476 |
+
"source_tokens": 24800999,
|
| 477 |
+
"tokens": 24800999,
|
| 478 |
+
"mode": "hardlink"
|
| 479 |
+
}
|
| 480 |
+
]
|
| 481 |
+
},
|
| 482 |
+
"validation": {
|
| 483 |
+
"source": "/workspace/KAWK50M/data/tokenized-v2b-100m/validation.bin",
|
| 484 |
+
"output": "data/tokenized-v2-cpt-3b/validation.bin",
|
| 485 |
+
"tokens": 2000000,
|
| 486 |
+
"mode": "hardlink"
|
| 487 |
+
},
|
| 488 |
+
"total_train_tokens": 3000000000
|
| 489 |
+
}
|
tokenized-v2-stream-smoke/state.json
ADDED
|
@@ -0,0 +1,60 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset": "HuggingFaceFW/fineweb-2",
|
| 3 |
+
"subset": "kor_Hang",
|
| 4 |
+
"split": "train",
|
| 5 |
+
"revision": "af9c13333eb981300149d5ca60a8e9d659b276b9",
|
| 6 |
+
"license": "ODC-By-1.0; subject to CommonCrawl Terms of Use",
|
| 7 |
+
"dataset_num_shards": 4,
|
| 8 |
+
"dataset_shard_index": 0,
|
| 9 |
+
"skip_documents": 1625000,
|
| 10 |
+
"seed": 42,
|
| 11 |
+
"shuffle_buffer": 10000,
|
| 12 |
+
"max_output_tokens": 100000,
|
| 13 |
+
"tokens_per_chunk": 50000,
|
| 14 |
+
"tokenizer": "/workspace/KAWK50M/artifacts/tokenizer-20k-v3",
|
| 15 |
+
"tokenizer_vocab_size": 20000,
|
| 16 |
+
"filter": {
|
| 17 |
+
"min_chars": 300,
|
| 18 |
+
"max_chars": 100000,
|
| 19 |
+
"min_hangul_chars": 50,
|
| 20 |
+
"min_hangul_letter_ratio": 0.7,
|
| 21 |
+
"min_hangul_visible_ratio": 0.55,
|
| 22 |
+
"max_digit_ratio": 0.08,
|
| 23 |
+
"max_symbol_ratio": 0.15,
|
| 24 |
+
"max_url_per_word": 0.01,
|
| 25 |
+
"min_unique_line_ratio": 0.7,
|
| 26 |
+
"min_unique_word_ratio": 0.2,
|
| 27 |
+
"max_short_line_ratio": 0.5,
|
| 28 |
+
"max_list_line_ratio": 0.25,
|
| 29 |
+
"max_table_line_ratio": 0.1,
|
| 30 |
+
"max_boilerplate_hits_per_1k": 1.5,
|
| 31 |
+
"max_repeated_character_run": 20,
|
| 32 |
+
"max_code_line_ratio": 0.25,
|
| 33 |
+
"max_code_math_char_ratio": 0.15,
|
| 34 |
+
"min_quality_score": 0.7,
|
| 35 |
+
"strip_html": true,
|
| 36 |
+
"mask_pii": true
|
| 37 |
+
},
|
| 38 |
+
"upstream_deduplication": "FineWeb2 global MinHash deduplication",
|
| 39 |
+
"documents_seen": 384,
|
| 40 |
+
"tokens_written": 100000,
|
| 41 |
+
"completed_chunks": 2,
|
| 42 |
+
"current_chunk_tokens": 0,
|
| 43 |
+
"counts": {
|
| 44 |
+
"accepted": 159,
|
| 45 |
+
"rejected_boilerplate_heavy": 9,
|
| 46 |
+
"rejected_digit_heavy": 20,
|
| 47 |
+
"rejected_list_heavy": 25,
|
| 48 |
+
"rejected_low_hangul_letter_ratio": 42,
|
| 49 |
+
"rejected_low_hangul_visible_ratio": 1,
|
| 50 |
+
"rejected_repeated_character_run": 2,
|
| 51 |
+
"rejected_repeated_lines": 2,
|
| 52 |
+
"rejected_short_line_heavy": 44,
|
| 53 |
+
"rejected_symbol_heavy": 2,
|
| 54 |
+
"rejected_table_heavy": 10,
|
| 55 |
+
"rejected_too_many_urls": 3,
|
| 56 |
+
"rejected_too_short": 65,
|
| 57 |
+
"seen": 384
|
| 58 |
+
},
|
| 59 |
+
"complete": true
|
| 60 |
+
}
|
tokenized-v2-stream-smoke2/state.json
ADDED
|
@@ -0,0 +1,60 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset": "HuggingFaceFW/fineweb-2",
|
| 3 |
+
"subset": "kor_Hang",
|
| 4 |
+
"split": "train",
|
| 5 |
+
"revision": "af9c13333eb981300149d5ca60a8e9d659b276b9",
|
| 6 |
+
"license": "ODC-By-1.0; subject to CommonCrawl Terms of Use",
|
| 7 |
+
"dataset_num_shards": 4,
|
| 8 |
+
"dataset_shard_index": 0,
|
| 9 |
+
"skip_documents": 1625000,
|
| 10 |
+
"seed": 42,
|
| 11 |
+
"shuffle_buffer": 10000,
|
| 12 |
+
"max_output_tokens": 100000,
|
| 13 |
+
"tokens_per_chunk": 50000,
|
| 14 |
+
"tokenizer": "/workspace/KAWK50M/artifacts/tokenizer-20k-v3",
|
| 15 |
+
"tokenizer_vocab_size": 20000,
|
| 16 |
+
"filter": {
|
| 17 |
+
"min_chars": 300,
|
| 18 |
+
"max_chars": 100000,
|
| 19 |
+
"min_hangul_chars": 50,
|
| 20 |
+
"min_hangul_letter_ratio": 0.7,
|
| 21 |
+
"min_hangul_visible_ratio": 0.55,
|
| 22 |
+
"max_digit_ratio": 0.08,
|
| 23 |
+
"max_symbol_ratio": 0.15,
|
| 24 |
+
"max_url_per_word": 0.01,
|
| 25 |
+
"min_unique_line_ratio": 0.7,
|
| 26 |
+
"min_unique_word_ratio": 0.2,
|
| 27 |
+
"max_short_line_ratio": 0.5,
|
| 28 |
+
"max_list_line_ratio": 0.25,
|
| 29 |
+
"max_table_line_ratio": 0.1,
|
| 30 |
+
"max_boilerplate_hits_per_1k": 1.5,
|
| 31 |
+
"max_repeated_character_run": 20,
|
| 32 |
+
"max_code_line_ratio": 0.25,
|
| 33 |
+
"max_code_math_char_ratio": 0.15,
|
| 34 |
+
"min_quality_score": 0.7,
|
| 35 |
+
"strip_html": true,
|
| 36 |
+
"mask_pii": true
|
| 37 |
+
},
|
| 38 |
+
"upstream_deduplication": "FineWeb2 global MinHash deduplication",
|
| 39 |
+
"documents_seen": 384,
|
| 40 |
+
"tokens_written": 100000,
|
| 41 |
+
"completed_chunks": 2,
|
| 42 |
+
"current_chunk_tokens": 0,
|
| 43 |
+
"counts": {
|
| 44 |
+
"accepted": 159,
|
| 45 |
+
"rejected_boilerplate_heavy": 9,
|
| 46 |
+
"rejected_digit_heavy": 20,
|
| 47 |
+
"rejected_list_heavy": 25,
|
| 48 |
+
"rejected_low_hangul_letter_ratio": 42,
|
| 49 |
+
"rejected_low_hangul_visible_ratio": 1,
|
| 50 |
+
"rejected_repeated_character_run": 2,
|
| 51 |
+
"rejected_repeated_lines": 2,
|
| 52 |
+
"rejected_short_line_heavy": 44,
|
| 53 |
+
"rejected_symbol_heavy": 2,
|
| 54 |
+
"rejected_table_heavy": 10,
|
| 55 |
+
"rejected_too_many_urls": 3,
|
| 56 |
+
"rejected_too_short": 65,
|
| 57 |
+
"seen": 384
|
| 58 |
+
},
|
| 59 |
+
"complete": true
|
| 60 |
+
}
|
tokenized-v2-stream-smoke3/state.json
ADDED
|
@@ -0,0 +1,60 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset": "HuggingFaceFW/fineweb-2",
|
| 3 |
+
"subset": "kor_Hang",
|
| 4 |
+
"split": "train",
|
| 5 |
+
"revision": "af9c13333eb981300149d5ca60a8e9d659b276b9",
|
| 6 |
+
"license": "ODC-By-1.0; subject to CommonCrawl Terms of Use",
|
| 7 |
+
"dataset_num_shards": 4,
|
| 8 |
+
"dataset_shard_index": 0,
|
| 9 |
+
"skip_documents": 1625000,
|
| 10 |
+
"seed": 42,
|
| 11 |
+
"shuffle_buffer": 10000,
|
| 12 |
+
"max_output_tokens": 100000,
|
| 13 |
+
"tokens_per_chunk": 50000,
|
| 14 |
+
"tokenizer": "/workspace/KAWK50M/artifacts/tokenizer-20k-v3",
|
| 15 |
+
"tokenizer_vocab_size": 20000,
|
| 16 |
+
"filter": {
|
| 17 |
+
"min_chars": 300,
|
| 18 |
+
"max_chars": 100000,
|
| 19 |
+
"min_hangul_chars": 50,
|
| 20 |
+
"min_hangul_letter_ratio": 0.7,
|
| 21 |
+
"min_hangul_visible_ratio": 0.55,
|
| 22 |
+
"max_digit_ratio": 0.08,
|
| 23 |
+
"max_symbol_ratio": 0.15,
|
| 24 |
+
"max_url_per_word": 0.01,
|
| 25 |
+
"min_unique_line_ratio": 0.7,
|
| 26 |
+
"min_unique_word_ratio": 0.2,
|
| 27 |
+
"max_short_line_ratio": 0.5,
|
| 28 |
+
"max_list_line_ratio": 0.25,
|
| 29 |
+
"max_table_line_ratio": 0.1,
|
| 30 |
+
"max_boilerplate_hits_per_1k": 1.5,
|
| 31 |
+
"max_repeated_character_run": 20,
|
| 32 |
+
"max_code_line_ratio": 0.25,
|
| 33 |
+
"max_code_math_char_ratio": 0.15,
|
| 34 |
+
"min_quality_score": 0.7,
|
| 35 |
+
"strip_html": true,
|
| 36 |
+
"mask_pii": true
|
| 37 |
+
},
|
| 38 |
+
"upstream_deduplication": "FineWeb2 global MinHash deduplication",
|
| 39 |
+
"documents_seen": 384,
|
| 40 |
+
"tokens_written": 100000,
|
| 41 |
+
"completed_chunks": 2,
|
| 42 |
+
"current_chunk_tokens": 0,
|
| 43 |
+
"counts": {
|
| 44 |
+
"accepted": 159,
|
| 45 |
+
"rejected_boilerplate_heavy": 9,
|
| 46 |
+
"rejected_digit_heavy": 20,
|
| 47 |
+
"rejected_list_heavy": 25,
|
| 48 |
+
"rejected_low_hangul_letter_ratio": 42,
|
| 49 |
+
"rejected_low_hangul_visible_ratio": 1,
|
| 50 |
+
"rejected_repeated_character_run": 2,
|
| 51 |
+
"rejected_repeated_lines": 2,
|
| 52 |
+
"rejected_short_line_heavy": 44,
|
| 53 |
+
"rejected_symbol_heavy": 2,
|
| 54 |
+
"rejected_table_heavy": 10,
|
| 55 |
+
"rejected_too_many_urls": 3,
|
| 56 |
+
"rejected_too_short": 65,
|
| 57 |
+
"seen": 384
|
| 58 |
+
},
|
| 59 |
+
"complete": true
|
| 60 |
+
}
|
tokenized-v2-stream-smoke4/state.json
ADDED
|
@@ -0,0 +1,60 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset": "HuggingFaceFW/fineweb-2",
|
| 3 |
+
"subset": "kor_Hang",
|
| 4 |
+
"split": "train",
|
| 5 |
+
"revision": "af9c13333eb981300149d5ca60a8e9d659b276b9",
|
| 6 |
+
"license": "ODC-By-1.0; subject to CommonCrawl Terms of Use",
|
| 7 |
+
"dataset_num_shards": 4,
|
| 8 |
+
"dataset_shard_index": 0,
|
| 9 |
+
"skip_documents": 1625000,
|
| 10 |
+
"seed": 42,
|
| 11 |
+
"shuffle_buffer": 10000,
|
| 12 |
+
"max_output_tokens": 100000,
|
| 13 |
+
"tokens_per_chunk": 50000,
|
| 14 |
+
"tokenizer": "/workspace/KAWK50M/artifacts/tokenizer-20k-v3",
|
| 15 |
+
"tokenizer_vocab_size": 20000,
|
| 16 |
+
"filter": {
|
| 17 |
+
"min_chars": 300,
|
| 18 |
+
"max_chars": 100000,
|
| 19 |
+
"min_hangul_chars": 50,
|
| 20 |
+
"min_hangul_letter_ratio": 0.7,
|
| 21 |
+
"min_hangul_visible_ratio": 0.55,
|
| 22 |
+
"max_digit_ratio": 0.08,
|
| 23 |
+
"max_symbol_ratio": 0.15,
|
| 24 |
+
"max_url_per_word": 0.01,
|
| 25 |
+
"min_unique_line_ratio": 0.7,
|
| 26 |
+
"min_unique_word_ratio": 0.2,
|
| 27 |
+
"max_short_line_ratio": 0.5,
|
| 28 |
+
"max_list_line_ratio": 0.25,
|
| 29 |
+
"max_table_line_ratio": 0.1,
|
| 30 |
+
"max_boilerplate_hits_per_1k": 1.5,
|
| 31 |
+
"max_repeated_character_run": 20,
|
| 32 |
+
"max_code_line_ratio": 0.25,
|
| 33 |
+
"max_code_math_char_ratio": 0.15,
|
| 34 |
+
"min_quality_score": 0.7,
|
| 35 |
+
"strip_html": true,
|
| 36 |
+
"mask_pii": true
|
| 37 |
+
},
|
| 38 |
+
"upstream_deduplication": "FineWeb2 global MinHash deduplication",
|
| 39 |
+
"documents_seen": 384,
|
| 40 |
+
"tokens_written": 100000,
|
| 41 |
+
"completed_chunks": 2,
|
| 42 |
+
"current_chunk_tokens": 0,
|
| 43 |
+
"counts": {
|
| 44 |
+
"accepted": 159,
|
| 45 |
+
"rejected_boilerplate_heavy": 9,
|
| 46 |
+
"rejected_digit_heavy": 20,
|
| 47 |
+
"rejected_list_heavy": 25,
|
| 48 |
+
"rejected_low_hangul_letter_ratio": 42,
|
| 49 |
+
"rejected_low_hangul_visible_ratio": 1,
|
| 50 |
+
"rejected_repeated_character_run": 2,
|
| 51 |
+
"rejected_repeated_lines": 2,
|
| 52 |
+
"rejected_short_line_heavy": 44,
|
| 53 |
+
"rejected_symbol_heavy": 2,
|
| 54 |
+
"rejected_table_heavy": 10,
|
| 55 |
+
"rejected_too_many_urls": 3,
|
| 56 |
+
"rejected_too_short": 65,
|
| 57 |
+
"seen": 384
|
| 58 |
+
},
|
| 59 |
+
"complete": true
|
| 60 |
+
}
|
tokenized-v2b-100m/metadata.json
ADDED
|
@@ -0,0 +1,37 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"tokenizer": "/workspace/KAWK50M/artifacts/tokenizer-20k-v3",
|
| 3 |
+
"vocab_size": 20000,
|
| 4 |
+
"eos_token_id": 2,
|
| 5 |
+
"splits": {
|
| 6 |
+
"train": {
|
| 7 |
+
"split": "train",
|
| 8 |
+
"output": "data/tokenized-v2b-100m/train.bin",
|
| 9 |
+
"input_files": 69,
|
| 10 |
+
"documents_seen": 108160,
|
| 11 |
+
"documents_written": 108116,
|
| 12 |
+
"tokens": 100000000,
|
| 13 |
+
"bytes": 200000000,
|
| 14 |
+
"dtype": "uint16"
|
| 15 |
+
},
|
| 16 |
+
"validation": {
|
| 17 |
+
"split": "validation",
|
| 18 |
+
"output": "data/tokenized-v2b-100m/validation.bin",
|
| 19 |
+
"input_files": 1,
|
| 20 |
+
"documents_seen": 2304,
|
| 21 |
+
"documents_written": 2264,
|
| 22 |
+
"tokens": 2000000,
|
| 23 |
+
"bytes": 4000000,
|
| 24 |
+
"dtype": "uint16"
|
| 25 |
+
},
|
| 26 |
+
"test": {
|
| 27 |
+
"split": "test",
|
| 28 |
+
"output": "data/tokenized-v2b-100m/test.bin",
|
| 29 |
+
"input_files": 1,
|
| 30 |
+
"documents_seen": 1216,
|
| 31 |
+
"documents_written": 1164,
|
| 32 |
+
"tokens": 1000000,
|
| 33 |
+
"bytes": 2000000,
|
| 34 |
+
"dtype": "uint16"
|
| 35 |
+
}
|
| 36 |
+
}
|
| 37 |
+
}
|