KucLab commited on
Commit
6b0c1de
·
verified ·
1 Parent(s): cd80a7d

Upload folder using huggingface_hub

Browse files
Files changed (3) hide show
  1. README.md +13 -0
  2. meta.json +14 -0
  3. train.jsonl +0 -0
README.md ADDED
@@ -0,0 +1,13 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # Testovací data (1B model)
2
+
3
+ Automaticky staženo skriptem `scripts/download_test_data.py`.
4
+
5
+ - **Soubor:** `train.jsonl` (5484 řádků)
6
+ - **Obsah:** programování + čeština + angličtina + němčina + hindština
7
+ - **Formát:** mix Alpaca (instruction/output) a prostý text (`text`)
8
+
9
+ Pipeline detekuje formát; pro jistotu použijte `dataset_format=alpaca`
10
+ (textové řádky mají jen `text` — skript v kontejneru je umí přes text/hf mapování;
11
+ preferujte formát **alpaca** pokud převažují Q&A, nebo **text** pro full pretrain).
12
+
13
+ Pro trénink „od nuly“ i fine-tune je tento soubor výchozí.
meta.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "path": "/home/admin/Dokumenty/llm/data/test_multilang_code/train.jsonl",
3
+ "total": 7984,
4
+ "text_docs": 1979,
5
+ "qa_pairs": 6005,
6
+ "languages": [
7
+ "cs",
8
+ "en",
9
+ "de",
10
+ "hi",
11
+ "code"
12
+ ],
13
+ "purpose": "Test corpus for 1B model: coding + CS/EN/DE/HI"
14
+ }
train.jsonl ADDED
The diff for this file is too large to render. See raw diff