Upload folder using huggingface_hub
Browse files- README.md +13 -0
- meta.json +14 -0
- train.jsonl +0 -0
README.md
ADDED
|
@@ -0,0 +1,13 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Testovací data (1B model)
|
| 2 |
+
|
| 3 |
+
Automaticky staženo skriptem `scripts/download_test_data.py`.
|
| 4 |
+
|
| 5 |
+
- **Soubor:** `train.jsonl` (5484 řádků)
|
| 6 |
+
- **Obsah:** programování + čeština + angličtina + němčina + hindština
|
| 7 |
+
- **Formát:** mix Alpaca (instruction/output) a prostý text (`text`)
|
| 8 |
+
|
| 9 |
+
Pipeline detekuje formát; pro jistotu použijte `dataset_format=alpaca`
|
| 10 |
+
(textové řádky mají jen `text` — skript v kontejneru je umí přes text/hf mapování;
|
| 11 |
+
preferujte formát **alpaca** pokud převažují Q&A, nebo **text** pro full pretrain).
|
| 12 |
+
|
| 13 |
+
Pro trénink „od nuly“ i fine-tune je tento soubor výchozí.
|
meta.json
ADDED
|
@@ -0,0 +1,14 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"path": "/home/admin/Dokumenty/llm/data/test_multilang_code/train.jsonl",
|
| 3 |
+
"total": 7984,
|
| 4 |
+
"text_docs": 1979,
|
| 5 |
+
"qa_pairs": 6005,
|
| 6 |
+
"languages": [
|
| 7 |
+
"cs",
|
| 8 |
+
"en",
|
| 9 |
+
"de",
|
| 10 |
+
"hi",
|
| 11 |
+
"code"
|
| 12 |
+
],
|
| 13 |
+
"purpose": "Test corpus for 1B model: coding + CS/EN/DE/HI"
|
| 14 |
+
}
|
train.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|