--- language: - ru - en license: apache-2.0 task_categories: - text-generation tags: - code - python - synthetic - compiler-verified - instruction-tuning - unsloth size_categories: - n<1K --- # πŸ€– Stray Python Verified Dataset [English](#english) | [Русский](#русский) --- ## English ### Overview **Stray Python Verified** is a high-purity synthetic dataset designed for instruction-tuning and fine-tuning lightweight code LLMs (e.g., Qwen 2.5 Coder 0.5B/1.5B/3B, Gemma 2/3, Llama 3.2). Each sample in this dataset was generated using a **Dual-AI pipeline** and subjected to a strict **3-stage automated compiler and sandbox verification** before being accepted: 1. **AST Parsing (`ast.parse`)**: Verifies syntactic accuracy and structural integrity. 2. **Bytecode Compilation (`compile`)**: Validates CPython bytecode generation. 3. **Execution Sandbox (`subprocess.run`)**: Verifies runtime behavior and filters out hanging loops (`timeout > 3s`) and runtime exceptions. ### Dataset Format The dataset is formatted in standard **ChatML (`messages`)** format: ```json { "messages": [ {"role": "system", "content": "Π’Ρ‹ ΠΎΠΏΡ‹Ρ‚Π½Ρ‹ΠΉ Python Ρ€Π°Π·Ρ€Π°Π±ΠΎΡ‚Ρ‡ΠΈΠΊ..."}, {"role": "user", "content": ""}, {"role": "assistant", "content": "```python\n\n```"} ] } ``` ### ⚠️ Disclaimer & Limitations * This dataset was **synthetically generated by AI models** and filtered automatically through code compilers and execution sandboxes. * While the code is guaranteed to be syntactically valid and non-crashing in basic environments, **some subtle logical oversights, edge-case limitations, or imperfect implementations may still be present**. * Intended primarily for research, distillation, and fine-tuning experiments. --- ## Русский ### ОписаниС **Stray Python Verified** β€” это ΠΎΡ‡ΠΈΡ‰Π΅Π½Π½Ρ‹ΠΉ синтСтичСский датасСт для дообучСния (SFT / LoRA) ΠΊΠΎΠΌΠΏΠ°ΠΊΡ‚Π½Ρ‹Ρ… языковых ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ ΠΏΠΎ ΠΏΡ€ΠΎΠ³Ρ€Π°ΠΌΠΌΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡŽ Π½Π° Python (Qwen 2.5 Coder, Gemma, Llama). ΠšΠ°ΠΆΠ΄Ρ‹ΠΉ ΠΏΡ€ΠΈΠΌΠ΅Ρ€ создан Π΄Π²ΡƒΡ…-Π°Π³Π΅Π½Ρ‚Π½ΠΎΠΉ Ρ„Π°Π±Ρ€ΠΈΠΊΠΎΠΉ (**Dual-AI**) ΠΈ ΠΏΡ€ΠΎΡˆΡ‘Π» автоматичСский **3-ступСнчатый Ρ„ΠΈΠ»ΡŒΡ‚Ρ€ компилятора ΠΈ Ρ€Π°Π½Ρ‚Π°ΠΉΠΌ-пСсочницы**: 1. **AST-валидация**: отсСкаСт синтаксичСскиС ошибки, ΠΊΡ€ΠΈΠ²Ρ‹Π΅ отступы ΠΈ Π½Π΅Π·Π°ΠΊΡ€Ρ‹Ρ‚Ρ‹Π΅ скобки. 2. **ΠšΠΎΠΌΠΏΠΈΠ»ΡΡ†ΠΈΡ Π±Π°ΠΉΡ‚ΠΊΠΎΠ΄Π°**: Π³Π°Ρ€Π°Π½Ρ‚ΠΈΡ€ΡƒΠ΅Ρ‚ ΠΊΠΎΡ€Ρ€Π΅ΠΊΡ‚Π½ΠΎΡΡ‚ΡŒ Π²Π½ΡƒΡ‚Ρ€Π΅Π½Π½Π΅ΠΉ структуры Python C-Π±Π°ΠΉΡ‚ΠΊΠΎΠ΄Π°. 3. **Π˜Π·ΠΎΠ»ΠΈΡ€ΠΎΠ²Π°Π½Π½Ρ‹ΠΉ запуск**: ΠΎΡ‚Π»Π°Π²Π»ΠΈΠ²Π°Π΅Ρ‚ Π·Π°Π²ΠΈΡΠ°ΡŽΡ‰ΠΈΠ΅ Ρ†ΠΈΠΊΠ»Ρ‹ (`timeout > 3s`) ΠΈ Ρ€Π°Π½Ρ‚Π°ΠΉΠΌ-падСния. ### Π€ΠΎΡ€ΠΌΠ°Ρ‚ Π΄Π°Π½Π½Ρ‹Ρ… Π”Π°Π½Π½Ρ‹Π΅ ΡƒΠΏΠ°ΠΊΠΎΠ²Π°Π½Ρ‹ Π² стандартный Ρ„ΠΎΡ€ΠΌΠ°Ρ‚ **ChatML (`messages`)**, ΠΏΠΎΠ»Π½ΠΎΡΡ‚ΡŒΡŽ Π³ΠΎΡ‚ΠΎΠ²Ρ‹ΠΉ для обучСния Ρ‡Π΅Ρ€Π΅Π· **Unsloth, TRL, SFTTrainer** ΠΈ Hugging Face: * `system`: инструкция для Ρ€ΠΎΠ»ΠΈ Ρ€Π°Π·Ρ€Π°Π±ΠΎΡ‚Ρ‡ΠΈΠΊΠ°. * `user`: условиС Π·Π°Π΄Π°Ρ‡ΠΈ ΠΏΠΎ Python. * `assistant`: протСстированный Ρ€Π°Π±ΠΎΡ‡ΠΈΠΉ Π±Π»ΠΎΠΊ ΠΊΠΎΠ΄Π°. ### ⚠️ ΠŸΡ€Π΅Π΄ΡƒΠΏΡ€Π΅ΠΆΠ΄Π΅Π½ΠΈΠ΅ ΠΈ ограничСния * ДатасСт **сгСнСрирован искусствСнным ΠΈΠ½Ρ‚Π΅Π»Π»Π΅ΠΊΡ‚ΠΎΠΌ** ΠΈ ΠΏΡ€ΠΎΠ²Π΅Ρ€Π΅Π½ компилятором. * НСсмотря Π½Π° Π°Π²Ρ‚ΠΎΠΌΠ°Ρ‚ΠΈΡ‡Π΅ΡΠΊΡƒΡŽ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΡƒ синтаксиса ΠΈ выполнСния, **Π² ΠΊΠΎΠ΄Π΅ ΠΌΠΎΠ³ΡƒΡ‚ ΠΏΡ€ΠΈΡΡƒΡ‚ΡΡ‚Π²ΠΎΠ²Π°Ρ‚ΡŒ логичСскиС Π½Π΅Π΄ΠΎΡ‡Ρ‘Ρ‚Ρ‹, ΡˆΠ΅Ρ€ΠΎΡ…ΠΎΠ²Π°Ρ‚ΠΎΡΡ‚ΠΈ ΠΈΠ»ΠΈ Π½Π΅ΠΎΠΏΡ‚ΠΈΠΌΠ°Π»ΡŒΠ½Ρ‹Π΅ ΠΊΡ€Π°Π΅Π²Ρ‹Π΅ случаи**. * Π‘ΠΎΠ·Π΄Π°Π½ для ΠΈΡΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΡΠΊΠΈΡ… Ρ†Π΅Π»Π΅ΠΉ, экспСримСнтов ΠΏΠΎ дистилляции Π·Π½Π°Π½ΠΈΠΉ ΠΈ Π΄ΠΎΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΡŽ лСгковСсных ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ. --- **Author / Π‘ΠΎΠ·Π΄Π°Ρ‚Π΅Π»ΡŒ:** [Stray2024](https://huggingface.co/Stray2024) **Current Samples / ВсСго сэмплов:** 187