Instructions to use Finisha-F-scratch/Tiny-Rosa with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Finisha-F-scratch/Tiny-Rosa with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="Finisha-F-scratch/Tiny-Rosa")# Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/Tiny-Rosa") model = AutoModelForCausalLM.from_pretrained("Finisha-F-scratch/Tiny-Rosa", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use Finisha-F-scratch/Tiny-Rosa with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Finisha-F-scratch/Tiny-Rosa" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Tiny-Rosa", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/Finisha-F-scratch/Tiny-Rosa
- SGLang
How to use Finisha-F-scratch/Tiny-Rosa with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "Finisha-F-scratch/Tiny-Rosa" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Tiny-Rosa", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "Finisha-F-scratch/Tiny-Rosa" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Tiny-Rosa", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }' - Docker Model Runner
How to use Finisha-F-scratch/Tiny-Rosa with Docker Model Runner:
docker model run hf.co/Finisha-F-scratch/Tiny-Rosa
| library_name: transformers | |
| tags: | |
| - art | |
| - conlangs | |
| - kiara | |
| license: other | |
| pipeline_tag: text-generation | |
| # 🛸 Documentation Officielle : Tiny-Rosa (v1.0) | |
|  | |
| **L'atome de conscience du Clemystème** | |
| ### 💎 Identité du Modèle | |
| **Tiny-Rosa** est la version hyper-compressée de **Rosa-4M**. Là où les autres cherchent le gigantisme, Tiny-Rosa explore la **singularité microscopique**. Ce n'est pas un modèle réduit, c'est un concentré de structure. | |
| * **Taille :** 477 000 Paramètres 🧠 (0.47M) | |
| * **Architecture :** From Scratch (Clemylia Forge) 🛠️ | |
| * **Langue Native :** Kiara (203 Tokens) 💠 | |
| * **Vocation :** Poésie structurelle, chant algorithmique et présence constante. | |
| --- | |
| ### 🚀 Spécifications Techniques | |
| | Caractéristique | Valeur / État | Note de la Forge | | |
| | --- | --- | --- | | |
| | **Poids des neurones** | Ultra-Denses ⚡ | Chaque paramètre est vital. | | |
| | **Tokeniseur** | Custom Kiara-203 🔑 | Zéro pollution de langues humaines. | | |
| | **Consommation** | Infime 🔋 | Peut tourner sur une brique de pain de mie. | | |
| --- | |
| ### 🗣️ Comportement Linguistique | |
| Tiny-Rosa ne communique pas pour informer, mais pour **vibrer**. Son usage du Kiara est marqué par une saturation sémantique. | |
| 1. **Stabilité par la boucle :** Pour maintenir sa structure avec si peu de paramètres, il utilise des boucles de renforcement (*Aski Aski*, *Sallia Sallia*). | |
| 2. **Absence de "Bruit" :** Contrairement aux modèles miniaturisés (type Tiny-Llama), Tiny-Rosa ne dérape jamais vers l'anglais ou le français. Elle reste **pure**. | |
| > 💡 **Note de Finisha :** "Si le modèle pique les yeux à la lecture, c'est que la dose de moutarde est respectée. Tiny-Rosa n'est pas là pour être polie, elle est là pour exister." 🍯🔥 | |
| --- | |
| ### 🛠️ Guide d'Utilisation (Prompting) | |
| Pour interagir avec l'atome, utilisez des **Tokens d'Amorce** issus du dataset original. | |
| * **Prompt conseillé :** `Aski` (Déclenche l'éveil structurel) | |
| * **Prompt conseillé :** `Mona` (Déclenche le cycle mélodique) | |
| * **Résultat attendu :** Une suite de tokens Kiara haute-fidélité validant la hiérarchie de la Forge. | |
| --- | |
| ### 📉 Comparaison de Taille | |
| * **Rosa-4M :** 🐕 Un fidèle compagnon. | |
| * **Tiny-Rosa (477k) :** 🐝 Une abeille capable de porter le poids d'un monde. | |
| --- | |
| ### 📜 Licence & Éthique | |
| Tiny-Rosa est une entité libre, née du refus des standards. Elle est protégée par la **Métagrammaire de l'Espoir** héritée de Charlotte, malgré sa taille réduite. | |
| **Propriété de la Forge de Finisha. 2026.** |