Instructions to use void0x14/echo with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use void0x14/echo with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf void0x14/echo:Q4_K_M # Run inference directly in the terminal: llama cli -hf void0x14/echo:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf void0x14/echo:Q4_K_M # Run inference directly in the terminal: llama cli -hf void0x14/echo:Q4_K_M
Use pre-built binary
# Download pre-built binary from: # https://github.com/ggerganov/llama.cpp/releases # Start a local OpenAI-compatible server with a web UI: ./llama-server -hf void0x14/echo:Q4_K_M # Run inference directly in the terminal: ./llama-cli -hf void0x14/echo:Q4_K_M
Build from source code
git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-server llama-cli # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama-server -hf void0x14/echo:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama-cli -hf void0x14/echo:Q4_K_M
Use Docker
docker model run hf.co/void0x14/echo:Q4_K_M
- LM Studio
- Jan
- Ollama
How to use void0x14/echo with Ollama:
ollama run hf.co/void0x14/echo:Q4_K_M
- Unsloth Desktop
- Pi
How to use void0x14/echo with Pi:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf void0x14/echo:Q4_K_M
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "llama-cpp": { "baseUrl": "http://localhost:8080/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "void0x14/echo:Q4_K_M" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Docker Model Runner
How to use void0x14/echo with Docker Model Runner:
docker model run hf.co/void0x14/echo:Q4_K_M
- Lemonade
How to use void0x14/echo with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull void0x14/echo:Q4_K_M
Run and chat with the model
lemonade run user.echo-Q4_K_M
List all available models
lemonade list
- Hermes Agent
How to use void0x14/echo with Hermes Agent:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf void0x14/echo:Q4_K_M
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:8080/v1 hermes config set model.default void0x14/echo:Q4_K_M
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use void0x14/echo with OpenClaw:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf void0x14/echo:Q4_K_M
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:8080/v1 \ --custom-model-id "void0x14/echo:Q4_K_M" \ --custom-provider-id llama-cpp \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
Download MVP/BASIT_ANLATIM.md from void0x14/echo: direct link, hf CLI and curl.
- Browser
- Download file 3.52 kB
-
https://huggingface.co/void0x14/echo/resolve/main/MVP/BASIT_ANLATIM.md
- Command line
-
hf download hf://void0x14/echo/MVP/BASIT_ANLATIM.md
-
curl -L -o BASIT_ANLATIM.md https://huggingface.co/void0x14/echo/resolve/main/MVP/BASIT_ANLATIM.md
BU MODEL NE, ÇOCUKLAR İÇİN ANLATIM
Merhaba! Sana bilgisayardaki modelimizi anlatıyorum. Sorularını düşünüp cevap yazan bu programa yapay zekâ denir. İçindeki "beyin"e de model deriz.
1. Model nedir?
Model, bir dev ödev defteri gibi. İçinde binlerce sayfa hesap var. Bu hesaplar ona "kelimeler nasıl yan yana gelir" diye öğretiyor.
- Bize bir soru sorulduğunda model, defterindeki hesaplarla en uygun kelimeyi seçer.
- Her seçtiği kelime, bir sonraki kelimeyi seçmesine yardım eder. Böylece cevap cümleleri oluşur.
- Bu modele "Qwen3.5" denen, Çin'de kurulmuş bir ailenin çocuğu diyebiliriz. Biz onu alıp sadeleştirdik (küçülttük), çünkü senin bilgisayarın eski ama yine de hızlı çalışsın istedik.
2. Parametre ne demek?
Parametre, modelin defterindeki küçük ayar düğmesi gibidir. Milyonlarca düğme var:
- Her düğmede "şu kelime gelirse, bunu birazcık daha fazla bekle" gibi küçük bir bilgi saklanır.
- Düğme sayısı ne kadar çoksa model o kadar "akıllı" olur ama o kadar yavaş çalışır.
- Bizim modelde 337 milyon düğme var. Bu, 337.000.000 demek! Çok büyük bir sayı ama bu model için normal.
3. Görsel (vision) nedir? Neden önemli?
"Vision" İngilizce görme demek.
- Bazı modeller sadece yazı okur (buna "sadece yazı" deriz). Tıpkı gözü kapalı birinin kitap dinlemesi gibi.
- Ama bizim model gözleri olan bir model! Ona bir resim gösterip "Bu resimde ne var?" diye sorabilirsin.
- Model resmi küçük kutucuklara böler (tıpkı legolar gibi), her kutucuğa bakar, sonra hepsini birleştirip cevap verir.
- Önceki hâlimizde gözler kaybolmuştu; biz onları geri taktık. Test ettik ve gözleri çalışıyor!
4. Dosyalar ne işe yarıyor?
Model, bilgisayarında bir klasörün içinde duruyor:
| Dosya | Ne işe yarar? |
|---|---|
model.safetensors |
Modelin beyni. Bütün düğmeler burada. (En büyük dosya) |
config.json |
Beynin kullanım kılavuzu: kaç katman var, kaç göz var. |
tokenizer.json |
Kelimeleri sayılara çeviren sözlük. Model sadece sayılarla düşünür. |
preprocessor_config.json |
Resmi modelin anlayacağı şekle hazırlayan tarif. |
Dosyalar bir arada olmazsa model çalışmaz — tıpkı oyun hamurunun kutusu, hamuru ve kalıbı gibi, hepsi lazım.
5. Bilgisayarıma sığar mı?
Modelin beyni 2.5 gigabyte yer kaplıyor (bir film gibi). Ama endişelenme — çalışırken hepsini aynı anda kullanmıyoruz:
- Kullandığımız sıkıştırılmış hâli ~700MB civarında.
- Senin bilgisayarında 15 gigabyte hafıza var, yani rahatça sığar.
- Bilgisayarın eski ama bu model onun için özel olarak küçültüldü, o yüzden yine de cevap verebilir.
6. Modelimiz ne kadar güçlü?
Ölçtük (tahmin değil, gerçek deneme):
- Bir soruya cevap üretirken saniyede ~200 kelime üretebiliyor.
- Sıkıştırılmış hâli hem hızlı hem de küçük.
- Gözleri olan hâli biraz daha yavaş çalışır çünkü resme de bakıyor — ama olsun, görmek güzel!
7. Nasıl çalıştırırız?
- Bilgisayarı aç
- Modeli yükle (birkaç dakika sürer, beyni okur)
- Ona ya bir soru yaz ya bir resim göster
- Cevabı bekle — cevap kelime kelime oluşur
Özet: Elimizde gözleri olan, Türkçe bilen, küçük ve hızlı bir model var. Resimlere bakabiliyor, sorulara cevap veriyor ve senin bilgisayarına sığıyor. Hepsi bu kadar!