Spaces:
Paused
Paused
Commit History
-
Follow-up z kontekstu szybkim modelem, z limitem na sprawdzenia i z logami
2026-09-19 jeden follow-up ("Make me a quiz from this video") trwal 3 min 48 s. Nic sie nie wysypalo, odpowiedz doszla i zapisala sie w bazie, ale dla uzytkownika wygladalo to jak awaria: najpierw pol minuty samych kropek, potem tekst sacznacy sie przez prawie cztery minuty. Follow-up robi trzy wywolania modelu po kolei: route (czy ogladac jeszcze raz), on_topic (czy pytanie dotyczy filmu) i sama odpowiedz. Wszystkie trzy szly modelem tekstowym Qwen2.5-72B. Samo route, trzy tokeny, uderzylo w 30-sekundowy limit Workera. W tym samym Space, kilka minut wczesniej, Qwen3-VL-30B-A3B napisal pierwsza odpowiedz w 8 s. Zmierzony wprost generuje okolo 4,5 raza szybciej (~450 wobec ~100 znakow/s) i to on pisze kazda analize, wiec glos NINY sie nie zmienia. - CHAT_MODEL = VLM_MODEL dla wszystkich trzech wywolan czatu - oba jednowyrazowe sprawdzenia przez osobnego klienta z limitem 10 s (CHAT_CHECK_TIMEOUT); maja bezpieczne domyslne (answer / on-topic), wiec wolny dostawca nie moze juz trzym…077fd06
-
NINA v0.82 — upload compression, natural multilingual answers, robust precise
Malina +1: Claude Opus 4.8- compress.py + pipeline guard: reject uploads >200 MB, ffmpeg-downscale anything >20 MB to 720p before decode (faster, smaller) - synthesis: detect the prompt language (langdetect + diacritic fallback) and answer in it; natural prose + a final "Sources:" line; auto-sized length - precise re-transcription: loosen logprob gate -0.55 → -0.40 so it actually fires on weak audio; never crash (graceful fallback if the model can't load) - app.py: drop benign ClientDisconnect tracebacks from upload aborts Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>0695bec
-
NINA v0.81 — modular refactor + usage-token gate + 8-vCPU queue
Malina +1: Claude Opus 4.7- Split monolith into app.py + pipeline/audio/auth/cache/config/models/retrieval/ synthesis/utils/visual modules. - auth.verify_usage_token: HMAC (NINA_SIGNING_SECRET) + expiry + single-use; pipeline.run() refuses without a valid Worker-issued token (per-account 10/5h limit enforced server-side; the public Space can't be used directly). - run() takes a 3rd `token` input; Interface queue tuned for ~8 vCPU (concurrency 3, max 40); uploaded-media purge kept (delete_cache 5 min). Co-Authored-By: Claude Opus 4.7 <noreply@anthropic.com>05f095d