Spaces:
Paused
Paused
Commit History
-
Cache pamieta to, co sie nie zmieni, i nie pamieta naszych awarii
Malina +1: Claude Opus 5 (1M context)Dwie dziury w tym, co cache obejmowal. 1. Klucz zawieral polecenie, a transkrypcja Whisperem od polecenia nie zalezy. Kreator wprost zacheca, zeby dopracowac prompt i zbudowac ponownie, a kazde takie podejscie placilo za te sama transkrypcje od nowa: okolo czterdziestu sekund na piec minut nagrania. Doszla warstwa kluczowana samym plikiem (cache.load_raw / store_raw), z osobnymi rodzajami, zeby sie nie zderzaly. Pusta transkrypcja tez jest zapisywana, bo cisza zostanie cisza, a udowadnianie tego kosztuje kolejny pelny przebieg. 2. cache.store wolalo sie tylko na sciezce udanej, wiec plik odlozony przechodzil pelna ekstrakcje przy kazdym powtorzeniu. Teraz odklada sie razem z powodem, ale tylko wtedy, gdy ten powod sie nie zmieni: "to plik binarny" albo "nie udalo sie przepisac mowy" powiedza to samo za kazdym razem. Awaria po naszej stronie - nieosiagalny model, brakujaca zaleznosc, czyli komunikaty "couldn't read (...)" i wszystko z m["error"] - NIE …1a8a270
-
Etapy 5b-6: cache po odcisku tresci i testy jednostkowe
MalinaCACHE_DIR byl zadeklarowany w config.py i nigdy nieuzywany: kazde zadanie czytalo i mapowalo wszystko od nowa, lacznie z ponowieniem zadania, ktore przed chwila padlo. Uploady laduja za kazdym razem pod nowa sciezka tymczasowa, wiec cache po sciezce nigdy by nie trafil; odcisk tresci trafia. Klucz to rozmiar pliku plus pierwszy i ostatni megabajt, razem z promptem i nazwami modeli, bo wynik MAP zalezy od nich wszystkich. Hashowanie 200 MB w calosci kosztowaloby wiecej niz praca, ktora cache oszczedza. Zmierzone na piu plikach: pusty cache 13,6 s, cieply 8,4 s (39% szybciej, reszta to REDUCE, ktory nie jest cache'owany). Te same pliki pod INNYMI sciezkami: 5 trafien na 5, czyli ponowny upload nie placi drugi raz. Inne polecenie: 0 trafien, poprawnie. 24 testy jednostkowe bez sieci, pokrywajace miejsca, w ktorych faktycznie byly bledy: wykrywanie jezyka (w tym polskie bez ogonkow), parsowanie odpowiedzi MAP wraz ze sciezkami awaryjnymi, wykrywanie binariow, walidacje wygaslych uploado…0e03c98