caching

Was war die Idee?

Caching on LiteLLM LiteLLM supports multiple caching mechanisms.

Warum angefangen?

Gestartet, um wiederholte Arbeit zu operationalisieren: Kontext sammeln, Entscheidungen sichtbar machen und Agentenarbeit prüfbar machen.

Warum nicht fertig?

Nicht fertig, weil Abschluss-Signale fehlen: 11 TODO/FIXME-Hinweise

Was ist heute wertvoll?

Heute wertvoll als Agent-Control-System, dokumentierte Absicht

Score-Reasons

• 11 TODO/FIXME/WIP hints
• README present

TODO/FIXME-Auszug

• /home/smlflg/.hermes/.uv-cache/archive-v0/9YH33THSokKdr36ExWiQN/litellm/caching/redis_semantic_cache.py:395 — ] = 0.0 # TODO why here but not above??
• /home/smlflg/.hermes/.uv-cache/archive-v0/9YH33THSokKdr36ExWiQN/litellm/caching/redis_cache.py:103 — OPEN - Redis is down, raise immediately (no network call)
• /home/smlflg/.hermes/.uv-cache/archive-v0/9YH33THSokKdr36ExWiQN/litellm/caching/redis_cache.py:107 — CLOSED -> OPEN after failure_threshold consecutive failures
• /home/smlflg/.hermes/.uv-cache/archive-v0/9YH33THSokKdr36ExWiQN/litellm/caching/redis_cache.py:108 — OPEN -> HALF_OPEN after recovery_timeout seconds
• /home/smlflg/.hermes/.uv-cache/archive-v0/9YH33THSokKdr36ExWiQN/litellm/caching/redis_cache.py:110 — HALF_OPEN -> OPEN on failure (resets timer)
• /home/smlflg/.hermes/.uv-cache/archive-v0/9YH33THSokKdr36ExWiQN/litellm/caching/redis_cache.py:114 — OPEN = "open"