Dockerfile

FROM ollama/ollama:latest

RUN ollama serve & \
    sleep 10 && \
    ollama pull embeddinggemma && \
    pkill ollama

ENV OLLAMA_HOST=0.0.0.0:7860
ENV OLLAMA_NUM_PARALLEL=1
ENV OLLAMA_MAX_QUEUE=128
ENV OLLAMA_KEEP_ALIVE=1h

EXPOSE 7860

ENTRYPOINT ["ollama"]
CMD ["serve"]