litellm/Dockerfile at master · dockette/litellm · GitHub

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
ARG LITELLM_VERSION=v1.104.0

FROM ghcr.io/berriai/litellm:${LITELLM_VERSION}

LABEL maintainer="sulcmil@gmail.com"

# CURL #########################################################################
# The upstream image has no HTTP client.
RUN apk add --no-cache curl

# PIP ##########################################################################
# The upstream image ships a virtualenv at /app/.venv without pip.
RUN /app/.venv/bin/python -m ensurepip --upgrade && \
    /app/.venv/bin/python -m pip install --no-cache-dir --upgrade pip

# PILLOW #######################################################################
RUN /app/.venv/bin/python -m pip install --no-cache-dir Pillow && \
    /app/.venv/bin/python -c "from PIL import Image; print(Image.__version__)"

# HEALTHCHECK ##################################################################
HEALTHCHECK --interval=30s --timeout=5s --start-period=40s --retries=3 \
    CMD curl -fsS "http://127.0.0.1:${PORT:-4000}/health/liveliness" || exit 1