跳至内容

Dockerfile

我们提供了一个 docker/Dockerfile用于构建运行OpenAI兼容服务器的vLLM镜像。关于使用Docker部署的更多信息可查阅此处

以下是多阶段Dockerfile的可视化表示。构建图包含以下节点:

  • 所有构建阶段
  • 默认构建目标(以灰色高亮显示)
  • 外部图像(带虚线边框)

构建图的边代表:

  • FROM ... 依赖项(用实线和完整箭头表示)

  • COPY --from=... 依赖项(带虚线和一个空箭头头部)

  • RUN --mount=(.\*)from=... 依赖项(用虚线和一个空心的菱形箭头表示)

query

制作工具:https://github.com/patrickhoefler/dockerfilegraph

重新生成构建图的命令(确保从vLLM代码库的`root`根目录运行,该目录下存在dockerfile):

dockerfilegraph \
  -o png \
  --legend \
  --dpi 200 \
  --max-label-length 50 \
  --filename docker/Dockerfile

或者如果您想直接使用docker镜像运行它:

docker run \
   --rm \
   --user "$(id -u):$(id -g)" \
   --workdir /workspace \
   --volume "$(pwd)":/workspace \
   ghcr.io/patrickhoefler/dockerfilegraph:alpine \
   --output png \
   --dpi 200 \
   --max-label-length 50 \
   --filename docker/Dockerfile \
   --legend

(要为其他文件运行,可以向标志--filename传递不同的参数。)

优云智算