网站设计风格分类,百度爱采购怎么免费入驻,论坛软文案例,免费学校网站模板docker改动镜像并重新编译举例
使用vllm启动Qwen VL 2.5出现报错 0.7.2 Docker Container doesnt support Qwen VL 2.5 Instruct
查看镜像 docker images
会发现本地有vllm/vllm-openai:v0.7.2镜像#xff0c;id为f78c8f2f8ad5
空白文件夹中新建文件Dockerfile 写入#…docker改动镜像并重新编译举例
使用vllm启动Qwen VL 2.5出现报错 0.7.2 Docker Container doesnt support Qwen VL 2.5 Instruct
查看镜像 docker images
会发现本地有vllm/vllm-openai:v0.7.2镜像id为f78c8f2f8ad5
空白文件夹中新建文件Dockerfile 写入 FROM vllm/vllm-openai:v0.7.2 RUN pip install githttps://github.com/huggingface/
FROME: Docker 默认会尝试从远程仓库拉取镜像如果本地镜像名称和标签与 FROM 指令完全匹配Docker 会优先使用本地镜像。 若不放心把images docker tag f78c8f2f8ad5 my-qwen2.5-vllm:v0.7.2
编译新的镜像 docker build -t vllm-qwen2.5-vl-pip-transformer .
查看镜像 docker images
发现有了新的被改动过的镜像vllm-qwen2.5-vl-pip-transformer
docker save -o vllm-072.tar vllm-qwen2.5-vl-pip-transformer:0.7.2 可以将本地的镜像保存到本地tar包 若想加载则 docker load -i vllm-072.tar docker ps -a 是查看容器
参考 https://github.com/vllm-project/vllm/issues/12980
