Commit 81500eef authored by chenych's avatar chenych
Browse files

更新镜像使用说明

parent 7c8b4a6f
...@@ -24,8 +24,15 @@ ...@@ -24,8 +24,15 @@
| Paddlepaddle | xx | | Paddlepaddle | xx |
| DeepSpeed | xx | | DeepSpeed | xx |
推荐使用镜像: xxxxxx(镜像地址,如 image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.5.1-ubuntu22.04-dtk25.04.2-py3.10) 推荐使用镜像:
> 如果存在`vLLM`和`SGLang`需要不同镜像的,要分别列出,比如:
- **vLLM推理请使用:** xxxxxx(镜像地址,如 image.sourcefind.cn:5000/dcu/admin/base/vllm:0.9.2-ubuntu22.04-dtk25.04.2-py3.10)
- **SGLang推理请使用:** xxxxxx(镜像地址,如 harbor.sourcefind.cn:5443/dcu/admin/base/custom:sglang-0.5.10-glm5-0416)
> 如果一个镜像即可,就不用单独列出,比如
xxxxxx(镜像地址,如 image.sourcefind.cn:5000/dcu/admin/base/vllm:0.9.2-ubuntu22.04-dtk25.04.2-py3.10,单个镜像的时候使用)
- 挂载地址`-v``{docker_name}``{docker_image_name}`根据实际模型情况修改 - 挂载地址`-v``{docker_name}``{docker_image_name}`根据实际模型情况修改
- 下面以`vLLM`镜像启动示例,如果使用`SGLang`,请对应替换镜像地址(如果仅`vLLM``SGLang`框架推理,可不加这句话)
```bash ```bash
docker run -it \ docker run -it \
...@@ -44,7 +51,7 @@ docker run -it \ ...@@ -44,7 +51,7 @@ docker run -it \
-v /path/your_code_data/:/path/your_code_data/ \ -v /path/your_code_data/:/path/your_code_data/ \
{docker_image_name} bash {docker_image_name} bash
示例如下(展示到modelzoo上的内容,就是将上面的{docker_image_name}{docker_name}根据实际模型填写) 示例如下(展示到modelzoo上的内容,就是将上面的{docker_image_name} {docker_name}根据实际模型填写)
docker run -it \ docker run -it \
--shm-size 256g \ --shm-size 256g \
--network=host \ --network=host \
......
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment