Commit 2b50610e authored by raojy's avatar raojy 💬
Browse files

Update README.md

parent 899327de
...@@ -17,18 +17,18 @@ DeepSeek-V3.2,这是一个在高计算效率与卓越推理和代理性能之 ...@@ -17,18 +17,18 @@ DeepSeek-V3.2,这是一个在高计算效率与卓越推理和代理性能之
## 环境依赖 ## 环境依赖
| 软件 | 版本 | | 软件 | 版本 |
| :------: | :------: | | :------: | :------: |
| DTK | 25.04.1 | | DTK | 26.04 |
| python | 3.10.12 | | python | 3.10.12 |
| transformers | 4.56.1 | | transformers | 4.57.6 |
| vllm | 0.9.2+das.opt1.dtk25042 | | vllm | 0.11.0+das.opt1.rc2.dtk2604.20260128.g0bf89b0c |
| torch | 2.5.1+das.opt1.dtk25041 | | torch | 2.5.1+das.opt1.dtk2604.20260116.g78471bfd |
推荐使用镜像: image.sourcefind.cn:5000/dcu/admin/base/vllm:0.9.2-ubuntu22.04-dtk25.04.2-das1.7-py3.10-20251203 推荐使用镜像: harbor.sourcefind.cn:5443/dcu/admin/base/vllm:0.11.0-ubuntu22.04-dtk26.04-0130-py3.10-20260202
- 挂载地址`-v` 根据实际模型情况修改 - 挂载地址`-v` 根据实际模型情况修改
```bash ```bash
docker run -it \ docker run -it \
--shm-size 60g \ --shm-size 200g \
--network=host \ --network=host \
--name deepseek-v32 \ --name deepseek-v32 \
--privileged \ --privileged \
...@@ -41,25 +41,13 @@ docker run -it \ ...@@ -41,25 +41,13 @@ docker run -it \
-u root \ -u root \
-v /opt/hyhal/:/opt/hyhal/:ro \ -v /opt/hyhal/:/opt/hyhal/:ro \
-v /path/your_code_data/:/path/your_code_data/ \ -v /path/your_code_data/:/path/your_code_data/ \
image.sourcefind.cn:5000/dcu/admin/base/vllm:0.9.2-ubuntu22.04-dtk25.04.2-das1.7-py3.10-20251203 bash harbor.sourcefind.cn:5443/dcu/admin/base/vllm:0.11.0-ubuntu22.04-dtk26.04-0130-py3.10-20260202 bash
``` ```
更多镜像可前往[光源](https://sourcefind.cn/#/service-list)下载使用。 更多镜像可前往[光源](https://sourcefind.cn/#/service-list)下载使用。
关于本项目DCU显卡所需的特殊深度学习库可从[光合](https://developer.sourcefind.cn/tool/)开发者社区下载安装。 关于本项目DCU显卡所需的特殊深度学习库可从[光合](https://developer.sourcefind.cn/tool/)开发者社区下载安装。
**vllm下载安装方法**
```bash
wget http://112.11.119.99:18000/customized/vllm/dtk25.04.2/0.9.2%2Bdas.opt1.dtk25042/0.9.2%2Bdas.opt1.dtk25042-9f9886d8/vllm-0.9.2%2Bdas.opt1.dtk25042.20251202.g9f9886d8-cp310-cp310-manylinux_2_28_x86_64.whl
# 卸载原环境中的vllm
pip uninstall vllm
#安装新的vllm
pip install vllm-0.9.2+das.opt1.dtk25042.20251202.g9f9886d8-cp310-cp310-manylinux_2_28_x86_64.whl
```
**其他库安装方法**
```bash
pip install -r requirements.txt
```
## 数据集 ## 数据集
......
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment