Commit 42d9fce4 authored by weishb's avatar weishb
Browse files

修改readme模板

parent f575ad18
......@@ -53,9 +53,9 @@ docker run -it \
```
pip install pycountry
```
**请根据`支持的DCU型号`选择对应模型下载,FP8模型仅在BW1100/BW1101上支持,其他型号请勿使用!**
## 预训练权重
**请根据`支持的DCU型号`选择对应模型下载,FP8模型仅在BW1100/BW1101上支持,其他型号请勿使用!**
| 模型名称 | 权重大小 | 数据类型 | 支持的DCU型号 | 最低卡数需求 | 下载地址 |
|:-----:|:----------:|:----------:|:----------:|:---------------------:|:----------:|
......@@ -69,7 +69,7 @@ pip install pycountry
暂无
## 推理
### vllm
### vLLM
#### 多机推理
1. 加入环境变量
> 请注意:
......
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment