Commit 09fdc5e6 authored by chenych's avatar chenych
Browse files

Fix bugs in README.

parent cd308be5
...@@ -39,13 +39,13 @@ pip install sentence-transformers>=2.7.0 ...@@ -39,13 +39,13 @@ pip install sentence-transformers>=2.7.0
``` ```
### Anaconda(方法三) ### Anaconda(方法三)
关于本项目DCU显卡所需的特殊深度学习库可从[光合](https://developer.hpccube.com/tool/)开发者社区下载安装。 关于本项目DCU显卡所需的特殊深度学习库可从[光合](https://developer.sourcefind.cn/tool/)开发者社区下载安装。
```bash ```bash
DTK: 25.04 DTK: 25.04
python: 3.10 python: 3.10
vllm: 0.8.5
torch: 2.4.1+das.opt2.dtk2504 torch: 2.4.1+das.opt2.dtk2504
deepspeed: 0.14.2+das.opt2.dtk2504 deepspeed: 0.14.2+das.opt2.dtk2504
vllm: 0.8.5
``` ```
`Tips:以上dtk驱动、python、torch等DCU相关工具版本需要严格一一对应` `Tips:以上dtk驱动、python、torch等DCU相关工具版本需要严格一一对应`
...@@ -75,7 +75,7 @@ python infer_vllm.py --model_name_or_path /path/your_model_path/ ...@@ -75,7 +75,7 @@ python infer_vllm.py --model_name_or_path /path/your_model_path/
## 必须添加HF_ENDPOINT环境变量 ## 必须添加HF_ENDPOINT环境变量
export HF_ENDPOINT=https://hf-mirror.com export HF_ENDPOINT=https://hf-mirror.com
## model_name_or_path 模型地址参数 ## model_name_or_path 模型地址参数
python infer_infer_sentence_transformers.py python infer_sentence_transformers.py
``` ```
## result ## result
...@@ -84,7 +84,7 @@ python infer_infer_sentence_transformers.py ...@@ -84,7 +84,7 @@ python infer_infer_sentence_transformers.py
</div> </div>
### 精度 ### 精度
暂无 DCU与GPU精度一致,推理框架:pytorch。
## 应用场景 ## 应用场景
### 算法类别 ### 算法类别
......
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment