Commit 0e997a44 authored by jerrrrry's avatar jerrrrry
Browse files

Update README.md

parent 46625b03
...@@ -90,3 +90,36 @@ bash start.sh ...@@ -90,3 +90,36 @@ bash start.sh
<a name="scene3"></a> <a name="scene3"></a>
## 📦 3️⃣ 环境测试 + 批量本地模型推理(3_env_check&batches_llm_inference) ## 📦 3️⃣ 环境测试 + 批量本地模型推理(3_env_check&batches_llm_inference)
### ① 挂载本地模型
-v /your/local/model/path:/workspace/models
### ② 配置推理参数
编辑同目录下的 model_to_test.cfg,按指定格式填入测试参数。
### ③ 运行脚本
```bash
bash start.sh
```
### ④ 结果查看
推理结果统一输出到 ./outputs/inference_outputs
<p align="center">
<img src="images/8.png" width="600"/>
</p>
## 📝 小贴士
所有脚本均基于 Docker,确保已安装 Docker & ROCm 环境。
建议首次运行前执行场景 1,确认环境无虞。
遇到任何问题,欢迎提 Issue。
<p align="center">
Made with ❤️ by <strong>SourceFind</strong>
</p>
```
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment