Commit ce084a25 authored by chenych's avatar chenych
Browse files

删除框架后缀名

parent 6f727161
......@@ -18,8 +18,8 @@ GLM-5.1 是智谱AI面向智能体工程的下一代旗舰模型,其代码能
| python | 3.10.12 |
| transformers | 5.2.0 |
| torch | 2.9.0 |
| vllm | 0.15.1 |
| sglang | 0.5.10rc0 |
| vLLM | 0.15.1 |
| SGLang | 0.5.10rc0 |
当前仅支持镜像:
- **vLLM推理请使用:** harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm015-ubuntu22.04-dtk26.04-glm5-0408
......@@ -45,7 +45,6 @@ docker run -it \
-v /path/your_code_data/:/path/your_code_data/ \
harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm015-ubuntu22.04-dtk26.04-glm5-0408 bash
```
更多镜像可前往[光源](https://sourcefind.cn/#/service-list)下载使用。
## 数据集
......@@ -106,7 +105,7 @@ curl http://localhost:8001/v1/chat/completions \
}'
```
### vllm
### vLLM
#### 单机推理
1. 加入环境变量
```bash
......@@ -269,7 +268,7 @@ curl http://localhost:8001/v1/chat/completions \
| GLM-5.1-FP8 | 754B | BW1100 | 8 | [ModelScope](https://modelscope.cn/models/ZhipuAI/GLM-5.1-FP8) |
## 源码仓库及问题反馈
- https://developer.sourcefind.cn/codes/modelzoo/glm-5.1_vllm
- https://developer.sourcefind.cn/codes/modelzoo/glm-5.1
## 参考资料
- https://github.com/zai-org/GLM-5
# 模型唯一标识
modelCode=2322
# 模型名称
modelName=GLM-5.1_vllm
modelName=GLM-5.1
# 模型描述
modelDescription=GLM-5.1 是智谱AI面向智能体工程的下一代旗舰模型,其代码能力相比前代显著增强。它在 SWE-Bench Pro 上达到了当前最优水平,并在 NL2Repo(代码仓库生成)和 Terminal-Bench 2.0(真实终端任务)上大幅领先于 GLM-5。
# 运行过程
......
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment