Commit ce084a25 authored by chenych's avatar chenych
Browse files

删除框架后缀名

parent 6f727161
...@@ -18,8 +18,8 @@ GLM-5.1 是智谱AI面向智能体工程的下一代旗舰模型,其代码能 ...@@ -18,8 +18,8 @@ GLM-5.1 是智谱AI面向智能体工程的下一代旗舰模型,其代码能
| python | 3.10.12 | | python | 3.10.12 |
| transformers | 5.2.0 | | transformers | 5.2.0 |
| torch | 2.9.0 | | torch | 2.9.0 |
| vllm | 0.15.1 | | vLLM | 0.15.1 |
| sglang | 0.5.10rc0 | | SGLang | 0.5.10rc0 |
当前仅支持镜像: 当前仅支持镜像:
- **vLLM推理请使用:** harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm015-ubuntu22.04-dtk26.04-glm5-0408 - **vLLM推理请使用:** harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm015-ubuntu22.04-dtk26.04-glm5-0408
...@@ -45,7 +45,6 @@ docker run -it \ ...@@ -45,7 +45,6 @@ docker run -it \
-v /path/your_code_data/:/path/your_code_data/ \ -v /path/your_code_data/:/path/your_code_data/ \
harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm015-ubuntu22.04-dtk26.04-glm5-0408 bash harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm015-ubuntu22.04-dtk26.04-glm5-0408 bash
``` ```
更多镜像可前往[光源](https://sourcefind.cn/#/service-list)下载使用。 更多镜像可前往[光源](https://sourcefind.cn/#/service-list)下载使用。
## 数据集 ## 数据集
...@@ -106,7 +105,7 @@ curl http://localhost:8001/v1/chat/completions \ ...@@ -106,7 +105,7 @@ curl http://localhost:8001/v1/chat/completions \
}' }'
``` ```
### vllm ### vLLM
#### 单机推理 #### 单机推理
1. 加入环境变量 1. 加入环境变量
```bash ```bash
...@@ -269,7 +268,7 @@ curl http://localhost:8001/v1/chat/completions \ ...@@ -269,7 +268,7 @@ curl http://localhost:8001/v1/chat/completions \
| GLM-5.1-FP8 | 754B | BW1100 | 8 | [ModelScope](https://modelscope.cn/models/ZhipuAI/GLM-5.1-FP8) | | GLM-5.1-FP8 | 754B | BW1100 | 8 | [ModelScope](https://modelscope.cn/models/ZhipuAI/GLM-5.1-FP8) |
## 源码仓库及问题反馈 ## 源码仓库及问题反馈
- https://developer.sourcefind.cn/codes/modelzoo/glm-5.1_vllm - https://developer.sourcefind.cn/codes/modelzoo/glm-5.1
## 参考资料 ## 参考资料
- https://github.com/zai-org/GLM-5 - https://github.com/zai-org/GLM-5
# 模型唯一标识 # 模型唯一标识
modelCode=2322 modelCode=2322
# 模型名称 # 模型名称
modelName=GLM-5.1_vllm modelName=GLM-5.1
# 模型描述 # 模型描述
modelDescription=GLM-5.1 是智谱AI面向智能体工程的下一代旗舰模型,其代码能力相比前代显著增强。它在 SWE-Bench Pro 上达到了当前最优水平,并在 NL2Repo(代码仓库生成)和 Terminal-Bench 2.0(真实终端任务)上大幅领先于 GLM-5。 modelDescription=GLM-5.1 是智谱AI面向智能体工程的下一代旗舰模型,其代码能力相比前代显著增强。它在 SWE-Bench Pro 上达到了当前最优水平,并在 NL2Repo(代码仓库生成)和 Terminal-Bench 2.0(真实终端任务)上大幅领先于 GLM-5。
# 运行过程 # 运行过程
......
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment