Commit 9885cdda authored by zhouxiang's avatar zhouxiang
Browse files

更新readme描述

parent 8b19e436
......@@ -2,17 +2,19 @@
## 模型介绍
ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型,基于 [General Language Model (GLM)](https://github.com/THUDM/GLM) 架构,具有 62 亿参数。
ChatGLM-6B 使用了和 ChatGPT 相似的技术,针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练,辅以监督微调、反馈自助、人类反馈强化学习等技术的加持,62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答,更多信息请参考我们的[博客](https://chatglm.cn/blog)
本项目主要针对ChatGLM-6B推理性能优化,达到DCU平台较快的对话效果
## 模型推理
### 下载镜像
在光源可拉取推理的docker镜像,YoloV7工程推荐的镜像如下:
在光源可拉取推理的docker镜像,拉取方式如下:
```python
docker pull
```
docker pull image.sourcefind.cn:5000/dcu/admin/base/custom:chatglm-6b-dcu-infer-1.0
```
### 编译方法
......
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment