Commit 256b9064 authored by xiabo's avatar xiabo
Browse files

update submodule

parent 316b0607
[submodule "lmdeploy"] [submodule "lmdeploy"]
path = lmdeploy path = lmdeploy
url = http://developer.hpccube.com/codes/aicomponent/lmdeploy.git url = http://developer.hpccube.com/codes/aicomponent/lmdeploy.git
branch = develop tag = dtk23.04-v0.0.13
\ No newline at end of file \ No newline at end of file
# LLama_lmdeploy # LLama
## 论文 ## 论文
- [https://arxiv.org/pdf/2302.13971.pdf](https://arxiv.org/pdf/2302.13971.pdf) - [https://arxiv.org/pdf/2302.13971.pdf](https://arxiv.org/pdf/2302.13971.pdf)
...@@ -33,6 +33,8 @@ docker run -it --name llama --shm-size=1024G --device=/dev/kfd --device=/dev/dr ...@@ -33,6 +33,8 @@ docker run -it --name llama --shm-size=1024G --device=/dev/kfd --device=/dev/dr
## 数据集 ## 数据集
## 推理
### 源码编译安装 ### 源码编译安装
``` ```
# 若使用光源的镜像,可以跳过源码编译安装,镜像里面安装好了lmdeploy。 # 若使用光源的镜像,可以跳过源码编译安装,镜像里面安装好了lmdeploy。
......
# 模型唯一标识
modelCode = 457
# 模型名称
modelName=llama_lmdeploy
# 模型描述
modelDescription=LLama是一个基础语言模型的集合,参数范围从7B到65B。在数万亿的tokens上训练出的模型,并表明可以专门使用公开可用的数据集来训练最先进的模型。
# 应用场景
appScenario=推理,对话问答,金融,科研,教育
# 框架类型
frameType=lmdeploy
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment