Skip to content
GitLab
Menu
Projects
Groups
Snippets
Loading...
Help
Help
Support
Community forum
Keyboard shortcuts
?
Submit feedback
Contribute to GitLab
Sign in / Register
Toggle navigation
Menu
Open sidebar
ModelZoo
DISC-FinLLM_pytorch
Commits
da90311d
Commit
da90311d
authored
Oct 24, 2024
by
dcuai
Browse files
Update README.md
parent
68fdcf98
Changes
1
Hide whitespace changes
Inline
Side-by-side
Showing
1 changed file
with
2 additions
and
2 deletions
+2
-2
README.md
README.md
+2
-2
No files found.
README.md
View file @
da90311d
...
...
@@ -15,7 +15,7 @@ Baichuan整体模型基于标准的Transformer结构
</div>
## 算法原理
DISC-FinLLM是以Baichuan-13B 为基座模型,通过数据集的四个部分,分别训练 4 个 LoRA 专家模组,如图
14
所示。部署时,用户只需更换在当前基座上的 LoRA 参数就可以切换功能。因此用户能够根据使用需求激活 / 停用模型的不同模组,而无需重新加载整个模型。
DISC-FinLLM是以Baichuan-13B 为基座模型,通过数据集的四个部分,分别训练 4 个 LoRA 专家模组,如
下
图所示。部署时,用户只需更换在当前基座上的 LoRA 参数就可以切换功能。因此用户能够根据使用需求激活 / 停用模型的不同模组,而无需重新加载整个模型。
<div
align=
center
>
<img
src=
"./images/lora_en.png"
/>
...
...
@@ -124,7 +124,7 @@ bash sft_work_dtk.sh
```
## 推理
**运行推理代码时需将
模型
文件FinLLM中的文件替换下载的本地模型
FinLLM
文件,并且将cli_demo.py文件中的模型路径更换为本地模型路径。**
**运行推理代码时需将
仓库
文件
夹
FinLLM中的文件替换下载的本地模型文件,并且将cli_demo.py文件中的模型路径更换为本地模型路径。**
### 单机单卡
需将
**cli_demo.py**
中的
**model_path**
改为替换模型文件后的本地模型路径
...
...
Write
Preview
Markdown
is supported
0%
Try again
or
attach a new file
.
Attach a file
Cancel
You are about to add
0
people
to the discussion. Proceed with caution.
Finish editing this message first!
Cancel
Please
register
or
sign in
to comment