Commit 753923c5 authored by laibao's avatar laibao
Browse files

readme

parent 25144e8b
......@@ -21,7 +21,7 @@ Qwen2.5是阿里云开源的最新一代大型语言模型,标志着Qwen系列
## 算法原理
和Qwen一样,Qwen1.5仍然是一个decoder-only的transformer模型,使用SwiGLU激活函数、RoPE、多头注意力机制等。
和Qwen一样,Qwen2.5仍然是一个decoder-only的transformer模型,使用SwiGLU激活函数、RoPE、多头注意力机制等。
<div align=center>
<img src="./doc/qwen1.5.png"/>
......@@ -49,7 +49,7 @@ docker run -it --name qwen2.5_vllm --privileged --shm-size=64G --device=/dev/kf
# <Host Path>主机端路径
# <Container Path>容器映射路径
docker build -t qwen2.5:latest .
docker run -it --name qwen2.5_vllm --privileged --shm-size=64G --device=/dev/kfd --device=/dev/dri/ --cap-add=SYS_PTRACE --security-opt seccomp=unconfined --ulimit memlock=-1:-1 --ipc=host --network host --group-add video -v /opt/hyhal:/opt/hyhal:ro -v <Host Path>:<Container Path> qwen1.5:latest /bin/bash
docker run -it --name qwen2.5_vllm --privileged --shm-size=64G --device=/dev/kfd --device=/dev/dri/ --cap-add=SYS_PTRACE --security-opt seccomp=unconfined --ulimit memlock=-1:-1 --ipc=host --network host --group-add video -v /opt/hyhal:/opt/hyhal:ro -v <Host Path>:<Container Path> qwen2.5:latest /bin/bash
```
### Anaconda(方法三)
......
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment