update torch related deps

README.md

@@ -42,9 +42,9 @@ vLLM支持
 #### 编译环境准备
 提供2种环境准备方式:
 
-1. 基于光源pytorch2.3.0基础镜像环境:镜像下载地址:[https://sourcefind.cn/#/image/dcu/pytorch](https://sourcefind.cn/#/image/dcu/pytorch),根据pytorch2.1.0、python、dtk及系统下载对应的镜像版本。
+1. 基于光源pytorch2.4.0基础镜像环境:镜像下载地址:[https://sourcefind.cn/#/image/dcu/pytorch](https://sourcefind.cn/#/image/dcu/pytorch),根据pytorch2.4.0、python、dtk及系统下载对应的镜像版本。
 
-2. 基于现有python环境:安装pytorch2.3.0,pytorch whl包下载目录:[https://cancon.hpccube.com:65024/4/main/pytorch](https://cancon.hpccube.com:65024/4/main/pytorch),根据python、dtk版本,下载对应pytorch2.1.0的whl包。安装命令如下:
+2. 基于现有python环境:安装pytorch2.4.0,pytorch whl包下载目录:[https://cancon.hpccube.com:65024/4/main/pytorch](https://cancon.hpccube.com:65024/4/main/pytorch),根据python、dtk版本,下载对应pytorch2.4.0的whl包。安装命令如下:
 ```shell
 pip install torch* (下载的torch的whl包)
 pip install setuptools wheel
@@ -68,11 +68,12 @@ pip install vllm*
 2. 源码编译安装
 VLLM_INSTALL_PUNICA_KERNELS=1 python3 setup.py install 
 ```
+若需要添加git号，设置环境变量: export ADD_GIT_VERSION=1
 
 #### 运行基础环境准备
-1、使用上面基于光源pytorch2.3.0基础镜像环境
+1、使用上面基于光源pytorch2.4.0基础镜像环境
 
-2、根据pytorch2.3.0、python、dtk及系统下载对应的依赖包:
+2、根据pytorch2.4.0、python、dtk及系统下载对应的依赖包:
 - triton:[https://cancon.hpccube.com:65024/4/main/triton](https://cancon.hpccube.com:65024/4/main/triton/)
 - flash_attn: [https://cancon.hpccube.com:65024/4/main/flash_attn](https://cancon.hpccube.com:65024/4/main/flash_attn)
 - lmslim: [https://cancon.hpccube.com:65024/4/main/lmslim](https://cancon.hpccube.com:65024/4/main/lmslim)

requirements-rocm.txt

@@ -11,7 +11,7 @@ pytest-asyncio
 tensorizer>=2.9.0
 setuptools_scm>=8
 
-torch == 2.3.0
-triton == 2.1.0
+torch == 2.4.0
+triton == 3.0.0
 flash_attn == 2.6.1
-lmslim == 0.1.2  # future version 0.2.0
\ No newline at end of file
+lmslim == 0.2.0  
\ No newline at end of file