Commit d4b43b45 authored by zhanggezhong's avatar zhanggezhong
Browse files

Update README.md

parent 01d93520
# <div align="center"><strong>FastMoe</strong></div> # <div align="center"><strong>FastMoe</strong></div>
## 简介 ## 简介
一个易于使用和高效的系统,支持PyTorch的混合专家(MoE)模型。 一个易于使用和高效的系统,支持PyTorch的混合专家(MoE)模型。
## 安装 ## 安装
组件支持组合
| PyTorch版本 | fastpt版本 |FastMoe版本 | DTK版本 | Python版本 | 推荐编译方式 |
| ----------- | ----------- | ----------- | ------------------------ | -----------------| ------------ |
| 2.5.1 | 2.1.0 |1.1.0 | >= 25.04 | 3.8、3.10、3.11 | fastpt不转码 |
| 2.4.1 | 2.0.1 |1.1.0 | >= 25.04 | 3.8、3.10、3.11 | fastpt不转码 |
| 其他 | 其他 | 其他 | 其他 | 3.8、3.10、3.11 | hip转码 |
+ pytorch版本大于2.4.1 && dtk版本大于25.04 推荐使用fastpt不转码编译。
### 1、使用pip方式安装
fastmoe whl包下载目录:[光和开发者社区](https://download.sourcefind.cn:65024/4/main/fastmoe),选择对应的pytorch版本和python版本下载对应fastmoe的whl包
```shell
pip install torch* (下载torch的whl包)
pip install fastpt* --no-deps (下载fastpt的whl包)
source /usr/local/bin/fastpt -E
pip install fastmoe* (下载的fastmoe的whl包)
```
### 2、使用源码编译方式安装
#### 编译环境准备
提供基于fastpt不转码编译:
源码编译安装,该方式需要安装torch及fastpt工具包;注意使用fastpt包进行源码编译安装时,要严格匹配fastpt、torch、dtk之间的版本号,例如基于dtk2504编译,则fastpt、torch都必须是dtk2504的包,其中fastpt与torch对应的版本号关系为 1. 基于光源pytorch基础镜像环境:镜像下载地址:[光合开发者社区](https://sourcefind.cn/#/image/dcu/pytorch),根据pytorch、python、dtk及系统下载对应的镜像版本。
| | fastpt版本 | torch版本 | DTK版本 |
| - | -------- | ------- | ------------ | 2. 基于现有python环境:安装pytorch,fastpt whl包下载目录:[光合开发者社区](https://sourcefind.cn/#/image/dcu/pytorch),根据python、dtk版本,下载对应pytorch的whl包。安装命令如下:
| 1 | 2.0.1+das.dtk2504 | v2.4.1 | dtk2504| ```shell
| 1 | 2.1.0+das.dtk2504 | v2.5.1 | dtk2504| pip install torch* (下载torch的whl包)
| 1 | 2.0.1+das.dtk25041 | v2.4.1 | dtk25041| pip install fastpt* --no-deps (下载fastpt的whl包, 安装顺序,先安装torch,后安装fastpt)
| 1 | 2.1.0+das.dtk25041 | v2.5.1 | dtk25041| pip install setuptools==59.5.0 wheel
## 编译流程 pip install dm-tree
``` pip install pytest
pip3 install dm-tree pip install wheel
pip3 install pytest
pip3 install wheel
pip3 install fastpt-2.0.1+das.dtk2504-py3-none-any.whl #以torch2.4.1,dtk2504为例
git clone https://developer.hpccube.com/codes/OpenDAS/fastmoe.git
git checkout v1.1.0-fastpt* #切换到相应分支
cd fastmoe
source /usr/local/bin/fastpt -c
python3 setup.py build
python3 setup.py install
python3 setup.py bdist_wheel # 该指令用于编译whl包,执行该指令时不必执行前两个指令
```
## 验证安装
``` ```
source /usr/local/bin/fastpt -e
pip3 list | grep fastmoe #### 源码编译安装
python3 - 代码下载
import fmoe ```shell
fmoe.__version__ git clone http://developer.sourcefind.cn/codes/OpenDAS/fastmoe.git # 根据编译需要切换分支
#返回版本号
``` ```
## 测试 - 提供2种源码编译方式(进入fastmoe目录):
``` ```
source /usr/local/bin/fastpt -e 1. 设置不转码编译环境变量
cd fastmoe/tests source /usr/local/bin/fastpt -C
pytest vs
2. 编译whl包并安装
python3 setup.py -v bdist_wheel
pip install dist/fastmoe*
3. 源码编译安装
python3 setup.py install
``` ```
#### 注意事项
+ 编译使用fastmoe时,所依赖的fastpt、torch、dtk之间版本必须严格对应,如fastpt2.0.1-dtk2504、torch-2.4.1-dtk2504、dtk2504和fastpt2.0.1-dtk25041、torch-2.4.1-dtk25041、dtk25041
+ 若使用pip install下载安装过慢,可添加pypi清华源:-i https://pypi.tuna.tsinghua.edu.cn/simple/
+ ROCM_PATH为dtk的路径,默认为/opt/dtk
+ 在pytorch2.5.1环境下编译需要支持c++17语法,打开setup.py文件,把文件中的 -std=c++14 修改为 -std=c++17
## 验证
- python -c "import fmoe; fmoe.\_\_version__",版本号与官方版本同步,查询该软件的版本号,例如1.1.0;
## Known Issue
-
## 参考资料
- [README_ORIGIN](README_ORIGIN.md)
- [README_zh-CN](README_zh-CN.md)
- [https://github.com/laekov/fastmoe](https://github.com/laekov/fastmoe)
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment