#
FastMoe
## 简介 一个易于使用和高效的系统,支持PyTorch的混合专家(MoE)模型。 ## 安装 源码编译安装,该方式需要安装torch及fastpt工具包;注意使用fastpt包进行源码编译安装时,要严格匹配fastpt、torch、dtk之间的版本号,例如基于dtk2504编译,则fastpt、torch都必须是dtk2504的包,其中fastpt与torch对应的版本号关系为 | | fastpt版本 | torch版本 | DTK版本 | | - | -------- | ------- | ------------ | | 1 | 2.0.1+das.dtk2504 | v2.4.1 | dtk2504| | 1 | 2.1.0+das.dtk2504 | v2.5.1 | dtk2504| | 1 | 2.0.1+das.dtk25041 | v2.4.1 | dtk25041| | 1 | 2.1.0+das.dtk25041 | v2.5.1 | dtk25041| ## 编译流程 ``` pip3 install dm-tree pip3 install pytest pip3 install wheel pip3 install fastpt-2.0.1+das.dtk2504-py3-none-any.whl #以torch2.4.1,dtk2504为例 git clone https://developer.hpccube.com/codes/OpenDAS/fastmoe.git git checkout v1.1.0-fastpt* #切换到相应分支 cd fastmoe source /usr/local/bin/fastpt -c python3 setup.py build python3 setup.py install python3 setup.py bdist_wheel # 该指令用于编译whl包,执行该指令时不必执行前两个指令 ``` ## 验证安装 ``` source /usr/local/bin/fastpt -e pip3 list | grep fastmoe python3 import fmoe fmoe.__version__ #返回版本号 ``` ## 测试 ``` source /usr/local/bin/fastpt -e cd fastmoe/tests pytest vs ```