Skip to content

GitLab

Closed
Created by jixx@jixx

源码编译安装后运行qwen-72b会卡住

运行转换好的qwen-72b-turbomind-tp8模型，输入问题后模型一直卡住没有输出，单个z100l显存占用68%，有一张卡DCU占用率100%