# 模型唯一标识
modelCode = 1182
# 模型名称
modelName=mixtral_vllm
# 模型描述
modelDescription=Mixtral模型是一种稀疏专家混合(SMoE)语言模型,在每层包含多个前馈网络(专家),通过路由网络为每个输入token选择最相关的专家进行处理,从而在保持高效计算的同时提升模型性能。
# 应用场景 appScenario=推理,对话问答,医疗,科研,金融,教育 # 框架类型 frameType=vllm