model.properties 462 Bytes
Newer Older
1
# 模型唯一标识
laibao's avatar
laibao committed
2
modelCode = 1182
3
# 模型名称
dcuai's avatar
dcuai committed
4
modelName=mixtral_vllm 
5
# 模型描述
6
modelDescription=Mixtral模型是一种稀疏专家混合(SMoE)语言模型,在每层包含多个前馈网络(专家),通过路由网络为每个输入token选择最相关的专家进行处理,从而在保持高效计算的同时提升模型性能。
7
8
9
10
# 应用场景
appScenario=推理,对话问答,医疗,科研,金融,教育
# 框架类型
frameType=vllm