model.properties 779 Bytes
Newer Older
raojy's avatar
raojy committed
1
# 模型唯一标识
raojy's avatar
raojy committed
2
modelCode=2203
raojy's avatar
raojy committed
3
# 模型名称
raojy's avatar
raojy committed
4
modelName=NVIDIA-Nemotron-3-Super_vllm
raojy's avatar
raojy committed
5
# 模型描述
raojy's avatar
raojy committed
6
modelDescription=Nemotron-3-Super 是由英伟达 (NVIDIA) 训练的大语言模型 (LLM),旨在提供强大的智能体 (Agentic)、推理及对话能力。该模型针对协作智能体和高负载工作场景(如 IT 工单自动化)进行了深度优化。与该系列的其他模型类似,它在响应用户查询或任务时,会采取“先生成推理轨迹 (Reasoning Trace),后给出最终回复”的模式。此外,模型的推理能力可以通过聊天模板中的标志位 (Flag) 进行灵活配置。
raojy's avatar
raojy committed
7

raojy's avatar
raojy committed
8
9
10
11
12
13
14
# 运行过程
processType=推理
# 算法类别
appCategory=对话问答
# 框架类型
frameType=vllm
# 加速卡类型
raojy's avatar
raojy committed
15
accelerateType=BW1000