GitLab

feat: support moe sum when topk==9

bugfix: Fix mtp model load error when eable shared experts fusion.

增加环境变量开关，禁用 Marlin W16A16 MoE 路径
强制 Triton 且权重已是 Marlin packed 时给出明确报错
Marlin 支持探测改为 best-effort（不再依赖 VLLM_USE_LIGHTOP）

  - 移除 VLLM_USE_MARLIN_W16A16_MOE 环境变量
  - 初始化阶段基于 lightop 探测并缓存 _marlin_w16a16_moe_enabled，满足条件强制 use_nn_moe=False
  - 权重加载后按缓存结果一次性 Marlin pack；运行时按 packed 标记走 Marlin fast path

[qwen3-480b] MoE(TN) configs for nmz TP=8

新增环境变量 VLLM_MOE_ROUTER_CAPTURE / DIR / RANK / MAX_LAYERS / NUM_TOKENS_* 用于开关与过滤控制
新增 router_capture.py，支持按 num_tokens 分桶抓取 router logits 并落盘
在 qwen3_moe 中接入抓取逻辑，默认关闭，仅在开启时记录
固定 skip_profile / skip_stack_funcs 为默认启用，避免抓到 warmup/profile 形状
统一配置入口到 vllm.envs，作为运行时基准

  - 在 post-load hook 中对 w13/w2 做 per-expert Marlin pack，并替换为 packed 参数
  - Marlin fast path 仅接受 packed 权重；未预打包则 fail fast，避免运行时 packing 峰值/不确定性
  - 更新 Marlin wrapper 的入参与 shape 推导（从 packed layout 计算 K/N）

[feat]1.优化ep sequence parallel,区分主模型和mtp逻辑;2.ep sequence parallel添加cudagraph padding到tp_size;3.修复共享专家和deepep combine overlap