GitLab

新增 VLLM_USE_FUSED_RMS_ROPE 分支，走 fused 路径
注册 torch.ops.vllm.rms_rotary_embedding_fuse（direct_register_custom_op）
cos_sin_cache 自动转 device/dtype 并缓存，避免每次重复拷贝

for qwen3, VLLM_USE_FUSED_RMS_ROPE=1 (default)

  - 使用 get_moe_cuda_marlin_config_w16a16(status) 判断 W16A16 Marlin MoE 是否可用
  - 在 FusedMoE 初始化阶段计算并缓存 _marlin_w16a16_moe_enabled，满足条件时强制 use_nn_moe=False
  - 权重加载后按缓存结果进行一次性 Marlin pack；运行时按 packed 标记走 Marlin fast path
  - 删除 envs.py 中 VLLM_USE_MARLIN_W16A16_MOE 环境变量定义与解析逻辑

[qwen3-480b] MoE(TN) configs for nmz TP=8

set VLLM_USE_PD_SPLIT=1
update moe_align_block_size

在 post-load hook 中对 w13/w2 做 per-expert Marlin pack，并替换为 packed 参数
Marlin fast path 仅接受 packed 权重；未预打包则 fail fast，避免运行时 packing 峰值/不确定性
更新 Marlin wrapper 的入参与 shape 推导（从 packed layout 计算 K/N）

 - fused_experts_impl 增加 VLLM_USE_MARLIN_W16A16_MOE fast path：首次对 w1/w2 做 Marlin pack 后缓存，避免重复 reorder；并将原始
    权重 offload 到 CPU，降低 GPU 双份驻留
  - envs 补齐环境变量 VLLM_USE_LIGHTOP_MOE_SUM_MUL_ADD
  - 更新 fuse_moe_w16a16_marlin.py 的报错提示为 VLLM_USE_LIGHTOP=1

add indexer_k_cache_kernel

实现了用于优化张量计算的 rms_mrope_fuse 和 rms_mrope_fuse_fake 方法
更新了 forward：在满足条件时走新的 M-RoPE 融合路径
增强了 Qwen3MoeModel 对动态参数维度的支持，以适配该功能

新增环境变量 VLLM_USE_MARLIN_W16A16_MOE，用于显式启用 Marlin W16A16 MoE experts
在 fused_moe 中当开关开启且实现可用时，调用 fused_experts_impl_w16a16_marlin
增加 Marlin W16A16 MoE 实现与 reduce 路径