GitLab

This reverts commit a1f4d869.

fix:

- 修复 Step3p5 MTP 在加载 checkpoint 时对可选标量参数的识别逻辑，将 q/k/v zero_point 纳入 optional 参数集合，避免参数校验与加载不一致。

revert:

- 回退 EAGLE 中针对 MTP shared_head.head 强制复用 target lm_head 的逻辑，避免与当前 Step3p5 MTP 权重结构产生冲突。

目的:

- 降低 Step3p5 MTP 在权重加载阶段的兼容性问题，减少由于 lm_head 共享路径不一致导致的异常行为，方便后续排查和协作。

在 vllm/model_executor/layers/activation.py 中调整 SiluAndMul.forward_cuda：当 VLLM_USE_OPT_OP=1 时统一走 ops.silu_and_mul_opt_lightop(x)
在 vllm/_custom_ops.py 中新增并注册 silu_and_mul_opt_lightop（含 fake_impl），用于编译/非编译路径统一调用

支持kvacache fp8_e4m3/fp8_e5m2的RMS_ROPE_CONCAT

支持kvacache fp8_e4m3/fp8_e5m2的RMS_ROPE_CONCAT

移除 forward 中对 experts.use_overlapped/_shared_experts 的状态改写，避免 torch.compile 启动期 shared/non-shared 路径不一致
FusedMoE.forward_impl 仅在 shared_output 为空时计算 shared experts，防止透传值被本地重算覆盖

  新增环境变量 VLLM_USE_LIGHTOP_MOE_SUM_MUL_ADD 用于控制
  fused sum+mul+add 开关。
  在 DeepseekV2MoE 中增加 fused 路径，预计算 shared_output，并下传 iqis 与 routed_scaling_factor。
  扩展 FusedMoE/SharedFusedMoE 及相关 custom op 接口，统一透传 i_q/i_s/shared_output/routed_scaling_factor。
  同步适配 Triton、Marlin W16A16、SlimQuant W4A8、CompressedTensors W8A8 等实现，支持在内核侧完成 sum+mul+add。

- Add VLLM_V1_USE_FA_UNIFIED_ATTN_2D 环境变量
- 0: Triton attention, 1: FA unified attention