GitLab

新增环境变量 VLLM_V1_USE_REDUCED_TOPK_TOPP_SAMPLER 用于开关控制
扩展 SamplingMetadata，增加 max_top_k 与 has_any_no_top_k
在 InputBatch 侧计算 top-k 的主机端汇总信息，避免 device 同步
更新 Sampler/TopKTopPSampler 传递并使用新参数以启用优化采样

update VLLM_USE_LIGHTOP_RMS_ROPE_CONCAT impl

vllm：export VLLM_CUSTOM_CACHE=1
dtk：export HIP_KERNEL_EVENT_SYSTENFENCE=1

set VLLM_USE_LIGHTOP_RMS_ROPE_CONCAT=1

- 添加环境变量开关 VLLM_USE_MARLIN_W16A16_MOE（及 fused RMS+RoPE 标志位）
- 增加 W16A16 Marlin 权重重排/缓存逻辑
- 集成 lightop 的 W16A16 MoE fast path，复用打包缓存避免重复 pack 并在 GPU 卸载原布局

set VLLM_USE_LIGHTOP_FILL_MOE_ALIGN=1, VLLM_USE_OPT_ZEROS=1 and VLLM_USE_PP_SYNC=1

- 更新环境变量以控制流水线并行调度的最小注入。
- 从 Request 类中移除 num_output_placeholders，并调整 Scheduler 逻辑以使用新的最小注入功能。
- 增强 Scheduler，根据批次队列状态管理最小进度注入。

- 在环境变量中引入 `VLLM_ENABLE_OUTPUT_PLACEHOLDERS` 以控制输出占位符的启用。
- 在 `Request` 类中增加 `num_output_placeholders` 属性，用于跟踪预计生成的 token 数量。
- 更新调度逻辑以利用输出占位符，确保在解码过程中避免 0-token 停滞。
- 移除不再使用的最小进度注入相关代码，简化调度器实现。