GitLab

set VLLM_USE_LIGHTOP_RMS_ROPE_CONCAT=1

set VLLM_REJECT_SAMPLE_OPT=1 for dpsk-v3

- 在 InputBatch.refresh_metadata 中为展开后的采样元数据引入 repeat_count 记录重复次数
- 完善元数据刷新逻辑以适配 reject-sampling 优化路径
- 更新 GPUModelRunnerBase，在 batch 处理阶段正确消费新的采样元数据与重复计数

修改schedule_default和schedule_split_pd的选择

- 更新环境变量以控制流水线并行调度的最小注入。
- 从 Request 类中移除 num_output_placeholders，并调整 Scheduler 逻辑以使用新的最小注入功能。
- 增强 Scheduler，根据批次队列状态管理最小进度注入。

- 在环境变量中引入 `VLLM_ENABLE_OUTPUT_PLACEHOLDERS` 以控制输出占位符的启用。
- 在 `Request` 类中增加 `num_output_placeholders` 属性，用于跟踪预计生成的 token 数量。
- 更新调度逻辑以利用输出占位符，确保在解码过程中避免 0-token 停滞。
- 移除不再使用的最小进度注入相关代码，简化调度器实现。