GitLab

chunked prefill 时如果在 prefill 中途做 prompt KV 压缩，会导致下一段 prefill 只能看到被截断的历史（语义变化/质量塌陷）。
改为“scheme 3”：仅在每个请求的最后一个 prefill chunk 计算一次全局 prompt Top-K 索引并缓存；在第一次 decode 前执行一次性 in-place compaction。
补充 prompt keep/budget 计算辅助函数，并新增 Triton KV cache gather/compaction 实现。

Introduce v1 KV compression modules (budget + SnapKV Triton kernel) and integrate with scheduler/cache managers.

[feat]1.优化ep sequence parallel,区分主模型和mtp逻辑;2.ep sequence parallel添加cudagraph padding到tp_size;3.修复共享专家和deepep combine overlap

- 在 InputBatch.refresh_metadata 中为展开后的采样元数据引入 repeat_count 记录重复次数
- 完善元数据刷新逻辑以适配 reject-sampling 优化路径
- 更新 GPUModelRunnerBase，在 batch 处理阶段正确消费新的采样元数据与重复计数

This reverts merge request !219