GitLab

chunked prefill 时如果在 prefill 中途做 prompt KV 压缩，会导致下一段 prefill 只能看到被截断的历史（语义变化/质量塌陷）。
改为“scheme 3”：仅在每个请求的最后一个 prefill chunk 计算一次全局 prompt Top-K 索引并缓存；在第一次 decode 前执行一次性 in-place compaction。
补充 prompt keep/budget 计算辅助函数，并新增 Triton KV cache gather/compaction 实现。

Introduce v1 KV compression modules (budget + SnapKV Triton kernel) and integrate with scheduler/cache managers.

fix: 修复deepseek在PP>1开chunkprefill精度问题

See merge request dcutoolkit/deeplearing/vllm!342

feat: enable shared expert overlap.

See merge request dcutoolkit/deeplearing/vllm!339

feat：为 GLM4 和 Llama 模型新增 MultiModalConfigProxy，以支持扁平配置与嵌套的多模态配置（text_config）

See merge request dcutoolkit/deeplearing/vllm!336

合并deepep的auto模式分支"

See merge request dcutoolkit/deeplearing/vllm!335

V0.9.2 dev pdncclinit

See merge request dcutoolkit/deeplearing/vllm!333

fix: 只有当kv block中不含有MTP的假数据时才会被cached，以修复cache_full_blocks同一个kv block保存两次的bug

See merge request dcutoolkit/deeplearing/vllm!331

perf: 加速 v1 InputBatch.add_request 的 token_ids 拷贝

See merge request dcutoolkit/deeplearing/vllm!330

新增环境变量开关 VLLM_V1_FAST_TOKEN_ID_COPY（默认关闭）。开启后在 CachedRequestState 中缓存 prompt_token_ids 的 np.int32，并在 add_request 里用 np.copyto 写入 token_ids_cpu，避免长 prompt 场景反复 list->NumPy 转换开销（尤其是抢占/反复进出 batch 时）

perf: DS-量化模型融合qa和kva的gemm

See merge request dcutoolkit/deeplearing/vllm!329

fix: chunk-prefill生成的token被错误返回

See merge request dcutoolkit/deeplearing/vllm!327

[feat]解决deepep auto模式 mtp >1 时卡住

See merge request dcutoolkit/deeplearing/vllm!326

This reverts commit 059b1961.

V0.9.2 dev main+mtp zero

See merge request dcutoolkit/deeplearing/vllm!325

[feat]解决deepep auto模式卡住问题

See merge request dcutoolkit/deeplearing/vllm!324