GitLab

新增环境变量开关 VLLM_V1_FAST_TOKEN_ID_COPY（默认关闭）。开启后在 CachedRequestState 中缓存 prompt_token_ids 的 np.int32，并在 add_request 里用 np.copyto 写入 token_ids_cpu，避免长 prompt 场景反复 list->NumPy 转换开销（尤其是抢占/反复进出 batch 时）

add indexer_k_cache_kernel

fix: 修复deepseek量化模型的若干问题

See merge request dcutoolkit/deeplearing/vllm!338

[feat] 支持 mRoPE 的 fused RMSNorm+RoPE 路径，并修正 torch.compile 动态维度标注

See merge request dcutoolkit/deeplearing/vllm!334

实现了用于优化张量计算的 rms_mrope_fuse 和 rms_mrope_fuse_fake 方法
更新了 forward：在满足条件时走新的 M-RoPE 融合路径
增强了 Qwen3MoeModel 对动态参数维度的支持，以适配该功能

在v0.11中暂不支持w4a16的moe算子scale和zero合并操作

See merge request dcutoolkit/deeplearing/vllm!318

[PD][Feat]支持fa_pa kvcahe类型模型推理

See merge request dcutoolkit/deeplearing/vllm!317

set VLLM_USE_PIECEWISE=0

适配gptq/awq的triton moe算子

See merge request dcutoolkit/deeplearing/vllm!313

merge v0.11.0-nccl into v0.11.0-dev

See merge request dcutoolkit/deeplearing/vllm!305

解决gptq的不能开启graph的问题

See merge request dcutoolkit/deeplearing/vllm!304

修复CompressedTensorsLinearMethod中的w4a16的冲突问题

See merge request dcutoolkit/deeplearing/vllm!302

feat: add Marlin W16A16 fused MoE behind VLLM_USE_MARLIN_W16A16_MOE

See merge request dcutoolkit/deeplearing/vllm!300