GitLab

修改schedule_default和schedule_split_pd的选择

deepseekv2-w4a8支持custom-rms-quant融合

See merge request dcutoolkit/deeplearing/vllm!259

[fix]解决DeepSeek-V3.2 mtp启动失败

See merge request dcutoolkit/deeplearing/vllm!253

Support blaslt w8a8 GEMM op.

See merge request dcutoolkit/deeplearing/vllm!238

[fix]修复mtp中的笔误

See merge request dcutoolkit/deeplearing/vllm!249

解决w8a8 pp16开启marlin的oom问题

See merge request dcutoolkit/deeplearing/vllm!248

[fix]解决开启mtp后，在极端情况碰到显存不足时，导致mla中申请的tensor数据错乱问题

See merge request dcutoolkit/deeplearing/vllm!247

fix：修复pp卡住问题

See merge request dcutoolkit/deeplearing/vllm!245

- 更新环境变量以控制流水线并行调度的最小注入。
- 从 Request 类中移除 num_output_placeholders，并调整 Scheduler 逻辑以使用新的最小注入功能。
- 增强 Scheduler，根据批次队列状态管理最小进度注入。