GitLab

Support blaslt w8a8 GEMM op.

See merge request dcutoolkit/deeplearing/vllm!238

[fix]修复mtp中的笔误

See merge request dcutoolkit/deeplearing/vllm!249

解决w8a8 pp16开启marlin的oom问题

See merge request dcutoolkit/deeplearing/vllm!248

[fix]解决开启mtp后，在极端情况碰到显存不足时，导致mla中申请的tensor数据错乱问题

See merge request dcutoolkit/deeplearing/vllm!247

fix：修复pp卡住问题

See merge request dcutoolkit/deeplearing/vllm!245

- 更新环境变量以控制流水线并行调度的最小注入。
- 从 Request 类中移除 num_output_placeholders，并调整 Scheduler 逻辑以使用新的最小注入功能。
- 增强 Scheduler，根据批次队列状态管理最小进度注入。

[fix]解决同时开启chunked-prefill和并行解码出现的指标统计错误问题

See merge request dcutoolkit/deeplearing/vllm!244

- 在环境变量中引入 `VLLM_ENABLE_OUTPUT_PLACEHOLDERS` 以控制输出占位符的启用。
- 在 `Request` 类中增加 `num_output_placeholders` 属性，用于跟踪预计生成的 token 数量。
- 更新调度逻辑以利用输出占位符，确保在解码过程中避免 0-token 停滞。
- 移除不再使用的最小进度注入相关代码，简化调度器实现。

feat: w8a8_marlin 接入，通过-q slimquant_marlin开启，优化w4a8_marlin代码

See merge request dcutoolkit/deeplearing/vllm!240

增加pd分离单实例跨机第二个ip通过配置文件获取。配置文件上设置如下：

See merge request dcutoolkit/deeplearing/vllm!234