GitLab

- 在环境变量中引入 `VLLM_ENABLE_OUTPUT_PLACEHOLDERS` 以控制输出占位符的启用。
- 在 `Request` 类中增加 `num_output_placeholders` 属性，用于跟踪预计生成的 token 数量。
- 更新调度逻辑以利用输出占位符，确保在解码过程中避免 0-token 停滞。
- 移除不再使用的最小进度注入相关代码，简化调度器实现。

feat: w8a8_marlin 接入，通过-q slimquant_marlin开启，优化w4a8_marlin代码

See merge request dcutoolkit/deeplearing/vllm!240

增加pd分离单实例跨机第二个ip通过配置文件获取。配置文件上设置如下：

See merge request dcutoolkit/deeplearing/vllm!234

# 第一个ip为D的第一个节点，第二个ip为D的第二个节点,配置:export IP_CONFIG_FILE=/data/xiabo/w4a8_1/ip_config.txt
192.168.1.1 192.168.1.100
192.168.1.2 192.168.1.101
192.168.1.3 192.168.1.102
10.16.1.75 10.16.1.76

add VLLM_USE_LIGHTOP_MOE_SUM_MUL_ADD

set USE_FUSED_RMS_QUANT=1 and USE_FUSED_SILU_MUL_QUANT=1

fix the error in test_moe caused by moe align not supporting 511
multi-modal switching to torch implementation on z100l&k100

修复awq 的mtp中的blockint8的问题

See merge request dcutoolkit/deeplearing/vllm!229

删除DPSK_FP16_QUICK，以及增加awq和blockwiseint8的shared_output接口

See merge request dcutoolkit/deeplearing/vllm!228

去掉all2all ep相关代码

See merge request dcutoolkit/deeplearing/vllm!226