Skip to content

GitLab

Switch branch/tag
  1. 13 Nov, 2025 2 commits
    • zhuwenwen's avatar
      feat: 添加输出占位符功能以优化调度 · 613edd7d
      zhuwenwen authored 
      - 在环境变量中引入 `VLLM_SCHED_ENABLE_MINIMAL_INJECTION` 以控制流水线并行调度的最小注入。
- 调整 Scheduler 逻辑以使用新的最小注入功能。
- 更新调度逻辑以利用输出占位符，确保在解码过程中避免 0-token 停滞。
- 增强 Scheduler，根据批次队列状态管理最小进度注入。
      613edd7d
    • 王敏's avatar
      [feat]w4a8和w8a8适配deepep低延迟 · 92761bde
      王敏 authored
      92761bde
  3. 10 Nov, 2025 1 commit
  5. 08 Nov, 2025 1 commit
  7. 07 Nov, 2025 1 commit
  9. 06 Nov, 2025 2 commits
  11. 27 Oct, 2025 1 commit
  13. 17 Oct, 2025 1 commit
  15. 13 Oct, 2025 2 commits
  17. 11 Oct, 2025 2 commits
  19. 10 Oct, 2025 3 commits
  21. 09 Oct, 2025 1 commit
  23. 06 Oct, 2025 1 commit
  25. 30 Sep, 2025 1 commit
  27. 28 Sep, 2025 1 commit
  29. 26 Sep, 2025 2 commits
  31. 25 Sep, 2025 1 commit
  33. 24 Sep, 2025 6 commits
  35. 23 Sep, 2025 1 commit
  37. 16 Sep, 2025 3 commits
  39. 14 Sep, 2025 1 commit
  41. 13 Sep, 2025 1 commit
  43. 12 Sep, 2025 1 commit
  45. 10 Sep, 2025 4 commits