1. 17 Jan, 2026 1 commit
  2. 13 Jan, 2026 3 commits
  3. 12 Jan, 2026 1 commit
  4. 09 Jan, 2026 1 commit
  5. 07 Jan, 2026 1 commit
  6. 06 Jan, 2026 1 commit
  7. 04 Jan, 2026 1 commit
    • laibao's avatar
      perf: 加速 v1 InputBatch.add_request 的 token_ids 拷贝 · fbe8587a
      laibao authored
      新增环境变量开关 VLLM_V1_FAST_TOKEN_ID_COPY(默认关闭)。开启后在 CachedRequestState 中缓存 prompt_token_ids 的 np.int32,并在 add_request 里用 np.copyto 写入 token_ids_cpu,避免长 prompt 场景反复 list->NumPy 转换开销(尤其是抢占/反复进出 batch 时)
      fbe8587a
  8. 29 Dec, 2025 1 commit
  9. 25 Dec, 2025 2 commits
  10. 24 Dec, 2025 1 commit
    • laibao's avatar
      V1 采样器:新增 reduced top-k/top-p 采样路径 · 9b1e03d4
      laibao authored
      新增环境变量 VLLM_V1_USE_REDUCED_TOPK_TOPP_SAMPLER 用于开关控制
      扩展 SamplingMetadata,增加 max_top_k 与 has_any_no_top_k
      在 InputBatch 侧计算 top-k 的主机端汇总信息,避免 device 同步
      更新 Sampler/TopKTopPSampler 传递并使用新参数以启用优化采样
      9b1e03d4
  11. 23 Dec, 2025 1 commit
  12. 22 Dec, 2025 2 commits
  13. 21 Dec, 2025 1 commit
  14. 18 Dec, 2025 3 commits
  15. 09 Dec, 2025 1 commit
  16. 08 Dec, 2025 2 commits
  17. 05 Dec, 2025 1 commit
    • laibao's avatar
      [bugfix] 优化 reject-sampling 的 InputBatch 元数据处理 · a0d556fe
      laibao authored
      - 在 InputBatch.refresh_metadata 中为展开后的采样元数据引入 repeat_count 记录重复次数
      - 完善元数据刷新逻辑以适配 reject-sampling 优化路径
      - 更新 GPUModelRunnerBase,在 batch 处理阶段正确消费新的采样元数据与重复计数
      a0d556fe
  18. 28 Nov, 2025 1 commit
  19. 27 Nov, 2025 1 commit
  20. 26 Nov, 2025 2 commits
  21. 21 Nov, 2025 1 commit
  22. 15 Nov, 2025 1 commit
  23. 13 Nov, 2025 1 commit
  24. 27 Oct, 2025 1 commit
  25. 17 Oct, 2025 2 commits
  26. 13 Oct, 2025 1 commit
  27. 11 Oct, 2025 2 commits
  28. 10 Oct, 2025 3 commits