Skip to content

GitLab

Switch branch/tag
Find file BlameHistoryPermalink
  • laibao's avatar
    perf: 加速 v1 InputBatch.add_request 的 token_ids 拷贝 · 8da572a9
    laibao authored 
    新增环境变量开关 VLLM_V1_FAST_TOKEN_ID_COPY（默认关闭）。开启后在 CachedRequestState 中缓存 prompt_token_ids 的 np.int32，并在 add_request 里用 np.copyto 写入 token_ids_cpu，避免长 prompt 场景反复 list->NumPy 转换开销（尤其是抢占/反复进出 batch 时）
    8da572a9
gpu_input_batch.py 39.7 KB