"vllm/benchmarks/datasets/datasets.py" did not exist on "ba2f0acc2d69cb11f2c1bce895521550fa73bcc3"
新增环境变量开关 VLLM_V1_FAST_TOKEN_ID_COPY(默认关闭)。开启后在 CachedRequestState 中缓存 prompt_token_ids 的 np.int32,并在 add_request 里用 np.copyto 写入 token_ids_cpu,避免长 prompt 场景反复 list->NumPy 转换开销(尤其是抢占/反复进出 batch 时)
新增环境变量 VLLM_V1_USE_REDUCED_TOPK_TOPP_SAMPLER 用于开关控制 扩展 SamplingMetadata,增加 max_top_k 与 has_any_no_top_k 在 InputBatch 侧计算 top-k 的主机端汇总信息,避免 device 同步 更新 Sampler/TopKTopPSampler 传递并使用新参数以启用优化采样
update VLLM_USE_LIGHTOP_RMS_ROPE_CONCAT impl