- 06 Feb, 2026 3 commits
-
-
chenyue3 authored
- 在 C++ 算子中移除 query/key/residual 的 contiguous 强校验 - 对非连续输入使用工作张量执行计算(优化路径与 fallback 路径统一) - 计算完成后将结果 copy_ 回原张量,保持 in-place 语义 - 移除 qwen3 / qwen3_moe Python 前向中的 q、k.contiguous() 预处理
-
chenyue3 authored
launch_opt_rms_rope 增加 rot_dim=64/128 分发路径 放宽 supports_qwen3_opt 条件,允许 rot_dim=64 进入优化分支 qwen3 / qwen3_moe 将 q_bias、k_bias 参数统一为 q_residual、k_residual qwen3_moe 的自定义 op 注册增加重复注册保护"`
-
laibao authored
- 在 vLLM _C 扩展中新增 rms_rotary_embedding_fuse(注册 op + CUDA kernel),减少对 LightOp 的硬依赖 - 新增环境变量 VLLM_FUSED_RMS_ROPE_BACKEND=auto|vllm|lightop,auto 优先走 vLLM,缺失时回退 LightOp - 更新 Qwen3 / Qwen3-MoE 的 fused 路径按后端选择执行 - 补充 tc_opt benchmark 结果解析脚本 benchmarks/tc_opt/test/parse_bench_results.py
-