README.md

GEMV Benchmarks
---------------

模仿 GEMM 接口的 GEMV，即 N=1，实现 BF16 版本。这些矩阵形状来自于 Evo2 推理过程。

计算公式：y = alpha * A^T * x + beta * y
M: 输出维度，例如 11264
K: 归约维度，例如 4096
N: 始终为 1
beta: 始终为 0

## Build

```bash
# 使用 HIPCC:
CXX=hipcc make GPU_ARCH=gfx936

# 使用 NVCC:
CXX=nvcc make GPU_ARCH=sm_80
```

## Run

```bash
# BW系列:
HIP_VISIBLE_DEVICES=1 numactl -N 0 -m 0 ./gemv_bench -M 11264 -K 4096

# A800:
./gemv_bench -M 11264 -K 4096
```