profiler.cpp 2.95 KB
Newer Older
1
2
3
4
#include <iostream>
#include <numeric>
#include <initializer_list>
#include <cstdlib>
5
#include <cstring>
6

7
// int profile_gemm(int, char*[]);
zjing14's avatar
zjing14 committed
8
int profile_batched_gemm(int, char*[]);
9
10
11
12
13
14
15
16
17
// int profile_gemm_bias_2d(int, char*[]);
// int profile_gemm_bias_relu(int, char*[]);
// int profile_gemm_bias_relu_add(int, char*[]);
// int profile_conv_fwd(int, char*[]);
// int profile_conv_fwd_bias_relu(int, char*[]);
// int profile_conv_fwd_bias_relu_add(int, char*[]);
// int profile_conv_fwd_bias_relu_atomic_add(int, char*[]);
// int profile_conv_bwd_data(int, char*[]);
// int profile_reduce(int, char*[]);
18
19
20

int main(int argc, char* argv[])
{
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
    // if(strcmp(argv[1], "gemm") == 0)
    // {
    //     return profile_gemm(argc, argv);
    // }
    // else if(strcmp(argv[1], "gemm_bias_2d") == 0)
    // {
    //     return profile_gemm_bias_2d(argc, argv);
    // }
    // else if(strcmp(argv[1], "gemm_bias_relu") == 0)
    // {
    //     return profile_gemm_bias_relu(argc, argv);
    // }
    // else if(strcmp(argv[1], "gemm_bias_relu_add") == 0)
    // {
    //     return profile_gemm_bias_relu_add(argc, argv);
    // }
    // else if(strcmp(argv[1], "batched_gemm") == 0)
    // {
    //     return profile_batched_gemm(argc, argv);
    // }
    // else if(strcmp(argv[1], "conv_fwd") == 0)
    // {
    //     return profile_conv_fwd(argc, argv);
    // }
    // else if(strcmp(argv[1], "conv_fwd_bias_relu") == 0)
    // {
    //     return profile_conv_fwd_bias_relu(argc, argv);
    // }
    // else if(strcmp(argv[1], "conv_fwd_bias_relu_add") == 0)
    // {
    //     return profile_conv_fwd_bias_relu_add(argc, argv);
    // }
    // else if(strcmp(argv[1], "conv_fwd_bias_relu_atomic_add") == 0)
    // {
    //     return profile_conv_fwd_bias_relu_atomic_add(argc, argv);
    // }
    // else if(strcmp(argv[1], "conv_bwd") == 0)
    // {
    //     return profile_conv_bwd_data(argc, argv);
    // }
    // else if(strcmp(argv[1], "reduce") == 0)
    // {
    //     return profile_reduce(argc, argv);
    // }

    if(strcmp(argv[1], "batched_gemm") == 0)
zjing14's avatar
zjing14 committed
67
68
69
    {
        return profile_batched_gemm(argc, argv);
    }
70
71
    else
    {
Chao Liu's avatar
Chao Liu committed
72
73
        // clang-format off
        printf("arg1: tensor operation (gemm: GEMM\n"
74
               "                        gemm_bias_2d: GEMM+Bias(2D)\n"
Chao Liu's avatar
Chao Liu committed
75
76
77
78
79
               "                        gemm_bias_relu: GEMM+Bias+ReLU\n"
               "                        gemm_bias_relu_add: GEMM+Bias+ReLU+Add\n"
               "                        conv_fwd: ForwardConvolution\n"
               "                        conv_fwd_bias_relu: ForwardConvolution+Bias+ReLU\n"
               "                        conv_fwd_bias_relu_add: ForwardConvolution+Bias+ReLU+Add\n"
80
               "                        conv_fwd_bias_relu_atomic_add: ForwardConvolution+Bias+ReLU+AtomicAdd\n"
81
82
               "                        conv_bwd: BackwardConvolution\n"
               "                        reduce: REDUCE\n");
Chao Liu's avatar
Chao Liu committed
83
84
        // clang-format on

85
86
87
        return 0;
    }
}