README.md 1.99 KB
Newer Older
root's avatar
root committed
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
## 文件结构
```
    ---models
        ---model_1
            --- dataset
            --- logs
            --- mxr
            --- trt
            --- onnx
        ---model_2
            --- dataset
            --- logs
        ---model_3
            --- dataset
            --- logs
```

## DCU 环境配置

```
    1. 拉去docker 镜像
    docker pull image.sourcefind.cn:5000/dcu/admin/base/tensorflow:2.13.1-py3.10-dtk24.04.3-ubuntu20.04

    2. 创建容器
    # CONTAINER_NAME 容器的名字
    docker run -id \
    --shm-size 200g \
    --network=host \
    --name=$CONTAINER_NAME \
    --privileged \
    --device=/dev/kfd \
    --device=/dev/dri \
    --device=/dev/mkfd \
    --ipc=host \
    --group-add video \
    --cap-add=SYS_PTRACE \
    --security-opt seccomp=unconfined \
    -v /opt/hyhal/:/opt/hyhal/ \
    image.sourcefind.cn:5000/dcu/admin/base/tensorflow:2.13.1-py3.10-dtk24.04.3-ubuntu20.04 /bin/bash

    3. 启动进入镜像
    docker exec -it $CONTAINER_NAME /bin/bash
    
    4. 安装 migraphx
    下载 https://download.sourcefind.cn:65024/directlink/4/migraphx/DAS1.3/migraphx-4.5.0+das.opt1.dtk24043-cp310-cp310-manylinux_2_28_x86_64.run

    bash migraphx-4.5.0+das.opt1.dtk24043-cp310-cp310-manylinux_2_28_x86_64.run 可以正常安装
```

## L20 环境配置
```
    TF 测试镜像 docker pull nvcr.io/nvidia/tensorflow:23.10-tf2-py3
    trtexec 测试镜像 docker pull nvcr.io/nvidia/tensorrt:24.09-py3

```


## 测试数据生成
    - python ./utils/generate_data.py 
    相关参数指定见 generate_data.py 文件 

## model_1 模型转换

    
    - python ./utils/convert_pb_onnx.py

    - python ./utils/convert_onnx_dynamic_to_static.py

## TF 推理

    - python ./src/tf_session_infer.py
    测试数据输出到对应模型的logs文件目录下

## model_1 转 mxr 和 trt 模型

    - python ./src/onnx2mxr.py
    - bash ./src/onnx2trt.sh

## model_1 migraphx-driver 推理
    - bash ./src/migraphx-driver.sh

## model_1 trtexec 推理
    - bash ./src/trtexec.sh