# 图像分割

本示例主要通过deeplabv3模型说明如何使用MIGraphX Python API进行图像分割模型的推理，包括预处理、模型推理。

## 模型简介

本示例采用了经典的deeplabv3模型进行图像分割，将deeplabv3_resnet101.onnx文件保存在Resource/Models文件夹下。模型结构如下图所示, 链接：https://netron.app/, 该模型的输入shape为[batch_size,3,513,513]，输出shape为[batch_size,1,513,513]，数据排布为NCHW。

<img src="./Images/deeplabv3_01.jpg" style="zoom:80%;" align=middle>

## 预处理

在将数据输入到模型之前，需要对图像做如下预处理操作：

​      1.尺度变换，将图像resize到513x513大小

​      2.数据排布，将数据从HWC转换为CHW，再将维度转换为NCHW

​      3.归一化，将数据归一化到[0.0, 1.0]之间

本示例代码通过如下方式实现预处理操作：

```python
def Preprocessing(pil_img, newW, newH):
    assert newW > 0 and newH > 0, 'Scale is too small'  
    img_nd = cv2.cvtColor(pil_img, cv2.COLOR_BGR2RGB)    # BGR转换为RGB
    img_nd = cv2.resize(img_nd, (newW, newH))            # 将图像尺寸修改为256x256
    
    if len(img_nd.shape) == 2:
        img_nd = np.expand_dims(img_nd, axis=2)

    img_trans = img_nd.transpose((2, 0, 1))              # HWC转换为CHW
    img_trans = np.expand_dims(img_trans, 0)             # CHW扩展为NCHW
    img_trans = np.ascontiguousarray(img_trans)          # 保证内存连续存储
    img_trans = img_trans.astype(np.float32)             # 转换成浮点型数据
    if img_trans.max() > 1:                             
        img = img_trans / 255.0                          # 保证数据处于0-1之间的浮点数
    return img
```

## 推理

完成图像预处理后，就可以执行推理，得到推理结果。

```python
    # 加载模型
    model = migraphx.parse_onnx("../Resource/Models/deeplabv3_resnet101.onnx", map_input_dims=maxInput)

    # 获取模型输入/输出节点信息
    inputs = model.get_inputs()
    outputs = model.get_outputs()
    inputName = model.get_parameter_names()[0]
    inputShape = inputs[inputName].lens()

    #量化
    if useInt8:
        dic = dict()
        calibrate_folder_path = "../Resource/Images/"
        calibrate_image_extensions = ('.jpg')
        calibrate_image_list = []
        for filename in os.listdir(calibrate_folder_path):    
            # 检查文件是否为图片
            if filename.lower().endswith(calibrate_image_extensions):
                file_path = os.path.join(calibrate_folder_path, filename)
                img = cv2.imread(file_path)
                calibrate_image_list.append(Preprocessing(img, 513, 513))
        calibrate_img = np.concatenate(calibrate_image_list,axis=0)
        dic[inputName] = migraphx.argument(calibrate_img)
        calibration = [dic]
        migraphx.quantize_int8(model, migraphx.get_target("gpu"), calibration)
    if useFP16: 
        migraphx.quantize_fp16(model)
    
    if offloadCopy :
        # 编译模型
        model.compile(migraphx.get_target("gpu"), device_id=0)      # device_id: 设置GPU设备，默认为0号设备
        # 模型推理
        mask = model.run({'input':input_img})      
        result = mask[0]                                            # 得到第一个输出节点的结果    
    else:
        # 编译模型
        model.compile(migraphx.get_target("gpu"),offload_copy=False, device_id=0)      # device_id: 设置GPU设备，默认为0号设备
        modelData = AllocateOutputMemory(model)                                          # 为输出节点分配device内存，用于保存输出数据
        modelData[inputName] = migraphx.to_gpu(migraphx.argument(input_img))
        # 推理
        mask = model.run(modelData)
        result = migraphx.from_gpu(mask[0])                         # 获取第1个输出节点的数据,migraphx.argument类型

    # 对通道维度进行softmax
    softmax_result = softmax(result)                            
    # 计算通道维度最大值对应的索引（即类别索引）      
    max_indices = np.argmax(softmax_result, axis=1)      
    # 使用预设颜色
    color_map = np.array([
        [0, 0, 0], [255, 0, 0], [0, 255, 0], [0, 0, 255],       # 0-3类
        [255, 255, 0], [255, 0, 255], [0, 255, 255], [128, 0, 0],  # 4-7类
        [0, 128, 0], [0, 0, 128], [128, 128, 0], [128, 0, 128],  # 8-11类
        [0, 128, 128], [192, 192, 192], [128, 128, 128], [64, 0, 0],  # 12-15类
        [0, 64, 0], [0, 0, 64], [64, 64, 0], [64, 0, 64],       # 16-19类
        [0, 64, 64]                                             # 20类
    ], dtype=np.uint8)
    for i in range(max_indices.shape[0]):
        flat_index = max_indices[i]
        rgb_image = color_map[flat_index]                          # # 将二维的类别索引图直接转换为三维的 RGB 彩色图像
        fileName  = "Result_"+str(i+1)+".jpg"
        cv2.imwrite(fileName, rgb_image)                            # 保存图像分割结果

    print("Segmentation results have been saved to Python directory")                        # 保存图像分割结果

```

1.Preprocessing函数返回预处理后的数据（numpy类型），在offloadCopy==true时，通过model.run({'images':input_img})得到推理结果，在offloadCopy==false时，通过mask = model.run(modelData)得到推理结果,通过mask[0]获取第一个输出节点的数据即可。

2.模型得到的推理结果并不能直接作为分割结果。首先，需要计算softmax值，计算不同通道同一[H,W]位置的softmax值，找出概率最高的通道。其次，根据不同的通道索引转换为三维的 RGB 彩色图像。最终，保存结果得到分割图像。

注：本次采用的模型权重onnx文件是通过使用PASCAL VOC 2012数据集来训练的。因此，“现实世界“图像的分割结果不完美是意料之中的。为了获得更好的结果，建议对现实世界示例数据集上的模型进行微调。

