README.md

# SEResNet50

## 论文

Squeeze-and-Excitation Networks

- https://arxiv.org/pdf/1709.01507.pdf

## 模型结构

SE-ResNet50是一种基于残差网络（ResNet）和注意力机制（SE）的深度卷积神经网络模型，是由微软亚洲研究院提出的，是一种高效、快速、准确的图像分类模型，具有广泛的应用前景。

![20231124110818](./images/20231124110818.png)

## 算法原理

Seresnet50的整体结构包括基础网络部分和Squeeze-and-Excitation(SE)模块。

![20231124111112](./images/20231124111112.png)

## 环境配置

### Docker（方法一）

推荐使用docker方式运行，拉取提供的docker镜像

```shell
docker pull image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.1.0-ubuntu20.04-dtk24.04.1-py3.10
```

基于拉取的镜像创建容器

```shell
# <your IMAGE ID or NAME>用以上拉取的docker的镜像ID或名称替换
docker run -it --name=seresnet50_mmcv --network=host --ipc=host --shm-size=16g  --device=/dev/kfd --device=/dev/dri --device=/dev/mkfd --group-add video --privileged --cap-add=SYS_PTRACE --security-opt seccomp=unconfined -v /opt/hyhal:/opt/hyhal:ro <your IMAGE ID> bash
```

克隆并安装git仓库，安装相关依赖

```python
git clone --recursive http://developer.hpccube.com/codes/modelzoo/seresnet50_mmcv.git
cd seresnet50_mmcv/mmpretrain-mmcv
pip install -e .
pip install -r requirements.txt
```

### Dockerfile（方法二）

```bash
cd seresnet50_mmcv/docker
docker build --no-cache -t seresnet50_mmcv:latest .
docker run -it --name=seresnet50_mmcv --network=host --ipc=host --shm-size=16g  --device=/dev/kfd --device=/dev/dri --device=/dev/mkfd --group-add video --privileged --cap-add=SYS_PTRACE --security-opt seccomp=unconfined -v /opt/hyhal:/opt/hyhal:ro <your IMAGE ID> bash
pip install -e .
# 若遇到Dockerfile启动的方式安装环境需要长时间等待，可注释掉里面的pip安装，启动容器后再安装python库：
# pip install -r requirements.txt
```

### Anaconda（方法三）

1、关于本项目DCU显卡所需的特殊深度学习库可从光合开发者社区下载安装： https://developer.hpccube.com/tool/

```plaintext
DTK驱动: DTK-24.04.1
python==3.10
torch==2.1.0
torchvision==0.16.0+das1.1.git7d45932.abi1.dtk2404.torch2.1
mmcv==2.0.1+das1.1.gite58da25.abi1.dtk2404.torch2.1.0
Tips：以上dtk驱动、python、torch等DCU相关工具版本需要严格一一对应
```

2、其它非特殊库参照requirements.txt安装

```plaintext
pip install -r requirements.txt
```

## 数据集

### ImageNet

在本项目中可以使用ImageNet数据集。ImageNet数据集官方下载地址：https://image-net.org。

也可于SCNet快速下载[imagenet-2012](http://113.200.138.88:18080/aidatasets/project-dependency/imagenet-2012)，下载其中的ILSVRC2012_img_train.tar和ILSVRC2012_img_val.tar，并按照以下方式解包

```bash
cd mmpretrain-mmcv/data/imagenet
mkdir train && cd train
tar -xvf ILSVRC2012_img_train.tar
```

解包后是1000个tar文件，每个tar对应了一个类别，分别解包至对应文件夹，可利用如下shell脚本。

```bash
for tarfile in *.tar; do
    dirname="${tarfile%.tar}"
    mkdir "$dirname"
    tar -xvf "$tarfile" -C "$dirname"
done
```

将训练数据集解压后放置于mmpretrain-mmcv/data/，对于ImageNet，目录结构如下

```
data
└── imagenet
    ├── train
    │   ├── n01440764
    │   │   ├── n01440764_10026.JPEG
    │   │   ├── n01440764_10027.JPEG
    ├──val
    │   ├── n01440764 
    │   │   ├── ILSVRC2012_val_00000293.JPEG
```

### Tiny-ImageNet-200

由于ImageNet完整数据集较大，可以使用[tiny-imagenet-200](http://cs231n.stanford.edu/tiny-imagenet-200.zip)进行测试，可于SCNet快速下载[tiny-imagenet-200-scnet](http://113.200.138.88:18080/aidatasets/project-dependency/tiny-imagenet-200) ，此时需要对配置脚本进行一些修改，可参照mmpretrain-mmcv子仓库中进行配置，其中提供了使用tiny-imagenet-200数据集进行训练的若干配置脚本。

将训练数据集解压后放置于mmpretrain-mmcv/data/，对于Tiny-ImageNet-200，目录结构如下：

```
data
└── imagenet
    ├── test/
    ├── train/
    ├── val/
    ├── wnids.txt
    └── words.txt
```

## 训练

- Tiny-ImageNet-200

```shell
bash tools/dist_train.sh seresnet50-test.py 8
```

- ImageNet

```shell
bash tools/dist_train.sh configs/seresnet/seresnet50_8xb32_in1k.py 8
```

tips：如需其他卡数训练，将命令中的8改为所需卡数即可；

如遇端口占用问题，可在tools/dist_train.sh修改端口。

## result

![img](https://developer.hpccube.com/codes/modelzoo/vit_pytorch/-/raw/master/image/README/1695381570003.png)

### 精度

测试数据使用的是ImageNet数据集，使用的加速卡是DCU Z100L。

| 卡数  | 精度                      |
|:---:|:-----------------------:|
| 8   | top1:0.7754;top5:0.9373 |

## 应用场景

### 算法类别

图像分类

### 热点行业

制造,能源,交通,网安,安防

## 源码仓库及问题反馈

https://developer.hpccube.com/codes/modelzoo/seresnet50_mmcv

## 参考资料

https://github.com/open-mmlab/mmpretrainhttps://github.com/open-mmlab/mmpretrain