Skip to content

GitLab

Commit ea1bee47 authored by sunxx1's avatar sunxx1
Browse files

Merge branch 'mmpretrain' into 'master' 

MMPretrain

See merge request !2
parents 13967a0a 766dadab
Hide whitespace changes
Inline Side-by-side
Showing with 50 additions and 37 deletions
.gitmodules
View file @ ea1bee47
[submodule "mmclassification-mmcv"]
path = mmclassification-mmcv
url = http://developer.hpccube.com/codes/aicomponent/mmclassification-mmcv
[submodule "mmpretrain-mmcv"]
path = mmpretrain-mmcv
url = https://developer.hpccube.com/codes/OpenDAS/mmpretrain-mmcv
README.md
View file @ ea1bee47
......@@ -10,7 +10,7 @@ MobileNetV2: Inverted Residuals and Linear Bottlenecks
MobileNetV2是一种轻量级的卷积神经网络模型，由Google在2018年提出。它是MobileNet系列中的第二个版本，主要用于移动设备和嵌入式设备等资源受限的环境中进行图像分类、目标检测等计算机视觉任务。
![d15a0e56517b4f7284a862f1d6eaef9a](./images/d15a0e56517b4f7284a862f1d6eaef9a.png)
![loading-ag-535](./images/d15a0e56517b4f7284a862f1d6eaef9a.png)
......@@ -24,22 +24,33 @@ MobileNetV2的网络结构主要由两部分组成：特征提取层和分类器
### Docker（方法一）
推荐使用docker方式运行，拉取提供的docker镜像
```shell
docker pull image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.1.0-ubuntu20.04-dtk24.04.1-py3.10
```
基于拉取的镜像创建容器
```shell
# <your IMAGE ID or NAME>用以上拉取的docker的镜像ID或名称替换
docker run -it --name=mobilenetv2 --network=host --ipc=host --shm-size=16g --device=/dev/kfd --device=/dev/dri --device=/dev/mkfd --group-add video --privileged --cap-add=SYS_PTRACE --security-opt seccomp=unconfined -v /opt/hyhal:/opt/hyhal:ro -v $PWD/mobilenetv2_mmcv:/home/mobilenetv2_mmcv <your IMAGE ID> bash
```
克隆git仓库，并安装相关依赖
```python
git clone --recursive http://developer.hpccube.com/codes/modelzoo/mobilenetv2_mmcv.git
docker pull image.sourcefind.cn:5000/dcu/admin/base/pytorch:1.10.0-centos7.6-dtk-22.10.1-py37-latest
# <your IMAGE ID>用以上拉取的docker的镜像ID替换
docker run --shm-size 10g --network=host --name=mobilenetv2 --privileged --device=/dev/kfd --device=/dev/dri --group-add video --cap-add=SYS_PTRACE --security-opt seccomp=unconfined -v $PWD/mobilenetv2_mmcv:/home/mobilenetv2_mmcv -it <your IMAGE ID> bash
cd mobilenetv2_mmcv/mmclassification-mmcv
cd mobilenetv2_mmcv/mmpretrain-mmcv
pip install -r requirements.txt
```
### Dockerfile（方法二）
```plaintext
```shell
cd mobilenetv2_mmcv/docker
docker build --no-cache -t mobilenetv2_mmcv:latest .
docker run --rm --shm-size 10g --network=host --name=mobilenetv2 --privileged --device=/dev/kfd --device=/dev/dri --group-add video --cap-add=SYS_PTRACE --security-opt seccomp=unconfined -v $PWD/../../mobilenetv2_mmcv:/home/mobilenetv2_mmcv -it <your IMAGE ID> bash
docker run -it --name=mobilenetv2 --network=host --ipc=host --shm-size=16g --device=/dev/kfd --device=/dev/dri --device=/dev/mkfd --group-add video --privileged --cap-add=SYS_PTRACE --security-opt seccomp=unconfined -v /opt/hyhal:/opt/hyhal:ro -v $PWD/mobilenetv2_mmcv:/home/mobilenetv2_mmcv <your IMAGE ID> bash
# 若遇到Dockerfile启动的方式安装环境需要长时间等待，可注释掉里面的pip安装，启动容器后再安装python库：pip install -r requirements.txt
```
......@@ -48,61 +59,60 @@ docker run --rm --shm-size 10g --network=host --name=mobilenetv2 --privileged --
1、关于本项目DCU显卡所需的特殊深度学习库可从光合开发者社区下载安装： https://developer.hpccube.com/tool/
```plaintext
DTK驱动：dtk22.10.1
python：python3.7
torch:1.10.0
torchvision:0.10.0
mmcv：1.6.1
DTK驱动: DTK-24.04.1
python==3.10
torch==2.1.0
torchvision==0.16.0+das1.1.git7d45932.abi1.dtk2404.torch2.1
mmcv==2.0.1+das1.1.gite58da25.abi1.dtk2404.torch2.1.0
Tips：以上dtk驱动、python、torch等DCU相关工具版本需要严格一一对应
```
2、其它非特殊库参照requirements.txt安装
```plaintext
```shell
pip install -r requirements.txt
```
## 数据集
在本测试中可以使用ImageNet数据集。
在本测试中可以使用ImageNet数据集。下载ImageNet数据集：https://image-net.org/
下载ImageNet数据集：https://image-net.org/
imagenet完整数据集较大，也可以使用[tiny-imagenet-200](http://cs231n.stanford.edu/tiny-imagenet-200.zip)，但此时需要对配置脚本进行一些修改，在mmpretrain-mmcv中提供了使用tinyimagenet进行训练的配置脚本。
下载val数据：链接：https://pan.baidu.com/s/1oXsmsYahGVG3uOZ8e535LA?pwd=c3bc 提取码：c3bc 替换ImageNet数据集中的val目录，处理后的数据结构如下：
将数据集解压后放置于mmpretrain-mmcv/data/，目录结构如下：
```
data
├──imagenet
├── meta
├──val.txt
├──train.txt
...
├── train
├── val
└── imagenet
├── test/
├── train/
├── val/
├── wnids.txt
└── words.txt
```
SCNet快速下载链接[http://113.200.138.88:18080/aidatasets/project-dependency/imagenet-2012
](http://113.200.138.88:18080/aidatasets/project-dependency/imagenet-2012
)
SCNet快速下载链接[imagenet-2012](http://113.200.138.88:18080/aidatasets/project-dependency/imagenet-2012)
## 训练
将训练数据解压到data目录下。
### 单机8卡
./mobilenetv2.sh
```shell
bash tools/dist_train.sh configs/mobilenet_v2/mobilenet-v2_8xb32_in1k.py 8
```
## result
![img](https://developer.hpccube.com/codes/modelzoo/vit_pytorch/-/raw/master/image/README/1695381570003.png)
| 模型 | 预训练 | Params (M) | Flops (G) | Top-1 (%) | Top-5 (%) | 配置文件 |
| ------------------------- | ---- | ---------- | --------- | --------- | --------- | ----------------------------------------------- |
| `mobilenet-v2_8xb32_in1k` | 从头训练 | 3.50 | 0.32 | 71.86 | 90.42 | configs/mobilenet_v2/mobilenet-v2_8xb32_in1k.py |
### 精度
![img](https://developer.hpccube.com/codes/modelzoo/vit_pytorch/-/raw/master/image/README/1695381570003.png)
测试数据使用的是ImageNet数据集，使用的加速卡是DCU Z100L。
| 卡数 | 精度 |
| :--: | :-----------------------: |
| 8 | top1:0.71764;top5:0.90386 |
## 应用场景
......
docker/Dockerfile
View file @ ea1bee47
FROM image.sourcefind.cn:5000/dcu/admin/base/pytorch:1.10.0-centos7.6-dtk-22.10.1-py37-latest
FROM image.sourcefind.cn:5000/dcu/admin/base/pytorch:pytorch:2.1.0-ubuntu20.04-dtk24.04.1-py3.10
ENV DEBIAN_FRONTEND=noninteractive
# 安装pip相关依赖
COPY requirements.txt requirements.txt
......
mmclassification-mmcv @ 0f6a312a
Subproject commit 0f6a312ab4b30c6e27efd93608268fe0fe3f7dcc
mmpretrain-mmcv @ 8c112561
Subproject commit 8c11256107d7cf162b93b93e2960005ed3fbd493
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment