readme.md 2.79 KB
Newer Older
LDOUBLEV's avatar
LDOUBLEV committed
1

LDOUBLEV's avatar
LDOUBLEV committed
2
# Jeston部署PaddleOCR模型
LDOUBLEV's avatar
LDOUBLEV committed
3
4
5
6
7
8
9
10

本节介绍PaddleOCR在Jeston NX、TX2、nano、AGX等系列硬件的部署。


## 1. 环境准备

需要准备一台Jeston开发板,如果需要TensorRT预测,需准备好TensorRT环境,建议使用7.1.3版本的TensorRT;

LDOUBLEV's avatar
LDOUBLEV committed
11
1. jeston安装PaddlePaddle
LDOUBLEV's avatar
LDOUBLEV committed
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28

paddlepaddle下载[链接](https://www.paddlepaddle.org.cn/inference/user_guides/download_lib.html#python)
请选择适合的您Jetpack版本、cuda版本、trt版本的安装包。

安装命令:
```shell
pip3 install -U paddlepaddle_gpu-*-cp36-cp36m-linux_aarch64.whl
```


2. 下载PaddleOCR代码并安装依赖

首先 clone PaddleOCR 代码:
```
git clone https://github.com/PaddlePaddle/PaddleOCR
```

LDOUBLEV's avatar
LDOUBLEV committed
29
然后,安装依赖:
LDOUBLEV's avatar
LDOUBLEV committed
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
```
cd PaddleOCR
pip3 install -r requirements.txt
```

*注:jeston硬件CPU较差,依赖安装较慢,请耐心等待*


## 2. 执行预测

[文档](../../doc/doc_ch/ppocr_introduction.md) 模型库中获取PPOCR模型,下面以PP-OCRv3模型为例,介绍在PPOCR模型在jeston上的使用方式:

下载并解压PP-OCRv3模型
```
wget https://paddleocr.bj.bcebos.com/PP-OCRv3/chinese/ch_PP-OCRv3_det_infer.tar
wget https://paddleocr.bj.bcebos.com/PP-OCRv3/chinese/ch_PP-OCRv3_rec_infer.tar
tar xf ch_PP-OCRv3_det_infer.tar
tar xf ch_PP-OCRv3_rec_infer.tar
```

执行文本检测预测:
```
cd PaddleOCR
LDOUBLEV's avatar
LDOUBLEV committed
53
python3 tools/infer/predict_det.py --det_model_dir=./inference/ch_PP-OCRv2_det_infer/  --image_dir=./doc/imgs/french_0.jpg  --use_gpu=True
LDOUBLEV's avatar
LDOUBLEV committed
54
55
```

LDOUBLEV's avatar
LDOUBLEV committed
56
57
58
59
执行命令后在终端会打印出预测的信息,并在 `./inference_results/` 下保存可视化结果。
![](./images/det_res_french_0.jpg)


LDOUBLEV's avatar
LDOUBLEV committed
60
61
执行文本识别预测:
```
LDOUBLEV's avatar
LDOUBLEV committed
62
63
64
65
66
67
python3 tools/infer/predict_det.py --rec_model_dir=./inference/ch_PP-OCRv2_rec_infer/  --image_dir=./doc/imgs_words/en/word_2.png  --use_gpu=True --rec_image_shape="3,48,320"
```

执行命令后在终端会打印出预测的信息,输出如下:
```
[2022/04/28 15:41:45] root INFO: Predicts of ./doc/imgs_words/en/word_2.png:('yourself', 0.98084533)
LDOUBLEV's avatar
LDOUBLEV committed
68
69
70
71
72
```

执行文本检测+文本识别串联预测:

```
LDOUBLEV's avatar
LDOUBLEV committed
73
python3 tools/infer/predict_system.py --det_model_dir=./inference/ch_PP-OCRv2_det_infer/ --rec_model_dir=./inference/ch_PP-OCRv2_rec_infer/ --image_dir=./doc/imgs/ --use_gpu=True --rec_image_shape="3,48,320"
LDOUBLEV's avatar
LDOUBLEV committed
74
75
```

LDOUBLEV's avatar
LDOUBLEV committed
76
77
78
执行命令后在终端会打印出预测的信息,并在 `./inference_results/` 下保存可视化结果。
![](./images/00057937.jpg)

LDOUBLEV's avatar
LDOUBLEV committed
79
80
开启TRT预测只需要在以上命令基础上设置`--use_tensorrt=True`即可:
```
LDOUBLEV's avatar
LDOUBLEV committed
81
python3 tools/infer/predict_system.py --det_model_dir=./inference/ch_PP-OCRv2_det_infer/ --rec_model_dir=./inference/ch_PP-OCRv2_rec_infer/ --image_dir=./doc/imgs/00057937.jpg --use_gpu=True --use_tensorrt=True --rec_image_shape="3,48,320"
LDOUBLEV's avatar
LDOUBLEV committed
82
83
84
```

更多ppocr模型预测请参考[文档](../../doc/doc_ch/inference_ppocr.md)