Skip to content
GitLab
Menu
Projects
Groups
Snippets
Loading...
Help
Help
Support
Community forum
Keyboard shortcuts
?
Submit feedback
Contribute to GitLab
Sign in / Register
Toggle navigation
Menu
Open sidebar
wangsen
paddle_dbnet
Commits
bd9f35d5
Commit
bd9f35d5
authored
Oct 19, 2021
by
LDOUBLEV
Browse files
Merge branch 'dygraph' of
https://github.com/PaddlePaddle/PaddleOCR
into test_v10
parents
24040eb4
3bc7670f
Changes
29
Hide whitespace changes
Inline
Side-by-side
Showing
9 changed files
with
38 additions
and
26 deletions
+38
-26
PTDN/readme.md
PTDN/readme.md
+38
-26
PTDN/results/cpp_ppocr_det_mobile_results_fp16.txt
PTDN/results/cpp_ppocr_det_mobile_results_fp16.txt
+0
-0
PTDN/results/cpp_ppocr_det_mobile_results_fp32.txt
PTDN/results/cpp_ppocr_det_mobile_results_fp32.txt
+0
-0
PTDN/results/python_ppocr_det_mobile_results_fp16.txt
PTDN/results/python_ppocr_det_mobile_results_fp16.txt
+0
-0
PTDN/results/python_ppocr_det_mobile_results_fp32.txt
PTDN/results/python_ppocr_det_mobile_results_fp32.txt
+0
-0
PTDN/test_inference_cpp.sh
PTDN/test_inference_cpp.sh
+0
-0
PTDN/test_serving.sh
PTDN/test_serving.sh
+0
-0
PTDN/test_train_inference_python.sh
PTDN/test_train_inference_python.sh
+0
-0
tests/docs/test.png
tests/docs/test.png
+0
-0
No files found.
tests
/readme.md
→
PTDN
/readme.md
View file @
bd9f35d5
# 推理部署导航
飞桨除了基本的模型训练和预测,还提供了支持多端多平台的高性能推理部署工具。本文档提供了PaddleOCR中所有模型的推理部署导航,方便用户查阅每种模型的推理部署打通情况,并可以进行一键测试。
## 1. 简介
飞桨除了基本的模型训练和预测,还提供了支持多端多平台的高性能推理部署工具。本文档提供了PaddleOCR中所有模型的推理部署导航PTDN(Paddle Train Deploy Navigation),方便用户查阅每种模型的推理部署打通情况,并可以进行一键测试。
<div
align=
"center"
>
<img
src=
"docs/guide.png"
width=
"1000"
>
</div>
## 2. 汇总信息
打通情况汇总如下,已填写的部分表示可以使用本工具进行一键测试,未填写的表示正在支持中。
| 算法论文 | 模型名称 | 模型类型 | python训练预测 | 其他 |
| :--- | :--- | :---- | :-------- | :---- |
| DB |ch_ppocr_mobile_v2.0_det | 检测 | 支持 | Paddle Inference: C++预测
<br>
Paddle Serving: Python, C++
<br>
Paddle-Lite: Python, C++ / ARM CPU |
| DB |ch_ppocr_server_v2.0_det | 检测 | 支持 | Paddle Inference: C++预测
<br>
Paddle Serving: Python, C++
<br>
Paddle-Lite: Python, C++ / ARM CPU |
**字段说明:**
-
基础训练预测:包括模型训练、Paddle Inference Python预测。
-
其他:包括Paddle Inference C++预测、Paddle Serving部署、Paddle-Lite部署等。
| 算法论文 | 模型名称 | 模型类型 | 基础训练预测 | 其他 |
| :--- | :--- | :----: | :--------: | :---- |
| DB |ch_ppocr_mobile_v2.0_det | 检测 | 支持 | Paddle Inference: C++
<br>
Paddle Serving: Python, C++
<br>
Paddle-Lite:
<br>
(1) ARM CPU(C++) |
| DB |ch_ppocr_server_v2.0_det | 检测 | 支持 | Paddle Inference: C++
<br>
Paddle Serving: Python, C++
<br>
Paddle-Lite:
<br>
(1) ARM CPU(C++) |
| DB |ch_PP-OCRv2_det | 检测 |
| CRNN |ch_ppocr_mobile_v2.0_rec | 识别 | 支持 | Paddle Inference: C++
预测
<br>
Paddle Serving: Python, C++
<br>
Paddle-Lite:
Python, C++ /
ARM CPU |
| CRNN |ch_ppocr_server_v2.0_rec | 识别 | 支持 | Paddle Inference: C++
预测
<br>
Paddle Serving: Python, C++
<br>
Paddle-Lite:
Python, C++ /
ARM CPU |
| CRNN |ch_ppocr_mobile_v2.0_rec | 识别 | 支持 | Paddle Inference: C++
<br>
Paddle Serving: Python, C++
<br>
Paddle-Lite:
<br>
(1)
ARM CPU
(C++)
|
| CRNN |ch_ppocr_server_v2.0_rec | 识别 | 支持 | Paddle Inference: C++
<br>
Paddle Serving: Python, C++
<br>
Paddle-Lite:
<br>
(1)
ARM CPU
(C++)
|
| CRNN |ch_PP-OCRv2_rec | 识别 |
| PP-OCR |ch_ppocr_mobile_v2.0 | 检测+识别 | 支持 | Paddle Inference: C++
<br>
Paddle Serving: Python, C++
<br>
Paddle-Lite:
<br>
(1) ARM CPU(C++) |
| PP-OCR |ch_ppocr_server_v2.0 | 检测+识别 | 支持 | Paddle Inference: C++
<br>
Paddle Serving: Python, C++
<br>
Paddle-Lite:
<br>
(1) ARM CPU(C++) |
|PP-OCRv2|ch_PP-OCRv2 | 检测+识别 | 支持 | Paddle Inference: C++
<br>
Paddle Serving: Python, C++
<br>
Paddle-Lite:
<br>
(1) ARM CPU(C++) |
| DB |det_mv3_db_v2.0 | 检测 |
| DB |det_r50_vd_db_v2.0 | 检测 |
| EAST |det_mv3_east_v2.0 | 检测 |
...
...
@@ -39,7 +51,7 @@
## 一键测试工具使用
##
3.
一键测试工具使用
### 目录介绍
```
shell
...
...
@@ -56,18 +68,18 @@ tests/
├── ppocr_rec_server_params.txt
# 测试server版ppocr识别模型的参数配置文件
├── ...
├── results/
# 预先保存的预测结果,用于和实际预测结果进行精读比对
├── ppocr_det_mobile_results_fp32.txt
# 预存的mobile版ppocr检测模型fp32精度的结果
├── ppocr_det_mobile_results_fp16.txt
# 预存的mobile版ppocr检测模型fp16精度的结果
├── ppocr_det_mobile_results_fp32
_cpp
.txt
# 预存的mobile版ppocr检测模型c++预测的fp32精度的结果
├── ppocr_det_mobile_results_fp16
_cpp
.txt
# 预存的mobile版ppocr检测模型c++预测的fp16精度的结果
├──
python_
ppocr_det_mobile_results_fp32.txt
# 预存的mobile版ppocr检测模型
python预测
fp32精度的结果
├──
python_
ppocr_det_mobile_results_fp16.txt
# 预存的mobile版ppocr检测模型
python预测
fp16精度的结果
├──
cpp_
ppocr_det_mobile_results_fp32.txt
# 预存的mobile版ppocr检测模型c++预测的fp32精度的结果
├──
cpp_
ppocr_det_mobile_results_fp16.txt
# 预存的mobile版ppocr检测模型c++预测的fp16精度的结果
├── ...
├── prepare.sh
# 完成test_*.sh运行所需要的数据和模型下载
├── test_python.sh
# 测试python训练预测的主程序
├── test_cpp.sh
# 测试c++预测的主程序
├── test_serving.sh
# 测试serving部署预测的主程序
├── test_lite.sh
# 测试lite部署预测的主程序
├── compare_results.py
# 用于对比log中的预测结果与results中的预存结果精度误差是否在限定范围内
└── readme.md
# 使用文档
├── prepare.sh
# 完成test_*.sh运行所需要的数据和模型下载
├── test_
train_inference_
python.sh
# 测试python训练预测的主程序
├── test_
inference_
cpp.sh
# 测试c++预测的主程序
├── test_serving.sh
# 测试serving部署预测的主程序
├── test_lite.sh
# 测试lite部署预测的主程序
├── compare_results.py
# 用于对比log中的预测结果与results中的预存结果精度误差是否在限定范围内
└── readme.md
# 使用文档
```
### 测试流程
...
...
@@ -81,13 +93,13 @@ tests/
3.
用
`compare_results.py`
对比log中的预测结果和预存在results目录下的结果,判断预测精度是否符合预期(在误差范围内)。
其中,有4个测试主程序,功能如下:
-
`test_python.sh`
:测试基于Python的模型训练、评估、推理等基本功能,包括裁剪、量化、蒸馏。
-
`test_cpp.sh`
:测试基于C++的模型推理。
-
`test_
train_inference_
python.sh`
:测试基于Python的模型训练、评估、推理等基本功能,包括裁剪、量化、蒸馏。
-
`test_
inference_
cpp.sh`
:测试基于C++的模型推理。
-
`test_serving.sh`
:测试基于Paddle Serving的服务化部署功能。
-
`test_lite.sh`
:测试基于Paddle-Lite的端侧预测部署功能。
各功能测试中涉及
GPU/CPU、
mkldnn、Tensorrt等多种参数配置,点击相应链接了解更多细节和使用教程:
[
test_python使用
](
docs/test_python.md
)
[
test_cpp使用
](
docs/test_cpp.md
)
[
test_serving使用
](
docs/test_serving.md
)
[
test_lite使用
](
docs/test_lite.md
)
各功能测试中涉及
混合精度、裁剪、量化等训练相关,及
mkldnn、Tensorrt等多种
预测相关
参数配置,
请
点击
下方
相应链接了解更多细节和使用教程:
[
test_
train_inference_
python
使用
](
docs/test_
train_inference_
python.md
)
[
test_
inference_
cpp
使用
](
docs/test_
inference_
cpp.md
)
[
test_serving
使用
](
docs/test_serving.md
)
[
test_lite
使用
](
docs/test_lite.md
)
tests
/results/cpp_ppocr_det_mobile_results_fp16.txt
→
PTDN
/results/cpp_ppocr_det_mobile_results_fp16.txt
View file @
bd9f35d5
File moved
tests
/results/cpp_ppocr_det_mobile_results_fp32.txt
→
PTDN
/results/cpp_ppocr_det_mobile_results_fp32.txt
View file @
bd9f35d5
File moved
tests
/results/python_ppocr_det_mobile_results_fp16.txt
→
PTDN
/results/python_ppocr_det_mobile_results_fp16.txt
View file @
bd9f35d5
File moved
tests
/results/python_ppocr_det_mobile_results_fp32.txt
→
PTDN
/results/python_ppocr_det_mobile_results_fp32.txt
View file @
bd9f35d5
File moved
tests/test
_cpp.sh
→
PTDN/test_inference
_cpp.sh
View file @
bd9f35d5
File moved
tests
/test_serving.sh
→
PTDN
/test_serving.sh
View file @
bd9f35d5
File moved
tests/test
_python.sh
→
PTDN/test_train_inference
_python.sh
View file @
bd9f35d5
File moved
tests/docs/test.png
deleted
100644 → 0
View file @
24040eb4
71.8 KB
Prev
1
2
Next
Write
Preview
Markdown
is supported
0%
Try again
or
attach a new file
.
Attach a file
Cancel
You are about to add
0
people
to the discussion. Proceed with caution.
Finish editing this message first!
Cancel
Please
register
or
sign in
to comment