【官方】十分钟掌握PaddleOCR文字检测使用

#如果代码克隆较慢，请使用gitee上的PaddleOCR代码：https://gitee.com/paddlepaddle/PaddleOCR.git#!git clone  https://github.com/paddlepaddle/PaddleOCR.git!git clone  https://gitee.com/paddlepaddle/PaddleOCR.git

# 切换到PaddleOCR目录%cd ~/PaddleOCR# 切换到PaddleOCR dygraph分支!git checkout dygraph# 安装依赖!pip install -r requirements.txt -i https://mirror.baidu.com/pypi/simple

1.2. PP-OCRv3检测模型介绍

PP-OCRv3采用CML的蒸馏策略，训练配置文件为configs/det/ch_PP-OCRv3/ch_PP-OCRv3_det_cml.yml，CML蒸馏训练策略包含三个模型，分别是蒸馏教师模型以及两个蒸馏学生模型。

网络结构配置如下：

Architecture:
  name: DistillationModel
  algorithm: Distillation
  model_type: det
  Models:                   
    Student:                 # CML蒸馏的Student模型配置
      model_type: det
      algorithm: DB
      Transform: null
      Backbone:
        name: MobileNetV3    # Student模型backbone使用mobilev3
        scale: 0.5
        model_name: large
        disable_se: true
      Neck:
        name: RSEFPN         # Student模型neck部分使用PaddleOCR中的RSEFPN
        out_channels: 96
        shortcut: True
      Head:
        name: DBHead
        k: 50
    Student2:                # Student2模型的配置同Student
      model_type: det
      algorithm: DB
      Transform: null
      Backbone:
        name: MobileNetV3
        scale: 0.5
        model_name: large
        disable_se: true
      Neck:
        name: RSEFPN
        out_channels: 96
        shortcut: True
      Head:
        name: DBHead
        k: 50
    Teacher:                 # Teacher模型配置
      freeze_params: true
      return_all_feats: false
      model_type: det
      algorithm: DB
      Backbone:
        name: ResNet         # Teacher使用resnet50作为backbone 
        in_channels: 3
        layers: 50         
      Neck:
        name: LKPAN          # Teacher模型使用PaddleOCR中的LKPAN作为neck网络
        out_channels: 256
      Head:
        name: DBHead
        kernel_list: [7,2,2]  
        k: 50

注：PP-OCRv3模型分别在网络结构做了以下优化

• Student模型使用RSEPAN提升模型召回和精度；
• Teacher模型使用LKPAN提升模型精度和召回；

详细策略介绍参考链接： https://github.com/PaddlePaddle/PaddleOCR/blob/release/2.5/doc/doc_ch/PP-OCRv3_introduction.md

2. 训练文字检测模型

2.1. 准备训练数据

本教程以HierText数据集为例，介绍PP-OCRv3检测模型的蒸馏训练方式。 HierText是第一个具有自然场景和文档中文本分层注释的数据集。该数据集包含从 Open Images 数据集中选择的 11639 张图像，提供高质量的单词 (~1.2M)、行和段落级别的注释。HierText数据集下载地址： https://github.com/google-research-datasets/hiertext

值得注意的是该数据集的标注格式与ppocrlabel格式不一样，我们需要对其数据标签格式进行相应的转换。

您可以从AI Studio中直接下载标签格式转换后的HierText数据集： https://aistudio.baidu.com/aistudio/datasetdetail/143700

本教程中已经下载好了HierText数据集,并存放在~/data/data143700/文件夹中。运行如下指令，完成数据集解压：

# 准备数据集!cd ~/data/data143700/ && tar xf hiertext1.tar && mv hiertext1 hiertext && mkdir ~/PaddleOCR/train_data/ && mv hiertext ~/PaddleOCR/train_data/

运行上述命令后，在PaddleOCR/train_data/ 目录下包含以下文件：

~/train_data/hiertext
  └─ train/     HierText训练集数据
  └─ validation/     HierText验证集数据
  └─ label_hiertext_train.txt  HierText训练集的行标注
  └─ label_hiertext_val.txt    HierText验证集的行标注

其中，paddleocr支持的标注文件格式为：

" 图像文件的路径               json.dumps编码的图像标注信息"hiertext/train/1b1b8bd73eb47995.jpg	   [{"points": [[758, 283], [971, 267], [972, 279], [758, 294]], "transcription": "We are not programming in 1969 anymore"}, ...]

其中图像标注信息中包含两种参数：

• $points$points表示文本框的四个点的绝对坐标(x, y)，从左上角的点开始顺时针排列。
• $transcription$transcription表示当前文本框的文字内容，在文本检测任务中无需使用这个信息。

如果您想在其他数据集上训练PaddleOCR，可以按照上述形式构建标注文件。

CodeFormer

CodeFormer是一个基于AI技术的图像修复模型，擅长人脸修复和旧照片清晰化。

下载

之后您需要修改训练配置文件ch_PP-OCRv3_det_cml.yml中的训练数据为HierText数据。

• 修改训练数据配置：

Train:
  dataset:
    name: SimpleDataSet
    data_dir: ./train_data/icdar2015/text_localization/
    label_file_list:
      - ./train_data/icdar2015/text_localization/train_icdar2015_label.txt

修改为：

Train:
  dataset:
    name: SimpleDataSet
    data_dir: ./train_data/
    label_file_list:
      - ./train_data/hiertext/label_hiertext_train.txt

• 修改验证数据配置：

Eval:
  dataset:
    name: SimpleDataSet
    data_dir: ./train_data/icdar2015/text_localization/
    label_file_list:
      - ./train_data/icdar2015/text_localization/test_icdar2015_label.txt

修改为：

Eval:
  dataset:
    name: SimpleDataSet
    data_dir: ./train_data/
    label_file_list:
      - ./train_data/hiertext/label_hiertext_val.txt

2.2. 启动训练

下载PP-OCRv3的蒸馏预训练模型并进行训练的方式如下

#下载预训练模型到~/PaddleOCR/pre_train文件夹下!mkdir ~/PaddleOCR/pre_train
%cd ~/PaddleOCR/pre_train
!wget https://paddleocr.bj.bcebos.com/PP-OCRv3/chinese/ch_PP-OCRv3_det_distill_train.tar
!tar xf ch_PP-OCRv3_det_distill_train.tar

# 启动训练，训练模型默认保存在output目录下，加载PP-OCRv3检测预训练模型%cd ~/PaddleOCR
!python3 tools/train.py -c configs/det/ch_PP-OCRv3/ch_PP-OCRv3_det_cml.yml -o Global.save_model_dir=./output/ Global.pretrained_model=./pre_train/ch_PP-OCRv3_det_distill_train/best_accuracy

如果要使用多GPU分布式训练，请使用如下命令：

# 启动训练，训练模型默认保存在output目录下，--gpus '0,1,2,3'表示使用0，1，2，3号GPU训练!python3 -m paddle.distributed.launch --log_dir=./debug/ --gpus '0,1,2,3' tools/train.py -c configs/det/ch_PP-OCRv3/ch_PP-OCRv3_det_cml.yml -o Global.save_model_dir=./output/ Global.pretrained_model=./pre_train/ch_PP-OCRv3_det_distill_train/best_accuracy

2.3. 模型评估

训练过程中保存的模型在output目录下，包含以下文件：

best_accuracy.states    
best_accuracy.pdparams  # 默认保存最优精度的模型参数best_accuracy.pdopt     # 默认保存最优精度的优化器相关参数latest.states    
latest.pdparams  # 默认保存的最新模型参数latest.pdopt     # 默认保存的最新模型的优化器相关参数

其中，best_accuracy是保存的最优模型，可以直接使用该模型评估

# 进行模型评估%cd ~/PaddleOCR/
!python3 tools/eval.py -c configs/det/ch_PP-OCRv3/ch_PP-OCRv3_det_cml.yml -o Global.checkpoints=./output/best_accuracy

2.4. 基于训练模型的预测

使用上述步骤训练好的模型，测试文本检测效果。我们在 ./doc/imgs_en/文件夹下准备了一些测试图像，您也可以上传自己的图像测试我们的OCR检测模型。

# 进行检测%cd ~/PaddleOCR/
!python3 tools/infer_det.py -c configs/det/ch_PP-OCRv3/ch_PP-OCRv3_det_cml.yml -o Global.checkpoints=./output/best_accuracy Global.infer_img=./doc/imgs_en/img_12.jpg

预测可视化的图像默认保存在./checkpoints/det_db/目录下，运行下述代码进行可视化

import matplotlib.pyplot as pltfrom PIL import Image## 显示原图，读取名称为12.jpg的测试图像img_path= "./checkpoints/det_db/det_results_Student/img_12.jpg"img = Image.open(img_path)
plt.figure("test_img", figsize=(10,10))
plt.imshow(img)
plt.show()

2.5. 基于预测引擎预测

模型训练好后，可以将模型固化为文件，以便于部署

运行如下指令，可将训练好的模型导出为预测部署模型

# 导出为预测部署模型%cd ~/PaddleOCR/
!python3 tools/export_model.py -c configs/det/ch_PP-OCRv3/ch_PP-OCRv3_det_cml.yml -o Global.checkpoints=./output/best_accuracy Global.save_inference_dir=./inference/

运行完后，导出的预测部署模型位于inference目录下，组织结构为：

inference├── Student      # 保存的精度最高的Student模型│   ├── inference.pdiparams
│   ├── inference.pdiparams.info│   └── inference.pdmodel
├── Student2    # CML训练方法中的第二个student模型，精度低于Student│   ├── inference.pdiparams
│   ├── inference.pdiparams.info│   └── inference.pdmodel
└── Teacher     # 蒸馏教师模型
    ├── inference.pdiparams
    ├── inference.pdiparams.info
    └── inference.pdmodel

Student下的模型为导出的精度最高的模型。下面以Student的inference模型为例，介绍inference模型的使用方法。

注：关于inference模型的更多使用示例，参考： https://github.com/PaddlePaddle/PaddleOCR/blob/release/2.5/doc/doc_ch/inference_ppocr.md

# 使用inference模型进行文字检测%cd ~/PaddleOCR/
!python3 tools/infer/predict_det.py --image_dir=./doc/imgs_en/img_10.jpg --det_model_dir=./inference/Student/

## 显示轻量级模型识别结果## 可视化det_res_img_10.jpg的文本检测效果import matplotlib.pyplot as pltfrom PIL import Image
img_path= "./inference_results/det_res_img_10.jpg"img = Image.open(img_path)
plt.figure("results_img", figsize=(20,20))
plt.imshow(img)
plt.show()