paddleclas.md

PaddleClas模型部署

当前支持PaddleClas release/2.1分支导出的模型进行部署。本文档以ResNet50模型为例，讲述从release/2.1分支导出模型并用PaddleX 进行cpp部署整个流程。 PaddleClas相关详细文档可以查看官网文档

步骤一 部署模型导出

1.获取PaddleClas源码

git clone https://github.com/PaddlePaddle/PaddleClas.git
cd PaddleClas
git checkout realease/2.1

2. 导出基于ImageNet数据的预训练模型

将预训练权重下载至models目录

mkdir models
cd models
wget https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/ResNet50_pretrained.pdparams
cd ..

使用export_model.py导出部署模型，注意在指定pretrained_models，路径不用写到最终的后辍

python tools/export_model.py --model ResNet50 \
                             --pretrained_model ./models/ResNet50_pretrained \
                             --output_path ./ResNet50_infer

导出的部署模型会保存在./ResNet50_infer目录，其结构如下

ResNet50
  ├── model.pdiparams        # 静态图模型参数
  ├── model.pdiparams.info   # 参数额外信息，一般无需关注
  └── model.pdmodel          # 静态图模型文件

需要注意的是，在导出的模型中，仅包含了模型的权重和模型结构，并没有像PaddleDetection或PaddleSeg在模型导出后，同时给出一个yaml配置文件来表明模型的预处理和类别信息等等，因此在本部署代码中为PaddleClas提供了一个在ImageNet数据上的模版yaml配置文件，用户可直接使用。

点击获取模版yaml配置文件

[注意] 如若你的分类模型在自定义数据集上训练得到，请注意相应修改这个模版中的相关配置信息

步骤二 编译

参考编译文档

• Linux系统上编译指南
• Windows系统上编译指南(生成exe)
• Windows系统上编译指南(生成dll供C#调用)

步骤三 模型预测

编译后即可获取可执行的二进制demo程序model_infer和multi_gpu_model_infer，分别用于在单卡/多卡上加载模型进行预测，对于分类模型，调用如下命令即可进行预测

./build/demo/model_infer --model_filename=ResNet50_infer/model.pdmodel \
                         --params_filename=ResNet50_infer/model.pdiparams \
                         --cfg_file=ResNet50_infer/resnet50_imagenet.yml \
                         --image=test.jpg \
                         --model_type=clas

输出结果如下(分别为类别id， 类别标签，置信度)

Classify(809    sunscreen   0.939211)

关于demo程序的详细使用方法可分别参考以下文档

• 单卡加载模型预测示例
• 多卡加载模型预测示例
• PaddleInference集成TensorRT加载模型预测示例