PaddlePaddle推理模型利用Paddle2ONNX转换成onnx模型

server/2024/12/23 15:41:12/

训练paddleocr模型,可以按照如下教程或者直接百度其他的

PaddleOCR训练自己的数据集(中英文)(全套)和C#部署(半套)_c# paddleocr-CSDN博客

将训练后的模型转换成推理模型

-c后面是你配置的det  的yaml文件   -o Global.pretrained_model=后面是你训练后的模型 latest

lobal.save_inference_dir=保存转换后的推理模型位置

python tools/export_model.py -c "./configs/endet_enrec_encls/en_PP_OCRV3_det_cml.yml" -o Global.pretrained_model="./output/det/ch_PP-OCR_v3_det3/latest" Global.save_inference_dir="./models/inf_det/"

 rec的转换和上方的det一样

 转换后是如下

 然后在命令行中pip下载paddle2onnx和onnxruntime

# 安装paddle2onnx
pip install paddle2onnx -i https://pypi.tuna.tsinghua.edu.cn/simple
# 安装 ONNXRuntime,建议安装 1.9.0 版本,可根据环境更换版本号
pip install onnxruntime==1.9.0 -i https://pypi.tuna.tsinghua.edu.cn/simple

 转换命令如下

paddle2onnx --model_dir saved_inference_model \--model_filename model.pdmodel \--params_filename model.pdiparams \--save_file model.onnx \--enable_dev_version True

 

 如果看不明白,下方是我的转换命令

model_dir 是你训练模型的文件夹

model_filename 是结尾是 .pdmodel文件

params_filename 是结尾是 .pdiparams文件

save_file 保存转换后的onnx模型

当然rec和det以及旋转模型也是如下,一共有三个。

paddle2onnx --model_dir H:\\DL\\PaddleOCR-main\\models\\ch_PP-OCRv3_rec_infer--model_filename inference.pdmodel --params_filename inference.pdiparams --save_file F:\\Desk\\159\\inference.onnx

测试推理 

onnxruntime推理

python tools/infer/predict_system.py --use_gpu=False --use_onnx=True \
--det_model_dir=./inference/det_onnx/model.onnx  \
--rec_model_dir=./inference/rec_onnx/model.onnx  \
--cls_model_dir=./inference/cls_onnx/model.onnx  \
--image_dir=./deploy/lite/imgs/lite_demo.png

 优化模型命令

python -m paddle2onnx.optimize --input_model model.onnx --output_model optimized_model.onnx


http://www.ppmy.cn/server/152152.html

相关文章

Linux中部署项目

1.下载JDK17 进入 /usr/local 目录,创建 java 文件夹。并将 JDK17 上传到 java 目录下。 上传成功后,通过cd命令进入Java文件夹目录,解压 JDK17 压缩包,命令 unzip zulu17.44.53-ca-jdk17.0.8.1-linux_x64.zip。 如果报错说 u…

day4:tomcat—maven-jdk

一,java项目部署过程 编译:使用javac命令将.java源文件编译成.class宇节码文件打包:使用工具如maven或Gradle将项目的依赖、资源和编译后的字节码打包成一个分发格式,如.jar文件,或者.war文件(用于web应用&#xff09…

四相机设计实现全向视觉感知的开源空中机器人无人机

开源空中机器人 基于深度学习的OmniNxt全向视觉算法OAK-4p-New 全景硬件同步相机 机器人的纯视觉避障定位建图一直是个难题: 系统实现复杂 纯视觉稳定性不高 很难选到实用的视觉传感器 为此多数厂家还是采用激光雷达的定位方案。 OAK-4p-New 为了弥合这一差距…

基于LR/GNB/SVM/KNN/DT算法的鸢尾花分类和K-Means算法的聚类分析

花瓣轮廓: 分类与聚类 使用各种模型进行鸢尾花分类和聚类 1. | 介绍 👋 🤔 数据集问题 鸢尾花分类项目是使用简单数据集实现机器学习模型的实际演示。数据集本身包含有关花瓣和萼片大小的信息,包括鸢尾属物种。通过分析鸢尾花的…

怎么通过亚矩阵云手机实现营销?

通过云手机来营销是一种新型的创新手段,它能帮助企业以较低的成本和较高的效率来达到宣传和营销的目的。云手机是一种虚拟手机,它通过网络来连接服务器,达到访问云手机来进行操作的效果。以下是使用云手机进行营销的几种方法: 1.社交媒体运营…

html中实用标签dl dt dd(有些小众的标签 但是很好用)

背景描述 html <dl> <dt> <dd>是一组合标签&#xff0c;他们与ol li、ul li标签很相似 但是他却是没有默认前缀并且有缩进的标签 使用方式与table表格的标签一致 使用方式 dt和dd是放于dl标签内&#xff0c;dt与dd处于dl下相同级。就是dt不能放入dd内&am…

HT81297 18W内置升压单声道D类音频功放

1、特征 扩频技术 输出功率 18W(VBAT3.7V, RL4Ω, THDN10%, fN 1kHz) 16W(VBAT3.7V,RL-4Ω,THDN1%,fN1kHz) 8W(VBAT3.3V,RL-8Ω,THDN1%, fN1kHz) VBAr供电范围:3.0V至12V 高效H类升压功能 -自适应功放功率的升压轨&#xff0c;延长电池播放时间 (HT81297A) -可调节最大限流值&…

RabbitMQ消息队列的笔记

Rabbit与Java相结合 引入依赖 <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-amqp</artifactId> </dependency> 在配置文件中编写关于rabbitmq的配置 rabbitmq:host: 192.168.190.132 /…