BM1684X-onnx模型转化为bmodel

news/2024/11/28 16:52:47/

1:在tpu-mlir目录下进入docker
docker run --privileged --name tpu-mlir -v $PWD:/workspace -it sophgo/tpuc_dev:v2.2

原因:该镜像已创建,要么重新创建一个新进程,要么杀死老进程;
解决办法如下:

2:接着设置一下环境
source envsetup.sh!!!重要 别忘了
3:进入/workspace/sophon-demo/sample
复制一份YOLOv5并命名为export_model,这里我们将不需要的文件都删除,保留下图文件即可;其中将转化好的onnx模型拷贝一份到以下目录
/workspace/sophon-demo/sample/export_model/models/onnx

4:转化为fp32格式
cd /workspace/sophon-demo/sample/export_model/scripts
修改gen_fp32bmodel_mlir.sh,主要修改gen_mlir()以及gen_fp32bmodel()

function gen_mlir()
{model_transform.py \--model_name test_output \--model_def ../models/onnx/model.onnx \--mlir test_output_$1b.mlir
}function gen_fp32bmodel()
{model_deploy.py \--mlir test_output_$1b.mlir \--quantize F32 \--chip $target \--model test_output_fp32_$1b.bmodelmv test_output_fp32_$1b.bmodel $outdir/
}

执行 ./gen_fp32bmodel_mlir.sh BM1684X 即可

5:转化为fp16
修改gen_fp16bmodel_mlir.sh,主要修改gen_mlir()以及gen_fp16bmodel()

function gen_mlir()
{model_transform.py \--model_name test_output \--model_def ../models/onnx/model.onnx \--mlir test_output_$1b.mlir
}function gen_fp16bmodel()
{model_deploy.py \--mlir test_output_$1b.mlir \--quantize F16 \--chip $target \--model test_output_fp16_$1b.bmodelmv test_output_fp16_$1b.bmodel $outdir/
}

执行./gen_fp16bmodel_mlir.sh BM1684X


执行成功后可以看到在以下路径生成的bmodel
/workspace/sophon-demo/sample/export_model/models/BM1684X

6:转化为int8

至此,模型转化完成,bmodel主要用于BM1684X的板端推理


http://www.ppmy.cn/news/105040.html

相关文章

raw格式照片一键改变风格

为了实现将RAW格式照片一键改变整体风格,且有多种风格选择,我们可以使用神经风格迁移技术。神经风格迁移是一种基于深度学习的方法,可以将一张图像的风格应用到另一张图像上。这里我们将使用Python、rawpy库读取RAW图像,以及torch…

【华为OD机试】分班【2023 B卷|100分】

【华为OD机试】-真题 !!点这里!! 【华为OD机试】真题考点分类 !!点这里 !! 题目描述 幼儿园两个班的小朋友在排队时混在了一起,每位小朋友都知道自己是否与前面一位小朋友是否同班,请你帮忙把同班的小朋友找出来。 小朋友的编号为整数,与前一位小朋友同班用Y表示,不同…

科技创新盛典:全国科技者工作日激荡创新思维

⭐ 全国科技工作者日的由来⭐ 全国科技工作者日LOGO⭐ 科技工作者界定⭐ 历年主题⭐ 2023年全国科技工作者日 今天我要和大家分享一个令人激动和振奋的消息——全国科技者工作日!这是一个特殊的日子,为我们所有投身于科技创新的人们而设立,让…

算法基础学习笔记——⑭欧拉函数\快速幂\扩展欧几里得算法\中国剩余定理

✨博主:命运之光 ✨专栏:算法基础学习 目录 ✨欧拉函数 🍓求欧拉函数 : 🍓筛法求欧拉函数 : ✨快速幂 ✨扩展欧几里得算法 ✨中国剩余定理 前言:算法学习笔记记录日常分享,需要的看哈O(∩_∩)O&#…

参数是ChaGPT的近6倍,英特尔公布AI大模型Aurora genAI,具备1万亿参数

模型参数越大就越好吗? 英特尔公布AI大模型Aurora genAI 具备 1 万亿参数 据 wccftech 报道,英特尔近日公布了旗下生成式 AI 大模型 Aurora genAI。 据悉,Aurora genAI 参数量高达 1 万亿,其开发依赖于 Megatron 和 DeepSpeed …

Eclipse教程 Ⅷ

Eclipse Debug 配置 创建和使用 Debug 配置 Eclipse Debug 配置类似于运行配置但它是用于在调试模式下开启应用。 打开 Debug 配置对话框步骤为:Run > Debug Configurations 。 从左侧列表中选择 "Java Application" 选项来选择要调试的 Java 代码。…

【项目】ROS下使用N100模块

本文主要记录如何使用WHEELTEC N100 模块。 之前的版本是CP2102串口芯片,而2022年5月之后的N100采用的是CH9102串口芯片。 一、修改串口号: 工具:链接:https://pan.baidu.com/s/13Pdq45_Z0ZRwuaNN0I84Cg 提取码:i6j…

eclipse连接mysql全网最详细教程

第一步:我们先做连接前的环境准备工作 1、首先在MySQL官网下载驱动:(下载地址博主给大家整理好了直用) https://dev.mysql.com/downloads/file/?id498587 下下来是这个样子 2、在eclipse中新建一个工程 3、添加驱动到eclipse里…