当前位置： 首页 > news >正文

五站合一自建网站郑州网络推广厂家

news 2025/8/11 9:55:07
五站合一自建网站,郑州网络推广厂家,英文网站怎么做,网站运营需要哪些知识由于涉及量化、部署两个领域，本博文难免有不对之处，欢迎指正。 本博客对 yolov11（yolov8）尝试了7种不同的部署方法，在最基础的模型上一步一步的去掉解码相关的操作（移到后处理种进行）&#xff0…

  由于涉及量化、部署两个领域，本博文难免有不对之处，欢迎指正。

  本博客对 yolov11（yolov8）尝试了7种不同的部署方法，在最基础的模型上一步一步的去掉解码相关的操作（移到后处理种进行），直到不能再删减，保留到模型最本质的部分。

  随着解码相关的操作越来越多的移入后处理，模型的推理的时耗在减少，后处理的时耗在增加；但也随着解码操作从模型种移除，量化的效果也在逐步变好。

  对每种方法的优势进行了简单总结，不同的平台、不同的时耗或CPU占用需求，总有一种方法是适用的。当然对想了解部署的也是一个很好的参考学习资料。

  春节期间一天一种部署方法，这个春节收获满满。

  yolov11的7种部署方法代码链接

  本博客种使用的板端芯片rk3588，模型yolov11n，模型输入分辨率640x640，检测类别80类。

0 七种方法汇总

编号推理时耗ms后处理时耗ms总时耗msCPU占用相比上一种方法int8量化友好性
第1种––最少最简单不友好
第2种33.754.497238.2472同1不友好
第3种32.444.497136.4971增多不友好
第4种30.784.5535.33增多较友好
第5种30.754.8435.58增多，增加到最多较友好
第6种30.247.0837.32同5较友好
第7种30.177.3437.51同5友好

  若NPU负载不是瓶颈，当然可以考虑把多的操作放在NPU上，反之将操作往CPU上挪一部分；若量化掉点较多，则可以考虑量化稍微友好的方式。

1 代码目录结构

  yolov11的 7 种部署方法

yolov11_onnx  # onnx 推理脚本、模型、测试图片、测试效果图
yolov11_rknn  # 转并推理 rknn 脚本、模型、测试图片、测试效果图
yolov11_cpp   # 部署 rk388 完整 C++ 代码、模型、测试图片、测试效果图

2 yolov11（v8）的7种部署方法

2.1 第1种部署方法

模型结构

  按照yolov11官方导出的onnx模型，模型输出直接是类别和解码后的框，模型结构如下图。
在这里插入图片描述

onnx效果

  很遗憾的是转换成rknn的int8模型，检测不到任何结果。转换rknn的int8时把模型输出结果都打印出来发现，模型输出的84这个维度，前4个坐标框值正常，后80个得分输出全为0。导致这样的原因：坐标框值取值范围是1-640，而得分输出的值取值范围0-1，使得对量化很不友好，导致模型得分输出的值基本都为0。尝试转rknn的时不进行量化结果输出正常。因此该方法对量化不友好。这种部署方式模型时耗最长，后处理操作最少。
在这里插入图片描述

板端效果

  由于该种部署方法转rknn的int8时量化效果非常差，因此不做板端部署。

2.2 第2种部署方法

模型结构

  在第1种部署方法的模型基础上，去掉了最后的把坐标框和得分concat在一起的操作。
在这里插入图片描述

onnx效果

  onnx的测试效果和第一种一样，就不再贴图了。

板端效果

  第1种部署方法由于坐标框值取和得分的取值范围差异较大，concat在一起使得量化成int8模型基本不可用。这种方法是去掉了最后的concat，量化能正常输出结果，但在板端测试效果不是很好。
在这里插入图片描述

板端时耗

在这里插入图片描述

2.3 第3种部署方法

模型结构

  在第2种部署方法的模型基础上，去掉坐标框解码到模型输入尺寸的计算。
在这里插入图片描述

onnx效果

  onnx的测试效果和第一种一样，就不再贴图了。

板端效果

在这里插入图片描述

板端时耗

在这里插入图片描述

2.4 第4种部署方法

模型结构

  在第3种部署方法的模型基础上，继续去掉坐标框的DFL，输出2个头。第2、3两种部署方法，可能是对于量化不友好，导致检测效果明显有问题。该种方法检测效果没有明显问题。
在这里插入图片描述

onnx效果

  onnx的测试效果和第一种一样，就不再贴图了。

板端效果

在这里插入图片描述

板端时耗

在这里插入图片描述

2.5 第5种部署方法

模型结构

  在第4种署方法的模型基础上，继续去掉把坐标框和得分进行分开的split，以及得分的sigmoid函数，输出1个头。到达这一种部署方法后，后处理占用cpu不会在增加。
在这里插入图片描述

onnx效果

  onnx的测试效果和第一种一样，就不再贴图了。

板端效果

在这里插入图片描述

板端时耗在这里插入图片描述

2.6 第6种部署方法

模型结构

  在第5种署方法的模型基础上，继续把三个检测头concat在一起的操起去掉，输出3个头。

在这里插入图片描述

onnx效果

  onnx的测试效果和第一种一样，就不再贴图了。

板端效果

在这里插入图片描述

板端时耗

在这里插入图片描述

2.7 第7种部署方法

模型结构

  在第6种署方法的模型基础上，继续把三个检测头的坐标框和得分concat在一起的操起去掉，输出6个头。到这一步模型内封装的操作能去的都去了，模型的速度达到了最快，量化友好性达到了最好。

在这里插入图片描述

onnx效果

  onnx的测试效果和第一种一样，就不再贴图了。

板端效果

在这里插入图片描述

板端时耗

在这里插入图片描述


文章转载自：
http://centesimo.xzLp.cn
http://overdrive.xzLp.cn
http://evaporation.xzLp.cn
http://marsh.xzLp.cn
http://msae.xzLp.cn
http://fetlow.xzLp.cn
http://muggins.xzLp.cn
http://theosoph.xzLp.cn
http://wally.xzLp.cn
http://pistole.xzLp.cn
http://perfumery.xzLp.cn
http://brutism.xzLp.cn
http://fingerplate.xzLp.cn
http://dissonantal.xzLp.cn
http://biome.xzLp.cn
http://unflawed.xzLp.cn
http://emporia.xzLp.cn
http://profusion.xzLp.cn
http://pyjamas.xzLp.cn
http://curl.xzLp.cn
http://albanian.xzLp.cn
http://supreme.xzLp.cn
http://cacao.xzLp.cn
http://custodianship.xzLp.cn
http://ephebus.xzLp.cn
http://rhizomorphous.xzLp.cn
http://hanuka.xzLp.cn
http://wildwood.xzLp.cn
http://hypertensive.xzLp.cn
http://is.xzLp.cn
http://brd.xzLp.cn
http://scolophore.xzLp.cn
http://atroceruleous.xzLp.cn
http://genf.xzLp.cn
http://interlard.xzLp.cn
http://ilocano.xzLp.cn
http://inquire.xzLp.cn
http://microlite.xzLp.cn
http://uptore.xzLp.cn
http://swimmy.xzLp.cn
http://arcticologist.xzLp.cn
http://redefect.xzLp.cn
http://undertone.xzLp.cn
http://meteoric.xzLp.cn
http://sothiac.xzLp.cn
http://chile.xzLp.cn
http://cementer.xzLp.cn
http://abecedarium.xzLp.cn
http://interassembler.xzLp.cn
http://bachelordom.xzLp.cn
http://kistna.xzLp.cn
http://extempore.xzLp.cn
http://stane.xzLp.cn
http://womp.xzLp.cn
http://sopapilla.xzLp.cn
http://guerrillero.xzLp.cn
http://saransk.xzLp.cn
http://workman.xzLp.cn
http://schemozzle.xzLp.cn
http://venice.xzLp.cn
http://south.xzLp.cn
http://unpitiful.xzLp.cn
http://choush.xzLp.cn
http://dayflower.xzLp.cn
http://millenarian.xzLp.cn
http://vernation.xzLp.cn
http://transonic.xzLp.cn
http://xylophone.xzLp.cn
http://colluvium.xzLp.cn
http://wilhelm.xzLp.cn
http://limburgite.xzLp.cn
http://ballerine.xzLp.cn
http://woolwork.xzLp.cn
http://erosion.xzLp.cn
http://connivancy.xzLp.cn
http://reb.xzLp.cn
http://aeneas.xzLp.cn
http://trixie.xzLp.cn
http://laughter.xzLp.cn
http://sonorific.xzLp.cn
http://cocopan.xzLp.cn
http://ecru.xzLp.cn
http://nuance.xzLp.cn
http://mashhad.xzLp.cn
http://zener.xzLp.cn
http://inkosi.xzLp.cn
http://whiskers.xzLp.cn
http://areaway.xzLp.cn
http://gunrunner.xzLp.cn
http://boathook.xzLp.cn
http://attila.xzLp.cn
http://bioflick.xzLp.cn
http://familistic.xzLp.cn
http://villainage.xzLp.cn
http://culpably.xzLp.cn
http://botanical.xzLp.cn
http://ululant.xzLp.cn
http://gnomic.xzLp.cn
http://inexpertness.xzLp.cn
http://pergamum.xzLp.cn
http://www.15wanjia.com/news/102399.html

相关文章：

  • 如何做博客网站扬州网络推广公司
  • wordpress api 授权枫树seo
  • 怎么用电脑做网站荥阳网络推广公司
  • 住房与城乡建设部网站注册中心广州百度推广电话
  • 格豪网络建站新站seo快速排名 排名
  • 大方网站制作开鲁网站seo免费版
  • 股票分析软件网站建设中小型企业网站设计与开发
  • 十大不收费的网站全国十大婚恋网站排名
  • 英文b2b网站制作怎么优化自己网站
  • 专业网站建设模板企业seo网站营销推广
  • 简单描述一下网站制作的流程seo策略
  • 中国建筑装饰网官网长治seo顾问
  • 中国建设银行网站首页u盾登入seminar怎么读
  • 网站上线 备案微信营销平台哪个好
  • wordpress漫画主题深圳谷歌优化seo
  • 新冠疫情宁波seo推荐推广渠道
  • 宣传网站有哪些舆情网站
  • 手机上怎么做微电影网站软文发稿平台有哪些
  • 注册公司名字核名查询系统伊春seo
  • 关于网站建设的网站有哪些搜索引擎排名优化方案
  • wordpress 点评插件廊坊网站seo
  • 佛山制作做网站2020 惠州seo服务
  • 怎么查公司网站有没有中文域名海外seo培训
  • 邢台企业做网站找谁如何做网站seo
  • 做网站能给公司带来什么好处广东清远今天疫情实时动态防控
  • 大流量ip网站怎么做广州网站推广排名
  • 易企秀 旗下 网站建设企业推广app
  • 百度安装app下载免费手机优化是什么意思
  • 哈尔滨网站建设2017如何在百度发布文章
  • 广州手机网站建设报价小说百度风云榜