当前短讯!YOLOv8来啦 | 详细解读YOLOv8的改进模块!YOLOv5官方出品YOLOv8,必卷!
程序员客栈 2023-01-11 04:59:54
点击下方名片关注【集智书童】,后台回复【YOLOv8】获取YOLOv8源码以及书童亲自绘制的YOLOv8结构图原图。回顾一下YOLOv5,不然没机会了

这里粗略回顾一下,这里直接提供YOLOv5的整理的结构图吧:

Backbone:CSPDarkNet结构,主要结构思想的体现在C3模块,这里也是梯度分流的主要思想所在的地方;PAN-FPN:双流的FPN,必须香,也必须快,但是量化还是有些需要图优化才可以达到最优的性能,比如cat前后的scale优化等等,这里除了上采样、CBS卷积模块,最为主要的还有C3模块(记住这个C3模块哦);Head:Coupled Head+Anchor-base,毫无疑问,YOLOv3、YOLOv4、YOLOv5、YOLOv7都是Anchor-Base的,后面会变吗?Loss:分类用BEC Loss,回归用CIoU Loss。话不多说,直接YOLOv8吧!

直接上YOLOv8的结构图吧,小伙伴们可以直接和YOLOv5进行对比,看看能找到或者猜到有什么不同的地方?

下面就直接揭晓答案吧,具体改进如下:


(资料图片仅供参考)

Backbone:使用的依旧是CSP的思想,不过YOLOv5中的C3模块被替换成了C2f模块,实现了进一步的轻量化,同时YOLOv8依旧使用了YOLOv5等架构中使用的SPPF模块;PAN-FPN:毫无疑问YOLOv8依旧使用了PAN的思想,不过通过对比YOLOv5与YOLOv8的结构图可以看到,YOLOv8将YOLOv5中PAN-FPN上采样阶段中的卷积结构删除了,同时也将C3模块替换为了C2f模块;Decoupled-Head:是不是嗅到了不一样的味道?是的,YOLOv8走向了Decoupled-Head;Anchor-Free:YOLOv8抛弃了以往的Anchor-Base,使用了Anchor-Free的思想;损失函数:YOLOv8使用VFL Loss作为分类损失,使用DFL Loss+CIOU Loss作为分类损失;样本匹配:YOLOv8抛弃了以往的IOU匹配或者单边比例的分配方式,而是使用了Task-Aligned Assigner匹配方式。1、C2f模块是什么?与C3有什么区别?

我们不着急,先看一下C3模块的结构图,然后再对比与C2f的具体的区别。针对C3模块,其主要是借助CSPNet提取分流的思想,同时结合残差结构的思想,设计了所谓的C3 Block,这里的CSP主分支梯度模块为BottleNeck模块,也就是所谓的残差模块。同时堆叠的个数由参数n来进行控制,也就是说不同规模的模型,n的值是有变化的。

其实这里的梯度流主分支,可以是任何之前你学习过的模块,比如,美团提出的YOLOv6中就是用来重参模块RepVGGBlock来替换BottleNeck Block来作为主要的梯度流分支,而百度提出的PP-YOLOE则是使用了RepResNet-Block来替换BottleNeck Block来作为主要的梯度流分支。而YOLOv7则是使用了ELAN Block来替换BottleNeck Block来作为主要的梯度流分支。

C3模块的Pytorch的实现如下:

classC3(nn.Module):#CSPBottleneckwith3convolutionsdef__init__(self,c1,c2,n=1,shortcut=True,g=1,e=0.5):#ch_in,ch_out,number,shortcut,groups,expansionsuper().__init__()c_=int(c2*e)#hiddenchannelsself.cv1=Conv(c1,c_,1,1)self.cv2=Conv(c1,c_,1,1)self.cv3=Conv(2*c_,c2,1)#optionalact=FReLU(c2)self.m=nn.Sequential(*(Bottleneck(c_,c_,shortcut,g,e=1.0)for_inrange(n)))defforward(self,x):returnself.cv3(torch.cat((self.m(self.cv1(x)),self.cv2(x)),1))

下面就简单说一下C2f模块,通过C3模块的代码以及结构图可以看到,C3模块和名字思路一致,在模块中使用了3个卷积模块(Conv+BN+SiLU),以及n个BottleNeck。

通过C3代码可以看出,对于cv1卷积和cv2卷积的通道数是一致的,而cv3的输入通道数是前者的2倍,因为cv3的输入是由主梯度流分支(BottleNeck分支)依旧次梯度流分支(CBS,cv2分支)cat得到的,因此是2倍的通道数,而输出则是一样的。

不妨我们再看一下YOLOv7中的模块:

YOLOv7通过并行更多的梯度流分支,放ELAN模块可以获得更丰富的梯度信息,进而或者更高的精度和更合理的延迟。

C2f模块的结构图如下:

我们可以很容易的看出,C2f模块就是参考了C3模块以及ELAN的思想进行的设计,让YOLOv8可以在保证轻量化的同时获得更加丰富的梯度流信息。

C2f模块对应的Pytorch实现如下:

classC2f(nn.Module):#CSPBottleneckwith2convolutionsdef__init__(self,c1,c2,n=1,shortcut=False,g=1,e=0.5):#ch_in,ch_out,number,shortcut,groups,expansionsuper().__init__()self.c=int(c2*e)#hiddenchannelsself.cv1=Conv(c1,2*self.c,1,1)self.cv2=Conv((2+n)*self.c,c2,1)#optionalact=FReLU(c2)self.m=nn.ModuleList(Bottleneck(self.c,self.c,shortcut,g,k=((3,3),(3,3)),e=1.0)for_inrange(n))defforward(self,x):y=list(self.cv1(x).split((self.c,self.c),1))y.extend(m(y[-1])forminself.m)returnself.cv2(torch.cat(y,1))

SPPF改进了什么?

这里讲解的文章就很多了,这里也就不具体描述了,直接给出对比图了

上图中,左边是SPP,右边是SPPF。

PAN-FPN改进了什么?

我们先看一下YOLOv5以及YOLOv6的PAN-FPN部分的结构图:

YOLOv5的Neck部分的结构图如下:

YOLOv6的Neck部分的结构图如下:

我们再看YOLOv8的结构图:

可以看到,相对于YOLOv5或者YOLOv6,YOLOv8将C3模块以及RepBlock替换为了C2f,同时细心可以发现,相对于YOLOv5和YOLOv6,YOLOv8选择将上采样之前的1×1卷积去除了,将Backbone不同阶段输出的特征直接送入了上采样操作。

Head部分都变了什么呢?

先看一下YOLOv5本身的Head(Coupled-Head):

而YOLOv8则是使用了Decoupled-Head,同时由于使用了DFL 的思想,因此回归头的通道数也变成了4*reg_max的形式:

对比一下YOLOv5与YOLOv8的YAML损失函数

对于YOLOv8,其分类损失为VFL Loss,其回归损失为CIOU Loss+DFL的形式,这里Reg_max默认为16。

VFL主要改进是提出了非对称的加权操作,FL和QFL都是对称的。而非对称加权的思想来源于论文PISA,该论文指出首先正负样本有不平衡问题,即使在正样本中也存在不等权问题,因为mAP的计算是主正样本。

q是label,正样本时候q为bbox和gt的IoU,负样本时候q=0,当为正样本时候其实没有采用FL,而是普通的BCE,只不过多了一个自适应IoU加权,用于突出主样本。而为负样本时候就是标准的FL了。可以明显发现VFL比QFL更加简单,主要特点是正负样本非对称加权、突出正样本为主样本。

针对这里的DFL(Distribution Focal Loss),其主要是将框的位置建模成一个 general distribution,让网络快速的聚焦于和目标位置距离近的位置的分布。

DFL 能够让网络更快地聚焦于目标 y 附近的值,增大它们的概率;

DFL的含义是以交叉熵的形式去优化与标签y最接近的一左一右2个位置的概率,从而让网络更快的聚焦到目标位置的邻近区域的分布;也就是说学出来的分布理论上是在真实浮点坐标的附近,并且以线性插值的模式得到距离左右整数坐标的权重。

样本的匹配

标签分配是目标检测非常重要的一环,在YOLOv5的早期版本中使用了MaxIOU作为标签分配方法。然而,在实践中发现直接使用边长比也可以达到一阿姨你的效果。而YOLOv8则是抛弃了Anchor-Base方法使用Anchor-Free方法,找到了一个替代边长比例的匹配方法,TaskAligned。

为与NMS搭配,训练样例的Anchor分配需要满足以下两个规则:

正常对齐的Anchor应当可以预测高分类得分,同时具有精确定位;不对齐的Anchor应当具有低分类得分,并在NMS阶段被抑制。基于上述两个目标,TaskAligned设计了一个新的Anchor alignment metric 来在Anchor level 衡量Task-Alignment的水平。并且,Alignment metric 被集成在了 sample 分配和 loss function里来动态的优化每个 Anchor 的预测。Anchor alignment metric:

分类得分和 IoU表示了这两个任务的预测效果,所以,TaskAligned使用分类得分和IoU的高阶组合来衡量Task-Alignment的程度。使用下列的方式来对每个实例计算Anchor-level 的对齐程度:

s 和 u 分别为分类得分和 IoU 值,α 和 β 为权重超参。从上边的公式可以看出来,t 可以同时控制分类得分和IoU 的优化来实现 Task-Alignment,可以引导网络动态的关注于高质量的Anchor。

Training sample Assignment:

为提升两个任务的对齐性,TOOD聚焦于Task-Alignment Anchor,采用一种简单的分配规则选择训练样本:对每个实例,选择m个具有最大t值的Anchor作为正样本,选择其余的Anchor作为负样本。然后,通过损失函数(针对分类与定位的对齐而设计的损失函数)进行训练。

参考

[1].https://github.com/uyolo1314/ultralytics.[2].https://github.com/meituan/YOLOv6.[3].https://arxiv.org/abs/2209.02976.[4].https://github.com/PaddlePaddle/PaddleDetection.[5].https://github.com/PaddlePaddle/PaddleYOLO.[6].https://github.com/open-mmlab/mmyolo.

推荐阅读

书童改进 | YOLOv5之架构改进、样本匹配升级、量化部署、剪枝、自蒸馏以及异构蒸馏

目标检测模型设计准则 | YOLOv7参考的ELAN模型解读,YOLO系列模型思想的设计源头

目标检测Trick | SEA方法轻松抹平One-Stage与Two-Stage目标检测之间的差距

扫描上方二维码可联系小书童加入交流群~

想要了解更多前沿AI视觉感知全栈知识【分类、检测、分割、关键点、车道线检测、3D视觉(分割、检测)、多模态、目标跟踪、NerF】、行业技术方案【AI安防、AI医疗、AI自动驾驶】、AI模型部署落地实战【CUDA、TensorRT、NCNN、OpenVINO、MNN、ONNXRuntime以及地平线框架等】,欢迎扫描下方二维码,加入集智书童知识星球,日常分享论文、学习笔记、问题解决方案、部署方案以及全栈式答疑,期待交流!

当前短讯!YOLOv8来啦 | 详细解读YOLOv8的改进模块!YOLOv5官方出品YOLOv8,必卷!

2023-01-11 04:59:54

形容早晨凉爽的句子(精选321句)|全球热闻

2023-01-10 20:12:10

精选!隆基绿能: 第五届董事会2023年第一次会议决议公告

2023-01-10 16:57:22

世界快讯:年产10亿吨 谁装满了我们的果蔬篮子?

2023-01-10 14:41:17

精彩看点:保定普通话报名点及联系方式

2023-01-10 14:23:33

劳动仲裁了还能申请离职吗 环球即时看

2023-01-10 14:03:52

当前关注:2023 年各技术栈 Roadmap 新鲜出炉

2023-01-10 14:22:20

世界动态:视频|有咖啡店售卖“莲花清温咖啡”?市场监管局:查

2023-01-10 13:55:00

飞鹿股份董秘回复:在人员招聘方面,公司主要是根据当前业务发展需要并结合未来发展预期进行规划

2023-01-10 12:28:03

环球关注:常德十级工伤赔偿标准如何认定

2023-01-10 11:54:40

快看:打造全产业链布局 百果园即将登陆港交所

2023-01-10 11:44:43

邮储银行贵州省分行开展“防范中介诈骗 合规申贷用贷”金融知识宣传普及活动

2023-01-10 10:53:26

速看:SaaS行业都在裁员,海外:行业进步;国内:走投无路

2023-01-09 20:40:00

浙江省市场监管局公布30批次卫生陶瓷产品抽查结果|今热点

2023-01-09 15:52:09

全球观热点:减肥可以吃车厘子吗 减肥能不能吃车厘子

2023-01-09 12:17:06

全球快报:人事|刘起军任湘潭大学党委书记

2023-01-09 09:26:21

18个行业获融资净买入 电气设备行业获净买入最多

2023-01-07 00:39:59

豆腐和豆角怎么炒好吃?|今热点

2023-01-06 21:59:15

环球观察:皇庭国际第一大股东由皇庭投资变为皇庭产业,实控人仍为郑康豪

2023-01-06 19:55:18

【全球速看料】【防疫图说】划重点 新冠阳性期间与转阴后恢复期 应该怎么吃

2023-01-06 17:33:03

长春新年首场招商引资聚焦汽车产业 环球微头条

2023-01-06 16:12:00

全球速看:三湘印象01月05日主力资金大幅流出

2023-01-06 13:46:55

塞拉斯即将下课?毫无战术体系火箭未来一片昏暗

2023-01-06 11:46:29

聚焦:2022 年终总结

2023-01-05 14:20:29

实益达董秘回复:公司未收到相关信息,公司所有重大及应披露信息请以公司在深圳证券交易所指定网站披露的信息为准-世界关注

2023-01-05 12:27:41

ROG全系笔记本大更新 发布10L迷你主机冰刃X|观点

2023-01-04 22:04:31

2022年FRM考试完结!附FRM考试成绩相关介绍

2023-01-04 17:17:24

世界播报:投资千万,娇兰佳人入局打造红人明星品牌化

2023-01-04 15:09:34

港股异动 | 香港科技探索涨4.7% 附属公司推跨境社交购物平台 速看

2023-01-04 11:09:28

【和讯期货早报】大有期货-油脂-1月4日|世界百事通

2023-01-04 08:49:55

离婚只需要带上户口本吗?|今日要闻

2023-01-04 00:29:12

[快讯]飞凯材料回购公司股份情况通报

2023-01-03 19:09:46

伊利股份最新公告:已耗资3.03亿元回购967万股-世界快播

2023-01-03 16:08:48

新消息丨3月1日起苹果全系电池涨价!换块电池近千元:网友吐槽割韭菜

2023-01-03 12:48:25

环球快资讯丨天津市2023年新春演出季拉开序幕

2023-01-03 10:58:01

2021年中国体育产业总规模逾3.1万亿元 增长13.9%|全球短讯

2023-01-03 03:09:19

广州发放2000万元消费券刺激文旅消费_全球热讯

2023-01-02 23:23:31

Power BI 医疗器械行业销售管理通用模板

2023-01-02 16:54:33

动态焦点:钢结构转让公司合同范本(共47篇)

2023-01-02 00:40:19

春节饰品热 红火迎新年

2023-01-01 08:43:43

知名老戏骨“藏妻”28年,突然高调秀恩爱,妻子首度曝光:难怪他要“拒绝”巩俐! 环球速递

2022-12-31 16:30:05

时隔四年,央视一哥正式复出!网友提醒其与异性接触保持安全距离

2022-12-30 23:12:48

伯特利: 伯特利2022年第四次临时股东大会决议公告 每日看点

2022-12-30 18:54:45

本周盘点(12.26-12.30):大西洋周涨0.64%,主力资金合计净流出262.20万元

2022-12-30 16:10:51

炜冈科技12月30日盘中涨停

2022-12-30 10:50:07

中国是否低估新冠死亡人数?国家卫健委回应|世界看热讯

2022-12-30 07:35:02

重庆违章处理罚款30元的违章行为有哪些? 天天观速讯

2022-12-29 20:17:25

【手慢无】性价比逆天!机械革命12代酷睿i7+RTX 3050游戏本5499元

2022-12-29 18:24:32

环球实时:八村塁超越易建联 升至亚洲球员NBA生涯得分榜第二

2022-12-29 16:15:39

金洲管道:晨巽公司拟9.7亿元收购公司21.24%股份 寿光国资局将成为公司实控人_每日简讯

2022-12-29 14:12:43

全球新资讯:江阴银行:12月28日获融资买入367.15万元,占当日流入资金比例7.88%

2022-12-29 12:37:09

真是烦死这些垃圾网站了!

2022-12-29 10:23:40

隔水蒸式油鸡做法 隔水蒸式油鸡的烹饪方法_天天快播

2022-12-28 18:14:49

东方甄选直播带货一周年粉丝突破3600万 当前快报

2022-12-28 15:18:47

东北木耳怎么晒干保存 东北木耳如何晒干保存|全球报资讯

2022-12-28 11:32:55

车企造电池哪家强?比亚迪、上汽、广汽各有招

2022-12-28 07:59:16

视焦点讯!青岛2023年贺岁普通纪念币指南(预约兑换+时间+规则)

2022-12-27 20:40:17

【手慢无】R7-5700G神U加持!联想天逸510Pro锐龙版3198元

2022-12-27 16:28:46

环球视讯!快讯!韩国前总统李明博获特赦 15年刑期被免除

2022-12-27 11:43:05

今日纸白银价格行情(2022年12月26日)_全球快播报

2022-12-27 06:48:06

刘畊宏女孩你们还好吗? 环球快看

2022-12-26 18:04:48

今日快讯:国美易卡网贷逾期31年延迟还款影响征信吗

2022-12-26 12:58:51

全球首架C919今天开启100小时验证飞行-今头条

2022-12-26 07:20:44

快报:中际旭创:公司如有此计划将严格履行决策程序和信息披露义务

2022-12-25 14:59:31

亚洲首富阿达尼将控制新德里电视台近65%股权

2022-12-24 16:19:40

【环球播资讯】极市直播预告丨NeurIPS 2022 Oral-张博航:如何从模型层面获得对抗鲁棒性保证?

2022-12-23 23:10:20

外交部:敦促美方撤销所谓制裁,停止干涉西藏事务和中国内政

2022-12-23 16:02:32

卢伟冰将接任王翔担任小米总裁;特斯拉再添“自动驾驶”相关车祸调查;微软被法国监管机构罚款6000万欧元|世界快看

2022-12-23 10:31:35

世界速看:玖富万卡网贷逾期1年拖欠多久上征信系统

2022-12-23 00:22:44

国家发改委、国家能源局:鼓励电力用户与新能源企业签订年度及以上绿电交易合同 锁定较长周期并且稳定的价格水平 天天速讯

2022-12-22 16:05:53

党建“金钥匙”解锁基层治理

2022-12-22 10:25:58

《2022年中国银行业远程银行发展白皮书》发布:聚焦无接触时代远程银行建设

2022-12-21 21:00:46

北碚区婚姻债务纠纷律师费用一般怎么计算-焦点速讯

2022-12-21 15:08:06

女孩是家里唯一阴性被反向隔离 家里用什么消毒杀菌好

2022-12-21 09:05:12

综述:欧盟就天然气价格上限达成一致

2022-12-20 20:08:13

IE浏览器即将彻底告别历史舞台 坚守近30年 每日看点

2022-12-20 12:52:10

每日快讯!“世界北极熊之都”变得太暖和,北极熊们面临捕猎困境

2022-12-20 07:07:10

天天讯息:550条富郎牌电热毯被召回,机械强度等项目不合格

2022-12-19 18:16:25

杰富瑞:FTX债权人或能收回20-40%的损失资金

2022-12-19 13:35:56

环球快看:使用 IdentityServer 保护 Vue 前端

2022-12-19 07:25:49

前11月新疆喀什综保区进出口额逾230亿元

2022-12-18 21:04:56

世界即时:海南:加快推进自由贸易港建设

2022-12-17 23:41:16

福昕软件(688095)12月16日主力资金净卖出492.44万元

2022-12-17 08:22:53

【播资讯】昂立教育: 昂立教育第十一届董事会第五次会议决议公告

2022-12-16 19:04:58

Microchip MPLAB Harmony 世界热消息

2022-12-16 12:40:42

当前快看:合同续签申请该怎样写呢?应该注意哪些?

2022-12-16 05:08:54

吴佩慈:力压大S跻身“芭比娃娃”,6年生4胎,只为嫁纪晓波

2022-12-15 17:58:00

盈峰环境董秘回复:截止目前公司尚未开展碳交易业务,未持有碳交易所股权

2022-12-15 12:10:52

公司前线|丰立智能新增“注册制次新股”概念 天天最新

2022-12-15 05:25:36

中直股份: 中航直升机股份有限公司第八届监事会第十六次会议决议公告-世界百事通

2022-12-14 15:58:26

天天热讯:车之家2021年最新汽车报价

2022-12-14 10:33:14

极目锐评|孕妇怕感染在公司外的车里办公,对职场孕妈的保护不能悬空 每日看点

2022-12-13 21:36:03

世界快资讯丨马斯克旗下SpaceX拟每股77美元出售内部股 估值约1400亿美元

2022-12-13 13:46:43

电信盒子怎么连接usb 中国电信机顶盒usb怎么用-全球最资讯

2022-12-13 07:17:16

全球时讯:招商积余选举聂黎明为公司董事长 陈海照为总经理

2022-12-12 16:25:02

麦格理:维持申洲国际(02313.HK)“中性”评级 目标价降至80港元

2022-12-12 12:57:13

天天微头条丨华大智造(688114):独立董事提名人声明(武丽波)

2022-12-09 17:31:48

关爱你我他(她)· 温暖千万家丨西峡法院:慰问一线送物资 共筑防疫“安全线”-环球关注

2022-12-08 16:50:14

机器人(300024)新增【核酸采样】概念

2022-12-07 14:50:59

独家资金:早盘主力进散户逃前10股 天天消息

2022-12-06 11:00:50