延庆网站建设,推广普通话手抄报内容怎么写,网络营销的网站建设报告,网站注销备案边界框回归#xff08;BBR#xff09;的损失函数对于目标检测至关重要。它的良好定义将为模型带来显著的性能改进。大多数现有的工作假设训练数据中的样本是高质量的#xff0c;并侧重于增强BBR损失的拟合能力。
一、L2-norm 最初的基于回归的BBR损失定义为L2-norm#xf… 边界框回归BBR的损失函数对于目标检测至关重要。它的良好定义将为模型带来显著的性能改进。大多数现有的工作假设训练数据中的样本是高质量的并侧重于增强BBR损失的拟合能力。
一、L2-norm 最初的基于回归的BBR损失定义为L2-normL2-norm损失主要有两个缺点 1、边界框的坐标以xt、xb、xl、xr的形式被优化为四个独立变量。这个假设违背了对象的边界高度相关的事实。简单的分开计算每个变量的回归loss无法反映这种相关性它会导致预测框的一个或两个边界非常接近GT但整个边界框是不满足条件的。 2、这种形式的损失函数并不能屏蔽边界框大小的干扰使得模型对小目标的定位性能较差。
二、IoU loss 论文:《UnitBox: An Advanced Object Detection Network》 在目标检测任务中使用IoU来测量anchor box与目标box之间的重叠程度。它以比例的形式有效地屏蔽了边界框大小的干扰使该模型在使用1-IoU作为BBR损失时能够很好地平衡对大物体和小物体的学习。 IoU loss的函数定义为 当边界框没有重叠时Liou对Wi求导会等于0即 此时Liou的反向投影梯度消失在训练期间无法更新重叠区域Wi的宽度。
IoU损失会有两个主要的缺点
1、当预测框与真实框都没有交集时计算出来的IoU都为0损失都为1但是缺失距离信息预测框与GT相对位置较近时损失函数应该较小。 2、当预测框和真实框的交并比相同但是预测框所在位置不同因为计算出来的损失一样所以这样并不能判断哪种预测框更加准确。 现有的工作GIOU、DIOU、Focal EIOU、CIOU以及SIOU中考虑了许多与边界框相关的几何因子并构造了惩罚项Ri来解决这个问题。现有的BBR损失遵循以下范例 三、GIoU loss 论文《Generalized Intersection over Union: A Metric and A Loss for Bounding Box Regression》 为了解决IoU loss的第一个问题即当预测框与真实框都没有交集的时候计算出来的IoU都为0损失都为1引入了一个最小闭包区的概念即能将预测框和真实框包裹住的最小矩形框 其中紫色框为GT蓝色框为预测框绿色的边框则为最小包围框。
GIoU的伪代码 与IoU相似GIoU也是一种距离度量IoU取值[0,1]GIoU取值范围[-1,1]。在两者重合的时候取最大值1在两者无交集且无限远的时候取最小值-1因此GIoU是一个非常好的距离度量指标。与IoU只关注重叠区域不同GIoU不仅关注重叠区域还关注其他的非重合区域能更好的反映两者的重合度。
但是GIoU同时也存在一些问题
1、当预测框包裹GT时计算的iou相同但是质量却不同对于预测框的中心点靠近GT中心点的情况loss应该相对小一些
GIoU loss的定义 四、DIoU/CIoU loss 论文《Distance-IoU Loss: Faster and Better Learning for Bounding Box Regression》 DIoU为了解决GIoU中存在的问题作者认为好的检测回归loss应该考虑三个几何度量预测框和GT框的重叠度、中心点距离、长宽比的一致性。于是在IoU loss和GIoU loss基础上引入预测框和GT框中心点距离作DIoU loss在DIoU loss基础上引入了预测框的长宽比和GT框的长宽比之间的差异作CIoU loss。此外将DIoU加入nms替代IoU提升了nms的鲁棒性。 DIoU定义 DIoU也存在一个缺点当真实框和预测框的中心点重合时但是长宽比不同交并比一样CIoU在此基础上增加一个惩罚项。
CIoU定义 其中 v用于计算预测框和目标框的高宽比的一致性这里是用tan角来衡量 α是一个平衡参数这个系数不参与梯度计算这里根据IoU值来赋予优先级当预测框和目标框IoU越大时系数越大 。
五、EIoU Loss/Focal EIoU Loss 论文Focal and Efficient IOU Loss for Accurate Bounding Box Regression》 主要思想 一是认为CIoU loss对于长宽比加入loss的设计不太合理于是将CIoU loss中反应长宽比一致性的部分替换成了分别对于长和宽的一致性loss形成了EIoU loss。 二是认为不太好的回归样本对回归loss产生了比较大的影响回归质量相对较好的样本则难以进一步优化所以论文提出Focal EIoU loss进行回归质量较好和质量较差的样本之间的平衡。
EIoU loss定义 其中hc和wc为最小包围框的高和宽。 要平衡回归质量较好的样本的偏小loss和回归质量较差的样本的偏大loss很自然的选择和GT的IoU形成类似focal loss中的(1-p)的γ次方的权重来调节是一个很好的想法。
Focal EIoU loss定义 最终形式 指标对比 六、SIoU loss 论文《SIoU Loss: More Powerful Learning for Bounding Box Regression》 已有方法匹配真实框和预测框之间的IoU、中心点距离、宽高比等它们均未考虑真实框和预测框之间不匹配的方向。这种不足导致收敛速度较慢且效率较低因为预测框可能在训练过程中“徘徊”最终生成更差的模型。 本文提出了一种新的损失函数SCYLLA-IoUSIoU考虑到期望回归之间向量的角度重新定义角度惩罚度量它可以使预测框快速漂移到最近的轴随后则只需要回归一个坐标X或Y这有效地减少了自由度的总数。 Zhora证明了中心对准anchor box具有更快的收敛速度并根据角度成本、距离成本和形状成本构造了SIoU。 Angle cost描述了中心点连接图1与x-y轴之间的最小角度当中心点在x轴或y轴上对齐时Λ 0。当中心点连接到x轴45°时Λ 1。这一惩罚可以引导anchor box移动到目标框的最近的轴上减少了BBR的总自由度数。 Distance cost描述了中心点之间的距离其惩罚代价与角度代价呈正相关当→0时Distance cost的贡献大大降低。相反越接近pi/4Distance cost贡献越大。
具体来说以X轴为例即两框近乎平行时a趋近于0这样计算出来两框之间的角度距离接近于0此时γ也接近于2那么两框之间的距离对于整体loss的贡献变少了。而当a趋近与45°时计算出来两框之间的角度为1此时γ接近1则两框之间的距离应该被重视需要占更大的loss。 Shape cost这里作者考虑的两框之间的长宽比是通过计算两框之间宽之差和二者之间最大宽之比长同理来定义的大体思路和CIOU类似只不过CIOU可以的考虑是两框整体形状的收敛而SIoU是以长、宽两个边收敛来达到整体形状收敛的效果。 θ是个可调变量来表示网络需要对形状这个给予多少注意力即占多少权重。实验中设置为4。
SIoU loss定义 七、WIoU loss 论文《Wise-IoU: Bounding Box Regression Loss with Dynamic Focusing Mechanism》 Focal EIoU v1被提出来解决质量较好和质量较差的样本间的BBR平衡问题但由于其静态聚焦机制FM非单调FM的潜力没有被充分利用基于这一思想作者提出了一种基于IoU的损失该损失具有动态非单调FM名为Wise IoUWIoU。
主要贡献总结如下 提出了BBR的基于注意力的损失WIoU v1它在仿真实验中实现了比最先进的SIoU更低的回归误差。 设计了具有单调FM的WIoU v2和具有动态非单调FM的WIoU v3。利用动态非单调FM的明智的梯度增益分配策略WIoU v3获得了优越的性能。 对低质量的样本的影响进行了一系列详细的研究证明了动态非单调调频的有效性和效率。 由于训练数据不可避免地包含低质量示例几何因素如距离和纵横比将加重对低质量示例的惩罚从而降低模型的泛化性能。当anchor box与目标box很好地重合时一个好的损失函数应该会削弱几何因素的惩罚而较少的训练干预将使模型获得更好的泛化能力。
WIoU loss定义 其中WgHg表示最小包围框的宽和高。为了防止Rwiou产生阻碍收敛的梯度Wg和Hg从计算图中分离出来上标*表示此操作。因为它有效地消除了阻碍收敛的因素所以没有引入新的度量例如纵横比。
1、Rwiou∈[1,e),这将显著放大普通质量anchor box的LIoU。
2、Liou∈[0,1]这将显著降低高质量anchor box的Rwiou并在anchor box与目标框重合时重点关注中心点之间的距离。
消融实验的结果 从消融实验的结果可以看出WIoU v3的效果最好。
代码 上述的IoU loss的实现可以参看我的另一篇文章yolov5增加iou loss无痛涨点trick
