找人做网站昆明,临沂seo排名外包,o2o平台有哪些可以入驻,怎么跟客户介绍网站建设什么是半监督目标检测#xff1f;
传统机器学习根据训练数据集中的标注情况#xff0c;有着不同的场景#xff0c;主要包括#xff1a;监督学习、弱监督学习、弱半监督学习、半监督学习。由于目标检测任务的特殊性#xff0c;在介绍半监督目标检测方法之前#xff0c;我…什么是半监督目标检测
传统机器学习根据训练数据集中的标注情况有着不同的场景主要包括监督学习、弱监督学习、弱半监督学习、半监督学习。由于目标检测任务的特殊性在介绍半监督目标检测方法之前我们查看一下目标检测在四个方向上的具体设定 总而言之目标检测的setting分为四个部分
有监督目标检测拥有大规模带标签的数据包括完整的实例级别的标注即包含坐标和类别信息弱监督目标检测数据集中的标注仅包含类别信息不包含坐标信息弱半监督目标检测数据集中拥有部分实例级别的标注大量弱标注数据模型希望利用大规模的弱标注数据提升模型的检测能力半监督目标检测数据集中拥有部分实例级别的标注大量未标注数据模型希望利用大规模的无标注的数据提升模型的检测能力 半监督目标检测方法的核心在于如何充分利用大量未标注、多样性的数据提升模型在测试集上的性能目前的半监督目标检测方法主要有两个方向 1.一致性学习Consistency based Learning) 2.伪标签Pseudo-label based Learning 前者利用两个深度卷积神经网络学习同一张unlabeled图像不同扰动比如水平翻转不同的对比度亮度等之间的一致性充分利用unlabeled data进行推理经过NMS后减少大量冗余框利用一个阈值去挑选伪标签最后利用伪标签训练模型两种方法没有本质区别本身都是伪标签技术一致性学习可以认为是一种soft pseudo label而后者是一种hard pseudo label. 近期比较好的半监督目标检测文章
1. Consistency-based Semi-supervised Learning for Object Detection, NeurIPS 19
论文linkhttps://papers.nips.cc/paper/2019/hash/d0f4dae80c3d0277922f8371d5827292-Abstract.html codecode CSD 这篇文章是比较早期的半监督目标检测方法非常简单该文章提出了一个 Consistency-based 半监督目标检测算法可以同时在单阶段和双阶段检测器上工作。
CSD的结构如图二所示以单节段目标检测器为例训练的损失函数主要包括两个部分,labeled sample的监督损失和unlabeled samples的Consistency loss.针对unlabeled samples首先将图片翻转然后分别送到网络之中得到对应的Feature map,由于两张翻转的图像的空间位置是可以一一对应的因此可以在对应的位置计算一致性损失。分类部分利用JS散度作为consistency loss;定位部分利用L2 loss作为consistency loss。 双阶段检测器的部分与单阶段检测器类似差别主要在于RPNRegion Proposal Network对于不同的输入可能产生不同的proposals,因此在计算consistency loss时无法一一对应解决此问题也很简单两张图像使用同一个RPB生成同一组RoI(Region of Interest来提取特征得到proposals。 作者还提出了一个 Background elimination 方法来消除大量背景部分的损失主导训练过程的问题因此作者定义了一个 mask 来过滤大量的背景样本 其中当该实例的类别不等于背景类时等于1否则为 0
2.A Simple Semi-Supervised Learning Framework for Object Detection
paperlink codecode TAC 提出了一个基于 hard pseudo label 的半监督目标检测算法如图三所示该方法包含四个步骤
首先利用 labeled data 训练一个 Teacher 模型生成 pseudo label, 将 unlabeled data 输入进 Teacher 网络中得到大量的目标框预测结果利用 NMS 消除大量的冗余框最后使用阈值来挑选高置信度的 pseudo label应用 strong data augmentation。得到 pseudo label 后与 unlabeled image 图像相结合包括图像级别的颜色抖动、geometric transformation(平移、旋转、剪切)、box-level transformation小幅度的平移、旋转、剪切计算无监督 loss pseudo label和监督学习 loss 图三 STAC 半监督目标检测算法示意图
3.Instant-Teaching: An End-to-End Semi-Supervised Object Detection Framework
paperlink Instant-Teaching 主要的 motivation 在于 STAC 仅生成一次的 pseudo label即离线生成在训练的过程中不会更新。这样的模式存在一个问题是当训练的模型精度逐步提升超过原本的模型继续使用原来模型生成的 pseudo label 会限制模型精度进一步提升。因此作者提出 Instant-Teaching以及 Instant-Teaching。 图四 Instant-Teaching 和 Instant-Teaching* 示意图 Instant-Teaching 采用即时生成 pseudo label 的模式在每一个迭代中包括两个步骤 1.生成 pseudo label: 对 unlabeled image 进行 weak augmentation送入模型中得到 hard label 2.利用生成的 pseudo label 进行 strong augmentation除了 在 STAC 中的数据增强还包括了 Mixup 和 Mosaic利用增强后的数据训练模型 Instant-Teaching 主要提出了一个 co-rectify scheme 来解决 pseudo label 的 confirmation bias 的问题噪声 pseudo label 的错误累计效应。因此作者利用两个模型给予不同的初始化参数输入不同的数据增强的样本分别彼此纠正和检测对方生成的 pseudo label形式如图四右半部分。
总结 本文介绍了一些半监督目标检测算法即如何利用大量的 unlabeled data 提升模型的检测性能当前主要的方法包含 consistency based 以及 pseudo label based 两类。consistency based 方法主要学习模型在 unlabeled data 上的一致性pseudo label 则利用在 unlabeled data 上生成 pseudo label 进而监督模型训练主要的方向即为如何生成高质量的伪标签以及模型如何对抗在 unlabeled data 上的 noise label。本文介绍了的半监督目标检测方法不多关于方法的介绍较为笼统如有谬误烦请指正其中细节还需仔细阅读文章欢迎讨论。
转自wxhttps://mp.weixin.qq.com/s?__bizMzU0NjgzMDIxMQmid2247602689idx3sn608057273347f3109b0a6e65212ed3c4chksmfb54b0edcc2339fb809d96e89c98a6a023d9f4d19185c875ce70f348d2265ddf620d91fba086scene27
