集团企业网站建设方案策划书,动态背景设置网站,营销方案现金充值什么意思,网站建站网站设计队伍#xff1a;AI0000043
1. 算法方案
由于赛题同时要求速度和精度#xff0c;所以我们优先考虑小模型#xff0c;在保证模型速度的同时通过模型调优稳 定提升模型精度。此外#xff0c;由于图片分辨率比较大#xff0c;且数据集中小目标占比高#xff0c;我们计划使用…队伍AI0000043
1. 算法方案
由于赛题同时要求速度和精度所以我们优先考虑小模型在保证模型速度的同时通过模型调优稳 定提升模型精度。此外由于图片分辨率比较大且数据集中小目标占比高我们计划使用更大的图片 尺寸输入这就要求网络具有更大的感受野所以我们使用yolov5s6而不是yolov5s作为我们的 baseline。
同时为了稳步提升模型性能我们在使用一些通用tricks的同时例如coco数据集的预训练权 重多尺度训练模型平均以及同步BN还使用了大量的数据增强来进一步增强网络的泛化性使用的 数据增强包括RandomFlip、Mosaic、Mixup、Cutout、Blur和ToGray整体方案如下:
Yolov5 s6 4head 大量数据增强(randomflip、mosaic、mixup、cutout、albu库等) img size896 multi-scale training300epochs训练周期int8模型量化
2. 模型移植
我们在模型移植方面进行了大量的尝试以及实验整体思路是在保持或是较小影响模型性能的同时尽 可能提升模型推理速度技术路线分为Pytorch2Fp32bmodel和Pytorch2Int8bmodel
Pytorch→FP32bmodel
由于我们使用的是s6模型输出个数、锚框尺寸以及下采样倍数与主办方提供的s模型不同所以我们需 要修改推理脚本中的anchor generator来适配最终模型的输出结果与pt输出结果基本一致且速度相 较于jit模型推理有显著提升。
Pytorch→Int8bmodel
我们通过模型量化来进一步提升模型的推理速度。在量化过程中我们也碰到了一些问题。首先是量化 时间过长。通常来说量化数据集图片数量多的话量化的精度损失也会下降我们在实验中发现使 用所有数据集(训练集val_aval_b)需要超过20h的量化耗时使用验证集(val_aval_b)需要大概 10~20h的量化耗时使用val_b能够将量化用时控制在10h以内。为了解决量化时间过长的问题我们最 终只将b榜验证集作为我们的量化数据集专注于降低模型在b榜数据集上的量化误差。第二个问题是量 化后模型精度下降过大考虑到网络某些层由于作用明显不适合int8量化所以在实际量化过程中 由于网络检测头的卷积输出坐标以及得分等关键信息我们对其使用fp32单独量化。此外由于一键量 化工具会自动进行量化策略搜索但对同一模型搜索路线是相同的所以我们通过使用一键量化工具量 化多个模型取最优来保证量化后的模型性能。最后我们还进行了其它尝试比如将模型量化的误差指 标由feature_similarity更换为detect_accuracy在分步量化时通过calibration_use_pb命令行添加- th_method指定计算各个层量化阈值的方法。最终我们量化后的模型在推理速度上相较于fp32的模型能 够提升22ms虽然AP50有所下降但是最终得分还是得到了显著提高。
3. 模型推理
在模型推理的优化上我们的策略如下:
改进NMS优化后处理裁剪越界框 进行尺度实验权衡模型的速度和精度在具体实验中我们观察到原有的nms实现太耗时我们尝试使用nms变种进行替换在尝试过 fast_nms等nms变种后我们最终引入torchvision.ops.nms来替换原本的nms改进的nms能在保持 模型精度的同时提升模型推理速度10ms。此外原有的推理脚本未对越界框进行处理使得模型的输 出结果中包含许多跨出边界的检测框我们将这些跨出边界的检测框限制在图像尺寸内这个操作能够 在不影响推理速度的同时提升AP50大约0.5个点。最后我们还进行了大量的尺度实验来权衡速度和 精度包括960尺度训练(960尺度推理)、960尺度训练(896尺度推理)、896尺度训练(896尺度推 理)等最终使用方案896尺度训练(896尺度推理)
4. 参赛感悟与建议
由于时间原因模型还有更多的优化空间我们未来考虑从以下三方面来进行优化:
模型训练优化:在同等模型大小下通过一些训练技巧模型精度还能得到进一步的提升 模型量化优化:Int8量化后的模型精度有所下降可以尝试更多的优化策略来减少精度的损失从 而进一步提升模型的性能推理过程优化:多batch size推理多卡多线程推理
在这里也感谢算能平台提供的机会以及资源让我们对TPU有了进一步的了解。在有限的比赛时间 内我们也发现了一些问题比如说明文档的不完善在比赛过程中我们有考虑使用多卡多线程推 理但是在阅读过平台相关的说明文档后发现这方面的资料稀少且表述不清晰所以最终也没有成功 实现另外就是推理脚本的不完善在比赛过程中我们通过优化推理脚本就显著提高了模型的推理速 度模型的推理脚本仍有很大的优化空间。最终衷心祝愿算能平台能发挥自身优势越来越好。
