YOLOv11融合[NeurIPS2023]GoldYOLO中的GD模块

YOLOv11v10v8使用教程： YOLOv11入门到入土使用教程

YOLOv11改进汇总贴：YOLOv11及自研模型更新汇总

《Gold-YOLO: Efficient Object Detector via Gather-and-Distribute Mechanism》

一、模块介绍

论文链接：https://arxiv.org/abs/2309.11331v4

代码链接：https://github.com/huawei-noah/

论文速览：

在过去几年中，YOLO 系列模型已成为实时对象检测领域的领先方法。许多研究通过修改架构、增强数据和设计新的损失，将基线推高到更高的水平。然而，我们发现以前的模型仍然存在信息融合问题，尽管特征金字塔网络（FPN）和路径聚合网络（PANet）缓解了这个问题。因此，本研究提供了一种先进的 Gatherand-Distribute 机制（GD）机制，该机制是通过卷积和自注意力操作实现的。这个名为 Gold-YOLO 的新设计模型增强了多尺度特征融合能力，并在所有模型尺度上实现了延迟和准确性之间的理想平衡。此外，我们首次在 YOLO 系列中实现了 MAE 风格的预训练，使 YOLO 系列模型可以从无监督的预训练中受益。Gold-YOLO-N 在 COCO val2017 数据集上获得了 39.9% 的出色 AP，在 T4 GPU 上获得了 1030 FPS，比之前具有类似 FPS 的 SOTA 模型 YOLOv6-3.0-N 高出 +2.4%。

总结：华为诺亚方舟提出的Gold YOLO。

⭐⭐本文二创模块仅更新于付费群中，往期免费教程可看下方链接⭐⭐

YOLOv11及自研模型更新汇总（含免费教程）文章浏览阅读366次，点赞3次，收藏4次。群文件2024/11/08日更新。,群文件2024/11/08日更新。_yolo11部署自己的数据集https://xy2668825911.blog.csdn.net/article/details/143633356

⭐⭐付费项目简介：融合上百种顶刊顶会模块的YOLO项目仅119（赠百种改进的v9），此外含自研模型与本文模块融合进行二创三创，最快1-2周完成小论文改进实验，代码每周更新（上周更新超20+二创模块），欢迎QQ：2668825911(或点击下方小卡片扫二维码)加我了解。⭐⭐

⭐⭐本项目并非简单的模块插入，平均每个文章对应4-6个二创或自研融合模块，有效果即可写论文或三创。本文项目使用ultralytics框架，兼容YOLOv3\5\6\8\9\10\world与RT-DETR。⭐⭐

已进群小伙伴可以先用下文二创及自研模块在自己的数据集上测试，有效果再进行模块结构分析或继续改进。

二、二创融合模块

2.1 相关二创模块及所需参数

本节暂时无二创模块。

2.2更改yaml文件 (以自研模型为例)

yam文件解读：YOLO系列 “.yaml“文件解读_yolo yaml文件-CSDN博客

打开更改ultralytics/cfg/models/11路径下的YOLOv11.yaml文件，替换原有模块。

# Ultralytics YOLO 🚀, AGPL-3.0 license
# YOLO11 object detection model with P3-P5 outputs. For Usage examples see https://docs.ultralytics.com/tasks/detect
# ⭐⭐Powered by https://blog.csdn.net/StopAndGoyyy,  技术指导QQ:2668825911⭐⭐# Parameters
nc: 80 # number of classes
scales: # model compound scaling constants, i.e. 'model=yolo11n.yaml' will call yolo11.yaml with scale 'n'# [depth, width, max_channels]n: [0.50, 0.25, 1024] # summary: 377 layers, 2,249,525 parameters, 2,249,509 gradients, 8.7 GFLOPs/258 layers, 2,219,405 parameters, 0 gradients, 8.5 GFLOPss: [0.50, 0.50, 1024] # summary: 377 layers, 8,082,389 parameters, 8,082,373 gradients, 29.8 GFLOPs/258 layers, 7,972,885 parameters, 0 gradients, 29.2 GFLOPsm: [0.50, 1.00, 512] # summary:  377 layers, 20,370,221 parameters, 20,370,205 gradients, 103.0 GFLOPs/258 layers, 20,153,773 parameters, 0 gradients, 101.2 GFLOPsl: [1.00, 1.00, 512] # summary: 521 layers, 23,648,717 parameters, 23,648,701 gradients, 124.5 GFLOPs/330 layers, 23,226,989 parameters, 0 gradients, 121.2 GFLOPsx: [1.00, 1.50, 512] # summary: 521 layers, 53,125,237 parameters, 53,125,221 gradients, 278.9 GFLOPs/330 layers, 52,191,589 parameters, 0 gradients, 272.1 GFLOPs#  n: [0.33, 0.25, 1024]
#  s: [0.50, 0.50, 1024]
#  m: [0.67, 0.75, 768]
#  l: [1.00, 1.00, 512]
#  x: [1.00, 1.25, 512]
# YOLO11n backbone
backbone:# [from, repeats, module, args]- [-1, 1, Conv, [64, 3, 2]] # 0-P1/2- [-1, 1, Conv, [128, 3, 2]] # 1-P2/4- [-1, 2, RCRep2A, [128, False, 0.25]]- [-1, 1, Conv, [256, 3, 2]] # 3-P3/8- [-1, 4, RCRep2A, [256, False, 0.25]]- [-1, 1, Conv, [512, 3, 2]] # 5-P4/16- [-1, 4, RCRep2A, [512, True]]- [-1, 1, Conv, [1024, 3, 2]] # 7-P5/32- [-1, 2, RCRep2A, [1024, True]]- [-1, 1, SPPF_WD, [1024, 7]] # 9# YOLO11n head
head:- [[2, 4, 6, 9], 1, SimFusion_4in, []]  # 10- [-1, 1, IFM, [[64, 32]]]  # 11- [9, 1, Conv, [512, 1, 1]]  # 12- [[4, 6, -1], 1, SimFusion_3in, [512]]  # 13- [[-1, 11], 1, InjectionMultiSum_Auto_pool, [512, [64, 32], 0]]  # 14- [-1, 3, RCRep2A, [256]]  # 15- [6, 1, Conv, [256, 1, 1]]  # 16- [[2, 4, -1], 1, SimFusion_3in, [256]]  # 17- [[-1, 11], 1, InjectionMultiSum_Auto_pool, [256, [64, 32], 1]]  # 18- [-1, 3, RCRep2A, [256]]  # 19- [[-1, 15, 9], 1, PyramidPoolAgg, [352, 2]]  # 20- [-1, 1, TopBasicLayer, [352, [64, 128]]]  # 21- [[19, 16], 1, AdvPoolFusion, []] # 22- [[-1, 21], 1, InjectionMultiSum_Auto_pool, [256, [64, 128], 0]] # 23- [-1, 3, RCRep2A, [256]] # 24- [[-1, 12], 1, AdvPoolFusion, []] # 25- [[-1, 21], 1, InjectionMultiSum_Auto_pool, [512, [64, 128], 1]] # 26- [-1, 3, RCRep2A, [256]] # 27- [[19, 24, 27], 1, Detect, [nc]] # Detect(P3, P4, P5)# ⭐⭐Powered by https://blog.csdn.net/StopAndGoyyy,  技术指导QQ:2668825911⭐⭐

2.3 修改train.py文件

创建Train脚本用于训练。

from ultralytics.models import YOLO
import os
os.environ['KMP_DUPLICATE_LIB_OK'] = 'TRUE'if __name__ == '__main__':model = YOLO(model='ultralytics/cfg/models/xy_YOLO/xy_yolov1-ConvNeXt.yaml')# model = YOLO(model='ultralytics/cfg/models/11/yolo11l.yaml')model.train(data='./datasets/data.yaml', epochs=1, batch=1, device='0', imgsz=320, workers=1, cache=False,amp=True, mosaic=False, project='run/train', name='exp',)