【YOLO26创新改进】AAAI 2026 | 注意力改进篇 | 引入Circulant Attention循环注意力模块,适合图像分类、目标检测、旋转目标检测、实例分割、医学图像分割任务

发布时间:2026/8/3 6:50:30
【YOLO26创新改进】AAAI 2026 | 注意力改进篇 | 引入Circulant Attention循环注意力模块,适合图像分类、目标检测、旋转目标检测、实例分割、医学图像分割任务 一、本文介绍⭐本文在YOLO26中引入Circulant Attention循环注意力模块创新改进,在保留全局感受野的同时,利用循环结构与频域计算降低传统自注意力的高额计算和显存开销,使网络更高效地建模远距离目标、背景及跨尺度特征之间的关系;其平移一致性有助于增强目标在不同位置出现时的特征稳定性,令牌重加权机制则可进一步突出关键目标区域、抑制冗余背景信息,从而改善复杂场景、多目标和小目标检测中的误检与漏检。相比窗口注意力或固定稀疏注意力,该模块不需要明显牺牲全局信息,更适合高分辨率检测输入,并有望兼顾检测精度、推理速度与计算成本。YOLO26创新专栏目录:YOLO26涨点改进目录| 含Conv卷积、主干网络、注意力机制、Neck特征融合、检测头、知识蒸馏、模型剪枝、轻量化改进、损失函数、二次创新C2PSA/C3k2等各种顶会顶刊创新改进YOLO26订阅专栏地址:全新YOLO26独家创新改进,适合高效发表SCI和CCF小论文、大论文写作。本文目录 一、本文介绍二、Circulant Attention循环注意力模块介绍2.1,Circulant Attention循环注意力模块的结构图2.2,Circulant Attention模块的核心思想2.3,Circulant Attention注意力模块的作用2.4,Circulant Attention注意力模块的原理2.5适用任务领域三、核心模块的完整实现代码四、手把手添加步骤4.1 修改一4.2修改二4.3修改三五、yaml模型文件创新改进版本1🚀创新改进版本2🚀六、成功运行结果演示二、Circulant Attention循环注意力模块介绍摘要:自注意力机制一直是视觉Transformer技术进步的关键因素。然而,其二次复杂度在高分辨率场景下会带来沉重的计算负担,从而限制了其实用化应用。以往的方法试图通过引入手工设计的模式(如局部性或稀疏性)来缓解这一问题,但这不可避免地会削弱模型的容量。本文提出了一种名为“循环注意力”的新型注意力范式,该范式利用了自注意力机制固有的高效模式。具体而言,我们首先发现,视觉Transformer中的自注意力矩阵通常近似于具有循环块的块循环矩阵(BCCB)——这是一种结构化的矩阵,其与其它矩阵相乘可在O(N log N)时间内完成