论文速递|视觉 AI 新范式!OverLoCK 实现人类级注意力机制

一、前沿速递:仿生视觉新范式

人类视觉系统的核心奥秘——“先概览全局,后聚焦细节”,被香港大学团队成功复刻到深度学习模型中!他们提出的OverLoCK(Overview-first-Look-Closely-next ConvNet),首次将这一生物机制融入纯卷积神经网络,在图像分类、目标检测、语义分割等任务中刷新性能天花板。

二、仿生设计:从生物学到AI的跨越

传统卷积神经网络(ConvNets)依赖金字塔结构逐层下采样,虽能扩大感受野,却忽略了人类视觉的双向反馈机制。OverLoCK创新性地采用三分支架构:

1. Base-Net:提取中低层特征

2. Overview-Net:通过轻量级全局建模生成动态顶层注意力(“概览”)

3. Focus-Net:在顶层指导下进行精细化感知(“细看”)

这种设计让模型能像人类一样,先快速定位关键区域,再深入分析细节,显著提升特征定位能力。

今日霍州(www.jrhz.info)©️

三、动态卷积:全局与局部的完美平衡

为解决传统卷积固定核大小的局限,团队提出ContMix(上下文混合动态卷积):

- 通过区域中心亲和力计算,动态生成包含全局信息的卷积核

- 结合大小核混合设计,同时捕捉长距离依赖与局部细节

- 在高分辨率输入下仍保持线性复杂度

今日霍州(www.jrhz.info)©️

实验表明,ContMix在ImageNet上的有效感受野(ERF)超过基于Transformer和Mamba的模型,同时保留卷积的局部归纳偏置。

四、性能碾压:刷新SOTA的成绩单

今日霍州(www.jrhz.info)©️

- 图像分类:OverLoCK-T以1/3计算量超越ConvNeXt-B,在384×384分辨率下Top-1达86.2%

- 目标检测:OverLoCK-S在COCO数据集上APb超越MogaNet-B 1.5%

- 语义分割:OverLoCK-T在ADE20K上mIoU提升UniRepLKNet-T 1.7%

五、核心创新点

1. 深度阶段分解策略(DDS):

- 解耦概览与细节处理分支

- 通过上下文流动态更新顶层指导信号

2. 动态上下文混合机制:

- 全局信息注入卷积核权重

- 自适应核生成保持计算效率

3. 轻量级架构设计:

- 共享Base-Net减少冗余计算

- 辅助监督提升特征质量

今日霍州(www.jrhz.info)©️

六、未来展望

OverLoCK的意义不仅在于性能突破,更标志着纯卷积网络的复兴。其高效的全局建模能力为自动驾驶、医学影像等对延迟敏感的领域提供了新选择。团队已开源代码(https://rb.gy/wit4jh),期待更多研究者基于此探索视觉智能的边界。

特别声明:[论文速递|视觉 AI 新范式!OverLoCK 实现人类级注意力机制] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

没有硬本领,别接难事!75岁『张艺谋』再次出手,给『吴京』上了一课(没有本领的人)

记得以前,『马伊琍』的前夫也是一度觉得自己事业风头正劲,但现在人却几乎消失在『娱乐圈』️了。从一开始,许多网友并没有对《镖人》报以太高的期望,其中一个原因是『吴京』在宣传时总是带着父亲般的教诲口气,显得有些刻意;另一个原因…

没有硬本领,别接难事!75岁『张艺谋』再次出手,给『吴京』上了一课(没有本领的人)

油二胺UN2735货代(二铵有油是假的)

油二胺CAS:68603-64-5 常用名称:油胺聚氧乙烯醚,乙氧基化油胺,聚氧乙烯油胺 物理形态:常温下通常为黄色至琥珀色粘稠液体或膏体表面活性:具有良好的乳化、分散、润湿、抗静电和缓蚀性能。 化学稳定性…

油二胺UN2735货代(二铵有油是假的)

白露篇:坎帕尼亚晨露与云仓酒庄雷盛红酒816

雷盛红酒816因此成为对这段节律的记录者:它以DOP级别为规范,以750ml的装瓶规格和干型的定位,将坎帕尼亚的气候与土壤在制度化流程中固定为可识别的地域语汇。文化上,白露是一种关于敏感性与耐心的分享育:云仓…

白露篇:坎帕尼亚晨露与云仓酒庄雷盛红酒816

IU辟谣情侣装风波:低调爱意下的事业坚守(iu与粉丝互动)

近日,IU亲自下场辟谣与『李钟硕』穿情侣装一事,瞬间在网络上掀起了层层涟漪,成为了大众热议的焦点。 IU辟谣情侣装这一事件,也让我们看到了大众对『明星』️私人生活的过度关注。在这个充满诱惑和喧嚣的『娱乐圈』️,我们应该保持理…

IU辟谣情侣装风波:低调爱意下的事业坚守(iu与粉丝互动)

2026男士沐浴露『香氛』与清爽对决:理然冰爽VS海洋至尊能量仓(男士沐浴露大牌)

如果你是油皮,且对『香氛』体验有较高要求,追求沐浴时的沉浸式『香氛』感受,理然冰爽沐浴露会是你的心头好;若你深受油脂分泌旺盛、螨虫困扰,渴望长时间保持清爽与迷人香气,海洋至尊能量仓男士沐浴露能为你排忧解难;而如果你是…

2026男士沐浴露『香氛』与清爽对决:理然冰爽VS海洋至尊能量仓(男士沐浴露大牌)