💡💡💡本文属于原创独家改进: 稀疏重参数RIFormerBlock模型引入YOLOv7进行创新性

RIFormerBlock |亲测在多个数据集实现涨点;

收录:

YOLOv7高阶自研专栏介绍:

http://t.csdnimg.cn/tYI0c

✨✨✨前沿最新计算机顶会复现

🚀🚀🚀YOLOv7自研创新结合,轻松搞定科研

🍉🍉🍉持续更新中,定期更新不同数据集涨点情况

1.RIFormer介绍

论文:https://arxiv.org/pdf/2304.05659.pdf

问题:Vision Transformer 已取得长足进步,token mixer,其优秀的建模能力已在各种视觉任务中被广泛证明,典型的 token mixer 为自注意力机制,推理耗时长,计算代价大。直接去除会导致模型结构先验不完整,从而带来显著的准确性下降。本文探索如何去掉 token mixer,并以 poolformer 为基准&#x