详解注意力机制

注意力机制注意力机制就是让网络关注到它更需要关注的地方,是一种网络自适应注意的方式。注意力机制可以分为通道注意力,空间注意力以及二者的结合。 相关论文SENet2017年提出的SENet是最后一届ImageNet竞赛的冠军,其实现示意图如下所示,对于输入进来的特征层,我们关注其每一个通道的权重,对于SENet而言,其重点是获得输入进来的特征层,每一个通道的权值。利用SENet,我们可以让网络...