基于Paddle2.0的注意力卷积网络CBAM和BAM

想给卷积网络添加注意力机制吗？是否已经厌倦了使用SE-NET？本项目使用Paddle2.0复现了含有注意力机制的卷积网络CBAM和BAM，并在动物分类数据集上进行了训练和验证。

项目背景

CBAM是2018年ECCV上的一篇论文CBAM: Convolutional Block Attention Module中提出的基于注意力机制的卷积网络模型。BAM是2018年BMVC上的一篇论文BAM: Bottleneck Attention Module中提出的基于注意力机制的网络模型。本项目即对其进行复现。

计算机视觉领域的注意力机制主要涵盖空间注意力和通道注意力两个方面。其中空间注意力用来捕获像素间的关系，而通道注意力用来捕获通道间的关系。CBAM提出了Convolutional Block Attention Module(CBAM)模块，该模块从空间注意力和通道注意力两个方面生成注意力特征图，然后将注意力特征图和输入进行相乘来调节注意力特征图的参数。本项目复现CBAM和BAM并用其来完成动物图像分类的实验。

项目简介

本项目首次使用paddle2.0复现了含有注意力机制的网络CBAM和BAM，并在动物数据集上进行了训练和验证。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

动物数据集的划分是按8:2的的划分方法进行训练集与验证集划分的。

模型简介

CBAM网络的核心思想是提出了CBAM模块。该模块对输入先经过通道注意力模块，和输入相乘后再经过空间注意力模块，和输入再次相乘后得到调整参数的注意力特征图。如图1所示。

图1 CBAM模块细节示意图

BAM网络的核心思想是提出了BAM模块。BAM可以认为是并行版的CBAM。如图2所示。

图2 BAM模块细节示意图

具体实现可以fork后见代码细节。

论文原文：CBAM: Convolutional Block Attention Module

参考代码：

PyTorch的实现

数据集介绍

本项目使用10分类的动物数据集进行训练和测试.

该十分类动物数据集，包含dog,horse,elephant,butterfly,chicken,cat,cow,sheep,spider和squirrel。每一分类的图片数量为2k-5k。

文件结构

解压数据集

In [1]

!unzip -q data/data70196/animals.zip -d work/dataset

登录后复制

查看图片

In [ ]

import osimport randomfrom matplotlib import pyplot as pltfrom PIL import Imageimgs = []paths = os.listdir('work/dataset')for path in paths:       img_path = os.path.join('work/dataset', path)    if os.path.isdir(img_path):        img_paths = os.listdir(img_path)        img = Image.open(os.path.join(img_path, random.choice(img_paths)))        imgs.append((img, path))f, ax = plt.subplots(3, 3, figsize=(12,12))for i, img in enumerate(imgs[:9]):    ax[i//3, i%3].imshow(img[0])    ax[i//3, i%3].axis('off')    ax[i//3, i%3].set_title('label: %s' % img[1])plt.show()

登录后复制

登录后复制

划分训练集和验证集

In [2]

!python code/train_val_split.py

登录后复制

finished train val split!

登录后复制

使用CBAM-ResNet50网络进行动物分类的训练并验证

训练

In [1]

!python code/train.py --net 'cbam_resnet'

登录后复制

验证

In [32]

!python code/eval.py --net 'cbam_resnet'

登录后复制

W0218 15:48:02.818117 23045 device_context.cc:362] Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 11.0, Runtime API Version: 10.1W0218 15:48:02.824904 23045 device_context.cc:372] device: 0, cuDNN Version: 7.6.Eval begin...The loss value printed in the log is the current batch, and the metric is the average value of previous step.step 103/103 [==============================] - loss: 0.3478 - acc: 0.8544 - 232ms/step         Eval samples: 3276{'loss': [0.347824], 'acc': 0.8543956043956044}

登录后复制

使用BAM-ResNet50网络进行动物分类的训练并验证

训练

In [31]

!python code/train.py --net 'bam_resnet'

登录后复制

W0218 15:48:47.528769 23145 device_context.cc:362] Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 11.0, Runtime API Version: 10.1W0218 15:48:47.532490 23145 device_context.cc:372] device: 0, cuDNN Version: 7.6.The loss value printed in the log is the current step, and the metric is the average value of previous step.Epoch 1/50

登录后复制

验证

In [34]

!python code/eval.py --net 'bam_resnet'

登录后复制

W0218 19:49:38.340137  5185 device_context.cc:362] Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 11.0, Runtime API Version: 10.1W0218 19:49:38.343930  5185 device_context.cc:372] device: 0, cuDNN Version: 7.6.Eval begin...The loss value printed in the log is the current batch, and the metric is the average value of previous step.step 103/103 [==============================] - loss: 0.2684 - acc: 0.8504 - 199ms/step        Eval samples: 3276{'loss': [0.2684111], 'acc': 0.8504273504273504}

登录后复制

图示训练验证过程

图3. 使用CBAM和BAM的训练验证图示

使用resnet50网络进行动物分类的训练并验证

训练

In [2]

!python code/train.py --net 'resnet'

登录后复制

验证

In [ ]

!python code/eval.py --net 'resnet'

登录后复制

W0213 21:34:50.038996 12684 device_context.cc:362] Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 10.1, Runtime API Version: 10.1W0213 21:34:50.043457 12684 device_context.cc:372] device: 0, cuDNN Version: 7.6.Eval begin...The loss value printed in the log is the current batch, and the metric is the average value of previous step.step 103/103 [==============================] - loss: 1.4232 - acc: 0.5888 - 191ms/step        Eval samples: 3276{'loss': [1.4232028], 'acc': 0.5888278388278388}

登录后复制

图示训练验证过程

图4. 使用ResNet的训练验证图示

比较

图5. 使用CBAM、BAM和ResNet的验证比较图示