一、UNet++整体网络结构
Unet++主要是探索encoder和decoder需要多大的问题,以此为基础,提出了融合不同尺寸Unet结构的网络。创新点就是把不同尺寸的Uent结构融入到了一个网络里。
二、结构的好处
(1)不管哪个深度的特征有效,都用上,让网络自己去学习不同深度特征的重要性。
(2)共享了一个enconder,也就是说,不需要训练一推Unet,而是只训练一个encoder,它的不同层次特征由不同的decoder路径来还原。
三、存在的问题
无法训练,因为不能进行反向传播。解决方法有如下两种:
(1)使用短连接。
(2)在短连接的基础上使用deep supervision。
在图中X0,1、X0,2、X0,3、X0,4后面加一个1*1的卷积核,相当于去监督每个分支的Unet的输出。这样可以解决无法训练的问题。
四、优点:
可以更容易剪枝,因为前面也单独有监督训练,可以根据速度要求来快速完成剪枝。
为什么可以剪枝?
在测试阶段,由于输入的图像只会前向传播,扔掉这部分对钱面的输出完全没有影响的,而在训练阶段,因为既有前向,又有后向传播,被剪掉的部分是会帮助其它部分做权重更新的。即测试时,剪掉部分对剩余结构不做影响,训练时,剪掉的部分对剩余部分有影响。
(五)剪枝的好处
剪枝的好处是:如果低尺度的Uent++训练的效果和高尺度的Unet++训练的效果相当,则只训练低尺度的,这样在训练时会减少参数,加快训练速度。