江 南 大 学
Deep Residual Learning for Image Recognition
深度残差学习在图像识别中的应用
主要内容
第一部分
第二部分
第三部分
第四部分
本文主要解决
论文的主要创
的问题
新点
主要解决方法
与同类架构的
/算法
比较
本文解决的问题
本文的研究背景
从左图可以看到,
理论上,随着神经网
络层次增加,学习的
效果应该是越来越好
的。
解决的问题
如上图,当神经网络层次增加时,训练集和测试
集中更深层的神经网络的错误率更高。即,随着
神经网络层次增加产生了退化。因此本文主要解
决了深层神经网络中的退化问题。
本文的创新点
本文的创新点——引入深度残差学习框架
普通神经网络
残差神经网络
普通神经网络是通过传入x,在weight处进行求积运算后,在BN处求和再往下一层
传。而残差网络则是在传入下一层的求和步骤再次传入x,即传到下一层的参数