深度学习 vs 以前的神经网络
深度学习 vs 以前的神经网络
新的网络结构中最著名的就是CNN，它解决了传统较深的网络参数太多，很难训练的问题，使用了“局部感受野”和“权植共享”的概念，大大减少了网络参数的数量。关键是这种结构确实很符合视觉类任务在人脑上的工作原理。
新的结构还包括了：LSTM，ResNet等。
新的方法就多了：新的激活函数：ReLU，新的权重初始化方法（逐层初始化，XAVIER等），新的损失函数，新的防止过拟合方法（Dropout, BN等）。这些方面主要都是为了解决传统的多层神经网络的一些不足：梯度消失，过拟合等。
作者：知乎用户 链接：https://www.zhihu.com/question/26017374/answer/31868340 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。