Please enable JavaScript.
Coggle requires JavaScript to display documents.
神经网络和深度学习(吴恩达) - Coggle Diagram
神经网络和深度学习(吴恩达)
神经网络基础
二分分类
逻辑回归
梯度下降
向量化
浅层神经网络
概述、表示
向量化的表达
激活函数(ReLU、Leaky ReLU、tanh、sigmoid)
:!:forward-propagation & back-propagation
为什么用激活函数？
梯度下降
:!: 直观理解反向传播(通过链式求导或向量方式表达)
深层神经网络
基础概念：输入输出、层数、隐藏层、某层节点数
为什么使用深层表示？(据电路理论，浅层需要更多hidden units)
前传 & 回传
大师访谈
通过3为大师的访谈，介绍NN的冬天以及能够给新人的建议
自身疑问
对AlexNet/ResNet/DenseNet等论文的看法：模型众多，各说其词，似乎都在讲模型结构，比较精度、速度(模型参数量)等
众多的skills（dropout、RELU、Data Augmentation）为什么可以解决深层神经网络的过拟合问题？
类似ResNet、DenseNet的一种增强底层与层之间的联系，为什么可以提升梯度的方向传播速度？
