Andrew Ng老师deeplearning.ai课程纪要(第三周:浅层神经网络)
前因后果
此前曾学习完Ng老师deeplearning.ai前四周课程,受益匪浅,但很久没重温,现在需重新捡起来。
deeplearning.ai主页
此前Ng老师deeplearning.ai前四周的课程已经在网易云课堂免费开放,萌新们的福音。
这里为了方便温习,将课程中重要的部分贴出来。
继续查漏补缺!!
神经网络概览

神经网络表示及输出





多个例子中的向量化


向量化实现的解释


激活函数


假如没有激活函数,最终仍然是一个线性模型.
激活函数的导数



神经网络的梯度下降法


直观理解反向传播




随机初始化

将导致第一隐层的两个单元执行完全一样的计算,最终权值也一样,没有意义。
