浅层神经网络-by Andrew Ng

Andrew Ng老师deeplearning.ai课程纪要(第三周:浅层神经网络)

前因后果

此前曾学习完Ng老师deeplearning.ai前四周课程,受益匪浅,但很久没重温,现在需重新捡起来。
deeplearning.ai主页
此前Ng老师deeplearning.ai前四周的课程已经在网易云课堂免费开放,萌新们的福音。
这里为了方便温习,将课程中重要的部分贴出来。

继续查漏补缺!!

神经网络概览

"da"

神经网络表示及输出

"da"
"da"
"da"
"da"
"da"

多个例子中的向量化

"da"
"da"

向量化实现的解释

"da"
"da"

激活函数

"da"
"da"
假如没有激活函数,最终仍然是一个线性模型.
"da"

激活函数的导数

"da"
"da"
"da"

神经网络的梯度下降法

"da"
"da"

直观理解反向传播

"da"
"da"
"da"
"da"

随机初始化

"da"

将导致第一隐层的两个单元执行完全一样的计算,最终权值也一样,没有意义。

"da"