Andrew Ng老师deeplearning.ai课程纪要(第三周:浅层神经网络)
前因后果
此前曾学习完Ng老师deeplearning.ai前四周课程,受益匪浅,但很久没重温,现在需重新捡起来。
deeplearning.ai主页
此前Ng老师deeplearning.ai前四周的课程已经在网易云课堂免费开放,萌新们的福音。
这里为了方便温习,将课程中重要的部分贴出来。
继续查漏补缺!!
神经网络概览
神经网络表示及输出
多个例子中的向量化
向量化实现的解释
激活函数
假如没有激活函数,最终仍然是一个线性模型.
激活函数的导数
神经网络的梯度下降法
直观理解反向传播
随机初始化
将导致第一隐层的两个单元执行完全一样的计算,最终权值也一样,没有意义。