最近在学习吴恩达老师的深度学习,边学边随手记一些东西,留个简单的笔记,以便日后复习。
第一周
结构化数据:每个特征都有清晰的定义
非结构化数据:音频、图像、文本等
大规模的神经网络+大规模的带标签数据
第一周习题
(1,2,4)
第二周
二分类问题
(输入的图片表示为三个矩阵)
符号含义:
x为输入,y为输出
x是特征向量,维度为三个矩阵中的元素总个数
维度表示为n/nx
{{x1,y1},(x2,y2)……(xm,ym)}表示输入的样本
X输入样本矩阵(nxm),Y输出样本矩阵(1m)
m为训练样本个数
logistic回归
y’=sigmod(w^tx+b)
sigmod(z)=1/(1+e^(-z))
z=w^tx+b
学习w和b
0<=y’<=1
成本函数针对全体训练样本上的表现
损失函数针对单个训练样本上的表现
函数值越小越好
梯度下降函数
w和b迭代更新,找到最优解
迭代中用成本函数的斜率计算
python