Upload
others
View
13
Download
0
Embed Size (px)
Citation preview
神经⽹网络与深度学习
N=64*64*3=12288
X y(0 or 1)f(x)X =
2552314222...
⎡
⎣
⎢⎢⎢⎢⎢⎢
⎤
⎦
⎥⎥⎥⎥⎥⎥
(⼆二分类)
构建映射
W =
w1w2w3...
⎡
⎣
⎢⎢⎢⎢⎢
⎤
⎦
⎥⎥⎥⎥⎥
σ(WTX+b) =y
激活函数:将z缩放⾄至(0,1)
⽬目的:找到⼀一个合适的向量量W,使得输⼊入对应的X,能够输出正确的Y (1 or 0)
构建损失函数
约定 样本真实值:y 模型预测值:
损失函数(Loss Function) : L(y, ) ⽤用于衡量量y和 的差别
if y==0if y==1
⼆二分类
最⼩小化损失函数m个样本下的损失函数
梯度下降法学习率(learning rate)
W =
w1w2w3...
⎡
⎣
⎢⎢⎢⎢⎢
⎤
⎦
⎥⎥⎥⎥⎥
对于每⼀一个W1,W2… 都需要⽤用迭代公式优化
迭代公式