Datawhale 李宏毅机器学习 Task4

深度学习

1. 深度学习

三步骤：

  • Step1：神经网络（Neural network）
  • Step2：模型评估（Goodness of function）
  • Step3：选择最优函数（Pick best function）

1.1 神经网络（Neural network）

全连接前馈神经网络

  • 前馈
  • 全连接
  • 深度
  • 矩阵运算

1.2 模型评估（Goodness of function）

损失函数

1.3 选择最优函数（Pick best function）

梯度下降法
反向传播

2. 反向传播

2.1 背景

  • 梯度下降
  • 链式法则

2.2 反向传播

  • Forward Pass

  • Backward Pass