梯度下降与优化路径
单独打开 ↗
优化二维损失 L(w,b) = (w² + 8b²)/2。长椭圆等高线表示两个参数方向上的变化速度不同。演示从 (3.4, 2.1) 开始。
优化算法
SGD
Momentum
Adam
学习率 η:
0.10
更新次数:
20
损失函数值
当前 w
当前 b