批量、小批量和随机梯度下降

百变鹏仔 5天前 #Python

文章标签梯度

请我喝杯咖啡☕

*备忘录：

有批量梯度下降(BGD)、小批量梯度下降(MBGD)和随机梯度下降(SGD)，它们是如何从数据集中获取数据使用梯度下降的方法PyTorch 中的优化器，例如 Adam()、SGD()、RMSprop()、Adadelta()、Adagrad() 等。

*备忘录：

（1）批量梯度下降（BGD）：

的优点：

的缺点：

（2）小批量梯度下降（MBGD）：

的缺点：

(3) 随机梯度下降(SGD)：

的缺点：

文章推荐