优化器

目录

优化器#

优化器(调度器=)#

所有优化器的基础类。它允许我们基于每个参数实现一个优化器,并将其应用于参数树。

属性

Optimizer.state

优化器的状态字典。

方法

Optimizer.apply_gradients(gradients, parameters)

将梯度应用于参数并返回更新后的参数。

Optimizer.init(parameters)

初始化优化器的状态

Optimizer.update(model, gradients)

将梯度应用于模型的参数,并使用新参数更新模型。