pymc.sgd#

pymc.sgd(loss_or_grads=None, params=None, learning_rate=0.001)[源代码]#

随机梯度下降 (SGD) 更新

生成以下形式的更新表达式:

  • param := param - learning_rate * gradient

参数:
loss_or_grads: 符号表达式或表达式列表

一个标量损失表达式,或一个梯度表达式列表

参数: 共享变量的列表

用于生成更新表达式的变量

learning_rate: float 或符号标量

学习率控制更新步骤的大小

返回:
OrderedDict

一个字典,将每个参数映射到其更新表达式

注释

优化器可以在不传入 loss_or_grads 和 params 的情况下调用,在这种情况下会返回一个偏函数。

示例

>>> a = pytensor.shared(1.)
>>> b = a*2
>>> updates = sgd(b, [a], learning_rate=.01)
>>> isinstance(updates, dict)
True
>>> optimizer = sgd(learning_rate=.01)
>>> callable(optimizer)
True
>>> updates = optimizer(b, [a])
>>> isinstance(updates, dict)
True