torch.optim.Optimizer.state_dict¶
- Optimizer.state_dict()[源代码]¶
返回优化器的状态为一个
dict。它包含两个条目:
state: a Dict holding current optimization state. Its content在不同的优化器类之间有所不同,但一些共同的特点仍然存在。例如,状态是按参数保存的,而参数本身并不保存。
state是一个字典,将参数ID映射到包含每个参数对应状态的字典。
param_groups: a List containing all parameter groups where each参数组是一个字典。每个参数组包含特定于优化器的元数据,例如学习率和权重衰减,以及该组中参数的参数ID列表。
注意:参数ID可能看起来像索引,但它们只是与param_group关联的状态ID。当从state_dict加载时,优化器会将param_group
params(整数ID)和优化器param_groups(实际的nn.Parameter)按顺序压缩,以匹配状态,而无需额外的验证。返回的状态字典可能看起来像这样:
{ 'state': { 0: {'momentum_buffer': tensor(...), ...}, 1: {'momentum_buffer': tensor(...), ...}, 2: {'momentum_buffer': tensor(...), ...}, 3: {'momentum_buffer': tensor(...), ...} }, 'param_groups': [ { 'lr': 0.01, 'weight_decay': 0, ... 'params': [0] }, { 'lr': 0.001, 'weight_decay': 0.5, ... 'params': [1, 2, 3] } ] }