Shortcuts

torch.optim.Optimizer.state_dict

Optimizer.state_dict()[源代码]

返回优化器的状态为一个dict

它包含两个条目:

  • state: a Dict holding current optimization state. Its content

    在不同的优化器类之间有所不同,但一些共同的特点仍然存在。例如,状态是按参数保存的,而参数本身并不保存。state 是一个字典,将参数ID映射到包含每个参数对应状态的字典。

  • param_groups: a List containing all parameter groups where each

    参数组是一个字典。每个参数组包含特定于优化器的元数据,例如学习率和权重衰减,以及该组中参数的参数ID列表。

注意:参数ID可能看起来像索引,但它们只是与param_group关联的状态ID。当从state_dict加载时,优化器会将param_group params(整数ID)和优化器param_groups(实际的nn.Parameter)按顺序压缩,以匹配状态,而无需额外的验证。

返回的状态字典可能看起来像这样:

{
    'state': {
        0: {'momentum_buffer': tensor(...), ...},
        1: {'momentum_buffer': tensor(...), ...},
        2: {'momentum_buffer': tensor(...), ...},
        3: {'momentum_buffer': tensor(...), ...}
    },
    'param_groups': [
        {
            'lr': 0.01,
            'weight_decay': 0,
            ...
            'params': [0]
        },
        {
            'lr': 0.001,
            'weight_decay': 0.5,
            ...
            'params': [1, 2, 3]
        }
    ]
}
Return type

字典[字符串, 任意]

优云智算