Shortcuts

适配器模块

class torchtune.modules.peft.AdapterModule(*args, **kwargs)[source]

包含适配器权重的nn.Module的接口。 请注意,适配器模块不必显式实现此协议, 但它必须定义adapter_params(self)方法。

adapter_params() List[str][source]

返回一个字符串列表,对应于来自适配器的模型中nn.Parameter的名称。 例如,如果一个nn.Module有适配器self.proj = nn.Linear(in_dim, out_dim), 那么adapter_params应该返回['proj.weight', 'proj.bias']

请参阅LoRALinear的adapter_params()以获取示例。