适配器模块¶
- class torchtune.modules.peft.AdapterModule(*args, **kwargs)[source]¶
包含适配器权重的
nn.Module的接口。 请注意,适配器模块不必显式实现此协议, 但它必须定义adapter_params(self)方法。- adapter_params() List[str][source]¶
返回一个字符串列表,对应于来自适配器的模型中
nn.Parameter的名称。 例如,如果一个nn.Module有适配器self.proj = nn.Linear(in_dim, out_dim), 那么adapter_params应该返回['proj.weight', 'proj.bias']。请参阅LoRALinear的
adapter_params()以获取示例。