食谱概览¶
Recipes 是 torchtune 用户的主要入口点。 这些可以被视为可定制的、专注于单一任务的脚本,用于与 LLMs 进行交互,包括微调、 推理、评估和量化。
每个配方由三个部分组成:
可配置参数,通过yaml配置和命令行覆盖指定
配方脚本,入口点,将所有内容整合在一起,包括解析和验证配置、设置环境以及正确使用配方类
Recipe类,微调所需的核心逻辑,通过一组API暴露
注意
要了解更多关于“recipes”概念的信息,请查看我们的技术深度解析:什么是食谱?。
微调¶
我们的食谱包括:
单设备全微调
分布式全微调
分布式LoRA微调
近端策略优化 (PPO)
完整列表,请运行:
tune ls
注意
我们的食谱文档目前正在建设中。请随时在我们的跟踪器问题这里关注进展。