安装说明

先决条件

torchtune 需要 PyTorch，因此请根据您的主机和环境使用 “Start Locally” 页面进行安装。您还应该安装 torchvision（用于多模态 LLMs）和 torchao（用于量化 API）。您可以使用以下命令安装稳定版或 nightly 版本：

# Install stable version of PyTorch libraries using pip
pip install torch torchvision torchao

# Or nightly install for latest features
pip install --pre torch torchvision torchao --index-url https://download.pytorch.org/whl/nightly/cu121 # full options are cpu/cu118/cu121/cu124

通过 PyPI 安装

torchtune 的最新稳定版本托管在 PyPI 上，可以使用以下命令下载：

pip install torchtune

要确认包是否正确安装，您可以运行以下命令：

tune

并且应该看到以下输出：

usage: tune [-h] {download,ls,cp,run,validate} ...

Welcome to the torchtune CLI!

options:
-h, --help            show this help message and exit

...

通过 git clone 安装

如果你想获得torchtune的最新和最强大的功能，或者如果你想成为贡献者，你也可以使用以下命令在本地安装该包。

git clone https://github.com/pytorch/torchtune.git
cd torchtune
pip install -e .

# or for a developer installation
pip install -e .["dev"]

安装夜间构建

torchtune 每天晚上都会根据 main 分支的最新提交进行构建。如果你想获取包的最新更新，而不通过 git clone 安装，你可以使用以下命令进行安装：

pip install --pre torchtune --extra-index-url https://download.pytorch.org/whl/nightly/cpu --no-cache-dir

注意

--no-cache-dir 将指示 pip 不查找 torchtune 的缓存版本，从而覆盖您现有的 torchtune 安装。

如果您已经安装了PyTorch，torchtune将默认使用该版本。但是，如果您想使用PyTorch的夜间版本，您可以在上述命令后附加--force-reinstall选项。如果您选择这种安装方法，您可能需要将索引URL中的“cpu”后缀更改为与您的CUDA版本匹配。例如，如果您正在运行CUDA 12，您的索引URL将是“https://download.pytorch.org/whl/nightly/cu121”。