跳到主要内容

安装预编译版本的 llama.cpp

安装方式WindowsMacLinux
Winget
Homebrew
MacPorts
Nix

Winget(Windows 系统)

winget install llama.cpp

该软件包会随着新的 llama.cpp 版本发布自动更新。更多信息请参考:https://github.com/ggml-org/llama.cpp/issues/8188

Homebrew(Mac 和 Linux 系统)

brew install llama.cpp

该软件包会随着新的 llama.cpp 版本发布自动更新。更多信息请参考:https://github.com/ggml-org/llama.cpp/discussions/7668

MacPorts(Mac 系统)

sudo port install llama.cpp

另请参考:https://ports.macports.org/port/llama.cpp/details/

Nix(Mac 和 Linux 系统)

nix profile install nixpkgs#llama-cpp

适用于启用了 flake 功能的安装。

或者

nix-env --file '<nixpkgs>' --install --attr llama-cpp

适用于未启用 flake 功能的安装。

该软件包会在 nixpkgs 仓库 中自动更新。