安装预编译版本的 llama.cpp
| 安装方式 | Windows | Mac | Linux |
|---|---|---|---|
| Winget | ✅ | ||
| Homebrew | ✅ | ✅ | |
| MacPorts | ✅ | ||
| Nix | ✅ | ✅ |
Winget(Windows 系统)
winget install llama.cpp
该软件包会随着新的 llama.cpp 版本发布自动更新。更多信息请参考:https://github.com/ggml-org/llama.cpp/issues/8188
Homebrew(Mac 和 Linux 系统)
brew install llama.cpp
该软件包会随着新的 llama.cpp 版本发布自动更新。更多信息请参考:https://github.com/ggml-org/llama.cpp/discussions/7668
MacPorts(Mac 系统)
sudo port install llama.cpp
另请参考:https://ports.macports.org/port/llama.cpp/details/
Nix(Mac 和 Linux 系统)
nix profile install nixpkgs#llama-cpp
适用于启用了 flake 功能的安装。
或者
nix-env --file '<nixpkgs>' --install --attr llama-cpp
适用于未启用 flake 功能的安装。
该软件包会在 nixpkgs 仓库 中自动更新。