跳过内容

安装

您可以使用 pip 安装 Outlines:

pip install outlines

Outlines 支持 OpenAI, transformers, Mamba, llama.cpp 和 exllama2,但 您需要手动安装它们:

pip install openai
pip install transformers datasets accelerate torch
pip install llama-cpp-python
pip install exllamav2 transformers torch
pip install mamba_ssm transformers torch
pip install vllm

如果您在使用Outlines与这些库时遇到任何问题,请查看它们的安装说明。openaitransformers的安装应该比较简单,但其他库有特定的硬件要求。

前沿科技

您可以在代码库的 main 分支上安装最新版本的 Outlines:

pip install git+https://github.com/dottxt-ai/outlines.git@main

例如,当一个修复已合并但尚未发布时,这可能会很有用。

用于开发的安装

请查看贡献文档以获取有关如何为开发安装Outlines的说明。