安装
您可以使用 pip 安装 Outlines:
Outlines 支持 OpenAI, transformers, Mamba, llama.cpp 和 exllama2,但 您需要手动安装它们:
pip install openai
pip install transformers datasets accelerate torch
pip install llama-cpp-python
pip install exllamav2 transformers torch
pip install mamba_ssm transformers torch
pip install vllm
如果您在使用Outlines与这些库时遇到任何问题,请查看它们的安装说明。openai和transformers的安装应该比较简单,但其他库有特定的硬件要求。
前沿科技
您可以在代码库的 main 分支上安装最新版本的 Outlines:
例如,当一个修复已合并但尚未发布时,这可能会很有用。
用于开发的安装
请查看贡献文档以获取有关如何为开发安装Outlines的说明。