AI 画廊

AI Gallery 是一个为流行的 AI 框架和 AI 模型提供的即用型配方集合。 它提供了一种简单的方法，使用 SkyPilot 的简单界面来打包、分享和运行 AI 项目。

您可以直接在您自己的基础设施上运行这些配方，例如云虚拟机或Kubernetes。

目录

推理框架

• vLLM
• Hugging Face TGI
• Ollama
• SGLang
• LoRAX

LLM 模型

• Vision Llama 3.2 (Meta)
• Llama 3.1 (Meta)
• Llama 3 (Meta)
• Llama 2 (Meta)
• CodeLlama (Meta)
• Pixtral (Mistral AI)
• Mixtral (Mistral AI)
• Mistral 7B (Mistral AI)
• Qwen 2.5 (阿里巴巴)
• Gemma (谷歌)
• DBRX (Databricks)

应用

• Tabby: 编程助手
• LocalGPT: 与PDF聊天

教程

• 在Llama-2上训练你自己的Vicuna

向图库添加示例

我们欢迎社区的贡献。如果您想贡献，请遵循以下指南。

1. 在GitHub上SkyPilot仓库进行分叉。

2. 在llm/下为您自己的框架、LLM模型或教程创建一个新文件夹。

3. 添加一个README.md文件，一个SkyPilot YAML文件，以及其他运行AI项目所需的文件。

4. 在docs/source/_gallery_original中创建一个指向README文件的软链接，该README文件位于其中一个子文件夹（frameworks、llms、tutorials）中，例如，cd docs/source/_gallery_original/llms; ln -s ../../../../llm/mixtral/README.md mixtral.md。

5. 将文件路径添加到本页上方的toctree中。

6. 创建一个拉取请求到SkyPilot 仓库。

如果您有任何问题，请随时在SkyPilot Slack中提问。