使用vLLM¶

vLLM 支持以下使用模式：

• Inference and Serving: 运行模型的单个实例。
• Deployment: 为生产环境扩展模型实例。
• 训练: 训练或微调模型。