在客户端-服务器模式下运行Chroma

Chroma 也可以配置为在客户端/服务器模式下运行。在这种模式下,Chroma 客户端连接到一个在单独进程中运行的 Chroma 服务器。

这意味着你可以将单节点 Chroma 部署到一个 Docker 容器,或者由云提供商(如 AWS、GCP、Azure 等)托管的机器上。然后,你可以使用我们的 HttpClient 从应用程序访问你的 Chroma 服务器。

你可以通过使用我们的 CLI 在本地快速实验 Chroma 的客户端/服务器模式:

shell

然后使用 Chroma 的 HttpClient 连接到服务器:

python

Chroma 还提供了一个 AsyncHttpClient。其行为和方法签名与同步客户端相同,但所有会阻塞的方法现在都是异步的:

python

如果你打算部署 Chroma 服务器,你可能需要考虑使用我们的 thin-client 包 进行客户端交互。

javascript