Chroma 也可以配置为在客户端/服务器模式下运行。在这种模式下,Chroma 客户端连接到一个在单独进程中运行的 Chroma 服务器。
这意味着你可以将单节点 Chroma 部署到一个 Docker 容器,或者由云提供商(如 AWS、GCP、Azure 等)托管的机器上。然后,你可以使用我们的 HttpClient 从应用程序访问你的 Chroma 服务器。
你可以通过使用我们的 CLI 在本地快速实验 Chroma 的客户端/服务器模式:
然后使用 Chroma 的 HttpClient 连接到服务器:
Chroma 还提供了一个 AsyncHttpClient。其行为和方法签名与同步客户端相同,但所有会阻塞的方法现在都是异步的:
如果你打算部署 Chroma 服务器,你可能需要考虑使用我们的 thin-client 包 进行客户端交互。