PrivateGPT

PrivateGPT 是一个生产就绪的AI项目,允许您使用大型语言模型(LLMs)离线查询您的文档。

PrivateGPT 使用 Qdrant 作为默认的向量存储,用于摄取和检索文档。

配置

Qdrant 设置可以通过在 settings.yaml 文件中为 qdrant 属性设置值来配置。默认情况下,Qdrant 尝试连接到 http://localhost:3000 的实例。

示例:

qdrant:
    url: "https://xyz-example.eu-central.aws.cloud.qdrant.io:6333"
    api_key: "<your-api-key>"

可用的配置选项有:

字段描述
location如果 :memory: - 使用内存中的 Qdrant 实例。
如果 str - 将其用作 url 参数。
url可以是主机或字符串,格式为Optional[scheme], host, Optional[port], Optional[prefix]
例如:http://localhost:6333
portREST API 接口的端口。默认值:6333
grpc_portgRPC接口的端口。默认值:6334
prefer_grpc如果为 true - 在自定义方法中尽可能使用 gRPC 接口。
https如果 true - 使用 HTTPS(SSL) 协议。
api_key用于在Qdrant Cloud中进行身份验证的API密钥。
prefix如果设置,将prefix添加到REST URL路径中。
示例:service/v1将导致REST API的URL为http://localhost:6333/service/v1/{qdrant-endpoint}
timeoutREST和gRPC API请求的超时时间。
默认值:REST为5.0秒,gRPC无限制
hostQdrant 服务的主机名。如果未设置 url 和 host,则默认为 'localhost'。
pathQdrantLocal 的持久化路径。例如 local_data/private_gpt/qdrant
force_disable_check_same_thread强制禁用QdrantLocal sqlite连接的check_same_thread。

下一步

查找PrivateGPT文档这里

这个页面有用吗?

感谢您的反馈!🙏

我们很抱歉听到这个消息。😔 你可以在GitHub上编辑这个页面,或者创建一个GitHub问题。