PrivateGPT
PrivateGPT 是一个生产就绪的AI项目,允许您使用大型语言模型(LLMs)离线查询您的文档。
PrivateGPT 使用 Qdrant 作为默认的向量存储,用于摄取和检索文档。
配置
Qdrant 设置可以通过在 settings.yaml 文件中为 qdrant 属性设置值来配置。默认情况下,Qdrant 尝试连接到 http://localhost:3000 的实例。
示例:
qdrant:
url: "https://xyz-example.eu-central.aws.cloud.qdrant.io:6333"
api_key: "<your-api-key>"
可用的配置选项有:
| 字段 | 描述 |
|---|---|
| location | 如果 :memory: - 使用内存中的 Qdrant 实例。如果 str - 将其用作 url 参数。 |
| url | 可以是主机或字符串,格式为Optional[scheme], host, Optional[port], Optional[prefix]。例如: http://localhost:6333 |
| port | REST API 接口的端口。默认值:6333 |
| grpc_port | gRPC接口的端口。默认值:6334 |
| prefer_grpc | 如果为 true - 在自定义方法中尽可能使用 gRPC 接口。 |
| https | 如果 true - 使用 HTTPS(SSL) 协议。 |
| api_key | 用于在Qdrant Cloud中进行身份验证的API密钥。 |
| prefix | 如果设置,将prefix添加到REST URL路径中。示例: service/v1将导致REST API的URL为http://localhost:6333/service/v1/{qdrant-endpoint}。 |
| timeout | REST和gRPC API请求的超时时间。 默认值:REST为5.0秒,gRPC无限制 |
| host | Qdrant 服务的主机名。如果未设置 url 和 host,则默认为 'localhost'。 |
| path | QdrantLocal 的持久化路径。例如 local_data/private_gpt/qdrant |
| force_disable_check_same_thread | 强制禁用QdrantLocal sqlite连接的check_same_thread。 |
下一步
查找PrivateGPT文档这里。
