跳转到内容

PremAI 嵌入

PremAI 是一个一体化平台,可简化由生成式人工智能驱动的强大、生产就绪应用程序的创建过程。通过简化开发流程,PremAI 让您能够专注于提升用户体验并推动应用程序的整体增长。您可以在此处快速开始使用我们的平台。

在本节中,我们将讨论如何通过PremEmbeddings与llama-index访问不同的嵌入模型

我们首先安装 llama-indexpremai-sdk。您可以通过输入以下命令进行安装:

Terminal window
pip install premai llama-index

在继续之前,请确保您已在PremAI上创建账户并已创建项目。如果尚未完成,请参阅快速入门指南开始使用PremAI平台。创建您的第一个项目并获取API密钥。

%pip install llama-index-llms-premai
from llama_index.embeddings.premai import PremAIEmbeddings

在LlamaIndex中设置PremAIEmbeddings实例

Section titled “Setup PremAIEmbeddings instance in LlamaIndex”

导入所需模块后,让我们设置客户端。目前我们假设 project_id8。但请确保使用您自己的项目ID,否则会抛出错误。

为了将 llama-index 与 PremAI 结合使用,您无需通过我们的聊天客户端传递任何模型名称或设置任何参数。默认情况下,它将使用 LaunchPad 中使用的模型名称和参数。

我们支持众多先进的嵌入模型。您可以在此处查看我们支持的LLM和嵌入模型列表。在本示例中,我们暂时选用text-embedding-3-large模型。

import os
import getpass
if os.environ.get("PREMAI_API_KEY") is None:
os.environ["PREMAI_API_KEY"] = getpass.getpass("PremAI API Key:")
prem_embedding = PremAIEmbeddings(
project_id=8, model_name="text-embedding-3-large"
)

现在您已全部设置完毕。让我们开始使用我们的嵌入模型,先进行单个查询,然后进行多个查询(这也被称为文档)

query = "Hello, this is a test query"
query_result = prem_embedding.get_text_embedding(query)
print(f"Dimension of embeddings: {len(query_result)}")
Dimension of embeddings: 3072
query_result[:5]
[-0.02129288576543331,
0.0008162345038726926,
-0.004556538071483374,
0.02918623760342598,
-0.02547479420900345]