PremAI 嵌入
PremAI 是一个一体化平台,可简化由生成式人工智能驱动的强大、生产就绪应用程序的创建过程。通过简化开发流程,PremAI 让您能够专注于提升用户体验并推动应用程序的整体增长。您可以在此处快速开始使用我们的平台。
在本节中,我们将讨论如何通过PremEmbeddings与llama-index访问不同的嵌入模型
我们首先安装 llama-index 和 premai-sdk。您可以通过输入以下命令进行安装:
pip install premai llama-index在继续之前,请确保您已在PremAI上创建账户并已创建项目。如果尚未完成,请参阅快速入门指南开始使用PremAI平台。创建您的第一个项目并获取API密钥。
%pip install llama-index-llms-premaifrom llama_index.embeddings.premai import PremAIEmbeddings在LlamaIndex中设置PremAIEmbeddings实例
Section titled “Setup PremAIEmbeddings instance in LlamaIndex”导入所需模块后,让我们设置客户端。目前我们假设 project_id 是 8。但请确保使用您自己的项目ID,否则会抛出错误。
为了将 llama-index 与 PremAI 结合使用,您无需通过我们的聊天客户端传递任何模型名称或设置任何参数。默认情况下,它将使用 LaunchPad 中使用的模型名称和参数。
我们支持众多先进的嵌入模型。您可以在此处查看我们支持的LLM和嵌入模型列表。在本示例中,我们暂时选用text-embedding-3-large模型。
import osimport getpass
if os.environ.get("PREMAI_API_KEY") is None: os.environ["PREMAI_API_KEY"] = getpass.getpass("PremAI API Key:")
prem_embedding = PremAIEmbeddings( project_id=8, model_name="text-embedding-3-large")现在您已全部设置完毕。让我们开始使用我们的嵌入模型,先进行单个查询,然后进行多个查询(这也被称为文档)
query = "Hello, this is a test query"query_result = prem_embedding.get_text_embedding(query)print(f"Dimension of embeddings: {len(query_result)}")Dimension of embeddings: 3072query_result[:5][-0.02129288576543331, 0.0008162345038726926, -0.004556538071483374, 0.02918623760342598, -0.02547479420900345]