oai.gemini
创建一个与OpenAI兼容的客户端,用于Gemini功能。
示例:
llm_config={
-
"config_list"
- [{ -
"api_type"
- "google", -
"model"
- "gemini-pro", -
"api_key"
- os.environ.get("GOOGLE_GEMINI_API_KEY"), -
"safety_settings"
- [ -
{"category"
- "HARM_CATEGORY_HARASSMENT", "threshold": "BLOCK_ONLY_HIGH"}, -
{"category"
- "HARM_CATEGORY_HATE_SPEECH", "threshold": "BLOCK_ONLY_HIGH"}, -
{"category"
- "HARM_CATEGORY_SEXUALLY_EXPLICIT", "threshold": "BLOCK_ONLY_HIGH"}, -
{"category"
- "HARM_CATEGORY_DANGEROUS_CONTENT", "threshold": "BLOCK_ONLY_HIGH"} ], "top_p":0.5, -
"max_tokens"
- 2048, -
"temperature"
- 1.0, -
"top_k"
- 5 } ]}agent = autogen.AssistantAgent("my_agent", llm_config=llm_config)
资源:
Gemini客户端
class GeminiClient()
Google Gemini API 的客户端。
请访问此页面以获取AutoGen的Gemini集成路线图。
__init__
def __init__(**kwargs)
使用LLM配置中的api_key进行身份验证(指定GOOGLE_GEMINI_API_KEY环境变量也有效), 如果未指定api_key,则遵循Google Cloud中VertexAI的Google身份验证机制, 其中project_id和location也可以作为参数传递。可以提供先前创建的凭证对象, 也可以使用服务账户密钥文件。如果既未传递服务账户密钥文件,也未传递api_key, 则将使用默认凭证,如果用户已经通过个人账户进行了身份验证,例如在Google Cloud Shell中。
参数:
api_key
str - 用于使用Gemini的API密钥。credentials
google.auth.credentials.Credentials - 用于vertexai身份验证的凭证。google_application_credentials
str - 服务账号的JSON密钥文件的路径。 或者,也可以设置GOOGLE_APPLICATION_CREDENTIALS环境变量来代替使用此参数。project_id
str - Google Cloud 项目 ID,该仅在未指定 API 密钥时有效。location
str - 要使用的计算区域,例如 'us-west1'。此参数仅在未指定API密钥的情况下有效。
消息检索
def message_retrieval(response) -> List
从响应中检索并返回一个字符串列表或一个Choice.Message列表。
注意:如果返回的是一个Choice.Message列表,它目前需要包含OpenAI的ChatCompletion Message对象的字段,因为在当前代码库中,除非使用自定义代理,否则这是函数或工具调用的预期。
get_usage
@staticmethod
def get_usage(response) -> Dict
使用 RESPONSE_USAGE_KEYS 返回响应的使用摘要。