令牌

AgentScope 在 agentscope.token 下提供了一个令牌计数器模块，用于计算给定消息中的令牌数量，使开发者能够在将提示发送到 API 之前估算其令牌数。

具体来说，以下标记计数器可用：

提供商	类别	支持图像数据	支持工具
Anthropic	AnthropicTokenCounter	✅	✅
OpenAI	OpenAITokenCounter	✅	✅
双子座	GeminiTokenCounter	✅	✅
拥抱面部	HuggingFaceTokenCounter	取决于模型	取决于模型

提示

格式化器模块已集成令牌计数器以支持提示截断。更多详情请参阅提示格式化器部分。

注意

对于DashScope模型，dashscope库不提供token计数API。因此我们建议使用HuggingFace的token计数器作为替代。

我们展示一个使用 OpenAI token 计数器来统计 token 数量的示例：

import asyncio
from agentscope.token import OpenAITokenCounter


async def example_token_counting():
    # Example messages
    messages = [
        {"role": "user", "content": "Hello!"},
        {"role": "assistant", "content": "Hi, how can I help you?"},
    ]

    # OpenAI token counting
    openai_counter = OpenAITokenCounter(model_name="gpt-4.1")
    n_tokens = await openai_counter.count(messages)

    print(f"Number of tokens: {n_tokens}")


asyncio.run(example_token_counting())

Number of tokens: 21

扩展阅读

• 提示词格式化工具