推理模型

OpenAI的推理模型，包括o1, o3模型、DeepSeek R1或Anthropic Sonet 3.7，都是针对推理任务优化的模型。

script({
    model: "openai:o1",
})

模型别名

reasoning 和 reasoning-small model aliases 可用于推理模型。

script({
    model: "openai:reasoning",
})

或

genaiscript run ... -p openai -m reasoning

推理与思考

GenAIScript 自动提取大语言模型响应中的思考/推理内容。

推理工作量

推理力度参数可以设置为low、medium或high。

• 通过reasoningEffort参数配置

script({
    model: "openai:o3-mini"
    reasoningEffort: "high"
})

• 作为模型名称的标签

script({
    model: "openai:o3-mini:high",
})

对于Anthropic Sonnet 3.7版本，推理工作被映射到以下budget_token值：

• 低: 2048
• medium: 4096
• high: 16384

限制条件

• o1-preview, o1-mini 不支持流式传输
• o1 模型不支持工具调用，因此 GenAIScript 使用 fallback tools。

提示建议

OpenAI提供了关于提示推理模型的广泛建议。