插件# LLM插件可以通过提供替代的大型语言模型来增强LLM,无论是通过API还是在您的机器上本地运行这些模型。 插件还可以向llm CLI工具添加新命令。 插件目录列出了您可以安装和使用的可用插件。 开发模型插件 详细描述了如何构建一个新的插件。 Installing plugins 列出已安装的插件 使用部分插件运行 Plugin directory 本地模型 远程API 嵌入模型 额外命令 仅为乐趣 Plugin hooks register_commands(cli) register_models(register) Developing a model plugin 插件的初始结构 安装您的插件以试用 构建马尔可夫链 执行马尔可夫链 将其添加到插件 理解 execute() 提示和响应被记录到数据库 添加选项 Distributing your plugin 轮子和sdist包 GitHub Gists GitHub 仓库 将插件发布到PyPI 添加元数据 如果出现故障该怎么办 Advanced model plugins 接受API密钥的模型 异步模型 Attachments for multi-modal models 指定附件类型 处理附件 之前对话的附件 跟踪令牌使用情况 Utility functions for plugins llm.user_dir() llm.ModelError Response.fake()