CLI (pbase)

Predibase CLI 命令

使用方法:

$ pbase [OPTIONS] COMMAND [ARGS]...

选项:

• --install-completion: 为当前shell安装自动补全功能。
• --show-completion: 显示当前shell的自动补全配置，可复制或自定义安装。
• --help: 显示此帮助信息并退出。

命令:

• delete: 删除Predibase资源
• deploy: 部署Predibase资源
• init: 初始化默认模型仓库并...
• prompt: 提示Predibase模型
• settings: 配置Predibase设置

pbase delete​

删除Predibase资源

使用方法:

$ pbase delete [OPTIONS] COMMAND [ARGS]...

选项:

• --help: 显示此帮助信息并退出。

命令:

• llm: 删除大型语言模型(LLM)部署

pbase delete llm​

删除大型语言模型(LLM)部署

使用方法:

$ pbase delete llm [OPTIONS]

选项:

• -d, --deployment-name TEXT: 部署名称
• --help: 显示此帮助信息并退出。

pbase deploy​

部署Predibase资源

使用方法:

$ pbase deploy [OPTIONS] COMMAND [ARGS]...

选项:

• --help: 显示此帮助信息并退出。

命令:

• llm: 创建一个大语言模型(LLM)...

pbase deploy llm​

创建一个大型语言模型(LLM)部署

使用方法:

$ pbase deploy llm [OPTIONS]

选项:

• -d, --deployment-name TEXT: 部署名称
• -m, --model-name TEXT: 模型名称
• -e, --engine-template TEXT: 可选的引擎模板，用于配置托管模型 [default: llm-gpu-small]
• --help: 显示此帮助信息并退出。

pbase init​

初始化默认模型仓库和引擎

使用方法:

$ pbase init [OPTIONS]

选项:

• -r, --repository-name TEXT: 可选的模型仓库名称
• -e, --engine-name TEXT: 可选的引擎名称
• --help: 显示此帮助信息并退出。

pbase prompt​

提示Predibase模型

使用方法:

$ pbase prompt [OPTIONS] COMMAND [ARGS]...

选项:

• --help: 显示此帮助信息并退出。

命令:

• llm: 查询大型语言模型(LLM)

pbase prompt llm​

查询大型语言模型(LLM)

使用方法:

$ pbase prompt llm <DATA> [OPTIONS]

其中 是以下之一：

• 单个文本字符串，如果模型的提示模板有单个插值槽，或
• 一个以空格分隔的键值对列表，每个键值对对应一个插值参数。

选项:

• -m, --deployment-name TEXT: 要提示的部署名称
• -a, --adapter-name TEXT: 引用一个与基础模型类型相同的微调适配器模型
• -i, --index-name TEXT: 可选的待索引数据集
• -d, --dataset-name TEXT: 用于批量推理的可选数据集
• -l, --limit INTEGER: 可选的结果限制
• --help: 显示此帮助信息并退出。

pbase settings​

配置Predibase设置

使用方法:

$ pbase settings [OPTIONS] COMMAND [ARGS]...

选项:

• --help: 显示此帮助信息并退出。

命令:

• set-api-token: 设置API令牌
• set-endpoint: 设置默认端点URL
• set-engine: 设置默认引擎名称
• set-repo: 设置默认仓库名称
• show-all: 显示本地和全局设置
• show-global: 显示全局设置
• show-local: 显示本地设置

pbase settings set-api-token​

设置API令牌

使用方法:

$ pbase settings set-api-token [OPTIONS] TOKEN

参数:

• TOKEN: API令牌 [必填]

选项:

• --help: 显示此帮助信息并退出。

pbase settings set-endpoint​

设置默认端点URL

使用方法:

$ pbase settings set-endpoint [OPTIONS] ENDPOINT

参数:

• ENDPOINT: 端点URL [必填]

选项:

• --help: 显示此帮助信息并退出。

pbase settings set-engine​

设置默认引擎名称

使用方法:

$ pbase settings set-engine [OPTIONS] ENGINE_NAME

参数:

• ENGINE_NAME: 引擎名称 [必填]

选项:

• --help: 显示此帮助信息并退出。

pbase settings set-repo​

设置默认仓库名称

使用方法:

$ pbase settings set-repo [OPTIONS] REPOSITORY_NAME

参数:

• REPOSITORY_NAME: 模型仓库名称 [必填]

选项:

• --help: 显示此帮助信息并退出。

pbase settings show-all​

显示本地和全局设置

使用方法:

$ pbase settings show-all [OPTIONS]

选项:

• --help: 显示此帮助信息并退出。

pbase settings show-global​

显示全局设置

使用方法:

$ pbase settings show-global [OPTIONS]

选项:

• --help: 显示此帮助信息并退出。

pbase settings show-local​

显示本地设置

使用方法:

$ pbase settings show-local [OPTIONS]

选项:

• --help: 显示此帮助信息并退出。