Skip to main content

Ollama

Ollama 是一个开源工具，允许用户在自己的计算机上本地运行大型语言模型（LLMs）。要使用 Ollama，您可以在这里安装它，并使用 ollama run 命令下载您想要运行的模型。

聊天模型​

我们建议将Llama3.1 8B配置为您的聊天模型。

config.json
{
  "models": [
    {
      "title": "Llama3.1 8B",
      "provider": "ollama",
      "model": "llama3.1:8b"
    }
  ]
}

自动完成模型​

我们建议将Qwen2.5-Coder 1.5B配置为您的自动补全模型。

config.json
{
  "tabAutocompleteModel": {
    "title": "Qwen2.5-Coder 1.5B",
    "provider": "ollama",
    "model": "qwen2.5-coder:1.5b-base"
  }
}

嵌入模型​

我们建议将Nomic Embed Text配置为您的嵌入模型。

config.json
{
  "embeddingsProvider": {
    "provider": "ollama",
    "model": "nomic-embed-text"
  }
}

重排序模型​

Ollama 目前不提供任何重新排序模型。

点击这里查看重新排名模型提供商的列表。