“自动完成模型”是一种在称为填充中间(FIM)的特殊格式上训练的LLM。这种格式旨在提供代码文件的前缀和后缀,并预测中间的内容。这个任务非常具体,一方面意味着模型可以更小(即使是3B参数的模型也能表现良好)。另一方面,这意味着聊天模型虽然更大,但表现会很差。
在Continue中,这些模型用于在您输入时显示内联自动完成建议。
推荐的自动补全模型
如果您有能力使用任何模型,我们推荐使用Codestral与Mistral或Vertex AI。
如果你想在本地运行一个模型,我们推荐使用Qwen2.5-Coder 1.5B与Ollama。