Skip to main content

自动完成模型

“自动完成模型”是一种在称为填充中间(FIM)的特殊格式上训练的LLM。这种格式旨在提供代码文件的前缀和后缀,并预测中间的内容。这个任务非常具体,一方面意味着模型可以更小(即使是3B参数的模型也能表现良好)。另一方面,这意味着聊天模型虽然更大,但表现会很差。

在Continue中,这些模型用于在您输入时显示内联自动完成建议。

如果您有能力使用任何模型,我们推荐使用CodestralMistralVertex AI

如果你想在本地运行一个模型,我们推荐使用Qwen2.5-Coder 1.5BOllama