qwen2_5_0_5b¶
- torchtune.models.qwen2_5.qwen2_5_0_5b() TransformerDecoder[source]¶
用于创建Qwen2.5模型(基础版或指导版)的构建器,使用默认的0.5B参数值进行初始化 来自https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct
- Returns:
Qwen2.5 0.5B模型的实例化
- Return type:
注意
Qwen2.5 0.5B-3B 模型构建器将默认启用
tie_word_embeddings(参见qwen2())