qwen2_1_5b

torchtune.models.qwen2.qwen2_1_5b() → TransformerDecoder

用于创建使用默认1.5B参数值初始化的Qwen2模型的构建器 来自 https://huggingface.co/Qwen/Qwen2-1.5B-Instruct

Returns:

Qwen2 1.5B 模型的实例化

Return type:

TransformerDecoder

注意

Qwen2 0.5B 和 Qwen2 1.5B 模型构建器将默认启用 tie_word_embeddings 并返回一个 TransformerDecoder 的实例。