教程

以下是使用Triton编写各种基础操作的教程集锦。建议您按顺序阅读这些教程，从最简单的开始。

安装教程所需的依赖项：

cd triton
pip install -e './python[tutorials]'

向量加法

向量加法

融合Softmax

融合Softmax

矩阵乘法

矩阵乘法

低内存丢弃

低内存丢弃

层归一化

层归一化

融合注意力机制

融合注意力机制

Libdevice (tl.extra.libdevice) 函数

Libdevice (`tl.extra.libdevice`) 函数

分组GEMM

分组GEMM

持久矩阵乘法

持久矩阵乘法

分块缩放矩阵乘法

分块缩放矩阵乘法