1. FP4 内置函数
2. FP6 内置函数
2.1. 用于处理e2m3类型fp6数据类型的C++结构体。
2.2. 用于处理e3m2类型fp6数据类型的C++结构体。
2.3. 用于处理e2m3类型四个fp6值向量类型的C++结构体。
2.4. 用于处理e3m2类型四个fp6值向量类型的C++结构体。
2.5. 用于处理e2m3类型两个fp6值向量类型的C++结构体。
2.6. 用于处理e3m2类型两个fp6值向量类型的C++结构体。
2.7. FP6转换与数据传输
3. FP8 内置函数
4. 半精度内置函数
5. Bfloat16 精度内置函数
6. 单精度数学函数
7. 单精度内置函数
8. 双精度数学函数
9. 双精度内置函数
10. FP128 四精度数学函数
11. 类型转换内置函数
12. 整数数学函数
13. 整数内联函数
14. SIMD 内部函数
15. 结构体
16. 通知公告
CUDA Math API 参考手册
»
2.
FP6 内置函数
»
2.2.
用于处理e3m2类型fp6数据类型的C++结构体。
v12.8 |
PDF
|
归档
2.2.
用于处理e3m2类型fp6数据类型的C++结构体。
结构体
__nv_fp6_e3m2
__nv_fp6_e3m2
数据类型