BLIS 安装手册
BLIS 是一个便携式软件框架,专为高性能 BLAS 类稠密线性代数库而设计。该项目荣获多项殊荣,包括 2023 年詹姆斯·H·威尔金森数值软件奖和 2020 年 SIAM 超级计算活动组最佳论文奖。BLIS 提供了新的 BLAS 类 API 和传统 BLAS 例程调用的兼容层。它具有基于对象的 API、类型化 API、BLAS 和 CBLAS 兼容层等功能特性。
项目地址:https://github.com/flame/blis
准备工作
编译 BLIS
git clone https://github.com/flame/blis
cd blis
./configure --enable-cblas -t openmp,pthreads auto
# 默认将安装到 /usr/local/ 目录
make -j
安装 BLIS
sudo make install
推荐: 建议使用 openmp,因为它更容易修改所使用的核心数量。
llama.cpp 编译
使用 CMake 编译:
mkdir build
cd build
cmake -DGGML_BLAS=ON -DGGML_BLAS_VENDOR=FLAME ..
make -j
llama.cpp 执行
根据 BLIS 文档说明,我们可以设置以下环境变量来修改 openmp 的行为:
export GOMP_CPU_AFFINITY="0-19"
export BLIS_NUM_THREADS=14
然后正常运行二进制文件即可。
Intel 特定问题
有些用户可能会遇到找不到 libimf.so 的错误信息。请参考这个 Stack Overflow 页面 的解决方案。