跳到主要内容

BLIS 安装手册

BLIS 是一个便携式软件框架,专为高性能 BLAS 类稠密线性代数库而设计。该项目荣获多项殊荣,包括 2023 年詹姆斯·H·威尔金森数值软件奖和 2020 年 SIAM 超级计算活动组最佳论文奖。BLIS 提供了新的 BLAS 类 API 和传统 BLAS 例程调用的兼容层。它具有基于对象的 API、类型化 API、BLAS 和 CBLAS 兼容层等功能特性。

项目地址:https://github.com/flame/blis

准备工作

编译 BLIS

git clone https://github.com/flame/blis
cd blis
./configure --enable-cblas -t openmp,pthreads auto
# 默认将安装到 /usr/local/ 目录
make -j

安装 BLIS

sudo make install

推荐: 建议使用 openmp,因为它更容易修改所使用的核心数量。

llama.cpp 编译

使用 CMake 编译:

mkdir build
cd build
cmake -DGGML_BLAS=ON -DGGML_BLAS_VENDOR=FLAME ..
make -j

llama.cpp 执行

根据 BLIS 文档说明,我们可以设置以下环境变量来修改 openmp 的行为:

export GOMP_CPU_AFFINITY="0-19"
export BLIS_NUM_THREADS=14

然后正常运行二进制文件即可。

Intel 特定问题

有些用户可能会遇到找不到 libimf.so 的错误信息。请参考这个 Stack Overflow 页面 的解决方案。

参考资料

  1. https://github.com/flame/blis#getting-started
  2. https://github.com/flame/blis/blob/master/docs/Multithreading.md