在Ubuntu 22.04 LTS下編譯llama.cpp(基於OpenBLAS)

步驟如下:

a. 安裝make、C++、pkg-config:

sudo apt install make g++ pkg-config

b. 安裝openblas-lapack:

wget https://github.com/xianyi/OpenBLAS/releases/download/v0.3.27/OpenBLAS-0.3.27.tar.gz
tar zxvf OpenBLAS-0.3.27.tar.gz
sudo make && sudo make install

c. 安裝llama.cpp:

git clone https://github.com/ggerganov/llama.cpp
make LLAMA_OPENBLAS=1

d. 測試安裝是否成功

./main --version

version: 2797 (858f6b73)
built with cc (Ubuntu 11.4.0-1ubuntu1~22.04) 11.4.0 for x86_64-linux-gnu

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章