Skip to content
Matrix-X edited this page Mar 21, 2024 · 1 revision

LLama2

LLama2的模型是需要注册账号后,才能获取,在官网上操作或者在Huggingface上操作都可以下载你要的模型,但是如果要正常使用推理,你可以使用transform库或者llama.cpp的库来实现,当然也有其他的库,我这里使用llama.cpp实现了一开始的helloworld。

LLama.cpp

中文LLama

LLama-cpp-python

Clone this wiki locally