llama.cpp
C++高效LLM推理引擎。
📖 工具简介
C++高效LLM推理引擎。
llama.cpp是一个大语言模型领域的AI工具,价格模式为免费/开源。目前已被12262位用户浏览,1134位用户收藏。
✨ 功能标签
# 推理
llama.cpp支持推理相关功能,帮助用户高效完成推理任务。
# C++
llama.cpp支持C++相关功能,帮助用户高效完成C++任务。
# 本地
llama.cpp支持本地相关功能,帮助用户高效完成本地任务。
🏷 相关标签
💡 如何使用
1. 访问 https://github.com/ggerganov/llama.cpp
2. 注册或登录账号(如果需要)
3. 根据需求选择大语言模型相关功能
4. 开始使用llama.cpp提升你的工作效率