#CPU推理

概念-llama.cpp

llama.cpp 是纯 C/C++ 实现的 LLM 推理框架，专为消费级硬件（CPU/集成显卡）优化，GGUF 量化格式让大模型在普通电脑上也能运行。它是 Ollama、LM Studio 等工具的底层引擎，也是整个本地 AI 推理生态的基石。