返回工具目录

L

Resource detail

llama.cpp

纯 C/C++ 的轻量推理框架，消费级硬件也能跑大模型。

全球免费开源

访问官网更多类似资源

选型速览

llama-cpp

价格模式

免费

访问方式

免登录

支持平台

Mac · Windows · Linux · Cli

支持中文

否

最近核对

2026-07-09

热门指数

82/100

标签

推理轻量开源

适合人群

开发者

更新信息

更新于 2026-07-09

热门指数 82/100

典型用途

低配设备推理嵌入式集成

相似工具与替代品

按相近用途整理

Ollama

一条命令在本地运行开源大模型的工具。

全球免费本地部署+1

更新于 2026-08-28

vLLM

高吞吐 LLM 推理引擎，生产环境部署首选。

全球免费推理引擎+1

更新于 2026-08-28

Hugging Face

全球最大的开源模型与数据集社区。

全球免费增值模型库+2

更新于 2026-08-28

ComfyUI

节点式图像视频生成工作流工具，可控性极强。

全球免费图像+1

更新于 2026-08-28

Stable Diffusion WebUI

经典的本地图像生成界面，插件生态庞大。

全球免费开源+2

更新于 2026-07-09

Open WebUI

自托管的 AI 对话界面，可接 Ollama 与任意 API。

全球免费开源+2

更新于 2026-07-09