返回工具目錄

L

Resource detail

llama.cpp

纯 C/C++ 的轻量推理框架，消費級硬件也能跑大模型。

全球免費開源

訪問官網更多类似資源

選型速覽

llama-cpp

價格模式

免費

訪問方式

免登錄

支持平台

Mac · Windows · Linux · Cli

支持中文

否

最近核對

2026-07-09

熱門指數

82/100

標籤

推理轻量開源

適合人群

開發者

更新信息

更新於 2026-07-09

熱門指數 82/100

典型用途

低配设備推理嵌入式集成

相似工具与替代品

按相近用途整理

Ollama

一条命令在本地运行開源大模型的工具。

全球免費本地部署+1

更新於 2026-08-28

vLLM

高吞吐 LLM 推理引擎，生产环境部署首選。

全球免費推理引擎+1

更新於 2026-08-28

Hugging Face

全球最大的開源模型與數據集社區。

全球免費增值模型库+2

更新於 2026-08-28

ComfyUI

节点式圖像視頻生成工作流工具，可控性极强。

全球免費圖像+1

更新於 2026-08-28

Stable Diffusion WebUI

经典的本地圖像生成界面，插件生態庞大。

全球免費開源+2

更新於 2026-07-09

Open WebUI

自托管的 AI 對话界面，可接 Ollama 與任意 API。

全球免費開源+2

更新於 2026-07-09