返回工具目錄

V

Resource detail

vLLM

vLLM

高吞吐 LLM 推理引擎，生产环境部署首選。

全球免費

訪問官網更多类似資源

選型速覽

vllm

價格模式

免費

訪問方式

免登錄

支持平台

Python · Linux · Self-hosted

支持中文

否

最近核對

2026-08-28

熱門指數

85/100

標籤

推理引擎部署開源

適合人群

開發者企業

更新信息

更新於 2026-08-28

熱門指數 85/100

典型用途

生产推理服務私有化 API

相關資源

按相近用途整理

Hugging Face

全球最大的開源模型與數據集社區。

全球免費增值模型库+2

更新於 2026-08-28

Ollama

一条命令在本地运行開源大模型的工具。

全球免費本地部署+1

更新於 2026-08-28

llama.cpp

纯 C/C++ 的轻量推理框架，消費級硬件也能跑大模型。

全球免費開源+2

更新於 2026-07-09

ComfyUI

节点式圖像視頻生成工作流工具，可控性极强。

全球免費圖像+1

更新於 2026-08-28

Stable Diffusion WebUI

经典的本地圖像生成界面，插件生態庞大。

全球免費開源+2

更新於 2026-07-09

Open WebUI

自托管的 AI 對话界面，可接 Ollama 與任意 API。

全球免費開源+2

更新於 2026-07-09