llama.cpp
ggml-org/llama.cpp
本地推理引擎，量化之后笔记本也能带动大模型
- 星数
- ★ 129.2k
- 语言
- C++
- 许可证
- MIT
- 最近更新
- 2026-09-23
- 分类
- AI 工具
- 场景
- 通用工具
同类工具
把网页抓成干净的 Markdown 喂给大模型，省掉清洗环节
一条命令在本地跑 Llama、Qwen 等大模型，断网也能用
最流行的文生图 WebUI，插件和模型生态最大
LLM 应用开发平台，拖拽编排工作流再发布成 API
可视化搭 LLM 流程，改一个节点立刻看到效果
自托管 ChatGPT 界面，支持多模型、知识库和团队账号