想在自己的电脑上跑大模型，却被终端命令、驱动版本和一堆参数劝退？Hugging Face 和 llama.cpp 团队本周联手发布了一款免费开源的 Windows 应用——Llama Windows，把本地跑模型这件事，简化到了”点几下鼠标”的程度。
它是什么：住在系统托盘里的 llama.cpp
Llama Windows 是一款原生 WinUI3 应用，启动后就安静地待在 Windows 11 的系统托盘里，点图标弹出小面板，右键即可退出。它的核心是 llama.cpp——最流行的本地大模型推理引擎。
以前在 Windows 上跑本地模型相当劝退：找硬件对应的二进制版本、挑模型、选量化精度、再配一堆启动参数。Llama Windows 把这套流程收进一个面板：”推荐模型”列表直接列出 Hugging Face Hub 上的热门开源模型量化版，标注参数量、占用空间和是否支持视觉，点一下就开始下载，进度实时显示。下载完加载模型，打开内置网页界面就能对话。
三个让人心动的设计
1. Alt+Space 随叫随到。在任何界面按下 Alt+Space，就能唤起一个悬浮对话窗口，不用切来切去。这是它比很多同类工具顺手的地方。
2. 本地服务，自带 OpenAI 兼容接口。llama.cpp 在本机跑起一个服务器（localhost:9931），你自己的脚本、应用、智能体都能通过 OpenAI 兼容的 API 调用同一批模型，等于白得一个本地模型后端。
3. 隐私和兼容性拉满。所有对话和数据都留在本机，不联网也能用；模型缓存走 Hugging Face 标准目录，和其它工具共享，下载一次到处可用；原生支持 Windows on Arm，还在发布首日就适配了 NVIDIA RTX Spark 的 GPU 加速。
和 LM Studio 怎么选？
LM Studio 界面更成熟、模型发现体验更好，但 Llama Windows 有两个独特优势：一是它是 llama.cpp 官方团队参与打造的”亲儿子”，引擎更新最及时；二是它完全免费开源（代码在 GitHub 的 ggml-org/Llama-Windows 仓库），轻量到只占一个托盘图标。追求极简或想折腾本地 API 开发，值得一试；要开箱即用的傻瓜体验，LM Studio 依然稳妥。
安装也很简单：Windows 11 电脑访问 llama.app 下载，点托盘图标选模型下载，加载后开聊，全程无需管理员权限，不用碰终端。
本地 AI 正在从极客玩具变成生产力工具。更多工具测评可以看《Google Antigravity 深度测评：免费的 AI 编程智能体，真能替代 Cursor 吗？》；想从零玩转 AI 智能体，推荐《保姆级教程：从0到1带你速通国产Agent之光WorkBuddy》。
