mozilla-ai/llamafile

1. 基本情况

2. 主要用来干什么

把一个大模型和运行它需要的一切，打包成单独一个文件。双击就跑，不用安装任何东西。

这有多反常识？平时你想在本地跑一个模型，得先装运行环境、装依赖、下模型、配路径，一路踩坑。llamafile 把这一整套压缩成：下载一个文件，运行它，完事。 而且同一个文件在 Windows、macOS、Linux 上都能跑——不用为每个系统准备不同版本。

它是 Mozilla 的项目（Mozilla Builders 发起，现在由 Mozilla.ai 接手重做）。技术上是把 llama.cpp（跑模型的引擎）和 Cosmopolitan Libc（一种能让同一个可执行文件跨系统运行的技术）拼在一起做到的。

典型用法：

• 给完全不懂技术的人一个本地 AI：发一个文件过去，让他双击。没有比这更低的门槛了
• 在不能联网、不能装软件的机器上跑模型：比如内网、客户现场
• 归档一个模型：一个文件就是完整的、可运行的快照，几年后拿出来照样能跑
• 语音转文字：它还附带一个 whisperfile，同样是单文件，基于 whisper.cpp，转写和翻译音频都不用装东西

两件要注意的事：

一、许可证在 GitHub 上显示为"未声明标准许可证"。 它是多个开源组件拼起来的，授权情况比较复杂。自己用没问题，商用前务必点进仓库看清楚 LICENSE 文件。

二、0.10 版换了构建方式，可能缺功能。 README 自己说得很直白：新版能支持更新的模型，但可能少了一些你习惯的功能；喜欢"经典体验"的可以去下载旧版本。所以装之前先想清楚你要的是新模型支持还是功能完整——这两件事目前不可兼得。

3. 为什么会火

它戳中了什么痛点

2023 年想在本地跑一个大模型，流程大概是：装 Python、装依赖、下模型、配路径、解决版本冲突、再折腾显卡驱动。对非程序员基本等于劝退，对程序员也是半天起步。

llamafile 的答案简单粗暴：把模型和运行环境打包成一个文件，双击就跑。 而且同一个文件在 Windows、macOS、Linux 上都能用——这在软件分发上是很反直觉的一件事，靠的是一个叫 Cosmopolitan Libc 的技术。

它是怎么来的

Mozilla Builders 在 2023 年 11 月发起的项目。核心思路是 llama.cpp（跑模型的引擎）+ Cosmopolitan Libc（跨系统可执行文件）。

但中间沉寂过一段，这一点必须说。

Mozilla.ai 的博客文章标题就叫「llamafile 回来了」——用"回来了"这个词，说明它曾经停滞过。 原因是本地模型生态跑得太快，llama.cpp 一直在更新，而 llamafile 没跟上，导致新模型跑不了。Mozilla.ai 接手后做了重构。

2026 年 3 月发布的 0.10.0 版本是从头重建了核心，加了显卡支持。

大家在夸什么

分发简单到没有对手：给一个完全不懂技术的人发一个文件让他双击，这件事只有 llamafile 能做到。归档也好用——一个文件就是完整可运行的快照。

大家在骂什么 / 三个真实的限制

1. Windows 上有 4 GB 的可执行文件大小上限，而现成的那些 llamafile 大多超过这个数。这是操作系统的硬限制，绕的方式是把模型和运行程序分开，但那就失去了"单文件"的意义。如果你主力是 Windows，这条可能直接让它不成立。
2. 每个模型是一个独立进程。想同时跑几个模型，得自己管理多个进程——Ollama 那种统一管理的体验它没有。
3. 生态差距明显。Ollama 的星数大约是它的四倍，第三方工具和教程也多得多。遇到问题时能搜到的答案数量差一个量级。
4. 0.10 版可能缺功能。README 自己说：新版支持更新的模型，但可能少了你习惯的一些功能，想要"经典体验"得去下旧版。

已有的评测

• Mozilla 的便携 LLM 运行器获得 GPU 支持和重建的核心（英文，讲 0.10 重构）
• Ollama vs Llamafile 2026 对比（英文，含上面几条限制）
• 官方文档
• llamafile 回来了（Mozilla.ai 官方，讲接手经过）

中文的深度评测我这次没有检索到。

4. 同类还有谁，怎么选

什么时候该选它

• 你要把一个能用的 AI 发给一个完全不懂技术的人 → 只有 llamafile 能做到。发一个文件、让他双击，没有第二个方案能做到这一步。这是它无可替代的场景。
• 你要在不能联网、不能装软件的机器上跑模型（内网、客户现场）→ 同上。
• 你要归档一个模型，几年后还能原样跑起来 → 单文件快照，llamafile 最合适。
• 除此之外的日常本地跑模型 → 老实说，选 ollama。 生态大 7 倍、教程多一个量级、多模型统一管理、遇到问题搜得到答案。llamafile 的"每个模型一个独立进程"在日常使用中是负担不是优点。
• 你主力是 Windows → 这条可能直接否掉它：Windows 有 4 GB 可执行文件上限，而现成的 llamafile 大多超过这个数。
• 只想要个聊天界面 → open-webui 更对症，它是界面不是运行器，可以配合 ollama 用。

一句话：llamafile 是一把非常特别的钥匙，但只开一把锁——"零安装分发"。 那把锁很值钱（没有替代品），但如果你要的不是那把锁，ollama 是更省心的选择。

顺带一个可以直接引用的判断：llamafile、ollama、koboldcpp 底下跑的都是 llama.cpp。也就是说它们的推理速度和模型支持大同小异，真正的差别全在"怎么分发、怎么管理"这一层。理解这一点，选型就简单多了。

你亲测时重点看这几点

1. Windows 上那个 4 GB 限制到底多致命（最值得验）。去下载几个官方现成的 llamafile，看看有几个超过 4 GB。如果大部分都超了，那"单文件"这个卖点在 Windows 上基本不成立——这个结论很有冲击力，而且我没看到有人明确说过。
2. 0.10 版到底缺了什么。README 承认新版可能少功能、建议怀旧的人用旧版，但没有列清单。装 0.10 和旧版各跑一遍，找出差异——这是实打实的信息缺口。
3. 和 ollama 比，速度差多少。两个底下都是 llama.cpp，理论上应该差不多。如果实测差很多，那说明打包方式有性能代价，这很值得讲。
4. 真找个不懂技术的人试一次。这是它唯一的护城河，但没人验证过。找个家人或非技术同事，发个文件让他双击，看他能不能自己跑起来、卡在哪一步。这个实验最能说明问题，也最有画面感。
5. 许可证到底是什么。GitHub 显示"未声明标准许可证"，点进仓库看 LICENSE，确认商用边界。

5. 我的实测

还没有亲自试过这个工具。

客观数据来自 GitHub 接口，生成于 2026-09-07。判断部分仅供参考，动手前请以你自己的实测为准。