NVIDIA Nemotron Bolt E4B 上手：免费的 4GB 本地 AI，几乎任何显卡都能跑

大 AI 通常住在别人的数据中心，按字收钱。NVIDIA 的 Nemotron 3.5 Bolt E4B 4GB 在 2026 年 10 月 23 日发布，思路正好相反：一个小而免费的 AI，住在设备里——机器人、游戏角色、商店里的自助机——不用联网就能说话。

它是什么，大白话

Bolt E4B 是一个开源权重语言模型：总共 80 亿参数，有效 40 亿（这个区分来自它的底子——谷歌的 Gemma 4 E4B，可以理解成 80 亿个零件，每时每刻真正干活的约 40 亿）。NVIDIA 用强化学习（奖励好答案、而不是照抄例子的训练方法）把它调教成了快速多轮对话加工具调用。它能记住 6.4 万 token 上下文（约 4.8 万个英文单词——一场长对话够了，整本书不够）。

名字就是它的卖点：Bolt 是 NVIDIA 高效本地模型家族，E4B 4GB 是承诺——一个塞进约 4GB 显存的对话助手。厂商发布演示里，它在一台 8GB 的 Jetson Orin Nano 上本地运行，跟 Reachy Mini 机器人聊天、做动作，视觉由 NVIDIA Cosmos 负责。这对你意味着什么：话都留在你自己的机器上。没有按 token 的账单，没有数据发去云端，没有月订阅——模型免费，电脑是成本。

价格：模型 $0

项目	费用	这对你意味着什么
模型权重	$0，OpenMDW-1.1 协议，允许商用	你可以在它上面做产品、卖产品。协议是它成为生意工具而不是玩具的原因。
硬件	你已有的设备（RTX 显卡、Jetson、Spark）	如果你本来就有 4–5GB 以上显存的游戏电脑，边际成本就是电费。如果没有，别为了这个项目专门买卡。
运行软件	$0（Ollama、llama.cpp、LM Studio、vLLM）	跑它的软件全部免费开源。

手把手：15 分钟用 Ollama 跑起来

第 1 步——装 Ollama。 打开 ollama.com，下载安装。这是跑本地 AI 模型的免费软件——可以把它想成模型的“播放器”。

第 2 步——下载模型。 在终端里运行：

ollama pull nemotron-3.5-bolt:e4b-q4_K_M

Ollama 上的 e4b 版本下载约 7.2–7.9GB。等下载完——这是唯一慢的一步。

第 3 步——跟它说话。 运行：

ollama run nemotron-3.5-bolt:e4b-q4_K_M

第 4 步——试一个它擅长的活儿。 输入：

你是自行车维修店的前台语音助手。顾客说：“爬坡的时候变速老跳档。”先问一个澄清问题，再用大白话给出两个最可能的原因。

第 5 步——你会看到什么。 一个快速、简短的对话式回答——不是长文。这正是它的定位：Bolt E4B 为来回对话调教，速度比深度重要。如果回答啰嗦，就把指令写短一点；小模型听短指令比长指令更靠谱。

老实说的排坑： 4GB 是显存占用目标，不是下载大小（GGUF 文件 6.18GB，Ollama 版约 7.9GB）。厂商公布的支持路线是 Windows/Linux 上的 Ada Lovelace 和 Blackwell 显卡；Mac 不在厂商公布的支持路线里，Mac 用户要多折腾。

用它赚钱：$99/月的本地语音助手代维

客户是谁： 想装语音助手（自助机、电话迎宾、前台平板）但不愿把顾客对话发给云端 AI 的小店。

卖什么： 一次性安装费 $299 加 $99/月维护——Bolt E4B 跑在店主自己的迷你电脑或 Jetson 上，接好他家常见问题清单，脚本很简单：打招呼、回答最常见的 20 个问题、答不上来就记一条留言。

账为什么成立： 模型成本永远是 $0，所以 $99/月几乎全是更新和维护的毛利。卖点就一句话：“顾客的话永远不出你的店。”7 天验证：拿自己的笔记本电脑去两家本地小店演示；签下一家维护单，就证明“隐私”这个卖点有人买单。

坑

• 小就是小。 在厂商内部测试里（厂商宣称，未独立验证），它在多数项目上胜过底子模型，但在个别工具调用测试上输给 Qwen3.5-4B。别把它卖成旗舰模型的替代品——卖点是免费、私密、快。
• 纯文字。 它自己看不见图片和视频；机器人演示的视觉来自另一个模型。
• 这篇是短篇，不是旗舰评测： Bolt E4B 属于 B 级发布——免费、有用、面窄。需要顶级质量就用托管旗舰；需要免费、私密、快，就选它。