Survival LLM:断网也能用的应急 AI 助手,按内存自动选模型、带 93 万篇维基百科等离线资料库,作者自测 22 道停电与急救题最多答对 21 道

开发者 anonnerdfrenzy 发布的 Survival LLM 是一款完全在本机运行的免费 AI 助手和应急资料库,10 月 26 日至 27 日连发 0.3.0 至 0.3.4 五个版本,源码已在 GitHub 公开(仓库 10 月 24 日创建,许可证未标注为标准开源协议)。它启动时按电脑内存下载合适的模型:128 GB 以上的 Mac 用 NVIDIA Nemotron 3.5 Super(80 GB),32–96 GB 的 Mac 用 Qwen3.8 27B,32 GB 以上的 Windows 电脑用 Nemotron 3.5 Lightning,16–31 GB 的电脑用 IBM Granite 4.2 8B(6 GB)。资料库包含约 93 万篇维基百科高阅读量条目、MedlinePlus、WikEM、FEMA 的 Ready.gov、CDC 旅行健康、美军医疗与生存手册、iFixit 维修指南等,完整版下载 9 GB。作者在 22 道停电与急救问题上盲评,四档模型分别答对 21、21、19 和 14 道;每个回答都列出引用的条目,方便核对。

它想解决的场景

停电、断网时问「冰箱里的食物还能放多久」「烫伤怎么处理」「怎么净化饮用水」,联网的 AI 助手全都用不了。Survival LLM 的思路是在有网时把模型和资料库一次装进本机,之后完全离线运行:不用账号、不做追踪,提问不离开电脑。开发者 anonnerdfrenzy 10 月 24 日在 GitHub 建仓公开源码,10 月 26 日至 27 日连续发布 0.3.0 到 0.3.4 五个版本。项目页面称它免费开源,但 GitHub 上的许可证没有标为标准开源协议,资料库里各来源也各自保留许可,部分仅限非商业使用。

按内存配模型,回答必附出处

应用启动时先检查电脑内存,再下载对应的模型:

  • 128 GB 以上内存的 Mac:NVIDIA Nemotron 3.5 Super,80 GB;
  • 32–96 GB 的 Mac:Qwen3.8 27B,18 GB;
  • 32 GB 以上的 Windows 电脑:NVIDIA Nemotron 3.5 Lightning,25 GB;
  • 16–31 GB 的 Mac 或 PC:IBM Granite 4.2 8B,6 GB。

资料库是可检索的纯文本,包括约 93 万篇阅读量最高的维基百科条目、WikiMed、MedlinePlus、英国药品目录、WikEM 急诊医学、FEMA 的 Ready.gov 应急指南、CDC 旅行健康、美军医疗与生存手册、wikiHow、iFixit 维修指南和 Appropedia 等。完整版下载 9 GB、安装后 19 GB;去掉维基百科和 iFixit 的精简版 1.3 GB。用户也可以加入自己的 PDF、Word 文档,比如发电机说明书或家庭应急预案。

作者用 22 道停电与急救问题做了盲评,标准是「答对官方指南的要点」:前两档模型都答对 21 道,Nemotron 3.5 Lightning 19 道,Granite 4.2 8B 只有 14 道。所以应用会在每个回答下列出读过的条目,点开能看到被引用的原文段落。作者在 MacBook Pro 上实测回答时功耗约 100 瓦、每题 5 到 40 秒,一块满电电池大约能回答 100 到 300 个问题。

该怎么看

这是个人项目,测试题只有 22 道,且是在早期版本的资料库上测的,不能当成医疗建议工具。它更有价值的地方在于把「本地模型 + 可溯源检索」做成了普通人能装的应用:断网场景下答案未必完美,但能直接翻到 FEMA 或 MedlinePlus 的原文,比只听模型复述可靠。真要用,最好在有网时装好,并先用几个已知答案的问题试一试小模型的水平。

via: Survival LLM 项目主页、GitHub:anonnerdfrenzy/survival-llm