Post #289

llamafile[^1] 是一个在本地离线运行 LLM 的单文件程序，不用安装任何依赖，只需要下载一个文件然后在命令行 ./ 执行，即可在自己的电脑上得到一个 llama.cpp 内核的 AI。 https://justine.lol/oneliners/ 这篇文章介绍了 llamafile 的用法，以及一些实用的 one-liner 命令，包括识别图片内容并批量重命名、总结链接内容等，可以当作没有网络时的 ChatGPT 备用方案。还提到了一些其他项目比如 ollama [^2] 这个本地启动各种 Llama 模型的框架，和Mistral, Wizard Coder, Rocker 3B 等有着不同能力侧重的模型。 llamafile 的计算速度并不差，在我的 2020 M1 MBP 上也能很快响应。看着命令行里滚动的日志，突然觉得这是我与真正的 LLM 技术距离最近的一次。 [^1]: https://github.com/mozilla-Ocho/llamafile [^2]: https://ollama.ai/