Osaurus将本地和云端AI模型带到您的Mac上

随着人工智能模型日益商品化，初创公司正在竞相构建位于其之上的软件层。这个领域的一个有趣的进入者是Osaurus，一个开源的、仅限Apple的LLM服务器，它允许用户在本地或云中的不同本地AI模型之间移动，同时将他们的文件和工具全部保存在自己的硬件上。

Osaurus是从桌面人工智能伴侣Dinoki的想法演变而来的，Osaurus联合创始人特伦斯·佩 (Terence Pae) 将其描述为一种“人工智能驱动的Clippy”。 Dinoki的客户问他，如果他们仍然需要支付代币（人工智能公司为处理提示和生成响应而收取的使用单位费用），为什么还要购买该应用程序。

这让Pae更深入地思考在本地运行人工智能。

“Osaurus就是这样开始的，”曾在Tesla和Netflix担任软件工程师的Pae在电话中告诉TechCrunch。他解释说，这个想法是尝试在本地运行人工智能助手。 “你可以在Mac上本地执行几乎所有操作，例如浏览文件、访问浏览器、访问系统配置。我认为这将是将Osaurus定位为个人人工智能的好方法。”

Pae开始以开源项目的形式公开构建该工具，并在此过程中添加功能并修复错误。

如今，Osaurus可以灵活地与本地托管的AI模型或云提供商（例如OpenAI和Anthropic）连接。用户可以自由选择他们正在使用的人工智能模型，并将人工智能体验的其他方面保留在自己的硬件上，比如模型自己的内存，或者他们的文件和工具。

鉴于不同的AI模型有不同的优势，该系统的优点是用户可以切换到最适合自己需求的AI模型。

这样的结构使Osaurus成为所谓的“线束”——一个控制层，通过单个界面连接不同的AI模型、工具和工作流程，类似于OpenClaworHermes等工具。然而，不同之处在于，此类工具通常针对熟悉终端的开发人员。有时，就像OpenClaw的情况一样，它们可能会带来安全问题和需要担心的漏洞。

与此同时，Osaurus提供了一个易于使用的界面，消费者可以使用它，并通过在硬件隔离的虚拟沙箱中运行来解决安全问题。这将人工智能限制在一定的范围内，保证你的计算机和数据的安全。

当然，在机器上运行人工智能模型的实践仍处于早期阶段，因为它是资源密集型且依赖于硬件的。要运行本地模型，您的系统至少需要64GB RAM。对于运行较大的模型（例如DeepSeek v4），Pae建议使用大约128GB RAM的系统。

但Pae相信本地人工智能的需求会随着时间的推移而下降。

“我可以看到它的潜力，因为每瓦特的智能（就像本地人工智能的指标）一直在显着上升。它处于自己的创新曲线上。去年，本地人工智能几乎无法完成句子，但今天它实际上可以运行工具、编写代码、访问浏览器以及从Amazon订购东西……它正在变得越来越好，”他说。

Osaurus目前可以运行MiniMax M2.5、Gemma 4、Qwen3.6、GPT-OSS、Llama、DeepSeek V4和其他模型。它还支持Apple的设备上基础模型、Liquid AI的LFM系列设备上模型，并且在云端，它可以连接到OpenAI、Anthropic、Gemini、xAI/Grok、Venice AI、OpenRouter、Ollama和LM Studio。

作为完整的MCP（模型上下文协议）服务器，您也可以允许任何MCP兼容的客户端访问您的工具。此外，它还附带20多个用于邮件、日历、Vision、macOS使用、XLSX、PPTX、浏览器、音乐、Git、文件系统、搜索、Fetch等的本机插件。

最近，Osaurus进行了更新，添加了语音功能。

据其网站称，自该项目上线近一年以来，下载量已超过112,000次。该应用程序与其他允许您在本地运行模型的工具（例如Ollama、Msty、LM Studio等）竞争，但提供了差异化的功能集，并为非开发人员提供了一个更加用户友好的选项。

目前，Osaurus的创始人（包括联合创始人Sam Yoo）正在参加总部位于纽约的创业加速器联盟。他们还在考虑下一步行动，可能会将Osaurus提供给企业，例如法律领域或医疗保健领域的企业，在这些企业中，运营当地法学硕士可以解决隐私问题。

随着本地人工智能模型的力量不断增强，该团队相信这可以降低对人工智能数据中心的需求。

Pae表示：“我们看到人工智能领域出现爆炸式增长，[云人工智能提供商]必须利用数据中心和基础设施进行扩展，但我们觉得人们还没有真正看到本地人工智能的价值。” “他们实际上可以在本地部署Mac Studio，而不是依赖云，而且它应该使用更少的电量。你仍然拥有云的功能，但你不会依赖数据中心来运行人工智能，”他补充道。