苹果公司近期被发现正在研发一款名为 Harbor 的 Mac 应用。这款工具的核心目标是让用户轻松把一台或多台 Mac 设备变成专属的 AI 推理服务器。用户可以在本地直接运行各种开放权重的大模型,整个过程完全不依赖云端,数据始终保留在自家硬件内。

应用特别支持通过 Thunderbolt 5 将多台 Mac 连接起来, pooling 统一内存。这样即使单个设备内存有限,也能处理规模更大的模型,同时支持更高的并发请求。目前 Harbor 处于 Claris 品牌下的私人预览阶段,预计未来几周或几个月内就会面向公众发布。

本地化部署的背景与意义

今年 Mac 系列因为 MacBook Air 等亲民机型以及 Mac Studio 的强大算力,在本地运行 AI 模型的用户明显增多。许多开发者已经习惯用这些设备离线测试和部署模型,避免云服务带来的费用和延迟。Harbor 的出现正是顺应这一趋势,进一步降低门槛。

对于中文开发者来说,这意味着可以更方便地在本地构建私有 AI 环境,尤其适合对数据隐私要求高的项目,比如企业内部工具或个人研究。开发者无需再为每次推理付费,也不用担心模型提供商突然调整政策。未来如果能稳定运行常见开源模型,将显著加速原型验证和迭代速度,值得关注后续公测动态并提前准备 Apple Silicon 设备。