本地 ML 模型工作台
我们实测并排名了 29 款 Mac 本地 ML 模型工作台应用——更新于 2026年8月。
榜上每一款应用都在我们自己的 Apple 芯片 Mac 上实测，并按公开评分标准打分——能力、品质、隐私、性价比。测试全程监测网络行为。 评分标准 →
你有数据集要标注、模型要微调、推理流程要跑基准测试——而且更希望数据留在自己的机器上，而非上传到云端训练服务。本分类收录了 29 款面向 ML 从业者的 Mac 应用，覆盖在 Apple Silicon 本机完成的模型运行、图像标注、训练和评估工作。从设备端运行 Segment Anything 和 YOLO 自动标注的图像标注工作室，到通过 MLX 执行开源模型并提供实时 GPU 遥测的 LLM 工作台，再到 LoRA 微调、Metal 上的 Transformer 训练，乃至离线分子属性预测——应用类型跨度极大。我们从能力、打磨、隐私和性价比四个维度为每款应用打分。绝大多数应用将处理全部保留在设备端，少数通过本地 API 向同一网络的其他工具提供服务。价格整体偏低：多数免费，最贵的一次性买断不超过二十美元。排名如下。
完整排名 — 共 29 款
RectLabel Pro
Ryo KawamuraRectLabel 标注工具包的一次性买断版，在设备端运行 SAM 2/3、Cellpose、RF-DETR 和 YOLO26 自动标注器，导出覆盖所有主流检测格式。
” RectLabel 是离线图像标注工具；使用 Core ML 模型（包括 RF-DETR 和 YOLO26）自动标注；使用 Segment Anything Model 2 标注多边形和像素 — 实测笔记
Open Otter
杰 何面向进阶用户的 LLM 工作站，通过 MLX 在 Apple Silicon 上原生运行开源模型，提供兼容 OpenAI 的 API 服务器，并支持多 Mac 分布式推理。
” 使用 MLX 框架在 Apple Silicon GPU 上完全本地运行大型语言模型；不依赖云端处理 — 实测笔记
RectLabel
Ryo KawamuraRectLabel 标注引擎的订阅版——与 Pro 版同样的 SAM 2/3、Cellpose 和 Core ML 自动标注，YOLO/COCO/CreateML/DOTA 导出能力完全一致。
” 离线图像标注工具；使用 Core ML 模型（包括 RF-DETR 和 YOLO26）自动标注；Segment Anything Model — 实测笔记
anubis Pro
John Taverna面向本地 LLM 的原生 Apple Silicon 基准测试工作台，提供逐 token 指标、置信区间、竞技场对决和横跨五种推理后端的实时硬件遥测。
” Mac 上本地大型语言模型的基准测试工具；Apple Intelligence 设备端 Foundation Models；支持 Ollama、LM Studio、MLX-LM — 实测笔记
Rapidscall
Cato Hernes Jensen无代码工作台，通过 Metal 直接在 Mac GPU 上训练自定义 Transformer 语言模型，覆盖从分词、优化到检查点保存和实时损失可视化的完整流程。
” 在 Mac 上训练自己的 AI 语言模型，无需云服务，数据不离开设备；Rapidscall 完全使用 Mac 的 GPU 通过 Metal 运行；所有内容在本地运行 — 实测笔记
LoRAbit
JEAHOON BANG覆盖完整的设备端 LoRA 微调流程——数据集准备、预检验证、基于 MLX 的适配器训练、推理就绪模型文件夹导出——填补了绝大多数本地 AI 工具忽略的空白。
” 设备端 LoRA 训练工作台；使用 MLX 本地训练 LoRA 适配器；所选模型、数据集留在自定义工作区内 — 实测笔记
Contour - Segment Anything
Magenta Creations原生 macOS 的 Segment Anything 前端，支持提示词或框选批量生成实例掩码，直接导出 COCO JSON、YOLO TXT 和透明 PNG 抠图。
” 在自己的机器上运行，不向云端发送任何像素；提示词驱动的实例掩码 — 实测笔记
OrchardGrid
斌 王将 Apple 设备变为共享 AI 服务器，通过单一 HTTPS API 对外提供聊天、图像生成、视觉和语音能力——全部运行于 Neural Engine。
” 所有推理运行在用户已有的 Apple Silicon 上；运行于 Neural Engine；提示词和响应不经过我们的服务器 — 实测笔记
Subjective Designer
SXP Studio拥有 170 余个节点的实时视觉特效画布，采用 Metal GPU 渲染，其 CoreML 推理节点可将模型输出导入实时着色器链。
” CoreML 模型推理；Metal 实时着色器编译渲染；完全基于 Apple 技术构建 — 实测笔记
MolLens
万飞 陈在本地运行真实神经网络——Graphormer 预测 HOMO-LUMO 能隙、ChemBERTa 做 ADMET 建模——并结合 RDKit 化学信息学，完全离线，专有分子结构不出 Mac。
” 本地运行的 Graphormer 模型；"由 ChemBERTa 驱动"；"所有神经网络推理和物理计算完全在 Mac 的 Apple Silicon 上执行" — 实测笔记
如何挑选 Mac 本地 ML 模型工作台应用
先明确需求方向：标注工具、推理工作台还是训练环境——这三类应用的形态截然不同，选错了白费时间。RectLabel、Contour 和 SimpleML 专注于目标检测和语义分割的图像标注。Open Otter、OrchardGrid 和 LocalGate AI 运行预训练模型并通过本地 API 对外提供推理服务。Rapidscall 和 LoRAbit 则承担真正的设备端训练和微调任务。接着看框架与硬件的匹配度。基于 MLX 或 Metal 的应用最能压榨 Apple Silicon 统一内存的性能——Open Otter 和 Rapidscall 正是如此。Core ML 工具运行高效，但限定于已转换的模型格式。如果你已部署 Ollama 或 LM Studio，anubis Pro 可以直接对接这些后端跑基准测试，免去重复搭建的麻烦。再看数据是否出机。所有应用都在本地完成推理或训练，但部分会开放网络端口——OrchardGrid 提供 HTTPS 端点，Open Otter 运行 OpenAI 兼容服务器——虽然设计上仍属本地，但如果你的安全要求是完全封闭网络，选标注工具或独立训练器更稳妥。最后衡量价格与功能范围。RectLabel Pro 的 $19.99 一次性买断覆盖与订阅版完全相同的标注引擎。Rapidscall 和 LoRAbit 免费。anubis Pro 仅 $4.99 即可跨五种本地后端做基准对比。这个分类里免费应用的能力着实不弱——付费主要换来便利，而非核心 ML 功能。
常见问题
不用命令行，能在 Mac 上本地运行 Hugging Face 模型吗？
可以，本列表中有多款应用支持。Open Otter 通过 MLX 在 Apple Silicon 上原生下载和运行 Hugging Face 模型，无需打开终端。LoRAbit 更进一步，支持在设备端用 LoRA 适配器微调已下载的模型。LocalGate AI 通过菜单栏网关对外提供模型服务。三者都将模型和数据保留在 Mac 上，唯一的网络流量是下载模型权重本身。
Mac 上有没有带基准测试和监控功能的 Ollama 图形界面？
anubis Pro 最为对口。它连接到本地运行的 Ollama 实例，可在应用内直接拉取模型，并执行结构化基准测试——包含逐 token 计时、置信区间和实时硬件遥测。同时支持 LM Studio、MLX 和 vLLM 后端，让你在同一个原生 SwiftUI 界面中跨引擎对比性能，售价仅 $4.99。
在 Mac 上本地训练或微调模型需要高配机器吗？
本列表中的标注和推理工具在任何 Apple Silicon Mac 上都能运行。若涉及真正的设备端训练——Rapidscall 的 Transformer 训练或 LoRAbit 的 LoRA 微调——更大的统一内存会有帮助：16 GB 能较舒适地处理小规模模型，32 GB 及以上则可尝试更大架构。两款应用均内置 Metal GPU 加速，不需要独立显卡。