本機推論
由 Apple 原生的 MLX Swift 框架驅動，在應用程式內極速執行。你的提示與資料絕不離開 Mac。
macOS 原生應用程式
LocalModel Bridge
本機大型語言模型
與「捷徑」
在 Mac 上 100% 離線執行本機 AI 模型（Llama、Qwen）。這款專為 Apple Silicon 而設的選單列工具程式，把極速的本機推論引擎開放給整個系統使用——可透過「捷徑」、macOS「服務」選單，或內建的浮動聊天視窗調用。
01
功能
本機生成式 AI，深度整合 macOS。
整合「捷徑」
直接在 Apple 原生的「捷徑」應用程式中觸發並串連 AI 查詢，讓工作流程自動化。
macOS「服務」選單
在 Safari、Xcode 或「郵件」中選取文字，按右鍵即可用模型的輸出即時取代（改寫、摘要、翻譯）。
浮動聊天視窗
獨立的浮動聊天視窗，支援多輪對話記錄，讓你快速與已載入的模型交談。
智能記憶體管理
閒置逾時後自動卸載模型，並清理 Metal 快取，把統一記憶體歸還 macOS。
Hugging Face 設定檔
輸入任何 Hugging Face Hub ID 即可自動下載模型，或指向你自己本機的權重資料夾。
02
把生成式 AI
自動化
把生成式 AI
帶進你的工作流程。
LocalModel Bridge 提供全系統可用的 AppIntents，讓你順暢地操控離線推論。
查詢本機模型
向本機模型送出提示，並在捷徑中直接取得生成的文字。
載入模型
在重複性工作開始之前，於背景預先載入模型設定檔，讓系統記憶體提前就緒。
卸載模型
自動化工作一結束即卸載模型，立即釋放 Mac 的統一記憶體。
- 01 CLI 自動化 以簡單的終端機命令稿，直接從「終端機」查詢模型。
- 02 「服務」選單 在 Safari、Xcode 或「郵件」中一鍵改寫、翻譯或校正所選文字。
- 03 本機 API 伺服器 執行一個相容 OpenAI 的本機 HTTP 伺服器（localhost:8080），供第三方開發工具（例如 Cursor）接入。
03
資料私隱
從設計之初就徹底離線。
所有提示、處理過的文件與對話都不會離開你的電腦。推論全部在本機離線執行。
本機推論
模型運算透過 Metal 著色器，在 Apple Silicon 核心上於應用程式內執行，完全不經任何雲端伺服器。
App Sandbox 保護
網絡存取嚴格限於由使用者主動發起的 Hugging Face 模型下載，以及本機 API。
沒有使用者分析
應用程式不會收集、監察或傳送任何使用數據、提示內容或所選模型。
安全保證：完全離線運作，毋須任何帳戶；模型下載完成後，即使沒有互聯網連線亦可使用。
閱讀完整私隱政策 →
04
支援
對本機推論有疑問？
無論是設定模型檔案、建立 Apple「捷徑」，還是接入本機 API 伺服器，我們都樂意協助。
前往支援與常見問題 →