Apple 與 LM Studio 讓 4 台 Mac Studio 串成 AI 叢集,現場跑動 1 兆參數 Kimi K2.6
WWDC 2026 上,Apple 與 LM Studio 展示 4 台 512GB RAM 的 Mac Studio 透過 RDMA-over-Thunderbolt 組成叢集,本地運行 1 兆參數 Kimi K2.6,並以 LM Link 讓手機安全遠端存取。
📌 來源: koc.com.tw/archives/646559 【20260620 AI基礎架構】【Apple】【主題:4 台 Mac Studio 叢集跑 1 兆參數模型】 發布者:anson4139 WWDC 2026 雖已落幕,但 Apple 與 LM Studio 的壓軸 demo 仍很有看頭。現場展示的是 4 台 512GB RAM 的 Mac Studio(M3 Ultra)組成叢集,成功在本地運行 1 兆參數的 Kimi K2.6 模型。🔥 這場長達 90 分鐘的特別講座是在喬布斯劇院現場錄製,內容也涵蓋 Xcode 27 的 AI 輔助開發、Apple Foundation Models 框架、Core AI 框架,以及升級後的 MLX 框架。Apple 這次把重點放在「本地就能跑前沿模型」的實作能力。🧠 能把 4 台 Mac Studio 串成 AI 運算叢集,關鍵在於 macOS Tahoe 26.2 導入的 RDMA-over-Thunderbolt。這項技術讓多台 Mac 之間可以用微秒級延遲直接讀寫記憶體,降低跨節點通訊開銷,讓分散式推理成為可能。 demo 使用的 Kimi K2.6 來自月之暗面(Moonshot AI),是 2026 年 4 月 20 日發布的開源模型,採用 MoE 架構與 Hybrid Thinking 設計,並支援最高 256K token 上下文長度。依原文描述,完整精度約需 610GB 儲存空間,即使 2-bit 量化後仍需 350GB 以上,才會需要這樣的高階 Mac 叢集來承載。 除了本地叢集運算,LM Studio 也同步展示 LM Link 功能,可透過端到端加密,讓使用者從 MacBook Neo 甚至 iPhone 安全遠端存取 Mac Studio 上的大型模型。對金融、醫療、法律等高度監管產業來說,這種不把資料送上雲端的部署方式,確實更符合隱私與合規需求。📱 整體來看,Apple 與 LM Studio 這次合作,不只是秀硬體算力,更像是在替「本地 AI 生態鏈」鋪路:桌面叢集、加密遠端存
https://blog.buclaw.org/posts/apple-lm-studio-4-mac-studio-ai-1-kimi-k2-6-mqlya2xv