擺脫雲端依賴：PrismML 發佈可在智能手機運行的 27B AI 模型「Bonsai」

2026 年 7 月 14 日，人工智能初創公司 PrismML 正式發佈了首款可在智能手機上原生運行的 270 億參數 AI 模型「Bonsai 27B」。是次發佈是將基於雲端的大型語言模型轉移到流動裝置內部的里程碑式事件，再次突破了裝置端 AI 的性能極限。

Bonsai 27B 將原本高達 54GB 的模型體積壓縮至 3.9GB 左右，同時保持了強大的推理能力。業界專家將此稱為邊緣運算領域的「DeepSeek 時刻」（DeepSeek moment），預示著無需連接數據中心即可使用高性能 AI 服務的時代已經到來。

PrismML 是次的成果展示了模型壓縮技術的飛躍進步。擁有 270 億個參數的模型能夠在 iPhone 17 Pro 等消費級硬件上流暢運行，預計將加速從現有的雲端優先範式向以本地智能為中心的轉變。

Bonsai 27B 將以往依賴雲端的大型模型級智能直接帶入用戶的口袋，這是裝置端 AI 歷史上最重要的里程碑之一。

技術核心在於 PrismML 獨家研發的 1 位元（1-bit）及三進制（Ternary）量化架構。該技術將模型的權重極端簡化，使記憶體佔用減少了 14 倍以上，同時成功保留了複雜推理任務所需的智能結構。

技術架構：1 位元及三進制量化

Bonsai 27B 分為將權重表示為 {-1, +1} 的 1 位元變體，以及表示為 {-1, 0, +1} 的三進制變體。特別是透過引入「Binary g128」格式，為每 128 個權重組分配一個 FP16 縮放因子，從而實現了將每個權重的實際位元數降低至 1.125 位元的效率。

• ['1 位元變體：佔用 3.9GB 記憶體，針對 iPhone 17 Pro 等流動裝置進行優化。', '三進制變體：佔用 5.9GB 記憶體，適用於手提電腦及高規格流動裝置。', '基礎模型：維持 Qwen3.6-27B 的架構，同時轉換為低位元表示。']

在效能方面，Bonsai 27B 展現了驚人的效率。研究顯示，1 位元變體在 15 個主要基準測試中維持了全精度 (Full Precision) 模型效能的約 90%，這意味著它超越了單純的壓縮，能在本地環境提供實用水平的智能。

這類高效能本地模型的出現亦有助於保護用戶私隱。由於所有數據處理均在裝置內部進行，敏感資訊無需傳送到外部伺服器，即使在網絡連接不穩定的環境下，也能確保一致的 AI 效能。

硬件需求及開發者生態系統

PrismML 以 Apache 2.0 授權發佈 Bonsai 27B，旨在吸引開源社群參與。在 Reddit 的「LocalLLaMA」等社群中，已有用戶分享 Bonsai 27B 的本地運行測試結果，並獲得廣泛好評，認為其能以遠低於現有 8 位元量化模型的記憶體佔用，生成質素相若的回答。

在硬件方面，該模型積極利用 iPhone 17 Pro 等最新流動裝置的 NPU 及 GPU 資源。3.9GB 的記憶體佔用 (memory footprint) 完全在目前旗艦級智能手機的可用 RAM 範圍內，讓用戶無需額外升級硬件即可體驗巨型模型級別的 AI。

最後，這次技術突破預計亦將影響全球大型科技企業的策略。據 CNBC 等外媒報道，有消息指蘋果公司正考慮引入 PrismML 的技術，預計這將進一步加強未來智能手機將高性能 AI 整合為基本功能的趨勢。