深入解析 Apple Intelligence：蘋果最新 AI 功能詳解

《愛瘋日報》報導，蘋果在本週的 WWDC24 大會上重磅發布了 Apple Intelligence，將為 iPhone 和 Mac 等設備帶來一系列前所未有的 AI 功能。Apple Intelligence 為人工智慧隱私設立了新的標竿，能夠根據使用者背景提供有用且相關的資料。

本地與雲端模型：技術解析

蘋果機器學習官網隨後詳細介紹了 Apple Intelligence 的兩大基礎模型：

蘋果AI本地模型

本地模型擁有約 30 億參數，能在裝置上運行，其性能表現甚至超越了許多 70 億參數的開源模型（如 Mistral-7B 或 Gemma-7B）。

蘋果AI雲端模型

雲端模型則依賴私有雲運算，運行於 Apple 晶片伺服器上，具有更高的運算能力，為用戶提供更強大的 AI 體驗。

多樣化的高效能生成模型

Apple Intelligence 由多個高效能生成模型組成，這些模型專門針對用戶的日常任務，並可動態適應他們當前的活動。

例如，Apple Intelligence 能微調使用者體驗，包括編寫和精煉文字、優先排序和總結通知、為與家人和朋友的對話創建有趣圖像，以及應用程式內的自動操作，從而簡化應用程式之間的互動。

5分鐘了解Apple Intelligence

強大的預訓練與最佳化技術

在預訓練方面，蘋果使用 AXLearn 框架進行模型訓練。AXLearn 建構於 JAX 和 XLA 之上，使蘋果能夠在各種訓練硬體和雲端平台上擴展模型訓練，包括 TPU 以及雲端和本地 GPU。

蘋果在設備端和伺服器端模型都採用了 grouped-query-attention 技術，設備端模型使用 49K 的詞彙大小，而伺服器端模型則使用 100K 的詞彙大小，涵蓋更多語言和技術標記。

極致性能：速度與效能的完美結合

蘋果聲稱，在 iPhone 15 Pro 上，每個 prompt token 的首次延遲約為 0.6 毫秒，且生成速率達到每秒 30 個 token。

這一速度使 Apple Intelligence 能夠迅速回應用戶需求，提升整體使用體驗。

模型效能評估：指令追蹤評估結果

在指令追蹤評估（IFEval）測試中，蘋果的本地模型效能優於 Phi-3-mini、Mistral-7B 和 Gemma-7B 等模型，與 DBRX-Instruct、Mixtral-8x22B 和 GPT-3.5-Turbo 相比毫不遜色；而雲端模型的表現基本與 GPT-4-Turbo 相當。

推出時間與支援裝置

蘋果計劃在今年夏天推出的 iOS 18、iPadOS 18 和 macOS Sequoia 測試版中，開放 Apple Intelligence 功能，並將於今年秋季以測試版形式向公眾開放。

部分功能、更多語言和平台支援預計在明年陸續推出。

Apple Intelligence 將可免費使用，但僅限於配備 A17 Pro 晶片或任何 M 系列晶片的裝置。

這意味著，你需要一部 iPhone 15 Pro 或 iPhone 15 Pro Max，亦或即將推出的 iPhone 16 系列，才能享受這些先進功能。

Apple Intelligence 人工智慧突破

Apple Intelligence 的推出，代表著蘋果在人工智慧領域的又一重大突破，透過本地與雲端模型的結合，以及高效能生成模型的應用，蘋果正引領智慧裝置進入一個全新的時代。

這些創新功能不僅提升了裝置的智能化程度，也為使用者帶來了更便捷、貼心的使用體驗。

期待在不久的將來，Apple Intelligence 能成為每一位蘋果用戶生活中不可或缺的一部分。