蘋果近期發表的AI手機和Apple Intelligence如何推動邊緣AI發展？

蘋果AI手機與Apple Intelligence如何推動邊緣AI發展

隨著蘋果推出首款內建AI的手機，以及iOS 18.1上線宣告Apple Intelligence時代的來臨，邊緣AI（Edge AI）的發展再次受到矚目。前Google台灣董事總經理簡立峰在Arm Tech Symposia 2024論壇上強調，小語言模型與邊緣運算將會是台灣產業可以把握的新機會。邊緣AI的發展，特別是適合在終端設備運算的小語言模型，將成為新一波的開發重點。

AI推理能力的突破與邊緣AI的潛力

簡立峰認為，小模型只要增加一點邏輯推理能力，就能帶來顯著的進步，進而加速AI代理（AI Agent）的發展。AI的閱讀能力尤其值得關注，當AI具備理解能力，就能自主學習。AI的閱讀能力與傳統的訓練方式不同，訓練是改變參數，而閱讀只是給AI提供參考資料。簡立峰指出，AI在各方面的能力突破已超越人類極限，例如，AI能一次運算的數據量，大約等於100座圖書館的藏書量，只要資料足夠，AI就能做到很多人類做不到的事情。簡立峰認為，AI的發展仍需讓民眾「有感」，他以台灣新聞台在美國總統候選人辯論會直播時，利用Chrome瀏覽器即時翻譯為例，說明AI語音辨識加翻譯的功能已實際應用於生活中，若能將這些應用轉化為商機，將會帶來新的發展機會。

台灣如何掌握邊緣AI的商機

簡立峰認為，邊緣AI與AI機器人領域蘊藏著巨大的商機，特別是在AI PC、AI手機和物聯網方面。過去在行動世代，台灣在軟體和軟硬整合方面較為失落，但這次，適合在終端設備運算的小語言模型將成為新一波的開發重點。模型縮小可以降低成本，若效能也能提高，將達到「甜蜜點」。簡立峰還指出邊緣AI的其他優勢，包括分散運算和能源成本、小型模型易於開發、降低開發者門檻、模型任務化，以及生態系的形成。簡立峰建議台灣的科學家不要被任何雲端公司的模型綁住，應保持模型的靈活性，並提出量化（Quantization）、修枝（Pruning）和知識蒸餾（Knowledge Distillation）等縮小模型的方法。