【TO 編輯部導讀】
繼 Google 日前在 I/O 開發者大會稱已成功在手機成功運行 PaLM 2 的其中一個版本，生成式 AI 大戰便逐漸開展出 2 條方向：雲端運算、邊緣運算，後者是在終端裝置上運作，更成為 IC 晶片業者的新戰場。
繼高通宣布與 Meta 合作，現在輪到聯發科，究竟讓生成式 AI 直接在終端裝置上運行，有哪些優勢、可運用在哪些領域？
IC 設計大廠聯發科技宣布，將運用 Meta 最新世代大型語言模型 Llama 2 ，以及聯發科技最先進的人工智慧處理單元（APU）和完整的 AI 開發平台（NeuroPilot），建立完整的終端運算生態系統，加速智慧手機、汽車、智慧家庭、物聯網等終端裝置上的 AI 應用開發。除此，預計運用 Llama 2 模型開發的 AI 應用，將在年底最新旗艦產品上亮相。
讓生成式 AI 在終端運算的優勢是什麼？
目前大部分的生成式 AI 處理都是透過雲端運算進行，聯發科技將生成式 AI 直接部署在終端裝置，讓開發者及使用者能直接在裝置上使用 Llama 2 模型，藉此提升性能、加強隱私保護、提高安全性及可靠性、降低延遲，能離線運算，並擁有節省成本的多項優勢。
針對 Llama 2 打造的新品年底亮相
聯發科技預計在今年年底推出最新一代的旗艦晶片組，並採用針對 Llama 2 模型而優化的軟體堆疊架構（NeuroPilot），與搭配支援 Transformer 模型做骨幹網路加速的升級版 AI 處理單元，降低 DRAM 存取消耗及頻寬佔用，進一步強化大型語言模型和生成式 AI 的性能，以利開發者打造 AI 應用，加速終端應用的落地。
訂閱《AI TOgether》趨勢週報
每週幫你精選 AI 主題報導
感謝訂閱！隨時注意信箱的最新資訊
聯發科技表示，要真正在裝置上釋放生成式 AI 的潛力，製造商需採用高運算、低功耗的 AI 處理器，以及更快、更可靠的連網性能，以增強整體運算能力。目前由聯發科技系統單晶片驅動的每款 5G 智慧手機皆配有 APU，已有廣泛執行多項生成式 AI 功能的成功實例，例如 AI-NR 雜訊抑制、AI-SR 超高解析度、AI -MEMC 動態補償等。
想更深入了解 AI 邊緣趨勢？推薦延伸閱讀：
＊本文訊息由「聯發科技」提供，內文與標題經 TechOrange 修訂後刊登。新聞稿/ 產品訊息提供，可寄至：[email protected]，經編輯檯審核並評估合宜性後再行刊登。圖片來源：Shutterstock。
（責任編輯：廖紹伶）
