生成式 AI 戰場擴大到手機!Google 能用主場優勢與微軟一較高下嗎?

【TO 編輯部導讀】
生成式 AI 大戰開展出 2 條方向:雲端運算、行動裝置。生成式 AI 導入行動裝置的競賽開打,需要更小尺寸、不需網路連線的生成式 AI 模型因應,Google 也已摩拳擦掌深入布局。究竟 Google 瞄準這個戰場的優勢是什麼,如何與微軟一較高下?

不到半年光陰,ChatGPT 已成為生成式 AI 代名詞。這場由微軟面向雲服務大廠,率先發起的 AI 之戰,微軟至今仍勢頭暢旺。

《孫子兵法》有云:「凡先處戰地而待敵者佚,後處戰地而趨戰者勞。」率先開闢戰場、下手為強的一方,總容易佔盡優勢,而被迫參戰的一方只能疲於奔命。如今 Google 似乎也想通了這點,決定另闢戰場:將 AI 戰局從雲端轉往行動裝置。

Google 在本月中的年度 I/O 開發者大會中亮相了它的最新一代大型語言模型( LLM ):PaLM 2,而據《金融時報》消息指出,Google 聲稱它們在三星 Galaxy 手機上成功運行了 PaLM 2 的其中一個版本

不只如此,從手機桌布到簡訊收發,Google 的野心是將生成式 AI 全面導入 Android 生態系中

自帶 25 億用戶大平台,對 Google 來說妥妥的

據《 Wired 》報導,Google 最新亮相的生成式 AI 桌布功能,不僅能像一般生成式圖像,使用者可藉由下達指令、選擇內容標籤,生成相關圖片。另外使用者也能從相簿挑選照片,進行合成。不用再將素材上傳到外部生成式 AI 網站、軟體,一切在 Android 手機上就能完成

今年夏天,Google 也預計在 Android 手機的 Messages app 中導入 Magic Compose 功能。該功能可根據先前內容自動生成建議的句子來接續對話或回應,另外也有潤飾改變語氣的文字功力。

這可能只是 Google 的暖身操而已。ChatGPT 確實在短時間內擄獲全球破億使用者青睞,但 Android 至今仍是全球超過 7 成市占的手機系統,是 25 億用戶每天頻繁使用的平台。Android 工程部副總裁 Dave Burke 對《 Wired 》表示 :「我們現在的角色就像 Google 的先鋒研發部隊。」

有了 Android 生態系龐大的使用者基數。調研機構 Gartner 副總裁暨資深分析師 Chirag Dekate 表示:「對 Google 而言,這是最適合拿來加速訓練新 AI 產品、測試不同產品組合體驗的平台。其他雲服務對手很難拿出這樣的平台資源與之競爭。

顧問公司 Creative Strategies 執行長 Ben Bajarin 肯定 Google 將生成式 AI 戰局移轉到行動裝置上。認為:在 Android 上競爭生成式 AI 新品是明智的做法。但他同時也指出背後的技術限制。

生成式 AI 導入裝置的最大限制:算力不足

Ben Bajarin 指出,AI 需要強大算力支撐,若捨雲端不用,本地裝置設備需有足夠技術條件,才能克服算力不足的問題。

這也是 Google 下這步棋最耐人尋味的地方。原先生成式 AI 市場的爆發,被外界認為有望振興成長疲軟的雲端產業。最近因生產 AI 所需的 GPU 繪圖晶片、股價一飛沖天的 Nvidia,如今有望成為首間市值突破一兆美元的晶片大廠。

將生成式 AI 帶回行動裝置場域運行,豈不是捨本逐末?另一晶片大廠高通 CEO Cristiano Amon 可能持不同意見。

生成式 AI 未來大勢:雲端、裝置 2 者混合運行能大降成本

許多公司已在雲端上花費鉅額,未來若要支援更多客戶使用自家產品中的生成式 AI 服務,雲端支出有增無減的狀況下,恐擠壓公司利潤、影響獲利體質。以 Google 為例,每條透過生成式 AI 的搜尋成本是傳統搜尋的 10 倍。以每天全球超過 100 億次搜尋的需求來算,每年增加成本恐超過數十億美元。

Cristiano Amon 日前接受《金融時報》採訪時表示:「理想狀況是雲端、本地裝置兩者混合運行,利用行動裝置未使用的處理能力分攤運算成本,才是最經濟的解決方案。

高通 Snapdragon 8 Gen 2 處理器已成功讓手機裝置能支援生成式圖像軟體 Stable Diffusion 。根據《 Forbes 》最新實測報導,Stable Diffusion 僅需不到 15 秒就能在手機上依指令生成出一張全新圖片,過程完全不假任何雲端伺服器的算力支援

《 Forbes 》用 Stable Diffusion 實測手機端的生成式圖像。(圖片來源:Forbes

背後方法是高通研究團隊透過一套稱為 AI Model Efficiency ToolKit 的 AI 模型工具,將複雜、大型的機器學習模型去蕪存菁,留下關鍵的運算節點,節省模型所需的功率、儲存空間,降低裝置對運作機器學習的計算資源需求。

分析師 Ben Bajarin 預估,未來能用來編輯照片、影音,以及生成簡單對話的生成式 AI 軟體,其在行動裝置上執行的版本,參數( parameters )大概不會超過 100 億。例如高通測試的 Stable Diffusion,其版本僅約 10 億參數,這個尺寸比 ChatGPT 較舊的版本 GPT-3 還小了 175 倍。

訂閱《AI TOgether》趨勢週報
每週幫你精選 AI 主題報導

感謝訂閱!隨時注意信箱的最新資訊

生成式 AI 模型越來越小,將激發更多創新應用

隨著縮小 AI 模型的技術越趨成熟,意味著更多開發者,能以更低的技術門檻滿足生成式 AI 能達成的用途,長期可能影響 AI 趨勢走向。《金融時報》就指出,儘管 ChatGPT 抓住所有人的眼球,但檯面下更多小型生成式 AI 工具,早已如雨後春筍般冒出,例如由 Meta 發表的基礎大型語言模型 LLaMa,其小型版本近期成功在 Google 的手機 Pixel 6 上運行。

針對這波 AI 運算移轉到行動裝置的浪潮,外界目前關注 Apple 將會如何反應。Ben Bajarin 認為,作風相對保守、追求穩定的 Apple 勢必會花更多時間將生成式 AI 導入 IOS 生態系中。「但最終雙方應都會提供更多開發工具與資源,讓其生態系能搶先納入優秀的生成式 AI 軟體。」

*本文開放夥伴轉載,參考資料:《Wired》、《Forbes》、《Fortune》、《金融時報》。首圖來源:Google

(責任編輯:廖紹伶)

TechOrange LINE 好友募集中
TechOrange 徵才