什麼是「IPU」?從西方半導體界唯一的獨角獸 Graphcore 開始講起吧!

圖片來源:Graphcore

近年來各產業對於「AI 運算」的需求日益增多。不論是自駕車、智慧工廠等各種「自動化」應用領域,就連 5G 智慧城市交通流量管理,甚至是近來用於加速藥物開發、病毒傳播預測的平台,都需要 AI 運算。

但未來 AI 技術若越趨複雜,甚至需要同時滿足機器學習、深度學習的需求,CPU、GPU 能夠滿足不斷提升的 AI 技術嗎?有個新的技術「IPU」(Intelligence Processing Unit),或許能符合日益精進的 AI 技術。

什麼是 IPU?

圖片來源:Graphcore

講到 IPU,首先一定要提到發明這個新名詞的英國 AI  晶片新創公司 Graphcore。

這家發跡於英國的 AI 晶片新創公司是由兩位年過半百 ,過去曾有創立半導體公司 Icera 並將其出售給 Nvidia 經驗的創辦人 Nigel Toon 和 Simon Knowles ,在 2016 年所創立。最新一輪的 E 輪融資,募得 2.22 億美元,市值 27.7 億美元,是目前西方半導體界唯一的「獨角獸」。

用一句話來總結為什麼需要 IPU,可以這樣說:如果 CPU 和 GPU 是 AI 技術的「適應者」,那 IPU(Intelligence Processing Unit)就是針對 AI 而生的技術!

的確,現在有越來越多的 AI 技術是在 CPU、GPU 之後才出現,但只有 IPU 是為了實現 AI 的技術而設計,速度更快、更完整呈現演算法。

至於 GPU 跟 IPU 實際上的差別,Graphcore 接受 EE Times 專訪 時提及:「… 如果是用來執行分類靜態影像的前饋卷積神經網路(feed-forward convolutional neural networks), GPU 的表現已經相當好,但 IPU 可以提供兩到三倍的性能優勢、有時甚至是五倍。

若是更複雜的模型,像是嘗試理解情境對話的模型,由於資料需來回快速傳遞,但是因為所有的模型都保存在我們的處理器中,IPU 可以比 GPU 快很多,甚至可能快十倍、二十倍或者五十倍。」

帶起「第三次運算架構革命」的 Graphcore 是什麼樣的公司?

圖片來源:Graphcore

至於為何 Graphcore 決定專攻 AI 運算?主要和早期投資人,也是 Arm 的聯合創辦人、英國半導體之父  Hermann Hauser 有關。

他曾分享 AI 運算將帶來電腦運算架構歷史上的「第三次革命」,第一次是 70 年代的 CPU,第二次是 90 年代的 GPU,然而現在隨著 AI、機器學習的技術逐漸進步,卻因為硬體受限而阻礙發展,應該針對此一技術發展相應的處理器。

 Graphcore 的 IPU 厲害在哪?

根據 Money DJ 的 報導 ,微軟研究員 Sujeeth Bharadwaj 曾指出,用高階 GPU 訓練 AI 模型判讀胸部 X 光片的肺炎病徵得花 5 小時,不過 Azure 內建 Graphcore 晶片後,只要 30 分鐘就大功告成。

歐洲搜尋引擎商 Qwant 也說,圖片搜尋應用程式的速度提高 3.5 倍。避險基金 Carmot Capital 更說,部分金融程式的速度加快 26 倍。

今年七月,Graphcore 更推出新一代 IPU 機器 M2000,搭載其第二代旗艦晶片 GC200,並聲稱這款「披薩盒」大小的機器,能實現每秒千萬億次處理能力的 AI 計算機。

小知識:Graphcore 的 AI 應用程式智慧處理單元也是採用台積電 3 奈米生產第三代晶片!

這家 IPU 獨角獸會成為 Nvidia 的勁敵嗎?

在創立初期以「軟體」開發為主流的大環境下,許多投資者曾懷疑 Graphcore 專攻 AI 晶片的「硬體」有搞頭嗎?但不久後 Intel 便以 3.5 億美元收購了一家名為 Nervana 的 AI 軟硬體新創公司;同年,Google 也宣布建造自己的 AI 晶片,兩大科技巨頭的動向證實了 Graphcore 的創辦理念。

在 2016 年展開 A 輪融資即獲得 Bosch、Dell 和 Samsung 的投資,到 2018 年進行 D 輪融資,更獲得微軟和 BMW 支持,一舉成為估值 17 億美元西方半導體產業界唯一的「獨角獸」。

在 2019 年時,Graphcore 正式推出 IPU 產品,目前包括 Microsoft 、Dell、Uber 自駕車計畫,以及 Google DeepMind 等多組團隊都採用其 IPU 晶片。

據英國《每日電訊報》(The Telegraph)報導 Graphcore 在 2020 年 12 月底完成 E 輪募資後,最快可能會在 2022 年進行 IPO,相信這支獨角獸會是 Intel 與 Nvidia 未來在 AI 應用發展上強力的對手!

想知道專攻 GPU 的 Nvidia 在 AI 運算上會推出什麼樣的新技術迎戰強敵 IPU 嗎?立即 報名 1/13(三)Nvidia 線上 Webinar 搶先了解智慧製造的高效虛擬工作法!

參考資料: GraphcoreTech CrunchFinancial TimesWiredEE Times科技新報Money DJ

(本文提供合作夥伴轉載。)

你可能會有興趣

♦ 【要成為世界第一,就要搶下蘋果和英特爾的訂單!】南韓三星來勢洶洶,台灣半導體產業該如何應對?
♦ 【Intel 找新 CEO 來得及嗎?】微軟跟上蘋果,也要自己設計 ARM 晶片!大家都在跟英特爾說再見
♦  外商艾司摩爾、英特格、休斯微搶來台投資!台灣半導體供應鏈持續壯大


《TO》深度專題! 

《TO》新專題持續上線! 台灣有沒有機會搭上電動車開發熱潮,打造意想不到的創新服務?訂閱電子報 獲取最新深度報導。

點關鍵字看更多相關文章: