圖片來源:Graphcore

正當 NVIDIA 仗著 GPU 的優勢在人工智慧市場中馳騁時,這片新興領域的競爭者也日漸茁壯,等著搶分食 AI 晶片產業這塊大餅。

總部位於英國布里斯托的新創公司 Graphcore 就是萬眾矚目的 AI 晶片獨角獸。成立於 2016 年的 Graphcore,專為 AI 運算開發全新的 IPU 技術,投資者包括微軟、三星和戴爾(Dell)等重量級公司,估值約為 27.7 億美元。Graphcore 主推的「智慧處理單元」(Intelligence Processing Unit,IPU)在業界被稱為繼 CPU、GPU 以外的第三類 AI 晶片。

Graphcore 當年找不到人投資,如今已成西方 AI 半導體獨角獸

儘管有這般好成績,創辦人在公司成立初期還曾經一度找不到人投資,如今他們已成為 IPU 產業第一把交椅。更被外界譽為 AI 獨角獸,市場更研判 Graphcore 將來會是 NVIDIA 相當有威脅性的勁敵。

回憶起 2015 年尋求融資時, Simon Knowles 表示:「當時風投會問我們,『什麼是人工智慧?』不過一到了 2016 年,這情況就完全轉變了,幾乎每家公司都在玩 AI。」

Knowles 說,2016 年因為 Google 設計了自家的 TPU (Tensor Processing Units)張量處理器,讓投資人意識到,AI 智慧晶片市場有其潛力在,因此屢獲投資人注資。

AI 與機器學習又有哪些突破性發展?2021 AWS 台灣雲端大會不只用 AI 破解常見商業問題,更有創新技法大公開!

Graphcore IPU 晶片哪裡厲害?

傳統上,AI 運算多由 GPU 支援,但是 GPU 礙於其架構,運算能力有所限制。而 Graphcore 研發專門的 AI 晶片,一組晶片有兩個IPU,是專為機器學習所設計的處理器,IPU 性能比 GPU 更好,價格高達 1 萬美元。

EE Times 就指出,IPU 其中一個特點就是它能在裸晶內堆相當多的快取(cache)資源,這快取的容量遠大於一般的 GPU 和 AI 晶片。這樣一來,就避免了頻繁的訪問外部儲存資源這類操作,大幅度提升頻寬、降低延遲和功耗, 在特定情境下甚至可能會有近 50 倍的增幅。

微軟研究員 Sujeeth Bharadwaj 指出,用高階 GPU 訓練 AI 模型判讀胸部 X  光片的肺炎病徵,得花五個小時。不過微軟Azure 內建Graphcore 晶片後,只要 30 分鐘就大功告成。

Graphcore IPU M2000,圖片來源:Graphcore

Graphcore 更表示,旗下 IPU 產品 M2000 使用 ResNet-50 訓練模型時,每秒可處理 4,326 張圖片,效能比 NVIDIA 的 GPU A100 高 2.6 倍,使用 ResNet-50 推論(inference)處理量為每秒 9,856 張圖片,是 NVIDIA A100 的 4.6 倍。

搶在蘋果之前,Graphcore 成為第一個台積電 3 奈米客戶

不僅如此,Graphcore 還是第一個和台積電談妥 3 奈米長期合作的晶片廠,搶英特爾、蘋果之前。

據 Graphcore 官方說法,雙方緊密合作已延伸至 3 奈米,該公司身為台積電技術創新合作夥伴之一,將持續探索包括 3 奈米在內的新工藝節點和技術的優勢,從而繼續提供更多的性能改進,確保該公司客戶能夠在人工智慧應用方面取得新的突破。

目前已知,微軟資料中心使用 Graphcore 晶片,代表微軟 Azure 雲端服務用戶,也可用 Graphcore 產品執行程式。而且戴爾的新伺服器也開始採用 Graphcore 晶片。

Graphcore 聯合創辦人兼執行長 Nigel Toon 表示,晶片出貨量已經數萬組,用於上百家機構。未來 Graphcore 將繼續朝著公開上市的目標前進。

延伸閱讀

什麼是「IPU」?從西方半導體界唯一的獨角獸 Graphcore 開始講起吧!
【市場大黑馬】股價強漲 80%!為何 NVIDIA 能擠進美國市值前 10 大企業?
【半導體世紀收購案卡關】英國有意阻止 NVIDIA 收購 ARM 的原因是什麼?

資料來源:MoorInsightEE TimesGraphcore Blog