【COMPUTEX 2021】美光重磅演講:AI 創新的核心,在記憶體與運算架構!

2021 Computex 美光

從雲端到邊緣裝置,快速興起的 AI 應用為我們形塑了未來智慧世代的樣貌。然而,隨著 AI 模型與數據量的指數成長,現有的運算基礎架構足以支援此願景的實現嗎?

在 2021 年台北國際電腦展 Computex 展會中,美光資深副總裁暨運算與網路事業部總經理 Raj Hazra 以「 記憶體是 AI 創新的核心 」)為題發表演講,針對推動 AI 普及應用面臨的挑戰,以及記憶體與儲存技術創新所扮演的重要角色做了詳盡說明。

AI 持續發展的重要關鍵:擴增運算規模

Hazra 表示,據統計,到 2025 年,全球 90% 的企業應用程式都將內建 AI 功能。未來,AI 將不僅是用來訓練和預測,而是更廣泛地擴展到產品開發、技術服務、製造,甚至人才招募、供應鏈管理等各個層面,成為企業運作的命脈。

美光
美光資深副總裁暨運算與網路事業部總經理 Raj Hazra 發表演說,強調 AI 時代運算效能與儲存應該被企業列為拓展的重點項目。

「面對 AI 的快速成長與驚人潛力,現在,我們應該考慮的是,要如何推動 AI 的持續發展,而這也正是我們所面臨的挑戰。」

他以常用的 GPT-3 自然語言處理模型為例,在短短兩年內,其模型參數便從 1750 億個劇增至 1.6 兆個。因此,當業界致力於使 AI 更準確、有效與普及的同時,也帶來了更高的運算性能挑戰,使得運算基礎架構必須隨著 AI 成長的腳步持續擴展。

「我們討論了許多關於運算技術的創新,在短短幾年內,處理器效能也已從 tera、peta 成長到 exa 等級。雖然運算速度提升是必要的,但我們卻忽略了記憶體革新。若沒有結合運算與記憶體的共同創新,將難以滿足 AI 的複雜運算需求」,Hazra 指出。

2 種方法擴展 AI 的基礎運算架構

目前 AI 的擴展主要有兩種模式:垂直擴展(scaling up)或水平擴展(scaling out)。前者是指在單一節點或單一共享記憶體叢集。儘管我們在記憶體、儲存、頻寬、容量和運算性能方面取得了大幅進展,但仍會受到單一節點上實體、技術和成本的限制。

但若把垂直擴展的單一節點,再以水平擴展方式連結在一起,也就是業界積極推動的超大規模(hyperscale)運算,形成分散式架構,將能夠幾乎不受限制的支援各種規模的 AI 應用需求,實現 AI 無所不在的目標。

運算架構革新:新的記憶體層級

而從運算架構來看,過去業界是以 CPU 為中心,直接連結 DRAM,然後是硬碟以及現在的固態硬碟。「但此簡單方式,再也無法符合資料密集的 AI 工作負載,我們需要更先進的平台架構,考慮如何為這些工作負載打造所需的記憶體和儲存資源。」

Hazra 指出,在靠近 CPU 處,有所謂的近端記憶體(near memory),過去是指直接連接記憶體,如今已發展為封裝記憶體(in-package memory)的組合,這些包括了功能日益強大的 DDR4、DDR5 記憶體。

「雖然近端記憶體的容量越高越好,但就技術與經濟層面來看都充滿挑戰。因此,業界提出了支援 Compute Express Link(CXL)標準的遠端記憶體(far memory)。也就是說,在數據進入儲存元件之前,增加一個新的層級。透過導入新的記憶體層級,並使記憶體和儲存層級能無縫匯聚,可使數據傳送至運算單元的運作更有效率。」

「藉由集結分散式的記憶體、儲存與運算架構,系統將能夠依據實際工作負載,準確規劃記憶體和運算資源,進而運用高效能和無限規模,來解決日益龐大的 AI 應用。當我們從既有的平台朝此全組合式(composable)系統移轉時,新的運算典範將開啟嶄新的可能性。」

AI 基礎架構貢獻,美光的角色在哪裡?

最後,Hazra 總結說,我們樂見業界為推動 AI 普及所做的各種努力。在美光,我們已建立了涵蓋記憶體和高效能固態硬碟的完備產品組合,未來亦將推出支援 CXL 標準的記憶體。

美光將專注於技術研發、提升系統與軟體能力,以及與客戶、生態系統夥伴共同合作等多項策略,透過持續在記憶體和儲存技術投注創新能量,開發未來所需的解決方案,以推動未來 AI 應用的持續擴展。

(本文開放合作夥伴轉載。)


訂閱《TechOrange》每日電子報!

每天一早,需要來根知識能量棒? TechOrange 與你一起,吸收世界新知識、消化科技新局勢。點我訂閱電子報 ,取得最新深度報導。

點關鍵字看更多相關文章: