台灣企業從未想過的 AI 入門檻: IT 基礎架構平台才是加速運算的關鍵!

一般在探討企業的 AI 應用時,大多圍繞在兩大主題:「軟體」如演算法或「數據」的收集和分析。例如 AI 若要協助醫生判斷超音波或 X 光片、就要先累積足夠的病歷圖像;另外還要有稱職的演算法,讓人工智慧得以準確分辨皮膚上的黑斑是無害或有惡性徵兆。

確實,「軟體」及「數據」是具備 AI 能力的關鍵,不過同樣重要但更容易被企業或組織忽略的是:「硬體」的建置。唯有硬體、軟體、數據,三者的妥善結合,企業在導入 AI 並利用 AI 來達成數位轉型時,才能夠縮短學習曲線,避免不必要的重複投資。

AI 占系統工作量大,IT 基礎架構至關重要

研究機構 IDC 最新調查,AI 技術正在起飛,兩年之內,全球企業的 IT 系統負載量,將有 25%被 AI 取代;而其中的五到六成,又會被「深度學習」所佔據。換言之,無論是廣義的人工智慧運算,或者是人工智慧中的「深度學習」技術,都將佔去不少 IT 資源。為了運作順暢,就需要適當的硬體,例如專用及高效能的伺服器基礎架構。

只是一旦捲起袖子進了 AI 應用這個廚房,硬體的投資究竟有多大?這是企業最關切的問題之一。畢竟 AI 的技術演進太過快速,可能今年才建置硬體,明年就面臨跑不動的「撞牆期」。根據 IDC 調查發現,45% 中小企業及 35% 大型企業認為,自家的 AI 基礎架構只能再撐一年,而有 15% 企業表示,已經面臨撞牆期。

如果未來必須不斷增建或升級系統,企業就要評估投入成本及回收效益,將成本控制在一定範圍內,以免被不當的投資決定所綁架。舉例來說,涉及運算能力的「處理器」,例如 GPU、FPGA、多核心處理器等等,不斷有新一代的方案,汰換的速度之快,往往令使用者追不上腳步。

除了處理器之外,導入 AI 應用還會在 IT 基礎架構上面臨幾個常見的問題,包括:橫向擴充與縱向擴充的轉換、VM(虛擬伺服器)與專用伺服器的相互轉換、 I/O 頻寬必須提高。。。等等。這種種專業的技術問題,往往讓企業或組織躊躇不前,或因搞不懂而乾脆放棄,或者投入後耗費太大資源卻未見成效,元氣大傷。

AI 來勢洶洶,您準備好了嗎?
5 / 25,IBM 科技論壇,邀您一同破解趨勢、掌握未來!
報名請進 >> https://techorange.kktix.cc/events/0525ibm

網路龍頭 Google 從英特爾 X86 轉向 IBM Power 9 架構

挾著 Power 8 世代協助企業轉型的成功經驗,IBM 在去年 12 月發表最新 Power 9 晶片,不止獲得網路龍頭 Google 採用,美國能源部的兩部超級電腦 Summit 及 Sierra 也已導入。根據 Power 9 晶片發展出來的 AC922 Power Systems 伺服器,則建置在 Google 的最新資料中心裡。IBM 指出,與 x86 架構相比,Power 9 架構的資料遷移速度快 9.5 倍,深度學習的訓練時間則縮短近 4 倍;同時 Power 9 可全面支援 NVIDIA NVLink、PCI-Express 4.0 以及 Open CAPI 高速傳輸介面。

IBM 表示,Power 9 處理器及伺服器,是專為 AI 所設計,歷時四年研發,能充分勝任人工智慧產生的大量數據和運算。例如可支援記憶體容量是 x86 的 2.6 倍、高效核心數量是 x86 的 2 倍、涉及資料傳輸速度的 I/O 最大頻寬則為 9.5 倍。

為了因應 AI 運算、機器學習、數據分析等趨勢,包括 Google、AMD、美光、輝達、Dell EMC、IBM 等九大業者在 2016 年組成 OpenCAPI 聯盟,攜手開發 AI 時代的資料中心伺服器架構。而去年底甫推出的 Power System AC922, 就是首個符合 OpenCAPI 架構的伺服器。

Power 9 專為 AI 打造

IBM 9 處理器及新一代伺服器,在擴充性、傳輸速度、記憶體、處理器各方面都有新的進展。首先它允許的橫向擴充,不止可進行雲端環境的部署,另也內建 Power VM 虛擬伺服器的功能;因此當組織擴大、需求增加、或者新技術問市時,都能快速因應。另外,因採用最新 I/O 技術,能以每秒 25GB 的速度進行 CAPI 與 Open CAPI 資料交換。在記憶體方面,雙插槽系統最大可提供 4TB 容量,比 x86 Xeon 系統多出三成以上,更能滿足 AI 的工作需求。

Power 9 的單位核心效能與前一代 Power 8 相比,為 1.25-1.5 倍;IBM 表示,這不僅代表運算力提升,且客戶也能在「按核心授權」的軟體收費模式下,減少支出。

深度學習平台,七小時武功就學成

除了 AI 專用的 Power 9 晶片及伺服器,IBM 也配合上述硬體,打造了深度學習的軟體平台:IBM Spectrum Conductor DLI(Deep Learning Impact),目標是透過軟硬結合,降低人工智慧的門檻,並提高神經網絡模型的開發效率。以往系統的深度學習過程,必須歷時三個月,IBM Spectrum Conductor DLI 因支援「分散式深度學習 (DDL)」,已可縮短至七小時就能完成。

為了讓企業更易導入,IBM Spectrum Conductor DLI 這項深度學習工具,設計了七個簡單步驟來訓練深度學習所需的神經網路模型。從第一個步驟「選擇框架」(在 Caffe 或 TensorFlow 兩大框架中擇一採用),到建立資料模型、建立訓練模型、訓練模型如何工作(可利用「自動超級參數建議」,不必仰賴資料科學家、就能提高模型的準確度)、到最後的模型驗證、上線、開始 AI 應用。深度學習的流程因此化繁為簡,開發及運算時間也大幅縮短,並且提供完整的生命週期管理。

─ ─

這些文章你或許也會感興趣

3 個工作天完成整月結帳作業,IBM 怎樣改造財務流程的?
台灣起飛?《富比世》專文分析為什麼微軟、Google、IBM 相繼來台大舉投資
IBM 解密:打造台灣零售業的「體驗革命」,跨平台整合功力怎麼練?


CONNECT With AI ,年度最強人工智慧論壇

2 天論壇接力、9 大關鍵產業、20+ 國際級趨勢講座、還有 AI 實境體驗攤位
7/6(五)、7/7(六), 三創數位生活園區 12 樓

盲鳥票 10 天完售!沒搶到票的別怕,你還有早鳥票
立即購票

點關鍵字看更多相關文章: