元宇宙(Metaverse)是近月來科技產業的熱門議題,不論元宇宙這個夢想是否會成真,但有一點可以肯定的是,元宇宙背後所代表的「數位場景創新」已是必然的發展趨勢,未來數位場景的變化只會越來越快且趨向多元,企業必須在各種創新場景中,提供快速且細緻的個人化智能服務,才能穩住競爭優勢。

連八年獲評 Gartner 資料科學與機器學習平台領導者的 SAS,其台灣業務顧問部副總經理陳新銓認為,站在「數位場景創新」的角度來看,會建議企業開始改變 IT 架構,以「智能服務中台」去連接前端多變的場景與後端大量湧入的資料,對資料進行自動化地整理、探勘、建模、分析、再將分析結果回饋到前端應用程式或使用者身上。

而一個理想的智能服務中台應該包含兩個部份:「數據中台」與「智慧中台」,中台涵蓋自動化機器學習、AI模型生命週期管理及即時決策等功能,如此才能跟上場景變化的腳步,快速在場景中提供個人化智能服務。

注入 DataOps 精神,數據中台確保資料的品質、可靠度

先就數據中台來看,其實就是以DataOps概念進行資料的整理、清理及治理,這是企業在打造智能服務中台的起點。

「因為資料是人工智慧和分析的命脈,如果缺乏有效管理,就會威脅到企業的創新與進步,」陳新銓說明,所謂有效管理就是在取得資料後,以自動化及流程化的方式進行資料清理與治理,不只是確保資料的品質和可信度,還能縮短資料交付的時間,快速提供可靠的資料供決策分析使用,例如:製作報表、模型分析、決策參考,並終結資料孤島困境。

與傳統資料倉儲形式相比,數據中台在資料清理的速度和種類上,更貼近企業現今的使用需求。資料倉儲一般存放結構化資料且批次進行資料清理,分析人員可能要隔一個晚上才能看到清理完的資料,但數據中台能進行批次和即時資料的處理,可以更快速更即時看到清理完的資料,將內部所有資料進行統一的管理和治理,讓資料管家能用更全面的角度去制定使用規則、介接方式、資安等級等資料政策。

陳新銓進一步指出,企業在評估數據中台時,有以下三大重點:

第一、 能否讓使用者自助服務?

數據中台應結合機器學習或人工智慧技術去解析元數據(metadata),並建議資料清理的方式,讓使用者能夠以系統自動配置或拖拉點選的方式,完成資料清理工作,減少寫程式的作業負擔,把資料處理任務交還到使用者手中,而非反覆的對 IT 提出需求,耗盡 IT 洪荒之力。

第二、 是否具備使用者協作機制?

整備完的資料應該要能供企業內部其他個人或部門共同使用,才能避免重工,並加快進入後續資料運用流程。

第三、 是否支援雲端架構?

隨著數據量快速成長,雲端具備了可以快速且彈性調度硬體資源的特性,才能在晶片荒的時代,快速滿足企業在分析上的需求。

智慧中台實現 AI 賦能,助企業加速決策腳步

再就智慧中台來看,主要由「自動化機器學習與模型管理」+「即時決策」兩部份所組成,因為 AI 模型勢必要能快速上線及部署,才可以協助業務單位做出精準決策,否則就只會是實驗室的測試,無法發揮模型價值,因此 AI 與決策兩者缺一不可。

近期各界對於AI運算與管理的關鍵技術要求,即在於「自動化機器學習 AutoML」,透過系統自動進行特徵工程、演算法選擇到訓練模型、並自動比較選出最佳模型。除此之外,也會自動解釋模型讓資料科學家能清楚了解每個模型的評比,也提供介面讓資料科學家在 AutoML 建模流程中進行調整,打破黑盒子的迷思。陳新銓表示,與傳統資料科學家自行建模的方式相比,AutoML 對企業的幫助有二點優勢,第一、提高建模效率:從特徵工程到最佳化模型,都可以在智慧中台上自動完成,大幅節省人工作業的時間。以模型的參數調整為例,透過智慧中台 SAS 曾經協助客戶最佳化AI模型參數,從過往以人工作業至少需要 2 個月的時間縮減到只要 15 分鐘,等於節省了 95% 以上的模型訓練時間。

第二、在內部培養平民資料科學家

目前多數企業都是將資料科學家獨立成一個單位,集中處理業務端的資料分析需求,然而隨著需求越來越多,超出 AI 團隊可承受的工作負擔後,資料科學家就會優先從規模較大、或較受重視的需求開始,而業務上很多的優化或改變偏偏都是在小地方。因此,這種由資料科學家建模的作法,可能會讓企業失去很多改變機會,如果能朝資料科學平民化發展,將繁雜的建模工作交給智慧中台,使用者只要準備好資料,AutoML就會直接產出最佳模型,不只加快模型迭代速度,還能帶來更多創新服務。

自動產出模型後,智慧中台還肩負運行 ModelOps 流程,在模型的生命週期內進行有效管理,並以此為基礎結合業務規則去建立即時決策能力。陳新銓強調, ModelOps 流程的特點有三個:

第一、模型的儲存管理

即針對模型檔案、屬性、變數、版本等 Model Metadata 的管理,集中管理資料科學家產生出來的模型,才能將模型化為企業的資產。

第二、模型效能的監控管理

亦即監控模型運行的效能,當模型效度衰退時,如:誤判件數大於多少、準確度小於多少等,可以自動觸發重新訓練,或發出警訊通知資料科學家,確保模型可以維持最佳效能。

第三、模型部署的流程管理

在在實務運作上,通常是由分析部門產出模型、IT 人員部署模型,因此模型部署流程需要跨部門合作,而透過 ModelOps 將部署流程自動化,且集中留存每個部門的簽核軌跡,不只方便追蹤進度,亦能縮短從模型產出到部署上線的時間差。

延續第三點模型部署議題,陳新銓另外提出自動產出 API、自動部署的重要性。目前企業在開發前端應用程式時,大多使用 Java 語言,而以 Python 等程式語言,AI 模型,很難直接套入 Java 程式中,這也導致 IT 人員必須重新寫程式並進行來回驗證測試,倘若測試結果與原本模型產出的結果不同,還得回頭與資料科學家討論原因,耗時又費力。

「因此,理想的智慧中台還要具備自動部署功能,使用者一鍵點擊就能產出 API,提供給前端的應用系統直接呼叫,才能確保模型部署的效率與正確性,」陳新銓說。

即時串聯資料,為各產業帶來元宇宙般的創新服務體驗

目前許多產業包括金融、保險、製造業都在嘗試運用智能服務中台的力量,縮短決策過程以即時回應創新場景下的客戶需求。

以金融業為例,因應開放金融的趨勢,企業需要根據客戶本身的財務狀況、風險及需求,快速在場景中提供金融服務。像國內即有銀行以智慧平台為基礎推出信用卡臨時調額服務,當優質客戶刷卡超出額度時,決策系統即時判斷應主動推播簡訊詢問是否需要臨時調額,後續成功帶動刷卡金額的成長。又如某保險業者創新旅平險的商品設計,客戶只要選擇旅遊地區或路線,該保險業者就能即時依據客戶的旅遊規劃、購買需求、過往紀錄、風險等級等資訊,推薦適合的保險商品。

再看製造業,美國汽車大廠 Kia Motors 的客戶體驗創新。過往僅針對零件故障維修料件管理,來提供維修服務。但後續導入 SAS 數據中台後,即可新增資料源利用自然語言處理(NLP),使模型自動對維修顧問滿意度中的投訴類型進行分類和提取,結合不同年份製造的車輛故障資訊,進一步於智慧中台進行建模與業務決策,協助車廠師傅把汽車故障問題查找時間由原本的數天縮短到 30 分鐘,不只優化客戶的維修體驗,還能分享給經銷商及內部研發團隊,並作為日後產品設計和製造的參考。

從上述多樣化的應用可看出,在滿足顧客需求的背後,需要一個整合資料處理、AI應用到業務決策的中台,才能快速因應前端場景的變化,提供適切的支持。而智能服務中台不只整合資料、AI 及決策,更包含治理與 Ops 的精神,讓企業在應用時,無論是分階段導入或是與既有流程整合,皆能無縫接軌。陳新銓也提醒佈局中台時,可進一步考量是否能支援雲原生架構,讓企業在注入智能化 DNA 的同時,也能接軌穩定且敏捷彈性的架構,才可更有效益地運用資料實現協助營運、支持業務、創造商機的三階段進程。

(本文與 SAS 合作,提供合作夥伴轉載)