executive holding a tablet

【TechOrange 編輯部導讀】

許多企業積極開發 AI 計畫,卻只著重在機器學習與資料科學的能力,缺乏透過整合性的工作流程來達到規模化、量產化的部署,而 ModelOps 即是一個提供模型建立整合機制的一種解方。來看 ModelOps 如何幫助企業高層追蹤、優化 AI 部署的投資報酬率,進而實現 AI 等新興科技承諾的龐大效益。

資料科學與進階數據分析,在科技業界早已稱不上新鮮事,過去的企業慣例中,往往將資料科學應用,視為個別模型的獨立創建與部署,然而當我們後退一步綜觀全局,不難發現隨著企業組織迎向 AI 浪潮,可持續且可信賴的整合性支援,對企業 AI 成功部署而言至關重要,因為預測模型開發本身,僅僅是必要卻微小的一片拼圖

結合模型(model)與營運(operation)的 ModelOps 概念,就是要幫助企業藉由整合體制式的工作流程,來達到規模化、量產化的模型建立與開發

TO 延伸閱讀:MoBagel 助攻企業享受 AI 帶來的果實!為何台灣中小企業更需要 No-Code AI 工具?

實踐有價值的 AI 模型部署

根據全球 IT 研究與顧問諮詢業界權威 Gartner 的定義,ModelOps 指的是在資料科學專案中,為了自動化各種常規性運作,而進行的一系列商業實踐,其範圍涵蓋模型訓練管線(pipeline)、版本控制、數據管理、實驗監控、測試與資料散佈,主要目的是要讓一切預測性分析、機器學習,以及 AI 模型變得可營運(operational)

此流程涉及常見的 AI 模型 (機器學習、時間序列模型、統計模型等)、資料品質等相關議題,不只軟體工程本身,ModelOps 也追求提升模型從第一步到最後一步的開發效率,使得模型上線更加快速、頻繁,並同時確保模型的預測表現

從組織層面來看,我們可以把 ModelOps 視為一套幫助預測性分析、機器學習工作流程,在企業中真正「落地實踐」的系統化工具;不只是提供數據洞察,而是能直接影響與優化日常營運

TO 延伸閱讀:企業如何成為 AI 高績效資優生?研究:關鍵在「雲端佈局」—2022 雲端 AI 應用大調查正式啟動

AI 並非萬靈丹,部署環節有重重挑戰

企業投資數位轉型後,從概念驗證走向專案執行,究竟會耗費多少心力?Gartner 預測到了 2023 年,全球至少會有 50% 的 IT 部門領導,即將面臨由理論走向生產的 AI 應用挑戰

美國市場研究公司 Forrester 也曾經斷言:倘若沒有導入 ModelOps,一間公司的 AI 轉型註定失敗。

這是因為過往許多組織導入 AI 前,還來不及制定一套系統化流程,導致從情境確認、資料分析到每一次模型部署上線,企業內部都得花費大量的時間溝通;模型好不容易上線後,又可能因生產線等情境需求改變,或者資料量體日增,而使原模型變得不敷使用,需要費心重新訓練,長期下來就容易拖累公司成長。

隨著企業數位轉型腳步加快、 AI 導入規模擴大,如何避免上述的資源浪費,成為日益迫切的組織挑戰。而藉由 ModelOps 這套流程工具,就能協助組織更有效率地進行模型監控與管理

TO 延伸閱讀:產業界很急!微軟全球助理法務長施立成:每個部會都應有數位發展政策

企業 AI 轉型利器,簡化部署維運

為何 ModelOps 對企業數位轉型成功如此重要?《Forbes》雜誌認為,比起傳統軟體,AI 或 ML 模型必須對組織面負起更大的責任:這些模型得通過各項管制審查,確保法規合規性;一個運作良好的模型就有能力為整個部門,帶來由上而下的根本性轉變。也就是說,模型開發不只是技術部門的事,與事業部、法務部之間的整合勢在必行。

企業若想透過導入 AI 取得競爭優勢,就必須將 ModelOps 定位於 AI 部署策略的核心,用以幫助整合不同的 AI 技術產出物(artifact)、平台、解決方案,同時達到擴張、監控、管理等企業目標。

TO 延伸閱讀:中小企業營運的前瞻思維!在紛擾變動的經濟情勢下,企業藍圖如何再創造新價值?

ModelOps 的未來市場趨勢

市場情報和諮詢智庫 Corinium Global Intelligence 近期針對 AI 部署執行者發表了一項調查,主要目的是為了探討 ModelOps 的現況、應用挑戰,以及未來市場趨勢,以下摘錄 4 項重點數據:

  • 86% 的受訪者表示,內部管理階層曾經質疑公司投資 AI,究竟收益如何?但只有 38% 有辦法提供答案
  • 針對內部所有運行中模型,僅有  5% 的調查對象表示擁有完整的檢視權限。
  • 所有受訪對象都表示組織已為 ModelOps 撥出一筆獨立預算──在 2021 年此數據只有 51%
  • 高達八成的受訪對象表示,組織正面臨缺乏專業技能的人才挑戰──去年此數據只有 10%

由報告數據可推知,數位轉型浪潮中的企業,多數都已經準備好導入 ModelOps,其中一項主因就是 ModelOps 可幫助企業高層追蹤、優化 AI 部署的投資報酬率,例如在模型瀕臨不合規風險時,就能及時介入並處理,避免成為企業累贅;也能制定更明智的投資決策,進而實現 AI 等新興科技承諾的龐大效益。(責任編輯:游絨絨)

TO 延伸閱讀:TensorFlow 後 Google 再推 JAX!深度學習霸主即將換人做?

(本文開放合作夥伴轉載,參考資料:CodeX on MediumTechOrangeForbes,首圖來源:Pixabay