【我們為什麼編譯這篇文章】模型從訓練到真正部署,常常需要耗費大量的時間,如果能一站式地加速這個操作流程,企業進行決策的效率將因此變快,而 ModelOps 就是這樣的方法!一起來看看 ModelOps 究竟是什麼?(責任編輯:賴佩萱)

在人工智慧的時代,將所有東西東透過 AI 整合在一起成為了新興的概念,當大家都在講究將企業運作交由 AI 處理與開發的時候,如果你還不知道 ModelOps (Model operations)可以帶來的好處,那你可能就落伍了。

AI 模型開發不易,但有了 ModelOps,流程變快了

模型的開發需要長時間的建立,需透過跨部門合作、數據模型優化、分析等因素,影響了整體開發的時程,根據《Gartner》一項 2018 年的調查,詢問企業一年之內預期會有多少 AI 計畫得到部署,調查指出這項預估值約有 23%,但 2019 年後繼續追蹤這些計畫的狀況,最終只有 5% 的計畫真正被部署。

許多企業積極開發 AI 計畫,卻只著重在機器學習與資料科學的能力,卻缺乏透過整合性的工作流程來達到規模化、量產化的部署,其中,ModelOps 即是一個提供模型建立的整合機制的其中一種解方

ModelOps 是一種借鑒了 DevOps 的理念與方法論,但不同於 DevOps 是著重在軟體開發的流程的整合,ModelOps 是一套讓 AI 計畫的生命週期透過加入數據科學及輔助工具,來幫助流暢化模型開發流程,並透過蒐集到的數據不斷驗證、監控,讓流程可以不斷被重複訓練,達到生產優化的效果。ModelOps 可被視為一個可循環、可重複的管理系統,可以幫助數據模型開發到部署之間的協同整合。

ModelOps 透過協調數據科學家、工程師、應用、設備等開發者之間的運作,適當地在其中切換與執行,讓模型的開發達到所謂「最後一英里」,藉由工作流程自動化、計算資源管理與監測,讓模型開發不僅是簡單的操作,而是可以快速、大規模的解決開發會遇到的關鍵問題,一步步幫助將辛苦開發出來的模型容易管理,並達到去蕪存菁的最佳方式。

加速分析、管理,ModelOps 節省企業研發到部署的成本

雖然 ModelOps 聽起來僅是模型管理中變出的一種概念,但透過加速分析週期、管理,並透過系統優化快速比較、部署優良模型,還能監控、分析模型的性能,即時採取措施確保模型運作順暢。這些可以幫助企業最大化預測分析的能力,甚至加速開發了更多種量身定制的模型,並大幅節省企業從研發到部署上市的成本與時間

例如,一間大型的保險公司透過將端到端的保單來調整模型,利用 AI 與機器學習的功能並導入 ModelOps 應用,藉由不斷投入不同的單一保單的數據來強化重複訓練,最後成功用 ModelOps 得到總體保單決策模型的部署。

在醫療照護領域也可看到 ModelOps 的應用,藉由即時監控糖尿病患者的血糖水平數據,來預測低血糖情形的發生的可能,透過不斷更新即時數據,並且藉由多設備共享資訊,甚至可直接導入到醫療系統報告中,再進行不斷的重複訓練、監控及刷新來確保數據的運行與精準。

簡單來說,導入 ModelOps 可以帶來的幫助有兩個,一是確保了模型管理的可靠性,另一個是確保能將模型用於對企業/使用者最有幫助的地方。可能過去你會認為像「開設一個沒有收銀員的商店」的想法聽起來很滑稽,但是現在這種透過 AI 部署建立流暢化模型的方式已經成為一個趨勢,這需要的模型概念不亞於無人機送貨的部署,採用 ModelOps 可以使用不斷連續更新的預測模型,並透過大量的即時數據同步部署、訓練並優化來幫助達成。

參考資料

OSCHINA》、《insideBIGDATA》、《維基百科》、《TechTarget》、《Forbes

(本文提供合作夥伴轉載;首圖來源:Photo by Tim van der Kuip on Unsplash 。)

你可能會有興趣