模型部署 是什麼?
Model Deployment — 模型部署 的完整解釋
模型部署是指將訓練完成的機器學習模型整合到實際應用環境中,使其能夠接收輸入數據並產生預測結果,為業務決策提供支援。
容易混淆
模型部署 vs 模型服務化
模型部署:把模型放進可運作的環境。 模型服務化:把模型包成能被請求呼叫的服務。 最關鍵的區別:前者是上線動作,後者是對外提供能力。
模型部署 vs 模型登錄庫
模型部署:負責把模型送進目標環境。 模型登錄庫:負責管理模型版本和狀態。 最關鍵的區別:前者管上線,後者管倉庫。
記住這句就好
把模型送上線,讓它真的開始做事。
實際案例
詐欺偵測上線
銀行把新模型部署到交易流程裡,讓每筆刷卡都能即時判斷風險。
客服分類系統
模型部署後,客服平台可以在使用者送出訊息的瞬間就完成意圖分類。
算法與應用
部署時要管版本、資源、延遲、可用性和回滾。 常見型態有 batch、online 和 edge deployment。 真正困難的地方通常不是把檔案放上去,而是把整個系統穩定接起來。
情境判斷
Q1(情境題): 如果模型已經訓練好,但還沒接到任何 API,算部署完成嗎?
→ 不算。還沒進入可被系統穩定呼叫的狀態,就還不能說完成部署。
Q2(情境題): 如果部署後表現突然變差,應該先做什麼?
→ 先看資料分布、版本和監控,再決定是回滾還是重新調整。
模型部署 在 iPAS 考試中的重點
根據歷年統計,模型部署 相關題目 平均佔 AI 技術類考題 5%, 屬於中頻考範圍。
常見出題方向:鑑別式 AI 與生成式 AI 的基本原理(40%)、模型部署與效能管理(35%)、技術測試與驗證方法(25%)。
相關術語
常見問題
模型部署跟上傳檔案是一樣的嗎?
不一樣。部署還包含服務配置、權限、監控和運行環境。
一定要即時 API 才算部署嗎?
不一定,批次部署、離線推論和邊緣部署也都算。
為什麼部署後還要監控?
因為資料會變、流量會變、模型表現也會變。
資料來源
- iPAS AI 應用規劃師評鑑內容範圍參考(115.02) — 經濟部產業人才能力鑑定