iPAS AI 應用規劃師 初級 科目二 生成式 AI 應用與規劃

TCO 分析為什麼不能只算 API 費用?

原題 24

某大型製造工廠導入生成式 AI 系統來優化能源消耗,每日需處理約 10 萬筆設備數據並生成能源優化建議。系統每月 API 調用成本約 15 萬元,內部維護人力成本 8 萬元,基礎設施成本 5 萬元。該工廠評估導入效益時,下列哪一項總體擁有成本(Total Cost of Ownership, TCO)分析最完整?

白話

某製造工廠導入生成式 AI 能源管理系統,每月已知成本有三項:API 調用費 15 萬、內部維護人力 8 萬、基礎設施 5 萬。工廠要評估導入效益,題目問的是哪一種 TCO(總體擁有成本)分析最完整。

問你:哪一種 TCO 分析方式,對這個案例來說最完整?

點選你的答案。

01 總結

一句話總結

TCO(總體擁有成本)分析必須同時涵蓋帳單上看得到的直接成本,以及訓練、系統整合、資安合規等隱藏成本,只算 API 費用或加總直接費用都不算完整。

02 情境

先感受問題:工廠導入 AI,老闆問花了多少錢?

假設你是「永盛製造」廠的數位化主任,剛完成一套生成式 AI 能源管理系統的導入評估。

老闆問:「這套系統一個月要多少錢?」你說:「API 費用 15 萬、人力 8 萬、機房 5 萬,共 28 萬。」

老闆批准了。三個月後,你發現:

原始設備數據格式各不相同,要把 10 萬筆數據整理成 AI 能讀的格式,外包工程師花了 60 萬;新系統收集大量設備數據,法務說要過 ISO 27001 資安認證,顧問費另計 30 萬;某個溫度感測器的數據分布跟訓練時不一樣,模型要重新微調,又花了 20 萬。

實際總成本是每月 28 萬加上一次性 110 萬,遠超原本估計。

這就是 TCO 沒做完整的代價:只算看得到的帳單,忽略了那些隱藏在專案裡的成本。

03 對照

只算直接成本,會漏掉哪些錢?

傳統 IT 採購評估常犯的 5 個算漏錯誤:

  1. 漏算模型訓練與微調成本:通用模型跑製造業特定設備數據常常效果差,要微調(fine-tuning)或重新訓練才能準確,這筆費用不在 API 帳單裡
  2. 漏算系統整合成本:工廠原有 ERP、SCADA 控制系統和新 AI 系統要接在一起,需要客製化開發,這是大筆一次性費用
  3. 漏算資安合規成本:製造業 AI 系統收集大量生產數據,需要通過資安稽核、合規認證,顧問費和認證費都要算
  4. 漏算變更管理成本:員工要接受訓練才知道怎麼用 AI 建議,訓練費、工時損失都是成本
  5. 漏算維運升級成本:API 供應商更新模型版本,舊的提示詞可能失效,重新調整也需要時間和金錢

這些加起來,往往比帳單上的直接成本還多。

04 解法

完整的 TCO 分析框架

完整的 TCO 分析要把成本分成兩層:

第一層:直接成本(帳單上看得到的)。包括 API 使用費、人力成本、硬體/雲端基礎設施費用。「永盛製造」的例子是 28 萬/月。這是 C 選項的範圍。

第二層:間接與隱藏成本(帳單上看不到的)。包括:

「訓練與調整」:模型微調費、提示工程調整費、資料標注費;「系統整合」:與現有系統介接的開發費、測試費、部署費;「資安合規」:資安稽核費、法遵認證費、隱私保護機制建置費;「人員培訓」:員工培訓費、工時損失;「維運升級」:版本遷移費、持續優化人力。

TCO 分析的目的是讓決策者看到「這套系統真正的全成本」,才能做出有根據的 ROI 評估。

這就是選項 D 講的:除直接成本外,並考量訓練、系統整合與資安合規等相關支出

技術版:TCO 在 AI 導入評估中的框架位置

TCO(Total Cost of Ownership,總體擁有成本)是一個從企業採購和 IT 管理領域沿用下來的評估框架,在 AI 導入評估中有特別的重要性。

為什麼 AI 的 TCO 比傳統軟體更複雜:傳統軟體買授權就好,主要費用是授權費加維護費。AI 系統有幾個特有的隱藏成本:模型訓練和調整(傳統軟體沒有這個概念)、資料準備(AI 需要高品質資料才能運作,清理資料是大成本)、不確定性風險(AI 輸出偶爾出錯,需要監控和補救機制)。

TCO 與 ROI 的關係:TCO 是算「花了多少」,ROI(Return on Investment,投資回報率)是算「賺了多少相對於花了多少」。要做出有意義的 ROI 評估,前提是 TCO 要估對。如果 TCO 算低了,ROI 看起來很好看但不符合現實。

為什麼出題者要考這題:AI 應用規劃師的核心職責之一是協助企業做出理性的 AI 投資決策。能辨識 TCO 的完整範圍,才能幫企業避免「上線後才發現預算嚴重不足」的常見陷阱。

05 陷阱

為什麼其他選項是錯的

A主要以 API 調用成本 15 萬元作為 TCO 評估基礎

字面在說什麼

把 API 費用當成 TCO 的主要數字,其他成本不重要。

為什麼不對

API 費用只是眾多成本中的一個,而且在某些系統中甚至不是最大的一筆。只看 API 費用完全忽視了人力、基礎設施、整合、合規等成本,是最不完整的 TCO。

誰會選錯

對 AI 的認知只停留在「用 API 才要付錢」,忽略 AI 系統還需要人、機器、整合工作才能運作的人。

B以 API 調用成本 15 萬及維護人力成本 8 萬進行整體估算

字面在說什麼

算了兩個主要成本項目,覺得這樣就夠了。

為什麼不對

雖然比 A 多算了一項,但仍然漏掉基礎設施費用和所有間接成本。更根本的問題是沒有涵蓋訓練、整合、合規等隱藏成本,TCO 分析依然不完整。

誰會選錯

以為「最大的兩個費用項目加起來」就是 TCO 的人,沒有意識到 TCO 的目的是「全面盤點所有成本」。

C綜合 API 調用、維護人力與基礎設施直接成本進行評估,共約 28 萬元

字面在說什麼

把題目提到的三個成本全加起來,得出 28 萬,認為這就是完整的 TCO。

為什麼不對

這是最常見的誤答,看起來已經很完整了,但它只涵蓋了「直接成本」。TCO 的關鍵在於還要估計訓練調整費、系統整合費、資安合規費等間接和隱藏成本,這些不在帳單上但確實存在。

誰會選錯

把「加總所有已知費用」等同於「TCO 分析完整」的人。C 是個很有迷惑性的選項,因為它確實把題目給的數字都算進去了,但 TCO 的精髓是找出帳單外的成本。

06 變形

同個考點下次怎麼變形

變形 1

TCO 跟 ROI 在 AI 投資評估中各扮演什麼角色?

直覺

兩個都是「評估」,感覺很像。

答案

TCO 算「你要花多少」(全面的成本),ROI 算「你賺多少相對你花了多少」(效益除以成本)。TCO 是 ROI 計算的基礎,TCO 估錯,ROI 就一定錯。兩者缺一不可,先做 TCO 再做 ROI。

變形 2

AI 系統的「資安合規成本」包含哪些主要項目?

直覺

資安不就是買防火牆和防毒軟體嗎?

答案

AI 系統的資安合規至少包含:資安風險評估(評估 AI 系統的漏洞和風險)、合規認證(如 ISO 27001、個資法遵循)、資料治理(確保訓練資料和輸出資料的存取管控)、模型稽核(定期驗證 AI 是否按規格運作)。

變形 3

一個企業用 AI API(如 OpenAI API)和自己部署開源模型,TCO 的主要差異在哪?

直覺

用 API 按用量付費,自己部署是免費的(開源),自己部署應該更便宜?

答案

用 API 的直接成本較高(按呼叫計費),但間接成本低(不用管硬體、不用維護模型)。自己部署開源模型的直接成本低,但間接成本高(GPU 硬體、電費、工程師維護、模型更新)。低用量時 API 划算,高用量且有工程能力時自部署可能更省

變形 4

為什麼「系統整合成本」在 AI 導入 TCO 中特別容易被低估?

直覺

接個 API 不就好了,很複雜嗎?

答案

企業通常有多套老舊系統,數據格式不統一、沒有標準 API、安全政策嚴格。AI 系統要拿到有意義的輸入,需要大量「資料管線建設」(Data Pipeline):擷取、轉換、清理、對齊格式,這些工作的開發量遠超過「接個 API」的概念。

變形 5

如果 AI 系統上線後模型輸出品質下降,TCO 層面會新增哪些成本?

直覺

輸出品質下降,修一修就好了,成本應該不大?

答案

至少三類:診斷成本(工程師花時間找原因,可能是資料漂移、模型版本更新、輸入格式變化)、重新調整成本(更新提示詞、重新微調模型)、業務損失(期間系統給出錯誤建議造成的業務影響)。這些都屬於 TCO 的「維運期成本」,在初期評估常被忽略。

07 延伸

想再往下看,這 5 個

出處

iPAS 經濟部產業人才能力鑑定 ・ 115 年第一次 iPAS AI 應用規劃師 初級 科目二 生成式 AI 應用與規劃 第 24 題

查看官方原文 PDF