AI 幻覺 是什麼？

Hallucination — AI 幻覺 的完整解釋

AI 幻覺是大型語言模型產生自信但事實錯誤或無中生有內容的現象，是 LLM 部署的主要風險

容易混淆

幻覺 vs 錯誤資訊 幻覺是模型自己編出不存在的內容 錯誤資訊可能是人或系統傳錯 最關鍵的區別是無中生有，還是傳播失真

幻覺 vs 偏見 偏見是輸出方向系統性歪掉 幻覺是內容本身可能根本不存在 最關鍵的區別是有但歪，還是根本編造

記住這句就好

說得很像真的，不代表是真的。

實際案例

虛構引用 法律文件或論文摘要裡，如果 AI 生成不存在的案例或論文名稱，這就是典型幻覺。

產品規格亂答 客服模型把不存在的規格講得很肯定，表面上很順，實際上就是幻覺在作怪。

深入了解

大型語言模型的目標是預測下一個詞，不是自動查證事實。 RAG、查核工具、低溫度和人工審核都能降低風險，但很難把幻覺完全消掉。

情境判斷

Q1： AI 給你的論文引用，你要不要直接照抄？ → 不要，先查證來源是否真的存在。

Q2： 同樣是回答錯誤，為什麼幻覺特別麻煩？ → 因為它常常語氣很肯定，讓人更容易信以為真。

AI 幻覺 在 iPAS 考試中的重點

根據歷年統計，AI 幻覺 相關題目 平均佔 AI 技術類考題 2%， 屬於未分類考範圍。

常見出題方向：大型語言模型的行為與限制（40%）、模型評估與錯誤分析方法（35%）、AI 幻覺的成因與緩解策略（25%）。

常見問題

幻覺能完全消除嗎？

目前很難，只能盡量降低發生率。

模型為什麼不直接說不知道？

因為它被訓練成盡量給出有幫助的回應，不是自然學會拒答。

最新模型就不會幻覺嗎？

不會，新模型通常更穩，但仍需要查證。