你有沒有遇過 AI 說得超像真的，結果一查全是編的？
你可以把 AI 幻覺想成模型自己把空白補成故事。 它不是故意騙人，而是模型在沒有把握時仍然繼續生成，看起來流暢，內容卻可能完全不對。
你可以把它想成一個把抽象概念拉回日常判斷的提示，先知道它解決什麼問題，再看技術細節。
容易混淆
幻覺 vs 錯誤資訊 幻覺是模型自己編出不存在的內容 錯誤資訊可能是人或系統傳錯 最關鍵的區別是無中生有，還是傳播失真
幻覺 vs 偏見 偏見是輸出方向系統性歪掉 幻覺是內容本身可能根本不存在 最關鍵的區別是有但歪，還是根本編造
記住這句就好
說得很像真的，不代表是真的。
實際案例
虛構引用 法律文件或論文摘要裡，如果 AI 生成不存在的案例或論文名稱，這就是典型幻覺。
產品規格亂答 客服模型把不存在的規格講得很肯定，表面上很順，實際上就是幻覺在作怪。
深入了解
大型語言模型的目標是預測下一個詞，不是自動查證事實。 RAG、查核工具、低溫度和人工審核都能降低風險，但很難把幻覺完全消掉。
情境判斷
Q1： AI 給你的論文引用，你要不要直接照抄？ → 不要，先查證來源是否真的存在。
Q2： 同樣是回答錯誤，為什麼幻覺特別麻煩？ → 因為它常常語氣很肯定，讓人更容易信以為真。
iPAS 考題
出題方向：常考幻覺的定義、成因與常見緩解方法，特別是 RAG。 題目： 大型語言模型產生 AI 幻覺的主要原因是什麼？ → 答案： 模型依照機率生成文字，沒有內建事實查證能力。
常見問題
幻覺能完全消除嗎？
目前很難，只能盡量降低發生率。
模型為什麼不直接說不知道？
因為它被訓練成盡量給出有幫助的回應，不是自然學會拒答。
最新模型就不會幻覺嗎？
不會，新模型通常更穩，但仍需要查證。