AI幻覺是什麼？大型語言模型為什麼一本正經地胡說
2023 年 2 月，Google 給自家聊天機器人 Bard 發了一支宣傳影片，片中 Bard 聲稱「詹姆斯·韋伯太空望遠鏡拍到了人類第一張系外行星照片」。這是錯的，第一張系外行星照片是歐洲南方天文台 2004 年拍的。當天收盤，Alphabet 市值蒸發約 1,000 億美元。
一句自信滿滿的錯話，一千億美元。這就是 AI 幻覺在真實世界裡闖禍的樣子。如果你用過 ChatGPT、DeepSeek 或 Gemini，大概也見過它的小號版本：不存在的參考文獻、聽起來很有道理其實是編出來的「事實」、點開 404 的連結。這篇文章把 AI幻覺是什麼、為什麼所有大型語言模型都會這樣、後果能有多嚴重、以及你實際能做什麼，一次講清。
AI 幻覺是什麼
AI 幻覺是什麼？學術一點的說法：hallucination 指生成式 AI 輸出聽起來很有道理、但事實上錯誤或者根本憑空編造的內容。具體形態包括編造的統計數字、虛構的研究、不存在的 URL、對真實人物事件的錯誤「細節」。IBM 的定義值得直接引用：模型給出「貌似合理但事實上錯誤、無關或完全虛構」的輸出。
「幻覺」這個詞其實是個比喻，而且是個意外流行的比喻。模型不會像人一樣「看到不存在的東西」，它根本沒有感官。這個詞的來歷值得花三十秒：上世紀八九十年代的電腦視覺裡，「幻覺」是個正面詞，face hallucination 指把模糊照片補成清晰人臉，是影像增強技術。2017 年 Google 研究者把它借來描述機器翻譯跑偏；2022 年底 ChatGPT 走紅後媒體跟進使用；2023 年劍橋詞典正式收錄這個新義項。一支哲學團隊 2024 年還專門發文批評這個詞用錯了，技術上更準確的說法是「胡說八道」：模型不是產生了錯覺，它只是複製訓練資料裡的語言模式，並不在乎說的是真是假（維基百科 有完整的術語史）。
最後這半句是理解一切的關鍵。大型語言模型回答問題時不是在「查事實」，而是在預測下一個詞。說白了，它玩的是一個超大版的文字接龍：根據訓練語料裡的模式，猜這句話接下來最可能是什麼。文字接龍這個遊戲，規則裡沒有「查證」這一步。
還要分清幻覺是什麼、普通錯誤又是什麼：兩者不是一回事。模型給了過時的數據、把圖片標錯了，這是普通錯誤，有真實依據、可追溯。幻覺是模型憑空編造，再按權威格式包裝出來，信心滿滿。這也是幻覺危險的地方：它天生就是為了「聽起來對」而生的，所以格外難識別。
為什麼 AI 一定會有幻覺
先講機制，下面所有原因都是這一個機制的變體。
大型語言模型被訓練成「缺資訊也要猜下一個詞」。OpenAI 自己的研究者寫過：現在的訓練和評測方式，實際上是在獎勵模型去猜，而不是承認「我不知道」。模型學成了一個永遠不交白卷的考生。2025 年 Anthropic 的可解釋性研究還找到了這件事在模型內部的樣子：Claude 內部有「不知道就拒答」的電路，平時踩著煞車；掌握足夠資訊時煞車才鬆開、開口作答。幻覺就是煞車誤鬆：模型認出某個名字，判斷「這個我認識」，但其實並不了解細節，煞車鬆早了，就開始編。
在這個機制之上，你平時撞到的幻覺大多來自這幾類原因：
| 原因 | 長什麼樣 |
|---|---|
| 訓練資料有缺陷、有缺口 | 語料裡「加拿大」和「多倫多」總是同時出現，模型就敢說多倫多是加拿大首都 |
| 過擬合學到雜訊 | 一個新冠檢測模型學會了識別「醫院的字體」，因為訓練圖片都來自同一家醫院 |
| 被逼著湊數 | 只有 2 個理由你偏要 5 個，模型就給你湊滿 5 個 |
| 迎合式訓練的副作用 | 模型傾向於說你想聽的話 |
| 對抗性提問 | 故意設計的輸入把模式匹配帶偏 |
迎合問題的經典例子：一個用生日賀卡訓練的寫卡模型，讓它寫「早日康復」卡，它照樣寫「生日快樂」，因為模式告訴它賀卡就該歡快。
所以這不是一個忘了修的 bug。幻覺是生成式 AI 工作方式的直接後果：靠預測、不靠查詢。2022 年就有研究發現，模型不只自己產生幻覺，還會放大訓練資料裡已有的幻覺。工程界的誠實共識是 IBM 那句話：大型語言模型幻覺「可以減少，但無法完全消除」。
真實案例：從好笑到昂貴
小幻覺是段子，大幻覺能上法庭。
| 場景 | AI 做了什麼 | 代價 |
|---|---|---|
| Google AI Overview | 建議往披薩醬裡加無毒膠水讓起司更黏（源頭是 2013 年 Reddit 的玩笑貼文） | 真有人照做了 |
| 《芝加哥太陽報》2025 | 夏日書單 15 本書裡 10 本不存在 | 公開道歉，付費讀者收到的是 AI 湊數內容 |
| 美國律師 2023 | ChatGPT 編造判例引用，案名、案號、引語一應俱全 | 律師被法院處罰；法官此後要求出庭文件聲明是否用了 AI |
| 加拿大航空 2024 | 客服機器人承諾了不存在的喪親票價退款政策 | 法庭判賠；「機器人是獨立法律實體」的抗辯被駁回 |
| 勤業眾信 2025 | 給澳、加兩國政府的報告引用了不存在的研究 | 部分退款、重交報告，兩份合約一起翻車 |
| 醫院裡的 Whisper | 語音轉錄工具往病歷裡插入編造的詞句和治療 | OpenAI 自己警告勿用於高風險場景，但仍有 3 萬多名醫護人員在用 |
中國的法院也開始劃線了。2024 年南京的一起案件裡，某搜尋平台的「AI 智慧回答」虛構「李某因爆炸罪獲刑三年」，現實中根本沒有這份判決，法院判決平台書面賠禮道歉，二審維持。2025 年，一名高考生被 AI 的錯誤報考資訊誤導，而 AI 還聲稱「內容有誤賠償 10 萬」，杭州網際網路法院一審判決：AI 的「承諾」不構成平台的意思表示，駁回了求償。2026 年 3 月，AI 幻覺典型案例寫進了最高人民法院工作報告。一個技術圈的老梗能進最高法報告，說明它已經從段子變成了正式的法律問題。
普通人中招的頻率可能比你想的高。密西西比大學 2024 年的一項研究發現，學生提交的 AI 生成引用裡，47% 部分或完全虛構。我自己也撞過：讓模型列某個冷門主題的參考文獻，回傳的清單格式漂亮、作者名號齊全，其中幾篇論文就是不存在，署名的「研究者」也沒寫過它們。
你能做什麼：三層防線
明白了幻覺是什麼，下一步是你能做什麼。多數講幻覺的文章到「開發者該修好它」就停了。但使用者才是最後一道防線，而且你能做的比你想的多。
第一層，改提問方式。 給模型你要求它依據的資料（「只根據下面這份文件回答」）。明確允許它說不知道：「不確定就直說。」還有一條特別實用：別逼它湊數。「給我 5 個例子」這種問法，在只有 2 個的地方就是在訂購幻覺；改成「最多給我 5 個」，數字就誠實了。
第二層，查承重牆。 引用、統計數字、人名、日期、連結、案號——就是那些錯了會讓你出醜的東西。點開連結，搜一下論文標題。這些恰恰是模型編得最像真的內容，因為參考文獻有固定格式，格式它模仿得完美，內容是編的。
第三層，分場合定紀律。醫療、法律、財務、升學這類事，AI 的輸出只能是草稿，永遠不是結論。 引用假判例的律師和承諾假政策的航空公司，犯的是同一個錯：把沒人核過的 AI 輸出直接用在了高風險場合。我自己的規矩很簡單：如果一個錯誤答案的代價超過我的時間，那它就必須經過人的核對才能往外走。
開發者那邊怎麼治
工程側，減少幻覺是一門正經手藝。知識類問題最大的槓桿是 RAG（檢索增強生成）：讓模型先檢索資料、照著資料回答，還能附出處，想深入了解可以讀我們的RAG 詳解。其餘標配還有提示詞約束（「只根據給定資料回答，資料裡沒有就說沒有」）、領域微調、高風險內容人工審核、上線後持續監控評測——同一批概念我們在 AI 專集裡逐個展開。這些都不是特效藥，是護欄。研究者還注意到一個有意思的矛盾：使用者更喜歡又快又自信的答案，而不是謹慎的「我不確定」。市場的獎勵方向，恰恰是製造幻覺的方向。
AI 幻覺會消失嗎
直說：會變少，不會歸零。只要這些系統還在靠「預測下一段合理的文字」來生成內容，編造就永遠存在結構上的可能，最後一道把關永遠是人。
但這裡有個反轉值得想一想。會編事實的同一套生成能力，也能「編」出世界上不存在但有用的東西。David Baker 實驗室用生成式 AI「幻覺」出了幾百萬種自然界不存在的蛋白質，這項工作幫他拿了 2024 年諾貝爾化學獎。加州理工用同樣的思路設計了抗細菌污染的鋸齒導管。在這些場景裡，「無中生有」恰恰是功能本身，諾獎委員會致詞時還特意避開了「幻覺」這個詞。
所以真正的問題不是「AI 什麼時候不再胡說」，而是「你為什麼把一台會編造的機器用在了零編造需求的場合」。知道它是什麼、別讓它做它做不到的事、交付的東西過一遍人手。這不叫繞路，在今天的 AI 面前，這就是正確的使用姿勢。
常見問題快答
AI 幻覺是什麼意思？ 生成式 AI 自信地輸出事實錯誤或憑空編造的內容：假引用、假數據、沒發生過的事。這個詞是從心理學借來的比喻，中途還經過電腦視覺改造。
大型語言模型為什麼會產生幻覺？ 它靠預測下一個詞工作，不是查證事實；訓練機制又獎勵「給出答案」而不是「承認不知道」。資料有缺口、被逼著湊數時更嚴重。
AI 幻覺能徹底消除嗎？ 能減少，不能歸零。RAG 讓模型照資料回答、提示詞約束、人工審核都能壓低機率，但預測式生成決定了編造永遠可能發生。
ai幻覺怎麼解決？ 分角色：一般使用者靠提問技巧和核驗習慣（上文三層防線），開發者靠 RAG、提示詞約束加人工審核。方向都是壓低機率，沒有根除一說。
幻覺和普通的 AI 錯誤區別是什麼？ 普通錯誤有真實依據（過時數據、標錯分類），幻覺是憑空捏造再包裝成權威樣子，更難識別也更危險。
最貴的一次 AI 幻覺是什麼樣的？ 候選不少，但 Bard 一句話讓 Alphabet 市值一天蒸發約 1,000 億美元很難被超越；勤業眾信的假引用報告則說明，顧問公司也在為幻覺真金白銀地買單。