AI 會亂編（幻覺），怎麼驗證與防範？

先搞懂：AI 為什麼會「亂編」

這裡說的 AI，指的是 ChatGPT、Claude 這類「大型語言模型（LLM，可想成一個讀過海量文字、很會接話的超級文字接龍高手）」。它的本質不是「查資料庫再回答」，而是「根據前文，猜下一個最順的字」。

所以它天生會遇到一個問題：當它不知道正確答案時，並不會停下來說「我不知道」，而是照樣把「聽起來最合理的句子」拼出來——這就是幻覺（hallucination）。名字很傳神：它像做夢一樣，講得煞有其事，內容卻是憑空生出來的。

關鍵要記住：幻覺不是「偶爾的 bug（程式偶發的小故障）」，而是這類工具的先天特性。它有時候會錯，而且錯得很有自信、很流暢——這正是最危險的地方。

幻覺長什麼樣子？五種最常見的踩雷

• 假數字：市場規模、成長率、統計比例，講得精準到小數點，但根本查無此數據
• 假來源：捏造一篇不存在的論文、新聞、書名，甚至附上一個點不開的連結或假的「頁碼」
• 假法條／假規定：講錯某條法律第幾條、補助辦法的申請資格或截止日，商業上這種錯最傷
• 張冠李戴：把 A 公司的事講成 B 公司、把某句話安到根本沒說過的名人頭上
• 過期資訊當現況：把舊的價格、舊的產品規格、已經改版的方案當成最新的講

一個生活比喻：把 AI 當成「很會寫的實習生」

想像你請了一個文筆超好、反應超快、態度超積極的實習生。你叫他寫一份市場報告，他半小時就交出來，排版漂亮、語氣專業、數字齊全。

但這個實習生有個致命習慣：他從不說「這我不確定」。查不到的東西，他會「憑印象」寫上去，還寫得跟真的一樣。你會因為報告漂亮就直接拿去跟客戶簡報、不核對嗎？當然不會。

對待 AI 就該用一模一樣的態度：它負責產出草稿，你負責當那個把關的主管。 越是要對外、要簽名、要負責任的內容，你這關就要把得越緊。

實戰驗證流程：送出前的四道關卡

不用每個字都查，把力氣花在「錯了會出事」的地方。用這四步走一遍：

• 第一關 分類：先問自己「這段內容錯了會怎樣？」。純創意發想、腦力激盪、寫作起頭——風險低，可放寬；只要牽涉數字、法規、人名、日期、報價、對外承諾——風險高，一律查證
• 第二關 反查來源：凡是 AI 給的統計、引用、案例，自己去 Google 或官方網站對一次。查不到出處的，就當它是編的，直接刪掉或改寫
• 第三關 交叉比對：重要問題可以換個問法再問一次，或問另一個 AI。如果兩次答案兜不攏、細節一直變，那部分幾乎可以確定它在猜
• 第四關 就地標記：草稿裡凡是還沒查證的數字或說法，先用括號標「（待查）」，查完才拿掉。養成習慣後就不會有漏網之魚被送出去

用提示詞先降低幻覺：與其事後抓，不如事前防

驗證是最後防線，但你也能在「問」的階段就大幅減少它亂編。這裡說的「提示詞（prompt，就是你打字丟給 AI 的那段指令）」寫得好不好，直接影響它會不會亂掰。以下幾種說法實測有效，可以直接複製去用：

• 「如果你不確定或查不到，請直接說『我不確定』，不要猜、不要編造。」——這一句就能讓它在該收手時收手
• 「請針對上面每一個數字／說法，標註『這是你確定的』還是『你不確定、需要我自己查證的』。」——逼它自己分出信心高低
• 「只根據我貼給你的這份資料回答，資料裡沒有的就說沒有，不要自行補充。」——搭配把真實資料貼給它（參見『餵大量資料』），能大幅壓低幻覺
• 「請把你引用的來源列出來。」——注意：它列的來源本身也可能是假的，所以還是要點進去確認，但至少給了你查證的線索

對中小企業與創業者的實際意義

AI 能幫你把寫報價單、寫提案、整理法規、做市場調查的時間砍掉大半，這是實實在在的生產力。但幻覺的風險會直接落在你的信譽和荷包上：報價單抄錯一個數字、提案引用了不存在的數據被客戶當場拆穿、把過期的補助資格寫進申請書導致申請被退件——這些代價遠比「多花五分鐘查證」高。

一個務實的內部原則：AI 產出的東西，永遠是『草稿』不是『成品』。凡是要對外發送、要簽名、要客戶或主管看的，一定經過一個真人查證核對這關。可以把這條寫進公司的 AI 使用規範，讓每個同事都清楚界線在哪。

特別提醒：AI 對『很新的事』和『很在地的事』最容易出錯——像最新的政府補助辦法、今年的稅務級距、某個工具這個月的最新方案與價格。這類會隨時間變動的資訊，務必回到官方公告核對，不要相信 AI 的『印象』。