前言：為何香港中小企要重視「生成式AI幻覺」
生成式AI（如大型語言模型）能顯著提升內容生產、客服和內部自動化效率，但同時帶來「幻覺」（hallucination）風險，即模型產生不正確或無根據的資訊。對香港中小企而言，幻覺可能導致錯誤決策、客戶信任流失或合規問題。本文聚焦於可執行、永續的做法，幫助管理層建立結構化流程，以降低生成式AI幻覺風險並保留營運敏捷性。
核心概念：幻覺發生的常見原因
理解成因有助於對症下藥。生成式AI產生幻覺，常見原因包括：訓練資料與企業現況不一致、模型無法存取最新或專屬資料、提示（prompt）設計不明確，以及缺乏後端驗證機制。要降低生成式AI幻覺風險，須從資料、模型使用與運作流程三個層面同時著手。
第一大支柱：企業資料治理與來源管理
企業內部知識庫、產品手冊、合約與法務備忘錄都應以可追溯、版本化的方式儲存。建立資料分類（例如：公開、內部、機密）、來源標註、更新週期與負責人，並讓AI系統在回應時能引用具體來源。若採用檢索式生成（retrieval-augmented generation, RAG），務必確定檢索來源被索引並保留原文截圖或快照，作為日後查證依據。
第二大支柱：引用與來源可見化
系統回覆應習慣附上來源標記，例如文件名、段落引用或網址。這不只是技術需求，也是對客戶與監管者負責的做法。對外回答時，若資訊來自公司內部資料，要註明資料類型與最近更新日期；若來自公開來源，標示原始出處以便核查。這些做法能直接降低使用者將AI回覆當作唯一事實依據的風險。
第三大支柱：驗證機制與人機協作流程
單一模型的輸出不可完全信任。建立多重驗證機制，例如：
一）使用次級模型或外部知識庫進行事實核對；二）對關鍵或高風險回覆設定人工審核門檻，只有通過審核的回覆才能對外發佈；三）引入專家審核流程，尤其在產品說明、法務或財務相關回覆。這些措施有助於把人類專業放在最後一道防線，減少因AI幻覺造成的實務損失。
提示工程與模型使用策略
透過設計清晰、限定範圍的提示，可以降低模型生成不相關或憑空的資訊。提示應包含：答案格式（例如列點、只提供事實）、可接受的資料來源範圍、與需避免的內容類型（如推測性語句）。此外，根據用途選擇模型：非敏感或創意用途可使用開放模型；涉及客戶、合約或財務內容時，採用更保守、可控的企業模型或具備審計日誌的服務。
持續監控、日誌與評估
要降低生成式AI幻覺風險，建立監控與度量機制非常關鍵。保存請求與回覆的日誌，並保留相關的輸入資料快照與模型版本資訊。設計評估指標來追蹤系統在事實正確性上的表現（例如抽樣事實比對率、人工審核通過率、使用者回饋報告等），並定期檢討與回歸測試。監控結果應回饋到資料更新與模型調整流程。
存取權限、資料最小化與合規考量
對企業敏感資料實施嚴格的存取控制與資料最小化原則，只將必要資料提供給模型或檢索索引。對於客戶個人資料或機密合約，應考慮脫敏或以受控介面提供摘要查詢，避免直接將原始敏感帳面暴露給模型。並與法務團隊協作，確保AI使用方式符合地區法規與業界最佳實務。
測試計畫與紅隊（Red Team）演練
實施前與上線後都應進行測試，包括邊界情境、錯誤輸入和惡意提示的模擬。紅隊演練讓內部或外部團隊故意嘗試誘發幻覺或產生不當回覆，藉此找到系統弱點並修補。測試結果應形成修正清單，分派負責人與期限，並加入版本控制紀錄。
SOP、員工培訓與責任分工
技術之外，制度與人員同樣重要。制定清晰的SOP，規定何種查詢需人工審核、何種回覆可自動發出、資料更新流程與異常通報流程。並對相關員工提供培訓，讓他們了解生成式AI的限制、如何解讀來源標註，以及在懷疑回覆錯誤時的應對程序。明確的責任分工可以加快處理速度並降低風險擴大。
逐步導入的實務路線圖（建議步驟）
對於資源有限的中小企，建議採分階段實施：
第一階段：評估現有使用場景與風險，確定首批最能帶來效益且風險可控的應用；建立基本日誌與版本記錄。第二階段：導入檢索式生成與來源標註，設置人工審核門檻並開始抽樣驗證；完成資料分類與基礎治理。第三階段：逐步擴大自動化範圍，實施紅隊測試、持續監控指標，並將結果納入治理與培訓計畫。每一階段都要設定明確的接受準則與回滾計畫。
執行檢核清單（管理層快速檢視）
管理層應確認以下事項是否到位：是否有資料分類與版本管理；回覆是否標註來源與更新日期；高風險查詢是否有人工審核；是否保存完整日誌與模型版本資訊；是否有紅隊測試與訓練計畫；是否制定SOP與問責機制。這份清單可作為董事或高層在導入AI時的最低合規門檻。
結語：把降低風險當作持續改進的流程
降低生成式AI幻覺風險不是一次性的工程，而是一套跨部門、持續改善的治理體系。透過嚴謹的資料治理、明確的引用與驗證機制、有效的人機協作流程，以及持續監控與測試，香港中小企可以在保護客戶與企業資產的同時，安全地享受生成式AI帶來的效率與創新。
