導言：為何香港中小企需要 AI應用事故應變計劃
隨著中小企在業務流程中越來越多地採用人工智慧（AI）技術，系統錯誤、輸出偏差或資料外洩等事故的風險同時增加。AI應用事故應變計劃不只是 IT 團隊的事，而是公司治理、合規與客戶關係管理的核心要素。本文以實務角度，說明如何建立可操作的停用（disable）、追查（trace/forensics）及客戶通知流程，協助香港中小企在事故發生時迅速控制損害並維持信任。
一、建立治理架構與責任分工
任何可執行的 AI應用事故應變計劃，第一步是明確治理架構與角色職責。建議至少涵蓋下列職位與職責：
- 最高管理層（CEO／業務負責人）：決策權、是否公開通報以及資源撥配。
- 事故應變主管（Incident Response Lead）：統籌應變、協調內外部單位。
- 技術負責人（CTO／系統工程師）：執行停用、系統隔離、技術追查。
- 資安／法務代表：評估合規與通知義務，確保證據保存符合法規要求。
- 客戶關係／公關：準備對外溝通內容與回應渠道。
建立明確的聯絡清單（含替代人員）、通報層級與決策準則，確保事故發生時能立即啟動應變流程。
二、偵測與觸發條件（When to act）
定義清晰的觸發條件，有助於避免延遲或過度反應。觸發條件可包括：
- 系統輸出明顯錯誤或偏差，導致業務流程中斷或錯誤決策。
- 涉及個人資料或敏感資料可能外洩。
- 有證據顯示模型被惡意利用或遭入侵。
- 客戶或用戶提出相關安全或隱私投訴。
為每一類觸發條件設置分級（例如：輕微、中度、重大），並訂立對應的初步反應時間窗口，例如 1 小時內完成初步評估、24 小時內決定是否啟動對外通知（依影響程度而定）。這些時間建議是管理實務而非法定期限，具體時限應依公司資源與法規顧問建議調整。
三、停用與隔離流程（Disable & Containment）
當觸發應變時，第一要務是阻止事故擴大。停用流程應包含以下步驟：
- 立即評估：技術負責人快速判斷是否需暫停相關 AI 服務或特定 API 端點。
- 快速停用（Fail-safe）：依優先順序停用受影響模型或功能；若無法立刻停用，採取流量封鎖、限流或切換至人工服務。
- 隔離環境：將受影響的系統節點從生產網路隔離，避免進一步資料讀寫或外部連線。
- 保存狀態：在隔離前與隔離後都應截取系統快照、保存記錄（log）、模型版本與快取資料，並標註時間戳。此步驟對後續追查至關重要。
- 開啟接替程序：如果 AI 功能對業務關鍵，立即啟動備援方案（例如：啟用較保守的模型、人工審核流程或退回至先前穩定版本）。
停用決策要兼顧風險與營運影響：完全停用能最快止損，但也可能造成客戶服務中斷；分段停用或功能降級則可在控制風險的同時維持基本服務。
四、追查（Trace、Forensics）要點
追查階段目的是確認事故原因、範圍與影響，並收集可用於修復與合規的證據。實務要點包括：
- 日誌與監控：確保系統有完整的輸入、輸出、模型版本、API 呼叫與系統事件日誌，且日誌能追溯到使用者或請求 ID（注意個人資料保護的平衡）。
- 模型與資料版本控制：透過版本管理工具記錄模型更新、訓練資料與超參數，快速比對最近變動。
- 輸入溯源（Provenance）：紀錄觸發異常輸出的原始輸入資料來源，有助於判定是輸入問題還是模型錯誤。
- 保全證據（Chain of Custody）：對於可能涉及惡意攻擊或法律責任的事件，保存日誌與快照時應記錄存取歷程，避免後續證據被質疑。
- 專家分析：根據事件性質組成跨部門小組（技術、資安、法務），進行技術分析與風險評估，並記錄分析流程與結論。
- 外部支援：如必要，尋求具資安取證與 AI 解釋能力的第三方支援，但需簽署保密與證據保全協議。
在追查過程中，維持透明的內部溝通，並避免尚未確認的技術細節對外流出。
五、分級式客戶通知與溝通流程
客戶通知策略應事先制定，根據事件嚴重性分級處理。核心原則是：事實為本、清楚說明影響、告知補救措施與後續聯絡方式。
分級建議範例：
- 輕微事件：僅影響少量非敏感功能，無資料外洩。可於內部調查後由客服以預先準備的 FAQ 回應個別查詢。
- 中度事件：功能受限或有少量敏感資料疑慮。應在完成初步事實確認後，以電郵或系統訊息通知受影響客戶，說明已採取的短期補救措施與預期後續時間表。
- 重大事件：涉及大量個人資料外洩或系統長時間失效。需由管理層公開聲明，並提供詳細說明、補救方案、補償安排（如適用）以及專責聯絡窗口。
通知內容應包含：
- 事件概述（已確認的事實）
- 受影響範圍（哪些服務、哪些資料類別、受影響客戶範圍）
- 已採取的補救措施與正在進行的追查步驟
- 客戶應採取的即時措施（如更改密碼、暫停某功能）
- 聯絡方式與詢問渠道
- 未來通知與時間表
範本用語應事先準備並經法務核准，以便在不同級別事件快速調用，並避免溝通漏洞或不適當承諾。
六、法規考量與資料保護
香港中小企在處理涉及個人資料的 AI 事故時，應留意本地法規與監管要求，例如香港個人資料（私隱）條例（PDPO）。具體步驟包括：
- 與法務確認是否構成個人資料外洩與是否需向監管機構報告。
- 保存所有與事故相關的記錄以供監管或法律檢視。
- 在通知客戶與公眾時謹慎措辭，避免自動承認法律責任。
- 若有跨境資料流動，確認相關司法區的合規要求。
注意：本段並非法律意見。遇到可能導致法律後果的情形，應諮詢合資格的法律顧問。
七、演練、文件化與持續改進
任何計劃若不演練便難以落地。建議至少每年進行桌面演練（tabletop exercise）與一次實務演練，測試通報流程、停用步驟與客戶通知模板。
此外，要建立事後檢討（post-incident review）機制，包括：
- 事件時間線重建與根本原因分析（RCA）
- 修正措施與責任歸屬
- 更新風險評估與應變手冊
- 針對發現的弱點落實改進，例如加強監控、改善模型驗證流程、更新 SLA 與備援方案
持續改進（Plan-Do-Check-Act）能在每次事件後提升系統韌性與客戶信任。
八、實務清單（Checklist）
為便於落地，以下為可列入公司 AI應用事故應變計劃的實務清單：
- 建立應變小組名單與替代聯絡人
- 定義觸發條件與分級標準
- 設計停用與隔離操作手冊（含步驟、指令與權限）
- 完整日誌與版本控制實作
- 準備不同級別的客戶通知範本與內部通報模版
- 明確法務、資安與外部通報流程
- 定期演練與事後檢討機制
- 設計資料最小化與脫敏策略以減低外洩風險
結語：把 AI應用事故應變計劃當成企業治理一部分
AI應用事故應變計劃並非一次性文件，而是結合治理、技術、法務與客服的持續流程。對香港中小企來說，早一步建立明確的停用、追查與客戶通知流程，不僅能在事故中快速止損，也能在平時提升內部控制與客戶信任。建議由管理層主導，定期檢視，並納入年度風險管理與合規評估中。
