導言：為何香港中小企需重視 AI 與網絡安全交界
隨著生成式 AI 與大型語言模型在內部流程、客服、自動化報告等場景廣泛採用，企業能提升效率，但同時也帶來新的攻擊面。對於資源有限的香港中小企來說，未能及時辨識與防範提示詞注入（prompt injection）與敏感資料外洩，可能導致營運、客戶信任或合規風險。本文務實說明常見風險來源、具體防護措施與落地檢查清單，協助管理層制定可執行的策略以降低企業AI網絡安全風險。
什麼是提示詞注入與其如何導致資料外洩
提示詞注入是攻擊者在輸入、文件或第三方內容中加入惡意指令，誘導模型執行未授權行為，例如揭露內部資料、修改回應邏輯或繞過安全過濾。以企業內部聊天機器人或自動摘要系統為例，若模型無法識別來自外部或第三方文件中的惡意片段，可能將機密資訊包含在回應中或向外部端點傳送資料，造成敏感資料外洩。
常見攻擊向量（管理層應掌握）
1) 使用者輸入：公開表單、客服對話或內部查詢介面；2) 第三方文件：合作夥伴、供應商或網路抓取的資料；3) 擴充插件或 API 整合：未充分驗證的外部程式碼或服務；4) 訓練與微調用資料：若使用未經過濾的資料來微調模型，可能將敏感內容內化進模型行為。管理層需了解這些向量，才能決定資源投入優先次序。
技術防護措施（可優先執行）
1) 輸入／輸出過濾：在模型呼叫前後加入指標檢查與過濾器，阻擋顯著包含機密字詞或特殊格式的輸入與輸出。2) 最小權限與分隔環境：將可存取敏感資料的系統與公開模型互動層隔離，避免直接以原始資料供模型查詢。3) 日誌與審計：記錄每次模型請求與回應（避免日誌中包含明文敏感內容），以利追蹤可疑行為。4) 模型行為測試（紅隊）：定期用攻擊樣本測試模型回應，檢視是否會在特定提示下揭露敏感資訊。5) 加密與金鑰管理：確保付款、API 金鑰與敏感參數受適當保護，避免硬編碼或暴露於非受控環境。
流程與治理（中小企可落地的建議）
1) 資料分類：先辨識哪些資料屬於機密（客戶資料、財務、策略文件等），並在資料層級上標記以便在系統中有差別處理。2) 使用政策：明確規定員工在使用第三方 AI 工具時的禁止事項與授權程序，例如不得上傳未經匿名化的客戶資料至公開工具。3) 供應商審查：對外部 AI 服務供應商要求 SLA、資料處理與保密條款，並評估其安全能力（如是否提供企業級隔離、日誌匯出）。4) 訓練與模擬：定期為業務與 IT 團隊提供情境演練，讓員工能識別釣魚式提示詞或不尋常的模型回應。
人員與文化面：不可忽視的防線
技術永遠無法完全取代人的判斷。管理層應建立報告機制，鼓勵員工在發現可疑模型回應或資料異動時主動回報，並且不要因為效率壓力而跳過審核步驟。培訓內容應包含示範如何在工具中尋找敏感輸入、什麼行為需停止並回報，以及如何使用替代流程（例如在內網環境進行敏感查詢）。
如何檢測提示詞注入與資料外洩（具體方法）
1) 建立偵測規則：在回應中比對敏感字詞模式或高風險格式（如身份證號、銀行帳號、內部代碼），並對可疑回應觸發警示。2) 行為異常分析：透過請求頻率、相同查詢在不同時間的回應差異來偵測不尋常行為。3) 版本與配置比對：任何模型或 prompt 管線的變更都應留存版本記錄，便於在事件後回溯。4) 測試資料集：維持一套包含常見攻擊範例的測試集，定期執行自動化測試，檢驗模型是否會洩露敏感資訊。
事件處理：若懷疑資料外洩，應如何行動
1) 立即隔離：停止受影響系統與模型呼叫，鎖定可能被存取的資料來源與 API 金鑰。2) 保存證據：保留呼叫日誌、回應截圖與相關系統紀錄，注意保護證據完整性。3) 初步評估範圍：評估外洩內容種類、數量與受影響對象，優先處理高風險項目。4) 通報與修復：按公司政策與法規要求進行內部通報、必要時與法律顧問或監管機構聯繫，並排除漏洞（如修正 prompt 管線、加強過濾）。5) 後續改善：事件結束後召開復盤會議，將發現轉化為新的控制措施與訓練要點。
對香港中小企的實用落地清單（優先順序）
1) 進行風險盤點：盤點所有使用 AI 的流程與資料類別，評估敏感度。2) 建立短期防護：對外部模型呼叫加上輸入/輸出過濾與日誌機制；對員工發布明確使用守則。3) 設定最小權限：限制能查詢敏感資料的模型與帳號，分隔開發與生產環境。4) 定期測試：每季執行一次模型行為測試與滲透式提示詞測試。5) 建立事件通報流程與聯絡人清單，包含 IT、法律與重要供應商聯絡資訊。
結語：管理層的角色與下一步
遇到 AI 帶來的新型網絡風險，管理層的重點是把握三件事：辨識（哪些流程與資料最脆弱）、控制（哪些簡單且低成本的技術與流程能立即降低風險）、與持續監督（建立日誌、測試與通報機制）。透過分級治理與漸進式投入，香港中小企可以在不大幅增加成本的情況下，降低企業AI網絡安全風險，並維持創新速度與客戶信任。
