生成式人工智慧正在重塑客戶服務領域，基於大型語言模型（LLM）的 AI 代理能夠更智慧地理解和解決客戶諮詢。這一技術革新在為支援團隊和客戶創造價值的同時，也帶來了前所未有的資料安全與隱私挑戰。在 AI 驅動的商業環境中，妥善處理客戶資料不僅關乎合規性，更是維繫客戶信任的核心要素。
作為行業領導者，Intercom 始終將資料保護置於產品設計的核心位置。以 AI 代理 Fin 為例，它構建了超越行業標準的多層防護體系，包括嚴格的安全控制、精準度驗證機制和全面的隱私保護措施。Intercom 堅持運營透明化原則，讓客戶能夠清晰瞭解資料保護實踐，從而建立持久的信任關係。
那麼，Intercom 是如何在 AI 時代構建資料隱私與安全防護體系的呢？
保護資料隱私
在 Intercom，保護客戶資料安全始終是企業理念的核心。隨著人工智慧時代的到來，Intercom 在開發 AI 產品和功能時與第三方服務提供商開展合作，這使得建立更強大的資料保護機制和合規體系變得尤為重要。
儘管這種合作模式增加了技術複雜性，但透過創新解決方案確保客戶體驗不受影響。Intercom 致力於在提供全面安全保障的同時，最大限度地簡化客戶操作流程。以下是 Intercom 在實踐中採取的具體措施：
1、全球化資料託管解決方案
為滿足全球客戶的差異化需求，Intercom 推出了創新的託管基礎設施方案。特別針對歐洲市場，現已提供本地化資料處理服務，使歐洲客戶能夠安全使用 Fin AI Agent、Copilot 和收件箱 AI 等核心功能，所有資料處理均在歐盟境內完成。現有歐洲客戶將自動遷移至新的歐盟託管平臺，享受更高階別的資料隱私保護。
2、嚴格的第三方合作伙伴管理
Intercom 建立了完善的第三方服務商評估體系，確保只與行業領先的供應商合作。透過持續監測解決率、幻覺率和響應延遲等關鍵指標，Intercom 不斷最佳化供應商組合，為客戶提供最優質的服務體驗。
當前合作的第三方服務提供商：
https://www.intercom.com/legal/subprocessors-list?redirect_from=/legal/security-third-parties
3、資料安全防護機制
Intercom 實施嚴格的資料處理管控：
所有第三方LLM供應商均採用臨時資料處理模式，對話資料在生成響應後立即刪除
合同明確禁止供應商使用客戶資料訓練或改進其模型
資料訪問許可權被嚴格控制在必要的最小範圍內
4、全面的合規保障體系
Intercom 與所有 LLM 供應商簽訂具有法律約束力的業務合作伙伴協議（BAA），確保：
滿足 HIPAA 等合規要求
實施符合國際標準的技術和組織防護措施
達到各地區資料保護法規的最高標準
減輕 LLM 相關的威脅
在人工智慧時代，資料安全面臨著前所未有的挑戰。與傳統軟體系統具有明確且可預測的威脅模式不同，LLM（大型語言模型）面臨著安全領域仍在不斷探索的新型攻擊向量。
為應對這一挑戰，Intercom 的安全團隊採取了前瞻性的防禦策略：突破傳統安全框架，建立預測性漏洞識別機制，實施全天候新型攻擊監測系統，並構建自適應安全架構，確保防護體系與威脅演進同步。
基於 OWASP LLM 十大安全威脅框架，Intercom 已識別出最關鍵的風險領域，並制定了相應的防護措施。以下是具體應對方案：
1、應對提示注入攻擊的防護體系
提示注入攻擊是指攻擊者透過植入惡意指令來操控 AI 代理的 LLM，可能導致系統生成不當或有害的響應。雖然完全杜絕此類攻擊具有挑戰性，但 Intercom 已建立多層防護機制，有效降低攻擊風險並最大限度減少潛在影響。
Intercom 的防護措施包括：
（1）智慧防禦指令
Intercom 在 LLM 處理使用者輸入時自動嵌入保護性指令，有效防止系統核心安全機制被篡改或覆蓋。
（2）動態監測與最佳化
Intercom 持續追蹤新型提示注入技術，並監控 Fin AI 功能的異常行為。基於這些洞察，Intercom 不斷最佳化防禦策略，確保系統能夠應對最新威脅。
（3）模型版本升級
Intercom 定期評估並升級至 LLM 提供商的最新版本，這些版本在抵禦提示注入攻擊方面具有更強的防護能力。
（4）應急響應機制
在過去一年中，Intercom 成功攔截了絕大多數繞過安全防護的嘗試。所有已識別的事件均在未對客戶造成影響的情況下得到及時處置，確保了系統的可靠性和客戶的信任。
2、防範資料中毒攻擊的防護機制
資料中毒攻擊是指攻擊者透過向訓練資料集註入惡意資料來破壞 AI 系統的完整性。為應對這一威脅，Intercom 建立了全面的防護體系：
（1）資料驗證機制
Intercom 實施了多層次的資料驗證協議和平臺控制措施，確保知識庫資料的完整性和可靠性。這些措施包括：
自動化資料質量檢測
人工稽核流程
實時異常監控
（2）智慧上下文管理
Intercom 採用精確的上下文控制策略：
為每個 LLM 提示嚴格限定必要的上下文範圍
實施動態上下文過濾機制
建立上下文使用審計追蹤
3、應對逃避攻擊的多層防禦體系
逃避攻擊是指攻擊者透過精心構造的輸入繞過 AI 系統的安全防護，誘導系統產生有害輸出。為應對這一高階威脅，Intercom 建立了全面的防禦機制：
（1）系統性對抗測試
Intercom 採用行業領先的 LLM 漏洞掃描工具，對生產環境中的模型進行持續測試。這種方法能夠：
識別潛在的逃避攻擊向量
評估系統漏洞
及時實施防護措施
（2）強化提示工程
Intercom 的 AI 團隊投入大量資源最佳化提示設計：
開發抗操縱的提示模板
建立提示安全評估框架
確保 Fin 輸出的穩定性和安全性
（3）動態安全更新
Intercom 建立了持續更新機制：
實時監控新型逃避技術
定期升級防護策略
快速部署安全補丁
4、構建安全的整合體系
不安全的整合可能導致 LLM 或 AI 功能在與外部系統對接時產生安全漏洞。為確保系統間的安全互動，Intercom 建立了嚴格的整合安全框架：
（1）安全的 API 架構設計
Intercom 的 API 整合方案採用業界最佳安全實踐：
內建安全代理等預設防護機制
實施細粒度的客戶控制功能
遵循最小許可權訪問原則
採用端到端加密通訊
（2）系統性滲透測試
Intercom 建立了定期滲透測試機制：
模擬真實攻擊場景
識別潛在整合漏洞
及時修復安全缺陷
持續最佳化防護策略
（3）安全審查流程
Intercom 對所有系統整合實施嚴格的安全評估：
建立標準化的安全審查清單
進行多維度風險評估
確保符合企業安全標準
實施持續監控機制
5、構建資料洩露防護體系
資料洩露風險主要源於 AI 系統可能無意間透過響應暴露敏感或機密資訊。為有效預防此類風險，Intercom 建立了多層防護機制：
（1）精細化的資料控制
Intercom 採用明確的選擇加入機制：
客戶可自主決定資料來源的使用範圍
實現細粒度的資料訪問控制
確保客戶對AI功能的資料使用保持完全掌控
（2）預防性設計架構
Intercom 基於"安全第一"原則設計系統：
預設 LLM 可能輸出輸入資料
建立嚴格的輸出審查機制
確保所有 LLM 響應內容均獲得合法授權
（3）嚴格的訪問控制
Intercom 實施全面的資料保護措施：
採用最小許可權訪問原則
要求 LLM 提供商實施零資料保留政策
禁止使用客戶資料訓練或最佳化模型
（4）全面的審計追蹤
Intercom 建立了完善的監控體系：
實施全鏈路日誌記錄
建立訪問控制儲存庫
定期進行使用者訪問審查
開展年度安全審計
將 LLM 提供商納入關鍵子處理器管理
全生命週期效能保障體系
在整個開發週期中，Intercom 透過效能保證在每個階段都提供最大程度的保護。Intercom 致力於提供卓越的品質，這一點在其 AI 產品的效能上得到了體現，始終超越公開的大型語言模型（LLM）。
部署後，Intercom 的 AI 產品在生產過程中會持續受到監控，以確保持續的卓越表現。Intercom 的工程和機器學習團隊緊密合作，對每個模型進行嚴格的測試，並及時進行調整、審查關鍵指標以及分析客戶反饋，以便迅速解決任何新出現的問題。
1、回測策略
在任何更新被實施前，Intercom 都會在安全的開發環境中對其進行全面的評估。這一措施旨在增強關鍵效能指標，同時確保 AI 產品的穩定性不受影響。Intercom 的回測流程專注於以下兩個核心目標：
（1）降低幻覺效應
Intercom 確保 AI 生成的回答嚴格依據當前提供的上下文，而非依賴於大型語言模型（LLM）中儲存的先驗知識，以此減少不準確回答的可能性。
（2）保障回答質量
透過自動化和人工的質量檢驗流程，Intercom 維持 Fin 領域回答的高水準，確保為使用者提供精確且可靠的服務。
2、A/B 測試流程
Intercom 在將每個模型或提示更改部署到一個受控的請求子集之前，會進行細緻的評估，以確保：
（1）提升解決率
確保更新能夠增強響應的準確性和實用性。
（2）提高客戶滿意度
調查評估客戶反饋和客戶滿意度（CSAT）分數。
（3）全面的效能評估
進行大規模的評估，以確保持續的效能和服務質量。
（4）最佳化延遲和效能
嚴格測試以提升響應速度，同時保證響應的準確性不受影響。
3、紅隊策略
為了預防安全漏洞，Intercom 執行了全面的內部滲透測試，具體措施包括：
（1）護欄測試
定期模擬現實世界的攻擊情景，利用 Intercom 平臺的多功能性來檢驗防禦體系的堅固性。
（2）幻覺評估
系統性地評估幻覺對產品行為可能產生的影響，確保在處理大型語言模型（LLM）響應時採用多層次的防禦策略。Intercom 的大規模對話量使我們能夠建立豐富的真實世界幻覺資料集，用以驗證模型的有效性。
這種基於真實世界的測試能力，只有像 Intercom 這樣處理數百萬次對話的領先公司才能實現，它為模型提供了額外的質量保障。
（3）漏洞掃描
採用業界標準的 LLM 漏洞掃描技術來識別並緩解潛在的安全弱點。任何不滿足 Intercom 嚴格安全標準模型都不會被部署。
4、定期審計機制
不足的審計可能導致安全事件未被及時發現以及監管合規性問題。為避免這些問題，Intercom 實施了以下措施：
（1）日誌記錄
保留所有與大型語言模型（LLM）互動的詳盡日誌，確保有清晰的審計路徑可循。
（2）定期審計
執行定期的安全審計，確保符合監管規定和公司內部政策。
（3）績效監控
持續監控關鍵運營指標，包括解決率、偏轉率、使用者反饋（正面和負面）、響應型別與結果分佈，以及響應特徵（如長度和複雜性）。
（4）事件響應
建立事件響應計劃，以便迅速解決審計過程中發現的任何安全問題。
信任：客戶服務創新的基石
在人工智慧重塑客戶服務格局的時代，選擇值得信賴的技術合作夥伴變得至關重要。這種信任不能僅建立在承諾之上，而需要透過持續的行動和可驗證的安全實踐來贏得。
在這個快速發展的領域，保持領先需要不斷學習和適應。作為行業領導者，Intercom 致力於實施超越行業標準的安全措施，響應不斷變化的安全需求，為客戶提供最可靠的資料保護，贏得客戶的長期信任。
