Slack 的 AI 功能安全性
人工智慧 (AI) 是 Slack 產品體驗的核心,我們對於資料安全性和隱私權的承諾正是我們一切作為的根本。Slack 的原生 AI 功能秉持這些承諾來打造。以下是相關概述:
- 客戶資料絕不會離開 Slack 控管的基礎架構,也絕不會用於訓練大型語言模型 (LLM)。如欲瞭解更多資訊,請閱讀我們的「AI 原則」。
- Slack 的 AI 功能只使用成員有權存取的資料,並且遵守 Slack 的所有企業級安全性與合規性要求。
- Slack AI 安全機制為我們的各項 AI 功能 (包含新版 Slackbot) 提供一個多層級的安全架構,以維護資料隱私權並降低濫用風險。查看下方的常見問題集,瞭解更多詳細資料。
常見問答集
Slack 的 AI 功能如何運作?
Slack 使用託管在我們的安全雲端基礎結構中的第三方大型語言模型 (LLM),並結合你的 Slack 工作空間或組織中既有的資料,提供一套個人化 AI 生產力工具。當你使用 Slack 的原生 AI 功能時,我們會透過內部的排名模型 (在我們的標準安全架構上執行) 尋找最相關的資訊並排序。當 LLM 產生回應時,資訊會包含在推論請求中,但在請求處理完畢後,資訊不會保留。
我的 Slack 資料會用於訓練 LLM 嗎?
客戶資料絕不會用於訓練第三方大型語言模型。相反地,我們使用一種名為「檢索增強生成」(RAG) 的技術,只傳送處理每項任務所需的資料給大型語言模型進行推斷。在使用 RAG 時,資料會作為推論請求的背景資訊一併傳送。模型可能會暫時快取這些資料,但無法將資料儲存在資料庫或磁碟上。
Slack 的 AI 功能如何尊重頻道和訊息隱私權?
Slack 的 AI 功能只會使用成員在請求當下有權存取的 Slack 資料,不會顯示或使用成員未加入的私人頻道或私訊的資料。例如,AI 搜尋功能絕不會顯示任何 Slack 一般搜尋不會出現的結果。同樣地,摘要和 Slackbot 回應中絕不會包含你在讀取頻道或私訊時看不到的內容。
什麼是 Slack AI 安全機制?
Slack AI 安全機制採用多層次措施,以維護資料隱私權,降低濫用風險,並符合企業級的安全性標準。以下是這些機制包括的內容:
- 預防幻覺的內容限制門檻
- 具有明確安全指示的提示工程
- 降低提示插入風險的情境工程
- 可預防網路釣魚攻擊的網址篩選功能
- 輸出設定格式驗證
- 內容安全篩選器
我們的內容安全篩選器為依賴使用者生成輸入的 Slack 功能 (例如搜尋答覆和 Slackbot) 多加了一層保護措施,以降低與濫用及惡意輸入有關的風險。
Slack 如何防止 AI 回應出現不相關或不正確的資訊?
Slack 的 AI 功能可能會在回應中附上來源訊息出處,作為答覆的依據。選取引用內容即可跳至原始訊息,並查看更多詳細資料或進行查證。Slack 採用品質監控系統來評估 AI 的輸出內容,當偵測到幻覺或其他評估指標異常時,便會通知團隊注意品質下降。此外,在使用 AI 功能時傳送給大型語言模型的提示皆會遵循模型供應商的最佳做法,確保呈現的結果準確一致又安全。
Slack 的 AI 功能會將資料保留多久?
對話摘要和搜尋答覆
摘要和搜尋答覆會產生暫時性 AI 回應 (也就是說,你離開頁面或關閉結果後,回應最終會消失),這類資料不會儲存在裝置或伺服器上。
要點回顧
要點回顧資料會儲存 90 天,你可在這段有限的時間內找回過去的要點回顧記錄。如果要點回顧產生摘要的訊息因任何刪除或合規政策而遭到刪除或埋藏 (即有記錄顯示資料已遭刪除),則儲存的要點回顧也會隨之刪除。
工作流程產生的頻道摘要
與使用者自己產生的對話摘要不同,當你使用產生公開頻道摘要工作流程步驟產生頻道摘要時,所產生的摘要不是臨時的 AI 回應。根據工作流程的後續步驟,頻道摘要可以透過訊息傳送至對話,或新增至畫板並儲存。在這些情況下,含有 AI 所產生摘要的訊息或畫板將會根據組織的資料保留設定保留在 Slack 中。
我可以關閉 AI 功能或限制存取權嗎?
是的,擁有者和管理員可以決定工作空間或 Enterprise 組織中的成員可以使用哪些 AI 功能。在 Enterprise 方案中,組織的擁有者和管理員還可以禁止特定使用者和群組使用 AI 功能。請參閱管理 Slack 的 AI 功能存取權瞭解詳情。
