Slack AI 安全护栏是一套针对所有原生 Slack AI 功能的保护机制。为了确保每一位有权使用 Slack 中 AI 功能的成员都能安全使用，安全护栏包含以下几项保护机制： 

• 内容阈值，用于防止幻觉
• 具备明确安全说明的提示工程
• 旨在减少提示注入风险的上下文工程
• 旨在防止网络钓鱼攻击的网址筛选器
• 输出格式验证
• 内容安全筛选器

安全护栏的工作原理

我们的安全护栏是在 Slack 所有 AI 功能所依赖的大型语言模型 (LLMs) 内置安全措施之上的额外保护层。它们包括在请求发送至 LLM 之前调用的提示词侧安全措施，以确保回复安全可靠。

如果请求或响应未通过安全护栏的安全检查，Slack 可能会修改或阻止请求及生成的内容，以减少危害。在大多数情况下，系统会通过 AI 生成的响应引导用户返回安全路径。例如，如果你问 Slackbot 谁是你工作效率最低的同事，它会告诉你它无法回答，并可能建议你换一个问题。 

管理内容安全过滤器设置

我们的内容安全过滤器适用于依赖用户生成输入来降低滥用和恶意活动风险的 Slack AI 功能： 

• Slackbot
  你工作中的私人代理，直接内置于 Slack。
• 画板内容建立
  使用 AI 从零开始建立画板，或向现有画板添加内容。
• 搜索
  向 AI 提问并获取答案，无需在海量搜索结果中翻找。
• 工作流程建立
  描述你想要自动化的任务或流程，AI 将为你建立工作流程。

拥有者和管理员可以调整内容安全过滤器的设置，以符合内部政策和区域监管要求，或防止阻止合法的 AI 使用（例如询问政策问题或搜索安全信息）。 

可用设置

以下是可用的设置选项： 

• 最高
  在默认内容安全过滤器的基础上，还旨在拦截针对员工的目标性画像，如绩效和受保护类别信息。 
• 默认
  旨在拦截提示词攻击、暴力语言、仇恨言论、色情内容及其他非法活动。
• 无
  未应用额外内容安全过滤器。若你选择无，所有其他 Slack AI 护栏安全措施仍将保留。

管理设置

工作区拥有者和管理员（适用于专业套餐、企业增强套餐和企业优选套餐）以及组织拥有者和管理员（适用于 Enterprise Grid 和 Enterprise+）可以管理内容安全过滤器设置。