Las restricciones de IA de Slack son un conjunto de protecciones para todas las funciones nativas de IA de Slack. Para garantizar que todas las personas que tengan acceso a las funciones de IA en Slack puedan usarlas de manera segura, las restricciones incluyen varios mecanismos de protección: 

• Límites para el contenido cuyo propósito es prevenir las alucinaciones
• Ingeniería de indicaciones con instrucciones explícitas de seguridad
• Ingeniería de contexto para reducir el riesgo de inyección de indicaciones
• Filtrado de URL para prevenir ataques de suplantación de identidad
• Validación de formato de salida
• Filtros de seguridad del contenido

Cómo funcionan las restricciones

Las restricciones son una capa adicional de protección que se agrega a las medidas de seguridad integradas en los modelos grandes de lenguaje (LLM) en las que se apoyan todas las funciones de IA de Slack. Incluyen medidas de seguridad de prompts que se activan antes de que se envíen solicitudes a un LLM para garantizar que las respuestas se basen en datos y sean seguras.

Si una solicitud o respuesta no satisface las verificaciones de seguridad de las restricciones, Slack puede modificar o bloquear las solicitudes y el contenido generado para reducir los daños. En la mayoría de los casos, se restaura la seguridad de los usuarios por medio de respuestas generadas con IA. Por ejemplo, si le preguntas a Slackbot quién es tu compañero de trabajo con menor productividad, te dirá que no puede responderte y es posible que te sugiera que hagas otra pregunta. 

Administra los ajustes de los filtros de seguridad del contenido

Los filtros de seguridad del contenido se aplican a las funciones de IA de Slack que se basan en información ingresada por los usuarios para mitigar los riesgos asociados con el uso indebido y la actividad maliciosa:  

• Slackbot
  Tu agente personal para el trabajo integrado directamente en Slack.
• Creación de contenido en canvas
  Usa IA para crear un canvas desde cero o agregar contenido a un canvas ya creado.
• Búsqueda
  Haz una pregunta y obtén una respuesta generada con IA en lugar de examinar los resultados de la búsqueda.
• Creación de flujos de trabajo
  Describe una tarea o un proceso que quieras automatizar, y la IA creará un flujo de trabajo.

Los propietarios y administradores pueden precisar los ajustes de los filtros de seguridad del contenido para cumplir con las políticas internas y los requisitos regulatorios regionales, así como para evitar la implementación de restricciones sobre el uso legítimo de la IA (como hacer preguntas sobre políticas o buscar información de seguridad). 

Ajustes disponibles

Estos son los ajustes disponibles:  

• Máximo
  Tiene como propósito evitar la categorización apuntada a los empleados, como la búsqueda de información de desempeño o de clases protegidas, en conjunto con los filtros de seguridad del contenido. 
• Predeterminado
  Tiene como propósito bloquear los ataques de prompts, el lenguaje violento, los discursos de odio, el contenido sexual y otras actividades ilegales.
• Ninguno
  No se aplican filtros de seguridad del contenido adicionales. Si se selecciona Ninguno, no se desactivan otras medidas de seguridad de las restricciones de IA de Slack.

Administrar ajustes

Los propietarios y los administradores del espacio de trabajo (con planes Pro, Business+ y Enterprise Select) y los propietarios y administradores de la organización (con planes Enterprise Grid y Enterprise+) pueden administrar los ajustes de filtros de seguridad del contenido.