Los límites de la IA de Slack son una serie de protecciones para todas las funciones nativas de la IA de Slack. Para garantizar que todo el mundo con acceso a las funciones de IA en Slack pueda usarlas de forma segura, los límites incluyen varios mecanismos de protección: 

• Umbrales de contenido para evitar alucinaciones
• Ingeniería rápida con instrucciones de seguridad explícitas
• Ingeniería contextual para reducir el riesgo de una inyección rápida
• Filtrado URL para evitar ataques de suplantación de identidad
• Validación del formato de salida
• Filtros de seguridad de contenido

Cómo funcionan los límites

Nuestros límites son una capa adicional de protección que se suma a las medidas de seguridad integradas en los grandes modelos lingüísticos (LLM) en los que confían todas las funciones de IA en Slack. Entre ellos, se incluyen medidas de seguridad en el lado del prompt que se activan antes de enviar las solicitudes a un LLM para garantizar que las respuestas sean seguras y estén protegidas.

Si una solicitud o respuesta no pasa las comprobaciones de seguridad de los límites, Slack puede modificar o bloquear solicitudes y contenido generado para reducirlas. En la mayoría de los casos, se guía a los usuarios hacia un lugar seguro mediante respuestas generadas por IA. Por ejemplo, se tuvieras que preguntar a Slackbot quién es tu compañero/a de trabajo menos productivo/a, te dirá que no puede responder y puede que te sugiera hacer otra pregunta. 

Gestionar la configuración del filtro de seguridad de contenido

Nuestros filtros de seguridad de contenido se aplican a las funciones de la IA de Slack que depende de la información aportada por los usuarios para mitigar los riesgos asociados al uso indebido y la actividad maliciosa:  

• Slackbot
  Tu agente personal para el trabajo integrado directamente en Slack.
• Creación de contenido de canvas
  Usa la IA para crear un canvas desde cero o añadir contenido a un canvas existente.
• Búsqueda
  Haz una pregunta y obtén una respuesta de la IA en lugar de rebuscar en los resultados de la búsqueda.
• Creación de flujos de trabajo
  Describe una tarea o un proceso que quieras automatizar y la IA creará un flujo de trabajo por ti.

Los propietarios y administradores pueden ajustar la configuración de los filtros de seguridad de contenido para cumplir con las políticas internas y los requisitos normativos regionales, o para evitar que se bloquee el uso legítimo de la IA (como plantear preguntas sobre políticas o buscar información sobre seguridad). 

Ajustes disponibles

Estos son los ajustes disponibles:  

• Máximos
  Diseñados para evitar la elaboración de perfiles, como la información de rendimiento o confidencial, además de los filtros de seguridad de contenido predeterminados 
• Predeterminadas
  Concebidas para impedir los ataques de prompts, la violencia, el discurso de odio, el contenido sexual y otras actividades ilegales.
• Ninguno
  No se aplican filtros adicionales de seguridad de contenido. Al seleccionar Ninguno, no se desactivan otras medidas de seguridad de los límites de IA de Slack.

Gestionar ajustes

Los propietarios y administradores de espacios de trabajo (en los planes Pro, Business+ y Enterprise Select), así como los propietarios y administradores de organizaciones (en los planes Enterprise Grid y Enterprise+), pueden gestionar los ajustes del filtro de seguridad de contenido.