La inteligencia artificial (IA) es esencial para la experiencia de producto de Slack, y nuestro compromiso con la privacidad y la seguridad de datos es fundamental para todo lo que hacemos. Las funciones nativas de IA de Slack se han creado para cumplir estos compromisos. Aquí tienes un resumen: 

• Los datos de los clientes nunca salen de la infraestructura controlada por Slack y no se utilizan para entrenar grandes modelos de lenguaje (LLM). Para obtener más información, lee nuestros Principios de IA. 
• Las funciones de IA en Slack solo funcionan con datos a los que los miembros tienen acceso y cumplen todos los requisitos de seguridad y cumplimiento normativo empresarial de Slack. 
• Los límites de la IA de Slack ofrecen un marco de seguridad de varias capas para nuestras funciones de IA, incluida la nueva versión de Slackbot, que protegen la privacidad de los datos y reducen el riesgo de uso indebido. Para obtener más detalles, revisa nuestras preguntas frecuentes a continuación. 

Preguntas frecuentes

¿Cómo funcionan las funciones de IA en Slack?

Slack utiliza grandes modelos de lenguaje (LLM) de terceros, alojados en nuestra infraestructura segura en la nube, y los datos que ya se encuentran en tu espacio de trabajo o en tu organización de Slack para alimentar una serie de herramientas de productividad de IA personalizadas. Cuando usas las funciones nativas de IA de Slack, aplicamos modelos de clasificación internos (que se ejecutan en nuestra arquitectura segura estándar) para encontrar y ordenar la información más relevante. Cuando los LLM generan una respuesta, se incluye la información en la solicitud de procesamiento, pero no se conserva la información una vez procesada la solicitud. 

¿Mis datos de Slack se usan para entrenar LLM?

Los datos de los clientes nunca se utilizan para entrenar modelos de lenguaje de terceros. En vez de eso, utilizamos una técnica llamada “generación aumentada de recuperación” (RAG) que envía solo los datos necesarios para cada tarea al LLM solo en el momento de la procesamiento. Con RAG, los datos se envían como parte de la solicitud de procesamiento. Aunque el modelo puede almacenarlos temporalmente en caché, no puede guardarlos en una base de datos ni en un disco.

¿Cómo respetan las funciones de IA de Slack la privacidad de los canales y mensajes?

Las funciones de IA de Slack solo utilizan datos de Slack a los que los miembros tienen acceso en el momento de la solicitud y no mostrarán ni utilizarán datos de canales cerrados ni mensajes directos de los que alguien no forme parte. Por ejemplo, las búsquedas de IA de Slack nunca mostrarán resultados que la búsqueda normal de Slack no mostraría. Del mismo modo, los resúmenes y las respuestas de Slackbot no incluirán nunca contenido que no podrías ver de otra forma leyendo canales o mensajes directos.

¿Qué son los límites de la IA de Slack?

Los límites de la IA de Slack son medidas de varias capas diseñadas para proteger la privacidad de los datos, reducir el riesgo de uso indebido y seguir los estándares de seguridad de nivel empresarial. Esto es lo que incluyen: 

• Umbrales de contenido para evitar alucinaciones
• Ingeniería rápida con instrucciones de seguridad explícitas
• Ingeniería contextual para reducir el riesgo de una inyección rápida
• Filtrado URL para evitar ataques de suplantación de identidad
• Validación del formato de salida
• Filtros de seguridad de contenido

Nuestros filtros de seguridad de contenido aplican una capa extra de protección a las funciones de Slack que dependen de las entradas generadas por los usuarios, como las respuestas de búsqueda y Slackbot, para reducir los riesgos asociados al uso indebido y las entradas maliciosas. 

¿Cómo evita Slack la información irrelevante o incorrecta en las respuestas de la IA?

Las respuestas generadas por las funciones de IA de Slack pueden incluir referencias al mensaje original que se usó para crear la respuesta. Selecciona una cita para ir al mensaje original y revísalo para obtener más información o hacer alguna verificación. Slack utiliza un sistema de control de calidad que evalúa los resultados de la IA y avisa al equipo si detecta alucinaciones u otros problemas según los criterios establecidos. Además, las solicitudes enviadas a los LLM durante el uso de funciones de IA siguen las prácticas recomendadas por nuestros proveedores de modelos para garantizar resultados precisos, coherentes y seguros. 

¿Durante cuánto tiempo guardan los datos las funciones de IA en Slack?

Resúmenes de conversaciones y respuestas de búsqueda

Los resúmenes y las respuestas de búsqueda generan respuestas efímeras con IA (por ejemplo, respuestas que desaparecerán cuando salgas de la navegación o cierres el resultado). Esos datos no se almacenan en dispositivos ni en servidores.

Síntesis

Los datos de las síntesis se almacenan durante 90 días para que puedas volver a consultar el historial de síntesis anteriores temporalmente. Si una política de cumplimiento normativo o eliminación borra u oculta los mensajes utilizados en las síntesis (por ejemplo, se elimina un registro de datos), la síntesis almacenada también se eliminará.

Resúmenes del canal generados por un flujo de trabajo

A diferencia de los resúmenes de las conversaciones que los usuarios generan para sí mismos, cuando generas un resumen del canal con el paso del flujo de trabajo Resumir canales abiertos, el resumen que verás no consiste en una respuesta de IA efímera. Según cuáles sean los siguientes pasos del flujo de trabajo, el resumen del canal puede enviarse como mensaje a una conversación o añadirse y almacenarse en un canvas. En estas situaciones, el mensaje o canvas que contenga el resumen generado por IA se mantendrá en Slack, según los ajustes de retención de datos. 

¿Puedo desactivar las funciones de IA o limitar su acceso?

Sí. Los propietarios y administradores pueden decidir qué funciones de IA pueden usar los miembros de su espacio de trabajo o de su organización Enterprise. En los planes Enterprise, los propietarios y administradores de la organización también pueden restringir el acceso a determinadas funciones de IA a usuarios y grupos concretos. Ve a la sección Gestionar el acceso a las funciones de IA en Slack para obtener más información.