La inteligencia artificial (UA) es esencial para la experiencia de producto se Slack, y nuestro compromiso con la seguridad de datos y la privacidad es fundamental en todo lo que hacemos. Las funciones nativas de IA de Slack se crearon para respetar ese compromiso. Aquí verás un resumen: 

• Los datos de los clientes nunca salen de la infraestructura controlada de Slack y no se usan para entrenar modelos grandes de lenguaje (LLM). Para obtener más información, lee nuestros Principios de la IA. 
• Las funciones de IA en Slack solo pueden usarse con los datos a los que los miembros tienen acceso y respetan todos los requisitos de seguridad y cumplimiento de nivel empresarial de Slack. 
• Las restricciones de IA de Slack proporcionan un marco de seguridad multicapa para nuestras funciones de IA, incluyendo la nueva versión de Slackbot, que respeta la privacidad de los datos y mitiga los riesgos de uso indebido. Revisa nuestras preguntas frecuentes a continuación para obtener más información. 

Preguntas frecuentes

¿Cómo funcionan las funciones de IA en Slack?

Slack utiliza modelos grandes de lenguaje (LLM) de terceros, alojados en nuestra infraestructura segura en la nube, y los datos que ya se encuentran en tu espacio de trabajo u organización de Slack para impulsar un conjunto de herramientas personalizadas de productividad de IA. Cuando usas las funciones nativas de IA en Slack, aplicamos modelos locales de clasificación (que se ejecutan en nuestra arquitectura segura estándar) para buscar y ordenar la información más relevante. Cuando los LLM generan una respuesta, la información se incluye en la solicitud de inferencia, pero no conservan la información luego de haber procesado la solicitud. 

¿Mis datos de Slack se usan para entrenar LLM?

Nunca se usan datos del cliente para entrenar LLM de terceros. En su lugar, se utiliza una técnica llamada generación aumentada por recuperación (RAG) que envía solo los datos necesarios para cada tarea al LLM en el momento de la inferencia. Con la RAG, los datos se envían en el contexto de las solicitudes de inferencia. Aunque es posible que el modelo almacene los datos de forma temporal, no es capaz de almacenar los datos en una base de datos o un disco.

¿De qué manera las funciones de IA de Slack respetan la privacidad de los canales y mensajes?

Las funciones de IA de Slack solo usan datos de Slack a los que los miembros tengan acceso en el momento de la solicitud y no mostrarán ni utilizarán datos de canales privados o de conversaciones de mensajes directos de los que no formen parte. Por ejemplo, las búsquedas de IA nunca mostrarán resultados que no podrían verse en una búsqueda normal de Slack. De manera similar, los resúmenes y las respuestas de Slackbot nunca incluirán contenido que, de otro modo, no podrías ver mientras lees canales o mensajes directos.

¿Qué son las restricciones de IA de Slack?

Las restricciones de IA de Slack son medidas multicapa diseñadas para garantizar la privacidad de los datos, mitigar los riesgos de uso indebido y cumplir con los estándares de seguridad de nivel empresarial. Incluyen lo siguiente: 

• Límites para el contenido cuyo propósito es prevenir las alucinaciones
• Ingeniería de indicaciones con instrucciones explícitas de seguridad
• Ingeniería de contexto para reducir el riesgo de inyección de indicaciones
• Filtrado de URL para prevenir ataques de suplantación de identidad
• Validación de formato de salida
• Filtros de seguridad del contenido

Nuestros filtros de seguridad del contenido aplican una capa adicional de protección a las funciones de Slack que se basan en entradas generadas por los usuarios, como respuestas de búsqueda, y en Slackbot para mitigar los riesgos asociados con el uso indebido y las entradas maliciosas. 

¿De qué manera Slack previene la información irrelevante o incorrecta en las respuestas de la IA?

Las respuestas de las funciones de IA de Slack pueden incluir citas al mensaje de origen que se usó para fundamentar la respuesta. Selecciona una cita para ir al mensaje original y revisarlo para obtener más detalles o realizar una verificación. Slack usa un sistema de monitorización de alta calidad que evalúa los resultados de la IA. Este sistema alerta al equipo si se ve afectada la calidad una vez que las evaluaciones detectan alucinaciones u otras métricas de evaluación. Además, las indicaciones que se envían a LLM durante el uso de las funciones de IA siguen las mejores prácticas de nuestros proveedores de modelos para garantizar resultados precisos, consistentes y seguros. 

¿Por cuánto tiempo conservarán datos las funciones de IA en Slack?

Resúmenes de conversaciones y respuestas de búsqueda

Los resúmenes y las respuestas de búsqueda producen respuestas de IA efímeras (por ejemplo, con el tiempo las respuestas desaparecerán cuando te alejes o cierres el resultado), y esos datos no se almacenan en dispositivos ni servidores.

Síntesis

Los datos de las síntesis se almacenan por 90 días para que puedas revisar su historial. Si los mensajes que se utilizan en la síntesis se eliminan o se ocultan (por ejemplo, se eliminó un registro para mostrar datos) conforme a cualquier política de eliminación o cumplimiento, la síntesis almacenada también se eliminará.

Canaliza los resúmenes generados por un flujo de trabajo

A diferencia de los resúmenes de las conversaciones que generan los usuarios por sí mismos, cuando generas un resumen del canal con el paso del flujo de trabajo para resumir canales públicos, el resumen que recibes no es una respuesta temporal de IA. Según los pasos posteriores del flujo de trabajo, el resumen del canal se puede enviar como mensaje en una conversación o se puede agregar y almacenar en un canvas. En estos casos, el mensaje o el canvas que contiene el resumen generado con IA se conservará en Slack de acuerdo con los ajustes de conservación de datos de tu organización. 

¿Puedo desactivar las funciones de IA o limitar el acceso a ellas?

Sí. Los propietarios y los administradores pueden determinar a cuáles funciones de IA tienen acceso los miembros de su espacio de trabajo u organización Enterprise. En los planes Enterprise, los propietarios y administradores de la organización también pueden limitar el acceso a las funciones de IA para usuarios o grupos específicos. Ve a Administrar el acceso a las funciones de IA en Slack para obtener más detalles.