Principios de la IA

Nuestro enfoque de la IA y el aprendizaje automático

La inteligencia artificial (IA) y el aprendizaje automático (ML) están en el núcleo mismo de la experiencia de producto de Slack. Nuestro compromiso con la privacidad y la seguridad de los datos es fundamental en todo lo que hacemos, de modo que contamos con rígidos controles para proteger tu información. Las funciones nativas de IA de Slack se crearon para respetar este compromiso. Tus datos de cliente (como mensajes y archivos) no se utilizan en modo alguno para entrenar ningún modelo grande de lenguaje.

Las funciones de IA y aprendizaje automático que creamos están diseñadas para lograr que el trabajo en Slack sea más sencillo, inteligente y eficiente. Aunque la IA es una incorporación más reciente, el aprendizaje automático tiene mucho tiempo siendo una pieza clave de la experiencia en Slack. Esta guía profundiza en cómo estas tecnologías se integran en Slack y traza una clara distinción entre ellas:

• IA se refiere específicamente a las funciones de IA generativa impulsadas por modelos grandes de lenguaje (LLM, por sus siglas en inglés), como los resúmenes de canales.
• El aprendizaje automático engloba funciones que utilizan modelos predictivos, como recomendaciones de emojis y sugerencias de nombres de Slack al mencionar a otros usuarios.

IA en Slack

Las funciones de IA están incluidas en los planes de pago de Slack. Los administradores pueden activar o desactivar las funciones de IA, lo que brinda a los clientes un control total sobre el uso de la IA en los espacios de trabajo.

Nuestra arquitectura de IA se diseñó con la privacidad como uno de sus pilares principales.

Todas nuestras funciones de IA cuentan con la protección de las Restricciones de IA de Slack, un conjunto de protecciones fundacionales integradas. Estas protecciones incluyen límites para el contenido para reducir las alucinaciones, instrucciones explícitas de seguridad que limitan la ingeniería de indicaciones, ingeniería de contexto para reducir los riesgos de las inyecciones de indicaciones, filtrado de URL para evitar ataques de phishing y validación de formato de salida, además de mitigaciones para proveedores.

Además, las Restricciones de IA de Slack aplican automáticamente filtros de seguridad para contenido como una capa adicional de protección para las funciones de IA que se basan en entradas generadas por el usuario. Estos filtros analizan consultas en tiempo real para identificar y mitigar el contenido peligroso, los intentos de inyección de indicaciones y los riesgos de seguridad antes de que lleguen a los sistemas de IA como Slackbot y las respuestas de búsqueda.

Nuestro enfoque con respecto a la IA se basa en los siguientes tres principios:

• Tú controlas a qué tiene acceso la IA:
  Tus datos de cliente en Slack (como mensajes y archivos) no se utilizan para entrenar ningún modelo grande de lenguaje.
• Tus datos nunca se usan para entrenar modelos grandes de lenguaje.
  Los administradores del espacio de trabajo y la organización pueden activar o desactivar las funciones de IA en cualquier momento, por lo que los clientes tienen un control completo del uso de la IA. IA de Slack solo trabaja con el contenido al que ya tienes permisos de acceso. Por ejemplo, las respuestas de búsqueda de IA solo incluirán resultados que también podrías encontrar en una búsqueda estándar.
• Tus datos se quedan dentro de la infraestructura de confianza de Slack.
  Los modelos grandes de lenguaje que usamos están implementados dentro del entorno de nube de Slack, por lo que los proveedores de modelos no tienen acceso a tus datos.

Nota: Los administradores pueden decidir si los miembros de su espacio de trabajo u organización de Enterprise tienen acceso a nuestras funciones de IA. Visita Administrar el acceso a las funciones de IA en Slack para obtener más información.

Aprendizaje automático en Slack

También utilizamos modelos de aprendizaje automático predictivos para ayudar a mejorar aún más la experiencia en Slack. Cuando ves un emoji que tú y tus compañeros de equipo utilizaron recientemente en el selector de emojis, o una sugerencia de autocompletado que te ayuda a encontrar a la persona exacta que buscas dentro de tu empresa entre varias que se llaman igual, nuestros modelos de aprendizaje automático son responsables de la pertinencia y la precisión de esas sugerencias.

• Los modelos de aprendizaje automático nos permiten brindar experiencias personalizadas de la mayor calidad.
• Creamos y entrenamos modelos para que no puedan reproducir los datos de cliente, y los resultados de los modelos no se pueden vincular a los datos de ningún cliente en concreto.

Consejo: Visita nuestros Principios de privacidad para ver una presentación de los principios que nos rigen a la hora de dar forma al desarrollo de productos en Slack y a los controles de los clientes.

Más información acerca de modelos y datos

Para obtener más información acerca de los modelos generativos y predictivos que usamos y la manera en la que los usan nuestras funciones de IA y ML, visita Inteligencia artificial, aprendizaje automático y uso de datos de Slack. Este recurso brinda información detallada para cualquier persona que quiera entender en mayor profundidad nuestras prácticas de IA y ML relacionadas con los datos.