Principios de IA

Nuestro enfoque de IA y aprendizaje automático

En Slack, la inteligencia artificial (IA) y el aprendizaje automático (ML) son fundamentales para la experiencia de nuestro producto. Nuestro compromiso con la privacidad y la seguridad de los datos es fundamental en todo lo que hacemos, asegurando que existan controles sólidos para proteger tu información. Las funciones de IA nativas de Slack se han diseñado con este compromiso en mente. Tus datos de cliente (como mensajes y archivos) nunca se utilizan para entrenar LLM.

Las funciones de IA y aprendizaje automático que desarrollamos están diseñadas para que trabajar en Slack sea más sencillo, inteligente y eficiente. Aunque la IA es nueva en Slack, el aprendizaje automático ha sido durante mucho tiempo una parte clave de la experiencia de Slack. Esta guía explica cómo estas tecnologías están integradas en Slack y la clara distinción entre ellas:

• La IA se refiere específicamente a las funciones de IA generativa impulsadas por modelo grande de lenguaje (LLM), como los resúmenes de canales.
• El aprendizaje automático abarca funciones que utilizan modelos predictivos, como las recomendaciones de emojis y las sugerencias de nombre de Slack al mencionar a otros usuarios.

IA en Slack

Las funciones de IA están incluidas en los planes de pago de Slack. Los administradores pueden activar o desactivar las funciones de IA, lo que proporciona a los clientes un control total sobre cómo se utiliza la IA en sus espacios de trabajo.

Nuestra arquitectura de IA se diseñó teniendo en cuenta la privacidad.

Todas nuestras funciones de IA están protegidas por los límites de IA de Slack, un conjunto de protecciones integradas. Estas protecciones incluyen umbrales de contenido que reducen las alucinaciones, instrucciones de seguridad concretas que limitan la ingeniería de solicitudes y la ingeniería de contexto para reducir la generación de riesgos en las solicitudes, así como el filtrado para evitar ataques de phishing, la validación de formato de salida y las mitigaciones de proveedores.

Los límites de IA de Slack también aplican automáticamente filtros de seguridad de contenido para aportar todavía más protección para las funciones de IA que dependen del contenido generado por los usuarios. Estos filtros analizan consultas en tiempo real para identificar y mitigar contenido perjudicial, intentos de inyección de solicitudes y riesgos de seguridad antes de que alcancen los sistemas de IA, como Slackbot o las respuestas de búsqueda.

Nuestra estrategia de IA se basa en estos tres principios:

• Puedes decidir a qué contenido puede acceder la IA:
  Tus datos de cliente en Slack (como los mensajes y archivos) no se utilizan para entrenar LLM.
• Tus datos nunca se usarán para entrenar modelos grandes de lenguaje.
  Los administradores de espacios de trabajo y organizaciones pueden habilitar o deshabilitar las funciones de IA en cualquier momento, de forma que los clientes tengan todo el control sobre la manera de usar la IA. IA de Slack solo funciona con el contenido que puedas ver. Por ejemplo, las respuestas de búsqueda de IA solo incluirán resultados que también podrías encontrar en una búsqueda estándar.
• Tus datos permanecen en la infraestructura de confianza de Slack.
  Los LLM que usamos se implementan en el entorno de nube de Slack, por lo que los proveedores de modelos no tendrán acceso a tus datos.

Nota: Los administradores pueden decidir si los miembros de su espacio de trabajo o de su organización Enterprise tienen acceso a nuestras funciones de IA. Ve a la sección Gestionar el acceso a las funciones de IA en Slack para obtener más información.

Aprendizaje automático en Slack

También utilizamos modelos predictivos de aprendizaje automático con el objetivo de hacer que la experiencia de Slack sea aún mejor. Cuando ves un emoji que tu y tus compañeros de equipo habéis utilizado recientemente en el selector de emojis, o una sugerencia de autocompletado para ayudar a encontrar a la persona correcta en tu empresa con un nombre común, nuestros modelos de aprendizaje automático son responsables de la relevancia y precisión de esas sugerencias.

• Los modelos de aprendizaje automático nos permiten ofrecer experiencias personalizadas de alta calidad.
• Creamos y entrenamos modelos de manera que no puedan reproducir los datos de los clientes, y los resultados de los modelos no puedan vincularse a los datos de un cliente específico.

Consejo: Consulta nuestros Principios de privacidad para obtener un resumen de los principios que seguimos para guiar el desarrollo de productos en Slack y los controles para los clientes.

Más información sobre los modelos y los datos

Para obtener más información sobre los modelos generativos y predictivos que usamos y cómo se aprovechan para nuestras funciones de IA y aprendizaje automático, visita Inteligencia artificial, aprendizaje automático y uso de datos de Slack. Este recurso ofrece información detallada para aquellas personas que quieran comprender mejor nuestras prácticas de datos con IA y aprendizaje automático.