Principios de la IA

Nuestro enfoque de la IA y el aprendizaje automático

La inteligencia artificial (IA) y el aprendizaje automático (ML) están en el núcleo mismo de la experiencia de producto de Slack. Nuestro compromiso con la privacidad y la seguridad de los datos es fundamental en todo lo que hacemos, de modo que contamos con rígidos controles para proteger tu información. Tus datos de cliente (como mensajes y archivos) no se utilizan en modo alguno para entrenar ningún LLM.

Las funciones de IA y aprendizaje automático que creamos están diseñadas para lograr que el trabajo en Slack sea más sencillo, inteligente y eficiente. Aunque la IA es una incorporación más reciente, el aprendizaje automático tiene mucho tiempo siendo una pieza clave de la experiencia en Slack. Esta guía profundiza en cómo estas tecnologías se integran en Slack y traza una clara distinción entre ellas:

• IA se refiere específicamente a las funciones de IA generativa impulsadas por modelos grandes de lenguaje (LLM, por sus siglas en inglés), como los resúmenes de canales.
• El aprendizaje automático engloba funciones que utilizan modelos predictivos, como recomendaciones de emojis y sugerencias de nombres de Slack al mencionar a otros usuarios.

IA en Slack

Las funciones de IA están incluidas en los planes de pago de Slack. Los administradores pueden activar o desactivar las funciones de IA, lo que brinda a los clientes un control total sobre el uso de la IA en los espacios de trabajo.

Nuestra arquitectura de IA se diseñó con la privacidad como uno de sus pilares principales:

All of our AI features are protected by Slack AI Guardrails, a set of built-in foundational protections. These safeguards include content thresholds that reduce hallucinations, explicit safety instructions that limit prompt engineering, context engineering to reduce prompt injection risks, URL filtering to prevent phishing attacks, and output format validation, as well as provider mitigations.

The Slack AI Guardrails also automatically apply Content Safety Filters as another protective layer for AI features that rely on user-generated inputs. These filters analyze queries in real time to identify and mitigate harmful content, prompt injection attempts, and security risks before they reach AI systems like Slackbot and Search Answers.

Our approach to AI is grounded in these three principles:

• You control what AI can access:
  Your Customer Data in Slack (like messages and files) are not used to train LLMs.
• Your data is never used to train large language models.
  Workspace and organization admins can turn AI features on or off at any time, giving customers full control over how AI is used. Slack AI only works with content you already have permission to view. For example, AI search answers will only include results you could also find in a standard search.
• Your data stays within Slack’s trusted infrastructure.
  The LLMs we use are deployed inside Slack’s cloud environment, so model providers do not have access to your data.

Nota: Los administradores pueden decidir si los miembros de su espacio de trabajo u organización de Enterprise tienen acceso a nuestras funciones de IA. Visita Administrar el acceso a las funciones de IA en Slack para obtener más información.

Aprendizaje automático en Slack

También utilizamos modelos de aprendizaje automático predictivos para ayudar a mejorar aún más la experiencia en Slack. Cuando ves un emoji que tú y tus compañeros de equipo utilizaron recientemente en el selector de emojis, o una sugerencia de autocompletado que te ayuda a encontrar a la persona exacta que buscas dentro de tu empresa entre varias que se llaman igual, nuestros modelos de aprendizaje automático son responsables de la pertinencia y la precisión de esas sugerencias.

• Los modelos de aprendizaje automático nos permiten brindar experiencias personalizadas de la mayor calidad.
• Creamos y entrenamos modelos para que no puedan reproducir los datos de cliente, y los resultados de los modelos no se pueden vincular a los datos de ningún cliente en concreto.

Consejo: Visita nuestros Principios de privacidad para ver una presentación de los principios que nos rigen a la hora de dar forma al desarrollo de productos en Slack y a los controles de los clientes.

Más información acerca de modelos y datos

Para obtener más información acerca de los modelos generativos y predictivos que usamos y la manera en la que los usan nuestras funciones de IA y ML, visita Inteligencia artificial, aprendizaje automático y uso de datos de Slack. Este recurso brinda información detallada para cualquier persona que quiera entender en mayor profundidad nuestras prácticas de IA y ML relacionadas con los datos.