Princípios da IA

Nossa abordagem para IA e aprendizado de máquina

No Slack, a inteligência artificial (IA) e o aprendizado de máquina (ML) são o cerne da experiência do produto. Nosso compromisso com a privacidade e a segurança dos dados é fundamental em tudo o que fazemos, garantindo que haja controles robustos em vigor para proteger suas informações. Os recursos nativos da IA do Slack foram criados para manter esse compromisso. Os dados dos clientes (como mensagens e arquivos) nunca são usados para treinar quaisquer LLMs.

Os recursos de IA e ML que criamos têm o objetivo de para tornar o trabalho no Slack mais simples, inteligente e eficiente. Enquanto a IA é uma novidade no Slack, o ML já faz parte da experiência há muito tempo. Neste guia, vamos explicar como essas tecnologias funcionam dentro do Slack e qual a diferença entre elas:

• IA se refere especificamente aos recursos de IA generativa que usam grandes modelos de linguagem (LLMs, na sigla em inglês), como os resumos de canais.
• O ML inclui recursos que usam modelos preditivos. Por exemplo, pode recomendar emojis e sugerir nomes exibidos quando você menciona outros usuários.

IA no Slack

Os recursos de IA estão incluídos nos planos pagos do Slack. Os administradores podem ativar ou desativar os recursos de IA, dando aos clientes controle total sobre como e se a IA é usada em workspaces.

Nossa arquitetura de IA foi projetada com foco na privacidade.

Todos os nossos recursos de IA têm Proteções da IA do Slack, um conjunto de proteções fundamentais integradas. Essas proteções incluem limites de conteúdo que reduzem alucinações, instruções de segurança explícitas que limitam a engenharia de prompt, engenharia de contexto para reduzir os riscos de injeção de prompt, filtragem de URL para evitar ataques de phishing e validação do formato de saída, bem como mitigações do provedor.

As Proteções da IA do Slack também aplicam automaticamente Filtros de segurança de conteúdo como uma camada extra de proteção para os recursos de IA que dependem das entradas geradas pelo usuário. Esses filtros analisam consultas em tempo real para identificar e reduzir conteúdos prejudiciais, tentativas de injeção e riscos de segurança antes que eles cheguem aos sistemas de IA, como o Slackbot e as respostas da pesquisa.

Nossa abordagem quanto à IA baseia-se nestes três princípios:

• Seus dados nunca são utilizados para treinar grandes modelos de linguagem.
  Os dados dos seus clientes no Slack (como mensagens e arquivos) não são usados para treinar LLMs.
• Você controla o que a IA pode acessar:
  Os administradores de workspaces e de organizações podem ativar ou desativar os recursos de IA a qualquer momento, dando aos clientes controle total sobre como a IA é usada. A IA do Slack só funciona com o conteúdo que você já tem permissão para ver. Por exemplo, as respostas da pesquisa com IA só incluirão os resultados que você também encontraria em uma pesquisa padrão.
• Seus dados ficam dentro da infraestrutura confiável do Slack.
  Os LLMs que usamos são implantados no ambiente de nuvem do Slack. Portanto, os provedores de modelos não têm acesso aos seus dados.

Observação: os administradores podem determinar se os membros do workspace ou da organização Enterprise terão acesso aos recursos de IA. Acesse Gerenciar o acesso aos recursos de IA no Slack para saber mais.

Aprendizado de máquina no Slack

Também usamos modelos preditivos de aprendizado de máquina para tornar a experiência do Slack ainda melhor. Quando você vê um emoji que você e seus colegas de equipe usaram recentemente no seletor de emojis ou uma sugestão de preenchimento automático para a encontrar na empresa a pessoa certa com um nome comum, nossos modelos de ML garantem que essas sugestões sejam relevantes e precisas.

• Usamos modelos de aprendizado de máquina para criar experiências personalizadas e de alta qualidade.
• Construímos e treinamos modelos de modo a impossibilitar a reprodução dos dados de clientes, e as respostas geradas pelos modelos não podem ser vinculadas aos dados de um cliente específico.

Dica: acesse os Princípios de privacidade para ter uma visão geral dos princípios que seguimos para o desenvolvimento de produtos no Slack e dos controles do cliente.

Mais informações sobre modelos e dados

Para saber mais sobre os modelos generativos e preditivos que usamos e como eles alimentam nossos recursos de IA e ML, acesse Inteligência artificial, aprendizado de máquina e uso de dados no Slack. Esse recurso traz informações detalhadas para quem deseja entender melhor nossas práticas de dados de IA e ML.