A inteligência artificial (IA) é essencial para a experiência do Slack, e nosso compromisso com a segurança e a privacidade dos dados é fundamental para tudo o que fazemos. Os recursos nativos de IA do Slack foram desenvolvidos para cumprir esses compromissos. Confira uma visão geral: 

• Os dados do cliente nunca saem da infraestrutura controlada pelo Slack e nunca são usados para treinar grandes modelos de linguagem (LLMs). Para obter mais informações, leia nossos Princípios de IA. 
• Os recursos de IA no Slack funcionam apenas com dados aos quais os membros têm acesso e cumprem todos os requisitos de segurança e conformidade de nível empresarial do Slack. 
• As proteções da IA do Slack fornecem uma estrutura de segurança multicamadas para nossos recursos de IA, incluindo a nova versão do Slackbot, que mantêm a privacidade dos dados e mitigam os riscos de uso indevido. Consulte nossas perguntas frequentes abaixo para saber mais detalhes. 

Perguntas frequentes

Como funcionam os recursos de IA no Slack?

O Slack usa grandes modelos de linguagem (LLMs) de terceiros, hospedados em nossa infraestrutura na nuvem segura, além dos dados que já estão em seu workspace ou organização do Slack, para alimentar um conjunto de ferramentas de produtividade de IA personalizadas. Quando você usa os recursos nativos de IA do Slack, aplicamos modelos de classificação internos (executados em nossa arquitetura padrão e segura) para encontrar e classificar as informações mais relevantes. Quando os LLMs geram uma resposta, as informações são incluídas na solicitação de inferência, mas não retêm informações após a solicitação ter sido processada. 

Meus dados do Slack são usados ​​para treinar LLMs?

Os dados dos clientes nunca são usados para treinar LLMs de terceiros. Em vez disso, usamos uma técnica chamada Geração Aumentada de Recuperação (RAG), que envia apenas os dados necessários para cada tarefa ao LLM no momento da inferência. Com a RAG, os dados são enviados no contexto de solicitações de inferência. Embora o modelo possa armazenar temporariamente os dados em cache, ele não pode armazená-los em um banco de dados ou em um disco.

Como os recursos de IA do Slack respeitam a privacidade do canal e da mensagem?

Os recursos de IA do Slack usam apenas os dados do Slack aos quais os membros têm acesso no momento da solicitação e não exibem nem usam dados de canais privados ou mensagens diretas (MDs) dos quais eles não fazem parte. Por exemplo, as pesquisas com IA nunca exibirão resultados que a pesquisa normal do Slack não exibiria. Da mesma forma, os resumos e as respostas do Slackbot nunca terão conteúdo que você não poderia ver ao ler os canais ou as MDs.

O que são as proteções da IA do Slack?

As proteções da IA do Slack são medidas de múltiplas camadas projetadas para manter a privacidade dos dados, mitigar os riscos de uso indevido e alinhar-se com os padrões de segurança de nível empresarial. O que está incluído: 

• Limites de conteúdo para prevenir alucinações
• Engenharia de prompt com instruções de segurança explícitas
• Engenharia de contexto para reduzir o risco de injeção de prompt
• Filtragem de URLs para prevenir ataques de phishing
• Validação do formato de saída
• Filtros de segurança de conteúdo

Nossos filtros de segurança de conteúdo aplicam uma camada adicional de proteção aos recursos do Slack que dependem de entradas geradas pelo usuário, como respostas da pesquisa e Slackbot, para mitigar os riscos associados ao uso indevido e a entradas mal-intencionadas. 

Como o Slack impede informações irrelevantes ou incorretas nas respostas da IA?

As respostas dos recursos de IA no Slack podem incluir citações à mensagem original que foi usada como base para gerar a resposta. Selecione uma citação para ir direto à mensagem original e conferi-la para obter mais detalhes ou verificar. O Slack emprega um sistema de monitoramento de qualidade que avalia os resultados de IA e alerta a equipe sobre possíveis regressões na qualidade, como “alucinações” ou outras falhas detectadas nas métricas de avaliação. Além disso, os avisos enviados aos LLMs durante o uso do recurso de IA seguem as práticas recomendadas de nossos provedores de modelos para garantir resultados precisos, consistentes e seguros. 

Por quanto tempo os recursos de IA manterão os dados no Slack?

Resumos de conversas e respostas da pesquisa

Os resumos e as respostas da pesquisa fornecem respostas efêmeras da IA (por exemplo, as respostas desaparecerão posteriormente quando você sair da navegação ou fechar o resultado), e esses dados não são armazenados em dispositivos ou servidores.

Destaques

Os dados dos destaques ficam armazenados por 90 dias para permitir que você reveja o histórico de destaques anteriores. Se as mensagens usadas nos destaques forem excluídas ou ocultadas (por exemplo, um registro para mostrar dados foi excluído) por qualquer política de exclusão ou conformidade, os destaques armazenados também serão excluídos.

Resumos de canal gerados por um fluxo de trabalho

Ao contrário dos resumos de conversas que os usuários geram para si mesmos, quando você gera um resumo de canal com a etapa de fluxo de trabalho Resumir canais públicos , o resumo resultante não é uma resposta rápida da IA. Dependendo das etapas subsequentes do fluxo de trabalho, o resumo do canal pode ser enviado como uma mensagem para uma conversa ou adicionado e armazenado em um canvas. Nessas situações, a mensagem ou canvas contendo o resumo gerado pela IA será retido no Slack de acordo com as configurações de retenção de dados da sua organização. 

Posso desativar os recursos de IA ou limitar o acesso?

Sim. Os proprietários e administradores podem decidir quais recursos de IA os membros do workspace ou da organização Enterprise podem usar. Nos planos Enterprise, os proprietários e administradores de organizações também podem limitar o acesso aos recursos de IA a determinados usuários e grupos. Vá para Gerenciar o acesso aos recursos de IA no Slack para saber mais detalhes.