Princípios de privacidade: pesquisa, aprendizado e inteligência artificial

Nossa missão é criar um produto que simplifique a vida no trabalho, tornando-a mais agradável e mais produtiva. Nosso princípio orientador ao criar o produto é que a privacidade e a segurança dos Dados do Cliente são sagradas, conforme detalhado na Política de Privacidade, na Documentação de Segurança, na SPARC e nos Termos do Slack.

Machine learning (ML) e Inteligência artificial (IA) são ferramentas poderosas que usamos de maneiras limitadas para aprimorar a missão do produto. Nós não criamos LLMs ou outros modelos generativos usando dados de clientes. Para criar modelos de IA/ML não generativos para recursos como emojis e recomendações de canal, nossos sistemas analisam os Dados do Cliente (por exemplo, mensagens, conteúdo e arquivos) enviados para o Slack, bem como Outras Informações (incluindo informações de uso), conforme definidas na Política de Privacidade e no contrato com o cliente. Para garantir a privacidade e a segurança dos Dados do Cliente nesse contexto específico, temos alguns princípios orientadores:

Os dados não serão vazados nos workspaces. Em relação a modelos que serão amplamente utilizados por todos os nossos clientes, não os construímos nem os treinamos de forma que possam aprender, memorizar ou ser capazes de reproduzir qualquer parte dos Dados do Cliente.
Temos controles técnicos implementados para impedir o acesso. Durante o desenvolvimento de modelos de IA/AM ou a análise de Dados do Cliente, o Slack não pode acessar o conteúdo subjacente. Temos várias medidas técnicas para evitar que isso aconteça. Leia nosso White Paper de Segurança para mais informações sobre esses controles que protegem a confidencialidade e a segurança dos Dados do Cliente.
Oferecemos aos Clientes o poder de escolha em relação a essas práticas. Se quiser excluir seus Dados do Cliente do treinamento dos modelos globais do Slack, você poderá fazer isso. Se você optar por removê-los, os Dados do Cliente no seu workspace só serão usados para melhorar a experiência no seu próprio workspace, e você ainda aproveitará todos os benefícios dos modelos de IA/AM treinados globalmente sem contribuir com os modelos subjacentes.

Entre em contato conosco para fazer isso. Se quiser excluir seus Dados do Cliente dos modelos globais do Slack, você poderá fazer isso. Basta que os proprietários principais, da organização ou do workspace entrem em contato com a equipe de Experiência do cliente pelo e-mail feedback@slack.com, informar o URL do workspace/organização e inserir na linha de assunto “Solicitação de exclusão do modelo global do Slack”. Vamos processar sua solicitação e responder quando a exclusão for concluída.

Dados do cliente e outras informações

Como o Slack pode usar os dados do cliente (por exemplo, mensagens, conteúdo, arquivos) e Outras Informações para atualizar nossos serviços

Considerando os princípios acima, aqui estão alguns exemplos de melhorias e técnicas de proteção de privacidade que nossas equipes de produtos e análises podem usar para desenvolver, atualizar e aprimorar o Slack:

Recomendações de canal: Podemos usar insights para recomendar que um usuário entre em um novo canal público da empresa dele. Fazemos essas sugestões com base nos membros, na atividade e nas correspondências de assunto dos canais. Nosso modelo aprende com sugestões anteriores e com o fato de o usuário entrar ou não no canal que recomendamos. Nós protegemos a privacidade dos usuários durante esse processo, pois separamos nosso modelo dos Dados do Cliente. Usamos modelos externos (que não são treinados com as mensagens do Slack) para avaliar a similaridade dos assuntos, gerando pontuações numéricas. Nosso modelo global só faz recomendações com base nessas pontuações numéricas e em informações que não sejam Dados do Cliente. Para detalhes mais técnicos, visite nosso Blog de engenharia e saiba mais.
Resultados de pesquisa: Nossos modelos de aprendizado de máquina para pesquisa ajudam os usuários a encontrar o que buscam, identificando os resultados certos para uma consulta específica. Fazemos isso com base nos resultados de pesquisa e engajamentos anteriores sem aprender com o texto subjacente da consulta, do resultado ou do proxy da pesquisa. Em outras palavras, nosso modelo não consegue recriar a consulta ou o resultado da pesquisa. Em vez disso, ele aprende com informações contextuais específicas da equipe, como o número de cliques em uma mensagem em uma pesquisa ou a correspondência entre o número de palavras na consulta e na mensagem recomendada.
Preenchimento automático: O Slack pode fazer sugestões para completar pesquisas ou outros textos, como preencher automaticamente a frase “Suporte ao cliente” após um usuário digitar as primeiras letras da frase. Essas sugestões são locais e retiradas de frases de mensagens públicas comuns no workspace do usuário. Nosso algoritmo que escolhe possíveis sugestões é treinado usando frases sugeridas e aceitas previamente no mundo todo. Nós protegemos a privacidade dos dados usando regras que pontuam de várias formas a similaridade entre o texto digitado e a sugestão. Uma delas é o uso exclusivo de pontuações e contagens numéricas de interações anteriores no algoritmo.
Sugestão de emoji: O Slack pode sugerir reações de emoji a mensagens de acordo com o conteúdo e o sentimento da mensagem, o histórico e a frequência de uso do emoji na equipe em vários contextos. Por exemplo, se 🎉 for uma reação comum a mensagens de celebração em um canal específico, vamos sugerir que os usuários reajam a mensagens novas e igualmente positivas com 🎉. Para fazer isso e ainda proteger os Dados do Cliente, podemos usar um modelo externo (que não é treinado com as mensagens do Slack) para classificar o sentimento da mensagem. Nesse caso, nosso modelo sugere um emoji levando em consideração apenas a frequência com a qual um emoji específico foi associado a mensagens com esse sentimento no workspace em questão.

Esses tipos de personalizações e melhorias ponderadas só são possíveis se estudarmos e entendermos como nossos usuários interagem com o Slack.

O Slack leva a sério a privacidade, e nossas obrigações de confidencialidade descritas nos nossos contratos com clientes e Política de Privacidade aplicam-se a cada um destes cenários. Os clientes são proprietários dos seus próprios Dados do Cliente. O Slack agrega e desassocia os Dados do Cliente, de modo que o uso dos Dados do Cliente pelo Slack para atualizar os Serviços nunca identificará nenhum de nossos clientes ou indivíduos como fonte de qualquer uma dessas melhorias para terceiros, exceto para as afiliadas ou os subprocessadores do Slack.

IA generativa

A IA generativa é uma nova categoria dos sistemas de IA que pode gerar conteúdo, como textos, em resposta a solicitações/indicações de um usuário. Esta categoria de IA inclui os Modelos de linguagem de grande escala (LLMs). O Slack usa IA generativa em sua oferta de produto IA do Slack, potencializando LLMs de terceiros.

Os clientes adquirem a IA do Slack como um complemento, e a funcionalidade IA generativa não está incluída na oferta padrão do Slack. Nenhum dado do cliente é usado para treinar modelos LLM de terceiros. O Slack não treina LLMs nem outros modelos generativos com Dados do Cliente, nem compartilha Dados do Cliente com qualquer provedor de LLM. Saiba mais sobre Como criamos a IA do Slack para ser segura e privada.

A IA do Slack usa LLMs prontos para uso em que os modelos não são atualizados com os Dados do Cliente nem retêm tais dados após receber uma solicitação. Além disso, como a IA do Slack hospeda estes modelos em sua própria infraestrutura AWS, os Dados do Cliente nunca ultrapassam as barreiras confiáveis do Slack, e os provedores de LLM nunca têm qualquer acesso aos Dados do Cliente.

Respostas da pesquisa generativa feita pela IA do Slack

A função de pesquisa da IA do Slack obtém informações das seguintes fontes: Recursos do Slack (canvas, anotações nos canvas dos círculos, transcrições de clipes e snippets de texto); arquivos enviados ao Slack (PDFs, e-mails, docx, pptx e Keynote); documentos vinculados, provenientes do Google Drive (Documentos e Apresentações); Sharepoint/OnDrive (Word e PowerPoint) e apps de parceiros relacionados a armazenamento de arquivos como o Box (quando instalados). Para acessar esses arquivos, o usuário precisa ser autenticado por meio da integração com o Slack. Nas configurações do administrador, há opções para desativar todos os resultados de arquivo ou desativar a obtenção de arquivos hospedados externamente. Saiba mais na Central de Ajuda ou na apresentação sobre o guia do administrador.