Como proteger os agentes de IA empresariais

As empresas estão em um momento decisivo. À medida que a inteligência artificial transforma a maneira como as equipes colaboram, líderes de TI enfrentam um grande desafio: possibilitar a inovação enquanto mantêm os padrões de segurança que protegem os dados organizacionais em grande escala.

Se você está avaliando plataformas de colaboração, provavelmente está lidando com perguntas difíceis sobre segurança de dados, governança e os riscos emergentes que surgem com trabalhos com tecnologia de IA. As decisões que você tomar hoje determinarão se a sua organização poderá aproveitar os ganhos de produtividade da IA com segurança.

O desafio do permissionamento excessivo

Hoje, muitas organizações estão descobrindo que os modelos de acesso a dados atuais não foram criados para um mundo com tecnologia de IA. Quando os funcionários tiveram amplo acesso a arquivos e canais, os riscos eram limitados pelo julgamento humano e processos manuais. Agora, os sistemas de IA herdam essas mesmas permissões enquanto processam informações a uma escala incomparável.

É aqui que o Slack difere dos conjuntos tradicionais de produtividade. Não pensamos na segurança de IA em segundo plano. Criamos um modelo de segurança chamado “permissionamento excessivo em primeiro plano” que parte do princípio de que a IA irá amplificar as estruturas de permissão existentes e age para lidar com esses riscos à medida que são identificados em tempo real.

Como a arquitetura do Slack é diferente

Controles de acesso em tempo real que funcionam

Diferente de sistemas de permissão estáticos, nossa API de Pesquisa em Tempo Real (RTS) garante que alterações ao acesso de dados podem ser refletidas instantaneamente. Sistemas seguros de IA sempre refletem as permissões de fonte mais atualizadas disponíveis.

Isso não é sobre sincronizar permissões a cada hora. É sobre manter limites de segurança em tempo real à medida que as necessidades de acesso da sua organização evoluem. Quando você revoga o acesso de alguém a um documento confidencial, essa alteração se reflete na próxima consulta do usuário em todos os sistemas de IA que possam interagir com esses dados. Você não espera por tarefas de sincronização durante a noite que deixam lacunas de segurança.

Cumprimento à privacidade multiplataforma

Outra vantagem significativa do Slack é a nossa capacidade de alinhar com configurações de controle de acesso por todo o seu ecossistema de dados empresariais. Enquanto outras plataformas se concentram em seus próprios bancos de dados, a pesquisa empresarial garante que os controles de acesso atualizados sejam refletidos em todas as suas fontes de dados corporativas integradas, e não apenas nas conversas do Slack. Junto com isso, você tem:

• Mais de 2,6 mil integrações, incluindo serviços populares, como Google Drive, GitHub, Box, Microsoft, Asana e mais.
• Agentes de IA integrados (por exemplo, Claude, OpenAI, Perplexity e mais) com acesso seguro aos seus dados conversacionais do Slack por meio da API RTS do Slack e o servidor de Protocolo de Contexto de Modelo (MCP).
• Quando os recursos de IA do Slack pesquisam nessas plataformas, eles respeitam as estruturas de permissão individual de cada sistema enquanto fornece uma estrutura de governança consistente.

Governança de IA que vai além da política

A maioria das colaborações oferecem políticas básicas de IA, mas o Slack oferece controles operacionais que tornam a governança acionável e segura por padrão. Nossa ampla abordagem combina controles administrativos granulares, proteção de segurança em tempo real e arquitetura de segurança a nível empresarial para garantir que sua implantação de IA atenda aos mais altos padrões de segurança.

Controles operacionais para o gerenciamento empresarial

Nosso console de administrador dá aos líderes de TI controle granular sobre cada aspecto da implantação da IA:

• Gerenciamento de fonte de dados: decida exatamente quais apps corporativos os sistemas de IA podem acessar e pesquisar em todo o seu ecossistema de dados.
• Permissões em nível de usuário: controle quem pode usar quais recursos de IA e com quais fontes de dados, habilitando o acesso baseado em funções que corresponda à sua estrutura organizacional
• Monitoramento em tempo real: rastreie os padrões de uso da IA e sinalize riscos de segurança conforme acontecerem
• Controles em nível de recursos: recursos individuais de IA podem ser habilitados ou desabilitados por workspace, com definições configuráveis para fontes de dados e comportamento de recursos com base nas necessidades da sua organização
• Investigação de incidentes: analise exatamente quem perguntou o que nos sistemas de IA durante eventos de segurança.

Proteções da IA do Slack: estrutura de segurança multicamadas

As interações de IA no Slack contam com as proteções da IA do Slack, nossa estrutura de segurança em nível empresarial. Oferece proteção em camadas para cada prompt e resposta, combinando proteções fundamentais com defesas em tempo real para dar respaldo ao uso seguro e responsável da IA em larga escala.

Essas proteções incluem limites de conteúdo para evitar alucinações, instruções de prompt que reforçam comportamentos seguros, mitigações em nível de fornecedor, engenharia de contexto para evitar vulnerabilidades na injeção de prompts, filtragem de URL para reduzir o risco de tentativas de phishing e validação de saída para manter os resultados confiáveis.

Como parte desta ampla estrutura, nossos filtros de segurança de conteúdo fornecem proteção orientada e adicional para recursos de IA com entrada de usuários ativos, como a IA do Slackbot e a Pesquisa por IA. Esses filtros em tempo real analisam consultas de usuários com alta precisão para identificar e mitigar ataques de segurança (injeção de prompts, tentativas de jailbreak), ameaças de segurança (discurso de ódio, violência, má conduta), conteúdo nocivo (automutilação, extremismo, substâncias ilícitas) e riscos no local de trabalho (discriminação, julgamentos direcionados). O sistema usa a classificação baseada em confiança que habilita respostas sutis, garantindo que suas equipes continuem produtivas enquanto aproveitam proteção acionável que vai muito além de políticas básicas de conteúdo.

Arquitetura de segurança por padrão

Um dos principais princípios do Slack é que seus dados nunca são usados para treinar LLMs. Esse princípio impulsionou várias decisões arquitetônicas para a implementação de IA no Slack, incluindo:

• Cumprimento do limite de confiança: todos os processamentos de IA acontecem dentro da infraestrutura na nuvem segura do Slack usando modelos hospedados com o limite de confiança
• Garantia de zero treinamento: usamos modelos de fundação configurados sem acesso a redes externas, garantindo que fornecedores de modelos não possam inspecionar ou reter seus dados
• Herança de permissões: a IA só pode acessar conteúdo que os usuários já estão autorizados a visualizar, com verificações de acesso realizadas em tempo real para garantir permissões atualizadas.
• Processamento stateless: os modelos processam cada solicitação de forma independente, sem aprender com os dados ou retê-los, garantindo o isolamento completo entre as interações.

Essa abordagem possibilita a implementação de controles personalizados que se adequam à tolerância ao risco e aos requisitos de conformidade específicos da sua organização, mantendo a inteligência contextual necessária para que suas equipes permaneçam produtivas.

Pesquisa empresarial que entende o contexto

A pesquisa empresarial no Slack é um sistema seguro de IA que entende o contexto e as permissões de todo o seu ecossistema de dados. Quando os funcionários pesquisam entre conversas, dados conectados e apps de terceiros, obtêm resultados que respeitam cada limite de segurança subjacente.

Esta é uma mudança fundamental em relação ao paradigma tradicional que muitas vezes se baseava na “segurança por obscuridade”, ou seja, a esperança de que dados sensíveis não fossem descobertos por usuários que desconheciam sua existência, em vez de garantir que não pudessem ser acessados ​​indevidamente.

Protocolo de contexto do modelo: integração segura de IA

O futuro servidor de Protocolo de Contexto de Modelo (MCP) do Slack simplificará a maneira como grandes modelos de linguagem, apps de IA e agentes acessam dados do Slack com segurança. Assim como todos os recursos de IA do Slack, o servidor de MCP foi criado com a segurança como prioridade:

• Impõe permissões de acesso a dados no nível do usuário para cada solicitação, garantindo que os modelos de IA acessem apenas os dados que os usuários estão autorizados a visualizar.
• Enriquece modelos de IA com contexto conversacional, arquivos e dados de canvas enquanto mantém a segurança.
• Fornece controle de administrador sobre quais dados e ferramentas cada assistente de IA pode acessar.
• Inclui um sistema de registro completo para que os administradores possam ver exatamente o que cada assistente de IA acessou e quais ações foram realizadas em nome de um usuário.
• Simplifica o desenvolvimento, mantendo os padrões de segurança de nível empresarial.

API de pesquisa em tempo real: um divisor de águas para desenvolvedores

Com lançamento previsto para o início de 2026, a API de Pesquisa em Tempo Real permitirá que as organizações criem apps de IA personalizados que mantenham os padrões de segurança corporativos. Esta API oferece:

• Acesso a pesquisas em tempo real que permitem que usuários interajam com dados diretamente onde permanece sem duplicação ou movimentação entre sistemas.
• Acesso instantâneo e seguro a dados conversacionais que aderem a controles de privacidade e governança de cada organização.
• Resultados contextuais que levam informações relevantes para agentes para fornecerem respostas mais precisas.
• Herança de permissões que garante que os apps de IA respeitem os mesmos controles de acesso que os usuários humanos.
• Infraestrutura zero para organizações que desenvolvem soluções de IA.

A vantagem do ecossistema aberto

O Slack Marketplace inclui mais de 2,6 mil apps únicos e existem 1,7 milhão de apps integrados e usados semanalmente por toda a nossa plataforma. Esse ecossistema aberto inclui soluções com tecnologia de IA da Anthropic, Google Agentspace e Perplexity: todas operam sob o modelo de segurança unificado do Slack.

Essa é uma vantagem fundamental sobre conjuntos fechados de colaboração: você pode escolher as melhores ferramentas de IA enquanto mantém a segurança e a governança consistentes por todas elas.

O caminho a seguir

O futuro pertence às organizações que conseguem aproveitar o potencial transformador da IA enquanto mantêm padrões de segurança inabaláveis. Isso requer um parceiro que entende que a segurança não é um recurso a ser acrescentado depois, mas sim um requisito básico e inserido em cada aspecto da colaboração com tecnologia de IA.

A era dos agentes de trabalho chegou. Com a arquitetura de segurança empresarial do Slack, controles de permissão em tempo real e uma abordagem de ecossistema aberto, sua organização pode liderar o caminho com segurança e na escala que sua empresa exige.

Tudo pronto para saber como a abordagem com foco em segurança do Slack em relação à IA pode proteger sua organização enquanto permite a inovação? Entre em contato com nossa equipe de vendas para discutir seus requisitos específicos de segurança e conferir nossos recursos de governança por IA na prática.