I controlli di sicurezza dell’IA di Slack sono un insieme di misure protettive pensate per tutte le funzioni native dell’IA di Slack. Per garantire che ogni utente con accesso alle funzioni IA di Slack possa utilizzarle in modo sicuro, queste misure prevedono diversi meccanismi di sicurezza: 

• Soglie di contenuto per prevenire le allucinazioni
• Prompt engineering con istruzioni di sicurezza esplicite
• Context engineering per ridurre il rischio di prompt injection
• Filtro degli URL per prevenire attacchi di phishing
• Validazione del formato di output
• Filtri di sicurezza dei contenuti

Come funzionano i controlli di sicurezza

I controlli di sicurezza di Slack aggiungono un ulteriore livello di protezione alle misure già integrate nei modelli linguistici di grandi dimensioni (LLM) su cui si basano tutte le funzioni IA di Slack. Includono misure di sicurezza per i prompt che vengono applicate prima che le richieste siano inviate a un LLM per garantire risposte sicure, affidabili e basate sui dati.

Se una richiesta o una risposta non supera i controlli di sicurezza, Slack può modificare o bloccare la richiesta e il contenuto generato per limitare eventuali danni. Nella maggior parte dei casi, le risposte generate dall’IA consentono agli utenti di riformulare la richiesta in modo sicuro. Ad esempio, se chiedi a Slackbot chi sia la persona meno produttiva del tuo team, ti risponderà che non può fornire questa informazione e potrebbe suggerirti di provare con una domanda diversa. 

Gestire le impostazioni dei filtri di sicurezza dei contenuti

I nostri filtri di sicurezza dei contenuti si applicano alle funzioni IA di Slack che si basano su input generati dagli utenti per mitigare i rischi associati a utilizzi impropri e attività dannose:  

• Slackbot
  Il tuo agente personale per il lavoro integrato direttamente in Slack.
• Creazione di contenuti nei canvas
  Utilizza l’IA per aggiungere contenuti a un canvas esistenti oppure creare uno da zero.
• Ricerca
  Poni una domanda e ottieni una domanda dall’IA invece di analizzare i risultati di ricerca.
• Creazione di workflow
  Descrivi un’attività o un processo che vuoi automatizzare e l’IA creerà un workflow su misura.

I proprietari e gli amministratori possono modificare le impostazioni dei filtri di sicurezza dei contenuti per rispettare i criteri interni e i requisiti normativi regionali, oppure per evitare che venga bloccato l’uso legittimo dell’IA, ad esempio domande sui criteri o ricerche di informazioni di sicurezza. 

Impostazioni disponibili

Di seguito le impostazioni disponibili:  

• Massimo
  Livello progettato per evitare la profilazione mirata dei dipendenti, ad esempio sulla base di informazioni relative alle prestazioni lavorative o alle categorie protette, oltre ai filtri per la sicurezza dei contenuti predefiniti. 
• Predefinito
  Livello progettato per bloccare attacchi dei prompt, linguaggio violento, incitamento all’odio, contenuti sessuali e altre attività illegali.
• Nessuno
  Non viene applicato nessun filtro di sicurezza dei contenuti aggiuntivo. Se selezioni l’opzione Nessuno, le altre misure dei controlli di sicurezza di IA di Slack non verranno disabilitate.

Gestisci impostazioni

I proprietari e gli amministratori dell’area di lavoro (nei piani Pro, Business+ ed Enterprise Select) e i proprietari e gli amministratori delle organizzazioni (nei piani Enterprise Grid ed Enterprise+) possono gestire le impostazioni dei filtri di sicurezza dei contenuti.