L'intelligenza artificiale (IA) è al centro dell'esperienza di Slack e il nostro impegno per la sicurezza e la privacy dei dati è fondamentale in tutto ciò che facciamo. Le funzioni IA native di Slack sono state sviluppate per rispettare questi principi. Ecco una panoramica: 

• I dati dei clienti non escono mai dall'infrastruttura controllata da Slack e non vengono mai utilizzati per addestrare modelli linguistici di grandi dimensioni (LLM). Per maggiori informazioni, leggi Principi dell’IA. 
• Le funzioni IA di Slack funzionano solo con i dati a cui i membri hanno accesso e rispettano tutti i requisiti di sicurezza e conformità di livello enterprise di Slack. 
• I controlli di sicurezza dell’IA di Slack forniscono un framework di sicurezza multilivello per le nostre funzioni IA, inclusa la nuova versione di Slackbot, che tutela la privacy dei dati e riduce i rischi di uso improprio. Consulta le nostre domande frequenti qui sotto per maggiori dettagli. 

Domande frequenti

Come operano le funzioni IA in Slack?

Slack utilizza modelli linguistici di grandi dimensioni (LLM) di terze parti ospitati nella nostra infrastruttura cloud e i dati già presenti nella tua area di lavoro o organizzazione di Slack per configurare una suite di strumenti di produttività IA personalizzati. Quando utilizzi le funzioni IA native di Slack, applichiamo modelli di classificazione interni (eseguiti sulla nostra architettura standard sicura) per trovare e ordinare le informazioni più pertinenti. Quando gli LLM generano una risposta, le informazioni vengono incluse nella richiesta di inferenza, ma non vengono conservate una volta che la richiesta è stata elaborata. 

I miei dati di Slack vengono utilizzati per addestrare gli LLM?

I dati dei clienti non vengono mai utilizzati per addestrare LLM di terze parti. Utilizziamo invece una tecnica chiamata Retrieval Augmented Generation (RAG) che invia all'LLM solo i dati necessari per ogni attività al momento dell'inferenza. Con RAG, i dati vengono inviati nel contesto delle richieste di inferenza. Sebbene il modello possa memorizzare temporaneamente i dati nella cache, non può memorizzarli in un database o su disco.

In che modo le funzioni IA di Slack rispettano la privacy dei canali e dei messaggi?

Le funzioni IA di Slack utilizzano solo i dati di Slack a cui i membri hanno accesso al momento della richiesta e non visualizzeranno né utilizzeranno dati provenienti da canali privati ​​o messaggi diretti (MD) di cui non fanno parte. Ad esempio, le ricerche IA non restituiranno mai risultati che la normale ricerca di Slack non mostrerebbe. Allo stesso modo, i riepiloghi e le risposte di Slackbot non conterranno mai contenuti che non potresti altrimenti visualizzare leggendo canali o MD.

Cosa sono i controlli di sicurezza dell’IA di Slack?

I controlli di sicurezza dell’IA di Slack sono misure multilivello progettate per tutelare la privacy dei dati, mitigare i rischi di uso improprio e allinearsi agli standard di sicurezza di livello enterprise. Ecco cosa includono: 

• Soglie di contenuto per prevenire le allucinazioni
• Prompt engineering con istruzioni di sicurezza esplicite
• Context engineering per ridurre il rischio di prompt injection
• Filtro degli URL per prevenire attacchi di phishing
• Validazione del formato di output
• Filtri di sicurezza dei contenuti

I nostri filtri di sicurezza dei contenuti aggiungono un ulteriore livello di protezione alle funzioni di Slack che si basano su input generati dagli utenti, come cercare risposte e Slackbot, per mitigare i rischi associati a usi impropri e input dannosi. 

In che modo Slack impedisce che nelle risposte dell’IA compaiano informazioni irrilevanti o non corrette?

Le risposte delle funzioni IA di Slack possono includere citazioni del messaggio originale su cui si basa la risposta. Seleziona una citazione per passare al messaggio originario e rivederlo per avere ulteriori dettagli o verifiche. Slack utilizza un sistema di monitoraggio della qualità che valuta gli output dell'IA, avvisando il team di eventuali regressioni nella qualità quando queste valutazioni rilevano allucinazioni o altri parametri di valutazione. Inoltre, i prompt inviati agli LLM durante l’utilizzo delle funzioni IA seguono le procedure consigliate dai nostri provider di modelli per garantire risultati accurati, coerenti e sicuri. 

Per quanto tempo le funzioni IA in Slack conserveranno i dati?

Riepiloghi delle conversazioni e risposte alla ricerca

I riepiloghi e cercare risposte producono risposte IA effimere (ad esempio, le risposte scompaiono quando esci o chiudi il risultato) e questi dati non vengono archiviati né sui dispositivi né sui server.

Riepiloghi

I dati di riepilogo vengono memorizzati per 90 giorni in modo da consentirti di rivedere temporaneamente la cronologia dei riepiloghi passati. Se i messaggi utilizzati nella sintesi vengono eliminati o nascosti (ad esempio, un record che indica che i dati sono stati eliminati) in base a un criterio di conformità o eliminazione, anche la sintesi archiviata verrà eliminata.

Riepiloghi del canale generati da un workflow

Al contrario dei riepiloghi della conversazione generati per gli utenti, quando generi un riepilogo del canale col passaggio di workflow Riassumi canali pubblici, il risultato non è una risposta IA effimera. A seconda dei passaggi successivi del workflow, il riepilogo del canale può essere inviato come messaggio in una conversazione o aggiunto e archiviato in un canvas. In queste situazioni, il messaggio o il canvas che contiene il riepilogo generato dall’IA viene conservato su Slack in accordo con le impostazioni di conservazione dei dati della tua organizzazione. 

Posso disattivare le funzioni IA o limitarne l’accesso?

Sì. I proprietari e gli amministratori possono decidere quali funzioni IA possono essere utilizzate dai membri della loro area di lavoro o organizzazione Enterprise. Nei piani Enterprise, i proprietari e gli amministratori dell'organizzazione possono anche limitare l'accesso alle funzioni IA a determinati utenti e gruppi. Vai a Gestire l’accesso alle funzioni IA in Slack per ulteriori dettagli.