In che modo Slack protegge i dati quando utilizza machine learning e IA

Recentemente abbiamo sentito dalla Community di Slack che i nostri principi sulla privacy pubblicati non erano sufficientemente chiari e avrebbero potuto creare incomprensioni sul modo in cui utilizziamo i dati dei clienti in Slack. Apprezziamo il feedback e, osservando il linguaggio del nostro sito web, ci siamo resi conto che queste critiche erano legittime. Avremmo potuto spiegare meglio il nostro approccio, soprattutto per quanto riguarda le differenze nel modo in cui i dati vengono utilizzati per i modelli tradizionali di machine learning (ML) e nell'IA generativa.

Oggi abbiamo aggiornato questi principi per illustrare più chiaramente in che modo Slack protegge i dati dei clienti fornendo al contempo esperienze di ML e IA generativa in Slack. Ecco cosa è importante sapere:

• Slack utilizza tecniche di machine learning standard del settore che proteggono la privacy per consigli su canali ed emoji, risultati di ricerca e altri elementi simili. Non progettiamo né addestriamo questi modelli in modo che possano apprendere, memorizzare o essere in grado di riprodurre dati dei clienti di qualsiasi tipo. Sebbene i clienti possano scegliere di negare il consenso, questi modelli migliorano l'esperienza del prodotto per gli utenti senza il rischio che i loro dati vengano mai condivisi. I tradizionali modelli di ML di Slack utilizzano dati aggregati anonimizzati e non accedono al contenuto dei messaggi in MD, canali privati ​​o canali pubblici.
• Il componente aggiuntivo di IA generativa di Slack, l’IA di Slack, utilizza LLM di terze parti. Nessun dato dei clienti viene utilizzato per addestrare i modelli LLM. Inoltre, non sviluppiamo LLM o altri modelli generativi usando i dati dei clienti.

La fiducia è il nostro valore più importante e si basa sulla trasparenza. I nostri clienti meritano una spiegazione estremamente chiara su come utilizziamo e, cosa ancora più importante, come non utilizziamo i dati dei clienti per fornire la migliore esperienza possibile in Slack.

Questo post intende approfondire ulteriormente questi aspetti per garantire una maggiore chiarezza. Ci auguriamo che possa essere d'aiuto e, come sempre, apprezziamo ogni feedback.

Protezione dei dati: utilizzo da parte di Slack dei tradizionali modelli di machine learning

La missione di Slack è rendere la vita lavorativa delle persone più semplice, più piacevole e più produttiva. Ci sono molte informazioni in Slack e, per lavorare al meglio, devi essere in grado di navigare tra i contenuti in modo efficace e trovare rapidamente ciò di cui hai bisogno. Dal 2017, utilizziamo tecniche di machine learning standard di settore che proteggono la privacy per aiutare a fornire le informazioni giuste all'utente giusto al momento giusto, ad esempio completando automaticamente il nome di un canale quando inizi a digitare nella ricerca o consigliando nuovi canali in cui entrare nella tua area di lavoro.

I nostri principi di privacy guidano il modo in cui utilizziamo i sistemi di machine learning in Slack. Li pubblichiamo esternamente per garantire trasparenza e responsabilità. Questi principi sono in linea con l’impegno di lunga data di Slack nei confronti della privacy dei clienti e degli utenti e consentono di assicurare che:

• I dati non si diffondono tra aree di lavoro. Non creiamo né addestriamo modelli di ML in modo da consentire loro di apprendere, memorizzare o riprodurre i dati dei clienti.
• I modelli di ML non accedono mai direttamente al contenuto di messaggi o file. Piuttosto, si basano su funzioni numeriche attentamente derivate. Ad esempio:
  • Un timestamp dell'ultimo messaggio inviato in un canale può aiutarci a consigliare l'archiviazione di un canale per semplificare le barre laterali dei canali degli utenti.
  • Il numero di interazioni tra due individui è incorporato nell'elenco dei consigli per l'utente in modo che quando un utente inizia una nuova conversazione, ottenga un elenco pertinente di colleghi.
  • Il numero di parole che si sovrappongono tra il nome di un canale e altri canali di cui un utente è membro può indicarne la rilevanza per quell'utente.
• I controlli tecnici impediscono l'accesso non autorizzato. Durante lo sviluppo di modelli di IA/ML o altre analisi dei dati dei clienti, Slack non accede al contenuto sottostante. Abbiamo messo in atto varie misure tecniche per impedire che ciò accada. Ti invitiamo a leggere il nostro white paper sulla sicurezza per ulteriori informazioni sui controlli che proteggono la riservatezza e la sicurezza dei dati dei clienti.
• I clienti hanno una possibilità di scelta in queste pratiche. Se desideri escludere i dati dei tuoi clienti dall'addestramento dei modelli di ML di Slack, puoi decidere di negare il consenso, come documentato qui. Poiché applichiamo stringenti misure di protezione per addestrare questi modelli di ML in modo sicuro per poter fornire la migliore esperienza di prodotto possibile, nelle aree di lavoro l’opzione è attiva per impostazione predefinita.

Di seguito sono riportati alcuni esempi specifici di come i modelli di ML non generativi vengono utilizzati in Slack per trovare facilmente ciò di cui hai bisogno:

Classificazione delle ricerche

Creazione di un elenco di risultati in ordine di priorità e personalizzato quando un utente cerca persone, messaggi o file.

Come funziona:
I nostri modelli di machine learning di ricerca aiutano gli utenti a trovare ciò che stanno cercando individuando i risultati più appropriati per una query specifica. Lo facciamo sulla base dei risultati di ricerca storici e delle interazioni precedenti senza apprendere dal testo sottostante della query di ricerca, del risultato o del proxy. In breve, i nostri modelli non vengono addestrati utilizzando la query di ricerca effettiva, ma apprendono dal contesto della ricerca, ad esempio il numero di parole in una query.

Consigli
Consigli su utenti, canali, emoji e altri contenuti pertinenti in vari punti del prodotto, ad esempio suggerimenti sui canali in cui entrare.

Come funziona:
Consigliamo spesso agli utenti di entrare in nuovi canali pubblici nella loro area di lavoro in modo che possano ottenere il massimo valore da Slack. Questi suggerimenti si basano sull'iscrizione ai canali, sulle attività e sulle sovrapposizioni di argomenti. Lo facciamo nel rispetto della privacy utilizzando modelli di ML open source, che non sono stati sviluppati utilizzando i dati di Slack, per valutare le similitudini tra gli argomenti e ottenere punteggi numerici. Il nostro modello fornisce raccomandazioni basate solo su questi punteggi numerici e dati non relativi ai clienti.

Completamento automatico
Aggiunta di utenti, canali e nomi di file ai messaggi utilizzando il client di ricerca Slack.

Come funziona:
Quando gli utenti desiderano fare riferimento a un canale o a un utente in un messaggio, inizieranno digitando # e il nome di un canale. I nostri modelli suggeriranno i canali più pertinenti che potrebbero essere oggetto della ricerca in base a una serie di input, inclusi i canali di cui l'utente è membro e le sue interazioni recenti e frequenti con i canali.

In sintesi, i tradizionali modelli di ML di Slack utilizzano dati aggregati anonimizzati e non accedono al contenuto dei messaggi originali in MD, canali privati ​​o canali pubblici per fornire questi suggerimenti. Raccolgono invece dati aggregati per migliorare la ricerca, fornire consigli più mirati e offrire suggerimenti.

Consenso del cliente ed esperienza dell'utente

I clienti possono inviare un'e-mail a Slack per negare il consenso all'addestramento di modelli di ML non generativi. Se questo accade, tutti i dati associati all’area di lavoro verranno utilizzati per migliorare l'esperienza nella tua area di lavoro. Potrai comunque usufruire di tutti i vantaggi dei nostri modelli di ML addestrati a livello globale senza contribuire ai modelli sottostanti. Nessuna funzione del prodotto verrà disattivata, anche se verranno rimossi alcuni punti del prodotto dove precedentemente gli utenti avrebbero potuto fornire feedback. I modelli globali probabilmente avranno prestazioni leggermente inferiori per il tuo team poiché eventuali modelli caratteristici di utilizzo non saranno più ottimizzati.

In altre parole, ogni singolo cliente che nega il consenso dovrebbe rilevare un impatto minimo, ma maggiore è il numero di clienti che non aderiscono, peggiore sarà la performance complessiva di questi tipi di modelli.

IA generativa

L'IA generativa introduce una nuova classe di modelli utilizzati per migliorare l'esperienza dell'utente, in particolare i modelli linguistici di grandi dimensioni (LLM). Gli LLM vengono utilizzati nel componente aggiuntivo di Slack acquistato separatamente, l’IA di Slack, che è stato creato dando priorità a sicurezza e fiducia. In particolare:

• I dati dei clienti non escono mai da Slack.
• Non addestriamo gli LLM sui dati dei clienti.
• L’IA di Slack opera solo sui dati che l’utente può già vedere.
• L’IA di Slack rispetta tutti i requisiti di sicurezza e conformità di livello aziendale di Slack.

Slack non addestra LLM o altri modelli generativi sui dati del cliente, né condivide tali dati con alcun fornitore di LLM.

Scopri di più su come abbiamo progettato l’IA di Slack per garantire sicurezza e privacy qui.