Documenti riservati e strumenti di IA: cosa verificare

Prima di caricare un fascicolo per il consiglio o materiale di due diligence in una piattaforma di strategia basata sull'IA, sostituite la domanda 'è sicuro?' con un elenco di documenti da richiedere: un contratto di nomina a responsabile del trattamento, un elenco nominativo dei sub-responsabili, una regione di residenza dei dati dichiarata, una politica scritta di conservazione e cancellazione e un documento sulle misure di sicurezza.

Un fascicolo per il consiglio sta per uscire dall'azienda. Così come una presentazione della direzione, una serie di dati finanziari interni o un fascicolo di due diligence che dovevano vedere soltanto quattro persone. La domanda che precede naturalmente il caricamento è una variante di: è sicuro? Il problema di quella domanda è che è costruita per ricevere una risposta cattiva. Chiede al fornitore una sensazione, e i fornitori sono allenati a fornire sensazioni. Rassicurante non è lo stesso che verificato, e una conversazione sicura di sé sulla cifratura non dice nulla su che cosa accada ai vostri documenti dopo il loro arrivo.

L'Information Commissioner's Office del Regno Unito espone il punto di fondo nella sezione su contratti e terzi del suo quadro di audit sulla protezione dei dati applicato all'intelligenza artificiale: senza contratti adeguati le violazioni degli obblighi di titolari e responsabili non possono essere valutate né attribuite, e con accordi soltanto verbali manca una via di ricorso in caso di violazione dei requisiti del GDPR del Regno Unito.^[1] Una rassicurazione verbale non ha un modo di guasto che possiate indicare. Un documento sì.

Questo articolo adotta perciò un approccio diverso. Invece di chiedere se un fornitore sia sicuro, converte ogni preoccupazione dell'acquirente in un artefatto preciso: un documento che esiste, in una forma che potete leggere, oppure no. Per ogni preoccupazione che conta quando è in gioco materiale riservato esiste un artefatto con un nome che un fornitore serio dovrebbe già pubblicare. Le sezioni che seguono ne trattano cinque:

• Il contratto di nomina a responsabile del trattamento e le clausole d'uso dei dati del contratto, che rispondono alla domanda se il fornitore si limiti a trattare i vostri documenti o vi addestri sopra.
• Una regione di residenza dei dati dichiarata, che risponde a dove i dati si trovino fisicamente e a che cosa accada se si spostano.
• Un elenco nominativo e pubblicato dei sub-responsabili, che risponde a chi altro tocchi il materiale.
• Una politica scritta di conservazione e cancellazione, che risponde a che cosa accada ai dati durante l'incarico e dopo la sua fine.
• Un documento sulle misure di sicurezza, che risponde a chi presso il fornitore possa vedere il vostro materiale e a come quell'accesso sia controllato.

Due avvertenze prima dell'elenco. La prima: nulla di quanto segue è consulenza legale; i punti regolatori sono ancorati a strumenti vigenti e nominati, ma il vostro ufficio legale deve esaminare le clausole contrattuali effettive prima che venga caricato materiale riservato. La seconda: l'elenco è deliberatamente neutrale rispetto ai fornitori. Vale per qualsiasi piattaforma di strategia basata sull'IA stiate valutando, compresa quella che pubblica questo articolo.

La distinzione più gravida di conseguenze in un contratto con un fornitore di IA separa il trattamento dei vostri documenti per produrre la vostra analisi dalla riserva di diritti per addestrare o mettere a punto modelli su di essi. Trattare significa che il fornitore legge il vostro fascicolo per il consiglio, lo incrocia, produce il risultato richiesto e non usa il materiale per altro. Addestrare significa che il fornitore può incorporare quanto appreso dai vostri documenti in modelli che sopravvivono all'incarico e servono altri clienti. Sono due rapporti diversi con le vostre informazioni riservate, e i contratti non sempre rendono evidente la differenza.

Morgan Lewis, scrivendo dei fornitori che chiedono sempre più spesso diritti espressi di usare i dati dei clienti per addestrare i propri modelli di IA, osserva che in pratica la questione critica spesso non è di chi siano i dati sottostanti, ma quali diritti il fornitore riceva per usare, conservare e trarre valore da quei dati nel tempo, e che anche se un'azienda mantiene la proprietà dei dati grezzi, diritti di addestramento ampi possono consentire al fornitore di creare modelli che incorporano indefinitamente gli apprendimenti che ne derivano.^[2] La proprietà dei dati grezzi non equivale al controllo di ciò che un fornitore ne deriva. La stessa analisi descrive la potenziale esposizione di informazioni riservate e segreti commerciali come una delle preoccupazioni più significative ed elenca le domande da porsi: quali categorie di dati saranno usate per l'addestramento, se le tutele di riservatezza e di segreto commerciale siano mantenute e se l'addestramento possa essere limitato a specifici insiemi di dati.^[2]

L'artefatto da richiedere qui è il contratto stesso, letto in due punti. Primo, le clausole d'uso dei dati e di addestramento nel contratto principale: concedono al fornitore diritti di migliorare servizi, sviluppare prodotti o creare insiemi di dati aggregati, e l'addestramento può essere escluso o limitato a un'adesione espressa? Secondo, il contratto di nomina a responsabile del trattamento, che disciplina come vengono trattati i dati personali contenuti nei vostri documenti e dovrebbe stabilire che il responsabile agisce soltanto su vostra istruzione documentata. Morgan Lewis osserva inoltre che le clausole giuridiche sono solo una parte dell'analisi e che le salvaguardie tecniche contano altrettanto, elencando ciò che le organizzazioni dovrebbero comprendere: se i dati siano segregati fra clienti, se l'addestramento avvenga su modelli condivisi o dedicati, se il fornitore usi modelli di base di terzi e se i dati dei clienti possano essere esclusi dai cicli di addestramento futuri.^[2] Un fornitore che dichiara chiaramente, per iscritto, di non usare mai i dati dei clienti per addestrare modelli di IA ha risposto alla domanda. Uno che risponde con un paragrafo su anonimizzazione e aggregazione vi ha detto di continuare a leggere.

La residenza dei dati è un fatto, non una formula. 'Sicurezza di livello bancario' e 'pronto per l'impresa' non dicono nulla su quali server di quale Paese ospitino i vostri documenti, quali giurisdizioni possano raggiungerli o che cosa accada quando un tecnico dell'assistenza in un'altra regione apre una sessione. Per un acquirente europeo la questione della collocazione ha un profilo giuridico preciso, perché il GDPR, regolamento (UE) 2016/679, limita i trasferimenti di dati personali verso Paesi terzi se non sono rispettate le garanzie del suo capo V. Se i vostri documenti contengono dati personali, e un fascicolo per il consiglio o un file finanziario interno quasi sempre li contengono, il luogo in cui il fornitore ospita e tratta determina se una limitazione al trasferimento si applichi affatto.

Gli artefatti da richiedere sono altrettanto concreti. Primo, una regione di residenza dei dati dichiarata nel contratto o nella documentazione del fornitore: una regione nominata, per iscritto, non un'affermazione di marketing. Secondo, se vi è trattamento o accesso fuori dallo SEE, il meccanismo di trasferimento su cui ci si basa. Lo strumento standard è la decisione di esecuzione (UE) 2021/914 della Commissione del 4 giugno 2021 relativa alle clausole contrattuali tipo per il trasferimento di dati personali verso Paesi terzi a norma del regolamento (UE) 2016/679, tuttora in vigore.^[3] Se la risposta del fornitore a 'dove stanno i dati?' è una conversazione sull'infrastruttura globale anziché una regione nominata in un documento, trattate anche quella come una risposta.

Una sfumatura vale la pena di conoscerla prima di leggere la documentazione del fornitore. Le raccomandazioni 01/2020 del Comitato europeo per la protezione dei dati, sulle misure che integrano gli strumenti di trasferimento, adottate in versione definitiva il 18 giugno 2021, definiscono una tabella di marcia per fasi destinata agli esportatori di dati, che inizia dal conoscere i propri trasferimenti, e affermano che anche l'accesso da remoto da un Paese terzo, per esempio in situazioni di assistenza, e l'archiviazione in un cloud situato fuori dallo SEE sono considerati un trasferimento.^[4] Un fornitore può ospitare nell'Unione e generare comunque un trasferimento se personale o sub-responsabili fuori dallo SEE possono raggiungere i dati. Chiedete dell'accesso, non solo dell'archiviazione.

Dietro ogni piattaforma di strategia basata sull'IA c'è una catena di fornitura: hosting, fornitori di modelli, strumenti di assistenza, servizi di analisi. Ciascuno è un'ulteriore parte che può toccare i vostri documenti, e ciascuno è un punto in cui la vostra riservatezza dipende da qualcuno con cui non avete contrattato. La domanda 'chi altro può vedere i nostri dati?' non è quindi paranoica: è la domanda sulla catena di fornitura, e sotto il GDPR ha una forma giuridica precisa.

L'articolo 28, paragrafo 2, del GDPR prevede che il responsabile del trattamento non ricorra a un altro responsabile senza previa autorizzazione scritta, specifica o generale, del titolare, e che nel caso di autorizzazione scritta generale il responsabile informi il titolare di eventuali modifiche previste riguardanti l'aggiunta o la sostituzione di altri responsabili, dando così al titolare l'opportunità di opporsi a tali modifiche.^[5] L'articolo 28, paragrafo 4, impone che i medesimi obblighi in materia di protezione dei dati siano imposti a qualsiasi altro responsabile incaricato di attività di trattamento specifiche e prevede che, qualora tale altro responsabile ometta di adempiere ai propri obblighi, il responsabile iniziale conservi nei confronti del titolare l'intera responsabilità dell'adempimento degli obblighi dell'altro responsabile.^[5] In parole chiare: il fornitore non può esternalizzare i vostri documenti senza la vostra autorizzazione, deve informarvi quando la catena cambia e resta responsabile di ciò che fanno i suoi sub-responsabili.

L'artefatto da richiedere è un elenco nominativo dei sub-responsabili, pubblicato e datato, insieme al meccanismo di notifica e opposizione che ne disciplina le modifiche. 'Pubblicato e datato' pesa più di quanto sembri. Un elenco descritto a voce non può essere verificato in seguito, né confrontato con quanto il fornitore affermava il trimestre precedente, e non vi lascia nulla a cui opporvi. Un elenco pubblicato con un termine di preavviso vi mostra esattamente chi si trova oggi nella catena e vi apre una finestra definita per opporvi quando cambia. Una risposta verificabile si presenta così: il contratto impegna il fornitore a notificare i nuovi sub-responsabili aggiornando l'elenco pubblicato, fissa per iscritto un termine di opposizione e nomina la regione in cui il trattamento può avvenire.

La maggior parte degli acquirenti pensa a che cosa accade ai propri documenti al momento del caricamento. Meno pensano a che cosa accade quando l'incarico finisce, ed è in quel secondo momento che la riservatezza si vince o si perde in silenzio. Un documento che resta nei backup di un fornitore tre anni dopo la chiusura del progetto è pur sempre un documento uscito dalla vostra azienda. La domanda di valutazione non è solo 'i dati sono al sicuro adesso?' ma 'chi decide quando smettono di esistere, e posso verificarlo?'

L'artefatto da richiedere è una politica scritta di conservazione e cancellazione che indichi i periodi di conservazione, come vengono trattati i backup e i tempi di cancellazione. Ai sensi del GDPR non è una cortesia facoltativa: l'articolo 28, paragrafo 3, lettera g), impone che il responsabile, su scelta del titolare, cancelli o restituisca tutti i dati personali dopo che è terminata la prestazione dei servizi relativi al trattamento e cancelli le copie esistenti, salvo che il diritto dell'Unione o degli Stati membri preveda la conservazione dei dati.^[5] Le clausole di fine rapporto del contratto dovrebbero allinearsi alla politica pubblicata: se il contratto prevede la cancellazione alla risoluzione e la politica parla di archiviazione per un periodo indeterminato, avete trovato una discrepanza da risolvere prima della firma, non dopo.

Due dettagli meritano attenzione specifica alla lettura della politica. Primo, gli artefatti derivati. I vostri documenti grezzi non sono l'unica cosa che una piattaforma crea: incorporamenti, risultati di analisi, log ed esportazioni derivano tutti dal vostro materiale, e una politica di cancellazione che copra solo i file di origine lascia indietro i derivati. Chiedete che cosa dica la politica su ciascuno. Secondo, la meccanica della fine del contratto. Un contratto ben redatto prevede che, prima della scadenza dell'accordo, il responsabile cancelli o restituisca in modo sicuro tutti i dati personali su scelta e istruzione del cliente, e che il cliente possa richiedere conferma scritta delle misure adottate al termine del trattamento. Una conferma scritta della cancellazione è la differenza fra credere che i dati non ci siano più e sapere che qualcuno si è impegnato per iscritto a dirvelo.

La cifratura protegge i vostri documenti da chi sta fuori. Il controllo degli accessi li protegge da chi sta dentro, e con materiale riservato la domanda interna è spesso la più affilata: quali dipendenti del fornitore possono aprire un fascicolo per il consiglio, a quali condizioni e con quale traccia di averlo fatto? Una piattaforma può essere ben difesa sul perimetro e consentire comunque, per impostazione predefinita, un accesso interno ampio. L'artefatto che risponde a questo è un documento sulle misure di sicurezza che descriva l'accesso basato sui ruoli, i permessi a privilegio minimo e la registrazione degli accessi con dettaglio operativo.

Il GDPR dà a quel documento una struttura giuridica. L'articolo 28, paragrafo 3, lettera b), impone che il contratto di trattamento preveda che il responsabile garantisca che le persone autorizzate al trattamento dei dati personali si siano impegnate alla riservatezza o abbiano un adeguato obbligo legale di riservatezza.^[5] L'articolo 28, paragrafo 3, lettera h), impone che il responsabile metta a disposizione del titolare tutte le informazioni necessarie per dimostrare il rispetto degli obblighi di cui a quell'articolo e consenta e contribuisca alle attività di revisione, comprese le ispezioni, realizzate dal titolare o da un altro soggetto da questi incaricato.^[5] Lette insieme, queste disposizioni significano che avete diritto di vedere come il fornitore limita e registra gli accessi interni, non semplicemente di sentirvi dire che sono limitati.

Il consiglio pratico è leggere il documento sulle misure di sicurezza accanto alla clausola sui diritti di revisione del contratto, anziché accettare un riassunto di certificazioni. Un'affermazione di certificazione riguarda un processo accertato in un dato momento; il documento di sicurezza descrive i controlli che operano sui vostri dati ogni giorno. Un fornitore ben preparato pubblica questo materiale, per esempio in una pagina su integrazioni e sicurezza che descriva il controllo degli accessi basato sui ruoli con permessi a privilegio minimo, log di audit esportabili e politiche di conservazione configurabili per incarico. E dove un fornitore rivendichi una certificazione, verificate l'affermazione nella documentazione pubblicata dal fornitore stesso anziché darla per scontata: chiedete che cosa copra la certificazione, quale entità la detenga e se l'ambito includa la piattaforma che vi viene effettivamente venduta. Un fornitore serio avrà già pubblicato le risposte.

Prima o poi, in una valutazione, un fornitore risponderà a una di queste domande soltanto a voce. La reazione non è discutere, ma chiedere la risposta per iscritto prima della firma. Il quadro di audit dell'ICO per i sistemi di IA ne esplicita la ragione: con accordi soltanto verbali manca una via di ricorso in caso di violazione dei requisiti del GDPR del Regno Unito, e senza contratti adeguati le violazioni degli obblighi di titolari e responsabili non possono essere valutate né attribuite.^[1] Un fornitore che non riesce a produrre il documento ha comunque risposto alla domanda. La risposta è che l'artefatto non esiste, oppure esiste in una forma che il fornitore preferisce non farvi leggere. In entrambi i casi avete appreso qualcosa di utilizzabile prima del caricamento, non dopo.

L'elenco completo, nell'ordine in cui dovrebbe procedere una valutazione seria:

1. Contratto di nomina a responsabile e clausole d'uso dei dati: il fornitore addestra sui vostri dati e l'addestramento può essere escluso?
2. Regione di residenza dei dati dichiarata: una regione nominata nel contratto o nella documentazione, più il meccanismo di trasferimento se trattamento o accesso avvengono fuori dallo SEE.
3. Elenco dei sub-responsabili nominativo, pubblicato e datato: chi è nella catena e quale meccanismo di notifica e opposizione ne disciplina le modifiche.
4. Politica scritta di conservazione e cancellazione: periodi di conservazione, gestione dei backup, tempi di cancellazione, trattamento degli artefatti derivati e restituzione o cancellazione a fine contratto con conferma scritta.
5. Documento sulle misure di sicurezza: accesso basato sui ruoli, permessi a privilegio minimo e registrazione degli accessi, letto insieme alla clausola sui diritti di revisione del contratto.

È lo standard rispetto al quale Decisity è stata costruita. Come piattaforma di strategia nativa per l'IA, né società di consulenza né fornitore di sicurezza, si aspetta queste domande e vi risponde con documenti pubblicati anziché con rassicurazioni: un contratto di nomina pubblicato con impegni di trattamento nell'Unione e nello SEE, un elenco di sub-responsabili con una finestra di opposizione definita e una pagina di sicurezza che espone i controlli di accesso, registrazione e conservazione con dettaglio operativo. Per gli acquirenti europei che gestiscono materiale strategico riservato, questa impostazione si estende alla residenza europea dei dati come principio progettuale dichiarato e non come argomento di vendita, anche per il Mittelstand e le imprese di media dimensione i cui documenti per il consiglio lo richiedono. Lo stesso standard vale per ogni fornitore che valutate, incluso questo: leggete i documenti e, dove un'affermazione conta, verificatela rispetto a quanto il fornitore ha effettivamente pubblicato.

Un ultimo punto spetta al vostro ufficio legale e non a questo articolo: fategli esaminare le clausole contrattuali, compresi il contratto di nomina a responsabile, la clausola sui diritti di revisione e le previsioni sulla responsabilità, prima che venga caricato qualsiasi materiale riservato. L'elenco qui sopra vi dice quali documenti mettergli davanti. La sua approvazione vi dice che le clausole reggono.

• ICO: Contracts and third parties (AI and data protection audit framework)
• Morgan Lewis: Key Considerations When Allowing a Vendor to Train Its AI Models on Customer Data
• Commission Implementing Decision (EU) 2021/914 on standard contractual clauses
• EDPB Recommendations 01/2020 on measures that supplement transfer tools
• GDPR Article 28: Processor