Documents confidentiels et outils d'IA : que vérifier

Avant de téléverser un dossier de conseil ou des pièces de due diligence dans une plateforme de stratégie fondée sur l'IA, remplacez la question 'est-ce sécurisé ?' par une liste de pièces à demander : un contrat de sous-traitance, une liste nominative des sous-traitants ultérieurs, une région de résidence des données annoncée, une politique écrite de conservation et de suppression, et un document sur les mesures de sécurité.

Un dossier de conseil s'apprête à quitter l'entreprise. De même qu'une présentation de direction, un jeu d'états financiers internes ou un dossier de due diligence que quatre personnes seulement devaient voir. La question qui précède naturellement le téléversement est une variante de : est-ce sécurisé ? Le problème de cette question est qu'elle est faite pour recevoir une mauvaise réponse. Elle demande au fournisseur un sentiment, et les fournisseurs sont rodés à donner des sentiments. Rassurant n'est pas la même chose que vérifié, et une conversation assurée sur le chiffrement ne dit rien de ce qu'il advient de vos documents une fois arrivés.

L'Information Commissioner's Office britannique formule le fond du problème dans la section sur les contrats et les tiers de son cadre d'audit de la protection des données appliqué à l'intelligence artificielle : sans contrats appropriés, les manquements aux obligations des responsables de traitement et des sous-traitants ne peuvent être évalués ni imputés, et en présence d'accords purement verbaux il manque une voie de recours en cas de manquement aux exigences du RGPD britannique.^[1] Une assurance orale n'a pas de mode de défaillance que vous puissiez montrer du doigt. Un document en a un.

Cet article adopte donc une autre approche. Plutôt que de demander si un fournisseur est sécurisé, il convertit chaque préoccupation de l'acheteur en une pièce précise : un document qui existe, sous une forme que vous pouvez lire, ou qui n'existe pas. Pour chaque préoccupation qui compte lorsque du matériel confidentiel est en jeu, il existe une pièce nommée qu'un fournisseur sérieux devrait déjà publier. Les sections qui suivent en couvrent cinq :

• Le contrat de sous-traitance et les clauses d'usage des données du contrat, qui répondent à la question de savoir si le fournisseur se contente de traiter vos documents ou s'il s'entraîne dessus.
• Une région de résidence des données annoncée, qui répond à la question de savoir où les données se trouvent physiquement et ce qui se passe si elles bougent.
• Une liste nominative et publiée des sous-traitants ultérieurs, qui répond à la question de savoir qui d'autre touche le matériel.
• Une politique écrite de conservation et de suppression, qui répond à ce qu'il advient des données pendant la mission et après sa fin.
• Un document sur les mesures de sécurité, qui répond à la question de savoir qui, chez le fournisseur, peut consulter votre matériel et comment cet accès est contrôlé.

Deux réserves avant la liste. D'abord, rien ici ne constitue un conseil juridique : les points réglementaires ci-dessous renvoient à des instruments nommés et en vigueur, mais votre direction juridique doit examiner les stipulations contractuelles réelles avant tout téléversement de matériel confidentiel. Ensuite, la liste est délibérément neutre vis-à-vis des fournisseurs. Elle vaut pour toute plateforme de stratégie fondée sur l'IA que vous évaluez, y compris celle qui publie cet article.

La distinction la plus lourde de conséquences dans un contrat avec un fournisseur d'IA sépare le traitement de vos documents pour produire votre analyse et la conservation de droits permettant d'entraîner ou d'affiner des modèles sur ces documents. Traiter signifie que le fournisseur lit votre dossier de conseil, le recoupe, produit le livrable demandé et n'utilise le matériel pour rien d'autre. Entraîner signifie que le fournisseur peut incorporer ce qu'il a appris de vos documents dans des modèles qui survivent à la mission et servent d'autres clients. Ce sont deux rapports différents à vos informations confidentielles, et les contrats ne rendent pas toujours la différence évidente.

Morgan Lewis, à propos des fournisseurs qui recherchent de plus en plus des droits exprès d'utiliser les données clients pour entraîner leurs modèles d'IA, note qu'en pratique la question critique n'est souvent pas de savoir à qui appartiennent les données sous-jacentes, mais quels droits le fournisseur reçoit pour utiliser, conserver et tirer de la valeur de ces données dans la durée, et que même si une entreprise conserve la propriété de ses données brutes, des droits d'entraînement larges peuvent permettre au fournisseur de créer des modèles intégrant indéfiniment les enseignements qui en sont tirés.^[2] La propriété des données brutes n'équivaut pas au contrôle de ce qu'un fournisseur en dérive. La même analyse décrit l'exposition potentielle d'informations confidentielles et de secrets d'affaires comme l'une des préoccupations les plus significatives, et énumère les questions à examiner : quelles catégories de données serviront à l'entraînement, si les protections de confidentialité et de secret d'affaires sont maintenues, et si l'entraînement peut être restreint à des jeux de données déterminés.^[2]

La pièce à demander ici est le contrat lui-même, lu à deux endroits. D'abord les clauses d'usage des données et d'entraînement du contrat principal : accordent-elles au fournisseur des droits d'améliorer ses services, de développer des produits ou de créer des jeux de données agrégés, et l'entraînement peut-il être exclu ou limité à une adhésion expresse ? Ensuite le contrat de sous-traitance, qui régit la façon dont les données à caractère personnel contenues dans vos documents sont traitées et doit stipuler que le sous-traitant n'agit que sur instruction documentée de votre part. Morgan Lewis relève également que les stipulations juridiques ne sont qu'une partie de l'analyse et que les garanties techniques comptent tout autant, en énumérant ce que les organisations devraient comprendre : si les données sont cloisonnées entre clients, si l'entraînement se fait sur des modèles partagés ou dédiés, si le prestataire recourt à des modèles de fondation de tiers, et si les données clients peuvent être exclues des cycles d'entraînement futurs.^[2] Un fournisseur qui déclare clairement, par écrit, qu'il n'utilise jamais les données clients pour entraîner des modèles d'IA a répondu à la question. Celui qui répond par un paragraphe sur l'anonymisation et l'agrégation vous invite à poursuivre la lecture.

La résidence des données est un fait, pas une formule. 'Sécurité de niveau bancaire' et 'prêt pour l'entreprise' ne disent rien des serveurs de quel pays hébergent vos documents, des juridictions qui peuvent les atteindre, ni de ce qui se passe quand un technicien du support situé dans une autre région ouvre une session. Pour un acheteur européen, la question de la localisation a un tranchant juridique précis, car le RGPD, règlement (UE) 2016/679, encadre les transferts de données à caractère personnel vers des pays tiers sauf à respecter les garanties de son chapitre V. Si vos documents contiennent des données personnelles, et un dossier de conseil ou un fichier financier interne en contient presque toujours, le lieu où le fournisseur héberge et traite détermine si une restriction de transfert s'applique.

Les pièces à demander sont tout aussi concrètes. D'abord une région de résidence des données annoncée dans le contrat ou la documentation du fournisseur : une région nommée, par écrit, et non une affirmation commerciale. Ensuite, si un traitement ou un accès a lieu hors EEE, le mécanisme de transfert invoqué. L'instrument standard est la décision d'exécution (UE) 2021/914 de la Commission du 4 juin 2021 relative aux clauses contractuelles types pour le transfert de données à caractère personnel vers des pays tiers en application du règlement (UE) 2016/679, toujours en vigueur.^[3] Si la réponse du fournisseur à 'où sont les données ?' est une conversation sur une infrastructure mondiale plutôt qu'une région nommée dans un document, traitez cela aussi comme une réponse.

Une nuance mérite d'être connue avant de lire la documentation du fournisseur. Les recommandations 01/2020 du Comité européen de la protection des données, relatives aux mesures qui complètent les outils de transfert, adoptées dans leur version finale le 18 juin 2021, définissent une feuille de route par étapes pour les exportateurs de données, qui commence par connaître ses transferts, et précisent que l'accès à distance depuis un pays tiers, par exemple dans des situations de support, ainsi que le stockage dans un nuage situé hors EEE, sont également considérés comme un transfert.^[4] Un fournisseur peut héberger dans l'Union et créer malgré tout un transfert si des personnels ou des sous-traitants hors EEE peuvent atteindre les données. Interrogez sur l'accès, pas seulement sur le stockage.

Derrière chaque plateforme de stratégie fondée sur l'IA se trouve une chaîne de fournisseurs : hébergement, fournisseurs de modèles, outils de support, services d'analyse. Chacun est une partie supplémentaire susceptible de toucher vos documents, et chacun est un point où votre confidentialité dépend de quelqu'un avec qui vous n'avez pas contracté. La question 'qui d'autre peut voir nos données ?' n'est donc pas paranoïaque : c'est la question de la chaîne de sous-traitance, et elle a une forme juridique précise sous le RGPD.

L'article 28, paragraphe 2, du RGPD prévoit que le sous-traitant ne recrute pas un autre sous-traitant sans l'autorisation écrite préalable, spécifique ou générale, du responsable du traitement, et que dans le cas d'une autorisation écrite générale, le sous-traitant informe le responsable du traitement de tout changement prévu concernant l'ajout ou le remplacement d'autres sous-traitants, donnant ainsi au responsable la possibilité d'émettre des objections à l'encontre de ces changements.^[5] L'article 28, paragraphe 4, impose que les mêmes obligations en matière de protection des données soient mises à la charge de tout autre sous-traitant recruté pour mener des activités de traitement spécifiques, et prévoit que lorsque cet autre sous-traitant ne remplit pas ses obligations, le sous-traitant initial demeure pleinement responsable devant le responsable du traitement de l'exécution des obligations de cet autre sous-traitant.^[5] En clair : le fournisseur ne peut pas externaliser vos documents sans votre autorisation, doit vous informer quand la chaîne change, et reste engagé pour ce que font ses sous-traitants.

La pièce à demander est une liste nominative des sous-traitants ultérieurs, publiée et datée, accompagnée du mécanisme de notification et d'objection qui en régit les changements. 'Publiée et datée' pèse plus lourd qu'il n'y paraît. Une liste décrite en conversation ne peut pas être vérifiée plus tard, ni comparée à ce que le fournisseur affirmait au trimestre précédent, et ne vous donne rien à quoi vous opposer. Une liste publiée assortie d'un délai de préavis vous montre exactement qui figure aujourd'hui dans la chaîne et vous ouvre une fenêtre définie pour objecter lorsqu'elle change. Une réponse vérifiable ressemble à ceci : le contrat de sous-traitance engage le fournisseur à notifier les nouveaux sous-traitants en mettant à jour la liste publiée, fixe par écrit un délai d'objection et nomme la région dans laquelle le traitement peut avoir lieu.

La plupart des acheteurs pensent à ce qu'il advient de leurs documents au moment du téléversement. Moins nombreux sont ceux qui pensent à la fin de la mission, et c'est dans ce second moment que la confidentialité se gagne ou se perd en silence. Un document qui dort dans les sauvegardes d'un fournisseur trois ans après la clôture du projet reste un document sorti de vos murs. La question d'évaluation n'est pas seulement 'les données sont-elles en sécurité maintenant ?' mais 'qui décide du moment où elles cessent d'exister, et puis-je le vérifier ?'

La pièce à demander est une politique écrite de conservation et de suppression précisant les durées de conservation, le traitement des sauvegardes et les délais d'effacement. Sous le RGPD, ce n'est pas une courtoisie facultative : l'article 28, paragraphe 3, point g), impose que le sous-traitant, selon le choix du responsable du traitement, supprime ou renvoie toutes les données à caractère personnel au terme de la prestation de services relatifs au traitement, et détruise les copies existantes, à moins que le droit de l'Union ou le droit d'un État membre n'exige la conservation des données.^[5] Les stipulations de fin de vie du contrat doivent s'aligner sur la politique publiée : si le contrat prévoit la suppression à la résiliation et que la politique évoque un archivage de durée indéterminée, vous avez trouvé un écart à régler avant la signature, non après.

Deux détails méritent une attention particulière à la lecture de la politique. D'abord les artefacts dérivés. Vos documents bruts ne sont pas la seule chose qu'une plateforme crée : plongements, résultats d'analyse, journaux et exports dérivent tous de votre matériel, et une politique de suppression qui ne couvre que les fichiers sources laisse les dérivés en place. Demandez ce que la politique dit de chacun. Ensuite, la mécanique de la fin de contrat. Un contrat de sous-traitance bien rédigé prévoit qu'avant l'expiration de l'accord, le sous-traitant supprime ou renvoie de manière sécurisée toutes les données à caractère personnel selon le choix et l'instruction du client, et que le client peut demander une attestation écrite des mesures prises à l'achèvement du traitement. Une confirmation écrite de suppression fait la différence entre croire que les données ont disparu et savoir que quelqu'un s'est engagé par écrit à vous le dire.

Le chiffrement protège vos documents des personnes extérieures. Le contrôle des accès les protège des personnes intérieures, et pour du matériel confidentiel la question interne est souvent la plus aiguë : quels salariés du fournisseur peuvent ouvrir un dossier de conseil, à quelles conditions et avec quelle trace de l'avoir fait ? Une plateforme peut être bien défendue au périmètre et autoriser malgré tout un accès interne large par défaut. La pièce qui répond à cela est un document sur les mesures de sécurité décrivant l'accès fondé sur les rôles, les habilitations au moindre privilège et la journalisation des accès dans le détail opérationnel.

Le RGPD donne à ce document une assise juridique. L'article 28, paragraphe 3, point b), impose que le contrat de traitement prévoie que le sous-traitant veille à ce que les personnes autorisées à traiter les données à caractère personnel s'engagent à respecter la confidentialité ou soient soumises à une obligation légale appropriée de confidentialité.^[5] L'article 28, paragraphe 3, point h), impose que le sous-traitant mette à la disposition du responsable du traitement toutes les informations nécessaires pour démontrer le respect des obligations prévues à cet article et pour permettre la réalisation d'audits, y compris des inspections, par le responsable du traitement ou un autre auditeur qu'il a mandaté, et contribuer à ces audits.^[5] Lues ensemble, ces dispositions signifient que vous êtes fondé à voir comment le fournisseur restreint et journalise les accès internes, et non simplement à entendre qu'ils sont restreints.

Le conseil pratique est de lire le document sur les mesures de sécurité en regard de la clause d'audit du contrat, plutôt que d'accepter un résumé de certifications. Une affirmation de certification porte sur un processus constaté à un instant donné ; le document de sécurité décrit les contrôles qui s'appliquent à vos données chaque jour. Un fournisseur bien préparé publie ce matériel, par exemple sur une page intégrations et sécurité décrivant le contrôle d'accès fondé sur les rôles avec des habilitations au moindre privilège, des journaux d'audit exportables et des politiques de conservation configurables par mission. Et lorsqu'un fournisseur revendique une certification, vérifiez l'affirmation dans sa propre documentation publiée plutôt que de la présumer : demandez ce que la certification couvre, quelle entité la détient et si son périmètre inclut la plateforme qu'on vous vend réellement. Un fournisseur sérieux aura déjà publié les réponses.

Tôt ou tard, au cours d'une évaluation, un fournisseur répondra à l'une de ces questions uniquement de vive voix. La réaction n'est pas de discuter, mais de demander la réponse par écrit avant la signature. Le cadre d'audit de l'ICO pour les systèmes d'IA en explicite la raison : en présence d'accords purement verbaux il manque une voie de recours en cas de manquement aux exigences du RGPD britannique, et sans contrats appropriés les manquements aux obligations des responsables de traitement et des sous-traitants ne peuvent être évalués ni imputés.^[1] Un fournisseur incapable de produire le document a malgré tout répondu à la question. La réponse est que la pièce n'existe pas, ou qu'elle existe sous une forme qu'il préfère vous voir ignorer. Dans un cas comme dans l'autre, vous avez appris quelque chose d'exploitable avant le téléversement, et non après.

La liste complète, dans l'ordre où une évaluation sérieuse devrait se dérouler :

1. Contrat de sous-traitance et clauses d'usage des données : le fournisseur s'entraîne-t-il sur vos données, et l'entraînement peut-il être exclu ?
2. Région de résidence des données annoncée : une région nommée dans le contrat ou la documentation, plus le mécanisme de transfert si un traitement ou un accès a lieu hors EEE.
3. Liste nominative, publiée et datée des sous-traitants ultérieurs : qui figure dans la chaîne, et quel mécanisme de notification et d'objection en régit les changements.
4. Politique écrite de conservation et de suppression : durées de conservation, traitement des sauvegardes, délais d'effacement, sort des artefacts dérivés, et restitution ou suppression en fin de contrat avec confirmation écrite.
5. Document sur les mesures de sécurité : accès fondé sur les rôles, habilitations au moindre privilège et journalisation, lu en regard de la clause d'audit du contrat.

C'est la norme au regard de laquelle Decisity a été construit. Plateforme de stratégie nativement IA, ni cabinet de conseil ni éditeur de sécurité, Decisity s'attend à ces questions et y répond par des documents publiés plutôt que par des assurances : un contrat de sous-traitance publié comportant des engagements de traitement dans l'Union et l'EEE, une liste de sous-traitants assortie d'une fenêtre d'objection définie, et une page de sécurité exposant ses contrôles d'accès, de journalisation et de conservation dans le détail opérationnel. Pour les acheteurs européens qui manipulent du matériel stratégique confidentiel, cette posture s'étend à la résidence européenne des données comme principe de conception affiché et non comme argument commercial, y compris pour le Mittelstand et les entreprises de taille intermédiaire dont les documents de conseil l'exigent. La même norme vaut pour tout fournisseur que vous évaluez, y compris celui-ci : lisez les documents et, lorsqu'une affirmation compte, vérifiez-la au regard de ce que le fournisseur a effectivement publié.

Un dernier point revient à votre direction juridique et non à cet article : faites-lui examiner les stipulations contractuelles, y compris le contrat de sous-traitance, la clause d'audit et les clauses de responsabilité, avant tout téléversement de matériel confidentiel. La liste ci-dessus vous dit quelles pièces lui soumettre. Sa validation vous dit que les stipulations tiennent.

• ICO: Contracts and third parties (AI and data protection audit framework)
• Morgan Lewis: Key Considerations When Allowing a Vendor to Train Its AI Models on Customer Data
• Commission Implementing Decision (EU) 2021/914 on standard contractual clauses
• EDPB Recommendations 01/2020 on measures that supplement transfer tools
• GDPR Article 28: Processor