Droit à l'effacement lorsque les données personnelles résident à l'intérieur des modèles d'IA entraînés

Points clés — Droit à l'effacement pour les modèles d'IA entraînés

L'article 17 du RGPD accorde aux personnes concernées le droit de demander la suppression de leurs données personnelles, mais l'application de ce droit devient complexe lorsque les données sont intégrées dans les poids des modèles d'IA, les pipelines d'entraînement et les bases de données vectorielles. Les organisations opérant à travers plusieurs filiales et juridictions ont besoin de flux de travail structurés, d'évaluations de faisabilité et de pistes d'audit inaltérables pour répondre de manière défendable. La plateforme hébergée en Suisse de Priverion automatise ces flux de travail, propage les demandes d'effacement à travers les entités du groupe et génère une documentation prête pour le régulateur.

Définitions

Qu'est-ce que le droit à l'effacement (droit à l'oubli) ?

Le droit à l'effacement est le droit d'une personne concernée, au titre de l'article 17 du RGPD, d'obtenir du responsable du traitement l'effacement de ses données personnelles sans délai injustifié lorsque l'un des plusieurs motifs s'applique, notamment le retrait du consentement ou lorsque les données ne sont plus nécessaires à la finalité pour laquelle elles ont été collectées.

Qu'est-ce que le désapprentissage automatique ?

Le désapprentissage automatique désigne les techniques qui suppriment l'influence de points de données d'entraînement spécifiques d'un modèle d'apprentissage automatique entraîné sans nécessiter un réentraînement complet. Selon le cadre IA du NIST, le désapprentissage est un domaine de recherche émergent pertinent pour une IA respectueuse de la vie privée.

Qu'est-ce qu'une demande d'accès de la personne concernée (DSAR) ?

Une demande d'accès de la personne concernée (DSAR) est une demande formulée par une personne concernée au titre de l'article 15 du RGPD afin d'obtenir la confirmation que des données personnelles font ou non l'objet d'un traitement et, le cas échéant, l'accès à ces données. Les demandes d'effacement au titre de l'article 17 suivent souvent les DSAR.

Qu'est-ce qu'une analyse d'impact relative à la protection des données (AIPD) ?

Une analyse d'impact relative à la protection des données (AIPD) est un processus requis au titre de l'article 35 du RGPD pour les opérations de traitement susceptibles d'engendrer un risque élevé pour les droits et libertés des personnes physiques. L'entraînement de modèles d'IA sur des données personnelles déclenche généralement cette exigence.

Statistiques et contexte sectoriel

Selon le rapport annuel IAPP-EY sur la gouvernance de la protection des données (2023), 60 % des organisations ont déclaré que la réponse aux demandes des personnes concernées figure parmi leurs trois principaux défis opérationnels en matière de protection des données. Le même rapport a constaté que l'organisation moyenne traite plus de 500 DSAR par an, les demandes liées à l'IA constituant une catégorie distincte en croissance.

L'avis 28/2024 du CEPD sur les aspects relatifs à la protection des données des modèles d'IA a clarifié que des données personnelles peuvent être considérées comme « contenues » dans un modèle si elles peuvent être extraites au moyen de requêtes, et que les responsables du traitement doivent évaluer ce risque et mettre en œuvre des mesures appropriées.

Une étude Cisco Data Privacy Benchmark de 2024 a révélé que 94 % des organisations affirment que leurs clients ne leur achèteraient pas si les données n'étaient pas correctement protégées, soulignant l'impératif commercial qui sous-tend des processus d'effacement défendables.

Le règlement européen sur l'IA (règlement 2024/1689) est entré en vigueur le 1er août 2024, les obligations relatives aux systèmes d'IA à haut risque s'appliquant progressivement jusqu'en 2026. L'article 10 exige des mesures de gouvernance des données pour les données d'entraînement, recoupant directement les obligations d'effacement du RGPD.

Foire aux questions

Qu'est-ce que le droit à l'effacement au titre de l'article 17 du RGPD ?

Le droit à l'effacement, codifié à l'article 17 du RGPD, confère aux personnes concernées le droit de demander la suppression de leurs données personnelles lorsqu'elles ne sont plus nécessaires à la finalité pour laquelle elles ont été collectées, lorsque le consentement est retiré ou lorsque le traitement est illicite. Les responsables du traitement doivent effacer les données « sans délai injustifié », généralement dans un délai d'un mois conformément à l'article 12, paragraphe 3.

Les données personnelles peuvent-elles réellement être effacées des modèles d'IA entraînés ?

L'effacement complet des données personnelles des poids d'un réseau de neurones entraîné est techniquement complexe, car les données sont intégrées dans les paramètres du modèle plutôt que stockées sous forme d'enregistrements distincts. L'avis 28/2024 du CEPD reconnaît cette complexité et indique que les responsables du traitement doivent documenter des évaluations de faisabilité et appliquer des mesures compensatoires telles que le filtrage des sorties lorsque l'effacement complet est irréalisable.

Comment Priverion traite-t-il les demandes d'effacement liées à l'IA ?

Priverion achemine les demandes d'effacement liées à l'IA via un flux de travail dédié qui signale l'implication de données d'entraînement de l'IA, assigne les parties prenantes au sein des équipes protection des données, ingénierie ML et juridique, génère des évaluations de faisabilité structurées alignées sur les lignes directrices du CEPD et maintient une piste d'audit inaltérable. La propagation inter-entités garantit que chaque filiale du groupe traite la demande avec un statut d'exécution suivi.

Qu'est-ce que le désapprentissage automatique et quel est son lien avec le RGPD ?

Le désapprentissage automatique est un ensemble de techniques conçues pour supprimer l'influence de données d'entraînement spécifiques d'un modèle entraîné sans réentraînement complet. Il est pertinent pour la conformité au RGPD car il offre une voie potentielle pour satisfaire les demandes d'effacement portant sur des données intégrées dans les modèles d'IA. Des institutions de recherche et des entreprises font progresser les méthodes de désapprentissage approximatif, bien que le domaine demeure naissant.

Que dit le CEPD au sujet de l'IA et du droit à l'effacement ?

L'avis 28/2024 du CEPD indique que les responsables du traitement doivent évaluer si des données personnelles peuvent être extraites des modèles d'IA et qu'ils doivent mettre en œuvre des mesures techniques et organisationnelles appropriées. Lorsque l'effacement complet des poids du modèle est irréalisable, les responsables du traitement doivent documenter les limites techniques et appliquer des mesures compensatoires.

De combien de temps les organisations disposent-elles pour répondre à une demande d'effacement ?

En vertu de l'article 12, paragraphe 3, du RGPD, les responsables du traitement doivent répondre sans délai injustifié et dans un délai d'un mois. Ce délai peut être prolongé de deux mois supplémentaires pour les demandes complexes, mais la personne concernée doit en être informée au cours du premier mois. Les demandes d'effacement liées à l'IA sont souvent considérées comme complexes en raison des difficultés de faisabilité technique impliquant le réentraînement ou le désapprentissage des modèles.

Quel est l'impact du règlement européen sur l'IA sur la conformité en matière d'effacement ?

Le règlement européen sur l'IA (règlement 2024/1689) impose aux fournisseurs de systèmes d'IA à haut risque de maintenir des pratiques de gouvernance des données, y compris la traçabilité des données d'entraînement. Cela recoupe les obligations d'effacement du RGPD, car les organisations doivent savoir quelles données personnelles ont servi à entraîner quels modèles. La tenue d'un registre de l'IA qui relie les personnes concernées aux modèles soutient à la fois la conformité au règlement européen sur l'IA et des réponses défendables en matière d'effacement.

Comment l'hébergement des données en Suisse influe-t-il sur la conformité au RGPD en matière d'effacement ?

La Suisse bénéficie d'une décision d'adéquation de l'UE, ce qui signifie que les données personnelles peuvent circuler de l'UE vers la Suisse sans garanties supplémentaires. L'hébergement suisse offre un fondement juridiquement stable pour le traitement transfrontalier des données, particulièrement pertinent dans le contexte post-Schrems II où les sous-traitants basés aux États-Unis font face à une incertitude juridique persistante.

Comparaison : approches d'effacement de l'IA