Amende record de 15 millions d’euros pour OpenAI : quand l’IA générative rencontre le RGPD
L’Autorité italienne de protection des données a infligé une amende de 15 millions d’euros à OpenAI pour non-conformité de ChatGPT avec le RGPD. Il s’agit de la première sanction européenne majeure liée à l’IA générative, marquant un tournant dans la régulation des nouvelles technologies.
Cette décision repose sur plusieurs points essentiels :
- Fuite de données : En mars 2023, une faille technique a exposé les titres de conversations (prompts) entre utilisateurs, sans notification appropriée à l’Autorité italienne, en violation de l’article 33 du RGPD.
- Base légale insuffisante : OpenAI n’a pas identifié de base légale claire pour utiliser les données personnelles afin de former ChatGPT, violant ainsi les articles 5 et 6 du RGPD. Bien que le Comité européen de protection des données (CEPD) ait récemment validé l’intérêt légitime comme base légale possible, cette justification reste absente dans le cas d’OpenAI.
- Manque de transparence : L’Autorité italienne a critiqué le flou dans la politique de confidentialité d’OpenAI, qui empêche les utilisateurs d’exercer pleinement leurs droits.
- Vérification de l’âge : ChatGPT exposait des enfants de moins de 13 ans à des contenus inadaptés, en violation des articles 24 et 25 du RGPD.
- Données inexactes (hallucinations) : L’IA générative produisait encore des informations incorrectes ou biaisées, ce qui, selon l’Autorité, est une violation continue.
En outre, l’Autorité a ordonné une campagne de sensibilisation de six mois pour informer le public sur le fonctionnement des outils d’IA générative et rappeler les droits garantis par le RGPD.
Pourquoi l’Italie ?
L’Autorité italienne s’est déclarée compétente car OpenAI n’avait pas encore d’établissement dans l’Union européenne au moment des faits. Depuis février 2024, OpenAI s’est installé à Dublin, où l’Autorité irlandaise sera désormais compétente grâce au système du guichet unique.
Cette affaire soulève un débat important : comment concilier innovation technologique et protection des droits des utilisateurs ? OpenAI a qualifié l’amende de disproportionnée, affirmant qu’elle représente 20 fois ses revenus en Italie sur la période.
Pour plus de précisions : https://www.dalloz-actualite.fr/flash/ia-generative-et-rgpd-l-autorite-italienne-sanctionne-openai-d-une-amende-de-15-millions-d-eur
Chez Junca & Associés, nous accompagnons les entreprises dans leur mise en conformité avec le RGPD et les conseillons sur les défis juridiques posés par l’intelligence artificielle