Par Haas Avocats
Tout le monde se souvient qu’au début de l’année 2023, la Garante (la CNIL italienne) avait interdit temporairement Open AI, et le service qu’elle propose, i.e., Chat GPT, en Italie. Pour ceux qui vivent dans une grotte depuis 2023, il s’agit d’un chatbot basé sur un système d'intelligence artificielle générative, qui génère des sorties textuelles sur la base d'entrées textuelles (appelées « prompts »).
Force est de constater que la Garante garde un œil sur Open AI car, cette fois-ci, en date du 2 novembre 2024[1], la Garante a condamné[2] la société américaine Open AI à payer une amende de 15 millions et à mettre en œuvre une campagne de communication !
Amende record : une sanction de 15 millions d’euros pour violations multiples
En effet, la société américaine a été condamnée à payer une amende de 15 millions d’euros et ce, sous 60 jours. L’autorité de contrôle précise que la société a coopéré lors de l’enquête.
Pour justifier une telle sanction, la Garante évoque notamment le fait que :
- La société américaine n’a pas notifié la violation de données personnelles de mars 2023[3],
- A traité les données personnelles des utilisateurs de ChatGPT sans base légale,
- Et a violé le principe de transparence ainsi que les obligations d’informations à destination des utilisateurs.
Il faut noter que d’autres motifs sont également invoqués : l'absence de mécanismes de vérification de l'âge des mineurs, la « production » de données inexactes etc.
Une campagne éducative imposée : OpenAI face à ses obligations de transparence
Il est important de noter que la Garante précise qu’à titre accessoire, Open AI devra mettre en œuvre une campagne de communication institutionnelle (radio, télévision, journaux et Internet) de six mois (le contenu du plan de communication doit être approuvé par l’autorité italienne).
L’objectif sera de promouvoir et de sensibiliser le grand public au fonctionnement du service ChatGPT et ses implications en matière de droit à la protection des données personnelles, notamment au regard de la collecte des données personnelles et en insistant sur l’exercice des droits d'opposition et d'effacement de leurs données personnelles.
Sur ce point-là, il pourra être intéressant de suivre ce qui sera fait par Open AI, autant sur la forme que sur le fond. Dans la mesure où le plan sera validé par l’autorité, il serait étonnant qu’Open AI en fasse une publicité déguisée.
Cette nouvelle sanction imposée à Open AI par la Garante témoigne de la vigilance croissante des autorités européennes en matière de protection des données personnelles, notamment face aux technologies d’intelligence artificielle et du rôle de fer de lance que semble jouer la CNIL italienne.
Au-delà de la sanction financière, cette décision marque un tournant dans la régulation des géants de l’IA, posant des exigences claires en matière de conformité et de responsabilité. Reste à voir comment Open AI répondra à ces obligations, notamment dans l’élaboration d’une campagne informative qui devra à la fois respecter les attentes de la Garante et préserver son image…
***
Le cabinet HAAS Avocats est spécialisé depuis plus de vingt-cinq ans en droit des nouvelles technologies et de la propriété intellectuelle. Il accompagne de nombreux acteurs du numérique dans le cadre de leurs problématiques judiciaires et extrajudiciaires relatives au droit de la protection des données. Dans un monde incertain, choisissez de vous faire accompagner par un cabinet d’avocats fiables. Pour nous contacter, cliquez ici.
[1] https://www.garanteprivacy.it/web/guest/home/docweb/-/docweb-display/docweb/10085455
[2] https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/10085432
[3] La délibération précise que « L’entreprise a ensuite confirmé publiquement l'incident et précisé que les données impliquées dans le problème technique qui auraient pu être affichées par des utilisateurs autres que ceux concernés étaient le prénom, le nom, l'adresse électronique, les quatre derniers chiffres et la date d'expiration de la carte de crédit utilisée pour payer le service ChatGPT Plus (la version payante du service). »
