Deepfakes : un Projet de loi visant à sécuriser et réguler l’espace numérique ?

Par Haas Avocats

Créée à l’aide d’un algorithme, il s’agit d’un « hypertrucage », communément appelé « deepfake ».

L’essor de l’intelligence artificielle a apporté des avantages incontestables tout en soulevant de nombreux défis juridiques parmi lesquels figurent les deepfakes, ces contenus générés par IA, qui divertissent autant qu’ils inquiètent.

Si cette technologie peut être utilisée à des fins créatives ou de divertissement, elle présente toutefois des risques importants en termes de désinformation et expose les individus au détournement malveillant de leur image.

Pour lutter contre les dérives de ce phénomène, le législateur s’est récemment saisi de cette problématique en intégrant deux amendements au Projet de loi visant à sécuriser et réguler l’espace numérique (dit projet de loi SREN), adopté par l’Assemblée nationale le 17 octobre dernier et désormais soumis au vote de la Commission mixte paritaire :

• Le premier amendement consacre un nouveau délit à l’article 226-8-1 du Code pénal aux fins de réprimer la publication des montages traditionnels et deepfakes à caractère sexuel, sans le consentement de la personne représentée ;
• Le second amendement vise à faire entrer dans le champ d’application de l’article 226-8 du Code pénal[1] la publication de deepfakes.

La consolidation du cadre juridique actuel

Certains mécanismes juridiques peuvent déjà être utilisés par un individu souhaitant empêcher et réprimer le détournement de son image sans son autorisation.

Ainsi en est-il, sur le plan civil, de l’article 9 du Code civil, qui consacre le droit à la vie privée. Sur ce fondement les personnes apparaissant sur des deepfakes pourraient invoquer une atteinte à leur image.

Sur le plan pénal, la reprise des attributs de la personnalité d’une personne sans son consentement est susceptible, sous certaines conditions, de constituer l’infraction d’atteinte volontaire à la vie privée d’autrui au sens de l’article 226-1 du Code pénal.

Notons également que le fait de réaliser un montage en utilisant l’image d’un individu sans son consentement est réprimé par le Code pénal, et notamment par l’article L226-8 précité selon lequel :

« Est puni d'un an d'emprisonnement et de 15 000 euros d'amende le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l'image d'une personne sans son consentement, s'il n'apparaît pas à l'évidence qu'il s'agit d'un montage ou s'il n'en est pas expressément fait mention. »

Toutefois, dans l’objectif de créer un environnement numérique plus respectueux des droits et de la dignité de chaque individu et de lutter contre le phénomène de désinformation, le législateur a souhaité renforcer les mécanismes existants, pour y inclure expressément les deepfakes.

Vers une pénalisation des deepfakes

Le législateur a, dans un premier temps, souhaité introduire dans le Projet de loi visant à sécuriser et réguler l’espace numérique un dispositif de lutte contre la diffusion non consentie de contenus falsifiés à caractère sexuel.

L'Article 5 ter du Projet de loi SREN introduit ainsi un nouvel article 226-8-1 dans le code pénal, selon lequel la publication d’un montage contenant des paroles ou une image à caractère sexuel d'une personne sans son consentement serait passible de deux ans d'emprisonnement et de 60 000 euros d'amende.

Seraient donc concernés tant les montages classiques (générés sans l’aide d’un algorithme) que les deepfakes.

Dans un second temps, le législateur a jugé nécessaire d’élargir le champ d’application de l’actuel article 226-8 du Code pénal applicable aux montages traditionnels afin d’y inclure sans équivoque les deepfakes.

Les peines encourues pour cette infraction seraient alignées sur celles déjà prévues pour la diffusion non autorisée de montages. Les sanctions sont toutefois aggravées lorsque la publication d'un deepfake est effectuée via un service de communication au public en ligne. Dans ce cas, les peines maximales pourraient atteindre deux ans d'emprisonnement et 45 000 euros d'amende.

Les limites du nouvel article 226-8 du Code pénal

Si les modifications apportées à l’actuel article 226-8 du Code pénal visent à renforcer le dispositif de lutte contre la diffusion non autorisée d’images falsifiées, la rédaction du texte interroge quant à sa portée.

L’application du texte, en plus de nécessiter une diffusion sans l’autorisation de la personne concernée, est soumise à deux conditions alternatives.

En effet, seuls sont concernés les deepfakes :

• Qui n’apparaissent pas à l’évidence comme des contenus générés par IA ou ;
• Concernant lesquels l’utilisation de l’IA n’est pas expressément mentionnée.

Ces conditions existent déjà au sein de l’actuel article 226-8 du code pénal.

Toutefois, l’application de ces conditions aux deepfakes peut surprendre car, contrairement aux montages classiques, les deepfakes peuvent être générés extrêmement rapidement, avec une facilité déconcertante et sont souvent très réalistes.

Il suffirait donc pour la personne diffusant un deepfake de mentionner sur sa publication que l’image a été générée à l’aide d’un algorithme pour tenter d’échapper aux sanctions de ce texte.

Une telle mention serait, certes, bénéfique en ce qu’elle informerait le public sur le caractère falsifié de l’image. Toutefois, la personne concernée, susceptible d’être représentée dans des circonstances dégradantes, se retrouverait alors privée de la possibilité d’agir sur ce fondement, et ce d’autant plus que, la démonstration par la victime de l’absence d’utilisation d’un algorithme revient à démontrer l’impossible.

En outre, ce texte ne s’applique pas s’il apparaît de manière évidente que le contenu a été généré par un algorithme. Là encore, le fait que le public ait conscience de la nature falsifiée du contenu ne protège pas pour autant la personne concernée contre le détournement malveillant de son image.

Enfin, les termes « s’il apparait de manière évidente » font naître une part de subjectivité, potentielle source d’insécurité juridique, dans l’appréciation des deepfakes susceptibles d’entrer dans le champ d’application du texte.

Si l’ajout de ces dispositions témoignent de la volonté du législateur de créer un cadre juridique permettant d’appréhender les nouvelles problématiques soulevées par l’intelligence artificielle, les modifications apportées à l’article 226-8 du Code pénal semblent plus avoir vocation à lutter contre le phénomène de désinformation qu’à protéger les individus dont l’image est détournée sans autorisation.

Reste à savoir si d’autres dispositions seront intégrées dans le Projet de loi visant à sécuriser et réguler l’espace numérique afin de compléter l’arsenal prévu pour encadrer les deepfakes, afin notamment de permettre aux personnes concernées de lutter efficacement contre ce phénomène.

***

Le Cabinet HAAS Avocats, fort de son expertise depuis plus de 25 ans en matière de droit du numérique et des nouvelles technologies, accompagne ses clients dans différents domaines du droit, notamment en matière d’intelligence artificielle et d’e-réputation. Si vous souhaitez avoir plus d’informations au regard de la réglementation en vigueur, n’hésitez pas à faire appel à nos experts pour vous conseiller. Dans un monde incertain, choisissez de vous faire accompagner par un cabinet d’avocats fiables. Pour nous contacter. Contactez-nous ici.

[1] Article sanctionnant « le fait de publier, par quelque voie que ce soit, le montage avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montant ou s’il n’en est pas expressément fait mention (…) » - inclut dans la section « De l’atteinte à la représentation de la personne » du Code pénal

[1] Article sanctionnant « le fait de publier, par quelque voie que ce soit, le montage avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montant ou s’il n’en est pas expressément fait mention (…) » - inclut dans la section « De l’atteinte à la représentation de la personne » du Code pénal