Par Haas Avocats
L’explosion de l’IA nourrit l’actualité de nombreuses déviances appelant à la vigilance.
Tel est le cas des deepfake qui se multiplient aux quatre coins de la planète avec une audience fulgurante.
Après des photographies du pape en doudoune blanche ayant fait plusieurs fois le tour de la planète c’est au tour du Président Ukrainien d’être victime de cette pratique. Le 5 janvier 2024, une vidéo publiée sur le réseau social X montrait Volodymyr Zelensky en habits traditionnels moulants, effectuant une danse devant des spectateurs hilares. L’auteur du tweet ironisait « tout se passe comme prévu #UkraineRussiaWar ».
Utilisés ici pour de la propagande politique, là pour réaliser toutes sortes de fraudes de plus en plus sophistiquées, les deepfakes questionnent à plus d’un titre et appellent une réponse à la fois juridique et technologique.
Un deepfake ou hypertrucage est une technique de synthèse multimédia reposant sur l’intelligence artificielle. Plus simplement, c’est un enregistrement vidéo ou audio réalisé ou modifié grâce à l'intelligence artificielle. Le mot deepfake est une abréviation de "Deep Learning" et "Fake", qui peut être traduit par "fausse profondeur".
Cette technologie n’est pas réellement nouvelle, puisque ses premières utilisations remontent au moins à 20161, dans un projet de l’Intitute of Electrical and Electronics Engineers sur une séquence vidéo reconstituée sur la base des expressions d'un acteur enregistré en direct à l'aide d'une webcam.
Les deepfakes sont utilisés dans différents secteurs.
Ainsi, dans le domaine artistique, l’œuvre Un’emozione per siempre 2.0 de l’article Joseph Ayerle met en scène une actrice italienne virtuelle recrée par intelligence artificielle. Il est également possible de citer l’œuvre d'art générée par l'IA, Edward de Belamny, développée par le collectif artistique français Obvious.
De même, dans le milieu cinématographique, la technologie du deepfake est de plus en plus active. Par exemple, dans le film Indiana Jones et le Cadrant de la destinée, l’acteur principal Harrison Ford est rajeuni artificiellement en utilisant des extraits de ses anciens films. Scénaristes, acteurs ont récemment fait grève à Hollywood en raison de craintes quant au développement incontrôlé de ce type de technologie.
Bien que l'utilisation des deepfakes ait initialement été limitée aux domaines artistique et scientifique, l'émergence d'applications grand public2 permettant aux utilisateurs de maîtriser cette technique a changé la donne. Désormais, les vidéos modifiées par intelligence artificielle prolifèrent sur les réseaux sociaux. Le Forum économique mondial estime que le nombre de deepfake, publiées en ligne, augmente de 900% par an.
Cette prolifération suscite de sérieuses préoccupations quant à leur utilisation à des fins malveillantes.
Trois grands scénarios malveillants utilisant le deepfake semblent émerger :
Ces scénarios ne sont toutefois pas exhaustifs. Dans le champ commercial et concurrentiel, la technologie pourra être utilisée pour tromper le consommateurs sur les produits et services proposés à l’instar des dark patterns. ou encore pour décrédibiliser un concurrent
Le Code civil français, comme le Code pénal permettent de sanctionner les cyberdélinquants ayant recours au deepfake.
Citons par exemple :
En ce qui concerne la question de l’escroquerie, plusieurs bases légales peuvent être utiles :
Enfin, pour la fraude bancaire, diverses sanctions sont possibles : blâmes, avertissements et amendes, pouvant aller jusqu’à plusieurs millions d’euros. A ce titre, ce sont les régulateurs financiers comme l’Autorité des marchés financiers (AMF) et l’Autorité de contrôle prudentiel et de résolution (ACPR) qui veillent au respect des obligations de KYC des entités financières et qui les sanctionnent en cas de manquement.
A cet arsenal juridique s’ajoute une réponse technique prenant différents aspects.
Il existe d’ores et déjà plusieurs techniques d’identification des deepfakes.
Un détecteur est passif quand il utilise des caractéristiques jugées comme discriminantes qui permettent de distinguer facilement les deepfakes des images originales. Par exemple, en observant que les premiers deepfakes ne clignaient pas des yeux, des chercheurs ont suggéré de calculer la fréquence des clignements. Si elle était inférieure à un certain seuil, les vidéos étaient alors identifiées comme fausses. De la même manière, mais cette fois-ci sans avoir recours à des outils, il est possible de repérer un trucage en observant la qualité de la vidéo, le détourage des visages ou la luminosité de l’image.
L’utilisation de détecteurs « actifs » est également envisageable. Ceux-ci permettent de protéger l’image originale avant que celle-ci ne soit modifiée. Deux grands types de techniques existes :
L’industrie logicielle n’est pas restée sans solution dans la lutte contre les vidéos truquées. Plusieurs logiciels de détection sont d’ores et déjà disponible sur le marché.
L’utilisation de la blockchain peut être une solution intéressante pour les cas d’usages tels que l’identité numérique et les procédures de connaissance du client3 (KYC). Dans les secteurs bancaires et assurantiels, ces vérifications sont complexe avec l’utilisation croissante des deepfakes.
La blockchain est un registre -une grande base de données- qui a la particularité d’être partagé simultanément avec tous ses utilisateurs, tous également détenteurs de ce registre, et qui ont également tous la capacité d’y inscrire des données, selon des règles spécifiques fixées par un protocole informatique sécurisé grâce à la cryptographie.
Ainsi, la blockchain est susceptible de permettre de garantir l'authenticité et la traçabilité des contenus en utilisant des fonctions de hachage pour repérer toute altération des fichiers d'origine, l’horodatage et la cryptographie. Appliquée au processus de KYC, elle permet de certifier l’identité d’une personne sans avoir à dévoiler les documents utilisés pour ce processus et à faciliter l’échange des documents KYC.
A terme, l’utilisation de la blockchain pourrait ainsi permettre de créer un système de réputation transparent et incorruptible pour lutter efficacement contre certaines fraudes liées aux Deepfakes.
***
Le département cyber sécurité du Cabinet Haas Avocats, Cabinet spécialisé depuis plus de 25 ans en droit des nouvelles technologies, se tient à votre disposition pour répondre à vos questions et vous assister dans le pilotage juridique de la gestion des cyber risques. Pour en savoir plus, rendez-vous ici.
_
1 « Face2Face: Real-time Face Capture and Reenactment of RGB Videos », Proc. Computer Vision and Pattern Recognition (CVPR), IEEE, 2016 (consulté le 24 février 2018).
2 A l’instar de l'application FakeApp, qui utilise TensorFlow, l’outil open source développé par Google. Ou encore, certains « filtres » sur le réseau social SnapChat.
3 Le potentiel de blockchain vis-à-vis ces problématiques avait déjà été souligné par le rapport d’information de l’Assemblée nationale du 12 décembre 2018.