Par Stéphane Astier et Marie Torelli
Le 25 octobre 2021, le Chili a modifié sa Constitution afin d’y intégrer une nouvelle catégorie de droits fondamentaux : les « neuro-droits ».
La création de « neuro-droits » a pour objectif de protéger les individus contre les dérives des « neuro-technologies » et plus spécifiquement des biotechnologies visant à étudier l’activité du cerveau humain à des fins de manipulation [1].
Faut-il voir dans cette initiative l’expression d’un enjeu juridique essentiel à la préservation de nos libertés publiques ?
Assurément.
Et cela est d’autant plus vrai que les biotechnologies ne sont pas les seules innovations capables d’exercer une influence sur le cerveau humain.
Qu’il s’agisse des biais algorithmiques des plateformes, des « bulles de filtrage » créées par l’utilisation des réseaux sociaux ou des techniques de marketing digital des e-commerçants, le cerveau des internautes subi tous les jours des « manipulations » discrètes.
Alors que les neuro-droits ne sont pas encore reconnus en France, une autre question se pose avec acuité.
L’arsenal juridique français est-il suffisant pour lutter contre l’influence qu’exerce tous les jours la technologie sur nos cerveaux ?
L’occasion d’un petit tour d’horizon.
Au Chili, les neuro-droits trouvent leur source dans la volonté de protéger les individus contre les dérives potentielles des « neuro-technologies ».
On désigne par « neuro-technologie » tout dispositif ou procédure utilisés pour accéder au fonctionnement ou à la structure des systèmes neuronaux d’une personne et permettant de l’étudier, de l’évaluer, de le modéliser, d’exercer une surveillance ou d’intervenir sur son activité.
A titre d’exemple, l’initiative Neuralink travaille sur un implant cérébral permettant aux personnes handicapées d’utiliser plus facilement des ordinateurs.
Parce qu’elles sont capables d’altérer le cerveau et, partant l’identité même des individus, ces technologies font l’objet de nombreux questionnements bioéthiques auxquels le Chili a décidé d’apporter une réponse juridique innovante : la création de nouveaux droits fondamentaux.
Au Chili, la création des « neuro-droits » a donné lieu à la modification de la constitution du pays, laquelle énonce désormais que :
« Le développement scientifique et technologique sera au service du peuple et sera conduit dans le respect de la vie et de l’intégrité physique et mentale. La loi définira les critères, conditions et restrictions de l’utilisation de ces développements pour le peuple et mettra en place les garde fous nécessaires pour protéger l’activité du cerveau et les informations qui en découlent »
Cette loi constitutionnelle a été complétée par un projet de loi détaillant les modalités d’exercice et de garantie de ces neuro-droits.
A titre d’exemple, le projet de loi prévoit :
La réponse chilienne aux neuro-technologie a inspiré une réflexion plus globale dans le domaine de la bioéthique.
En particulier, l’UNESCO a publié, en 2021, un rapport sur les aspects éthiques de la neuro-technologie.
Au sein de ce rapport, l’UNESCO identifie quatre nouveaux droits qui pourraient utilement être consacrés pour encadrer le développement des neuro-technologies :
Le droit à l’intégrité mentale. Le droit à l’intégrité mentale découle directement du droit à la dignité humaine. L’intégrité mentale désigne, à l’instar de l’intégrité physique, la maîtrise par un individu de ses états mentaux et de ses données cérébrales afin que personne ne puisse, sans son consentement, lire, diffuser ou modifier ces états sans le consentement préalable de cet individu. En d’autres termes, l’intégrité du cerveau doit être respectée. Toute forme d’altération constituera ainsi une atteinte à la dignité humaine.
La liberté cognitive. La liberté cognitive est issue de la liberté individuelle. Elle consiste à interdire aux gouvernements de porter atteinte au droit des individus à augmenter leur capacité mentale, le cas échéant au moyen de la neuro-technologie. Cette liberté est directement reconnue au sein du projet de loi chilien susvisé.
Le droit à la vie privée mentale. Il s’agit du droit à la confidentialité des données neuronales, c’est-à-dire aux données produites par le cerveau humain. L’UNESCO précise à ce titre que ces données sont particulièrement sensibles et constituent les données les plus intimes en ce qu’elles concernent directement le cerveau et que le cerveau génère l’esprit. Ces données sont ainsi considérées comme l’UNESCO comme les données les plus sensibles dès lors qu’elles révèlent le processus de fonctionnement du cerveau d’une personne et pourraient ainsi permettre de prédire ses actes.
Le droit à la continuité psychologique. La continuité psychologique désigne la continuité de la vie mentale d’une personne dans le temps. Ce droit, intimement lié à l’identité personnelle des individus, vise notamment à interdire aux fabricants de neuro-technologie en vue d’altérer les souvenirs d’une personne ou de manipuler sa mémoire.
Enfin, l’UNESCO rappelle que ces droits ne peuvent être décorrélés d’un impératif essentiel : la cyber-sécurité.
En effet, compte tenu de leur connexion directe au cerveau, les dispositifs de neuro-technologies devront être soumis à des protocoles stricts de cyber-sécurité en vue de minimiser tout risque de piratage.
Si les « neuro-droits » ont été créés en réaction aux dérives potentielles des neuro-technologies, ils pourraient également s’appliquer, de manière plus générale, à tout type de technologie ayant pour objet ou pour effet d’influencer le cerveau humain.
Qu’il s’agisse de nos « recommandations » ou de notre « fil d’actualité », l’utilisation d’Internet donne lieu à une ultra-personnalisation de l’expérience utilisateur des internautes par la mise en œuvre de technologies dites « comportementales ».
Ces technologies, qui ont pour objet d’analyser le comportement des internautes en vue de créer de la valeur, peuvent être illustrées par trois exemples :
Par exemple, l’algorithme de Youtube fait remonter un certain type de contenus au sein de nos recommandations en fonction de critères pré-établis par Google (durée de la vidéo, type de contenu…).
Si ces biais peuvent provenir du programmeur lui-même, ils peuvent également provenir des données sur lesquelles les algorithmes s’entraînent.
C’est le cas notamment du phénomène des « bulles de filtrage »[2].
Constaté sur les réseaux sociaux, ce phénomène consiste, pour les algorithmes, à remonter aux utilisateurs les seules publications compatibles avec leurs centres d’intérêts et leurs opinions notamment politiques.
Concrètement (et schématiquement), il ne sera jamais proposé à un utilisateur sympathisant de l’extrême-droite des contenus d’extrême gauche.
Ce faisant, les algorithmes créent de véritables « bulles » complètement étanches, qui empêchent les internautes de se confronter à des opinions qu’ils ne partageraient pas, portant ainsi atteinte au pluralisme nécessaire à la liberté de penser.
En marketing, le « nudge » vise à inciter le consommateur à prendre une décision pré-établie par le e-commerçant.
Par exemple, les étiquettes « Populaire » ou « Choix d’Amazon » sur Amazon visent à promouvoir certains produits et, partant, à inciter les consommateurs à les acheter.
La question des « neuro-droits » implique, au préalable, de rechercher si les droits déjà consacrés par la constitution ou la loi ne pourraient pas répondre, par eux-mêmes, aux défis posés tant par la neuro-technologie que l’économie comportementale.
En effet, si, à ce jour, les « neuro-droits » n’ont pas été consacrés par l’arsenal juridique français, ils semblent toutefois apparaître « en négatif » dans certaines réformes récentes :
A travers le principe de transparence des algorithmes des grandes plateformes issu du DSA, on peut voir un mécanisme de garantie du droit à la vie privée mentale. En effet, en imposant aux plateformes d’expliquer leurs algorithmes de recommandation et de mettre fin au phénomène des boîtes noires, les internautes seront mieux informés.
L’obligation de divulguer un partenariat commercial par les influenceurs résultant de l’article 20 de la Loi pour la Confiance en l’Economie Numérique pourrait constituer un dispositif de garantie du droit au respect de l’intégrité mentale. Les internautes peuvent ainsi naviguer sans que leur perception ne soit altérée par un partenariat déguisé en contenu spontané.
La protection des données de santé par le RGPD et le code de la santé publique pourrait permettre de protéger le droit à la vie privée mentale et notamment la confidentialité de ses données neuronales.
La réglementation relative aux faux avis, interdisant aux marques de publier de faux avis positifs visent, encore une fois, à garantir le droit à l’intégrité mentale des consommateurs et à éviter que ceux-ci ne soient trompés par une campagne d’avis faussement positifs.
La réglementation relative aux fake news, sanctionnant la diffusion de fausses nouvelles en période électorale vise, elle aussi, à protéger l’intégrité mentale des citoyens et leur droit à l’auto-détermination.
Ainsi, sans être consacrés, les neuro-droits semblent d’ores et déjà faire l’objet d’un certain nombre de garanties qui ont, vraisemblablement, vocation à se multiplier dans les années à venir.
***
Le cabinet HAAS-Avocats accompagne les acteurs dans la protection des neuro-droits. Pour un devis ou des renseignements complémentaires, n’hésitez pas à contacter le cabinet HAAS Avocats.
[1] Par exemple, l’implant Neuralink d’Elon usk https://neuralink.com/
[2] Elie Pariser, The Filter Bubble: What The Internet Is Hiding From You