Par Haas Avocats
Le 5 septembre 2024, le premier traité mondial sur l’Iintelligene Artificielle[1] a été ouvert à la signature lors d’une conférence des ministres de la Justice des États membres du Conseil de l’Europe, organisée à Vilnius. Andorre, la Géorgie, l’Islande, la Norvège, la République de Moldova, Saint-Marin, le Royaume-Uni, Israël, les États-Unis et l’Union européenne en sont les premiers signataires.
Intitulé Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit, ce traité avait été adopté quatre mois plus tôt, le 17 mai 2024, par les ministres des affaires étrangères des 46 pays membres du Conseil de l’Europe, lors de leur session annuelle, à Strasbourg.
Il s’agit du premier texte international juridiquement contraignant dans le domaine de l’IA. Son objectif est de s’assurer que toutes les étapes du développement et de l’utilisation des systèmes d’IA, allant de la conception à la collecte de données, respectent les droits humains, la démocratie et l’État de droit.
Néanmoins, sa portée semble limitée. Ce texte établit surtout de grands principes généraux applicables à l’échelle mondiale plutôt que des droits et obligations prescriptifs.
Portée et limites du traité sur l'IA : un focus sur le secteur public
Ce traité vise essentiellement le secteur public. Il ne s’applique pas directement aux entreprises privées, laissant plutôt le soin à chaque Etat de s’assurer que le secteur privé respecte les dispositions du traité.
Les systèmes d’IA utilisés en matière de sécurité nationale ne sont pas non plus soumis à ce traité, à condition qu’ils respectent le droit international. Quant aux activités de recherche et de développement relatives à l’IA qui ne sont pas encore commercialisées, elles ne sont pas couvertes par le traité, à moins que des essais ou des activités similaires puissent porter atteinte aux droits de l'homme, à la démocratie et à l'État de droit. Enfin, les questions de défense nationale n'entrent pas dans le champ d'application de ce traité.
Quels sont les principes clés de ce texte ?
Le traité repose sur des principes généraux que chaque pays doit mettre en œuvre à l’égard des systèmes d’intelligence artificielle.
Chaque pays doit s’assurer que toutes les étapes du cycle de vie des systèmes d’IA respectent les droits de l'homme et ne compromettent pas l'intégrité, l'indépendance et l'efficacité des institutions et processus démocratiques. Le traité garantit la dignité humaine, la non-discrimination et le respect de la vie privée.
Chaque pays doit instaurer des mesures de transparence et de contrôle adaptées aux risques spécifiques et être prêt à assumer la responsabilité des impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit.
Les processus décisionnels et le fonctionnement des modèles d'IA doivent être compréhensibles et accessibles aux acteurs concernés. Les utilisateurs doivent être informés lorsqu'ils interagissent avec une IA.
Les États sont invités à :
- S’assurer que les responsables des systèmes d'IA anticipent et atténuent les risques ;
- Évaluer si certains systèmes d’IA nécessitent un moratoire ou une interdiction lorsqu’ils menacent les droits fondamentaux ;
- Mettre en place des voies de recours pour les victimes en cas de violation des droits de l'homme ;
- Instaurer un organisme indépendant chargé de surveiller l'application des règles du traité.
En parallèle, au niveau européen, le règlement européen sur l’IA, l’IA Act, du 13 juin 2024 qui est le premier acte législatif sur l’intelligence artificielle, veille également à ce que les systèmes d’IA mis sur le marché soient sûrs et respectent la législation en vigueur en matière de droits fondamentaux, l'État de droit et la durabilité environnementale.
Ainsi, l’adoption récente de ces deux textes, l’un au niveau européen, l’autre au niveau international, marque la volonté des autorités de réglementer le secteur de l’IA, jusque-là peu encadré, afin de responsabiliser les acteurs publics et favoriser une meilleure compréhension des systèmes d’IA.
***
Le cabinet HAAS Avocats est spécialisé depuis plus de vingt-cinq ans en droit des nouvelles technologies et de la propriété intellectuelle. Il accompagne de nombreux acteurs du numérique dans le cadre de leurs problématiques judiciaires et extrajudiciaires. Dans un monde incertain, choisissez de vous faire accompagner par un cabinet d’avocats fiables. Pour nous contacter, cliquez ici.
