Par Haas Avocats
Est-ce que dans 15 ans, les villes fonctionneront uniquement grâce à des agents d’IA ? Médecin, avocat, agent administratif ? Les possibilités sont multiples.
D’un simple anti-virus au joueur d’échecs de haut niveau, les agents issus de l’intelligence artificielle (IA) possèdent désormais le potentiel de réaliser des tâches difficiles très efficacement et se multiplient même si ce n’est pas sans risques techniques, socioéconomiques ou encore éthiques[1].
Un agent IA peut être défini de manière générale comme une entité qui perçoit des percepts (son, texte, image, pression, etc.) à l'aide de capteurs et qui réagit (à l'aide d'effecteurs) à son environnement. Les agents d'intelligence artificielle possèdent globalement « l'autonomie[2] » et « l'autorité[3] » pour prendre des mesures afin d'atteindre un ensemble d'objectifs spécifiés, modifiant ainsi leur environnement.[4]
|
Catégories d'agents |
Fonctionnalités |
Applications potentielles |
| Agents basés sur l'utilité |
Les agents basés sur l'utilité utilisent des algorithmes de recherche et de planification pour s'attaquer à des tâches complexes. Ces agents peuvent équilibrer des objectifs multiples, éventuellement contradictoires, en fonction de leur importance relative. |
Les systèmes de conduite autonome, les systèmes de gestion de portefeuille tels que les robots-conseillers qui prennent des décisions financières basées sur des fonctions d'utilité qui pondèrent le risque, le rendement et les préférences du client. [5]
|
| Agents d'IA avancés |
L'agent d'IA commence par recevoir des données de l'utilisateur, qui sont transmises au centre de contrôle de l'agent. Le centre de contrôle orchestre le flux d'informations entre 1) les données de l'utilisateur, 2) la prise de décision et la planification, 3) la gestion de la mémoire, 4) l'accès aux outils et 5) les effecteurs du système permettant d'agir dans des environnements numériques ou physiques. Lorsque les différents composants d'un agent d'IA avancé sont réunis, ils représentent la capacité de l'agent à modéliser l'environnement, à conserver la mémoire ou le stockage des connaissances avec les croyances et les préférences, ainsi que les capacités inhérentes à l'apprentissage. |
Agent IA système dans le système d'infodivertissement (L'agent personnalise les divertissements en fonction des habitudes de l'utilisateur tout en veillant à ce que le conducteur reste concentré sur la route.) |
| Systèmes multi-agents (prospectif) | Les systèmes multi-agents (SMA) se composent de plusieurs agents d'intelligence artificielle indépendants ainsi que de systèmes d'agents d'intelligence artificielle qui collaborent, rivalisent ou négocient pour réaliser des tâches et des objectifs collectifs. | Gérants au sein de groupes d’entreprises ou même au sein de plusieurs équipes dans une même entreprise. |
Entre biais algorithmiques, perte de contrôle, atteintes à la vie privée et menaces cybernétiques, les agents IA soulèvent des enjeux éthiques et sécuritaires certains.
Alors que leur rôle devient de plus en plus prépondérant et tangible, il est essentiel de prendre conscience de ces dangers.
|
Catégories de risques |
Explications et exemples |
| Risques techniques |
|
|
Risques socio-économiques |
Sur-dépendance liée à l’assistance fournie par les agents IA, ou encore à des répercussions en matière d'emploi, à des implications financières (dépenses liées à la protection contre les cyberattaques et à la gestion des risques opérationnels associés). |
| Risques éthiques | Dilemmes éthiques dans la prise de décision, défis pour assurer la transparence et l'explicabilité de l'IA (cf, les boîtes noires) |
Si les agents d’IA continueront sans aucun doute à jouer un rôle croissant dans nos vies d’ici 15 ans, une automatisation totale de secteurs clés comme la médecine, le droit ou l’administration semble encore peu probable. Si leurs capacités permettent d’améliorer l’efficacité et la rapidité des services, les défis techniques, socio-économiques et éthiques qu’ils posent nécessitent une régulation et une approche rigoureuse. L’avenir sera sans doute marqué par une coexistence entre IA et intelligence humaine, où la complémentarité sera la clé d’un progrès responsable et durable.
***
Le cabinet HAAS Avocats est spécialisé depuis plus de vingt-cinq ans en droit des nouvelles technologies et de la propriété intellectuelle. Il accompagne de nombreux acteurs du numérique dans le cadre de leurs problématiques judiciaires et extrajudiciaires relatives au droit de la protection des données. Dans un monde incertain, choisissez de vous faire accompagner par un cabinet d’avocats fiables. Pour nous contacter, cliquez ici.
[1] Rapport “ Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents, Capgemini, World economic Forum ”
[2] Définie comme la capacité de fonctionner de manière indépendante et de prendre des décisions sans intervention humaine constante,
[3] Définie comme les permissions et les droits d'accès accordés pour effectuer des actions spécifiques dans des limites définies
[4] International Organization for Standardization/International Electrotechnical Commission. (2022). ISO/IEC 22989:2023: Information technology – artificial intelligence – artificial intelligence concepts and terminology.
[5] Russell, S., & Norvig, P. (2021) Artificial intelligence: A modern approach (4th ed.). Prentice Hall.
[6] Royal Academy of Engineering/ National Engineering Policy Centre. (2023). Autonomous systems: A workshop on crosscutting governance. https://nepc.raeng.org.uk/media/2hsh552k/as-workshop-report-v4.pdf