Chatbots intelligents, un nouveau cyber-risque ?

Chatbots intelligents, un nouveau cyber-risque ?

Par Gérard Haas et Axelle Poujol

De plus en plus « intelligents », les chatbots, par leur réelle proximité et leurs interactions avec les utilisateurs, présentent de nouveaux risques en matière de cybersécurité.

L’intelligence artificielle, ensemble de théories et de techniques mis en œuvre pour réaliser des machines capables de simuler l’intelligence humaine, ne cesse de progresser, et ce dans tous les domaines. Les chatbots ne font pas exception à la règle.

1. Qu’est-ce qu’un chatbot ?

Un chatbot ou agent conversationnel est un programme intelligent, capable de « discuter » avec un internaute. Présents sur de nombreuses marketplaces, les chatbots permettent notamment de répondre aux questions des internautes en ligne à tout moment et de diffuser des messages publicitaires ciblés.

De plus en plus développés, les chatbots représentent un véritable outil marketing et un important levier d’innovation : les formes les plus abouties de chatbots s’appuient en effet sur l’intelligence artificielle et le « machine learning » (auto-apprentissage de la machine) pour développer des interactions de plus en plus poussées et performantes avec les utilisateurs.

2. Vers de nouveaux cyber-risques à endiguer ? 

Dans leurs prévisions pour l’année 2019, de nombreux acteurs du marché de la cybersécurité ont alerté sur les nouveaux risques que présentent les chatbots[1] : ces derniers, de plus en plus développés, permettent des interactions de plus en plus nombreuses et des services variés.

Par cette diversité et leur capacité à communiquer avec les internautes, les chatbots font courir de nouveaux risques aux entreprises et aux utilisateurs : intégrés aux sites internet, les chatbots pourraient en effet faire l’objet de détournements par des hackers (ou pirates informatiques), qui pourraient ainsi exploiter les failles de certains systèmes, ou conduire à des usages malveillants (comme la diffusion de contenus illicites).

 

Un autre aspect est concerné : la protection des données personnelles. Les chatbots sont amenés à collecter ou analyser de nombreuses données personnelles d’utilisateurs. Des pirates informatiques pourraient donc se servir des « connaissances » des chatbots pour voler et exploiter des données potentiellement sensibles.

Ces vols de données sont de plus en plus répandus et sont porteurs de conséquences graves pour les personnes concernées. Ainsi, en juin 2018, la filiale britannique de l’entreprise de billetterie en ligne TicketMaster a révélé que des hackers, exploitant une faille de sécurité, ont utilisé des chatbots pour voler les données de 40 000 cartes de crédit de clients internationaux de l’entreprise[2].

 

Dès lors, il est nécessaire de repenser les mesures de sécurité à mettre en place, afin de prévenir et endiguer ces nouveaux risques. Le RGPD (règlement général sur la protection des données) donne des pistes pour prévenir ces risques et assurer la sécurité des données personnelles : repenser la programmation des chatbots, intégrer des mesures de protection dès sa conception (Privacy by design) ou encore concevoir des systèmes d’autorisations complémentaires (blocages de certaines demandes, authentification renforcée…). La réalisation d’études d’impact en amont permet également de recenser les éventuels risques et d’adapter la conception d’un projet afin de prévenir des failles de sécurité[3].

 

Fort de son expertise en matière de e-commerce, de marketplaces, de protection des données personnelles, de compliance et de cybersécurité, le cabinet HAAS Avocats vous propose des solutions personnalisées pour développer vos outils en toute sécurité. En savoir plus

 

 

[1] https://www.solutions-numeriques.com/cyberattaques-en-2019-vaporworms-et-chatbots-pirates-au-programme/

[2] https://www.journaldunet.com/solutions/expert/69694/cybersecurite---des-chatbots-bientot-detournes-contre-votre-reseau-et-vos-utilisateurs.shtml

[3] http://info.haas-avocats.com/droit-digital/5-raisons-de-mener-une-%C3%A9tude-dimpact-pia

Gérard HAAS

Auteur Gérard HAAS

Suivez-nous sur Linkedin

Catégories

Derniers tweets

Besoin d'une réponse
à vos questions juridiques ?

Demande de devis

Consultation téléphonique