Assistants vocaux : quelles perspectives et quels enjeux pour les utilisateurs ?

Par Gérard HAAS et Axelle POUJOL

« Majordomes du XXIe siècle » : telle est l’expression employée par la CNIL[1] pour décrire les assistants vocaux, systèmes ayant pour but de faciliter le quotidien des individus en répondant à leurs demandes et en réalisant des tâches variées par l’enregistrement puis la retranscription et l’analyse d’une commande vocale.

Intégrés dans de multiples supports (smartphones, véhicules, appareils ménagers, casques audios, enceintes connectées), ces outils deviennent de plus en plus performants et leurs applications concrètes ne cessent de se diversifier.

1. Des technologies toujours plus performantes pour des applications diversifiées

Le marché des assistants vocaux ne cesse de croître. Après Siri (Apple), Alexa et Google Assistant (Google), Amazon Echo (Amazon) ou encore Cortana (Microsoft) et les assistants vocaux des géants chinois tels que Baidu, c’est au tour du dernier GAFAM, l’entreprise Facebook, de se lancer dans la course : le géant américain, connu pour son réseau social du même nom et les différentes applications populaires qu’il possède (Instagram, Messenger, WhatsApp), a en effet récemment annoncé travailler sur son propre assistant vocal, corrélé avec le développement d’une intelligence artificielle et des technologies de réalité virtuelle et augmentée[2].

L’intérêt croissant des entreprises leaders du numérique pour ces systèmes est en adéquation avec la diversité d’applications concrètes de ces outils : répondre à des questions, acheter des produits et services, réserver des prestations ou encore contrôler un ensemble d’appareils connectés dans un appartement ou une maison, telles sont d’ores et déjà les tâches pouvant être réalisées par les assistants vocaux.

Mais d’autres possibilités sont d’ores et déjà étudiées : captation des émotions et des humeurs pour adapter les réponses apportées aux commandes ou évaluer la sincérité des personnes[3], utilisation de la reconnaissance vocale comme dispositif d’identification et d’authentification ou encore recours à l’intelligence artificielle pour effectuer des recrutements, les opportunités ne manquent pas.

Cependant, ces développements exponentiels suscitent de plus en plus d’inquiétudes, notamment concernant la vie privée et la protection des données des personnes, les risques relatifs à la sécurité des personnes et de leurs données et les risques de discrimination.

2. Les risques relatifs à la vie privée et aux données personnelles

Dès 2017, la thématique des assistants vocaux a été identifiée comme axe de travail par la CNIL qui a mené, au sein de son laboratoire d’innovation numérique (LINC), de nombreuses réflexions sur le sujet[4].

Dans son rapport d’activité 2018 et enjeux 2019[5], la CNIL tire la sonnette d’alarme pour les utilisateurs et identifie différents enjeux liés à la vie privée et à la protection des données des utilisateurs. La CNIL évoque notamment les risques d’atteinte à la confidentialité des échanges, les risques liés à la monétisation et aux usages toujours plus intrusifs des données des personnes, qui n’ont parfois pas conscience de fournir des informations sur leur intimité et relevant de leur vie privée.

A l’heure où les législations sur la protection des données personnelles se multiplient[6], notamment depuis l’entrée en vigueur du RGPD[7], les entreprises développant des assistants vocaux devront redoubler de vigilance sur ces questions.

3. Les risques relatifs à la sécurité des données

Intrinsèquement liée aux risques pour la vie privée et la protection des données des personnes, la sécurité desdites données est devenue un enjeu majeur pour les entreprises : en 2018, des chercheurs ont démontré qu’il était aisé de tromper et manipuler certaines intelligences artificielles telles que les assistants vocaux, en créant des sons, inaudibles pour l’homme, qui leur envoient des ordres divers[8].

La multiplication des cyber-attaques et les nouvelles obligations issues des règlementations sur la protection des données et la cyber-sécurité conduisent nécessairement les entreprises à devoir revoir leur copie en la matière et intégrer de bonnes pratiques telles que la réalisation d’études d’impact afin d’assurer la sécurité des données des utilisateurs.

4. Les risques de discriminations

Si aujourd’hui, les assistants vocaux sont principalement utilisés pour réaliser des tâches quotidiennes, d’autres applications telles que la captation des émotions et le recours à l’intelligence artificielle dans le monde du travail laissent entrevoir des risques de discriminations des individus.

Le RGPD s’est d’ores et déjà emparé de la question et prévoit qu’une « personne a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé de ses données, y compris le profilage[9], produisant des effets juridiques la concernant ou l’affectant de manière significative »[10].

Cependant, au regard de la rapidité des progrès technologiques réalisés, le champ de ces nouvelles applications devra demeurer sous surveillance, afin d’éviter tout risque d’inégalités pour les individus.

Nos solutions

Le cabinet HAAS Avocats, spécialisé depuis plus de vingt ans en droit des nouvelles technologies et de la propriété intellectuelle, vous accompagne dans le développement de vos activités. Contactez-nous.

[1] CNIL, Rapport d’activité 2018, p.82

[2] https://siecledigital.fr/2019/04/18/facebook-travaille-sur-un-assistant-vocal-de-type-alexa-pour-oculus/

[3] https://linc.cnil.fr/fr/captation-des-emotions-comment-vous-le-direz-pourra-etre-retenu-contre-vous

[4] https://linc.cnil.fr/sites/default/files/atoms/files/dossier_de_presse_cnil_bilan_2018_et_enjeux_2019.pdf

[5] CNIL, Rapport d’activité 2018, p.84

[6] http://www.lefigaro.fr/secteur/high-tech/2018/06/29/32001-20180629ARTFIG00354-la-californie-vote-une-loi-sur-la-protection-des-donnees-en-ligne-inspiree-du-rgpd.php

[7] Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données

[8] https://linc.cnil.fr/fr/quand-les-assistants-vocaux-entendent-des-voix

[9] Le profilage est défini à l’article 4 du RGPD comme « toute forme de traitement automatisé de données à caractère personnel consistant à utiliser ces données à caractère personnel pour évaluer certains aspects personnels relatifs à une personne physique, notamment pour analyser ou prédire des éléments concernant le rendement au travail, la situation économique, la santé, les préférences personnelles, les intérêts, la fiabilité, le comportement, la localisation ou les déplacements de cette personne physique

[10] Article 22 du RGPD