Actualités juridiques et digitales

Amazon : L'IA remplacera-t-elle vraiment les caissiers en magasin ?

Rédigé par Haas Avocats | May 30, 2024 2:51:48 PM

Par Haas Avocats

L’intelligence artificielle (IA) en lieu et place des caisses de magasin. C’était l’ambition du géant du commerce électronique, Amazon. Pour l’instant, cette ambition semble toutefois ne devoir rester qu’un simple songe.

Le géant américain a en effet récemment annoncé retirer du marché américain sa technologie Just Walk Out, lancée en 2016.

Le phénomène d’automatisation du secteur de la grande distribution semble, à l’heure actuelle, péricliter en l’absence de toute intervention humaine. Nous sommes encore loin de la révolution des supermarchés autonomes et connectés annoncée par les géants du commerce électronique et de la grande distribution.

L’intelligence artificielle : la caissière trop chère d’Amazon

Pour rappel, Amazon avait l’intention de révolutionner le commerce physique en baptisant des magasins sans caisse aux Etats Unis, mais également au Canada, au Royaume Uni et en Australie.

Ces épiceries « Amazon Fresh » fonctionnaient grâce à une technologie sans caisse qui consistait à scanner un QR code lors de l’entrée dans le magasin. Basé sur l’installation de capteurs intelligents et de caméras, ce système consistait à pister le parcours d’achat du client pour débiter son compte de l’exacte valeur des produits ajoutés par celui-ci dans son panier.

Cependant l’humain n’avait pas totalement disparu du parcours client puisque des contrôleurs de l’ombre étaient toujours requis pour faire fonctionner le système.

En effet, la technologie s’appuyait « autant » sur de l’intelligence artificielle que sur une équipe de 1000 travailleurs localisés en Inde. Ces derniers avaient pour mission d’assurer la fiabilité et la précision du système en regardant et étiquetant des vidéos[1].

Si l’objectif était de réduire le facteur humain, sur 1000 ventes, pas moins de 700 nécessitaient encore une intervention humaine[2]. En termes de rentabilité, le système traditionnel impliquant une personne scannant les articles n’avait rien à envier à l’intelligence artificielle dans la mesure où près de 70% des articles achetés nécessitaient une intervention humaine.

Ironiquement, le fonctionnement de ce système d’intelligence artificielle censé rendre le client autonome en remplaçant totalement l’humain nécessitait encore, dans la majorité des cas, une équipe de modérateurs travaillant à pallier ses défaillances. A titre d’exemple, les différentes caméras ne permettaient pas de traiter la situation dans laquelle les bras de deux clients se croisent pour saisir un article, ou encore celle intervenant lorsqu’un client prend puis repose un produit.

On est tout de même dans des comportements très basiques facilement anticipables, surtout dans un monde où l’intelligence artificielle est en mesure d’identifier une personne dissimulée derrière des lunettes de soleil, un masque et un chapeau.

La simplification du parcours d’achat du consommateur au détriment de la protection de ses données personnelles ?

Si mis en place sur le territoire de l’UE, le véritable enjeu posé par ce système, et en même temps l’une des raisons de son échec, devrait tenir au manque de transparence de son fonctionnement.

Le consommateur européen est encouragé par le législateur depuis quelques années à retrouver la maîtrise de ses données personnelles. En ce sens, le Règlement général sur la protection des données[3] impose un principe de transparence des traitements de données.

Côté responsable de traitement, ce principe se traduit par une obligation d’information de la personne dont les données sont collectées et traitées[4]. A cet égard, le responsable de traitement qui recueille des données via une technologie d’observation de l’activité des personnes (telle que de la vidéosurveillance) doit fournir un certain nombre d’informations à la personne concernée par cette surveillance[5] comme un affichage particulier.

A minima, le consommateur devrait être informé et choisir son commerce en toute connaissance de cause et notamment du traitement de leurs données dans un pays non adéquat tel que l’Inde.

Or, il n’est pas certain que le consommateur américain qui entrait dans un magasin Amazon Fresh équipé de la technologie Just walk out avait conscience que ses moindres gestes étaient scrutés par une équipe de surveillance de l’autre côté de la planète.

Les prémices de l’introduction inévitable de supermarchés connectés ou autonomes ?

Afin de pallier cet échec, Amazon a également annoncé l’introduction d’un nouveau système impliquant l’IA : le caddie connecté Dash Carts. Cette solution a pour objectif de supprimer toute attente du client à la caisse, puisque le chariot intelligent pourra ajouter, supprimer, peser et ajuster des articles afin de scanner de manière fiable l’intégralité du panier d’achat.

La question s’est également posée sous l’angle des données personnelles en Europe, puisque certains acteurs semblent s’inspirer d’Amazon pour entamer l’automatisation de leurs propres magasins.

Ces projets devront donc prendre en compte la réglementation en matière de données personnelles et son potentiel renforcement face à la numérisation progressive de la société.

Toutefois, d’un autre côté, il faudrait que les consommateurs prennent conscience que l’intelligence artificielle est actuellement avant tout un terme marketing visant généralement à :

  • Désigner des logiciels très avancés; mais pouvant aussi
  • Cacher le recours aux travailleurs de l’ombre situés généralement dans des pays du tiers monde car, entendons-nous bien, quand une intelligence artificielle est à 70% opérée par des humains, elle n’a plus rien d’artificielle.

***

Le cabinet HAAS Avocats est spécialisé depuis plus de vingt-cinq ans en droit des nouvelles technologies et de la propriété intellectuelle. Il accompagne de nombreux acteurs du numérique dans le cadre de leurs problématiques judiciaires et extrajudiciaires relatives au droit de la protection des données. Dans un monde incertain, choisissez de vous faire accompagner par un cabinet d’avocats fiables. Pour nous contacter, cliquez ici.

 

[1] Amazon Ditches 'Just Walk Out' Checkouts at Its Grocery Stores (gizmodo.com)

[2] How Amazon’s Big Bet on ‘Just Walk Out’ Stumbled — The Information

[3] Règlement (UE) 2016/679 sur la protection des données personnelles, dit RGPD

[4] Cette obligation est encadrée par les articles 12, 13 et 14 du RGPD

[5] Telles que l’identité du responsable de traitement, la base légale de traitement des données, la durée de conservation des données, les droits des personnes concernées…