Parcoursup : le secret des algorithmes dévoilé par la justice

Parcoursup : le secret des algorithmes dévoilé par la justice

Par Gérard Haas et Axelle Poujol

Le 4 février 2019, le Tribunal Administratif de Guadeloupe a rendu sa décision : l’Université des Antilles est contrainte de publier les algorithmes locaux utilisés par l’établissement pour classer les candidats à ses licences via la plateforme Parcoursup.

1. Le contexte de la décision 

Cette décision était attendue par de nombreux syndicats étudiants, opposés à la plateforme Parcoursup : l’Université des Antilles est contrainte par la justice administrative de publier les algorithmes utilisés pour sélectionner les candidats à ses licences via la plateforme Parcoursup. Un premier pas pour les syndicats étudiants, qui contestent les nouvelles modalités d’accès à l’Université.

En principe, l’université française n’est pas sélective sur ses parcours classiques : ainsi, l’obtention du baccalauréat suffit pour intégrer l’université. En cas de trop nombreuses demandes, les universités avaient coutume de tirer au sort les candidats. Avec l’avènement de la plateforme Admission Post-Bac (APB) devenue Parcoursup en 2018, de nombreuses polémiques ont éclaté autour des algorithmes de la plateforme menant à une sélection des candidats sur certains critères additionnels.

2. Des polémiques autour de l’utilisation des algorithmes pour sélectionner les candidats

En mai 2018, le Ministère de l’Education Nationale et de l’Enseignement supérieur et de la recherche avait commencé par publier le code source de la plateforme, suite à une saisie de la Commission d’Accès aux Documents Administratifs (CADA).

Le Président de la République, lors du sommet sur l’intelligence artificielle et la remise du rapport de Cédric Villani sur ce thème, avait également exprimé la volonté que l’Etat publie les algorithmes qu’il utilise, y compris celui de Parcoursup[2].

Les syndicats étudiants, estimant que la publication du code source de la plateforme n’était pas suffisante, ont lancé des procédures devant plusieurs tribunaux administratifs afin de demander la publication des algorithmes locaux utilisés par les universités pour déterminer quels critères sont utilisés et déterminer si l’utilisation de ces critères conduit à des discriminations. Le tribunal administratif de Guadeloupe est le premier à faire droit à ces demandes.

Le Ministère et la Conférence des Présidents d’Université (CPU) définissaient ces algorithmes comme des « outils d’aide à la prise de décision » et invoquaient le secret des délibérations, en estimant que le classement des candidats relevait de la délibération du jury, souverain[3].

Le Défenseur des droits s’était également emparé de la question et dans un avis rendu fin janvier, avait recommandé de rendre publics les critères précis à partir desquels les universités choisissent les candidats en licence. "La publication de ces informations ne porte pas atteinte aux principes de souveraineté du jury et du secret de ses délibérations", estimait le Défenseur. Il a demandé au gouvernement "de prendre les mesures nécessaires" pour "rendre publiques toutes les informations relatives au traitement, y compris algorithmique, et à l'évaluation des dossiers des candidats par les commissions locales des établissements d'enseignement supérieur"[4].

3. L’utilisation d’algorithmes et le spectre de décisions automatisées discriminatoires 

La décision du tribunal de Guadeloupe fait écho à de nombreuses polémiques autour de l’utilisation des algorithmes pour sélectionner des personnes. En effet, les algorithmes, ensemble de règles opératoires propres à un calcul, permettent en principe, à partir d’un certain nombre de critères déterminés, de résoudre un problème ou d’obtenir un résultat.

Leur utilisation dans des systèmes de sélection et surtout les critères utilisés pour les élaborer peuvent poser problème si ces critères conduisent à des décisions discriminantes : à titre d’exemple, pour Parcoursup, les syndicats craignent que les critères de la filière ou du lycée d’origine du candidat soient utilisés à des fins discriminatoires, conduisant les universités à privilégier des candidats de lycées parisiens au détriment de candidats de lycées de banlieue parisienne, indépendamment de leurs résultats scolaires respectifs.

Par ailleurs, ces affaires font également écho à l’entrée en vigueur du nouveau règlement européen sur la protection des données (RGPD)[5], qui encadre strictement le profilage.

Le profilage est défini comme « toute forme de traitement automatisé de données à caractère personnel consistant à utiliser ces données à caractère personnel pour évaluer certains aspects personnels relatifs à une personne physique, notamment pour analyser ou prédire des éléments concernant le rendement au travail, la situation économique, la santé, les préférences personnelles, les intérêts, la fiabilité, le comportement, la localisation ou les déplacements de cette personne physique »[6].

Le RGPD prévoit que par principe, une personne a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé de ses données, y compris le profilage, produisant des effets juridiques la concernant ou l’affectant de manière significative. Le RGPD liste ensuite une série d’exceptions afin de permettre l’utilisation de cette pratique dans des cas limités[7].

Cette interdiction permet de limiter les situations de discrimination, avec la prise en compte par les algorithmes de critères discriminatoires pour une personne.

La publication des algorithmes utilisés par Parcoursup et des critères pris en compte ainsi que la pondération utilisée de ces différents critères par l’université dans le choix des candidats permettront plus de transparence et en principe de vérifier si une discrimination est opérée entre les candidats.

L’Université de Guadeloupe, estimant que l’analyse du tribunal administratif différait de celle de la CADA, qui avait estimé sur la même affaire qu’il n’était pas nécessaire de publier les algorithmes locaux des universités, a saisi le Conseil d’Etat afin qu’il éclaircisse le cadre légal applicable.

4. Les conséquences des recours administratifs : l’anonymisation de certaines données des candidats

Les différents recours et la décision du tribunal de Guadeloupe ont donné lieu à une concertation de l’ensemble des acteurs qui a été tranchée le 15 Février 2019 : le Ministère de l’éducation nationale et de l’enseignement supérieur a en effet annoncé l’anonymisation de certaines données des candidats dès cette année[8].  Il s’agirait notamment des noms, prénoms, genre et adresse de domicile des candidats.

En revanche, l’établissement d’origine des candidats, sujet très sensible pour les acteurs de l’enseignement supérieur qui étaient fermement opposés à son anonymisation, devrait toujours être transmis aux établissements. Il n’est donc pas certain que cette annonce et les précisions dans les semaines à venir freinent les contestations de la part des syndicats étudiants, pour qui l’information relative à l’établissement d’origine était au cœur des soupçons de discriminations.

Affaire à suivre…

 

Nos solutions

Le cabinet HAAS Avocats vous propose de nombreuses solutions pour le développement et la mise en conformité de vos projets au regard du RGPD.

Contactez nous ici.

 

[1] TA Guadeloupe, 4 février 2019, UNEF, n°1801094

[2] https://www.lemondeinformatique.fr/actualites/lire-le-code-source-de-parcoursup-enfin-publie-71802.html

[3] http://www.lefigaro.fr/flash-actu/2019/02/06/97001-20190206FILWWW00142-parcoursup-les-criteres-de-la-fac-de-guadeloupe-doivent-etre-rendus-publics.php

[4] https://www.lemonde.fr/campus/article/2019/01/21/parcoursup-le-defenseur-des-droits-demande-plus-de-transparence_5412093_4401467.html

[5] https://eur-lex.europa.eu/legal-content/FR/TXT/PDF/?uri=CELEX:32016R0679&from=FR

[6] Article 4 du RGPD

[7] Article 22 du RGPD

[8] https://etudiant.lefigaro.fr/article/parcoursup-les-dossiers-des-candidats-seront-anonymes-des-cette-annee_8080547e-2544-11e9-a262-40964c8f5d77/ 

Gérard HAAS

Auteur Gérard HAAS

Suivez-nous sur Linkedin

Catégories

Derniers tweets

Besoin d'une réponse
à vos questions juridiques ?

Demande de devis

Consultation téléphonique