Dans une victoire préliminaire dans la lutte continue contre les logiciels portant atteinte à la vie privée qui « surveillent » les étudiants passer des tests à distance, un tribunal administratif français près de Paris a suspendu l'utilisation par une université de la plateforme de surveillance électronique TestWe, qui surveille les étudiants par reconnaissance faciale et analyse algorithmique.
Le logiciel TestWe, tout comme Proctorio, Examsoft et d'autres applications de surveillance que nous avons signalé pour une surveillance intrusive des candidats à l'examen, suit en permanence les mouvements oculaires des étudiants et leur environnement à l'aide d'analyses vidéo et sonores. Le tribunal de Montreuil, en France, a jugé qu'une telle « surveillance permanente des corps et des sons » est déraisonnable et excessive aux fins d'empêcher la tricherie.
Les applications de surveillance ont fait leur apparition pendant la pandémie de COVID-19 lorsque les écoles fermées sont passées à l'apprentissage à distance. Les fabricants de logiciels de surveillance ont promis aux écoles un moyen de continuer à administrer et à contrôler les tests à enjeux élevés pour les élèves à la maison - en les surveillant, en suivant leurs frappes, en vérifiant si leurs yeux s'éloignaient de l'écran et en regardant s'ils s'éloignaient du tester, tout au long de leurs ordinateurs.
Il y a beaucoup de problèmes avec ces applications. Elles envahissent la vie privée des élèves, exacerbent les inégalités existantes dans les résultats scolaires et ne peuvent jamais correspondre pleinement au contrôle que les écoles ont l'habitude d'appliquer dans la salle d'examen. Et elles sont défectueuses : ProctorU, l'une des plus grandes sociétés de surveillance à distance, a récemment cessé de vendre des services de surveillance entièrement automatisés car trop peu d'administrateurs et d'enseignants examinaient les résultats pour déterminer si une violation signalée était réellement une violation. Bien que de nombreux étudiants aient repris l'apprentissage en personne, la surveillance à distance est toujours utilisée et nous ne pensons pas qu'elle va disparaître de sitôt.
Le cas TestWe est l'un des premiers que nous ayons vu en Europe défiant les logiciels de surveillance. C'est un bon signe sur deux fronts. Cela montre que les préoccupations concernant ce que certains ont appelé des « logiciels espions légitimés » sont partagées par les étudiants et les défenseurs des droits numériques du monde entier. Et comme les étudiants ici aux États-Unis, ils contestent l'utilisation de ces applications invasives, qui peuvent collecter des images faciales, des frappes, des mouvements oculaires, des images d'arrière-plan et des sons, ainsi que des informations personnelles telles que des adresses, des numéros de téléphone et des dates de naissance, et évaluez les élèves comme suspects de détourner les yeux de leurs écrans pendant trop longtemps.
Cela montre également que les tribunaux commencent à reconnaître que les technologies permettant une surveillance à 360 degrés, mur à mur et biométrique des étudiants dans leur cadre privé, comme leur propre salon ou chambre, sont une méthode illégale et exagérée pour combattre la tricherie. Dans une affaire américaine contestant l'utilisation de la technologie de surveillance à l'Université d'État de Cleveland, un tribunal fédéral de l'Ohio a relevé l'année dernière que l'une des techniques de surveillance les plus invasives - le « scan de pièce» - était inconstitutionnelle car elle offre une fenêtre sur nos maisons, nos espaces privés protégés de l'intrusion du gouvernement par le quatrième amendement. En vertu du quatrième amendement, les institutions gouvernementales comme une école publique auraient généralement besoin d'un mandat pour fouiller le domicile de quelqu'un.
Le cas TestWe est né après que l'Institut de formation à distance de l'Université Paris 8, où toutes les classes sont à distance, a commencé à l'utiliser pour les examens. Il vérifie automatiquement leur identité au début et pendant le test. Cela nécessite que tous les pare-feu et applications antivirus soient désactivés. La version classique de l'application photographie les élèves toutes les trois secondes. Les images sont analysées, et tout « comportement suspect » est signalé à la plateforme.
L'étudiante EID Jodi-Marie Masley, une avocate américaine qui étudie à l'école, a pris position contre cette technologie intrusive. « Je ne pouvais pas croire qu'ils nous espionnaient en plus de tout le stress lié aux examens », a-t-elle déclaré. Elle était la plaignante initiale dans le procès. Nous avons pris connaissance de l'affaire du groupe de défense des droits numériques basé à Paris, La Quadrature du Net (LQDN), qui a présenté avec succès des arguments juridiques au tribunal au nom des étudiants, affirmant que le logiciel de TestWe ne répondait pas aux normes établies par le Règlement général de protection des données de l’UE (acronyme en français RGPD, pour GDPR, General Data Protection Regulation en anglais) pour le traitement des données personnelles des personnes.
Dans le cadre du RGPD, le traitement des données personnelles doit être autorisé par la loi, avoir une finalité légitime et être proportionné à sa finalité. LQDN a fait valoir que le logiciel de TestWe n'avait aucune base légale parmi celles prévues par le RGPD et était disproportionné par rapport à l'objectif visé, à savoir la surveillance d'un examen à distance.
Comme l'a rapporté LQDN, le tribunal s'est concentré sur la question de la proportionnalité, estimant qu'il existait de sérieux doutes quant à la conformité de TestWe à l'exigence de minimisation des données du RGPD, qui stipule que les entités accédant aux données personnelles ne peuvent collecter que ce qui est nécessaire aux fins spécifiées. Dans une décision préliminaire, le tribunal a suspendu l'utilisation de TestWe. La victoire, bien que préliminaire, est significative et montre que les tribunaux européens reconnaissent que les systèmes de surveillance algorithmique manquent de proportionnalité.
« C'est plutôt une bonne nouvelle que le juge soit ouvert à cet argument : cela signifie que l'étendue des informations et des données sur les étudiants que TestWe collecte et traite est beaucoup trop vaste et disproportionnée par rapport à l'objectif déclaré. En bref, ce n'est pas parce que les données existent ou sont disponibles qu'il est légal de les utiliser à quelque fin que ce soit », a déclaré LQDN dans un article de blog sur la décision.
« Le tribunal administratif de Montreuil a envoyé un avertissement clair à toutes les autres universités et écoles », a déclaré LQDN. « C'est la vraie valeur de l'arrêt TestWe : la proportionnalité de ce type de surveillance algorithmique permanente est aujourd'hui sérieusement remise en cause ».
L’avis, en francais, est ici.
Bien que cette décision ait été une victoire claire, la lutte contre la façon dont l'EID a utilisé TestWe n'est pas finie. La décision préliminaire du tribunal a conclu qu'il existe un doute sérieux quant à la légalité de l'application. LQDN doit encore convaincre le tribunal de déclarer définitivement l'application illégale, et son utilisation devrait être définitivement suspendue, un processus qui prendra plusieurs mois.
