Big Prof(Brother) : comment les logiciels espions se sont implantés dans l’éducation en ligne | Atlantico.fr
Atlantico, c'est qui, c'est quoi ?
Newsletter
Décryptages
Pépites
Dossiers
Rendez-vous
Atlantico-Light
Vidéos
Podcasts
High-tech
Une application appelée GoGuardian a été utilisée afin de suivre tout ce que les élèves (et, parfois, les parents) font en ligne aux Etats-Unis
Une application appelée GoGuardian a été utilisée afin de suivre tout ce que les élèves (et, parfois, les parents) font en ligne aux Etats-Unis
©ROBYN BECK / AFP

La Minute Tech

Big Prof(Brother) : comment les logiciels espions se sont implantés dans l’éducation en ligne

Alors que la pandémie a démultiplié l’enseignement à distance, les logiciels espions en ont largement profité.

Jean-Paul Pinte

Jean-Paul Pinte

Jean-Paul Pinte est docteur en information scientifique et technique. Maître de conférences à l'Université Catholique de Lille et expert  en cybercriminalité, il intervient en tant qu'expert au Collège Européen de la Police (CEPOL) et dans de nombreux colloques en France et à l'International.

Titulaire d'un DEA en Veille et Intelligence Compétitive, il enseigne la veille stratégique dans plusieurs Masters depuis 2003 et est spécialiste de l'Intelligence économique.

Certifié par l'Edhec et l'Inhesj  en management des risques criminels et terroristes des entreprises en 2010, il a écrit de nombreux articles et ouvrages dans ces domaines.

Il est enfin l'auteur du blog Cybercriminalite.blog créé en 2005, Lieutenant colonel de la réserve citoyenne de la Gendarmerie Nationale et réserviste citoyen de l'Education Nationale.

Voir la bio »

Atlantico : La pandémie a poussé les écoles à utiliser massivement les ordinateurs portables, les tablettes, les conférences via Zoom. Une application appelée GoGuardian a été utilisée afin de suivre tout ce que les élèves (et, parfois, les parents) font en ligne aux Etats-Unis. Les membres du personnel ou de l'administration utilisent un logiciel pour surveiller tout ce que les élèves font sur les ordinateurs portables fournis par l'école et notamment pour les éloigner des sites Web interdits. Comment fonctionne ce logiciel ? S'apparente-t-il à un spyware ? Les enfants sont-ils réellement surveillés 24h/24 et 7j/7 ?

Jean-Paul Pinte : Un spyware est un type de malware qui reste dissimulé pendant qu'il enregistre secrètement des informations et suit vos activités en ligne sur vos ordinateurs ou appareils mobiles. Il peut surveiller et copier tout ce que vous saisissez, chargez, téléchargez et stockez. Certaines souches de spywares sont également en mesure d'activer les caméras et les micros pour vous observer et vous écouter sans être détectées.

Selon le site Malwarebytes.com, les différents types de spywares incluent des fonctionnalités telles que :

  • Les voleurs de mots de passe sont des applications conçues pour capturer les mots de passe sur les ordinateurs infectés. Les types de mots de passe collectés peuvent inclure des identifiants enregistrés sur des navigateurs Web, des identifiants de connexion au système et des mots de passe critiques divers. Ces mots de passe peuvent être stockés à un emplacement choisi par le pirate sur la machine infectée ou peuvent être transmis à un serveur à distance pour être récupérés.
  • Les chevaux de Troie bancaires sont des applications conçues pour récupérer des identifiants auprès des institutions financières. Ils profitent des failles de sécurité des navigateurs pour modifier les pages Web, modifier le contenu des transactions ou insérer des transactions supplémentaires de façon totalement invisible pour l'utilisateur et l'application Web hôte. Les chevaux de Troie bancaires peuvent cibler diverses institutions financières, notamment les banques, les sociétés de courtage, les portails financiers en ligne ou les porte-monnaie électroniques. Ils peuvent également transmettre les informations collectées à des serveurs à distance pour les récupérer.
  • Les voleurs d'informations sont des applications qui analysent les ordinateurs infectés et recherchent diverses informations, notamment des noms d'utilisateur, des mots de passe, des adresses e-mail, l'historique du navigateur, des fichiers journaux, des informations système, des documents, des feuilles de calcul ou d'autres fichiers multimédias. Comme les chevaux de Troie bancaires, les voleurs d'informations peuvent exploiter les failles de sécurité des navigateurs pour collecter des informations personnelles sur des services et forums en ligne, puis transmettre les informations à un serveur à distance ou les stocker localement sur votre PC pour les récupérer.
  • Les enregistreurs de frappe, également dénommés dispositifs de surveillance du système, sont des applications conçues pour capturer l'activité de l'ordinateur, notamment les frappes, les sites Web visités, l'historique de recherche, les discussions par e-mail, les conversations par chat et les identifiants système. Généralement, ils effectuent des captures d'écran de la fenêtre en cours, à intervalles programmés. Les enregistreurs de frappe peuvent également collecter des fonctionnalités permettant la capture et la transmission furtives d'images et de fichiers audio/vidéo depuis n'importe quel dispositif connecté. Ils peuvent même permettre aux pirates de collecter des documents imprimés sur des imprimantes connectées, qui peuvent ensuite être transmis à un serveur à distance ou stockés localement pour être récupérés.

Ce phénomène n’est pas récent mais a pris de l’ampleur avec la pandémie de Covid dans le monde de l’éducation avec les plateformes de visioconférence comme Zoom, Teams et bien d’autres.

À Lire Aussi

Alerte au clonage des voix

La pandémie a donné aux éducateurs de nouvelles raisons de l'adopter :

- Filtrage et surveillance

- Gestion de classe

- Sécurité des élèves.

- Alertes de dérives

- …/…

Voilà de quoi donner des idées aux enseignants et aux établissements d’enseignement avides d’en savoir un peu plus sur ce qui se passe derrière l’écran de leurs étudiants bien sages lorsqu’ils sont en mode distanciel.

Un peu d’histoire

GoGuardian a été créé en 2014. Il fait partie de ces logiciels de surveillance et a des concurrents comme Gaggle.Net, Securly et Bark Technologies. En plus de la surveillance et du filtrage de sites Web, GoGuardian vend des outils logiciels pour la gestion de la classe, les appels vidéo et la sécurité du réseau.

En septembre 2015, la société a dévoilé GoGuardian pour les enseignants. L'outil est conçu pour aider les enseignants à gérer l'utilisation du Chromebook dans leurs salles de classe et à surveiller l'activité des élèves sur l'appareil. L'objectif de l'outil est d'aider les étudiants à rester concentrés sur leurs tâches et à éviter les contenus inappropriés.

La même année, le logiciel GoGuardian a pu suivre les frappes au clavier et activer à distance les webcams des étudiants.  GoGuardian déclare que les fonctionnalités ont été supprimées dans le cadre de son « engagement continu envers la vie privée des étudiants ».

En 2016, la chercheuse Elana Zeide craignait que l'utilisation du logiciel GoGuardian pour la prévention du suicide, bien que « bien intentionnée », puisse entraîner une « portée excessive ».  Zeide a en outre noté que des raisons personnelles légitimes pouvaient inciter un étudiant à rechercher des informations sensibles en privé. Selon Zeide, cette préoccupation est aggravée par le fait que les appareils scolaires peuvent être les seuls appareils pour les élèves à faible revenu. Carolyn Stone, présidente de l'American School Counsellor Association en matière d'éthique, a exprimé l'inquiétude que la capacité de GoGuardian à suivre les recherches sur le Web effectuées à la maison soit « intrusive » et puisse « conditionner les enfants à accepter une surveillance constante » comme d'habitude.

À Lire Aussi

Alerte aux grandes oreilles chinoises : voilà pourquoi vous devriez tourner 7 fois votre pouce avant de poster quelque chose sur les réseaux sociaux...

En janvier 2016, GoGuardian a annoncé le lancement de l'intégration de Google Classroom pour GoGuardian pour les enseignants et les deux des co-fondateurs de l'entreprise, Aza Steel et Advait Shinde, ont été nommés sur la liste annuelle "30 Under 30" du magazine Forbes dans la catégorie Education.

En 2018, GoGuardian a lancé Beacon, un système logiciel installé sur les ordinateurs des écoles qui analyse le comportement de navigation des élèves pour alerter les conseillers scolaires ou les psychologues des élèves à risque de suicide ou d'automutilation.

Les outils de GoGuardian (Source)

Vie privée des étudiants

Les produits GoGuardian permettent aux enseignants et aux administrateurs d'afficher et de prendre des instantanés des écrans d'ordinateur des élèves, de fermer et d'ouvrir les onglets du navigateur et de voir les applications en cours d'exécution.  GoGuardian peut collecter des informations sur toute activité lorsque les utilisateurs sont connectés à leurs comptes, y compris les données provenant de la webcam, du microphone, du clavier et de l'écran d'un élève, ainsi que des données historiques telles que l'historique de navigation. Cette collecte peut être effectuée que les élèves se connectent à partir d'appareils fournis par l'école ou personnels.  Certains parents ont soulevé des inquiétudes quant à la confidentialité de cette collecte de données, déclarant que « Ceci est essentiellement un logiciel espion. »

À Lire Aussi

Cet inquiétant boom de la cyber surveillance globale

Aux USA, les ordinateurs portables fournis par les écoles de Baltimore (USA – Mariland) sont surveillés pour des raisons de sécurité et de santé mentale, selon des responsables officiels de ces établissements.

Depuis mars 2021, neuf élèves ont été identifiés via le logiciel Beacon de GoGuardian comme ayant de graves crises de santé mentale et ont été emmenés dans une salle d'urgence, selon Stacey Davis, la coordinatrice des) écoles de la ville pour les médias et la technologie pédagogique. Dans au moins deux de ces cas, les étudiants n'avaient jamais reçu de soins de santé mentale.

Le système scolaire de Baltimore City surveille ses ordinateurs portables avec un logiciel qui alerte les autorités lorsqu'un élève pourrait envisager de se suicider, une innovation controversée survenue pendant la pandémie de coronavirus après que le système a prêté aux familles des dizaines de milliers d'ordinateurs pour une utilisation à la maison.

Depuis mars 2021, les écoles de la ville ont reçu 786 alertes de Beacon. Parmi ceux-ci, les cliniciens ont répondu 401 fois, tandis que la police scolaire s'est rendue à domicile 12 fois. En plus des neuf étudiants référés à une salle d'urgence, 12 étudiants ont été référés à un centre d'intervention d'urgence. Les races et les âges des enfants touchés n'étaient pas disponibles.

Quels sont les risques et les dangers d'introduire et de généraliser le numérique dans nos classes ? Ce genre de phénomène de surveillance, d'intrusion risque-t-il de se multiplier ?

Internet, nous le savons est un magnifique outil d’accès à la connaissance et au savoir. L’évolution des couches du Web comme le Web 2.0, le Web 3.0 pour aller jusqu’au 5.0 a développé de nouveaux modes opératoires chez les jeunes. Les nombreuses applications ont aussi eu raison de l’apparition d’un nouveau paradigme dans les apprentissages.

À Lire Aussi

Si les excès et les dangers du monde réel ne vous suffisent pas, bienvenue dans ceux du Metaverse

Ces derniers ne sont plus sans risques pour nos jeunes. Il est donc question aujourd’hui de veiller sur les réseaux sociaux, la E-réputation, le cyber-harcèlement, les jeux vidéos qui sont à la source de nouvelles dérives.

L’égalité fille – garçon à l’ère du numérique, selfie et nudes, cybersexisme et pornographie sur internet sont aussi des phénomènes qui se développent à grands pas.

On doit également lutter et veiller contre la désinformation, la manipulation, les contenus haineux…

Toutes les formes de cyberdélinquance peuvent aujourd’hui toucher des systèmes comme Zoom, Teams, Etc. On parle ainsi maintenant plus communément de Phishing, Vishing, Sexting, de captation et de vols de données à partir de ces environnements.

L’immédiateté de notre société a aussi fait place au phénomène multitâches dont nos jeunes sont de grands adeptes.

Il suffit de lire ce rapport sur les pratiques des 11-18 ans pour s’en convaincre.

La généralisation des techniques d’enseignement à distance et le recours massif aux plateformes numériques ont aussi impliquer l’accroissement de la surveillance des profs et des élèves, la remise en cause de la liberté pédagogique, l’augmentation des tâches et du temps de travail, le brouillage entre les frontières de la vie privée et professionnelle. Ce phénomène de surveillance est en plein développement aux USA et nous arrive petit à petit en Europe.

Ainsi lorsque la pandémie de coronavirus a frappé les États-Unis, de nombreux systèmes scolaires ont fourni des ordinateurs portables pour que les élèves puissent étudier à la maison.

À Lire Aussi

2021, une année cyber-explosive qui aura radicalement changé la donne en matière de cybersécurité et de cybermenaces

Pour s'assurer qu'ils se concentrent sur leur travail, certaines établissements ont acheté un logiciel de filtrage et de surveillance du Web.

Dans certains cas, comme par exemple à Baltimore City, les systèmes n'ont pas défini de règles sur la quantité de travail d'un étudiant pouvant être vue et surveillée.

Deux rapports publiés aux USA en septembre dernier remettent en question l'utilisation d'une telle technologie à travers le pays pour suivre les étudiants, avertissant qu'elle pourrait être utilisée à des fins disciplinaires, excluant involontairement les étudiants ou écrasant leur expression. Les études soulignent également que le comportement des élèves économiquement défavorisés peut être suivi plus fréquemment que celui des élèves plus riches, car l'ordinateur portable appartenant à l'école est leur seul appareil.

"La vie privée et l'équité n'étaient pas prises en compte autant qu'elles devraient l'être", a déclaré Elizabeth Laird, directrice de l'équité dans la technologie civique au Center for Democracy and Technology à Washington et co-auteur de l'un des rapports. « Le suivi des activités des étudiants est assez répandu. »

Le comté de Baltimore utilise le logiciel GoGuardian à d'autres fins mais ne surveille pas l'automutilation. Les responsables de l'école ont déclaré que leur approche de la prévention du suicide se concentre sur l'établissement de relations entre les élèves et les membres du personnel scolaire.

Les comtés de Harford, Howard et Carroll ont déclaré qu'ils ne surveillaient pas les appareils des élèves à la recherche de signes avant-coureurs d'automutilation. Le comté d'Anne Arundel lui, n'a répondu à aucune question sur la surveillance de ses élèves.

À Baltimore City, le week-end et la nuit lorsque les psychologues scolaires ou les travailleurs sociaux ne sont pas disponibles, des policiers scolaires ont été envoyés au domicile des élèves pour les surveiller après les alertes du logiciel, comme le rapporte pour la première fois The Real News Network.

GoGuardian n'a pas répondu aux questions sur les mots-clés que son logiciel utilisait pour identifier les étudiants qui avaient l’intention de se suicider.

Davis a déclaré que "lorsqu'un message parvient à la police de l'école, le répartiteur de l'agence essaie d'abord d'appeler une famille ». S'ils n'obtiennent pas leur réponse, un policier de l'école est envoyé à la maison pour parler à la famille dans ce qu'on appelle un « contrôle de bien-être ».

Le chef de la police scolaire, Akil Hamm, a déclaré que ses agents se rendaient à la porte d'une maison, montraient aux parents une copie de l'alerte et ce que leur enfant avait tapé. Ensuite, a-t-il dit, "nous demandons aux parents si nous pouvons poser les yeux sur l'élève".

La police scolaire est formée aux soins tenant compte des traumatismes et à la réponse aux crises comportementales et à reconnaître les signes de crise de santé mentale et comment y répondre. Hamm a déclaré que les parents étaient généralement reconnaissants d'avoir été alertés.

La police n'a emmené un élève aux urgences qu'une seule fois, et c'était à la demande des parents, a déclaré Hamm. Les étudiants ne sont pas menottés, a déclaré Hamm, et les agents n'exigent pas d'entrer dans les maisons.

L'information est transmise au directeur de l'école de l'élève, mais la police de l'école n'en garde aucune trace et elle n'est pas consignée dans le dossier de l'élève.

L'implication de la police scolaire inquiète Larry Simmons, chef du conseil consultatif communautaire des parents du système scolaire de la ville. Le fait qu'un policier de l'école arrive à la porte peut sembler punitif, pas encourageant. Les agents portent des armes à feu lorsqu'ils ne sont pas sur le terrain de l'école.

« Les policiers scolaires ne sont pas des travailleurs sociaux », a-t-il déclaré.

En général, Simmons a déclaré: «Je dirais que c'est vraiment dérangeant. Vous n'avez pas seulement surveillé l'enfant, mais aussi la famille.

La surveillance découle d'un besoin de systèmes pour protéger les étudiants des contenus inappropriés sur Internet, tels que la pornographie.

À l'intérieur des écoles, les districts disposent également de pare-feu qui empêchent les élèves d'utiliser des sites tels que Twitter, Facebook et YouTube.

GoGuardian, ainsi que Gaggle, une autre société de logiciels, vend un service supplémentaire qui utilise l'intelligence artificielle pour surveiller les recherches des étudiants - et, dans certains cas, leur écriture - pour des preuves que leur navigation peut être dangereuse. Gaggle propose également une téléthérapie aux étudiants par des conseillers.

La société doit donc équilibrer les risques d'invasion de la vie privée et la perte de celle-ci pour le bien commun.

Les administrations et a fortiori les établissements scolaires ont-ils les moyens ou les accès à des outils qui pourraient permettre d'être protégés contre le vol de données, des cyber attaques ou les spywares lors de l'utilisation du numérique, notamment pour étudier ou vis-à-vis des élèves ?

Rien n’est inattaquable et comme les entreprises face au phénomène de cybercriminalité les administrations et établissements scolaires ne sont pas à l’abri.

Les entreprises ont pris conscience du phénomène mais la diversité des formes d’attaques possibles sur des plateformes dépasse encore celle de l’éducation même si de gros efforts sont fait de ce côté par le gouvernement français.

Le télétravail, comme le télé-enseignement ont rendu plus ouvertes les capacités des cyberdélinquants à s’infiltrer dans les systèmes pour s’y installer parfois de manière durable et décliner toute la panoplie d’attaques qui va avec.

L'idée n'est pas nouvelle pour ces mouchards. Depuis plusieurs années, les entreprises vendent des versions du suivi des élèves comme outil pédagogique. Il y avait des emplacements pour un logiciel qui lirait les expressions faciales et les mouvements des yeux pour déterminer si les élèves apprenaient. Les entreprises alignent des arguments de vente pour des logiciels qui mesureront le bien-être social et émotionnel des étudiants. La société de test NWEA mesure déjà l'engagement des étudiants en fonction de la vitesse à laquelle ils répondent aux questions à choix multiples. Une entreprise néerlandaise pense pouvoir accomplir des choses incroyables avec la surveillance audio des étudiants.

Ces programmes de prodige de la technologie éducative promettent et livrent peu, mais alors qu'ils ont du mal à établir leur éducation de bonne foi, les sociétés de surveillance ont trouvé un autre argument de vente pour étendre leur portée dans les écoles.

La Floride a été à la pointe de ce développement. Après les meurtres de l'école secondaire Marjorie Stoneman Douglas, la législature a adopté la loi sur la sécurité publique de l'école Marjorie Stoneman Douglas. La partie de l'acte qui a attiré l'attention à l'époque était l'augmentation de l'âge d'achat des armes à feu en Floride. Mais il est peut-être plus remarquable que les législateurs aient déclaré que ce qui était vraiment nécessaire pour rendre les écoles plus sûres était une surveillance complète de tous les élèves, 24 heures sur 24, 7 jours sur 7. La nouvelle base de données doit inclure chaque dossier scolaire d'un élève, ainsi que tout élément des programmes sociaux et juridiques gérés par l'État.

Le programme est également censé surveiller les comptes des étudiants sur les réseaux sociaux et collecter « des milliers d'heures de séquences vidéo ». Les caméras de sécurité étaient déjà omniprésentes, mais désormais, les logiciels de reconnaissance faciale dans les écoles sont une réalité croissante. L'ensemble du programme de traitement des données de la Floride est tenu secret ; un algorithme inconnu décidera si un étudiant est une menace. Beaucoup, beaucoup de gens ont exprimé des objections, y compris l'observation qu'il n'y a aucune preuve qu'une telle surveillance fonctionne. Il y a de nombreuses raisons de s'inquiéter de ce niveau massif d'exploration de données, mais jusqu'à présent, les choses avancent en flèche.

Rencontrez Bark, une entreprise qui propose une « surveillance de compte » 24 heures sur 24 pour G Suite et Office 365 dans le système de l'école. Dans un exemple, un élève a écrit un e-mail à un autre élève « parlant d'automutilation ». Le directeur a été alerté à son domicile. Bark affirme avoir découvert 1 494 438 problèmes au cours du semestre de printemps 2018 (c'est une moyenne de 0,85 problèmes par étudiant, ce qui suggère soit une population étudiante extrêmement troublée, soit une barre assez basse pour les "problèmes".) Il y a aussi Securly ('la société de sécurité des étudiants ») et GoGuardian (« avoir une vue sur l'activité des élèves »). Tout ce qui passe par les ressources technologiques de l'école peut être surveillé, jusqu'à chaque frappe sur chaque ordinateur fourni par l'école.

Existe-t-il des entreprises prêtes à entreprendre ce genre de travail?

Absolument. Ils sont appelés programmes de gestion de la sécurité (SMP) et ils sont partout car le phénomène est grandissant !

Le sujet vous intéresse ?

Mots-Clés

Thématiques

En raison de débordements, nous avons fait le choix de suspendre les commentaires des articles d'Atlantico.fr.

Mais n'hésitez pas à partager cet article avec vos proches par mail, messagerie, SMS ou sur les réseaux sociaux afin de continuer le débat !