Une étude révèle que les adolescents considèrent les algorithmes des médias sociaux comme des reflets exacts d'eux-mêmes

Les applications de médias sociaux présentent régulièrement aux adolescents des contenus sélectionnés par des algorithmes, souvent décrits comme étant "pour vous", ce qui suggère implicitement que ces contenus ne sont pas seulement "pour vous", mais aussi "à propos de vous" - un miroir reflétant des signaux importants sur la personne que vous êtes.

Tous les utilisateurs de médias sociaux sont exposés à ces signaux, mais les chercheurs savent que les adolescents se trouvent à un stade particulièrement malléable de la formation de leur identité personnelle. Les chercheurs ont commencé à démontrer que la technologie a des effets sur les générations, non seulement dans la manière dont elle influence les perspectives culturelles, le comportement et la vie privée, mais aussi dans la manière dont elle peut façonner la personnalité de ceux qui ont grandi avec les médias sociaux.

La prévalence du message "pour vous" soulève des questions importantes sur l'impact de ces algorithmes sur la façon dont les adolescents se perçoivent et voient le monde, ainsi que sur l'érosion subtile de leur vie privée, qu'ils acceptent en échange de cette vision.

Les adolescents aiment leur reflet algorithmique

Inspirés par ces questions, mes collègues John Seberger et Afsaneh Razi de l'université Drexel et moi-même avons posé la question suivante : comment les adolescents naviguent-ils dans ce milieu généré par des algorithmes et comment se reconnaissent-ils dans le miroir qu'il leur présente ?

Notre étude qualitative menée auprès d'adolescents âgés de 13 à 17 ans nous a permis de constater que les contenus algorithmiques personnalisés semblent présenter ce que les adolescents interprètent comme une image fiable d'eux-mêmes, et qu'ils aiment beaucoup l'expérience de voir ce reflet dans les médias sociaux.

Les adolescents avec lesquels nous nous sommes entretenus disent qu'ils préfèrent un média social entièrement personnalisé pour eux, représentant ce avec quoi ils sont d'accord, ce qu'ils veulent voir et, donc, ce qu'ils sont.

    "Si je cherche quelque chose d'important pour moi, cela apparaîtra comme l'un des premiers messages [et] cela montrera, par exemple, des gens [comme moi] qui ont une discussion intéressante."

Il s'avère que les adolescents que nous avons interrogés pensent que les algorithmes des médias sociaux, tels que ceux de TikTok, sont devenus si performants qu'ils considèrent que les reflets d'eux-mêmes dans les médias sociaux sont tout à fait exacts. À tel point que les adolescents n'hésitent pas à qualifier d'anomalies les incohérences de contenu par rapport à l'image qu'ils ont d'eux-mêmes - par exemple, le résultat d'un engagement involontaire avec un contenu antérieur, ou simplement un pépin.

    "À un moment donné, j'ai vu quelque chose à propos de cette émission, peut-être sur TikTok, et j'ai interagi avec elle sans m'en rendre compte."

Lorsque le contenu personnalisé ne leur convient pas ou ne correspond pas à l'image qu'ils ont d'eux-mêmes, les adolescents que nous avons interrogés disent qu'ils le font défiler en espérant ne jamais le revoir. Même lorsque ces anomalies perçues prennent la forme d'un contenu extrêmement hypermasculin ou "méchant", les adolescents n'attribuent pas cela à quelque chose qui les concerne spécifiquement, et ils ne prétendent pas non plus chercher une explication dans leurs propres comportements. Selon les adolescents interrogés, le miroir des médias sociaux ne les incite pas à réfléchir davantage sur eux-mêmes ou à remettre en question leur image de soi.

Ce qui nous a surpris, c'est que si les adolescents sont conscients que ce qu'ils voient dans leur flux "pour vous" est le produit de leurs habitudes de défilement sur les plateformes de médias sociaux, ils ignorent largement ou ne se soucient pas du fait que ces données capturées à travers les applications contribuent à cette image de soi. Quoi qu'il en soit, ils ne considèrent pas leur flux "pour vous" comme une remise en question de leur perception de soi, et encore moins comme un risque pour leur identité personnelle - ni, d'ailleurs, comme une quelconque source d'inquiétude.

Façonner l'identité

La recherche sur l'identité a beaucoup évolué depuis que le sociologue Erving Goffman a proposé la "présentation de soi" en 1959. Selon lui, les gens gèrent leur identité par le biais de performances sociales afin de maintenir l'équilibre entre ce qu'ils pensent être et la façon dont les autres les perçoivent.

Lorsque Goffman a proposé sa théorie pour la première fois, il n'existait pas d'interface de médias sociaux permettant de tendre un miroir pratique du soi tel qu'il est perçu par les autres. Les gens étaient obligés de créer leur propre image en mosaïque, dérivée de multiples sources, rencontres et impressions. Ces dernières années, les algorithmes de recommandation des médias sociaux se sont insérés dans ce qui est désormais une négociation à trois entre soi, le public et l'algorithme des médias sociaux.

Les offres "pour vous" créent un espace privé-public dans lequel les adolescents peuvent accéder à ce qu'ils considèrent comme un test largement précis de leur image de soi. En même temps, ils disent qu'ils peuvent facilement l'ignorer s'il semble ne pas correspondre à cette image de soi. 

Le pacte que les adolescents concluent avec les médias sociaux, en échangeant des données personnelles et en renonçant à leur vie privée pour s'assurer l'accès à ce miroir algorithmique, leur semble être une bonne affaire. Ils se présentent comme étant capables, en toute confiance, d'ignorer ou de faire défiler les contenus recommandés qui semblent contredire l'idée qu'ils se font d'eux-mêmes, mais les recherches montrent le contraire.

En fait, ils se sont révélés très vulnérables à la distorsion de l'image de soi et à d'autres problèmes de santé mentale, en raison des algorithmes des médias sociaux explicitement conçus pour créer et récompenser les hypersensibilités, les fixations et la dysmorphie - un trouble de la santé mentale où les gens font une fixation sur leur apparence.

Compte tenu de ce que les chercheurs savent du cerveau des adolescents et de ce stade de développement social, et compte tenu de ce que l'on peut raisonnablement supposer de la malléabilité de l'image de soi en fonction des réactions sociales, les adolescents ont tort de croire qu'ils peuvent contourner les risques des algorithmes en matière d'identité personnelle.

Interventions

Une partie du remède pourrait consister à créer de nouveaux outils utilisant l'intelligence artificielle pour détecter les interactions dangereuses tout en protégeant la vie privée. Une autre approche consiste à aider les adolescents à réfléchir à ces "doubles de données" qu'ils ont construits.

Mes collègues et moi-même étudions actuellement de manière plus approfondie la façon dont les adolescents perçoivent les contenus algorithmiques et les types d'interventions qui peuvent les aider à y réfléchir. Nous encourageons les chercheurs dans notre domaine à concevoir des moyens de remettre en question l'exactitude des algorithmes et de montrer qu'ils reflètent un comportement et non un être. Une autre partie du remède pourrait consister à armer les adolescents d'outils leur permettant de restreindre l'accès à leurs données, notamment en limitant les cookies, en ayant différents profils de recherche et en désactivant la géolocalisation lors de l'utilisation de certaines applications.

Nous pensons que toutes ces mesures sont susceptibles de réduire la précision des algorithmes, créant ainsi une friction nécessaire entre l'algorithme et l'individu, même si les adolescents ne sont pas nécessairement satisfaits des résultats.

Impliquer les enfants

Récemment, mes collègues et moi-même avons organisé un atelier sur la génération Z avec des jeunes d'Encode Justice, une organisation mondiale de lycéens et d'étudiants qui militent en faveur d'une IA sûre et équitable. L'objectif était de mieux comprendre comment ils envisagent leur vie sous l'influence des algorithmes et de l'IA. Les membres de la génération Z se disent inquiets, mais aussi désireux de participer à l'élaboration de leur avenir, notamment en atténuant les effets néfastes des algorithmes. L'un des objectifs de notre atelier était d'attirer l'attention sur la nécessité de mener des enquêtes sur les algorithmes et leurs effets à l'initiative des adolescents, et d'encourager cette démarche.

Les chercheurs sont également confrontés au fait que nous ne savons pas vraiment ce que cela signifie de négocier constamment son identité avec un algorithme. Beaucoup d'entre nous qui étudions les adolescents sont trop âgés pour avoir grandi dans un monde modéré par des algorithmes. Pour les adolescents que nous étudions, il n'y a pas d'"avant l'IA".

Je pense qu'il est dangereux d'ignorer ce que font les algorithmes. L'avenir des adolescents peut être celui d'une société qui reconnaît la relation unique entre les adolescents et les médias sociaux. Cela signifie qu'il faut les impliquer dans les solutions, tout en leur fournissant des conseils.

Cet article a été initialement publié sur The Conversation.