Malaise au poignet ? Le nouvel bracelet connecté de santé d'Amazon analyse votre voix et vos émotions<!-- --> | Atlantico.fr
Atlantico, c'est qui, c'est quoi ?
Newsletter
Décryptages
Pépites
Dossiers
Rendez-vous
Atlantico-Light
Vidéos
Podcasts
High-tech
Malaise au poignet ? Le nouvel bracelet connecté de santé d'Amazon analyse votre voix et vos émotions
©

Espion

Le Halo, le nouveau bracelet connecté d'Amazon, pourra analyser - voire prédire - vos émotions. Les possibilités d'un tel produit sont vertigineuses... et terrifiantes.

Fabrice Epelboin

Fabrice Epelboin

Fabrice Epelboin est enseignant à Sciences Po et cofondateur de Yogosha, une startup à la croisée de la sécurité informatique et de l'économie collaborative.

Voir la bio »

A l’occasion des fêtes de cette fin d’année, Atlantico republie certains des meilleurs articles de 2020

Atlantico : Le Halo, le nouveau bracelet connecté qu'Amazon prévoit de lancer, fait plus que compter le nombre de pas ou analyser votre rythme cardiaque. Un système d'intelligence artificielle intégré à l'appareil peut analyser votre voix pour y déceler "la positivité et l'énergie". A quoi, concrètement, peut servir cette fonctionnalité ?

Fabrice Epelboin : L'objectif est de détecter en continu l'état émotionnel dans lequel vous vous trouvez. D'autant qu'il y a d'autres mesures (rythme cardiaque, etc.) qui permettent de comprendre cet état émotionnel.

L'idée est d'analyser vos émotions et votre état physiologique. Ce que l'intelligence artificielle va faire, c'est comprendre votre état émotionnel en continu, le comparer à des millions de personnes et détecter des patterns, des corrélations, des choses qui vont vous permettre de mieux vous comprendre et éventuellement d'anticiper vos émotions. On donne à l'intelligence artificielle une quantité astronomique de données venant d'une quantité astronomique d'individus faisant des choses variées, et on demande à l'intelligence artificielle de distinguer quelque chose dans cette masse. C'est ça le but. Ce que l'on appelle l'intelligence artificielle est en fait le deep learning, qui est une de ses branches. C'est elle qui fait des recommandations sur Youtube, qui vous construit votre fil d'informations sur Facebook, etc. Il s'agit d'observer de façon extrêmement précise le comportement d'être humains pour détecter des choses. Dans le cas du bracelet, il s'agirait de détecter l'état émotionnel – ce qui est une nouveauté, on a un mal fou à le faire. Qui sait ce que l'on pourra faire avec ! Par exemple, vous dire pensez une conversation : "attention, vous êtes en train de vous énerver et nous savons par expérience que dans cinq minutes vous perdrez le contrôle". Évidemment, on pourra aussi corréler cela avec d'autres mesures. Par exemple, si vous regardez un film sur Amazon Prime et que je suis votre état émotionnel, je pourrais trouver des choses intéressantes.

Intéressantes pour Amazon, mais le porteur du bracelet, lui, qu'est-ce qu'il en tire ?

Il y aura un trade-off, un échange. Exactement comme avec Facebook ou Google : vous livrez une quantité énorme d'informations sur vous à Google, et en contrepartie il vous fournit un moteur de recherche gratuit. Avec Halo, la contrepartie n'est pas encore claire, car on ne sait pas encore ce qu'on va trouver. Mesurer les émotions est encore quelque chose de très nouveau. Pour la première, un produit grand public pourra le faire.

Le principal intérêt est donc de participer à la recherche ?

Je mettrais de grosses guillemets là-dessus, car il s'agit de recherche complètement privée. "Participer à la recherche" a une connotation de bien commun. Ce n'est absolument pas le cas ici. Il serait plus exact de dire que vous participez à la R&D d'Amazon. Et en échange, Amazon vous refourgue un objet qui sert à vous monitorer lorsque vous faites du sport, comme des centaines d'autres bracelets connectés le font déjà.

Si une machine est capable d'anticiper vos émotions à partir de la lecture qu'elle fait de vous, les perspectives de ce que pourra en faire Amazon sont terrifiantes. Le capitalisme de surveillance, toute cette économie qui représente l'essentiel de la capitalisation boursière mondiale, est basée sur le fait de surveiller les gens, de créer de la valeur à partir de cela. Les données qu'ils récupèrent permet par exemple à Facebook d'être un acteur politique de premier plan. Amazon, qui est un acteur secondaire de ce capitalisme de surveillance (car la société est avant tout présente dans le commerce) met le pied dans quelque chose de nouveau qui est la mesure en temps réel des émotions. C'est fascinant en termes de science-fiction... Si ce n'est que c'est aujourd'hui !

Les clients d'Amazon accepteront-ils d'être les cobayes de cette expérience ?

Je ne pense pas qu'ils auront l'impression d'être des cobayes, car ce bracelet leur sera vendu comme un bracelet connecté comme les autres. Dans l'immédiat, ils ne vont rien vous proposer qui soit lié à vos émotions.

Tout cela est terrifiant. On peut vraiment qualifier ces acteurs de diaboliques en termes d'impact sur la société. Le fait qu'Amazon entre là-dedans est très inquiétant, et j'ai peur que le grand public ne mesure pas l'ampleur du danger.

Qu'une entreprise gigantesque puisse prédire ce que l'on va ressentir ?

Quelque chose comme cela. Regardez l'affaire Cambridge Analytica avec Facebook. Elle peut s'analyser comme la fin du libre-arbitre dans la démocratie, et donc comme la fin de la démocratie. Et Jeff Bezos est au même niveau que Mark Zuckerberg en termes de diabolique. Qu'est-ce qu'il fera de tout cela ? Il y réfléchit à très long terme et peut y investir des sommes qui dépensent l'entendement. Le budget de recherche des Gafam, c'est trente fois le budget du CNRS.

En raison de débordements, nous avons fait le choix de suspendre les commentaires des articles d'Atlantico.fr.

Mais n'hésitez pas à partager cet article avec vos proches par mail, messagerie, SMS ou sur les réseaux sociaux afin de continuer le débat !