Allo, Google Home, etc... quand les nouvelles applis du géant du web menacent le sécurité des données de leurs utilisateurs

Atlantico : En quoi consiste Allo, l'application de messagerie créée par Google ? Qu'apporte-t-elle de nouveau ?

Gilles Dounès : A la base, il s'agit d'une application de conversation par message texte, un peu comme iChat, ou AIM proposée par AOL et Apple depuis plus d'une dizaine d'années, avec un habillage un peu centré sur les préoccupations du moment, par exemple l'accent mis sur les emojis (les petits pictogrammes qui symbolisent une émotion ou un état d'esprit), et avec en compagnon une application de vidéoconférence baptisée Duo. Allo proposera également la possibilité de chiffrer les messages échangés. Allo comporte également une application de "ChatBot", capable d'apprendre petit à petit à répondre à votre place, au fur et à mesure de ses apprentissages mais, outre le versant "intelligence artificielle" sur lequel nous allons revenir, il n'y a là rien de très neuf et même de "téléphoné" si vous me pardonnez ce raccourci, puisque Apple a proposé iChat, le prédécesseur de Message et de FaceTime en juillet 2004, à l'époque avec une clé de cryptage sur 128 bits. La solution d'Apple a certes vieilli depuis sa dernière refonte en 2012, mais avec Allo (et Duo), il s'agit davantage de la part de Google d'une annonce "défensive" destinée à boucher les trous dans son offre, puisque Apple, Microsoft et même Facebook proposent déjà de leur côté ce type de solution extrêmement intuitive à la fois pour des usages personnels et de travail collaboratif. Dans bien des organisations, ce type d'usage a, depuis belle lurette, largement remplacé l'usage exclusif du mail.

Pourquoi cette application crée-t-elle une polémique ? Que reproche-t-on à Google exactement ? Dans quelle mesure ces critiques sont-elles justifiées ?

C'est le comportement de Tartuffe de la part de Google en matière de cryptage des échanges qui fait polémique en la matière, alors qu'à mon sens, ce qui pose un énorme problème avec Allo tient davantage de ce que Google a annoncé par ailleurs en matière d'intelligence artificielle, et qui a curieusement été réduit à la portion congrue dans les commentaires qui ont suivis les annonces. La polémique tout d'abord : quelle que soit l'efficacité et la pertinence des processus d'indexation et d'analyse du moteur de recherche de Google, la société dût-elle avoir été rebaptisé Alphabet, il faut bien garder à l'esprit que l'alpha et l'oméga de son modèle économique reste l'analyse de vos requêtes, de votre comportement sur le Web, et de vos données personnelles.

C'est certes également le cas pour Amazon, Facebook ou Microsoft dans des modèles mixtes qui leur sont spécifiques, mais aucune n'a réussi à perfectionner le système jusqu'au même degré de rendement que celui de la firme de Mountain View. Du coup, Google, qui devient le chantre de la protection des données personnelles, c'est un peu comme McDonald's qui enlève le rouge à l'arrière-plan de son logo pour le remplacer par du vert, et qui se met à vanter ses menus équilibrés : on vend effectivement des salades, mais surtout dans la communication ! D'une part, le système de chiffrement des messages n'est pas activé par défaut.Il va falloir que l'utilisateur fasse le choix de basculer, ou non, en mode "protégé", ce qui est loin d'être anecdotique puisque l'ensemble des services additionnels, plus ou moins "fun" ne fonctionnent qu'en mode "ouvert", c'est-à-dire en s'appuyant sur l'analyse de vos données personnelles… A moins d'un hypothétique énorme scandale, ce sont donc les utilisateurs les plus éduqués ou les plus concernés qui finiront par continuer à utiliser le mode "incognito", au fur et à mesure que, ce que Andreas Pfeiffer a appelé "la friction de l'interface", aura achevé de lasser les autres… c'est-à-dire l'immense majorité.

C'est ce double jeu, pour ne pas dire le "double bind" (choix impossible) dans lequel est placé l'utilisateur et qui est reproché à Google, lequel fait ainsi mine de satisfaire tout le monde tout en faisant fructifier sa boutique. Et c’est ce que Edward Snowden et un certain nombre d'organisations ont dénoncé immédiatement : soit on se protège (et on protège les autres) en permanence, soit ça ne sert à rien. C'est un peu comme le port de la ceinture ou du préservatif, d'ailleurs : ce n'est pas tant pour commettre des actes délictueux et se protéger de la NSA ou de la DGRI, mais tout simplement pour mettre ses propres données personnelles à l'abri des convoitises et de l'utilisation que pourraient en faire des tiers, ne serait-ce que pour se mettre à l'abri du harcèlement publicitaire. D'autant que Google continue de mener ses combats de retardement judiciaire, pour éviter d'avoir à se conformer aux législations nationales sur le droit à l'oubli comme la firme de Mountain View l'a encore prouvé en faisant appel, voici quelques jours, de sa condamnation par la CNIL française sur le sujet. Mais d'autre part, cela va beaucoup plus loin cette fois-ci : le service de messagerie et celui de vidéo chat ne viennent en effet pas seuls. Google était jusqu’ici très présent dans l'univers de travail quotidien de ses utilisateurs, d'abord du fait de son moteur de recherche qui cumule toujours plus de 80 % de parts de marché, puis du fait de son écosystème d'outils et de services interconnectés entre eux, organisé autour du moteur de recherche : les Google apps, les Google doc, et bien entendu Google Mail. Chrome avait ensuite suivi, telle une cerise sur le gâteau, avec un navigateur, puis tout un système d'exploitation organisé autour du navigateur Internet (et du moteur de recherche). Avec Android, Google a ensuite colonisé une bonne moitié des plates-formes mobiles, smartphones et tablettes, sur les usages en mobilité, sans même parler de Google Maps. Voilà où on en est, et c'est déjà énorme. Avec le service vidéo et le service de messagerie, vient également une montée en puissance considérable du service d'interrogation vocale Google NAO, désormais appelé Assistant, et qui est désormais capable de répondre à des questions, donc des problématiques beaucoup plus complexes, et qui n'ont apparemment pas de lien effectif entre elles : en clair, il serait capable de suivre une conversation décousue, tout en en dégageant le fil conducteur.

Pour éventuellement proposer une solution pertinente, tenant compte de paramètres complexes, comme les réservations pour la prochaine conférence des développeurs Apple de juin prochain à San Francisco, avec par exemple un vol sans escale et un hôtel situé à deux blocs maximum du Bill Graham Civic Auditorium, dans un budget défini. Avec Google Home, une petite enceinte intelligente concurrente de celle lancée voici quelques mois par Amazon, c'est à l'ensemble de votre environnement domestique et au comportement de ses hôtes que vous donnerez accès à Google en lui confiant les interactions avec les futurs objets intelligents de votre domicile. L'accumulation des données mise à la disposition de Google par l'utilisateur de ces services est une chose ; leur utilisation par la firme en est une autre, et celle-ci a profité de la conférence I/O pour faire une annonce qui fait froid dans le dos. Google a mis au point une puce dédiée au Machine Learning, c'est-à-dire à des applications d'intelligence artificielle.D'ores et déjà utilisées depuis plus d'un an par une centaine de services au sein des Data Centers de Google, d'abord pour Google Photo ou Google Maps, celle-ci a vocation à donner toute sa mesure avec des services comme Home ou Allo. Mais c'est sa puissance qui fait avant tout froid dans le dos : le processeur, baptisé Tensor Processing Unit, optimisé pour le Deep Learning, serait en avance de 7 ans sur les lois de Moore par rapport à la génération actuelle, ce qui représenterait trois générations et demie de puces, même si certains, comme Joshua Ho de l'excellente revue spécialisée AnandTech, restent sceptiques.

Avec le service vidéo et le service de messagerie, vient également une montée en puissance considérable du service d'interrogation vocale Google Now, désormais appelé Assistant, et qui est désormais capable de répondre à des questions dans des problématiques beaucoup plus complexes, et qui n'ont apparemment pas de lien effectif entre elles. En clair, il serait capable de suivre une conversation décousue, tout en en dégageant le fil conducteur, pour éventuellement proposer une solution pertinente, tenant compte de paramètres complexes. Comme, mais ce n'est qu'un exemple, les réservations pour la prochaine conférence des développeurs Apple de juin prochain à San Francisco, avec mettons  un vol sans escale et un hôtel situé à deux blocs maximum du Bill Graham Civic Auditorium, dans un budget défini. Et avec Google Home, une petite enceinte intelligente concurrente de celle lancée voici quelques mois par Amazon, c'est à l'ensemble de votre environnement domestique et au comportement de ses hôtes que vous donnerez accès à Google, en lui confiant les interactions avec les futurs objets intelligents de votre domicile.

L'accumulation des données mise à disposition de Google par l'utilisateur en échange de la gratuité de ces services est une chose : leur utilisation par la firme de Mountain View en est une autre, et celle-ci a profité de la conférence I/O pour faire une annonce qui fait froid dans le dos. Google a en effet mis au point  une puce dédiée au Machine Learning, c'est-à-dire à des applications d'intelligence artificielle. D'ores et déjà utilisés depuis plus d'un an par une centaine de services au sein des data Center de Google, d'abord pour Google photo ou Google Maps, celle-ci a vocation à donner toute sa mesure avec des services comme Home ou Allo, est bien entendu avec un véhicule autonome. Mais c'est sa puissance qui donne avant tout à réfléchir : le processeur baptisé Tensor Processing  Unit, optimisé pour le Deep Learning, serait en avance de 7 ans sur les lois de Moore par rapport à la génération actuelle, ce qui représenterait trois générations et demie de puces, même si certains comme Joshua Ho de l'excellente revue spécialisée AnandTech reste sceptique.

Quelle sont les risques réels de violation de notre vie privée ? Comment faut-il utiliser Allo (ou non) pour s'en protéger ?

Le problème, c'est qu'avec une telle masse de données cumulées obligeamment fournies par l'utilisateur à chaque instant de sa vie personnelle ou professionnelle, il n'y a plus de vie privée ! Le filet se resserre d'autant plus que les circonstances de leur collecte se multiplient, en échange de services gratuits proposés à l'utilisateur : Google a en effet annoncé un système d'exploitation pour la télévision et un autre pour les objets connectés à porter sur soi. Le système est d'autant plus pernicieux et enveloppant qu'il met à son service tout un écosystème de sociétés qui proposent à leur tour des biens et de services, par le biais de Kit de Développement Logiciel mis à leur disposition. A fortiori, si cette quantité quasi exhaustive de données comportementales est exploitée par une infrastructure aussi puissante que celle que promet Google, basée sur des unités de calcul à partir des ASIC, c'est-à-dire dont le fonctionnement peut-être modifié à distance.

On commence ainsi à approcher des modèles théoriques de fonctionnement neuronaux, ce qui est d'autant plus dangereux qu'à l'autre bout de la chaîne , le système Internet tend à réduire les comportements de l'utilisateur à celui d'un animal de laboratoire, dont les comportements sont sans arrêt scrutés et sur lesquels on s'efforce d'influer sur un modèle binaire "apétitif/aversif", et ce dès le plus jeune âge. En fait, il n'y a guère d'autre solution que d'éviter de rentrer dans cette boucle de rétroaction, comme chaque fois qu'il est question d'injonction paradoxale d'ailleurs. Mais cela est plus facile à dire qu'à faire, le moindre mal étend d'essayer de ne pas confier toutes ses données personnelles à la même plate-forme, et de diversifier les services et les fournisseurs auquel on fait appel. Mais comme à chaque fois qu'il est question de monopole, le législateur devra trancher dans le vif en séparant au moins le moteur de recherche du reste de l'écosystème, et vraisemblablement des infrastructures.

Propos recueillis par Thomas Gorriz