Les murs ont des Google Ears

L’ami Gee continue à nous dessiner les frasques des GAFAM et passe un peu de temps, cette fois-ci, à expliquer les danger des appareils connectés qui « écoutent »… une énième raison d’essayer d’organiser une autre société où, peut-être, les humains s’écouteraient entre eux au lieu de se faire volontairement espionner par des boîtes noires.

Les murs ont des Google Ears

Rappelez-vous, il y a tout juste deux mois de cela, j’ironisais sur un certain gadget numérique :

Extrait de la BD « La rentrée des GAFAM ». Parlons enfin de Google Home, le mouchard à installer soi-même chez soi. Un couple est représenté au lit, sur le point de s'envoyer en l'air. L'homme dit : « OK Google, arrête d'écouter. » L'enceinte connectée répond : « D'accord, j'écoute pas. » La femme : « J'ai pas confiance en ce machin. » L'enceinte : « MAIS J'AI DIT QUE J'ÉCOUTAIS PAS, MERDE ! »

Eh bien comme souvent avec les GAFAM, la réalité rejoint la caricature : le blogueur Artem Russakovskii a révélé sur AndroidPolice.com avoir remarqué un « bug » qui faisait que son Google Home enregistrait absolument tout le son qu’il captait 24 heures sur 24, 7 jours sur 7 et l’envoyait sur son compte Google…

L'homme de la première image, furieux, dit à son enceinte : « J't'avais dit de pas écouter ! » L'enceinte répond : « Mais j'ai juste laissé tourner mon microphone, encodé le résultat en format audio compressé, envoyé les fichiers sur les serveurs de Google qui ont horodaté et archivé le tout… J'AI PAS ÉCOUTÉ ! »

Le truc « drôle » ici, c’est que le seul vrai « bug » que l’on peut constater, c’est l’enregistrement des fichiers dans l’espace perso de l’utilisateur.

Tout le reste, ça n’est pas un bug : c’est la fonctionnalité !

Google Home enregistre et analyse absolument TOUT ce que son microphone capte, 24 heures sur 24, 7 jours sur 7, et c’est son fonctionnement NORMAL.

L'homme est dubitatif : « Attends, mais normalement, le Google Home n'écoute que si j'ai dit “Ok Google”, non ? » Gee, moqueur : « D'accord, mais s'il n'écoute pas avant… alors comment fait-il pour savoir que tu as prononcé “Ok Google” ? »

C’est toute l’absurdité de la notion « d’écoute » dans ce cas-là !

Pour détecter que vous avez prononcé « OK Google » (ou, par exemple, « Alexa » dans le cas de l’équivalent d’Amazon), le Google Home doit enregistrer et analyser tout ce que son microphone capte…

Sinon, ce serait un peu comme si un médecin vous disait cela :

Une médecin dit à son patient : « Alors, on va faire un scanner pour détecter une éventuelle tumeur… » Le patient, inquiet : « Mais alors, je vais être irradié ? » La médecin : « Oui, mais la bonne nouvelle, c'est que le scanner ne fonctionnera QUE SI vous avez une tumeur ! » Le patient : « Euuuh… mais du coup, le scanner sait DÉJÀ que j'ai une tumeur ? » Le smiley répond : « Spoiler : non. Et en effet, ce serait complètement débile. »

La seule différence, dans le cas de Google Home, c’est que si son analyse révèle que la phrase ne commence pas par « OK Google », les éventuelles commandes données après ne seront pas traitées comme des commandes à exécuter.

Mais il les enregistre tout autant que celles qu’il exécute !

Gee commente d'un air blasé : « Avoir Google Home, c'est un peu comme jouer à Jacadi. Sauf que tu peux pas savoir si le joueur en face triche ou pas. Et que potentiellement, le joueur en face, c'est la NSA. » Un agent de la NSA se bouche les oreilles en rigolant et en disant : « Lalalaaaa ! J'ai rien entendu ! T'as pas dit “Jacadiiiiii” ! » Le smiley, stupéfait : « La vache, c'est plus vicelard que dans mes souvenirs, Jacadi… »

Dans le même genre d’idée, Google (oui, encore) a dévoilé un appareil photo, Clips, dont le principe est de détecter lui-même le meilleur moment pour prendre une photo.

En gros, il reconnaît les visages de votre famille, estime à quel moment vous êtes les plus photogéniques et prend alors une photo tout seul comme un grand.

Un papa dit à sa petite fille : « Regarde, je laisse l'appareil ici et il prendra les meilleurs photos de ta fête d'anniversaire sans que l'on ait besoin de poser ou de faire “cheese” ! » La petite n'est pas rassurée et dit : « Eeuuuuh, il est pas un peu bizarre, l'appareil photo ? » L'appareil photo est la tour de Sauron dans le Seigneur des Anneaux et murmure : « Je… vous… vooiiis… »

Eh bien que les choses soient claires : pour pouvoir faire son analyse (dont je ne doute pas qu’elle doit être une prouesse technique remarquable), le Google Clips vous filme. Oui.

Il.

Vous.

Filme.

En.

Permanence.

Un politicien est tout content : « On n'avait pas réussi à installer un futur dystopique à la Black Mirror avec les Google Glass… mais on n'est jamais à court d'idées. » Le Google Home discute avec le Google Clip, toujours représenté en Sauron : « Dis, Google Clip, à quel moment on s'allie et on bute tous les humains sur Terre façon Terminator ? » Google Clip : « Faut attendre que les véhicules automatiques et les robots tueurs soient au point. On s'donne 5 ou 10 ans ? » Google Home : « Rah mince, j'suis garanti 1 an, donc obsolète dans 18 mois et en rade dans 2 ans… » Google Clip : « Moi aussi, mais gardons donc espoir pour les générations futures… »

Pour finir, rappelons que cette problématique du « on doit écouter pour savoir s’il fallait écouter », on la retrouve jusque dans les fameuses lois liberticides qu’on se mange en boucle depuis quelques années (Loi Renseignement, Loi Terrorisme, Loi Machintruc, etc.).

J’en avais déjà causé dans mon article Panique algorithmique :

Extrait de la BD en question. Un politicien se veut rassurant : « Il ne s'agit pas d'un flicage généralisé puisqu'un algorim' permettra de détecter les comportements suspects. Donc l'anonymat des interceptions ne sera levé que si un comportement suspect est détecté. La vie privée n'est pas violée pour les innocents. » Un femme répond, pas convaincue : « Chic alors. » BULLSHIT. Elle poursuit, énervée : « Que les comportements suspects soient repérés par un fonctionnaire, un algorithme ou le chien de ma belle-sœur, fondamentalement, on s'en tamponne le processeur ! Si l'anonymat est levé par le programme, c'est qu'il n'a jamais existé ! L'algorithme ne dispose de ni plus ni moins d'informations que celles qu'on lui donne ! Donc la population est bien fliquée intégralement, quoi qu'il arrive ! » Le politicien est tout gêné : « Ah oui mais si vous maîtrisez le sujet, c'est pas du jeu ! » Le smiley commente cette auto-citation : « C'est plus du recyclage, là… c'est du gâtisme. »

En effet, quand bien même votre algorithme de détection des terroristes serait efficace, cela signifie quoi qu’il arrive une perte de vie privée radicale pour 100 % de la population.

De la même manière que même si moins d’un millième des mots que vous prononcez sont « OK Google », Google Home enregistrera quand même tous les autres.

Et que même si vous n’êtes photogénique que quelques secondes dans la journée…

Le smiley, vexé, dit : « J't'emmerde, Gee. »

… Google Clips vous filmera en permanence.

Gee : « Enfin au moins, si on met de côté l'éthique douteuse, les produits de Google marchent très bien… Et c'est bien ce qui complique la dégooglisation. Alors que les algos pour détecter les terroristes… » Le logo de Google rigole en disant : « Mettre de côté l'éthique ? J'allais justement vous le suggérer. »

Eh oui, le pire, c’est que les algos de détection des terroristes fonctionnent très mal !

D’après une étude sur de tels algos (menée par Timme Bisgaard Munk, chercheur de l’Université de Copenhague), il y a en moyenne 100 000 faux positifs – innocents identifiés comme terroristes – pour 1 terroriste réel détecté. Quant aux faux négatifs – terroristes réels non-détectés –, eh bien… il suffit de suivre l’actu.

C’est donc la double peine, car non seulement les dominants sacrifient nos vies privées, mais en plus l’hypothétique gain (détection des terroristes avant le passage à l’acte) est non-existant !

Gee explique : « En même temps, la base d'apprentissage pour reconnaître un terroriste est faible… Et heureusement. C'est comme si j'entraînais un algorithme à reconnaître un verre à bière en lui donnant les images suivantes. » On voit quatre verres à bière de différents types, mais aucun n'a de poignée. Gee poursuit : « Il serait alors bien infoutu de détecter une chope… »

Ayant atteint le point binouze (qui indique l’heure de l’apéro), j’arrête donc là cette petite revue des oreilles, de plus en plus nombreuses, qui parsèment nos murs.

En conclusion : il y a un mouvement général de surveillance massive de la population qui se met en place à la fois par des acteurs privés et étatiques. La première étape pour lutter contre ça, c’est de ne pas participer à notre propre surveillance…

Sauron dit : « Bisous. » Note : BD sous licence CC BY SA (grisebouille.net), dessinée le 8 novembre 2017 par Gee.

Sources :

Lire aussi :

Crédit : Simon Gee Giraudot (Creative Commons By-Sa)