Les murs ont des Google Ears

Classé dans : Communs culturels, Lecture | 11

Temps de lecture 4 min

image_pdfimage_print

L’ami Gee continue à nous dessiner les frasques des GAFAM et passe un peu de temps, cette fois-ci, à expliquer les danger des appareils connectés qui « écoutent »… une énième raison d’essayer d’organiser une autre société où, peut-être, les humains s’écouteraient entre eux au lieu de se faire volontairement espionner par des boîtes noires.

Les murs ont des Google Ears

Rappelez-vous, il y a tout juste deux mois de cela, j’ironisais sur un certain gadget numérique :

Extrait de la BD « La rentrée des GAFAM ». Parlons enfin de Google Home, le mouchard à installer soi-même chez soi. Un couple est représenté au lit, sur le point de s'envoyer en l'air. L'homme dit : « OK Google, arrête d'écouter. » L'enceinte connectée répond : « D'accord, j'écoute pas. » La femme : « J'ai pas confiance en ce machin. » L'enceinte : « MAIS J'AI DIT QUE J'ÉCOUTAIS PAS, MERDE ! »

Eh bien comme souvent avec les GAFAM, la réalité rejoint la caricature : le blogueur Artem Russakovskii a révélé sur AndroidPolice.com avoir remarqué un « bug » qui faisait que son Google Home enregistrait absolument tout le son qu’il captait 24 heures sur 24, 7 jours sur 7 et l’envoyait sur son compte Google…

L'homme de la première image, furieux, dit à son enceinte : « J't'avais dit de pas écouter ! » L'enceinte répond : « Mais j'ai juste laissé tourner mon microphone, encodé le résultat en format audio compressé, envoyé les fichiers sur les serveurs de Google qui ont horodaté et archivé le tout…  J'AI PAS ÉCOUTÉ ! »

Le truc « drôle » ici, c’est que le seul vrai « bug » que l’on peut constater, c’est l’enregistrement des fichiers dans l’espace perso de l’utilisateur.

Tout le reste, ça n’est pas un bug : c’est la fonctionnalité !

Google Home enregistre et analyse absolument TOUT ce que son microphone capte, 24 heures sur 24, 7 jours sur 7, et c’est son fonctionnement NORMAL.

L'homme est dubitatif : « Attends, mais normalement, le Google Home n'écoute que si j'ai dit “Ok Google”, non ? » Gee, moqueur : « D'accord, mais s'il n'écoute pas avant… alors comment fait-il pour savoir que tu as prononcé “Ok Google” ? »

C’est toute l’absurdité de la notion « d’écoute » dans ce cas-là !

Pour détecter que vous avez prononcé « OK Google » (ou, par exemple, « Alexa » dans le cas de l’équivalent d’Amazon), le Google Home doit enregistrer et analyser tout ce que son microphone capte…

Sinon, ce serait un peu comme si un médecin vous disait cela :

Une médecin dit à son patient : « Alors, on va faire un scanner pour détecter une éventuelle tumeur… » Le patient, inquiet : « Mais alors, je vais être irradié ? » La médecin : « Oui, mais la bonne nouvelle, c'est que le scanner ne fonctionnera QUE SI vous avez une tumeur ! » Le patient : « Euuuh… mais du coup, le scanner sait DÉJÀ que j'ai une tumeur ? » Le smiley répond : « Spoiler : non. Et en effet, ce serait complètement débile. »

La seule différence, dans le cas de Google Home, c’est que si son analyse révèle que la phrase ne commence pas par « OK Google », les éventuelles commandes données après ne seront pas traitées comme des commandes à exécuter.

Mais il les enregistre tout autant que celles qu’il exécute !

Gee commente d'un air blasé : « Avoir Google Home, c'est un peu comme jouer à Jacadi.  Sauf que tu peux pas savoir si le joueur en face triche ou pas. Et que potentiellement, le joueur en face, c'est la NSA. » Un agent de la NSA se bouche les oreilles en rigolant et en disant : « Lalalaaaa ! J'ai rien entendu ! T'as pas dit “Jacadiiiiii” ! » Le smiley, stupéfait : « La vache, c'est plus vicelard que dans mes souvenirs, Jacadi… »

Dans le même genre d’idée, Google (oui, encore) a dévoilé un appareil photo, Clips, dont le principe est de détecter lui-même le meilleur moment pour prendre une photo.

En gros, il reconnaît les visages de votre famille, estime à quel moment vous êtes les plus photogéniques et prend alors une photo tout seul comme un grand.

Un papa dit à sa petite fille : « Regarde, je laisse l'appareil ici et il prendra les meilleurs photos de ta fête d'anniversaire sans que l'on ait besoin de poser ou de faire “cheese” ! » La petite n'est pas rassurée et dit : « Eeuuuuh, il est pas un peu bizarre, l'appareil photo ? » L'appareil photo est la tour de Sauron dans le Seigneur des Anneaux et murmure : « Je… vous…  vooiiis… »

Eh bien que les choses soient claires : pour pouvoir faire son analyse (dont je ne doute pas qu’elle doit être une prouesse technique remarquable), le Google Clips vous filme. Oui.

Il.

Vous.

Filme.

En.

Permanence.

Un politicien est tout content : « On n'avait pas réussi à installer un futur dystopique à la Black Mirror avec les Google Glass… mais on n'est jamais à court d'idées. » Le Google Home discute avec le Google Clip, toujours représenté en Sauron : « Dis, Google Clip, à quel moment on s'allie et on bute tous les humains sur Terre façon Terminator ? » Google Clip : « Faut attendre que les véhicules automatiques et les robots tueurs soient au point. On s'donne 5 ou 10 ans ? » Google Home : « Rah mince, j'suis garanti 1 an, donc obsolète dans 18 mois et en rade dans 2 ans… » Google Clip : « Moi aussi, mais gardons donc espoir pour les générations futures… »

Pour finir, rappelons que cette problématique du « on doit écouter pour savoir s’il fallait écouter », on la retrouve jusque dans les fameuses lois liberticides qu’on se mange en boucle depuis quelques années (Loi Renseignement, Loi Terrorisme, Loi Machintruc, etc.).

J’en avais déjà causé dans mon article Panique algorithmique :

Extrait de la BD en question. Un politicien se veut rassurant : « Il ne s'agit pas d'un flicage généralisé puisqu'un algorim' permettra de détecter les comportements suspects.  Donc l'anonymat des interceptions ne sera levé que si un comportement suspect est détecté. La vie privée n'est pas violée pour les innocents. » Un femme répond, pas convaincue : « Chic alors. » BULLSHIT. Elle poursuit, énervée : « Que les comportements suspects soient repérés par un fonctionnaire, un algorithme ou le chien de ma belle-sœur, fondamentalement, on s'en tamponne le processeur !  Si l'anonymat est levé par le programme, c'est qu'il n'a jamais existé ! L'algorithme ne dispose de ni plus ni moins d'informations que celles qu'on lui donne ! Donc la population est bien fliquée intégralement, quoi qu'il arrive ! » Le politicien est tout gêné : « Ah oui mais si vous maîtrisez le sujet, c'est pas du jeu ! » Le smiley commente cette auto-citation : « C'est plus du recyclage, là… c'est du gâtisme. »

En effet, quand bien même votre algorithme de détection des terroristes serait efficace, cela signifie quoi qu’il arrive une perte de vie privée radicale pour 100 % de la population.

De la même manière que même si moins d’un millième des mots que vous prononcez sont « OK Google », Google Home enregistrera quand même tous les autres.

Et que même si vous n’êtes photogénique que quelques secondes dans la journée…

Le smiley, vexé, dit : « J't'emmerde, Gee. »

… Google Clips vous filmera en permanence.

Gee : « Enfin au moins, si on met de côté l'éthique douteuse, les produits de Google marchent très bien…  Et c'est bien ce qui complique la dégooglisation.  Alors que les algos pour détecter les terroristes… » Le logo de Google rigole en disant : « Mettre de côté l'éthique ? J'allais justement vous le suggérer. »

Eh oui, le pire, c’est que les algos de détection des terroristes fonctionnent très mal !

D’après une étude sur de tels algos (menée par Timme Bisgaard Munk, chercheur de l’Université de Copenhague), il y a en moyenne 100 000 faux positifs – innocents identifiés comme terroristes – pour 1 terroriste réel détecté. Quant aux faux négatifs – terroristes réels non-détectés –, eh bien… il suffit de suivre l’actu.

C’est donc la double peine, car non seulement les dominants sacrifient nos vies privées, mais en plus l’hypothétique gain (détection des terroristes avant le passage à l’acte) est non-existant !

Gee explique : « En même temps, la base d'apprentissage pour reconnaître un terroriste est faible…  Et heureusement.  C'est comme si j'entraînais un algorithme à reconnaître un verre à bière en lui donnant les images suivantes. » On voit quatre verres à bière de différents types, mais aucun n'a de poignée. Gee poursuit : « Il serait alors bien infoutu de détecter une chope… »

Ayant atteint le point binouze (qui indique l’heure de l’apéro), j’arrête donc là cette petite revue des oreilles, de plus en plus nombreuses, qui parsèment nos murs.

En conclusion : il y a un mouvement général de surveillance massive de la population qui se met en place à la fois par des acteurs privés et étatiques. La première étape pour lutter contre ça, c’est de ne pas participer à notre propre surveillance…

Sauron dit : « Bisous. » Note : BD sous licence CC BY SA (grisebouille.net), dessinée le 8 novembre 2017 par Gee.

Sources :

Lire aussi :

Crédit : Simon Gee Giraudot (Creative Commons By-Sa)

Suivre Gee:

Gribouilleur, scribouillard, docteur en informatique (généraliste conventionné secteur 42), anar, irréaliste & irresponsable, compagnon de route de Framasoft.

Articles récents de

11 Responses

  1. Antoine D.

    Génial, comme souvent. Bientôt une version papier à diffuser sous le manteau ? 😀

  2. Nandicre

    Je vous trouve un peu de mauvaise foi concernant la première partie. En effet, il est clairement précisé que le google home reconnait le ‘ok google’ seulement en local, et qu’il ne communique avec internet qu’après la détection. La détection se fait donc en offline. Je suis d’accord qu’il ne faut pas avoir une confiance aveugle en google, mais jusqu’à preuve du contraire, ce que vous avancez ici sur le google home ne sont que des suppositions.

    • maverick

      Précisé par qui ?
      Et quand bien même, ça n’invalide pas le fait que le truc-là il écoute en permanence pour pouvoir se mettre en route aux mots « ok Google ».

      • JeanFaire

        Mais comme cette écoute reste locale tant qu’il n’y a pas détection de « ok google », le son « enregistré » ne reste dans le système de traitement de l’appareil qu’un court instant, c’est un peu comme un miroir : ce n’est pas parceque notre image se reflète dessus qu’il va se passer autre chose.
        Un autre point à noter : ces appareils ont un bouton qui désactive complètement l’écoute.

        Bien qu’il faille se méfier de ces objets connectés pour diverses raisons, ne leur inventons pas des défauts alors qu’ils en ont déjà des tas.

        • thorfenn

          l intéressant serait d analyser le trafic réseau quand le bouton est sur off pour l écoute et que vous parlez ou dites « OK google ».

  3. libre fan

    Bonjour,

    Quelques liens de rappel pour poursuivre la réflexion fournie par Gee, pour les gens qui trouvent que Google n’est pas «si pire que ça»:
    https://framablog.org/2017/10/25/comment-les-entreprises-surveillent-notre-quotidien/
    https://blog.mozilla.org/blog/2017/11/07/dont-buy-gifts-that-snoop-introducing-mozillas-holiday-buyers-guide/
    et suivez le lien indiqué dans le billet de blog de Mozilla: https://advocacy.mozilla.org/en-US/privacynotincluded
    Ainsi, vous êtes deux fois avertis, par Gee qui vous fait sourire et par Mozilla qui vous dit tout sans rire.

    Euh, les GAFAMs ne font pas de «frasques» (introduction de votre billet), ils accumulent les délits, (les données, l’évasion fiscale, les Paradise Papers, c’est aussi les GAFAMs). Pour les donnée personnelles, par exemple:
    https://www.april.org/donnees-personnelles-protection-de-nos-libertes-individuelles
    > Même à l’ère numérique qui est la nôtre, la protection des libertés individuelles reste l’axe central de notre législation et les règles européennes qui entreront en vigueur au mois de mai prochain viendront encore le confirmer

    Mais pour moi la question n’est pas de savoir à quel moment Google vous espionne (enfin «nous» espionne car si je vais dans une maison où il y a un Ghome, je suis espionnée à mon tour) mais plutôt:
    – Pourquoi acheter de tels gadgets? Qu’est-ce qui pousse les gens à consommer des trucs pareils?
    – Pourquoi un ordinateur traditionnel avec un GNU/Linux n’est pas l’outil idéal à tout faire avec de l’informatique, de l’internet et du web?

  4. Geraldine

    La problème, c’est que les ordinateurs à commandes vocales, c’est ce qu’on nous montre dans toutes les sf. Difficile de résister à l’appel de Star Trek. Pour l’instant, je résiste, mais pour combien de temps?

  5. zaza

    Avec mon téléphone, pas besoin de dire OK Google ! il se met parfois à enregistrer les conversations, sans que j’y touche ni que je lui parle. flippant.
    Je désactiverais bien cette fonction