Temps de lecture 4 min
L’ami Gee continue à nous dessiner les frasques des GAFAM et passe un peu de temps, cette fois-ci, à expliquer les danger des appareils connectés qui « écoutent »… une énième raison d’essayer d’organiser une autre société où, peut-être, les humains s’écouteraient entre eux au lieu de se faire volontairement espionner par des boîtes noires.
Les murs ont des Google Ears
Rappelez-vous, il y a tout juste deux mois de cela, j’ironisais sur un certain gadget numérique :
Eh bien comme souvent avec les GAFAM, la réalité rejoint la caricature : le blogueur Artem Russakovskii a révélé sur AndroidPolice.com avoir remarqué un « bug » qui faisait que son Google Home enregistrait absolument tout le son qu’il captait 24 heures sur 24, 7 jours sur 7 et l’envoyait sur son compte Google…
Le truc « drôle » ici, c’est que le seul vrai « bug » que l’on peut constater, c’est l’enregistrement des fichiers dans l’espace perso de l’utilisateur.
Tout le reste, ça n’est pas un bug : c’est la fonctionnalité !
Google Home enregistre et analyse absolument TOUT ce que son microphone capte, 24 heures sur 24, 7 jours sur 7, et c’est son fonctionnement NORMAL.
C’est toute l’absurdité de la notion « d’écoute » dans ce cas-là !
Pour détecter que vous avez prononcé « OK Google » (ou, par exemple, « Alexa » dans le cas de l’équivalent d’Amazon), le Google Home doit enregistrer et analyser tout ce que son microphone capte…
Sinon, ce serait un peu comme si un médecin vous disait cela :
La seule différence, dans le cas de Google Home, c’est que si son analyse révèle que la phrase ne commence pas par « OK Google », les éventuelles commandes données après ne seront pas traitées comme des commandes à exécuter.
Mais il les enregistre tout autant que celles qu’il exécute !
Dans le même genre d’idée, Google (oui, encore) a dévoilé un appareil photo, Clips, dont le principe est de détecter lui-même le meilleur moment pour prendre une photo.
En gros, il reconnaît les visages de votre famille, estime à quel moment vous êtes les plus photogéniques et prend alors une photo tout seul comme un grand.
Eh bien que les choses soient claires : pour pouvoir faire son analyse (dont je ne doute pas qu’elle doit être une prouesse technique remarquable), le Google Clips vous filme. Oui.
Il.
Vous.
Filme.
En.
Permanence.
Pour finir, rappelons que cette problématique du « on doit écouter pour savoir s’il fallait écouter », on la retrouve jusque dans les fameuses lois liberticides qu’on se mange en boucle depuis quelques années (Loi Renseignement, Loi Terrorisme, Loi Machintruc, etc.).
J’en avais déjà causé dans mon article Panique algorithmique :
En effet, quand bien même votre algorithme de détection des terroristes serait efficace, cela signifie quoi qu’il arrive une perte de vie privée radicale pour 100 % de la population.
De la même manière que même si moins d’un millième des mots que vous prononcez sont « OK Google », Google Home enregistrera quand même tous les autres.
Et que même si vous n’êtes photogénique que quelques secondes dans la journée…
… Google Clips vous filmera en permanence.
Eh oui, le pire, c’est que les algos de détection des terroristes fonctionnent très mal !
D’après une étude sur de tels algos (menée par Timme Bisgaard Munk, chercheur de l’Université de Copenhague), il y a en moyenne 100 000 faux positifs – innocents identifiés comme terroristes – pour 1 terroriste réel détecté. Quant aux faux négatifs – terroristes réels non-détectés –, eh bien… il suffit de suivre l’actu.
C’est donc la double peine, car non seulement les dominants sacrifient nos vies privées, mais en plus l’hypothétique gain (détection des terroristes avant le passage à l’acte) est non-existant !
Ayant atteint le point binouze (qui indique l’heure de l’apéro), j’arrête donc là cette petite revue des oreilles, de plus en plus nombreuses, qui parsèment nos murs.
En conclusion : il y a un mouvement général de surveillance massive de la population qui se met en place à la fois par des acteurs privés et étatiques. La première étape pour lutter contre ça, c’est de ne pas participer à notre propre surveillance…
Sources :
- Quand un Google Home Mini se transforme en espion (01net)
- Vous photographier automatiquement : voilà Clips, l’appareil photo intelligent de Google (Numerama)
- 100,000 false positives for every real terrorist : Why anti-terror algorithms don’t work [EN] (University of Illinois at Chicago)
Lire aussi :
Crédit : Simon Gee Giraudot (Creative Commons By-Sa)
Antoine D.
Génial, comme souvent. Bientôt une version papier à diffuser sous le manteau ? 😀
Nandicre
Je vous trouve un peu de mauvaise foi concernant la première partie. En effet, il est clairement précisé que le google home reconnait le ‘ok google’ seulement en local, et qu’il ne communique avec internet qu’après la détection. La détection se fait donc en offline. Je suis d’accord qu’il ne faut pas avoir une confiance aveugle en google, mais jusqu’à preuve du contraire, ce que vous avancez ici sur le google home ne sont que des suppositions.
maverick
Précisé par qui ?
Et quand bien même, ça n’invalide pas le fait que le truc-là il écoute en permanence pour pouvoir se mettre en route aux mots « ok Google ».
JeanFaire
Mais comme cette écoute reste locale tant qu’il n’y a pas détection de « ok google », le son « enregistré » ne reste dans le système de traitement de l’appareil qu’un court instant, c’est un peu comme un miroir : ce n’est pas parceque notre image se reflète dessus qu’il va se passer autre chose.
Un autre point à noter : ces appareils ont un bouton qui désactive complètement l’écoute.
Bien qu’il faille se méfier de ces objets connectés pour diverses raisons, ne leur inventons pas des défauts alors qu’ils en ont déjà des tas.
thorfenn
l intéressant serait d analyser le trafic réseau quand le bouton est sur off pour l écoute et que vous parlez ou dites « OK google ».
flo
déjà testé et rien n’apparait.
Père Des Peuples
Référence nécéssaire :p
http://firstmonday.org/ojs/index.php/fm/article/view/7126
100,000 false positives for every real terrorist: Why anti-terror algorithms don’t work
Timme Bisgaard Munk
libre fan
Bonjour,
Quelques liens de rappel pour poursuivre la réflexion fournie par Gee, pour les gens qui trouvent que Google n’est pas «si pire que ça»:
– https://framablog.org/2017/10/25/comment-les-entreprises-surveillent-notre-quotidien/
– https://blog.mozilla.org/blog/2017/11/07/dont-buy-gifts-that-snoop-introducing-mozillas-holiday-buyers-guide/
et suivez le lien indiqué dans le billet de blog de Mozilla: https://advocacy.mozilla.org/en-US/privacynotincluded
Ainsi, vous êtes deux fois avertis, par Gee qui vous fait sourire et par Mozilla qui vous dit tout sans rire.
Euh, les GAFAMs ne font pas de «frasques» (introduction de votre billet), ils accumulent les délits, (les données, l’évasion fiscale, les Paradise Papers, c’est aussi les GAFAMs). Pour les donnée personnelles, par exemple:
https://www.april.org/donnees-personnelles-protection-de-nos-libertes-individuelles
> Même à l’ère numérique qui est la nôtre, la protection des libertés individuelles reste l’axe central de notre législation et les règles européennes qui entreront en vigueur au mois de mai prochain viendront encore le confirmer
Mais pour moi la question n’est pas de savoir à quel moment Google vous espionne (enfin «nous» espionne car si je vais dans une maison où il y a un Ghome, je suis espionnée à mon tour) mais plutôt:
– Pourquoi acheter de tels gadgets? Qu’est-ce qui pousse les gens à consommer des trucs pareils?
– Pourquoi un ordinateur traditionnel avec un GNU/Linux n’est pas l’outil idéal à tout faire avec de l’informatique, de l’internet et du web?
Geraldine
La problème, c’est que les ordinateurs à commandes vocales, c’est ce qu’on nous montre dans toutes les sf. Difficile de résister à l’appel de Star Trek. Pour l’instant, je résiste, mais pour combien de temps?
Pouhiou
La fondation Mozilla travaille actuellement sur des outils de reconnaissance vocale… https://www.nextinpact.com/brief/reconnaissance-vocale—mozilla-veut-aider–avec-modele-et-donnees-1569.htm
Le problème n’est pas tant la technologie, en fait, mais qui la propose, qui héberge les données et dans quel but ;).
zaza
Avec mon téléphone, pas besoin de dire OK Google ! il se met parfois à enregistrer les conversations, sans que j’y touche ni que je lui parle. flippant.
Je désactiverais bien cette fonction