Le numérique nous change au-delà de nos usages

Classé dans : Libertés Numériques | 12
image_pdfimage_print

Nous avons tous conscience, pour peu que nous prenions un peu de recul, que nos usages et nos mœurs ont considérablement changé dans les 20 dernières années. Nous en attribuons la cause à l’omniprésence des technologies numériques que nous avons massivement adoptées, du moins dans notre partie du monde.

Cependant ce n’est pas seulement notre manière de communiquer, vivre, travailler, aimer… qui ont complètement changé, c’est aussi notre manière d’être nous-mêmes, ou plutôt : la façon dont notre être apparaît aux yeux du monde numérique désormais.

Lorsque ce monde numérique est quasi entièrement sous la coupe des entreprises de la Silicon Valley et sous la surveillance des gouvernements, nous sommes asservis à une nouvelle féodalité, et plus vraiment dans une démocratie.

C’est ce qu’expose Aral Balkan dans le billet qui suit.

Aral Balkan est le fondateur et principal créateur de Ind.ie, il a déménagé son entreprise aux Pays-Bas l’an dernier lorsqu’il a vu que le nouveau gouvernement britannique voulait accentuer la surveillance de masse et imposer des backdoors, ces portes dérobées dans le code qui permettent les intrusions dans les données confidentielles.
soLong

La nature du « soi » à l’ère numérique

aral-432Article original sur le blog d’Aral Balkan : https://ar.al/notes/the-nature-of-the-self-in-the-digital-age/

Traduction Framalang : Piup, roptat, line, goofy, Penguin 

3 Mars 2016 – Cet article repose sur une conférence que j’ai donnée au Bucerius Lab à Hambourg le mois dernier et qui s’intitulait : « Émancipation numérique : la propriété de soi à l’ère numérique ».

La nature de la technologie moderne

Votre téléviseur intelligent, la montre à votre poignet, la nouvelle poupée Barbie de votre enfant et la voiture que vous conduisez (c’est plutôt elle qui vous conduit, non ?) ont une chose en commun : tous ces objets fonctionnent en collectant des données — vos informations personnelles — sur vous, vos amis, et votre famille.

Bien que cela puisse sembler effrayant en soi, le vrai problème n’est pas là.

La technologie moderne fonctionne en moissonnant une profusion de données (souvent personnelles). Il s’agit simplement d’une réalité de la vie. On ne la changera pas.

La question cruciale est la suivante : qui possède et contrôle les données vous concernant et les mécanismes par lesquels elles sont recueillies, analysées, et transformées en services utiles ?

Si la réponse à cette question était « c’est moi » alors notre problème serait résolu. Dans ce monde idéal, grâce aux capacités de la technologie, les individus disposant de davantage d’informations sur eux-mêmes et sur le monde qui les entoure pourraient traduire ces informations en superpouvoirs.

Malheureusement, nous ne vivons pas dans ce monde.

zuckerberg
Le public, branché sur des casques de réalité virtuelle, ne voit pas passer Mark Zuckerberg. L’avenir que nous devons éviter.

Aujourd’hui, la réponse à notre question, c’est que les sociétés multinationales comme Google et Facebook possèdent et contrôlent à la fois vos données personnelles, les moyens de les collecter, de les analyser et d’en faire de l’argent.

Aujourd’hui, ce sont les entreprises, et non les individus, qui  possèdent et contrôlent nos données et la technologie. Nous vivons dans une entreprenocratie, pas une démocratie.

Nous voici dans un état socio-techno-économique que Shoshana Zuboff de la Harvard Business School appelle le capitalisme de surveillance (en).

Pour comprendre pourquoi le capitalisme de surveillance est si problématique, nous devons d’abord comprendre deux concepts fondamentaux : la nature du « soi » et la nature des données à l’ère numérique.

La nature du « soi » à l’ère numérique

Selon Steve Krug, l’auteur de Do not Make Me Think (en), une technologie bien conçue devrait jouer le rôle d’un majordome lors de l’interaction avec un être humain. Disons que je veux me souvenir de quelque chose pour plus tard et que j’ai mon smartphone avec moi. La conversation entre nous pourrait donner quelque chose comme ceci :

Moi : majordome, rappelez-moi ça plus tard.

Mon smartphone : bien entendu, monsieur, je viens de le mettre pour vous dans l’application Notes .

Moi : merci

En réalité, avec des technologies comme Siri, vous pouvez avoir dès aujourd’hui exactement ce type de conversation.

Telle est la façon courante de voir notre relation à la technologie : comme une conversation entre deux acteurs. Dans notre cas, entre moi et mon téléphone. Si c’est ainsi que nous voyons la technologie, la surveillance est la capture des signaux entre les deux acteurs. Ce n’est en rien différent de ce que faisait la Stasi, quand elle installait des mouchards dans votre maison et écoutait vos conversations. Ce n’est pas très sympathique, mais la surveillance est ainsi, traditionnellement.

Mais que se passerait-il si telle n’était pas notre relation à la technologie ?

votre smartphone est-il un simple majordome ou bien un peu plus que ça ?
Votre smartphone est-il un simple majordome ou bien un peu plus que ça ?

Lorsque je note une idée sur mon smartphone pour m’en souvenir plus tard, est-ce qu’en réalité je ne donne pas une extension à mon esprit, et par là-même une extension à mon « moi » utilisant le smartphone ?

Aujourd’hui, nous sommes des cyborgs. Cela ne veut pas dire que nous nous greffons des implants technologiques, mais que nous étendons nos capacités biologiques avec la technologie. Nous sommes des êtres éclatés, avec des parties de nous-mêmes dispersées dans nos objets quotidiens et augmentées par eux.

Peut-être est-il temps de repousser les frontières du soi pour inclure les technologies au travers desquelles nous nous étendons nous-mêmes.

Le smartphone étend les frontières du « soi »

L’extension des frontières du « soi »

Si nous commençons à percevoir ainsi nos objets quotidiens, pas en tant qu’acteurs séparés, mais comme des extensions de nous-mêmes, alors plusieurs choses deviennent très claires.

Tout d’abord, la surveillance n’est plus la capture de signaux mais une violation du soi. Considérons le litige actuel entre Apple et le FBI, qui veut créer un précédent pour pouvoir accéder au téléphone de n’importe qui. J’ai entendu dire que la requête se rapprochait d’une requête légale pour accéder au contenu d’un coffre-fort (ici lien vers un article en anglais qui explique les véritables enjeux du conflit Apple contre FBI). Rien ne pourrait être aussi éloigné de la vérité. Mon iPhone n’est pas plus un coffre-fort que mon cerveau n’en est un. C’est une partie de moi. Dans ce cas, si on veut rentrer dans mon iPhone, ce qu’on veut vraiment c’est violer ma personne. C’est une attaque contre le soi. Et nous avons déjà un riche corpus de lois et de règlements qui sanctuarisent le soi et les droits des êtres humains.

surveillance-as-assault

La surveillance du « soi » est une agression, une violation du soi.

Ensuite, il apparaît clairement que nous n’avons pas besoin d’une nouvelle Déclaration des Droits relative à Internet ou d’une « Magna Carta » du Web ou quoi que ce soit d’aussi absurde : tout ce dont nous avons besoin, c’est d’appliquer la Déclaration Universelle des Droits de l’Homme (les droits de l’homme que nous connaissons) au monde numérique. Il n’existe pas un monde numérique et un monde réel. Il n’y a pas des droits de l’homme et des « droits numériques ». Nous parlons, en fait, d’une même et unique chose.

Enfin, nous commençons à comprendre la nature véritable de ceux qui fouinent dans nos données personnelles et nous pouvons essayer de réglementer efficacement leurs pratiques néfastes.

Mais pour commencer, il nous faut comprendre ce que sont les données.

La nature des données

On entend souvent dire que les données sont des placements profitables. Selon le magazine Wired , elles seraient l’équivalent moderne du pétrole. C’est seulement parce que nous ne comprenons pas la vraie nature des données que nous ne sommes pas choqués par ce genre de comparaison.
Prenons un exemple :

Supposons que j’aie une petite figurine. Si je dispose d’assez de données sur elle, je peux avec une imprimante 3D en créer une copie conforme à l’original. Imaginez maintenant ce que je peux faire si je dispose d’assez de données sur vous-même.

Les données sur un objet, si vous en avez une quantité suffisante, deviennent cet objet.

Les données sur vous, c’est vous.

Les données personnelles ne sont pas le nouveau pétrole. Les données personnelles, ce sont les gens eux-mêmes.

Maintenant, il ne s’agit pas de dire que Google, Facebook et les innombrables start-ups de la Silicon Valley veulent faire votre copie en 3D. Non, bien sûr que non. Ces entreprises veulent simplement vous profiler. Pour vous imiter. Pour en faire du profit.

Le modèle économique du capitalisme de surveillance, celui de Google, Facebook et des innombrables start-ups de la Silicon Valley, c’est de monétiser les êtres humains. Nous savons tous que Facebook et Google font tourner d’énormes « fermes de serveurs ». Vous êtes-vous jamais demandé ce qu’ils peuvent bien cultiver dans ces fermes ? posez-vous la question et vous devriez arriver rapidement à la conclusion que c’est nous qui sommes « cultivés ». Que sont Google et Facebook si ce n’est des fermes industrielles pour cultiver des êtres humains ?

Une ferme de serveurs

Une ferme de serveurs

Nous les appelons des fermes de serveurs… Vous êtes-vous jamais demandé ce qu’ils peuvent bien cultiver dans ces fermes ?

Si cela vous paraît familier, c’est normal : voilà bien longtemps que nous utilisons diverses variantes de ce modèle économique.

Nous appelons ce business très rentable et pourtant ignoble qui consiste à vendre le corps des humains : « l’esclavage ». Le modèle économique des plus grosses entreprises technologiques consiste à tout monétiser de vous à l’exception de votre corps. Comment appellerons-nous cela ?

selling-people

Nous avons tout un passif historique honteux de la commercialisation des individus. Aujourd’hui, le modèle économique des industries technologiques principales consiste à vendre tout ce qui vous concerne, tout ce qui fait que vous êtes vous, à l’exception de votre corps. Comment devrions-nous appeler cela ?

Ce n’est pas un problème technologique…

La Silicon Valley est la version moderne du système colonial d’exploitation bâti par la Compagnie des Indes Orientales, mais elle n’est ni assez vulgaire, ni assez stupide pour entraver les individus avec des chaînes en fer. Elle ne veut pas être propriétaire de votre corps, elle se contente d’être propriétaire de votre avatar. Et maintenant, comme nous l’avons déjà vu, plus ces entreprises ont de données sur vous, plus votre avatar est ressemblant, plus elles sont proches d’être votre propriétaire.

Votre avatar n’est pas figé une fois pour toute, c’est quelque chose de vivant, qui respire (grâce à des algorithmes, pas avec des cellules biologiques). Il vit dans les labos de Google, Facebook et il est soumis constamment à des centaines voire des milliers de tests pour être analysé afin de mieux vous comprendre. Certaines de ces expériences, si elles étaient réalisées sur votre personne physique, conduiraient les dirigeants de ces compagnies en prison pour crime contre l’humanité.

Toutes ces informations personnelles et toute la richesse qui en découle appartiennent à des entreprises et par extension (comme Edward Snowden nous l’a montré) sont partagées avec les gouvernements.

Cela crée un très grand déséquilibre entre le pouvoir des individus et celui des entreprises et entre le pouvoir des individus et celui de leur gouvernement.

Si je me promène avec une caméra chez Google Inc., je serai en arrêté. En revanche, Google enregistre ce qui se passe dans un nombre incalculable de foyers grâce aux caméras Nest [NDT : webcam filmant en continu]. Dans le monde du capitalisme de surveillance, ceux qui ont droit au respect de leur vie privée (les individus) en sont… privés, alors que ceux qui devraient être transparents (les entreprises, les gouvernements) en bénéficient.

Quand Mark Zuckerberg déclare que « la vie privée est morte », il parle uniquement de notre vie privée, pas de la sienne. Quand il achète une maison, il achète également les deux maisons mitoyennes. Sa vie privée, celle de Facebook Inc. et la confidentialité de votre gouvernement sont toujours protégées, et même bien protégées.

Si cela ne ressemble pas à de la démocratie, c’est parce que ce n’en est pas. Le capitalisme de surveillance n’est pas compatible avec la démocratie.

Le système dans lequel nous vivons aujourd’hui pourrait être appelé : « entreprenocratie », le régime féodal des entreprises.

Nous vivons dans une époque néo-coloniale régie par des monopoles multinationaux.

Un impérialisme numérique, si vous préférez.

La montée de l’ « entreprenocratie » est la conséquence de décennies de néo-libéralisme incontrôlé et d’idéologie californienne. Elle a conduit le système à un niveau jamais atteint d’inégalités, pour preuve : 62 personnes possèdent autant de richesses que la moitié du monde la plus pauvre (soit 3,5 milliards de personnes). Elle apporte aussi la destruction à grande échelle de notre environnement à travers l’épuisement des ressources et le changement climatique. Pour le dire crûment, c’est une menace mortelle pour notre espèce.

Ce n’est pas un problème technologique.

C’est un problème du capitalisme.

Et la seule réponse possible est une démocratie meilleure et plus forte.

Des technologies alternatives, décentralisées et à divulgation nulle peuvent jouer un rôle important en nous aidant à obtenir de plus grandes libertés publiques et une meilleure démocratie. Mais la technologie n’est pas un remède miracle. Sans changement au niveau de la régulation ou des statuts, ces technologies seront jugées illégales et ceux d’entre nous qui les auront mises en œuvre deviendront les nouveaux Snowden et Manning.

Notre défi est immense : les alternatives que nous créons doivent être pratiques et accessibles. Elles doivent être conçues de manière éthique et être non-coloniales par construction. Ce n’est pas une tâche simple.  Mais ce n’est pas non plus irréalisable. Je le sais car en ce moment je code moi-même ce type de solution, et d’autres aussi.

ethical-design

La pyramide de la création éthique : les produits doivent respecter les droits de l’homme, être utiles, fonctionnels et fiables, tenir compte de l’expérience utilisateur.

Les solutions alternatives doivent être conçues de façon éthique.

La bataille pour nos libertés publiques et pour la démocratie doit être menée avec nos nouveaux objets quotidiens. Selon le résultat nous verrons si nous resterons des serfs soumis à une féodalité numérique ou si nous pouvons être des citoyens libres, renforcés par une technologie qui nous appartiendra et que nous contrôlerons, des individus qui pourront explorer le potentiel de l’espèce humaine jusqu’à l’infini.

Je souhaite travailler à ces lendemains lointains.

Et j’espère que vous aussi.

Copyright © 2003–2016 Aral Balkan. Sauf mention contraire, tous les contenus de mon blog sont sous licence Creative Commons Attribution-ShareAlike 4.0 International et tout code publié est sous licence MIT. Photo d’Aral par Christina von Poser.

Goofy

je lis des livres et mange des nouilles.

12 Responses

  1. Très bon article.
    J’aurais aimé l’écrire (mais je ne publie rien), il ressemble à quelques discussions avec des amis (où je ne convain pas grand monde d’ailleurs). Métadonnées… Et c’est nous la marchandise.

  2. En tant que technophile, je suis pour un revirement politique et qu’on arrive à une technocratie.
    Les analogies sont assez étrange… Car si on continue dans la logique, décrypter un téléphone chiffré reviendrait au même qu’à pratiquer l’autopsie d’un cadavre. Ouvrir un corps est-ce une violation du soi ?
    Pour ce qui est de la réalité virtuelle avec le Zuckerberg qui arrive et que personne ne notifie… « on doit éviter ça ».
    Wow… Il a fallu attendre la réalité virtuelle pour s’apercevoir que les gens pouvaient être perché dans un autre monde ?

    Il ne s’agit pas d’esclavage, mais d’un échange. Des alternatives sont possibles et des CGU sont écrites. En acceptant l’utilisation de certains devices ou software, on consent à donner ses données.

    • Morpheus1885

      On consent à fournir ses données pour ceux qui comprennent les enjeux. Pour la plupart des utilisateurs, c’est loin d’être le cas. D’où l’importance d’article de ce genre pour sensibiliser le grand public. A diffuser

      • Voir même on ne consent pas du tout mais les données sont collectées par des voies détournées : tracking en tout genre, boutons « J’aime » embarqués sur les sites qu’on visite, cdn, mails qu’on envoie à nos proches restés chez GAFAM, etc…

    • Un gars qui commente un commentaire

      @mmrck : Je ne comprends pas comment, en poussant la logique, tu arrives à cette histoire de nécropsie (qui pose bien moins de problèmes qu’une vivisection).
      Concernant les alternatives existantes, elles ne sont pas forcément à la portée de tous (je ne parle pas que de l’aspect financier) et des fois, il n’existe tout simplement pas d’alternative.
      À propos des CGU, l’acceptation en masse de clauses abusives (par erreur ou méconnaissance) ne justifie en rien la légitimité de ces conditions. De plus, des écoles et organismes forcent à l’utilisation de Windows ou OSX, inscrivent les écoliers/étudiants/stagiaires à des services gratuits (Free bas débit ou compte Google) avec les noms et adresses réelles et forcent à l’utilisation également (on peut quand même changer de passphrase, mais c’est tout). Mais tu as raison, on a le choix de dire non à la formation et au diplôme qui permet de décrocher un emploi sans piston, on peut très bien vivre sans le confort d’un SMIC (les ponts, la cueillette, etc.).

  3. Même si j’entend parfaitement vos arguments, il y a un point qui est trop souvent éludé dans ces raisonnements : mes équipements électroniques et mon activité numérique ne me désignent pas unitairement et globalement. Je peux avoir plusieurs smartphones, plusieurs comptes sur un même réseau social, etc. C’est une gymnastique intellectuelle triviale et les dealers ne s’en privent pas.

    De plus je peux instantannément me libérer de cette emprise, en laissant mon smartphone sur un banc.
    Ca deviendrait problématique si la loi m’obligeait à pointer toutes les semaines chez Google avec mon smartphone pour contrôler en permanence mon identité numérique.

    Ce n’est pas de l’esclavagisme, c’est de la soumission volontaire. J’ai le choix.

    Les GAFA dépensent beaucoup d’énergie pour potentiellement ne manipuler que du mensonge.
    Je ne SUIS pas mon avatar sur les réseaux sociaux.

    • zarkofiuoul

      Effectivement, comme tu le dis, on peut laisser son Smart-phone sur un banc.
      en ce qui me concerne: pas de smart phone, uniquement Pc et Linux, et encore via de la reinstall régulière ne serait-ce que
      Et ne me parlez pas de Gmail ou Facebook & Tweeter : RAF !
      Seul microsoft arrive à s’infiltrer chez moi via quelques TCG en ligne, et encore avec des pseudo diversifiés …
      (Mais il va faloir que je me decide à passer sous Wine …)
      Bref je ne me considère pas comme un « Has been », je serait même plutôt un poil Geek (Jeux videos ….),donc je continue comme ça ….

  4. Oui c’est vrai on peut avoir plusieurs smartphones, plusieurs ordinateurs et plusieurs comptes Facebook mais chaque matériel aura à un moment ou à un autre des connexions Facebook ou gmail… communes et là le lien peut être fait. C’est d’ailleurs le projet d’adobe en ce moment : http://www.journaldunet.com/solutions/cloud-computing/1175547-la-suite-marketing-cloud-d-adobe-a-une-nouvelle-astuce-pour-le-tracking-cross-device/

    Ensuite, si on est tout de même son avatar car aujourd’hui tout passe par internet même vos analyses médicales et demain lorsque l’on souscrira à une mutuelle celle ci contre rémunération interrogera les GAFA et saura si vous avez des maladies graves ou pas, de là le prix de la mutuelle s’en fera ressentir voir même on refusera de vous assurer…

    Malheureusement c’est bien ce genre de choses qui nous attendent, alors oui il faut chercher des alternatives !

    Merci donc pour cet article….

    • Un gars qui commente un autre commentaire

      Bizarre de voir un lecteur convaincu du Framablog utiliser le terme GAFAM en oubliant Microsoft… BF TV a vraiment un impact difficile à corriger sur les « Buzzwords ».

      😉

  5. Merci beaucoup pour cette traduction ! Difficile de ne pas être globalement d’accord avec ce qui est dit ici. Je mettrai quelques nuances quand vient le moment de faire l’analogie avec l’esclavage, c’est à mon sens une confusion un peu limite. Le modèle des GAFA « le produit, c’est vous » est loin de vous faire suer dans des champs de cannes. Quant à la charte d’Internet qui serait celle des Droits de l’Homme, j’ai comme un doute : ça me paraît assez utopiste de prôner les Droits de l’Homme sur Internet (franchement, en Occident, qui est contre sur le principe ?). Ce qu’il faut, c’est faire jurisprudence : attaquer de front ces politiques de la données captées et privatisées. Enfin, je pense que c’est ce qui est décrit en fin de billet.

    Quant aux parallèle avec la répartition des richesses, c’est marrant de voir à quel point les débats autour du numérique sont un excellent prisme pour faire ressortir des questions politiques. N’ayons pas peur des mots : ce billet, comme les écrits de nombreux auteurs sur le sujet (Stiegler, Morozov, Cardon, et j’en passe) sont avant tout une manière de réinventer la gauche face à l’ultra-capitalisme. Assumons-le.

  6. Je ne suis pas d’accord sur son postulat que si nous possédions nos propres donnés il n’y aurait plus de problème. La question de l’usage des données personnelles par les GAFA & co est fondamentale, mais encore plus fondamentale il y a la question de notre rapport même à ces technologies génératrices de données, en ce qu’elles change notre rapport au monde et à nos corps. Appréhender le monde et nous même par le prisme de ces données n’est non seulement pas neutre (la technologie n’est jamais neutre), mais en plus cela ne nous empuissante pas, cela nous donne seulement du « pouvoir » (chose bien différente de la puissance au sens de Nietzsche ou Spinoza). Sur cette critique de la technologie (qui n’est pas une technophobie), je recommande chaudement l’intervention d’Alain Damasio à TedXParis en 2014 (et au passage de lire ses bouquins) : https://www.youtube.com/watch?v=cR0T5-a6YTc

  7. Je ne suis pas d accord avec le postulat outils = extension de soi. Tout le problème est la. C est le marketing des A.. M$ GG & co qui essaie de nous en convaincre, alors que nous devons juste garder une distance mesurée par rapport a tous les « bienfait«  des outils qu’ils nous « donnent« .
    donc juste un petit problème d éducation. Le problème commence par le marketing de soi.
    Soyons juste humain. Refusons le dictat techno. Un téléphone est un fil a la patte quelques soient les lois qui pourraient être mis en place. Refusons les cgu que nous pensons abusive.
    Une société du tout gratuit est une belle utopie.
    N’oubliez pas plus que jamais BigBrother is watching

Laissez un commentaire