Détruire le capitalisme de surveillance (1)

Temps de lecture 14 min

image_pdfimage_print

Le capitalisme de surveillance tel qu’analysé ici par Cory Doctorow est une cible agile, mouvante et surtout omnipotente et omniprésente. Comment maîtriser le monstre, à défaut de le détruire ?

La longue analyse de Doctorow, publiée sur OneZero, comprend plusieurs chapitres que Framalang vous traduira par étapes. Voici dans un premier temps un examen des luttes des militants du numérique et les limites de leurs actions.

Un point important : C. Doctorow nous a autorisés à traduire et publier dans les termes de la même licence : CC-NC-ND (pas d’utilisation commerciale et pas de travaux dérivés). Par principe nous sommes opposés à ces restrictions de libertés, pour les éditions Framabook où nous publions seulement du copyleft (voir les explications détaillées dans cette page qui précise la politique éditoriale de Framabook). Nous faisons ici une exception en limitant la publication à ce blog, avec l’accord explicite de l’auteur naturellement.

Billet original sur le Medium de OneZero : How To Destroy Surveillance Capitalism

Traduction Framalang : Alain (Mille), Barbidule, draenog, Fabrice, Goofy, Juliette, Lumibd, Laure, LaureR, Mannik,

Comment détruire le capitalisme de surveillance (1)

Cory Doctorow CC-BY-SA Jonathan Worth

PAR CORY DOCTOROW

Note de l’éditeur
Le capitalisme de surveillance est partout. Mais ce n’est pas le résultat d’une malencontreuse dérive ou d’un abus de pouvoir des entreprises, c’est le système qui fonctionne comme prévu. Tel est le propos du nouvel essai de Cory Doctorow, que nous sommes ravis de publier intégralement ici sur OneZero. Voici comment détruire le capitalisme de surveillance.

La Toile aux mille mensonges

Le plus surprenant dans la renaissance au 21e siècle des partisans de la Terre plate c’est l’étendue des preuves contre leur croyance. On peut comprendre comment, il y a des siècles, des gens qui n’avaient jamais pu observer la Terre d’un point suffisamment élevé pour voir la courbure de la Terre aient pu en arriver à la croyance « pleine de bon sens » que la Terre, qui semblait plate, était effectivement plate.

Mais aujourd’hui, alors que les écoles primaires suspendent régulièrement des caméras GoPro à des ballons-sondes et les envoient assez haut pour photographier la courbure de la Terre – sans parler de la même courbure devenue banale à voir depuis le hublot d’un avion – il faut avoir une volonté de fer pour maintenir la croyance que le monde est plat.

Il en va de même pour le nationalisme blanc et l’eugénisme : à une époque où l’on peut devenir une simple donnée de la génomique computationnelle en prélevant un échantillon d’ADN dans sa joue et en l’envoyant à une entreprise de séquençage génétique avec une modeste somme d’argent, la « science des races » n’a jamais été aussi facile à réfuter.

Nous vivons un âge d’or où les faits sont à la fois aisément disponibles et faciles à nier. Des conceptions affreuses qui étaient demeurées à la marge pendant des décennies, voire des siècles, se sont répandues du jour au lendemain, semble-t-il.

Lorsqu’une idée obscure gagne du terrain, il n’y a que deux choses qui puissent expliquer son ascension : soit la personne qui exprime cette idée a bien amélioré son argumentation, soit la proposition est devenue plus difficile à nier face à des preuves de plus en plus nombreuses. En d’autres termes, si nous voulons que les gens prennent le changement climatique au sérieux, nous pouvons demander à un tas de Greta Thunberg de présenter des arguments éloquents et passionnés depuis des podiums, gagnant ainsi nos cœurs et nos esprits, ou bien nous pouvons attendre que les inondations, les incendies, le soleil brûlant et les pandémies fassent valoir leurs arguments. En pratique, nous devrons probablement faire un peu des deux : plus nous bouillirons et brûlerons, plus nous serons inondés et périrons, plus il sera facile aux Greta Thunberg du monde entier de nous convaincre.

Les arguments en faveur de croyances ridicules en des conspirations odieuses, comme ceux des partisans anti-vaccination, des climato-sceptiques, des adeptes de la Terre plate ou de l’eugénisme ne sont pas meilleurs que ceux de la génération précédente. En fait, ils sont pires parce qu’ils sont présentés à des personnes qui ont au moins une connaissance basique des faits qui les réfutent.

Les anti-vaccins existent depuis les premiers vaccins, mais les premiers anti-vaccins s’adressaient à des personnes moins bien équipées pour comprendre les principes de base de la microbiologie et qui, de plus, n’avaient pas été témoins de l’éradication de maladies meurtrières comme la polio, la variole ou la rougeole. Les anti-vaccins d’aujourd’hui ne sont pas plus éloquents que leurs prédécesseurs, et ils ont un travail bien plus difficile.

Ces théoriciens conspirationnistes farfelus peuvent-ils alors vraiment réussir grâce à des arguments supérieurs ?

Certains le pensent. Aujourd’hui, il est largement admis que l’apprentissage automatique et la surveillance commerciale peuvent transformer un théoricien du complot, même le plus maladroit, en un Svengali capable de déformer vos perceptions et de gagner votre confiance, ce grâce au repérage de personnes vulnérables, à qui il présentera des arguments qu’une I.A. aura affinés afin de contourner leurs facultés rationnelles, transformant ainsi ces gens ordinaires en platistes, en anti-vaccins ou même en nazis.
Lorsque la RAND Corporation accuse Facebook de « radicalisation » et lorsque l’algorithme de Facebook est tenu pour responsable de la diffusion de fausses informations sur les coronavirus, le message implicite est que l’apprentissage automatique et la surveillance provoquent des changements dans notre conception commune de ce qui est vrai.

Après tout, dans un monde où les théories de conspiration tentaculaires et incohérentes comme le Pizzagate et son successeur, QAnon, ont de nombreux adeptes, il doit bien se passer quelque chose.

Mais y a-t-il une autre explication possible ? Et si c’étaient les circonstances matérielles, et non les arguments, qui faisaient la différence pour ces lanceurs de théories complotistes ? Et si le traumatisme de vivre au milieu de véritables complots tout autour de nous – des complots entre des gens riches, leurs lobbyistes et les législateurs pour enterrer des faits gênants et des preuves de méfaits (ces complots sont communément appelés « corruption ») – rendait les gens vulnérables aux théories du complot ?

Si c’est ce traumatisme et non la contagion – les conditions matérielles et non l’idéologie – qui fait la différence aujourd’hui et qui permet une montée d’une désinformation détestable face à des faits facilement observables, cela ne signifie pas que nos réseaux informatiques soient irréprochables. Ils continuent à faire le gros du travail : repérer les personnes vulnérables et les guider à travers une série d’idées et de communautés toujours plus extrémistes.

Le conspirationnisme qui fait rage a provoqué de réels dégâts et représente un réel danger pour notre planète et les espèces vivantes, des épidémies déclenchées par le déni de vaccin aux génocides déclenchés par des conspirations racistes en passant par l’effondrement de la planète causé par l’inaction climatique inspirée par le déni. Notre monde est en feu et nous devons donc l’éteindre, trouver comment aider les gens à voir la vérité du monde, au-delà des conspirations qui les ont trompés.

Mais lutter contre les incendies est une stratégie défensive. Nous devons prévenir les incendies. Nous devons nous attaquer aux conditions matérielles traumatisantes qui rendent les gens vulnérables à la contagion conspirationniste. Ici aussi, la technologie a un rôle à jouer.

Les propositions ne manquent pas pour y remédier. Du règlement de l’UE sur les contenus terroristes, qui exige des plateformes qu’elles contrôlent et suppriment les contenus « extrémistes », aux propositions américaines visant à forcer les entreprises technologiques à espionner leurs utilisateurs et à les tenir pour responsables des discours fallacieux de leurs utilisateurs, il existe beaucoup d’énergie pour forcer les entreprises technologiques à résoudre les problèmes qu’elles ont créés.

Il manque cependant une pièce essentielle au débat. Toutes ces solutions partent du principe que les entreprises de technologie détiennent la clé du problème, que leur domination sur l’Internet est un fait permanent. Les propositions visant à remplacer les géants de la tech par un Internet plus diversifié et pluraliste sont introuvables. Pire encore : les « solutions » proposées aujourd’hui exigent que les grandes entreprises technologiques restent grandes, car seules les très grandes peuvent se permettre de mettre en œuvre les systèmes exigés par ces lois.

Il est essentiel de savoir à quoi nous voulons que notre technologie ressemble si nous voulons nous sortir de ce pétrin. Aujourd’hui, nous sommes à un carrefour où nous essayons de déterminer si nous voulons réparer les géants de la tech qui dominent notre Internet, ou si nous voulons réparer Internet lui-même en le libérant de l’emprise de ces géants. Nous ne pouvons pas faire les deux, donc nous devons choisir.

Je veux que nous choisissions judicieusement. Dompter les géants de la tech est essentiel pour réparer Internet et, pour cela, nous avons besoin d’une action militante pour nos droits numériques.

Le militantisme des droits numériques après un quart de siècle

Le militantisme pour les droits numériques est plus que trentenaire à présent. L’Electronic Frontier Foundation a eu 30 ans cette année ; la Free Software Foundation a démarré en 1985. Pour la majeure partie de l’histoire du mouvement, la plus grande critique à son encontre était son inutilité : les vraies causes à défendre étaient celle du monde réel (repensez au scepticisme qu’a rencontré la Finlande en déclarant que l’accès au haut débit est un droit humain, en 2010) et le militantisme du monde réel ne pouvait exister qu’en usant ses semelles dans la rue (pensez au mépris de Malcolm Gladwell pour le « clictivisme »).

Mais à mesure de la présence croissante de la tech au cœur de nos vies quotidiennes, ces accusations d’inutilité ont d’abord laissé place aux accusations d’insincérité (« vous prêtez attention à la tech uniquement pour défendre les intérêts des entreprises de la tech », puis aux accusations de négligence (« pourquoi n’avez-vous pas prévu que la tech pourrait être une force aussi destructrice ? »). Mais le militantisme pour des droits numériques est là où il a toujours été : prêter attention aux êtres humains dans un monde où la tech prend inexorablement le contrôle.

La dernière version de cette critique vient sous la forme du « capitalisme de surveillance », un terme inventé par la professeure d’économie Shoshana Zuboff dans son long et influent livre de 2019, The Age of Surveillance Capitalism : The Fight for a Human Future at the New Frontier of Power (à paraître en français le 15/10/2020 sous le titre L’Âge du capitalisme de surveillance). Zuboff avance que le « capitalisme de surveillance » est une créature unique de l’industrie de la tech et qu’au contraire de toute autre pratique commerciale abusive dans l’histoire, elle est « constituée par des mécanismes d’extraction imprévisibles et souvent illisibles, de marchandisation et de contrôle qui éloignent en réalité les personnes de leur comportement propre, tout en créant de nouveaux marchés de prédiction et de modification comportementales. Le capitalisme de surveillance défie les normes démocratiques et s’écarte de manière décisive de l’évolution du capitalisme de marché au cours des siècles ». C’est une forme nouvelle et mortelle du capitalisme, un « capitalisme scélérat », et notre manque de compréhension de ses capacités et dangers sans précédents représente une menace existentielle pour l’espèce entière. Elle a raison sur la menace que représente actuellement le capitalisme pour notre espèce, et elle a raison de dire que la tech pose des défis uniques à notre espèce et notre civilisation, mais elle se trompe vraiment sur la manière dont la tech est différente et sur la façon dont elle menace notre espèce.

De plus, je pense que son diagnostic incorrect nous mènera dans une voie qui finira par renforcer les géants de la tech, au lieu de les affaiblir. Nous devons démanteler les géants et, pour cela, nous devons commencer par identifier correctement le problème.

L’exception de la tech, hier et d’aujourd’hui

Les premiers critiques du mouvement des droits numériques, dont les meilleurs représentants sont peut-être les organisations militantes comme l’Electronic Frontier Foundation, la Free Software Foundation, Public Knowledge ou d’autres, qui mettent l’accent sur la préservation et l’amélioration des droits humains dans un environnement numérique, ont diabolisé les militants en les accusant de défendre « une exception technologique ». Au tournant du nouveau millénaire, les gens sérieux ridiculisaient toute affirmation selon laquelle les réglementations sur la tech pouvaient avoir un impact sur « le monde réel ». Les craintes exprimées sur la possibilité que les réglementations de la tech aient des conséquences sur les libertés d’expression, d’association, de vie privée, sur les fouilles et saisies, les droits fondamentaux et les inégalités, tout cela était qualifié de grotesque, comme une prétention à faire passer les inquiétudes de tristes nerds se disputant à propos de Star Trek sur des forums au-dessus des luttes pour les droits civiques, des combats de Nelson Mandela et du soulèvement du Ghetto de Varsovie.

Au cours des décennies suivantes, les accusations d’« exception technologique » n’ont fait que s’affûter alors que le rôle de la tech dans la vie quotidienne s’est affirmé : maintenant que la tech s’est infiltrée dans tous les recoins de nos vies et que notre présence en ligne a été monopolisée par une poignée de géants, les défenseurs des libertés numériques sont accusés d’apporter de l’eau au moulin des géants de la tech pour couvrir les négligences (ou pire encore, leurs manœuvres malfaisantes) qui servent leurs propres intérêts.

De mon point de vue, le mouvement pour les droits numériques est resté immobile alors que le reste du monde a progressé. Depuis sa naissance, la préoccupation principale du mouvement était les utilisateurs, ainsi que les créateurs d’outils numériques qui fournissaient le code dont ils avaient besoin pour concrétiser les droits fondamentaux. Les militants pour les droits numériques ne se sentaient concernés par les entreprises que dans la mesure où elles agissaient pour faire respecter les droits des utilisateurs (ou, tout aussi souvent, quand les entreprises agissaient de manière tellement stupide qu’elles menaçaient d’adopter de nouvelles règles qui rendraient plus difficile pour les bons élèves d’aider les utilisateurs).

La critique du « capitalisme de surveillance » a remis en lumière les militants pour les droits numériques : non pas comme des alarmistes qui surestiment l’importance de leurs nouveaux joujoux, ni comme des complices des géants de la tech, mais plutôt comme des brasseurs d’air tranquilles dont le militantisme de longue date est un handicap qui les empêche de discerner de nouvelles menaces, alors qu’ils continuent de mener les combats technologiques du siècle dernier.

Mais l’exception de la tech est une lourde erreur, peu importe qui la commet.

illustration de Shira Inbar
Suivre Framalang:

Framalang est le groupe de traduction bénévole et communautaire de Framasoft. Les membres traduisent des articles du monde du Libre à l'intention du public francophone. Pour participer à cette aventure, rejoignez notre liste de diffusion !

5 Responses

  1. Popup

    Il est dommage de classer les anti-vaccins dans la catégorie « théoriciens conspirationnistes farfelus » tandis que se pose la question cruciale, non de la nécessité de la vaccination, mais du risque que font courir les firmes pharmaceutiques en démultipliant le nombre de vaccins obligatoires pour les nourrissons. Faut-il attendre une tragédie sanitaire à dizaines de milliers de morts comme le Fentanyl, pour se poser la question de la pertinence d’une vaccination industrialisée ? Quelle confiance accorder à ces firmes depuis l’accumulation des morts du Mediator, Vioxx, Diane 35…
    Avant de prétendre s’attaquer au capitalisme de surveillance, il faudrait revenir aux causes du conspirationnisme.
    « Lorsqu’une idée obscure gagne du terrain, il n’y a que deux choses qui puissent expliquer son ascension  » ajoutez-en une troisième : la paranoïa induite par des processus qui aboutissent à des médicaments qui donnent la mort, suivie d’une quasi-impunité de ceux qui les ont conçus.

    • Lunar

      Vous devriez attendre la suite de l’essai avant de tirer des conclusions. Le propos de Cory Doctorow est justement que de nombreux soucis lié aux « Big Tech » sont similaires à ceux de « Big Pharma » et qu’il y a des batailles communes à mener, notamment sur les enjeux de lobbying et d’impunité.

      • Maria-Cristina BUMBAC

        Disons que dans les prémisses initiales je constate une vision polarisée non informée sur le sujet des vaccins.
        Une théorie qui part des bases distorsionnées est fort probable qu’elle aboutisse à un résultat biaisé!

  2. froginoz

    Cory Doctorow se perd dans ses comptes à rendre… Une Greta Thunberg est un pantin inutile, une distraction, quand on sait que les organisations supranationales (non élues) sont grangrénées par Big Industry, Big Pharma et maintenant Big Media – peut-être devrait-on plutôt parler de Big Lobby puisque cela fait bien longtemps que les intérêts du commun des mortels ne sont plus pris en compte dans les sphères de pouvoir et des « sachants ». Pourquoi critiquer les anti-vaccins quand les effets secondaires explosent, quand beaucoup vivent eux-mêmes avec des effets secondaires plus ou moins graves, quand on ne sait encore pas grand chose de l’immunité innée, sur la valeur d’une immunité acquise de manière superficielle (nombreux boosters, à qui profitent-ils) et des effets des substances chimiques sur elle (explosion des allergies probablement liée), quand on sait qu’une mise sur le marché d’un vaccin prend une dizaine d’années (seuls les effets à moyen terme sont évalués, on esquive les effets à long terme) et qu’on veut nous servir un vaccin pour le covid dans les 2 ans max. Tout questionnement sur un vaccin est désormais censuré, toute interrogation sur l’OMS est interdite (voir l’excellent documentaire TrustWHO, probablement censuré sur youtube, cherchez sur les plateformes alternatives), par contre les « flat eathers » ont la belle vie… crétins utiles inoffensifs?

    Si le capitalisme de surveillance vous intéresse, ne perdez pas votre temps avec ce monsieur, allez à l’essentiel et écoutez Shoshana Zuboff avant de pouvoir lire son livre traduit :
    https://www.youtube.com/watch?v=hIXhnWUmMvw (Shoshana Zuboff sur le capitalisme de surveillance | VPRO Documentaire – sous-titres français disponibles).
    En introduction, on peut également visionner le documentaire d’Arte: Tous surveillés – 7 milliards de suspects… S’intéresser à l’actualité en Chine peut également servir, pour savoir à quelle sauce on va être mangé si on ne fait rien.

    ps: ne pas hésiter à consulter les ressources qu’il indique en revanche: Electronic Frontier Foundation, la Free Software Foundation (Richard Stallman) etc. auxquelles je rajouterais Privacytools qui se concentre sur les alternatives (moins de plaidoyer par rapport à Framasoft)

  3. libre fan

    @froginoz écrit:
    > Tout questionnement sur un vaccin est désormais censuré, toute interrogation sur l’OMS est interdite (voir l’excellent documentaire TrustWHO, probablement censuré sur youtube, cherchez sur les plateformes alternatives)

    * C’est amusant de voir que pof, les vaccins font immédiatement tilt alors que Doctorow ne parle pas que de ça. On peut tout à fait critiquer les vaccins. Oui, ça met des années à faire un bon vaccin. On peut critiquer la bigPharma sans être contre tous les médicaments, ni contre le principe de la vaccination.
    * « les plateformes alternatives » arrivent tout de suite 🙂 et ce n’est pas PeerTube dont il s’agit.

    Je dirais que Doctorow a soigneusement évité de mentionner le négationisme qui est pourtant au cœur de la « réalité alternative » et de l’alt-right en général. Pourtant, ça traîne, comme un hasard (ce n’en est pas un) au détour d’un site dont l’auteur écrit de nombreux articles, presque raisonnables, pour vous aider à rendre Firefox plus sûr.

    Si j’ai bien compris, son idée c’est la faute aux grands corrompus si des gens deviennent conspirationnistes. On peut certes devenir méfiants, mais de là à soutenir que la terre est plate et que la shoah est une invention, ce n’est pas du même ordre. Et ce serait aussi prendre les gens pour des imbéciles que d’estimer que tel Président est tellement dingue qu’il influence les citoyens de son pays. C’est plutôt qu’il favorise l’existence au grand jour de zinzins variés et dangereux.

    Je ne crois pas en tous cas que la FSF a eu une attitude bienveillante face à certains géants de la tech, comme on dit, même si Google a fait illusion très longtemps. Et les gens ordinaires, ne sont-ils pas allés en masse se jeter dans Facebook et n’y sont-ils pas toujours?

    C’est très cool aussi de présenter les êtres humains comme une espèce animale (c’est tendance). Si nous n’étions qu’une espèce de grands singes, nous n’aurions pas fichu la planète dans cet état.

    Pour la licence, c’est normal le ND (il a autorisé la traduction tout de même, ce qui est un produit dérivé), autrement on pourrait modifier son texte à notre façon et le republier en le faisant passer pour notre propree génie d’analyse. Stallman faisait ça aussi pour ses textes.

Répondre à froginoz Annuler la réponse

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *