@Goofy :
premièrement, par rapport à la « responsabilité des codeurs » :
l’erreur est humaine, point. Un·e codeu·r·se fera toujours des erreurs.
Si on est pas foutu·e de prendre en compte la subjectivité et l’erreur
intrinsèque à la nature humaine, alors c’est là qu’est le problème,
comme l’a souligné Aurélien Pierre.

Deuxièmement, ce n’est pas une technologie qui provoque ses usages mais
un usage qui provoque des technologies. Les technologies ne sortent pas
de nulle part, d’une origine divine ex
machina, de façon extérieure à l’humanité pour ensuite venir
l’influencer objectivement de l’extérieur en la contraignant méchamment.
Non. Comme le dit Bayart (et comme il le répétait très bien à sa
dernière conférence à l’Ubuntu-Party) : on se retrouve dans le mythe de
la créature Frankenstein. Et ce mythe n’a jamais existé. Internet n’est
pas venu perturbé l’humanité pendant qu’elle stagnait gentiment dans un
équilibre cosmique, l’humanité s’est munie d’Internet (et notamment de
l’ordinateur, pour créer Internet). L’outil ne se « révolte » pas, même
si on en a l’impression. L’outil fait ce qu’on lui a demandé de faire.
Or, deux choses : ceux qui commandent l’outil sont imparfaits, et — ce
qui découle en partie de la première chose — il peuvent être
malveillants. Quand on vit dans un monde autoritaire, et qu’une autorité
base ses décisions sur un algorithme qui en sait trop et qui en plus
sait mal, il y a un problème.

Toutefois cet article me semble extrêmement intéressant en ce qui
concerne l’autopsie d’une caractéristique intrinsèque à l’idéologie du
libéralisme consistant à nier les déterminismes sociaux. Pour moi croire
qu’un algo puisse être objectif, raisonnable ou forcément sans erreurs
c’est une forme de négation des déterminismes sociaux : de la même façon
que la société « programme » les humain·e·s et leur inculque toutes les
constructions sociales qui font ce qu’illes sont, puis que le système
capitaliste nie que ces constructions sociales aient une quelconque
importance, en basant toute sa justification « morale » (morale oui,
juste, éthique, non) sur des concepts de « mérite » qui n’ont aucun sens
sans le « libre-arbitre » supposant que les humain·e·s ne sont « pas
déterminé·e·s » par ce qu’on leur enseigne, ce qu’on construit en
elleux.

Et du coup cette négation des constructions sociales, du déterminisme
sociale, pire, de la société elle-même, de son rôle fondamental dans la
constitution d’un·e humain·e, et du rôle fondamental de l’humain·e, et
du concept de culture qui remplace celui de nature chez cellui-ci et sa
société, elle aboutit à des conceptions assez absurdes mais surtout
arbitraires basées sur le « mérite » et la « responsabilité », où ceux
qui auront le plus de chance et auront de meilleurs moyens (soit par
très grand hasard, soit par bonne naissance : ethnie attribuée,
nationalité, classe, validité, neurotypisme, hétérosexualité, cisgenrité
et sexe masculin de préférence) auront plus tendance à plus souvent
mieux « réussir », et donc avoir plus de « mérite », et donc recevoir en
récompense plus de ressources (quant à la culture, santé, célébrité,
aux diplômes, compétences, au capital, à l’assurance, la stabilité
psychologique, etc.) et de moyens, et donc ayant plus de moyens ille
réussira mieux et aura encore plus de moyens… à l’infini… Sauf que la
réciproque est vraie : si pas d’bol on tombe dans les 99%, ben avec
moins de moyens on est moins compétitifs et on « réussit » moins, du
coup on a moins de moyens (que d’autres), réussit moins, et a encore
moins de moyens… et au final ça juste tend à augmenter à outrance toutes
les inégalités dans tous les domaines.

Et évidemment, pour justifier ça, toute la logique libérale est de dire
que ces moyens ne sont pas du tout la raison principale pour laquelle on
réussit, et que s’il on réussit c’est parce qu’on a la « volonté » (qui
est supérieure à tout, si on veut on peut, quelque soit le contexte et
l’irrationnalité intrinsèque au fonctionnement des schémas de réflexion
du cerveau humain), et par « initiative personnelle » (après c’est pas
comme si ces trucs aussi étaient socialement construit et dépendaient de
la situation dans laquelle on se trouve), à faire la louange du
« progrès personnel » (alors qu’on ne se construit, qu’on ne s’améliore
jamais seul·e), en niant tout autre type de
déterminisme.

Et de façon assez marrante, cette conception libérale elle se retrouve
dans la négation du mauvais impact que peuvent avoir certains
programmes, logiciel, machines, algorithmes… C’est comme si on
attribuait une essence intrinsèque et indépendante à celleux-ci, comme
s’ils se retrouvaient avec un libre-arbitre, voir pire, comme une sorte
d’essentialisme tenant du déterminisme biologique, du biologisme, bref,
d’une quelconque « nature » algorithmique, d’une essence inexistante
qu’on leur attribue… sauf que c’est un truc qui est ostensiblement
technique et déterministe, du coup c’en devient drôle.

C’est d’autant plus drôle que du coup, ces algorithmes très souvent
reproduisent ces schémas libéraux absurdes. En effet non seulement dans
ce contexte on nie les constructions sociales qui déterminent la façon
dont sont faits ces programmes, mais en niant leur
influence on les reproduit et s’y adapte, plutôt
que de tenter de les résoudre.

C’est le vieux problème du « s’adapter à la société… ou adapter la
société à soi », comme le disait George Bernard Shaw : « L’homme
raisonnable s’adapte au monde : l’homme déraisonnable persiste à tenter
d’adapter le monde à lui-même. Par conséquent tout progrès dépend de
l’homme déraisonnable. ». Or on se retrouve alors dans quelque chose de
proche de l’attitude libérale face au sexisme : d’abord on dit que ça
n’existe pas, puis quand on montre des choses comme les inégalités
salariales ou les jouets alors illes disent « bon ok, on attribue des
stéréotypes alors que c’est pas vrai les filles sont pas comme ça, c’est
pas bien, on va exiger la parité et dire que bouh c’est débile les
filles sont pas comme ça », puis quand on leur parle de, par exemple,
sanctionner le marketing genré « nan mais se baser sur des idées reçues
sur les filles c’est une chose, mais bon si c’est vraiment des
stéréotypes pas vrais alors ça veut dire que c’est juste débile et
qu’avec le progrès ça marchera pas et du coup la Sainte Invisible Main
du Marché le sanctionnerait par elle-même, donc on fait rien ». Or du
coup on voit la situation de façon binaire en disant « soit les filles
sont comme ça, soit elles sont pas comme ça, si c’est un stéréotype
elles sont pas comme ça, mais vu que le marketing genré et le marché en
général arrivent à s’en nourrir, c’est qu’elles le sont, donc bon, où
est le problème ? ». Or la question n’est pas « les femmes sont-elles
comme ça ? », mais « le sont-elles essentiellement,
c’est-à-dire par essence ? ». Le
sont-elles vraiment parce que ce sont des femmes où parce qu’on a vu en
elles des femmes et ont les en a fait devenir ?

En effet là où il faudrait dire « aucun déterminisme biologique ne rend
les femmes comme ça, ce sont des constructions sociales qui soutiennent
le patriarcat en construisant en la femme des schémas de soumission aux
règles patriarcales qui le font, et ils faut les combattre car elles
diminuent l’égalité en réduisant leur liberté car en les soumettant à la
domination masculine », les libér·aux·ales nient la possibilité de
constructions sociales, et s’illes observent un pattern commun à un
groupe défini par une caractéristique aussi floue et mineure que le
sexe, illes se mettent à attribuer à ce genre soit un déterminisme
biologique (et là on tend vers l’idéologie fasciste, plus cohérente mais
aussi plus autoritaire), soit persiste à dire que ça sort de nulle
part, que c’est une pure coincidence, que du coup le marketing genré est
là aussi par coincidence, le sexisme en général aussi, que tout ça
n’est qu’un énorme malentendu et que le patriarcat n’a d’ailleurs jamais
existé, que sinon ce serait nier le libre-arbitre, et que « bon hein,
les femmes elles devraient avoir le droit à être plus femmes, plus
genrées et plus soumises, et puis du coup aussi à avoir le droit de ne
pas avoir le droit à l’IVG et à la GPA et à la contraception libre et
gratuite et ça et ça et ça, et ferme ta gueule d’abord, tu racontes que
de la merde qui consiste à dire tout [« le genre “femme” c’est ça »] et
son contraire [« la femme n’est pas vraiment comme ça, le genre “femme”
est socialement construit (c’est la partie après la virgule qui ne leur
est pas accessible depuis leur pensée limitée) »]. »

Du coup on retourne sur le « s’adapter à la société ou adapter la
société à nous » : cette idéologie tend à nier le fait qu’on puisse
adapter la société, et en faire un artefact vide de sens et privé de
déterminismes, composés de la simple somme des individus (et non de
la somme des interactions entre eux, bref, de leur
culture, dans le cas de l’humanité), bref, à nier
la société elle-même, rendant ainsi impossible l’idée qu’on puisse
l’adapter à nous, et imposant la nécessité de se conformer à ses normes,
fusse-t-elles profondément autoritaires, inégalitaires et
individualistes.

De cette façon ainsi on se retrouve avec des algorithmes qui, produits
dans un contexte de négation de la société (allez, lachons-le :
antisocialiste, de droite :>, notez que ça inclut les partis, « de
gauche », qui ont vite fait d’oublier leurs idées, pour se réembourber
dans cette idéologie libérale et bourgeoise (de toute façon la
démocratie représentative est déjà intrinsèquement élitiste) et vouloir
se conformer à « répondre à l’Opinion », comme si l’« Opinion » était
unitaire, comme si elle n’était pas quand bien même socialement
construite), les algorithmes reflètent parfaitement cet état d’esprit,
de façon mathématique (c’est beau :o), et s’adaptent à la société au
mieux dans l’immédiat sans adapter la société à eux. Ainsi, plutôt de,
je ne sais pas, utiliser des algorithmes de filtrage à équations
bayésiennes autostabilisantes pour via des systèmes de dénonciation
décentralisés (potentiellement P2P avec de la crypto par dessus) pour
identifier des messages racistes, sexistes, etc. on récupère ces
messages sexistes, racistes, etc. on remarque qu’ils sont
statistiquement répandus et communs… et les algos les répètent x) dans
les suggestions, dans les liens, les recherches, les recherches d’amis,
les filtres, les pubs, les propositions… du coup comme on l’a déjà
pointé, celui qui cherchera des trucs plutôt d’un certain sujet tendera à
trouver ce qui lui « convient » le plus, donc des trucs où on est
d’accord avec ellui, toujours, à ainsi créer des bulles (les bulles de
Google :D), des circuits fermés et à « extrêmiser » les gens, à creuser
tendanciellement les inégalités d’opinions, et plus seulement de
capital, culture, humeur, compétence, papiers, etc. x)

Bref, ces algos agissent de façon rigide et indépendamment de la volonté
des utilisateurs, ils analysent ces actes, sans demander son avis
(toujours l’idéologie libérale et son foutu libre-arbitre à croire que
la simple « volonté » suffit à aller contre n’importe quoi, que donc
tout ce qu’on fait va forcément dans le sens de notre volonté, qu’on se
trompe jamais, qu’on est tou·te·s rationnel·le·s et qu’on a absolument
pas d’émotions pour donner un sens à notre raison). Et que nie-t-on
encore une fois en niant la société ? L’idée que l’on puisse
agir sur ces algorithmes rigides, qu’on
puisse leur faire demander l’avis des utilisateurs et se baser dessus,
qu’on puisse diffuser leur code source, le vulgariser, l’expliquer et le
partager. Le logiciel libre quoi.

Bref, c’est du gros libéralisme pourri, et ça nie la société et le
logiciel libre. Et comme dit Bayart « à la fin c’est nous qui gagne »,
na !