Je ne suis pas vraiment d'accord avec cet article, même si ce qui est dit est strictement vrai, et que je trouve ça important d'être clair sur les définitions.

Certes un algorithme est toujours écrit par un humain. Pour avoir fait de la recherche en apprentissage automatique, je peux aussi préciser que même dans ce domaine il y a de nombreux choix possibles pour l'algorithme d'apprentissage, celui qui fait que les données-exemples seront assimilées par le programme d'une façon ou d'une autre.

Là où je suis en désaccord, c'est que cette remarque passe à côté du point dans la plupart des cas. Dans les faits, les gens invoquent "les algorithmes" pour parler d'un manque de contrôle, soit de l'utilisateur soit des développeurs eux-mêmes. Par exemple, on n'appellera pas spontanément "algorithme" celui qui charge la page de YouTube parce que son comportement est tout à fait prévisible. Il va charger les suggestions de vidéos sur le côté, les commentaires en dessous et la vidéo au milieu à chaque fois. En revanche, on appellera facilement "algorithme" l'algorithme de recommendations de vidéos, parce qu'on voit bien qu'il prend des décisions et on voit qu'on n'a pas de contrôle dessus. L'utilisateur y voit "un algorithme" car quelqu'un décide en partie pour lui ou elle, mais qu'il ne s'agit pas d'un humain. Parmi les politiciens, on parle plus souvent d'algorithmes lorsque les développeurs eux-mêmes ne contrôlent pas les conséquences de leurs algorithmes. Par exemple, si l'algorithme de recommendations vous envoie sur d'obscures vidéos conspirationnistes, c'est contre le gré des développeurs et pourtant ça arrive. Alors que s'il y avait eu un opérateur humain à la place de la machine, celui-ci aurait certainement dérogé à la règle et suggéré d'autres vidéos que les vidéos conspirationnistes prévues par l'algorithme.

En gros, quand des gens parlent d'algorithmes, ils parlent le plus souvent du manque de contrôle humain sur les algorithmes. C'est pour ça que le ton de l'article est problématique d'après moi, car il semble dire que les développeurs ordonnent aux machines avec des algorithmes pour que celles-ci fassent exactement ce qu'ils veulent. Un algorithme serait à peu près équivalent à ce que le développeur aurait fait à sa place. Mais c'est faux pour de nombreuses catégories d'algorithmes dont on a du mal à se représenter ce que les algorithmes feraient dans certaines situations. Typiquement, les algorithmes de recommendations.

Par conséquent, si une entreprise dit qu'elle n'est pas responsable des actions de ses algorithmes, elle n'a pas strictement tort car les conséquences desdits algorithmes peuvent échapper aux développeurs. Néanmoins, utiliser des algorithmes dont on ignore en partie les effets immédiats est critiquable en soi. À ce niveau-là, il y a effectivement une décision du développeur qui peut choisir de jouer avec le feu.