@Goofy je ne comprends pas où vous voulez en venir, pas plus que l'article donné par Ginko.

Parce qu'il y a des faux positifs, on devrait abolir les algo de tri ? Et parce qu'il y a des sites pédophiles, on devrait abolir internet ? Et parce qu'il y a des tueurs, on devrait vendre des couteaux à bout rond aussi ?

L'article de Olivier Ertzscheid évite la question qu'il pose en filant la métaphore et en détournant l'attention par des éléments de language, au final c'est quand même essentiellement du vent. Sur le fond, sa thèse est aussi simpliste que celles qu'il prétend démonter.

Et puis oui, le danger vient de l'utilisateur. Quand on manipule du matériel dangereux, on commence par apprendre puis par respecter ses règles de sécurité. L'algo fait ce qu'on lui demande, s'il n'y a pas un humain derrière pour contrôler ce qu'il fait, c'est la faute de l'humain, pas celle de l'algo. Un algo est fait pour ordonner des cases, pas pour faire appliquer la loi. Si des fénéants se reposent un peu trop sur leur machine, ce c'est certainement pas la fautes des programmeurs.

Impliquer la responsabilité du technicien dans son objet technique est beaucoup moins simple que ce qui est suggéré ici.