Notre avis : Comme si le réchauffement climatique, l’hyper croissance des populations, la faim dans le monde, l’intégrisme ne nous suffisaient pas, nous voilà devant une autre catastrophe à éviter : les algorithmes. La défiance que nous avons en ces programmes qui sont censés améliorer les choses nous renvoie à une question de morale, cachée derrière une invention technique. Cette question n’est pas nouvelle. A quoi servent nos outils ? A faire le bien ou le mal ? Une hache sert-elle à fendre du bois ou la tête de son voisin ?
Cathy O’Neil, spécialiste en mathématiques, a été employée dans diverses secteurs de la vie économique américaine, pour fabriquer des robots immatériels dont le fonctionnement induit par ignorance ou délibérément, des effets nocifs pour ses utilisateurs. Choquée par l’envers de ce décor qu’elle contribue à construire dans un premier temps, elle en vient à dénoncer les dérives qu’elle constate de ces logiciels idiots ou malveillants. De socket en requête, elle s’approche, derrière l’objet technologique du sujet de fond qu’est la morale.
Un algorithme sert-il à maintenir une population dans l’indigence ou à l’aider à s’en sortir ? La réponse est aussi ancienne que l’usage du premier silex : il peut faire les deux. Le champ de cette éternelle ambivalence croît en proportion de l’augmentation de notre puissance. Dans ce livre passionnant, on apprend qu’aux États-Unis, les rondes de police sont déjà programmées par un jeu de statistiques, que des gens en faiblesse, voir en détresse, sont visés commercialement par des robots pour assurer de meilleures ventes à une formation ou un produit, que les banques font un usage délirant des ordres boursiers passés en quelques nanosecondes par les programmes. Ainsi de suite et dans tous les domaines, nous sommes pris de vitesse par de nouveaux acteurs virtuels, mais si bien et mal prennent d’autres masques, le combat demeure le même. L’auteure invite les hommes et les femmes à maîtriser l’avancée technique ultra sophistiquée et à enseigner à ces robots intelligents, une éthique qui ne soit pas artificielle.