Le 14 décembre 2018
Nous le savons tous depuis le film Terminator, l’avènement des machines n’augure rien de bon pour le genre humain. La crainte de leur autoritarisme est de plus en plus fondée quand elle n’est pas déjà admise par un grand nombre d’entre nous. Cathy O’Neil décrit comment les mathématiques et la révolution informatique qui les anime sous forme d’algorithmes, nous privent, en bonne logique, de notre liberté.
- Auteur : Cathy O’Neil
- Editeur : Les Arènes
- Genre : Essai
- Date de sortie : 7 novembre 2018
Disponible sur
L'a lu
Veut le lire
Résumé : Mathématicienne de haut niveau, Cathy O’Neil était chargée à Wall Street de prédire les tendances financières à l’aide d’algo -rithmes. Lorsque la machine s’emballe en 2008, elle comprend le pouvoir destructeur des modèles mathématiques appliqués à la finance. C’est le début de son engagement et de sa révolte envers ce qu’elle appelle les ADM, les Armes de Destruction Mathématique. Les données que nous laissons chaque jour sur Internet nourrissent des modèles mathématiques. Éducation, emploi, crédit, vie amoureuse, nos habitudes sont codées. De nombreux algorithmes ont même modélisé nos préjugés ! Ces algorithmes contrôlent de plus en plus d’aspects de notre existence sans que nous le sachions. C’est un livre prophétique qui met en garde contre les dérives du Big Data. Il permet de comprendre que l’industrie des données alimente des modèles destructeurs qui augmentent les inégalités sociales et modifient peu à peu les fondations de notre société. Cathy O’Neil tient une place majeure dans la réflexion internationale sur les dérives du Big Data. Son livre est devenu un best-seller aux États-Unis. Sa conférence TED a été visionnée et partagée des millions de fois.
Notre avis : Comme si le réchauffement climatique, l’hyper croissance des populations, la faim dans le monde, l’intégrisme ne nous suffisaient pas, nous voilà devant une autre catastrophe à éviter : les algorithmes. La défiance que nous avons en ces programmes qui sont censés améliorer les choses nous renvoie à une question de morale, cachée derrière une invention technique. Cette question n’est pas nouvelle. A quoi servent nos outils ? A faire le bien ou le mal ? Une hache sert-elle à fendre du bois ou la tête de son voisin ?
Cathy O’Neil, spécialiste en mathématiques, a été employée dans diverses secteurs de la vie économique américaine, pour fabriquer des robots immatériels dont le fonctionnement induit par ignorance ou délibérément, des effets nocifs pour ses utilisateurs. Choquée par l’envers de ce décor qu’elle contribue à construire dans un premier temps, elle en vient à dénoncer les dérives qu’elle constate de ces logiciels idiots ou malveillants. De socket en requête, elle s’approche, derrière l’objet technologique du sujet de fond qu’est la morale.
Un algorithme sert-il à maintenir une population dans l’indigence ou à l’aider à s’en sortir ? La réponse est aussi ancienne que l’usage du premier silex : il peut faire les deux. Le champ de cette éternelle ambivalence croît en proportion de l’augmentation de notre puissance. Dans ce livre passionnant, on apprend qu’aux États-Unis, les rondes de police sont déjà programmées par un jeu de statistiques, que des gens en faiblesse, voir en détresse, sont visés commercialement par des robots pour assurer de meilleures ventes à une formation ou un produit, que les banques font un usage délirant des ordres boursiers passés en quelques nanosecondes par les programmes. Ainsi de suite et dans tous les domaines, nous sommes pris de vitesse par de nouveaux acteurs virtuels, mais si bien et mal prennent d’autres masques, le combat demeure le même. L’auteure invite les hommes et les femmes à maîtriser l’avancée technique ultra sophistiquée et à enseigner à ces robots intelligents, une éthique qui ne soit pas artificielle.
