Au quotidien n°313 : sous le règne des algorithmes

Publié le 03 Jan 2022
Au quotidien n°313 : sous le règne des algorithmes L'Homme Nouveau

« Au quotidien » revient pour une nouvelle année, en commençant par cet extrait d’un entretien avec Marie David, Ingénieure diplômée de l’École polytechnique, spécialiste de l’intelligence artificielle et auteur de « Intelligence artificielle. La nouvelle barbarie » (éditions du Rocher), publié dans Marianne (23 décembre 2021).

l’utilisation croissante de l’IA et des algorithmes s’inscrit dans un mouvement de dépossession du monde par un système technicien désormais hors de contrôle. Vous êtes aujourd’hui contraint d’avoir non seulement un accès à Internet, mais également un smartphone pour une part importante de la vie en société. La plupart de nos interactions avec le monde extérieur sont médiatisées par des algorithmes : c’est trop difficile de rencontrer quelqu’un, alors on s’en remet à l’algorithme de Tinder. On ne sait pas quoi faire le soir, alors on laisse l’algorithme Netflix choisir un film pour nous. Et c’est celui de Facebook qui décide des actualités qu’on va lire…

La tyrannie de l’IA est-elle la conséquence de celle des chiffres ?

Vivre dans un monde où tout se mesure, où ce qui n’est pas chiffrable n’a pas d’existence (en témoigne le fait qu’on n’empêche pas l’extinction de masse du vivant – car il est impossible de lui attribuer une valeur marchande) conduit à une recherche permanente d’une optimisation, au détriment d’un rapport plus entier au monde.

Dans les grandes villes, on voit fleurir des publicités pour des applications qui permettent de se faire livrer ses courses en dix minutes. C’est l’exemple même d’un faux besoin – qui cache, en outre, des emplois précaires et dangereux… Notons que le prétendu temps gagné par la personne qui fait ses courses avec une application sera sans doute employé à parcourir un fil Instagram ou TikTok. La boucle est bouclée…

« On peut discuter de tout, sauf des chiffres », entend-on souvent. Les chiffres suffisent-ils à la prise de décision ?

Pendant la crise du Covid, on a aussi observé que les chiffres, finalement, ne signifiaient plus rien, ni ne permettaient de trancher. On observe donc cet effet paradoxal : on communique de plus en plus de chiffres, tout argument se ramène à « une étude montre que », mais alors qu’on attend des chiffres qu’ils donnent un sens au monde, en réalité, ils ne mènent qu’à la confusion et à l’aporie. En témoignent les nombreux débats sur l’efficacité des vaccins, la pertinence de telle ou telle mesure sanitaire : les mêmes chiffres sont utilisés par les partis opposés, sans qu’ils créent le moindre consensus. Cette confusion vient du fait que les chiffres en eux-mêmes ne disent rien, puisque les décisions fondamentales, celles qui touchent à la morale, par exemple, ne peuvent se chiffrer, ni résulter d’une optimisation. Les débats sur l’éthique des algorithmes ne prennent pas en compte ce fait fondamental. Or il faudrait retirer aux algorithmes toute capacité de prendre des décisions morales.

Ce contenu pourrait vous intéresser

À la uneSociété

Les méthodes révolutionnaires au service de la guerre de tous contre tous

L’Essentiel de Joël Hautebert | Derrière les mots d’ordre d’inclusion et d’égalité, les nouvelles luttes identitaires (de genre, de race ou de sexualité) reprennent les méthodes des combats révolutionnaires. Alimentées par une logique d’antagonisme, elles dressent les uns contre les autres, sans horizon commun, jusqu’à faire de la société un champ de confrontation permanente.

+

révolution
Société

Hôpital : une urgentiste alerte sur un système à bout de souffle

Entretien | Médecin aux urgences de l’hôpital de Laval, Caroline Brémaud décrit la dégradation rapide de l’accès aux soins et le mal-être croissant des soignants. Dans son ouvrage État d’urgences (Seuil), elle dresse un diagnostic sans appel sur un système hospitalier désorganisé, mal rémunéré, et trop souvent aveugle aux réalités humaines du soin.

+

hôpital urgence