« Au quotidien » revient pour une nouvelle année, en commençant par cet extrait d’un entretien avec Marie David, Ingénieure diplômée de l’École polytechnique, spécialiste de l’intelligence artificielle et auteur de « Intelligence artificielle. La nouvelle barbarie » (éditions du Rocher), publié dans Marianne (23 décembre 2021).
l’utilisation croissante de l’IA et des algorithmes s’inscrit dans un mouvement de dépossession du monde par un système technicien désormais hors de contrôle. Vous êtes aujourd’hui contraint d’avoir non seulement un accès à Internet, mais également un smartphone pour une part importante de la vie en société. La plupart de nos interactions avec le monde extérieur sont médiatisées par des algorithmes : c’est trop difficile de rencontrer quelqu’un, alors on s’en remet à l’algorithme de Tinder. On ne sait pas quoi faire le soir, alors on laisse l’algorithme Netflix choisir un film pour nous. Et c’est celui de Facebook qui décide des actualités qu’on va lire…
La tyrannie de l’IA est-elle la conséquence de celle des chiffres ?
Vivre dans un monde où tout se mesure, où ce qui n’est pas chiffrable n’a pas d’existence (en témoigne le fait qu’on n’empêche pas l’extinction de masse du vivant – car il est impossible de lui attribuer une valeur marchande) conduit à une recherche permanente d’une optimisation, au détriment d’un rapport plus entier au monde.
Dans les grandes villes, on voit fleurir des publicités pour des applications qui permettent de se faire livrer ses courses en dix minutes. C’est l’exemple même d’un faux besoin – qui cache, en outre, des emplois précaires et dangereux… Notons que le prétendu temps gagné par la personne qui fait ses courses avec une application sera sans doute employé à parcourir un fil Instagram ou TikTok. La boucle est bouclée…
« On peut discuter de tout, sauf des chiffres », entend-on souvent. Les chiffres suffisent-ils à la prise de décision ?
Pendant la crise du Covid, on a aussi observé que les chiffres, finalement, ne signifiaient plus rien, ni ne permettaient de trancher. On observe donc cet effet paradoxal : on communique de plus en plus de chiffres, tout argument se ramène à « une étude montre que », mais alors qu’on attend des chiffres qu’ils donnent un sens au monde, en réalité, ils ne mènent qu’à la confusion et à l’aporie. En témoignent les nombreux débats sur l’efficacité des vaccins, la pertinence de telle ou telle mesure sanitaire : les mêmes chiffres sont utilisés par les partis opposés, sans qu’ils créent le moindre consensus. Cette confusion vient du fait que les chiffres en eux-mêmes ne disent rien, puisque les décisions fondamentales, celles qui touchent à la morale, par exemple, ne peuvent se chiffrer, ni résulter d’une optimisation. Les débats sur l’éthique des algorithmes ne prennent pas en compte ce fait fondamental. Or il faudrait retirer aux algorithmes toute capacité de prendre des décisions morales.
