Mis à disposition du public en novembre 2022, ChatGPT est un prototype d’« agent conversationnel » utilisant l’intelligence artificielle, capable de répondre à toutes sortes de questions. Il fait depuis l’objet de nombreux articles de presse et reportages en tout genre. Faut-il s’émouvoir de l’émergence de ce type de dispositif qui marquerait la fin de l’intelligence telle que nous la concevons ?
Moi aussi, j’ai essayé. Les sentiments que j’ai éprouvés en lisant les réponses de ChatGPT sont partagés entre effroi et admiration. Évidemment, comme beaucoup d’autres, j’ai cherché à piéger cette bestiole. Je me suis inspiré pour cela des kôan (1) que le bouddhisme utilise pour mettre la raison devant ses limites et ouvrir à une autre dimension. Quelle joie de lire la réponse que le dispositif a produite pour ma question : « Si deux mains qui applaudissent font un bruit de 30 décibels, quel bruit fait une seule main qui applaudit ? »
Voici un extrait de la suite de signes produits par la machine : « Il est difficile de donner une réponse précise à cette question car le niveau sonore produit par une seule main qui applaudit dépend de nombreux facteurs tels que la force de l’impact, la taille de la main, la distance entre la main et l’oreille de l’auditeur, etc. Cependant, selon des études scientifiques, le son produit par une seule main qui applaudit est généralement compris entre 6 et 10 dB inférieur à celui produit par deux mains. Par conséquent, on peut estimer que le bruit produit par une seule main qui applaudit se situe généralement entre 20 et 24 dB. »
D’où vient mon plaisir de mettre en échec cet artéfact ? Quand le moteur de ma tronçonneuse cale, je n’éprouve aucune forme de plaisir, quand le manche du couteau me reste dans la main, pas de joie non plus. Alors que signifie ce sentiment ? N’est-il pas la fierté revancharde, heureuse de nous venger de la honte prométhéenne (ce sentiment décrit par Günther Anders comme le complexe d’infériorité de l’homme face à la perfection des machines autonomes qu’il construit) ? N’est-il pas une forme de soulagement de voir se retarder la singularité (ce moment que les transhumanistes prévoient où les machines dépasseront les humains) ?
Qui n’a pas regardé avec satisfaction l’un de ces aspirateurs-robots bêtement buter sur un obstacle facile à contourner ? N’est-ce pas la joie cruelle du collégien qui se réjouit de la défaite de l’équipe sportive adverse, car elle est le seul moyen dont dispose sa confiance fragile pour mesurer sa valeur ? Les quelques coquilles générées par ChatGPT nous rassurent. Ne devrions-nous pas avoir mille fois plus d’admiration pour cette œuvre du génie humain que de plaisir à constater ses stupidités ?
J’ai dit « stupidités ». C’est précisément là notre problème. Car la stupidité est une privation d’intelligence. Or une privation est l’absence d’une forme dans un sujet apte à l’avoir. Une pierre n’est pas aveugle, car la cécité du minéral n’est pas une privation. ChatGPT n’a aucune réaction stupide, car ce n’est pas un sujet apte à l’intelligence. Nous ne pouvons donc pas nous mesurer à ChatGPT car il n’y a pas de commensurabilité entre nous.
La parole est une composition de signifiant et de signifié. Si j’écris : « Chewbacca est un wookiee », tous mes lecteurs ont accès au signifiant, car toutes les syllabes de chaque mot sont lisibles, mais seuls ceux qui sont familiers de La Guerre des étoiles ont également accès au signifié. Ce que l’on appelle l’intelligence artificielle est une capacité faramineuse de « computer » entre eux des signifiants selon une recette préétablie. Les possibilités époustouflantes de « computer » des signifiants ne supposent absolument pas un accès au signifié.
Il n’est pas utile pour ChatGPT de savoir « lire à l’intérieur » des signifiants pour produire, par exemple, une « ode au journal L’Homme Nouveau ». Quand je le lui ai demandé, la machine a produit une combinaison inédite de signifiants qui imite d’autres combinaisons de signifiants et qui ressemble à un mauvais poème d’un bon collégien. Je ne résiste pas à en reproduire la strophe la plus significative :
« Homme Nouveau, tu nous rappelles,
Que notre vie doit être belle,
Et que le Christ est notre roi,
Celui qui nous mène à la joie. »
À aucun moment dans la production de ce quatrain, la machine n’a eu besoin de savoir qui est le Christ, ce que veut dire la joie, ni ce qu’est un roi. À aucun moment elle n’a eu besoin de lire à l’intérieur (intus-legere, qui a donné intelligence) des signifiants qu’elle « computait ».
Mais alors pourquoi lui prêtons-nous l’intelligence ? Il faut avouer que c’est une tendance naturelle de l’être humain d’attribuer à une intelligence des phénomènes qui échappent à ses capacités cognitives. La foudre à Zeus, la réponse de ChatGPT à une intelligence. Cette pente naturelle nous invite plutôt à admirer l’intelligence du créateur que de la créature, de l’ouvrier que de l’ouvrage. Mais notre imagination est plus forte.
L’expérience de pensée de la chambre chinoise de John Searle illustre bien en quoi l’intelligence artificielle (IA) n’est qu’un jeu d’imitation de l’intelligence, et qu’elle n’est pas plus sensée que le miroir qui reproduirait des signes intelligents. Dans un article de 1980, le philosophe américain déconstruit le sophisme selon lequel le test de Turing mesure l’intelligence des machines. Le test de Turing, inventé en 1950 par l’un des pionniers de l’informatique, consiste à faire dialoguer un juge avec divers interlocuteurs à distance parmi lesquels se trouvent des machines. Si le juge ne parvient pas à déceler la machine, alors elle passe le test.
John Searle imagine un individu qui ne connaît pas un mot de chinois, dans une pièce, avec à sa disposition un grand livre d’instructions où sur chaque page il y a des caractères en chinois sous le titre « si », et d’autres caractères en chinois sous le titre « alors ».
Un sinophone à l’extérieur de la pièce, qui ne connaît pas le premier individu, écrit un message en chinois, qui appelle une réponse. La personne dans la pièce reçoit le message, ne sait pas du tout ce qu’il signifie. En compulsant le livre des instructions, elle trouve un texte sous le titre « si » qui correspond exactement au message reçu. Immédiatement, elle recopie servilement le texte qui figure au bas de la page sous le titre « alors », sans accéder le moins du monde au signifié. Elle glisse le message à l’extérieur de la pièce. Quand on interroge le sinophile après qu’il a lu le message, il n’a aucun doute sur le fait que la personne à l’intérieur parle chinois.
L’IA imite l’intelligence avec une remarquable fidélité. Mais c’est le concepteur du livre d’instruction à qui l’on doit reconnaître une grande intelligence. Jamais il ne pourra transmettre aucun savoir à sa machine. Car, comme le dit Gustave Thibon, « la vérité est incommunicable ». Dans son De magistro, saint Thomas montre que la transmission d’un savoir ne se fait pas en transvasant des signes d’une intelligence à une autre. C’est l’intelligence du disciple elle-même, à partir de ses lumières intérieures préexistantes à l’enseignement, et sous l’effet de la démonstration du maître, qui progresse vers la découverte de nouvelles conclusions.
Cesser d’attribuer l’intelligence à l’IA est la condition pour libérer une admiration authentique pour la prouesse de l’intelligence humaine à travers son œuvre.
Cet émerveillement à propos de l’outil ne doit pas nous dispenser d’une vigilance sur l’utilisation éthique et politique de ce dispositif. L’apparente neutralité des opinions de ChatGPT ne doit pas faire oublier que l’instructeur de la machine peut diriger ses réponses de diverses manières, notamment dans la façon de configurer l’algorithme, mais aussi sans doute dans le choix et la pondération des référentiels dans lesquels puise l’IA pour les imiter. Le « connais-toi toi-même » des Grecs a rarement eu davantage de conséquences politiques.
1. Un kôan est une brève anecdote ou un court échange entre un maître et son disciple, absurde, énigmatique ou paradoxal, ne sollicitant pas la logique ordinaire, utilisé dans certaines écoles du bouddhisme (NDLR).
A lire également : La pierre d’athéisme
