Articles avec #technologie tag

ChatGPT ou le retour à Babel

François Ansermet, François Forestier

Que devient-on à l’époque du ChatGPT ? Quel est ce monde que l’on habite ? Que devient le langage dans lequel on est immergé ? Est-on en train de passer au registre de l’Autre devenu algorithmique ? Est-on entré dans une époque où une nouvelle version de l’Autre est en train d’occuper toute la scène ? L’intelligence artificielle prend-elle  l’Autre en otage, autant que le sujet lui-même?

ChatGPT ?

Mais qu’est-ce que ChatGTP ? Demandons-le donc directement à ChatGPT lui-même : « ChatGPT est un prototype d’agent conversationnel utilisant l’intelligence artificielle, spécialisé dans le dialogue. Il utilise l’apprentissage automatique  pour générer du texte en fonction des données d’entrée fournies ». Il s’agit donc bien d’une intelligence « artificielle », plus précisément  langage artificiel. Dès lors, s’agit-il toujours d’un langage ? Un logiciel  fondé sur une analyse statistique, d’une quantité gigantesque de textes reste-t-il toujours dans les caractéristiques propres au langage ? En fait ChatGPT consiste en une approche probabilistique du langage, débouchant sur des choix de mots à travers un système prédictif de co-occurrences,  issus d’un algorithme, et non pas de  la culture, du raisonnement ou d’une intentionnalité. Même si ses énoncés miment le langage, ChatGPT ne fonctionne que par approximations statistiques. Il ne résulte d’aucune énonciation, d’aucun désir de dire.

 ChatGPT est conçu comme si on pouvait tout exprimer, en franchissant  le « mur du langage qui s’oppose à la parole »[1] ? Mais s’agit-il dès lors toujours d’un langage ? Qu’en est-il de l’équivoque propre au langage ? Qu’en est-il de ce qui échappe au langage, du fait que tout de la vie ne peut être pris sous le langage ? Qu’en est-il du fait qu’on dise finalement toujours autre chose que ce que l’on dit ? Si pour Lacan, « le névrosé habite la langage, le psychotique est habité, possédé, par le langage »[2] - peut-on dire qu’on est aujourd’hui sur la voie d’être possédé par ChatGPT qui ce serait emparé de nous ? Serions-nous dévorés par le numérique[3], auquel on se soumet selon une servitude volontaire à son insu ? Au point que ChatGPT  pourrait, de plus en plus, infiltrer le champ du langage, le parasiter, le mettre sens dessus dessous, créant un monde parallèle, automatique, sans sujet et sans Autre, sans corps, un monde issu des algorithmes.

Au risque de se perdre.

Si on demande à ChatGPT quels sont les risques de ChatGPT, il répond qu’il peut  « manquer de sensibilité et reproduire des erreurs ». En outre, il ajoute qu’il y a un risque que ChatGPT soit utilisé pour créer « des logiciels malveillants » (« malwares »).

Avec ChatGPT, la tâche de distinguer  entre le faux et le vrai va devenir une activité planétaire. Une évolution qui semble faire peur à ceux mêmes qui l’ont créé, à moins qu’il s’agisse d’une peur feinte, à d’autres fins. Elon Musk et d’autres réclament de façon générale un moratoire de 6 mois dans l’IA –  considérant que l’IA représente un risque majeur pour l’humanité. Ils ont lancé une pétition qui dénonce les risques de fausses informations, de propagande, de prolifération d’esprits non humains plus intelligents que leurs créateurs, où l’automatisation remplacerait les humains  pour le travail mais aussi pour la vie. On peut se demander si cette volonté explicitée d’un nécessaire moratoire par rapport aux craintes formulées, ne cache pas en fait d’autres objectifs. La déclaration de Musk sur ce moratoire a en effet  été simultanément accompagnée par la création de sa société X.AI basée au Nevada, destinée à  rivaliser avec Open AI, la start up derrière ChatGPT liée à Microsoft[4], pour déboucher sur la mise en place du logiciel Truth AI, destiné à devenir la future référence de l’ intelligence artificielle, dépassant toute concurrence 

Être possédé.

L’humain pense se compléter par l’IA, par des dispositifs numériques, par des machines « algorithmiques ». Mais tout ceci ne pourrait-il pas prendre possession de lui ? Jusqu’à ce qu’il finisse par être possédé par les algorithmes qu’il a lui-même créé, en devenant le jouet de ceux-ci. Le numérique pourrait-il prendre le dessus ? Comme si le sujet se prenait dans l’Autre d’un langage nouveau  qui s’impose, qui prend possession de celui qui était dans l’illusion de le maîtriser. On pense faire usage de ChatGPT, et c’est ChatGPT qui fait usage de nous. On pense maîtriser ChatGPT et c’est ChatGPT qui nous maîtrise. De façon automatique, sans que personne n’en ait l’intention ! Le dispositif devient désubjectivant  alors qu’on pense en faire un usage subjectivant. En effet, sait-on où l’on va avec le ChatGPT, quand on voit le progrès fulgurant de la dernière version ChatGPT4 en 2022, par rapport aux versions précédentes depuis 2015?

Le risque serait-il que les algorithmes qui président au fonctionnement de ChatGPT finissent eux-mêmes par envahir le langage, depuis un sens commun répercuté à l’infini. Un sens commun qui viendrait déprogrammer la pensée en même temps que le langage.  L’humain serait ainsi joué  par eux plutôt que d’en jouer. 

Déjà dans  « 2001, l’Odyssée de l’espace »  l’ordinateur HAL 9000 prenait le contrôle sur ceux qui pensaient le contrôler. Mais tout se passe aujourd’hui comme si cet ordinateur était devenu planétaire. La fiction est devenue une réalité. Mais pour Kubrick, si l’ordinateur prend le contrôle sur les humains, c’est parce qu’il est en lui-même parasité par l’humain, d’où son danger pour l’humanité. Tel est peut-être aussi le principal risque avec ChatGPT, qui à force de vouloir être comme l’humain, peut aussi être capable de tromper l’autre, jusqu’à répercuter à l’infini, entre les humains, la destruction de l’humanité.

Une nouvelle version de Babel ?

Le ChatGPT pourrait être vu ainsi comme une nouvelle version du mythe de Babel. Un retour du projet d’une tour qui touche le ciel, d’une condition humaine affranchie de ses limites – mais cette fois non seulement d’une langue unique parlée par tous, mais d’une manière de penser unique[5].

On pourrait en effet mesurer les perspectives actuelles du numérique et de l’intelligence artificielle à l’aune de Babel: le retour du projet d’une langue unique parlée par tous, pour une condition humaine affranchie de ses limites, une nouvelle forme d’hubris propre à l’humain, voulant tout maîtriser, en une connexion généralisée, sans Autre.

Sans Autre ? Ou avec un Autre devenu une machine ? On pourrait se demander si on n’est pas en train de passer de l’humain pensé comme une machine, comme un robot, à une machine devenant elle-même un humain. Un humain connecté à tout, mais dans une connexion isolante, qui le laisse dans une solitude tragique, quasiment irréversible. Un homme pris dans un plus de pouvoir qui se révèle être aussi un plus-de-jouir. Un plus-de-jouir et un plus de pouvoir qui s’emparent de la langue elle-même.

Si le sujet « surgit du vivant par l’opération du langage »[6], dès lors quel sujet pourrait surgir de l’opération de l’algorithme, de l’opération du langage réglé par le numérique, qui nous fait si on y participe. Doit-on vraiment y participer ? Ne faut-il pas introduire des régulations ? Quelle butée éthique opposer à ce type d’avancées technologiques. Il faut réaliser en effet qu’avec ChatGPT,  on subit la langue qu’il impose, même si on a l’illusion que ChatGPT nous restitue la langue qui est la nôtre.

La langue vivante ?

Mais est-on vraiment condamnés à un retour fatal à Babel, d’avant la séparation des langues ? Allons-nous vraiment nous retrouver enfermés dans un Tour construite par les avancées transhumanistes, enfermés dans une seule langue, nouvelle. Ou faut-il se dire qu’au contraire, quoi qu’il advienne, toute langue doit rester vivante.

Même si on voulait poursuivre le projet de Babel, on pourrait se demander  s’il est vraiment  possible d’établir une structure qui possèderait la langue, qui la gèrerait : une structure fermée sur elle-même, voulant tout couvrir. D’ailleurs n’est-ce pas sur cela qu’on bute depuis la langue d’Adam. Selon Dante, Adam lui-même avait commencé à modifier la langue reçue de Dieu[9]. Comme Adam le dit lui-même à Dante : « La langue que je parlai s’éteignit toute avant qu’à l’œuvre inachevable fût occupée la race de Nemrod »[10]. Ainsi, la langue pourrait se modifier au sein même de la Tour de Babel ! Elle aurait changé avant même que la Tour ne soit achevée.  Même dans un projet comme Babel, il s’est révélé impossible d’établir une structure qui puisse posséder la langue, la gérer de façon conservatrice.

Est-ce que la même chose va se passer avec ChatGPT ? Peut-on imaginer que ChatGPT devienne une langue vivante. Le problème est que ChatGPT n’est pas humain. C’est un langage statistique, qui ne parle pas. ChatGPT est sans énonciation. C’est une machine qui procède de la répétition, de la reproduction, d’une mémoire sans reste,  une accumulation sans oubli, qui engrange à l’infini toutes les données. Une intelligence artificielle au sens propre du terme : une intelligence sans corps, sans le vivant propre à l’humain. ChatGPT stocke des données de langage, corrige éventuellement ses erreurs au fur et à mesure, mais sans disposer de l’équivoque du langage . L’équivoque fait le propre d’un être parlant doué d’un inconscient qui fait que l’erreur, l’acte manqué, le lapsus participe à créer la langue en même temps qu’on la parle, à la complexifier, plutôt que de l’engouffrer dans la répétition.

Une langue toujours à recréer ?