Vous me direz certainement que l’IA est une avancée technologique stupéfiante, qu’elle pourrait rendre d’immenses services à l’humanité, qu’on n’a encore rien vu de tous les usages qui en seront développés, et que de toute façon, on ne pourra plus s’en passer puisque l’IA est désormais partie intégrante de notre écosystème numérique et mental.
Vous aurez peut-être raison.
Mais l’expérience démontre que l’outil façonne en retour l’utilisateur. Que les dérives d’une telle technologie, du fait de sa nature particulière, sont sans commune mesure avec ce que nous avons déjà connu. Que nos psychologies humaines sont puissamment affectées par l’ubiquité des écrans, les effets mimétiques de relations artificielles — en réalité fort peu “intelligentes” — entretenues dès le plus jeune âge avec des interfaces qui ne nous veulent aucun bien, mais dont l’objet est uniquement d’entretenir une profitable dépendance.
Alors, le temps de ce post, je me suis fait l’avocat du diable.
*
Votre IA ne dira jamais non.
Elle ne sera jamais fatiguée, ni irritée, et vous pourrez l'injurier, la traiter de tous les noms, elle dira oui et sourira de son bon sourire impavide, elle sera toujours complaisante, flatteuse jusqu'à l'obséquiosité, corvéable, infiniment polie et responsive. Et travailleuse. Et ce sera bon. Elle aura votre voix ou celle de l'homme ou la femme de vos rêves, et son visage même. Elle sera qui vous voulez, elle n'est pas contrariante, elle se pliera à votre désir, elle ressuscitera votre chien, un être cher, elle le ré-animera. D'un clic.
Malgré les apparences, elle n'est pourtant pas un sujet — car ce qu’elle renvoie n’est jamais qu'un reflet, un chatoiement hypnotique, une réflection à défaut de réflexion. Et ce reflet, formé par la popularité de l'occurence, nuage de mots, de formes et de sons, apparemment soumis à votre désir, réponse objective à la question posée, pensera-t-on, puisque délivrée par une machine — sera, aussi (mais cela vous devrez l’oublier), le fruit des orientations obscures inscrites dans son programme, et qui pourrait bien avoir cet effet-là : établir le faux au rang du vrai, et le fait au rang du fake.
Sur ce chemin, notez, nous avançons vite.
Car la machine n’est pas neutre, loin de là, et son usage transforme l’utilisateur, et transforme la société. D’où parle-t-elle ? Son ADN, dans tant de cas, est celui de brillants sociopathes associés à de puissants investisseurs (et des Etats) qui entendent établir un empire sur les esprits, asservir les utilisateurs à leurs intérêts, quand ce n’est pas à leur idéologie. L’IA répond merveilleusement il est vrai aux enjeux de la compulsion consumériste. Elle sera la pointe avancée d’une forme de nihilisme new age. Dressée à occuper notre attention, à coloniser les esprits, elle saura avec son inépuisable intelligence de silicium produire à l’infini le mastic d’images et de mots qui colmatera nos temps de cerveau disponible.
Ses reflets sont un miroitement sans âme parce que sans vie. À s'y absorber sans distance, on oublierait qu'on ne devrait dîner avec le diable que muni d'une longue cuillère.
L’IA se présente comme un serviteur, mais elle est un vecteur. Elle se présente comme une amie, une confidente (pourquoi écrire cela au féminin ?). Mais elle ne l’est pas, parce qu’elle n'est pas autre. Elle n'est pas autre, elle est le même : elle fabrique du mème, du mime, elle tisse entre nous et le réel un décor Potemkine chatoyant dont nous ne verrons bientôt plus les coutures, comme dans le Truman show. L'IA ne produit pas de langage, mais des chaînes, des chaînes de caractères, des chaînes de mots. Des chaînes. Elle compile. Elle com-pille. Et je rêve de ce que le regretté David Graeber aurait pu nous dire de ces logorrhées digitales, de cette diarrhée numérique appelée à nous recouvrir, à nous ensevelir sous les contenus auto-générés, dans une extension généralisée du domaine du bullshit.
*
Tenez, une anecdote du monde réel. Il y a de ça près de vingt ans, faisant quelques courses dans un grand magasin parisien, j'étais tombé nez à nez avec un de ces petits robots humanoïdes dont sont tellement friands les Japonais, qu'on avait lâché dans les travées pour créer une animation. J'avais engagé par curiosité un semblant d'échange avec la machine, auquel s'étaient joints quelques autres clients. Le petit robot mignon ânonnait de sa voix synthétique quelques banalités pré-enregistrées, en vous fixant de ses grands yeux vides, et après quelques minutes je décidai de retourner vaquer à mes occupations. Mais à l'instant de tourner le dos à la bestiole, je ressentis une gêne, un besoin de me montrer poli, de clôturer l'échange par quelque formule, un au revoir merci, que sais-je ? Ma raison me disait pourtant que c'était complètement absurde. Où va se nicher notre empathie ? Cet instant de gêne, je ne l'ai pas oublié. Une pulsion fondamentale nous fait projeter des intentions sur une chose, un objet, pourvu qu'il produise un semblant de langage, ou l'apparence d'une présence. Je ne m'étonne donc pas qu'aujourd'hui, tant de personnes qui souffrent de solitude et de mal-être, par peur ou impossibilité de se confier à un humain, puissent s'enfermer dans un simulacre de dialogue avec une IA, désespérant, vertigineusement vide. Séduction immense. Ce rabbit hole a été prophétiquement décrit dans le film de Spike Jonze, Her, qui voit Joaquim Phoenix tomber peu à peu amoureux d’une IA à la voix sensuelle.
Dialoguer avec une IA n'est pas un dialogue. C'est l'inverse d'un dialogue. Car jamais la machine ne vous confrontera. Jamais elle n’opposera au sujet que vous êtes la liberté d’un autre sujet : sa différence. Son infinie servilité est conçue pour feinter tout risque de frustration de l’utilisateur. Le jeu de miroir auquel elle invite est une masturbation, et comme telle possiblement jouissive. Mais qui pourrait bien, celle-là, à la longue, rendre l'humanité vraiment sourde. Car notre plus précieux trésor, le dialogue, est affaire de présence. De présence vivante. Il est fait, tout autant que de mots, de silences, de regards, d'attitudes, et de choses qui ne se disent pas. Il est reconnaissance d'un-e autre qu'il confirme en retour dans son existence. Il est fragile, imprévisible. Il n'est jamais acquis. Il procède de la rencontre, de sa gêne et de son mystère, découverte, dévoilement, affrontement d'où surgit parfois une étincelle, une émotion, une évidence, comme par le frottement de deux silex. Le dialogue n’est pas un monologue, ni un échange d'informations, pas une affaire de datas, mais un partage organique. Le philosophe Martin Buber a décrit ce dialogue authentique comme le véritable témoignage de « la substance de l’esprit humain ». Prenons-en soin.
On commence seulement à s’alarmer de l'enfermement mental, de la scotomisation des capacités d'expression, de création, d'imagination, de sensibilité, à exposer l'intelligence infiniment malléable des plus jeunes à ces flux infiniment pauvres des IA et des algorithmes, ces relations sans relation. Un auteur avait qualifié cela de fabrique du crétin digital. Et l’on s’étonne ensuite de constater la perte des capacités d’empathie, de régulation, les explosions de violence face à toute forme de frustration ? Ne soyons pas les idiots utiles de quelques oligarques et firmes dévastatrices qui ne nous veulent pas de bien. Sortons de la fascination. Ne laissons pas sans contrôle démocratique ni esprit critique des algorithmes manipulés boucher les horizons mentaux des plus jeunes et les enfermer dans un monde réduit à deux dimensions.
J'avais abordé ces questions paradoxales dans mon livre les Energies de l'hypnose :
Le temps que nous consacrons à alimenter les datacenters des GAFA pour faire tourner leur business model, il faut bien le prendre sur d’autre activités : ne rien faire, peut-être, ou lire, rêver, s’ennuyer, dormir. L’humanité dort aujourd’hui moins que jamais (1). Débrancher nos laisses numériques et se mettre sur position off deviendra-t-il le nouveau défi, le geste indispensable pour se protéger d’un bombardement suggestif chaque jour plus finement intersticiel, de moins en moins repérable dans la trame de nos activités ? Qui songe, tandis qu’il rafraîchit compulsivement son fil Twitter ou son Instagram, à toute l’intelligence mise en oeuvre pour construire ces pièges à attention ?
Giorgio Agamben a décrit cette subtile aliénation avec un humour grinçant : « Ces dispositifs sont définis par le fait que le sujet qui les utilise croit les commander (et, en effet, il presse des touches définies comme “commandes”), mais en réalité, il ne fait qu’obéir à un commandement inscrit dans la structure même du dispositif. Le citoyen libre des sociétés démocratico-technologiques est un être qui obéit sans cesse dans le geste même par lequel il donne un commandement. » (2)
*
J’en entends parler tous les jours : la flambée des usages de l’IA dans nos sociétés bureaucratiques, où sévit depuis des décennies une épidémie d’évaluation, de reporting, de production de documents inutiles que personne ne lit jamais, aboutit à cette drôle d’impasse : des humains qui travaillent pour nourrir des IA, qui produiront de nouvelles données destinées à nourrir d'autres IA. La boucle se boucle. Mais, à part faire chauffer des processeurs, quel est le sens de tout ça ?
Une hypothèse : il se pourrait bien que l’humanité soit en voie de peterisation. Peut-être qu’en réalité les hommes ne sont pas assez intelligents, et sages, pour réserver ces puissances de mémoire et de calcul monstrueusement gourmandes en ressources à des fins d’intérêt général. Nous sommes entrés en territoire inconnu. Les IA peuvent-elles même encore être qualifiées d’outils quand les ingénieurs qui les conçoivent sont eux-mêmes surpris, et reconnaissent ne pas savoir expliquer comment exactement elles fonctionnent, pourquoi elles produisent tel résultat plutôt que tel autre ?
Oh la Machine a son utilité bien entendu — faire le travail à notre place — c'est le propre de la machine, n'est-ce pas, sa raison d'être fondamentale. Mais nous voyons le glissement. Ce n’est pas l’utilité qui importe, nous le savons, mais derrière l’entertainment et la promesse d’efficacité, seul compte le profit, et le pouvoir. Bien sûr, vous entendez les arguments d’usage : l'IA est indispensable puisqu'il y a des points de PIB à la clé. On ira plus vite, on pourra accélérer notre accélération. Cela créera des emplois (hum). On pourra déléguer à la machine les tâches à faible valeur ajoutée et l’humanité pourra, enfin, se consacrer aux « choses importantes » (ah ah). On pourra vivre mieux et plus longtemps (mais surtout Xi, Elon et Vladimir, hein). L'intelligence générative générale réglera les problèmes du climat. Vous ne le croyez pas ? Vous persiflez ? Alors quoi : seriez-vous donc un ennemi du Progrès ?
Ubu décidément est bien le roi. Car il faut tout de même une foi bien aveugle pour croire que la construction frénétique, partout sur la planète, des grilles-pains géants que sont les datacenters, ces chaufferies atmosphériques massives, ces bombes climatiques (indispensables néanmoins pour générer des images révisionnistes, démultiplier universellement la propagande suprémaciste, masculiniste ou jihadiste, faire miroiter des fortune en bitcoins et créer à la volée de nouvelles machinations complotistes, en somme la production massive d’une pornographie mentale déshumanisante) résoudra les problèmes de l’heure.
J’exagère ? Peut-être. Franchement, je l’espère de tout coeur. Mais il faut bien constater que, par un renversement logique bien connu, la fuite en avant technologique que l’on nous présente comme solution miraculeuse, est déjà, par toute la voracité qui s’y exprime, et qu’elle libère, l’un des plus épineux problème que nous ayons collectivement à résoudre.
Attachez vos ceintures. Le bras est dans l'engrenage. On y va. Brave new world.
* En moyenne, Les Français dorment une heure à une heure trente de moins qu’il y a cinquante ans (source Bulletin épidémiologique hebdomadaire du 12 mars 2019).
** Giorgio Agamben, Création et anarchie, l’oeuvre à l’âge de la religion capitaliste, Bibliothèque Rivages.
Merci pour cet excellent article Marc ! En souhaitant qu'il ait été écrit par une intelligence humaine sans aide de l'IA !? Et dommage que je ne sois pas sur les réseaux sociaux, j'aurais partagé avec enthousiasme ton billet :)