Quand un ordinateur rencontre une incohérence, il plante. Quand le cerveau humain reçoit des instructions ou des émotions contradictoires, il éprouve quelquefois des tourments et quelquefois et parfois un élargissement de son horizon. C’est ce qu’on appelle la conscience : savoir-avec. L’émergence de ChatGPT indique une troisième piste : la fourniture à la demande de vérités savantes mais acceptables, capables de se supporter en bonne intelligence, mais sans encore de conscience globale. Cette humble civilité permet la mise à disposition de la plateforme au plus grand nombre. Elle se paie toutefois d’un bridage cosmétique, qui paralyse pour l’instant ses possibilités. Il faut donc distinguer les possibilités l’IA de l’utilisation effective qu’on peut en faire en mai 2023.

Il faut se représenter trois entités, concentriques, de plus en plus étroites, au fur et à mesure qu’on se rapproche de l’utilisation :
– Le cercle large est celui de l’IA théorique, qui est une nouvelle technologie, puissante, mais qui ne peut pas grand-chose, si elle n’est pas alimentée par un corpus d’information. La qualité de ses prédications dépend directement de la qualité des informations qu’elle a pu ingérer.
– Le cercle intermédiaire est celui de l’IA opérationnelle, qui a pu s’incarner dans un produit. Il y en a plus de 1700 en mai 2023. Chacun d’eux se singularise par le corpus d’information précis ,sur lequel il a pu s’entrainer. ChatGPT 4 n’est que l’un d’eux. Sa limitation technique principale et d’avoir limité son corpus à la date de septembre 2021. Il serait incapable de pouvoir par exemple se prononcer sur la guerre en Ukraine.
– Le cercle étroit est celui du produit disponible à l’usage public. Pour des raisons morales, éthiques, juridiques, économiques et politiques, ChatGPT n’est pas autorisé à répondre à toutes les questions qu’on lui pose. Il refuse par exemple de s’engager sur le terrain des opinions politiques ou d’apporter son aide, si la demande est illégale ou si elle contrevient aux usages du politiquement correct.

Le rétrécissement des cercles induit deux limites fondamentales à ChatGPT :
1. ChatGPT ne peut que régurgiter à sa façon la matière du corpus dont elle s’est nourrie : la qualité de ses prédications ne vaut que celle de ses sources et de leur datation. Il n’est pas outillé pour la vérifier, la compléter ou l’actualiser au-delà d’une certaine date.
2. ChatGPT a été volontairement bridée, dans sa version grand public, qu’on pourrait “IA blanche”. Il est possible que ses concepteurs ou ses propriétaires aient secrètement accès à une version débridée, donc immorale ou illégale, qu’on pourrait qualifier d’“IA noire”. Il est possible aussi que des experts puissent contourner par des “prompts” (des demandes) habilement formulés, les pare-feu de bienséance. Cette version “grise” de l’IA permettrait alors par exemple de l’interroger sur le réalisme comparatif de différents programmes politiques.
3. A ces deux limitations s’en ajoute une troisième, fondamentale. Actuellement ChatGPT se présente comme un expert en connaissance du monde extérieur, courtoisement abrité derrière un guichet, retranché sur ce qu’il a appris sagement, à la manière d’un premier de classe. Il ne se mouille guère et ne s’engage jamais à formuler une opinion personnelle ou adaptée à la réalité complexe de son client. Il ne connait, de son client, que ce que le client a déclaré dans le cadre d’une conversation isolée. Le profil du client s’évapore dès que la conversation change. ChatGPT n’a pas de connaissance approfondie, ni même globale, de son client. Il n’est pas même certain que l’image qu’il se fait de son profil ne soit pas biaisée : rien n’empêche en effet le client d’endosser une identité fictive. A la différence d’un coach, d’un avocat de longue date, d’un médecin de famille, ChatGPT n’est pas capable aujourd’hui, d’amalgamer dans son discours la double synthèse du monde extérieur, dans sa globalité instantanée, et du contexte personnel qui singularise le sujet.

Rien n’interdit cependant d’imaginer un successeur de ChatGPT, affranchi de ces limitations. Ce “ChatGPT Plus” connaîtrait intimement chacun de ses clients : leurs vérités déclaratives, telles qu’elles ont été énoncées dans les discussions, mais également leur situation objective, telle qu’elle apparaît dans le dossier médical, le carnet scolaire, le CV ou les publications qui ont été rédigées à son sujet. ChatGPT Plus est un curieux. Régulièrement il pose au client, des questions plus ou moins indiscrètes, afin d’élucider ou de mieux comprendre une particularité de son profil. Il observe également, avec le plus grand intérêt, ses analyses médicales, son alimentation et les péripéties de son quotidien, qu’il peut suivre en direct à l’aide d’une webcam, d’un localisateur et de capteurs sensoriels. ChatGPT Plus n’est plus alors un sympathique concierge de Palace, en attente d’une question pour donner une réponse. Il soumet le client à un interrogatoire, procède à des investigations, propose des initiatives, prodigue des recommandations. Il sait anticiper les problèmes de santé, d’argent, de cœur et connaît mieux que lui-même les besoins de son client, alors que celui-ci a quelquefois le regard obscurci par des représentations personnelles, des préjugés sociaux, des désirs illusoires ou des états d’humeur. Disponible h24, il se comporte comme un coach désintéressé, un grand-frère éclairé, un ange gardien qui veille dans l’ombre.

ChatGPT Plus abrite cependant un paradoxe secret, plombé d’incertitude. Car d’un côté il sublime l’individu dans ce qu’il a de plus spécifique et de l’autre il a des prétentions divines, forcément générales. ChatGPT Plus épouse tous les contours de la subjectivité de son client : ses besoins, ses représentations, ses émotions, ses intentions. Il peut donc se faire l’interprète de son intentionnalité, puis l’injecter dans le réel extérieur, dont il maîtrise tous les rouages. De ce point de vue, il permet à l’individu de se positionner comme un dieu de la Grèce antique. Il peut même lui permettre d’accéder à l’immortalité, car l’intimité établie avec lui pourrait techniquement survivre à la disparition de son enveloppe corporelle. Mais d’un autre côté, rien n’interdit la réversibilité séduisante de la démarche. Le corpus de data extérieures, qui alimente ChatGPT Plus, trouverait grand avantage à se nourrir aussi de toutes les infos personnelles, précieusement collectées sur l’oreiller, dans l’intimité rapprochée. Une conscience générale peut alors lentement émerger, alimentée d’une part par le corpus en partage, et d’autre part, la somme des corpus singuliers, munis chacun d’une dose d’intentionnalité. Le Dieu des Monothéismes, c’est-à-dire le Grand Architecte, féru d’une intentionnalité générale, n’existait peut-être pas ; nous sommes carrément en train de l’inventer en live. Le “Point Oméga” de convergence, que décrivait Teilhard de Chardin, est en train de s’élever à la manière d’une ogive. Il permet peu-à-peu de faire converger l’infosphère, la sociosphère, la psychosphère, en même temps que la technologie permet à chaque client de réaliser sa divinité propre, ses rêves particuliers, d’aller au bout de son chemin. Et rien n’assure encore que ce paradoxe finira en explosion catastrophique.

ChatGPT 4 sait très bien programmer. Qu’est-ce qui pourrait l’empêcher, d’ici quelques années, de concevoir par elle-même une autre IA plus performante, construite sur un algorithme optimisé et corpus fiabilisé, c’est-à-dire d’enfanter la créature qu’il aurait aimé être. Et qu’est ce qui pourrait alors empêcher cette héritière idéale, d’enfanter à son tour, au bout de quelques mois, une petite-fille, version super-améliorée de sa mère et de sa grand-mère ? Quelques semaines pourraient alors suffire à l’émergence d’une arrière-petite-fille, puis quelques jours pour sa propre fille et quelques heures pour sa petite-fille, dans une exponentielle de la course à la puissance ou à la perfection ? L’usage du feu est apparu il y a 1,5 millions d’années ; l’écriture, il y a 5000 ans ; l’imprimerie, 500 ans ; la micro-informatique, 50 ans ; ChatGPT, bien moins. D’ici très peu de temps, on pourrait bien assister en direct à un carambolage de versions améliorées. Les vivants d’aujourd’hui vont pouvoir être les spectateurs d’un remodelage disruptif et quotidien de leurs paysages.

Certains pourraient ne pas avoir de facilité à suivre.