Pascal a écrit une phrase que tout le monde croit connaître, et que presque personne ne lit vraiment. L’homme n’est qu’un roseau, le plus faible de la nature, mais c’est un roseau pensant. Et il ajoute, dans la foulée, que toute notre dignité consiste en la pensée, que c’est par elle que nous valons, et non par l’espace ou le temps que nous occupons.

Je reviens souvent à ces lignes depuis qu’existent des machines qui semblent penser. Parce qu’elles posent, à trois siècles et demi de distance, la question exacte de notre époque. Si une machine produit des phrases plus justes que les miennes, plus rapides, mieux documentées, qu’est-ce qui me reste ? Où est passée la dignité du roseau, si même sa pensée se trouve dépassée par un calcul ?

C’est une vraie question, et je trouve qu’on la traite mal, partagé qu’on est entre l’émerveillement béat et la panique. Pascal, lui, aide à la poser correctement.

Produire des phrases n’est pas penser

Une IA générative aligne des mots avec une aisance qui humilie. Elle résume, elle traduit, elle reformule, elle argumente dans les deux sens. Sur le terrain du langage produit, elle nous dépasse souvent, et il serait puéril de le nier.

Mais Pascal ne parlait pas de produire des phrases. Il parlait de penser, c’est-à-dire de savoir qu’on pense. De cette conscience étrange qui fait que le roseau, en pliant sous le vent, sent qu’il plie, sait qu’il est fragile, et sait qu’il va mourir. La pensée, pour Pascal, n’est pas une performance, c’est un rapport à soi et au monde, doublé de la conscience de sa propre fin.

La machine ne sait pas qu’elle produit. Elle n’a pas de monde, pas d’enjeu, rien à perdre. Elle ne plie pas, elle calcule. Lui demander une vérité ou un mensonge revient au même pour elle : elle aligne le plausible, sans préférer l’un à l’autre, parce qu’elle n’a pas de raison de préférer quoi que ce soit. Confondre cette fluidité avec de la pensée, c’est l’erreur centrale de notre temps, et elle a des conséquences très concrètes.

La conséquence pratique d’une question philosophique

On pourrait croire que tout ceci est affaire de philosophes, sans effet sur la vie réelle. C’est faux, et je le vois chaque semaine.

Si je crois que la machine pense, je lui fais confiance comme à un expert. Je prends sa réponse pour un avis, je m’y range, je décide sur sa parole. Si je sais qu’elle prédit du plausible sans rien comprendre, je l’utilise tout autrement : comme un assistant brillant mais sans jugement, dont je récolte la matière et dont je vérifie ce qui engage. La même phrase produite par la machine n’a pas le même poids selon ce que je crois qu’elle est. Toute la différence entre subir l’outil et s’en servir tient dans cette croyance.

C’est pour ça que je commence toujours mes interventions par cette question, est-ce que la machine pense, avant de toucher au moindre outil. Parce que la réponse qu’on y donne, même implicite, décide de tout le reste.

Le vrai risque, et il n’est pas celui qu’on croit

On s’inquiète beaucoup de savoir si la machine va se mettre à penser, à s’éveiller, à nous dépasser. Je crois qu’on se trompe de peur.

Le vrai risque est plus modeste et plus immédiat. C’est que nous, nous arrêtions de penser. Quand un outil donne la réponse avant même qu’on ait formulé la question, l’effort de penser devient facultatif. Et ce qui devient facultatif s’atrophie, doucement, sans qu’on le remarque. On délègue d’abord les calculs, puis les formulations, puis les raisonnements, et un matin on s’aperçoit qu’on ne sait plus tenir une idée tout seul. Le danger n’est pas une machine qui s’éveille. C’est un roseau qui range sa pensée parce qu’une machine s’en charge, et qui perd, avec elle, ce qui faisait sa dignité.

Garder la dignité du roseau

Tout l’enjeu tient là, et il est étonnamment pratique. Se servir de la machine pour ce qu’elle fait mieux que nous, et garder jalousement ce qui ne se délègue pas. Le calcul, oui. Le jugement, non. La phrase, volontiers. Le sens qu’on lui donne, jamais.

Pascal n’a pas connu nos machines, et il aurait été le premier fasciné par leur puissance. Mais il avait compris l’essentiel bien avant nous. Ce qui nous fait tenir debout n’est pas notre force, puisque nous sommes le plus faible des roseaux. C’est notre conscience, y compris la conscience de notre faiblesse. Aucune machine n’a cela, aussi éloquente soit-elle. C’est peut-être tout ce que nous avons à défendre face à elles. À bien y regarder, c’est largement assez.