Une machine aligne aujourd’hui des phrases plus justes, plus rapides et souvent plus claires que les miennes. La tentation est grande d’en conclure qu’elle pense. Je crois que c’est une erreur, et surtout qu’elle a des conséquences très concrètes sur la façon dont on s’en sert au quotidien.
Prédire n’est pas comprendre
Penser, ce n’est pas produire des phrases correctes. Une IA générative fonctionne en prédisant le mot suivant à partir de l’immense masse de textes qu’elle a absorbés. Elle est extraordinairement douée à ce jeu, au point que le résultat ressemble à s’y méprendre à un raisonnement. Mais elle ne sait pas de quoi elle parle. Elle n’a ni monde, ni intention, ni rien en jeu.
Des chercheuses ont proposé, dès 2021, une image qui a fait fortune pour décrire ce mécanisme : celle du perroquet savant, qui recombine avec brio ce qu’il a entendu, sans rien comprendre de ce qu’il dit. L’image est un peu réductrice, parce que ces systèmes font plus que répéter, mais elle pointe juste sur l’essentiel. La fluidité n’est pas la compréhension. On peut produire un discours parfait sur un sujet qu’on ne saisit pas, et c’est exactement ce que fait la machine, à une échelle vertigineuse.
La preuve la plus simple, c’est qu’elle vous servira une affirmation fausse avec le même aplomb qu’une vérité. Elle ne préfère pas le vrai au faux, parce que préférer suppose de comprendre l’enjeu, et elle n’en a aucun. Ce n’est pas de la pensée, c’est de la production de langage vraisemblable.
Pourquoi cette distinction est pratique, et pas que philosophique
On pourrait croire que tout ceci occupe les philosophes et n’a aucun effet sur la vie d’une entreprise. C’est faux, et je le vois chaque semaine, parce que la réponse qu’on donne à cette question change ce qu’on attend de l’outil.
Si je crois que la machine pense, je lui fais confiance comme à un expert. Je prends sa réponse pour un avis autorisé, je m’y range, je décide sur sa parole. Si je sais qu’elle prédit du plausible sans rien comprendre, je l’utilise tout autrement, comme un assistant brillant mais sans jugement, dont je récolte la matière et dont je vérifie systématiquement ce qui engage. La même phrase, sortie de la même machine, n’a pas le même poids selon ce que je crois qu’elle est. Toute la différence entre subir l’outil et s’en servir tient dans cette croyance, le plus souvent implicite.
C’est pour ça que, dans mes interventions, je commence par cette question avant de toucher au moindre outil. Parce qu’une fois qu’on a vraiment intégré que la machine ne comprend pas, on cesse de la traiter en oracle, et on commence à s’en servir intelligemment.
L’intelligence reste de votre côté
Le vrai sujet, au fond, n’est pas de savoir si la machine pense. C’est de garder à l’esprit que l’intelligence, dans la boucle, reste la vôtre. Celle qui décide quelle question poser. Celle qui repère quand une réponse sonne juste mais tombe à côté. Celle qui tranche en assumant. La machine fournit la matière à une vitesse stupéfiante. Le sens, c’est vous qui le mettez, et personne d’autre.
On gagnera beaucoup à arrêter de se demander, fascinés ou inquiets, si la machine va se mettre à penser, et à se demander plutôt ce qu’elle nous fait à nous, quand on lui laisse trop de place dans nos raisonnements. La première question est spectaculaire et lointaine. La seconde est modeste, immédiate, et c’est la seule qui change quelque chose à la façon dont vous déciderez demain matin.