Le 22 juin 2023, un avocat new-yorkais avec trente ans de barreau se fait humilier devant un tribunal fédéral. Son tort : avoir déposé un mémoire citant six décisions de justice. Noms de juges, numéros de dossiers, extraits. Tout était faux. Aucune de ces affaires n’existait. Il les avait demandées à ChatGPT, qui les avait inventées sans la moindre hésitation, et qui, mieux encore, lui avait confirmé qu’elles étaient authentiques quand il avait demandé à vérifier.

Cette affaire, Mata contre Avianca, est devenue le cas d’école qu’on cite partout. Mais elle n’est pas isolée, et c’est ça qui devrait retenir l’attention d’un dirigeant. Huit mois plus tard, en février 2024, un tribunal canadien a condamné Air Canada parce que son chatbot avait promis à un voyageur un tarif de deuil qui n’existait pas dans les conditions de la compagnie. La défense d’Air Canada tenait en une idée presque comique : le chatbot serait une entité distincte, responsable de ses propres propos. Le tribunal a tranché net. L’entreprise répond de ce que dit sa machine.

Deux secteurs, deux pays, le même piège. Une IA générative peut produire un faux parfait, avec une confiance parfaite. On appelle ça une hallucination, et tant qu’on n’a pas compris d’où ça vient, on ne peut pas s’en protéger.

Ce que fait vraiment la machine quand elle hallucine

Le mot hallucination est trompeur, parce qu’il laisse croire à un bug, à un accident. Ce n’en est pas un. La machine fait exactement ce pour quoi elle est construite.

Un modèle de langage ne consulte pas une base de vérité avant de répondre. Il prédit, mot après mot, la suite la plus probable à partir de l’immense quantité de textes sur lesquels il a été entraîné. La plupart du temps, le plus probable est aussi le plus vrai, et c’est pour ça que ça marche si souvent. Mais quand l’information n’existe pas, ou que le modèle ne l’a pas, il ne s’arrête pas pour le dire. Il continue de prédire du plausible. Une jurisprudence qui ressemble à une vraie jurisprudence. Un tarif qui a la forme d’un vrai tarif. Une citation bien tournée attribuée à quelqu’un qui ne l’a jamais prononcée.

Le résultat est crédible parce qu’il est conçu pour être crédible, pas pour être exact. C’est là toute la différence, et c’est là tout le danger. L’erreur d’un stagiaire se repère : il hésite, il bafouille, il dit qu’il n’est pas sûr. L’erreur d’une IA arrive habillée comme une certitude, dans une phrase impeccable.

Pourquoi c’est un risque de dirigeant, pas un détail technique

Une hallucination n’est dangereuse que si personne ne la rattrape. Et dans une entreprise pressée, personne ne rattrape ce qui est bien écrit.

C’est encore plus vrai dans une PME, où la décision se concentre souvent sur une seule personne, sans service juridique pour relire, sans comité pour filtrer. On demande à l’outil une synthèse, un argumentaire, une note, et on l’utilise telle quelle parce qu’elle est propre et qu’on manque de temps. Le jour où la synthèse contenait une donnée inventée, c’est l’entreprise qui la porte, pas la machine. Air Canada l’a appris à ses dépens.

Les zones sensibles reviennent toujours aux mêmes endroits. Le droit et le contrat, où une référence fausse peut coûter une procédure. Les chiffres, où un montant plausible n’est pas un montant juste. Les faits datés, les noms, les citations, que le modèle reconstitue volontiers de mémoire. Et tout ce qui sera lu par un client ou un tiers, parce que c’est là que l’erreur devient publique.

Comment s’en protéger sans renoncer à l’outil

La bonne nouvelle, c’est que la parade n’est pas technique. Elle est organisationnelle, et elle tient en quelques règles simples qu’un dirigeant peut poser en une réunion.

La première règle, je l’appelle la source ou le silence. Une réponse qui avance un fait nouveau doit pouvoir indiquer d’où il vient. Pas de source vérifiable, pas de reprise à son compte. Une affirmation sans origine n’est pas une réponse, c’est une hypothèse bien habillée, et on la traite comme telle.

La deuxième, c’est de trier les usages selon le risque. Pour reformuler, structurer, traduire, résumer un document que vous fournissez vous-même, le risque est faible et l’IA est excellente : on l’utilise largement. Pour produire un fait, une source, une donnée chiffrée, le risque grimpe et la vérification devient obligatoire. Cette frontière, chacun dans l’entreprise doit la connaître.

La troisième, c’est de garder l’humain sur les décisions qui engagent. La machine prépare, l’humain tranche et signe. Ce n’est pas un manque de confiance dans l’outil, c’est la reconnaissance de ce qu’il est : un exécutant brillant et sans jugement.

L’avocat de l’affaire Avianca, d’ailleurs, n’a pas arrêté d’utiliser l’IA après sa mésaventure. Il a appris à vérifier chaque référence à la main. Il n’a pas changé d’outil, il a changé d’usage. C’est exactement la leçon.

Le vrai sujet n’est pas la machine, c’est nous

Je le répète souvent à mes étudiants et aux dirigeants que je forme : le problème n’est pas que l’IA se trompe, c’est qu’elle se trompe avec assurance, et que nous avons tendance à confondre l’assurance et la justesse. Toute notre éducation nous a appris à faire confiance à un texte bien écrit. La machine retourne ce réflexe contre nous.

Apprendre à s’en servir, c’est apprendre à séparer deux choses que l’outil mélange en permanence : ce qui est dit avec aplomb, et ce qui est vrai. Une entreprise qui pose cette distinction clairement gagne sur les deux tableaux, la vitesse de l’outil et la sécurité de ses décisions. Une entreprise qui l’ignore prend, sans le voir, le risque qu’a pris Air Canada : laisser une machine parler en son nom, et découvrir trop tard qu’elle a parlé faux.