Pourquoi un modèle affirme sans savoir
Un modèle de langage n'a pas de mécanisme interne qui distingue « je sais » de « je devine ». Il produit la continuation la plus vraisemblable compte tenu du contexte. Quand l'information manque, la continuation la plus vraisemblable reste une phrase bien formée et assurée — pas un aveu d'ignorance.
Le phénomène s'aggrave sur ce qui est rare et précis : une petite entreprise, un praticien, une référence locale. Plus la matière est mince, plus le modèle comble.
Les formes qui touchent les entreprises
- Le comblement de vide. Horaires, tarifs, délais ou prestations plausibles mais inventés, faute de source.
- La confusion d'entités. Deux structures au nom voisin fusionnées en une, avec les avis de l'une attribués à l'autre.
- L'attribution erronée. Une prestation, une certification ou un incident rattachés à la mauvaise société.
- La source fantôme. Un lien ou une référence qui n'existe pas, produit parce qu'il ressemble à ce qui devrait exister.
Ce qui protège, vraiment
La protection n'est pas juridique en premier lieu, elle est informationnelle : ne pas laisser de vide. Une information publiée noir sur blanc, au même libellé, sur le site, les fiches et les annuaires, laisse peu de place au comblement. Une entité correctement désambiguïsée protège de la fusion. Et un suivi régulier des réponses permet de repérer une erreur avant qu'elle ne circule.
FAQ Questions fréquentes
Peut-on faire corriger une information fausse sur son entreprise ?
Le RAG supprime-t-il les hallucinations ?
Pour aller plus loin
- Une IA raconte du faux sur votre entreprise : les recours existent, et un détail change tout
- L'IA répond, on acquiesce. Sommes-nous en train de perdre la remise en question ?
- Les IA peuvent inventer. Voici pourquoi il ne faut jamais les croire sur parole
Savez-vous ce que les IA disent de votre marque ?
Recevez un audit de votre visibilité dans ChatGPT, Perplexity, Gemini et Claude.