0.4Forces & limites : hallucinations, biais, fraîcheur des données
L'erreur la plus coûteuse avec l'IA n'est pas de mal prompter : c'est de croire une réponse fausse. Les LLM produisent des hallucinations — chiffres inventés, références inexistantes, affirmations plausibles mais fausses — livrées sur le même ton assuré que les réponses justes. S'y ajoutent les biais hérités des données d'entraînement et la fraîcheur limitée (le modèle a une date de coupure de connaissances).
Vous apprendrez à repérer les situations à risque (faits précis, chiffres, citations, droit, actualité), les techniques de réduction (demander les sources, faire dire « je ne sais pas », croiser deux outils) et le principe de gouvernance personnelle : plus l'enjeu est fort, plus la vérification est lourde.
Vocabulaire de la section
- Hallucination
- Contenu inventé présenté comme un fait : références fictives, chiffres faux, événements imaginaires — indétectable au ton.
- Biais
- Distorsions héritées des données d'entraînement : stéréotypes, surreprésentation de certains points de vue, angles culturels.
- Date de coupure
- La limite temporelle des connaissances du modèle. Les assistants avec recherche web la contournent — en citant alors leurs sources.
- Zone à risque
- Les demandes où l'hallucination est probable et coûteuse : chiffres précis, citations, jurisprudence, références bibliographiques, actualité.
- Vérification proportionnée
- La règle d'or : e-mail interne = relecture rapide ; document engageant = vérification systématique de chaque fait.
Les zones où l'IA se trompe le plus souvent sont…
