Hallucinations de l’IA : pourquoi elle peut résumer un livre qui n’existe pas
Demandez le résumé d’un livre au titre inventé : il arrive qu’un assistant IA fournisse un résumé, un auteur et une date. C’est ce qu’on appelle une hallucination.
D’où vient le problème
Un modèle de langage produit la suite de texte la plus plausible. Il n’a pas de « base de faits » qu’il consulte : quand il ne sait pas, il peut quand même produire une réponse qui a l’air vraie.
Les situations à risque
- Références, livres, articles et liens précis.
- Chiffres, dates et citations.
- Questions juridiques, médicales ou financières.
Comment s’en protéger
- Demandez les sources et ouvrez-les vous-même.
- Autorisez-le à dire « je ne sais pas » dans votre demande.
- Vérifiez toute information importante sur un site fiable.
Questions fréquentes
Les nouveaux modèles hallucinent-ils encore ?
Moins souvent, surtout quand ils peuvent chercher sur le web, mais le risque n’a pas disparu.
À lire aussi
Google Lens : traduire n’importe quel texte avec la caméra du téléphone
Mode d’emploi de la traduction instantanée de Google Lens : menus, notices, emballages, panneaux, gratuitement sur Android et iPhone.
Lire l’article
SMS « vous avez gagné » : l’arnaque qui demande votre code de carte
Les faux messages de gain écrits par IA sont désormais sans fautes. Comment reconnaître l’hameçonnage par SMS et protéger votre carte.
Lire l’article
Que veut dire GPT ? Les trois mots derrière ChatGPT
GPT signifie Generative Pre-trained Transformer. Explication simple de chaque mot et de ce qu’il dit du fonctionnement de ChatGPT.
Lire l’article