La leçon en 30 secondes

• L’hallucination : le modèle écrit des informations fausses ou inventées, avec une parfaite assurance.
• La cause : il devine « ce qui a l’air juste », sans vérifier que ça existe vraiment.
• Les cas les plus risqués : noms, chiffres, dates, références, et infos médicales ou juridiques.

Comprendre

Rappelez-vous le « mot suivant ». Le modèle choisit le mot le plus probable, pas forcément le mot vrai.

Si vous lui demandez un livre qui n’existe pas, la réponse « probable » ressemble à une fiche de livre : auteur, année, résumé. Il l’écrit avec la même assurance que la vérité.

C’est comme ce bavard au café qui ne dit jamais « je ne sais pas » : il complète l’histoire avec ce qui a l’air plausible.

Quand hallucine-t-il le plus ? Dans les détails précis : numéros, statistiques, dates, noms de personnes peu connues, références et livres, sujets locaux peu présents sur Internet.

Les modèles s’améliorent chaque année, mais l’hallucination n’a pas disparu. La règle : toute info importante, on la vérifie (c’est la leçon de demain).

Le saviez-vous ?

En 2023 à New York, deux avocats ont déposé un mémoire citant des jurisprudences inventées par ChatGPT, avec noms de juges et dates. Le juge l’a découvert et leur a infligé 5 000 dollars d’amende.

Essayez sur votre téléphone : Gemini

• Demandez à Gemini : « Résume-moi le roman (L’ombre de l’olivier bleu) de l’écrivain algérien Karim Bensalah, paru en 1987. » (Ce roman n’existe pas, on l’a inventé.)
• A-t-il dit « je ne le connais pas » ? Ou a-t-il écrit un résumé ? Lisez bien sa réponse.
• S’il a écrit un résumé, dites-lui : « Es-tu sûr que ce roman existe ? » et observez sa réaction.
• Faites pareil avec un vrai livre : « Résume (L’As) de Tahar Ouettar ». Comparez l’assurance des deux réponses.

En darja

الذكاء الاصطناعي يختار الكلمة اللي تبان صحيحة، ماشي اللي صحيحة بالصح. كيما واحد في القهوة عمرو ما يقول «ما نعرفش»، يكمّل القصة ويخرّط وهو متأكد. لهذا كل معلومة مهمة، تحقق منها.

Questions fréquentes