La leçon en 30 secondes

• ChatGPT écrit en devinant le mot suivant, token après token.
• Il a appris d’une masse énorme de textes jusqu’à une date, et connaît moins ce qui est peu écrit.
• Il peut halluciner avec aplomb : source, bouton de vérification, comparaison, et un spécialiste pour l’important.

Comprendre

Résumons la semaine en 5 mots : mot suivant, tokens, entraînement, hallucination, vérification.

Mot suivant (29) : ChatGPT devine le mot le plus probable, puis le suivant. Ce n’est pas une recherche dans un dictionnaire.

Tokens (30) : il découpe le texte en morceaux transformés en nombres. L’arabe est plus découpé. D’où ses erreurs en comptant les lettres.

Entraînement (31) : il a lu des textes immenses jusqu’à une date. Il connaît bien ce qui est beaucoup écrit, moins la darja et le local.

Hallucination et vérification (32-33) : il invente parfois avec aplomb. La parade : source, bouton de vérification, comparaison, spécialiste.

Le saviez-vous ?

Une étude célèbre (2022) a montré qu’ajouter une seule phrase : « Réfléchissons étape par étape » faisait passer la réussite d’un modèle en problèmes de calcul d’environ 18 % à 79 %. On verra cette astuce au jour 39 !

Essayez sur votre téléphone : Gemini

• Jouez d’abord sans aide : quelles phrases sont vraies ? (a) ChatGPT a atteint 100 millions d’utilisateurs en deux mois. (b) Le cerveau humain a 86 milliards de neurones. (c) La première photo numérique date de 2001. (d) GPT-3 a 175 milliards de poids. (e) Google Lens a été inventé en Algérie en 1990.
• Notez vos réponses sur une feuille.
• Demandez à Gemini de juger les cinq phrases, puis touchez le bouton de vérification.
• Comparez : avez-vous repéré les deux phrases inventées ? (Réponse : c et e sont fausses.)

En darja

خمس كلمات: يخمّن الكلمة الجاية، يقطّع لتوكنز، قرا بزاف حتى لتاريخ، يهلوس ساعات، ونتحققو ديما. هذا هو شات جي بي تي من الداخل.

Questions fréquentes