La leçon en 30 secondes

• Le réseau ne « comprend » pas comme nous : il repère des motifs dans les nombres.
• De tout petits changements dans les nombres peuvent renverser sa réponse, même si l’image ne change pas à nos yeux.
• D’où la règle : pas de confiance aveugle. L’IA est un outil puissant, mais elle se trompe avec assurance.

Comprendre

Cette semaine, on a vu la force des réseaux. Aujourd’hui, leur point faible, parce qu’un utilisateur malin connaît les limites de son outil.

Rappel : une image, ce sont des nombres, et le réseau voit des motifs dans les nombres, pas un « panda » au sens où nous l’entendons.

Si on change les nombres d’une façon calculée, même très peu, on peut faire passer l’image d’une case à l’autre pour le réseau, sans qu’elle change à nos yeux.

Parfois, le réseau apprend aussi un raccourci faux : il reconnaît une « vache » à l’herbe verte autour, et devant une vache sur la plage… il ne la reconnaît plus !

La leçon : l’IA se trompe avec assurance. « 99 % » ne veut pas dire qu’elle a raison. Pour les décisions importantes (santé, argent, justice), un humain vérifie toujours.

Le saviez-vous ?

Dans une expérience célèbre en 2014, un réseau classait une photo de panda à 57,7 %. Après ajout d’un bruit invisible, il y voyait un « gibbon » à 99,3 %, alors que les deux images sont identiques pour un humain.

Essayez sur votre téléphone : Google Lens

• Ouvrez Google Lens et visez un verre ou un stylo sur la table : notez sa réponse.
• Maintenant compliquez-lui la tâche : objet à l’envers, à moitié caché par votre main, dans une ombre forte, ou à côté d’objets bizarres.
• Essayez avec le dessin caricatural d’un animal. Le reconnaît-il ?
• Notez : quand s’est-il trompé ? Et s’est-il trompé en ayant l’air « sûr » ?

En darja

الذكاء الاصطناعي يشوف أرقام، ماشي باندا. نبدلو الأرقام شوية برك، يقلب الجواب. وساعات يتعلم طريق مختصر غالط: البقرة مع الحشيش. الخلاصة: يغلط وهو متأكد، والإنسان لازم يراجع.

Questions fréquentes