La leçon en 30 secondes

• Une IA ne connaît que ce qu’elle a vu dans ses exemples.
• Si un groupe de personnes manque dans les exemples, elle se trompe plus avec lui : c’est le biais.
• La solution : des exemples qui représentent tout le monde, et des tests avec des personnes variées.

Comprendre

Une IA n’est ni raciste ni injuste par volonté. Mais elle est le miroir de ses exemples : elle connaît bien ce qu’elle a beaucoup vu, et se trompe sur le reste.

Si un système de visages s’entraîne surtout sur un type de personnes, il se trompera davantage sur les autres. C’est le biais.

Chez nous : une reconnaissance vocale entraînée sur le français de Paris aura du mal avec l’accent de Sétif ou de Tamanrasset.

Les conséquences sont réelles : un crédit refusé, une porte qui ne s’ouvre pas, une personne accusée à tort… parce que les données étaient incomplètes.

La solution : des exemples de tout le monde (âges, couleurs, accents), et tester le système avec des personnes variées avant de l’utiliser.

Le saviez-vous ?

En 2018, l’étude « Gender Shades » du MIT a montré que des logiciels d’analyse de visages de grandes entreprises se trompaient jusqu’à 34,7 % sur les femmes à peau foncée, contre 0,8 % sur les hommes à peau claire.

Essayez sur votre téléphone : Teachable Machine

• Entraînez votre projet avec uniquement votre main, au même endroit et sous la même lumière.
• Demandez à quelqu’un d’autre (sœur, père, voisin) d’essayer avec sa main. La reconnaît-elle avec la même confiance ?
• Essayez aussi dans une pièce sombre. Que se passe-t-il ?
• Ajoutez maintenant des images de la main de l’autre personne et dans le noir, réentraînez. Le biais a-t-il disparu ?

En darja

الذكاء الاصطناعي مراية للأمثلة تاعو. إذا ما شافش ناس من نوع، يغلط معاهم. هذا هو الانحياز، والحل: أمثلة من قاع الناس.

Questions fréquentes