الدرس في 30 ثانية

• الذكاء الاصطناعي يعرف فقط ما رآه في أمثلته.
• إذا غابت فئة من الناس عن الأمثلة، يخطئ معها أكثر: هذا هو الانحياز.
• الحل: أمثلة تمثّل الجميع، واختبار مع أشخاص مختلفين.

افهم

الذكاء الاصطناعي ليس عنصرياً ولا ظالماً بإرادته. لكنه مرآة لأمثلته: يعرف جيداً ما رآه كثيراً، ويخطئ مع ما لم يره.

إذا تدرّب نظام وجوه على صور فيها أغلبية من نوع واحد من الناس، فسيخطئ أكثر مع الآخرين. هذا اسمه الانحياز.

ومن عندنا: نظام للتعرف على الصوت تدرّب على الفرنسية الباريسية سيجد صعوبة مع لهجة سطيف أو تمنراست.

والعواقب حقيقية: بنك يرفض قرضاً، باب لا يفتح، شخص يُتّهم خطأً… لأن البيانات كانت ناقصة.

الحل: أمثلة من كل الناس (أعمار، ألوان، لهجات)، واختبار النظام مع أشخاص مختلفين قبل استعماله.

هل تعلم؟

في 2018، أظهرت دراسة «Gender Shades» من MIT أن برامج تحليل الوجوه لشركات كبرى أخطأت حتى 34.7٪ مع النساء ذوات البشرة الداكنة، مقابل 0.8٪ فقط مع الرجال ذوي البشرة الفاتحة.

جرّب على هاتفك: Teachable Machine

• درّب مشروعك بصور يدك أنت فقط، في نفس المكان والإضاءة.
• اطلب من شخص آخر (أخت، أب، جار) أن يجرّب بيده. هل يعرفها بنفس الثقة؟
• جرّب أيضاً في غرفة مظلمة. ماذا يحدث؟
• الآن أضف صوراً ليد الشخص الآخر وفي الظلام، وأعد التدريب. هل اختفى الانحياز؟

بالدزيري

الذكاء الاصطناعي مراية للأمثلة تاعو. إذا ما شافش ناس من نوع، يغلط معاهم. هذا هو الانحياز، والحل: أمثلة من قاع الناس.

أسئلة شائعة