الدرس في 30 ثانية

• الشبكة لا «تفهم» مثلنا: تتعرّف على أنماط في الأرقام.
• تغييرات صغيرة جداً في الأرقام قد تقلب جوابها، حتى إن لم تتغيّر الصورة لعيننا.
• لهذا لا نثق ثقة عمياء: الذكاء الاصطناعي أداة قوية، لكنها تخطئ بثقة.

افهم

رأينا هذا الأسبوع كم الشبكات العصبية قوية. اليوم نرى جانبها الضعيف، لأن المستعمل الذكي يعرف حدود أداته.

تذكّر: الصورة أرقام، والشبكة ترى أنماطاً في الأرقام، لا «باندا» بمعناها عندنا.

إذا غيّرنا الأرقام بطريقة محسوبة، ولو قليلاً جداً، قد ننقل الصورة عند الشبكة من خانة إلى خانة دون أن تتغيّر لعيننا.

وأحياناً تتعلم الشبكة طريقاً مختصراً خاطئاً: مثلاً تتعرّف على «بقرة» من العشب الأخضر حولها، فإذا رأت بقرة على الشاطئ… لم تعرفها!

الدرس: الذكاء الاصطناعي يخطئ بثقة. الرقم «99٪» لا يعني أنه على حق. في القرارات المهمة (صحة، مال، قانون)، الإنسان يراجع دائماً.

هل تعلم؟

في تجربة شهيرة سنة 2014، صنّفت شبكة صورة باندا بثقة 57.7٪. وبعد إضافة تشويش غير مرئي، قالت إنها «قرد جيبون» بثقة 99.3٪، والصورتان متطابقتان لعين الإنسان.

جرّب على هاتفك: Google Lens

• افتح Google Lens ووجّهه إلى كأس أو قلم على الطاولة: لاحظ تخمينه.
• الآن صعّب عليه: الشيء مقلوب، أو نصفه مخفي بيدك، أو في ظل قوي، أو بجانب أشياء غريبة.
• جرّب صورة لرسمة كاريكاتورية لحيوان. هل يعرفها؟
• سجّل: متى أخطأ؟ وهل أخطأ وهو «واثق»؟

بالدزيري

الذكاء الاصطناعي يشوف أرقام، ماشي باندا. نبدلو الأرقام شوية برك، يقلب الجواب. وساعات يتعلم طريق مختصر غالط: البقرة مع الحشيش. الخلاصة: يغلط وهو متأكد، والإنسان لازم يراجع.

أسئلة شائعة