الذكاء الاصطناعي ببساطة5 أكتوبر 20262 دقائق قراءة

قد يخطئ الذكاء الاصطناعي بثقة: كيف تتحقّق

قد يخترع مساعد الذكاء الاصطناعي معلومة أو تاريخاً أو حتى مصدراً، ويؤكّده بثقة تامّة. يسمّى ذلك «هلوسة».

لماذا يحدث؟

يتنبّأ النموذج بالكلمات الأكثر احتمالاً، ولا يرجع دائماً إلى قاعدة وقائع. وحين لا يعرف قد «يملأ» الفراغ بإجابة معقولة الشكل.

اسأل الذكاء الاصطناعي: «ما الأجزاء غير المؤكّدة في إجابتك؟» غالباً ما يشير بنفسه إلى نقاط ضعفه.

هل تهلوس النماذج الجديدة أقلّ؟

عموماً نعم، لكن لا أحد منها في مأمن. ويبقى التحقّق ضرورياً.

يمكن للوكلاء الشراء وإرسال الرسائل والحجز. أربع قواعد لتبقى متحكّماً.

قصة جدّة سُجنت خطأً تذكّر بقاعدة: الذكاء الاصطناعي يقترح والإنسان يقرّر. ماذا يعني ذلك للمؤسسات؟

الذكاء الاصطناعي يكتب دون أخطاء: رسائل الاحتيال صارت تشبه الحقيقية. العلامات التي يجب التحقّق منها.