هلوسة الذكاء الاصطناعي: لماذا قد يلخّص كتاباً غير موجود؟

انتقل إلى المحتوى

الذكاء الاصطناعي ببساطة2 دقائق قراءة

هلوسة الذكاء الاصطناعي: لماذا قد يلخّص كتاباً غير موجود؟

اطلب ملخّص كتاب بعنوان مخترع: قد يقدّم لك المساعد ملخّصاً واسم مؤلف وتاريخ نشر. هذا ما يسمّى «الهلوسة».

هلوسة الذكاء الاصطناعي: لماذا قد يلخّص كتاباً غير موجود؟

من أين تأتي المشكلة؟

النموذج اللغوي ينتج تتمّة النص الأكثر معقولية. ليست لديه «قاعدة حقائق» يراجعها: وحين لا يعرف قد ينتج مع ذلك جواباً يبدو صحيحاً.

الحالات الخطرة

  • المراجع والكتب والمقالات والروابط الدقيقة.
  • الأرقام والتواريخ والاقتباسات.
  • الأسئلة القانونية والطبية والمالية.

كيف تحمي نفسك؟

  • اطلب المصادر وافتحها بنفسك.
  • اسمح له في طلبك بأن يقول «لا أعرف».
  • تحقّق من كل معلومة مهمّة في موقع موثوق.

أسئلة شائعة

هل ما زالت النماذج الجديدة تهلوس؟

بدرجة أقل، خاصة حين تبحث في الويب، لكن الخطر لم يختفِ.