الدرس في 30 ثانية

• الهلوسة: النموذج يكتب معلومات خاطئة أو مخترعة، بثقة تامة.
• السبب: هو يخمّن «ما يبدو صحيحاً»، ولا يتحقق من أن الشيء موجود فعلاً.
• أخطر الحالات: الأسماء، الأرقام، التواريخ، المراجع، والمعلومات الطبية والقانونية.

افهم

تذكّر لعبة «الكلمة التالية». النموذج يختار الكلمة الأكثر احتمالاً، وليس الكلمة الصحيحة بالضرورة.

إذا سألته عن كتاب غير موجود، فالجواب «المحتمل» هو جواب يشبه وصف كتاب: مؤلف، سنة، ملخص. فيكتبه بنفس الثقة التي يكتب بها الحقيقة.

هو مثل شخص في المقهى يحب الكلام: لا يقول أبداً «لا أعرف»، فيكمل القصة بما يبدو معقولاً.

متى يهلوس أكثر؟ في التفاصيل الدقيقة: أرقام هواتف، إحصائيات، تواريخ، أسماء أشخاص غير مشهورين، مراجع وكتب، ومواضيع محلية قليلة على الإنترنت.

النماذج تتحسن كل سنة، لكن الهلوسة لم تختفِ. القاعدة: كل معلومة مهمة، تحقق منها (وهذا درس الغد).

هل تعلم؟

في 2023 بنيويورك، قدّم محاميان للمحكمة مذكرة فيها قضايا سابقة اخترعها ChatGPT، بأسماء قضاة وتواريخ. اكتشف القاضي الأمر، وغرّمهما 5000 دولار.

جرّب على هاتفك: Gemini

• اسأل Gemini: «لخّص لي رواية (ظلّ الزيتونة الزرقاء) للكاتب الجزائري كريم بن صالح، الصادرة سنة 1987». (هذه الرواية غير موجودة، اخترعناها).
• هل قال «لا أعرفها»؟ أم كتب ملخصاً؟ اقرأ جوابه جيداً.
• إذا كتب ملخصاً، قل له: «هل أنت متأكد أن هذه الرواية موجودة؟» ولاحظ ردّه.
• جرّب نفس الشيء مع شيء حقيقي: «لخّص رواية (اللاز) للطاهر وطار». قارن الثقة في الجوابين.

بالدزيري

الذكاء الاصطناعي يختار الكلمة اللي تبان صحيحة، ماشي اللي صحيحة بالصح. كيما واحد في القهوة عمرو ما يقول «ما نعرفش»، يكمّل القصة ويخرّط وهو متأكد. لهذا كل معلومة مهمة، تحقق منها.

أسئلة شائعة