الدرس في 30 ثانية

• النموذج تدرّب على كمية ضخمة من النصوص: مواقع، كتب، موسوعات، منتديات.
• تعلّمه يتوقف عند تاريخ معيّن («تاريخ انقطاع المعرفة»)، ولا يعرف ما بعده إلا إذا بحث في الإنترنت.
• ما كان قليلاً في نصوصه (مثل الدارجة) يعرفه أقل.

افهم

رأينا أن ChatGPT يخمّن الكلمة التالية. لكن ليخمّن جيداً، يجب أن يكون قد قرأ كثيراً جداً.

المرحلة الأولى اسمها التدريب المسبق: النموذج يقرأ مليارات الجمل من الإنترنت والكتب، ويلعب «الكلمة التالية» عليها كلها، شهوراً.

بعدها مرحلة ثانية: بشر يكتبون أمثلة لأجوبة جيدة ويقيّمون أجوبته، ليصبح مساعداً مؤدباً ومفيداً بدل آلة تكمل النصوص فقط.

مهم: التعلّم يتوقف عند تاريخ. ما حدث بعده لا يعرفه، إلا إذا بحث في الإنترنت أثناء المحادثة (Gemini يفعل ذلك أحياناً).

ومهم أيضاً: يعرف جيداً ما كتبه الناس بكثرة (الإنجليزية، الفرنسية، العربية الفصحى)، وأقل ما كُتب قليلاً: الدارجة، تاريخ قريتك، أسعار سوقك.

هل تعلم؟

نموذج GPT-3 (2020) تدرّب على حوالي 300 مليار رمز من النصوص. لو قرأت أنت 250 كلمة في الدقيقة دون توقف، تحتاج أكثر من 1500 سنة لقراءتها!

جرّب على هاتفك: Gemini

• اسأل Gemini: «ما هو تاريخ انقطاع معرفتك؟ وهل تبحث في الإنترنت لتجيبني؟»
• اسأله سؤالاً عن خبر هذا الأسبوع، ولاحظ: هل بحث في الإنترنت (يظهر مصادر)؟
• اسأله بالفصحى: «ما معنى كلمة (يعيشك)؟» ثم اكتب له جملة طويلة بالدارجة. أين يفهم أحسن؟
• اسأله عن شيء محلي جداً: «ما هو أشهر طبق في بلديتي؟» (اذكر بلديتك). هل يعرف أم يخمّن؟

بالدزيري

قبل ما يولّي يجاوب، قرا مليارات الجمل وتدرّب يخمّن الكلمة الجاية شهور. ومن بعد ناس علّموه يكون مؤدب ومفيد. بصح العلم تاعو يحبس في تاريخ، والدارجة يعرفها قليل لأنها مكتوبة قليل.

أسئلة شائعة