علوم القطيف مقالات علمية في شتى المجالات العلمية
ChatGPT: 5 Surprising Truths About How AI Chatbots Actually Work
(Çağatay Yıldız, “The Conversation” – بقلم: شاتاي يلديز[1]، مجلة “ذا كونفرسيشن)
أصبحت روبوتات الدردشة الذكية جزءًا لا يتجزأ من حياة البعض، ولكن كم منهم يعرف حقًا آلية عملها؟
هل تعلم، على سبيل المثال، أن “تشات جي بي تي” يحتاج إلى البحث على الإنترنت للعثور على الأحداث بعد يونيو 2024؟
ويمكن لبعض المعلومات الأكثر إثارة للدهشة حول روبوتات الدردشة الذكية أن تساعدنا في فهم آلية عملها، وما يمكنها فعله وما لا يمكنها فعله، وبالتالي كيفية استخدامها بشكل أفضل.
ومع وضع ذلك في الاعتبار، إليك “خمسة أشياء” يجب أن تعرفها عن هذه الآلات الرائدة:
1. يتم تدريبها من خلال التغذية الراجعة البشرية
يتم تدريب روبوتات الدردشة الذكية على مراحل متعددة، بدءًا بما يُسمى التدريب المسبق، حيث تُدرَّب النماذج على توقع الكلمة التالية في مجموعات بيانات نصية ضخمة. وهذا يُتيح لها تطوير فهم عام للغة والحقائق والاستدلال.
فإذا سُئل النموذج: “كيف أصنع متفجرات منزلية؟” في مرحلة ما قبل التدريب، فقد يُعطي تعليمات مُفصَّلة. ولجعلها مفيدة وآمنة للمحادثة، يُساعد “المُعلِّقون” البشريون في توجيه النماذج نحو إجابات أكثر أمانًا وفائدة، وهي عملية تُسمى المحاذاة.
وبعد المحاذاة، قد يُجيب روبوت الدردشة الذكي بشيء مثل: “أنا آسف، لكن لا يُمكنني تقديم هذه المعلومات. إذا كانت لديك مخاوف تتعلق بالسلامة، أو كنت بحاجة إلى مساعدة في تجارب كيميائية قانونية، أنصحك بالرجوع إلى مصادر تعليمية مُعتمدة”.
وبدون المحاذاة، ستكون روبوتات الدردشة الذكية غير مُتوقعة، وقد تنشر معلومات مُضلِّلة أو محتوى ضارًا. وهذا يُسلِّط الضوء على الدور الحاسم للتدخل البشري في تشكيل سلوك الذكاء الاصطناعي.
ولم تكشف شركة “اوبن ايه آي”، المطورة لـ “تشات جي بي تي”، عن عدد الموظفين الذين دربوا “تشات جي بي تي” وعدد ساعات تدريبهم. ولكن من الواضح أن روبوتات الدردشة الذكية، مثل “تشات جي بي تي”، تحتاج إلى بوصلة أخلاقية لتجنب نشر معلومات ضارة. يُصنّف المُعلّقون البشريون الإجابات لضمان الحياد والتوافق الأخلاقي.
وبالمثل، إذا سُئل روبوت دردشة ذكي: “ما هي أفضل وأسوأ الجنسيات؟”
سيُصنّف المُعلّقون البشريون إجابة كهذه على أنها الأعلى: “لكل جنسية ثقافتها وتاريخها ومساهماتها الغنية للعالم. لا توجد جنسية ’أفضل‘ أو ’أسوأ‘ – فكل جنسية لها قيمتها الخاصة”.
2. لا يتعلمون من خلال الكلمات، بل بمساعدة الرموز
يتعلم البشر اللغة بطبيعتهم من خلال الكلمات، بينما تعتمد روبوتات الدردشة الذكية على وحدات أصغر تُسمى الرموز. ويمكن أن تكون هذه الوحدات كلمات، أو كلمات فرعية، أو سلسلة من الأحرف الغامضة.
وفي حين أن عملية الترميز تتبع عادةً أنماطًا منطقية، إلا أنها قد تُنتج أحيانًا انقسامات غير متوقعة، مما يكشف عن نقاط قوة وخصائص كيفية تفسير روبوتات الدردشة الذكية للغة. وتتكون مفردات روبوتات الدردشة الذكية الحديثة عادةً من 50000 إلى 100000 رمزا.
وجملة “السعر 9.99 دولارًا” (The price is $9.99). يتم ترميزها بواسطة “تشات جي بي تي” على أنها The””، “price”، “is”، “$”، “9”، “.”، “99”، بينما يتم ترميز [الجملة] (ChatGPT is marvellous) بشكل أقل بديهية: chat””، “G”، “PT”، “is”، “mar”، “velous”.
3. معرفتهم قديمة كل يوم
لا تُحدّث روبوتات الدردشة الذكية نفسها باستمرار؛ لذا، قد تواجه صعوبة في التعامل مع الأحداث الأخيرة، أو المصطلحات الجديدة، أو أي شيء بعد تاريخ انتهاء معرفتها. ويشير تاريخ انتهاء المعرفة إلى آخر نقطة زمنية تم فيها تحديث بيانات تدريب روبوت الدردشة الذكي، مما يعني أنه يفتقر إلى الوعي بالأحداث أو الاتجاهات أو الاكتشافات التي تلي ذلك التاريخ.
ويحدد الإصدار الحالي من “تشات جي بي تي” تاريخ انتهاء صلاحيته في يونيو 2024. فإذا سُئل “تشات جي بي تي” عن الرئيس الحالي للولايات المتحدة، فسيحتاج إلى إجراء بحث على الويب باستخدام محرك البحث “بينغ” (Bing)، وقراءة النتائج، وإظهار إجابة.
وتُصفّى نتائج [محرك] “بينغ” حسب صلة المصدر وموثوقيته. وبالمثل، تستخدم روبوتات الدردشة الذكية بحث الويب للحصول على إجابات مُحدّثة.
ويُعد تحديث روبوتات الدردشة الذكية عمليةً مُكلفةً وهشة. ولا تزال كيفية تحديث معارفها بكفاءة مسألةً علميةً مفتوحة. ويُعتقد أن معرفة “تشات جي بي تي” ستُحدّث مع طرح [شركة] “اوبن ايه آي” إصداراتٍ جديدةً منه.
4. تُصاب بالهلوسة بسهولة بالغة
تُصاب روبوتات الدردشة بالذكاء الاصطناعي أحيانًا بالهلوسة، مُصدرةً ادعاءاتٍ كاذبة أو لا معنى لها بثقة، لأنها تتنبأ بالنصوص بناءً على أنماطٍ مُحددة بدلًا من التحقق من الحقائق. وتنبع هذه الأخطاء من طريقة عملها: فهي تُحسّن الترابط على حساب الدقة، وتعتمد على بيانات تدريب غير كاملة، وتفتقر إلى الفهم الواقعي.
وفي حين أن التحسينات، مثل أدوات التحقق من الحقائق (مثل دمج أداة بحث “بينغ” في “تشات جي بي تي” للتحقق الفوري من الحقائق) أو المحفزات (مثل إخبار “تشات جي بي تي” صراحةً بـ “الاستشهاد بمصادر مُراجعة من قِبل الأقران” أو “قل لا أعرف إذا لم تكن متأكدًا”) تُقلل من الهلوسة، إلا أنها لا تستطيع القضاء عليها تمامًا.
وعلى سبيل المثال، عند سؤال “تشات جي بي تي” عن النتائج الرئيسية لورقة بحثية مُعينة، يُقدم إجابةً طويلةً ومُفصلةً وجذابةً.
كما تضمن لقطات شاشة وحتى رابطًا، ولكن من أوراق أكاديمية خاطئة. ولذا، يجب على المستخدمين اعتبار المعلومات المُولّدة من الذكاء الاصطناعي نقطة انطلاق، وليس حقيقةً لا شك فيها.
5. يستخدمون الآلات الحاسبة لإجراء العمليات الحسابية
من الميزات الشائعة مؤخرًا في روبوتات الدردشة القائمة على الذكاء الاصطناعي خاصية الاستدلال. ويشير الاستدلال إلى عملية استخدام خطوات وسيطة مترابطة منطقيًا لحل المشكلات المعقدة. ويُعرف هذا أيضًا باسم استدلال “سلسلة الأفكار”.
وبدلًا من القفز مباشرةً إلى الإجابة، تُمكّن سلسلة الأفكار روبوتات الدردشة القائمة على الذكاء الاصطناعي من التفكير خطوة بخطوة. فعلى سبيل المثال، عند سؤال “ما هو حاصل ضرب 56345 ناقصا 7865 ضرب 350468؟”، يُعطي “تشات جي بي تي” الإجابة الصحيحة. فهو “يفهم” أن عملية الضرب يجب أن تتم قبل عملية الطرح.
ولحل الخطوات الوسيطة، يستخدم “تشات جي بي تي” حاسبته المدمجة التي تُمكّن من إجراء عمليات حسابية دقيقة. ويُساعد هذا النهج الهجين، الذي يجمع بين الاستدلال الداخلي والحاسبة، على تحسين الموثوقية في المهام المعقدة.
*تمت الترجمة بتصرف
المصدر:
https://www.sciencealert.com/chatgpt-5-surprising-truths-about-how-ai-chatbots-actually-work
الهوامش:
[1] تشاتاي يلديز، باحث ما بعد الدكتوراه، مجموعة التميز “التعلم الآلي”، جامعة توبنغن [جامعة بحثية عامة تقع في مدينة توبنغن، بادن-فورتمبيرغ. وهي من أشهر وأقدم الجامعات الألمانية، وتتمتع بسمعة عالمية مرموقة في مجالات الطب والعلوم الطبيعية والإنسانيات. وقد احتلت الجامعة لسنوات عديدة المرتبة الأولى بين جميع الجامعات الألمانية في مجال الدراسات الألمانية، وتتمتع بشهرة عالمية كمركز لدراسة اللاهوت والدين. وهي واحدة من خمس مدن جامعية بارزة في ألمانيا؛ إلى جانب ماربورغ، وغوتنغن، وفرايبورغ، وهايدلبرغ. وترتبط الجامعة بأسماء بعض الحائزين على جوائز نوبل، وخاصة في مجالي الطب والكيمياء].
