أسئلة المراجعة
الملخص المتكامل: أسس الذكاء الاصطناعي التوليدي ونماذج اللغة
هذه المادة تضع الأساس الذي تحتاجه قبل الدخول في تقنيات هندسة الأوامر. تبدأ من سؤال بسيط: ماذا يفعل الذكاء الاصطناعي التوليدي فعليًا، وما الذي يجب أن يبقى مسؤولية الإنسان؟ الذكاء الاصطناعي التوليدي ينتج محتوى جديدًا استنادًا إلى أنماط تعلمها ومدخلات وسياق متاحين. قد يكون الناتج نصًا أو صورة أو صوتًا أو شيفرة. لكن القدرة على إنتاج محتوى لا تمنحه صفة الحقيقة أو القرار الصحيح. لهذا كان أول تمييز في المادة بين «إنتاج مخرج» و«الاعتماد على المخرج».
كما ميزنا بين النموذج والتطبيق. النموذج هو المكوّن الذي يولد الاستجابة، بينما يضيف التطبيق التعليمات الثابتة والملفات والأدوات والذاكرة والضوابط. لذلك لا نستنتج قدرات تطبيق من اسم النموذج فقط. وميزنا كذلك بين التوليد والاستخراج والتصنيف والاسترجاع. قد يجمع سير واحد أكثر من وظيفة، لكن طريقة التحقق تختلف: الاستخراج يقارن بالمصدر، والاسترجاع يفحص التغطية والحداثة، والتوليد يراجع المحتوى المنتج، والقرار النهائي قد يحتاج إنسانًا مخولًا.
ينتقل الأساس بعد ذلك إلى طريقة عمل نموذج اللغة. النص يتحول إلى رموز tokens، وهي وحدات معالجة لا تساوي كلمة واحدة بالضرورة. ما يستطيع النموذج استخدامه في طلب معين هو السياق الذي يمرره التطبيق: التعليمات، المحادثة ذات الصلة، الأمثلة، المقاطع المسترجعة أو نتائج الأدوات. وجود وثيقة في مكان ما لا يعني أن النموذج يراها. إذا طلبت «أحدث سياسة» من دون تقديم النسخة الحالية أو أداة تسترجعها، فالمشكلة ليست في جمال الصياغة فقط؛ المصدر غير موجود في السياق.
التوليد يبني الاستجابة تدريجيًا من استمرارات محتملة. في المثال التعليمي رأينا كيف يغيّر السياق توزيع البدائل الممكنة. هذه الاحتمالات لا تمثل احتمال صحة كل جملة، بل ملاءمة الاستمرار لما سبقه وفق النموذج وطريقة التوليد. لذلك يمكن أن تتغير الصياغة بين تشغيل وآخر. وقدمت بنية Transformer تاريخيًا الانتباه بوصفه مكونًا مركزيًا لمعالجة العلاقات داخل التسلسل، لكن فهم هذا التاريخ لا يبرر التعامل مع كل نموذج حديث كنسخة مطابقة من ورقة 2017.
ثم فصلنا القدرة عن الموثوقية. يستطيع النموذج أن يكتب، يلخص، يستخرج ويقترح، لكنه قد يختلق معلومة أو يعمل بسياق ناقص أو قديم أو متعارض. يعرّف NIST الاختلاق أو confabulation بوصفه محتوى خاطئًا أو غير صحيح يُعرض بثقة وقد يضلل المستخدم. لا تعالج هذه المشكلة بعبارة «لا تختلق» وحدها. عندما تكون الحقيقة مهمة، نحتاج مصدرًا أو اختبارًا خارجيًا: نعيد حساب النسبة، نبحث عن أصل الاقتباس، نختبر الشيفرة، نحدد النسخة السارية، أو نطلب موضع الدليل ثم نفحصه.
تتغير طريقة التحقق حسب نوع الادعاء. الاسم الرسمي يراجع من مصدر رسمي، التاريخ من سجل حديث، النسبة من بيانات أصلية مع إعادة الحساب، والادعاء السببي يحتاج دليلًا أقوى من مجرد تزامن متغيرين. هذا المنهج يجعل عدم اليقين مرئيًا بدل أن يتحول إلى لغة واثقة. وعندما توجد نسختان متعارضتان من سياسة، لا نمزجهما بصمت؛ نحل سلطة المصدر أو نعلن التعارض.
قبل تحسين الأمر، افحص ملاءمة المهمة. اسأل عن أثر الخطأ، وقابلية التحقق، وقابلية الرجوع، وحساسية البيانات، وتوافر المصدر. مسودة عنوان داخلي ليست مثل قرار مالي نهائي. تلخيص وثيقة مقدمة ليس مثل الإجابة عن حقيقة حديثة بلا وصول إلى مصدر. المراجعة البشرية تكون مفيدة فقط إذا امتلك الشخص معلومات ووقتًا وسلطة لتغيير النتيجة قبل أن يتحول النص إلى إجراء. زر «اعتماد الكل» بعد تدفق مئة حالة ليس تحققًا جادًا.
السير العملي الذي سنبني عليه بقية البرنامج هو: تعريف المهمة ومعيار النجاح؛ إعداد أقل قدر لازم من البيانات والسياق؛ طلب مخرج قابل للفحص؛ التحقق من الادعاءات والبنية؛ إظهار الأخطاء وعدم اليقين؛ موافقة الشخص المخول عندما توجد آثار مهمة؛ ثم الإجراء والتوثيق المناسب. هذه المادة لا تعطي «أمرًا سحريًا». بل تعطي طريقة تفكير: مهمة محددة، سياق مناسب، توقع واقعي لقدرات النموذج، تحقق يتناسب مع المخاطر، ومسؤولية بشرية واضحة. في المادة التالية سنحوّل هذه المبادئ إلى مواصفة أمر قابلة للاختبار.
أسئلة المراجعة
اختبر فهمك بهذه الأسئلة. التصحيح وحفظ النتائج متاحان بعد إنشاء حساب مجاني.
أنشئ حساباً مجانياً لتصحيح إجاباتك وحفظ تقدّمك.