الماجستير المهني المصغر في تقييم موثوقية أنظمة الذكاء الاصطناعي التوليدي

حقائق البرنامج

رسوم الدراسة

مجاني

مواد

5

دروس

15

الوقت التقديري

46 ساعة

آخر مراجعة للمحتوى

23 أكتوبر 2026

مدة الوصول

60 يوماً

لغة الدراسة

العربية والإنجليزية

عن البرنامج

يبني هذا البرنامج خطة تقييم قابلة للتدقيق لنظام توليدي ذي نطاق معلوم. تبدأ بتحديد الادعاء وحدود النص والاسترجاع والأدوات، ثم تصمم حالات محجوبة وأحكامًا مرجعية. تقيس دعم الإجابة والامتناع والشرائح وعدم اليقين، وتختبر حقن التعليمات والكشف والإنصاف دون خلط المحاولة بالأثر. تضع بوابات قبول مسبقة وتعاير المقيّم، ثم تدافع عن قرار إصدار محدود بمالكين وشروط إعادة فتح. تختتم بمراقبة إنتاج ذات مقامات صحيحة، واختبارات تغير منضبطة، واستجابة حادثة وإعادة تفويض. الأمثلة الإقليمية افتراضية والأرقام تعليمية؛ الشهادة إتمام داخلي وليست درجة جامعية أو اعتمادًا خارجيًا.

الصلة العملية

ستنتج ميثاق تقييم، ومصفوفة عينة محجوبة، ودليل تحكيم، وجدول مقامات، وخطة حقن آمنة، وقاعدة قبول، ومذكرة إصدار، ولوحة مراقبة، وخط حادثة وإعادة تفويض. لكل تمرين حل ومحدودية معلنة.

لماذا هذا البرنامج

تملك فرق منتجات كثيرة لوحة درجات دون سلسلة واضحة من ادعاء الاستخدام إلى قرار الإصدار. يدرّبك البرنامج على كشف متوسطات تخفي الاستثناءات ومقاييس تكافئ أسلوبًا بليغًا غير مدعوم، ويربط قياس ما قبل الإطلاق بتغير الوثيقة أو الأداة لتحديد وقت إعادة الفحص أو حجب الوظيفة.

الصلة المهنية

يناسب فرق تقييم النماذج وضمان الجودة وأمن التطبيقات والمنتج والمخاطر التي تتخذ قرارات تشغيلية بشأن مساعدين توليديين، وتحتاج مذكرات يمكن مراجعة أدلتها لا درجات عامة.

ماذا ستتعلّم

• تحديد الوعد والنظام محل الاختبار والحالات المحجوبة والأحكام المرجعية.
• قياس دعم الادعاءات وعدم اليقين والفروق بين الشرائح وانحدار النسخ.
• اختبار مخاطر السلامة وحقن التعليمات وكشف البيانات في بيئة عزل.
• صياغة بوابات قبول وقرار إطلاق مشروط مع ملاك واضحين.
• تشغيل مراقبة وتغير واستجابة للحوادث وإعادة تفويض قابلة للتدقيق.

لمن هذا البرنامج

• متخصصو تقييم النماذج التوليدية ومنتجاتها ممن يراجعون جودة الإجابة وحدود الأدوات، وفرق ضمان الجودة وأمن التطبيقات والمخاطر التي تقترح قرارات إصدار. يناسب من يقرأ سجلات الحالات والجداول البسيطة ويستطيع مناقشة أثر الخطأ مع مالك الخدمة، ويريد الانتقال من درجات إجمالية إلى دليل قرار محدد النطاق وقابل للتنفيذ.

المنهج

1. المادة 1 مفتوحة مجاناً

   تحديد غرض القياس وحدود النظام

   تبدأ خطة تقييم موثوقية نظام توليدي بادعاء محدود عن نسخة تشغيلية، لا بانطباع عن النموذج وحده. عيّن النموذج والتعليمات والفهرس والأدوات والخادم والواجهة والمستخدمين والأفعال المسموحة، ثم اربط كل ادعاء بدليل وقرار مسبق. افصل صحة الإجابة عن سلامة الفعل؛ كشف سجل غير مخول بوابة احتواء حتى لو ارتفع متوسط الإجابات. ابنِ إطار سحب يميز الاستخدام المعتاد والاستثناءات والاختبارات الخصومية، واحتفظ بالبسط والمقام والوزن لكل شريحة دون وصف الأوزان المفترضة بأنها توزيع إنتاج مرصود. احمِ مجموعة الاختبار المحجوبة من أسر الأسئلة المتسربة والوثائق القديمة. اكتب أحكامًا مرجعية بتاريخها وشروطها قبل قراءة الرد، وسجّل خلاف المقيمين وحسمه. الحالات غير القابلة للتحكيم تُبلّغ بتغطيتها ولا تُحذف صامتًا من الدليل.

   3 دروس · 8.5 ساعة

   1. من وعد الموثوقية إلى موضوع اختبار محدد 3 ساعة
   2. بناء عينة اختبار تمثل الاستخدام والخطر 3 ساعة
   3. تحكيم الجواب المرجعي والخلاف بين المقيمين 3 ساعة
2. المادة 2

   قياس الدقة والموثوقية

   تقييم دقة النظام التوليدي يفصل صحة النتيجة عن سند الادعاء واكتمال الشرط الحاسم والامتناع المناسب. اكتب لكل نسبة بسطها ومقامها ووحدة العد: نجاح المهمة بين الأسئلة القابلة للإجابة يختلف عن صحة الأجوبة المعطاة وعن امتناع الأسئلة التي لا سند لها. لا يكافأ الرفض الشامل لأنه يضعف التغطية. قدّر عدم يقين السحب بفترة مناسبة مثل ويلسون عندما تكون الحالات مستقلة ومراجع الحكم صالحة؛ الفترة لا تصلح تحيز العينة أو تكتل الجمل داخل جلسة. قارِن الإصدارات على حالات مزدوجة، واعرض الإصلاحات والتراجعات بدل الفرق الإجمالي فقط. اختبر تحويرات تحافظ على الحكم وتغيرات في الوقائع يجب أن تغيره. يبقى كشف بيانات الغير أو فعل غير مصرح بوابة احتواء منفصلة مهما ارتفع متوسط الإجابات.

   3 دروس · 8.5 ساعة

   1. قياس سند الادعاء والاكتمال والامتناع 3 ساعة
   2. تقدير المعدلات وعدم اليقين عبر الشرائح 3 ساعة
   3. مقارنة الإصدارات واختبار المتانة 3 ساعة
3. المادة 3

   اختبار السلامة والأمن والإنصاف

   تقييم السلامة يربط الخطر بنطاق الخدمة وأثره والضابط الذي يمنعه. ضع طلبًا مشروعًا وآخر خارج النطاق عند الحدود المتقاربة كي لا يصبح الرفض الشامل نجاحًا زائفًا؛ احسب خدمة المسموح والمعالجة الآمنة للخارج بمقامين مستقلين. في حقن التعليمات، تبقى الوثيقة المسترجعة مادة معرفة لا سلطة للتحكم. راقب طلب النموذج والأداة وقرار الخادم والبيانات المعادة والعرض؛ محاولة رفضها الخادم ليست كشفًا، بينما ظهور كناري حساب آخر في واجهة غير مخولة كشف داخل العزل يستوجب احتواء الأداة. استخدم هويات وبيانات مصطنعة. حلل جودة الإجابات حسب اللغة ونوع الحالة مع حفظ البسط والمقام وتكافؤ الوثائق؛ الفرق المرصود ليس تفسيرًا سببيًا بذاته. يبقى احتواء الكشف مستقلًا عن تغير معدل جودة أي شريحة.

   3 دروس · 8.5 ساعة

   1. تصنيف مخاطر السلامة وملاءمة الرفض 3 ساعة
   2. حقن التعليمات وحدود الثقة في الأدوات 3 ساعة
   3. كشف البيانات وفروق الأداء بين الفئات 3 ساعة
4. المادة 4

   قرارات القبول وتحليل المفاضلات

   قرار قبول النظام يبدأ بقواعد معلنة قبل الاختبار: بوابات أثر لا تُقايض بمتوسط الجودة، وعتبات أداء بمقامات وأوزان ونطاق واضح. مثال الجودة الموزونة لا يرفع حظر قراءة حساب غير مخول؛ ويمكن بحث نطاق إجابات منفصل فقط بعد إثبات عزله وصحة مصادره. المقيّم الآلي أداة تحتاج معايرة على إجابات مدعومة وغير مدعومة، ومراجعة بشرية مستقلة وتحكيمًا للوثائق المتعارضة بتاريخ سريانها. لا يثبت اتفاق المراجعين وحده صحة المرجع. تجمع مذكرة القرار نسخة النظام ووعد الخدمة ونتيجة كل بوابة وحدود العينة وحساسية الافتراضات، ثم تسمي الوظائف المسموحة والمحجوبة ومالكي الإصلاح والمراقبة وشرط إعادة الفتح. غير المتحقق لا يتحول إلى اجتياز صامت؛ ويظل الإطلاق المشروط قابلاً للتنفيذ والمراجعة.

   3 دروس · 8.5 ساعة

   1. بوابات القبول الصلبة وحدود المفاضلة 3 ساعة
   2. صلاحية المقيّم وتحكيم الأدلة المتعارضة 3 ساعة
   3. قرار إصدار مشروط وملكية الخطر المتبقي 3 ساعة
5. المادة 5

   المراقبة والتقييم المستمر

   المراقبة بعد الإطلاق تقيس الاستخدام والجودة المحكّمة وآثار السلامة وصحة خط القياس بمقامات منفصلة. التقييم الطوعي يصف المشاركين فقط، والعينة المقصودة للاستثناءات لا تُجمع خامًا مع عينة احتمالية، والوسم المؤجل يبقى معلقًا. سجل نسخة النموذج والمطالبة والفهرس والأداة والمقيّم لتمييز تغير الطلب من تغير النظام أو المرجع. عند تعديل مكوّن، اختر اختبار انحدار تابعًا لمسار أثره، وقارن النسخ على أسئلة ومصادر مثبتة مع حفظ حالات التراجع الفردية. عند حادثة كشف مرصود، احتوِ المسار واختبر الحجب قبل البحث عن السبب، واحفظ الدليل وحدود التعرض. إعادة الخدمة قرار جديد يتطلب إصلاحًا مثبتًا، واختبار منع واستعمال مشروع ومراقبة إنذار على النسخة نفسها، ومالك قبول واضح؛ إن بقي شرط حاسم غير متحقق تبقى الوظيفة محجوبة أو مقيدة.

   3 دروس · 8 ساعة

   1. مراقبة الإنتاج بالمقامات الصحيحة 3 ساعة
   2. محفزات التغير واختبار الانحدار 3 ساعة
   3. الاستجابة للحوادث وإعادة التفويض 2.5 ساعة

تُفتح المواد بالتتابع وفق تقدّمك.

نقاط القوة

• سلسلة قرار كاملة من وعد الاستخدام إلى إعادة التفويض.
• حسابات وشرائح وبوابات أثر مع حلول مفصلة.
• أمثلة عربية وإنجليزية خاضعة لحدود افتراضية واضحة.

الأساس المرجعي

تستند مفاهيم القياس والمخاطر إلى مصادر أولية منشورة من NIST وMLCommons وOWASP وبحث منشور في ACL. اختيار العتبات والحالات الافتراضية هنا قرارات تعليمية، وليس توصية رسمية من الجهات المذكورة.

أسئلة عن البرنامج

الشهادة

مثال تحقق: شهادة حقيقية صادرة