يميّز المتعلم مخرجات الذكاء الاصطناعي الاحتمالية من القواعد الحتمية ويختار ضابطًا متناسبًا مع الضرر والسياق

تبدأ الحوكمة بتعريف النظام ووظيفته، لا بمجرد وضع كلمة ذكاء اصطناعي على منتج. القاعدة الحتمية تعيد الناتج نفسه للمدخل نفسه عندما لا تتغير القاعدة والبيئة. النموذج الإحصائي قد يعيد تقديرًا أو توليدًا مختلفًا، وقد يعتمد سلوكه على بيانات التدريب وتوزيع الحالات الجديدة. هذا التمييز يوجه الاختبار: نتحقق من منطق القاعدة ومسارات الاستثناء في الأول، ونفحص خطأ النموذج وتفاوت الأداء والانجراف عند تغير البيانات في الثاني. لا يعني ذلك أن القاعدة الحتمية آمنة تلقائيًا؛ قاعدة إقصاء خاطئة يمكنها إلحاق ضرر واسع أيضًا. في مثال فرز طلبات خدمة عامة، لا تكفي دقة كلية مقدارها 92% لإقرار الاستخدام. اسأل أولًا: هل المخرج توصية للموظف أم قرار نافذ؟ من يتأثر بالخطأ؟ هل توجد طريقة اعتراض أو مراجعة بشرية؟ ثم عرّف ضرر الإيجابيات الكاذبة والسلبيات الكاذبة كلًّا على حدة. إذا صُنّف طلب مستحق على أنه غير مستحق، فقد يتأخر حصول صاحبه على الخدمة. وإذا صُنّف غير المستحق مستحقًا، فقد تُستهلك موارد محدودة. قد تختلف شدة الضررين باختلاف الخدمة؛ لذلك لا تُستخرج سياسة القبول من متوسط دقة واحد. من مبادئ الحوكمة المسؤولة تحويل الإنصاف والسلامة والشفافية والمساءلة إلى أسئلة قابلة للاختبار. الإنصاف هنا لا يساوي تطابق كل رقم بين المجموعات دون نظر إلى حجم العينة أو سياق القرار. افحص معدل الخطأ الذي يعني الضرر المقصود لكل مجموعة، وحدد حدًا للمراجعة إذا كان الفرق ذا أثر. السلامة تستدعي اختبارات للحالات غير المعتادة، وخطة إيقاف عند ظهور ضرر جسيم. الشفافية تستدعي بيانًا مفهومًا لدور النظام وحدوده للمستخدم المتأثر. والمساءلة تستدعي مالكًا يجيز الإطلاق ويراجع الحوادث؛ مجرد وجود موظف أمام الشاشة لا يثبت إشرافًا فعليًا إن لم يكن قادرًا على تغيير النتيجة. ينبغي رسم سلسلة القرار من الإدخال إلى الإجراء البشري والاعتراض. سجل مصدر البيانات، نوع النموذج، النسخة، المقاييس، عتبات القبول، فئات المستخدمين، ومن يراقب كل مؤشر بعد الإطلاق. تفرّق السلسلة بين خطر النموذج نفسه، مثل ضعف الأداء خارج بيانات الاختبار، وخطر الاستخدام، مثل تحويل توصية داخلية إلى رفض آلي دون تفويض. إذا تغير غرض الاستعمال، لا يكفي الاحتجاج بأن النموذج لم يتغير؛ يُعاد تقييم

الأثر والضوابط لأن الضرر والسياق تغيرا. وقد لا تصلح مجموعة الاختبار القديمة للغرض الجديد. في الامتحان التدريبي، اقرأ الواقعة قبل الخيارات: حدد وظيفة النظام، درجة استقلال القرار، المتأثرين، نوع الخطأ، والدليل المتاح. اختر إجراءً يتعامل مع الخطر المثبت في الواقعة، لا شعارًا عامًا. إذا كان الدليل لا يكشف توزيع الأخطاء، فالقرار المهني هو طلب قياس مفصل أو تقييد الاستخدام، وليس إعلان الإنصاف من الرقم الإجمالي. وإذا ظهر ضرر مباشر قائم، يبدأ الاحتواء المناسب فورًا بالتوازي مع التحقيق؛ لا تؤخره انتظار تقرير مثالي. تظهر في الاختبار المهني مغالطة استخدام مقام مجموع الطلبات لحساب ضرر فئة بعينها. إذا كان سؤال الحوكمة عن تفويت العاجل، فمقامه جميع الحالات العاجلة التي كان ينبغي كشفها، لا جميع الطلبات ولا جميع ما صنفه النظام عاجلًا. أما قيمة التنبؤ الإيجابية فتستخدم مقام الحالات التي رفعها النظام وتجيب عن سؤال مختلف: كم من المرفوع كان عاجلًا فعلًا؟ لا تستبدل مقياسًا بآخر لمجرد أن رقمه أصغر. ويحتاج كل معدل إلى فترة قياس وعدد حالات كافيين؛ فرق ظاهري من عينة صغيرة يستلزم مراجعة عدم اليقين قبل سياسة دائمة. يمكن صياغة سجل خطر مختصر من خمسة عناصر: الاستخدام المقصود، الشخص أو المجموعة المعرضة، طريقة حدوث الضرر، دليل القياس، والضابط المسؤول عنه. في مثال الفرز، سجل خطر «تأخير طلب عاجل بسبب ترتيب منخفض» منفصل عن سجل «استنزاف قدرة المراجعة برفع طلب عادي». الأول قد يستدعي مراجعة بشرية سريعة لكل منخفض الأولوية، والثاني تحسين عتبة الترتيب أو توزيع الموارد. لا تجمعهما في مؤشر مبهم اسمه جودة النموذج. اختبر الضابط نفسه: هل يصل الملف إلى موظف مخوّل قبل مرور المهلة الحرجة؟ سجل وقت الوصول وزمن التجاوز ومبرر القرار. إن عجزت المؤسسة عن توفير هذه المراجعة فعليًا، فعبارة «إنسان في الحلقة» لا تعالج الخطر. قرار الإطلاق مشروط، لا ثنائيًا دائمًا. قد يُسمح باختبار محدود بلا أثر على الحقوق مع متابعة يومية، بينما يُمنع استعمال الترتيب لتأخير فعلي حتى تظهر أدلة الملاءمة. وثّق من وافق على حدود التجربة ومدة المراقبة وشرط إيقافها. هذا يمنع انتقال التجربة إلى تشغيل اعتيادي بلا مراجعة جديدة.