بشائر : الدمام
شدد المركز الوطني للتعليم الإلكتروني على بقاء القرارات المؤثرة في قبول الطلاب ودرجاتهم النهائية وشهاداتهم والجزاءات المرتبطة بهم بيد أصحاب الصلاحية، وعدم إسناد اعتمادها بصورة ذاتية لوكلاء الذكاء الاصطناعي.
وحددت وثيقة «معايير وكلاء الذكاء الاصطناعي في التعليم والتدريب» متطلبات للإشراف البشري وعدالة القياس، تضمن إمكانية فحص التوصيات الآلية وتعديلها أو رفضها قبل اتخاذ قرار يمس مستقبل المتعلم أو حقوقه.
وأوضح المركز أن دور المراجع البشري لا يقتصر على الموافقة الشكلية؛ إذ يجب أن تتاح له المعلومات والوقت والصلاحية اللازمة لفهم نتيجة الوكيل وأساس توصيته ومدى دقتها. ويلتزم الوكيل بالتوقف قبل تنفيذ أي إجراء يتطلب اعتمادًا بشريًا، ولا يعد غياب المسؤول أو تعذر الوصول إليه موافقة ضمنية على التنفيذ.
مستويات متفاوتة للمخاطر
وبيّنت الوثيقة أن الاستقلالية التقنية ليست وحدها معيار خطورة الاستخدام؛ فقد يقدم النظام توصية برفض قبول متعلم من دون امتلاك صلاحية تنفيذها، ومع ذلك يكون أثرها مرتفعًا. ولهذا حددت مستويات للأثر تتراوح بين المحدود، الذي يمكن تصحيح نتائجه دون تأثير جوهري، والمتوسط الذي يستلزم مراجعة مختصة، والمرتفع المتصل بالقرارات الجوهرية أو السلامة أو الأضرار الجسيمة.
وتُخضع مصفوفة الحماية والتحقق القرارات مرتفعة الأثر لمراجعة أعمق واعتماد بشري مسؤول، بينما تحصر التنفيذ الذاتي في هذه الحالات في إجراءات قابلة للتراجع، ضمن تفويض محدود ورقابة مستمرة وإمكانية الإيقاف الفوري، مع استبعاد القرارات الجوهرية المحددة في معيار الإشراف البشري من التنفيذ الذاتي.
لا حكم بالغش آليًا
وفي مجال التقويم والقياس، أكدت المعايير ضرورة تحديد المهارة المطلوب قياسها، وإعلان قواعد الاستعانة بالذكاء الاصطناعي قبل المهمة، بما في ذلك الحالات التي يكون استخدامه فيها جزءًا من الكفاية المستهدفة. وشددت على التحقق من ملاءمة أدوات التقييم ومعايير الحكم ودقة الدرجات والتقديرات والفروق المؤثرة بين فئات المتعلمين.
ونصت الوثيقة على عدم الحكم بوقوع مخالفة للنزاهة استنادًا إلى أداة كشف مؤتمت وحدها. كما اشترطت توافر أدلة على أداء المتعلم نفسه، تميز إسهامه عن إسهام الوكيل، وعدم الاكتفاء بالمنتج النهائي أو سجل الاستخدام لإثبات الكفاءة. وعندما تتطلب المهارة أداء عمليًا، فلا تكفي المحاكاة وحدها إذا كان المطلوب إظهار الكفاءة في ظروف أداء فعلية مناسبة.
حق المراجعة والاعتراض
وحدد المركز متطلبات لتتبع نتائج الوكلاء المؤثرة في الحقوق والقرارات والسجلات، بما يشمل حفظ ما يلزم من معلومات عن المهمة ومصادرها والتفويض والاعتماد البشري عند اشتراطه. وتتاح للمستفيد وسيلة معروفة للوصول إلى مسؤول بشري وطلب المراجعة أو التصحيح خلال مدة تتناسب مع أثر القرار، مع معالجة النتائج اللاحقة للأخطاء وإبلاغ المتأثرين عند الحاجة.
وأكدت الوثيقة أن وجود إشراف بشري لا يجيز استخدامًا تمنعه الضوابط المطبقة أصلًا، وأن الاختبار الحقيقي لفاعلية الإشراف يتمثل في قدرة المسؤول على اكتشاف الخطأ والتدخل في الوقت المناسب، وليس مجرد وجود اسمه ضمن دورة اعتماد القرار.
