دليل مراجعة ما قبل النشر لأنظمة الذكاء الاصطناعي وفق مبادئ أخلاقيات SDAIA

تبدأ مراجعة ما قبل النشر بتحديد الجهة المعتمدة ومالك نظام الذكاء الاصطناعي والمطور والمقيم والمستخدمين المخولين والأشخاص المتأثرين، مع بيان الغرض التشغيلي وحدود البيانات ومراحل دورة الحياة من التصور والتصميم والبناء إلى الاختبار والنشر والمراقبة والصيانة والإيقاف، حتى يرتبط القرار بنطاق موثق لا بانطباع عام.

يُصنف النظام وفق مستويات المخاطر الواردة في إطار SDAIA: مخاطر قليلة أو معدومة، ومخاطر محدودة، ومخاطر عالية، ومخاطر غير مقبولة؛ فالأنظمة قليلة المخاطر يُوصى بالتزامها بالمبادئ، بينما تلتزم محدودة وعالية المخاطر بالمبادئ وبالضوابط الإضافية بحسب الحالة، وتُمنع الأنظمة غير المقبولة مثل استغلال الأطفال أو تهديد سلامة الأرواح من التطوير أو النشر.

تُربط نتيجة التصنيف مباشرة بمتطلبات الامتثال: عمق الأدلة، ونطاق اختبارات التحقق، ومستوى الاعتماد المؤسسي، وشروط الإيقاف، ومتطلبات التوثيق والتسجيل للأنظمة الأعلى حساسية. يجب تسجيل مبررات الفئة، والجهة التي اعتمدتها، والضوابط المترتبة عليها، وإعادة التصنيف عند تغير البيانات أو النموذج أو الغرض أو بيئة التشغيل.

لا يُنتقل إلى تقييم الأثر قبل إغلاق أسئلة النطاق: ما القرار الذي يؤثر فيه النظام، من يتحمل الأثر، ما البيانات الشخصية أو الحساسة المحتملة، ما الاستخدامات الممنوعة، وما اشتراطات الجهات القطاعية عند وجودها، مع بقاء SDAIA مرجعًا وطنيًا للإشراف والتوجيه وقياس الالتزام.

ينفذ تقييم أثر أخلاقي قريب في الغرض من تقييمات أثر حماية البيانات: يحدد الأثر على العدالة، والكرامة الإنسانية والرقابة البشرية، والمنافع الاجتماعية والبيئية، ثم يربط كل خطر بمعالجة محددة ومالك وموعد مراجعة ومعيار قبول، بدل الاكتفاء بإشارة عامة إلى المبادئ السبعة.

للعدالة، تُراجع مصادر البيانات وتمثيل الفئات، وتقاس مؤشرات التحيز والتمييز في المخرجات، وتُوثق قرارات تقليل الأثر غير العادل على الأفراد أو المجتمعات أو المجموعات، مع بيان الفئات التي قد تتأثر بالاستثناء أو الخطأ وكيف عولجت قبل الاعتماد.

للخصوصية والأمن، تُطبق متطلبات نظام حماية البيانات الشخصية عند انطباقه، وتُراعى ممارسات الأمن السيبراني الوطنية ذات الصلة بأمن النماذج والاستجابة للحوادث عند انطباقها، مع تقليل جمع البيانات، وتقييد الصلاحيات للمستخدمين المخولين، وتحديد السرية والوصول والاحتفاظ والتخلص.

لا تُقبل نتيجة تقييم الأثر بلا ملف أدلة يشمل وصف مجموعات البيانات، ومنطق تصميم النموذج وقراره بالقدر الممكن والمناسب، وحدود الاستخدام، والافتراضات، والمخاطر المتبقية، وموافقات الأدوار المحددة، بحيث يمكن إعادة فحص القرار لاحقًا دون الاعتماد على ذاكرة الفريق.

تُجرى اختبارات تحقق وتحقق ميداني قبل النشر لإثبات أن النظام يعمل وفق المواصفات المقصودة في ظروف التشغيل المتوقعة، وأنه يحافظ على المتانة عند تغير المدخلات أو البيئة، مع تسجيل حالات الفشل، وحدود الأداء، وعتبات التنبيه، وخطة التراجع الآمن أو الإيقاف.

تُترجم الشفافية والقابلية للتفسير إلى مخرجات قابلة للاستخدام: شرح مبسط لأصحاب المصلحة عن وظيفة النظام، وبيان لحدود القرار الآلي، وتوضيح متى تلزم المراجعة البشرية، وإتاحة مسار اعتراض أو طلب تصحيح عندما يكون للقرار أثر مباشر على الأفراد.

تشمل حزمة التوثيق للأنظمة الأعلى حساسية بطاقة النموذج، ونتائج الاختبار، وسجلات الحوادث، وسجلات الحوكمة، ونتيجة تقييم الأثر، وقرار التصنيف، وأسماء المعتمدين، حتى تصبح مراجعة ما قبل النشر قابلة للتدقيق وتصلح أساسًا للمراقبة بعد الإطلاق.

يُمنع الانتقال إلى الإطلاق عند بقاء خطر جوهري بلا معالجة، أو تعذر تفسير أثر النظام بالقدر اللازم لسياق الاستخدام، أو غياب خطة استجابة للحوادث ومعالجة الضرر؛ وفي هذه الحالات يكون القرار إعادة تقييم، أو تضييق نطاق، أو نشرًا مشروطًا بضوابط قابلة للقياس.

تُحول الجهة مبادئ SDAIA السبعة إلى بنود فحص قابلة للإثبات: العدالة، والخصوصية والأمن، والإنسانية، والمنافع الاجتماعية والبيئية، والموثوقية والسلامة، والشفافية والقابلية للتفسير، والمساءلة والمسؤولية، مع دليل لكل بند وحالة قبول أو رفض أو شرط متابعة.

يستخدم فريق المراجعة قائمة التحقق للتحقق من الامتثال، وتوثيق القرارات، وتجهيز مدخلات المراقبة اللاحقة؛ فيصدر قرار ما قبل النشر بصيغة موثقة: نشر، أو نشر مشروط بضوابط، أو تأجيل، أو منع، ويذكر فئة المخاطر والضوابط المطبقة والأدلة المرفقة والأدوار المعتمدة وشروط إعادة المراجعة.

بعد الإطلاق تستمر المراقبة عبر مؤشرات أداء وانحراف، وسجلات حوادث، ومراجعات دورية، وتدقيق ذاتي أو تقييم خارجي عند الحاجة للأنظمة عالية المخاطر، بحيث لا ينتهي الامتثال عند تاريخ النشر بل يمتد عبر التشغيل والصيانة والإيقاف.

تستخدم الجهة أدوات التقييم الذاتي وخرائط ربط الأدوات بدورة الحياة وقوائم التحقق ونماذج النضج المرفقة بالإطار لرفع الالتزام تدريجيًا من مستوى ناشئ إلى أكثر تقدمًا، وتحديث الأدلة عند أي تغيير، وإخطار أصحاب القرار إذا تحول النظام إلى فئة مخاطر أعلى.