إطار مؤسسي مسؤول
إطار عملي يساعد المؤسسات والمطوّرين وصنّاع القرار على تصميم أنظمة ذكاء اصطناعي آمنة، عادلة، شفافة وقابلة للمساءلة؛ بما يحفظ الحقوق الإنسانية ويعزّز الثقة ويحوّل المبادئ الأخلاقية إلى إجراءات قابلة للتطبيق والقياس.
موجّه للمؤسسات والمطوّرين
لوحة تقييم الحوكمة
تقييم مستمر
من المبادئ إلى
الممارسة
تتحقق الثقة عندما يمكن قياس الالتزام، توثيقه، ومراجعته طوال دورة حياة النظام.
قد تؤثر الأنظمة الذكية في فرص العمل، والخدمات المالية، والرعاية الصحية، والتعليم، والأمن، والوصول إلى المعلومات. لذلك يجب ألا يقتصر تقييمها على الدقة والسرعة، بل يمتد إلى أثرها على الإنسان والمجتمع وحقوق الأفراد.
تعمل المبادئ التالية كوحدة مترابطة؛ فلا تتحقق الشفافية دون مساءلة، ولا يكون الإنصاف مستدامًا دون بيانات جيدة ورقابة بشرية فعّالة.
المساءلة والمسؤولية
الإنصاف وعدم التمييز
الشفافية والإفصاح
قابلية التفسير
الخصوصية وحوكمة البيانات
السلامة والأمن والموثوقية
الإشراف البشري
الأثر المجتمعي والاستدامة
يبدأ الالتزام قبل تطوير النظام، ويستمر بعد إطلاقه من خلال المراقبة، التوثيق، المراجعة والاستجابة للملاحظات والحوادث.
تحديد الغرض
تعريف المشكلة والمنفعة المتوقعة والبدائل غير المؤتمتة.
تقييم المخاطر
تحليل الأثر المحتمل على الحقوق والسلامة والفئات المتأثرة.
تصميم الضوابط
اختيار ضوابط البيانات والأمن والإنصاف والإشراف البشري.
الاختبار والتوثيق
اختبار الأداء والتحيز والمتانة وتوثيق القرارات والحدود.
الإطلاق المسؤول
الإفصاح للمستخدمين وتحديد قنوات الدعم والاعتراض والتصعيد.
المراقبة والتحسين
متابعة الأداء الفعلي، مراجعة الحوادث وتحديث الضوابط دورياً.
عندما تؤثر الأنظمة المؤتمتة في الأفراد، ينبغي توفير ضمانات عملية تمكّنهم من الفهم، الاعتراض، طلب المراجعة وتصحيح المعلومات غير الدقيقة.
إعلام الشخص بوضوح عندما يتفاعل مع نظام ذكاء اصطناعي، وشرح الغرض العام من استخدامه والجهة المسؤولة عنه وطبيعة تأثيره المحتمل.
إتاحة تفسير مناسب للسياق يوضح العوامل الأساسية التي أثرت في القرار، دون الاكتفاء بإجابات تقنية غامضة أو غير قابلة للفهم.
توفير مسار واضح للاعتراض على القرار المؤتمت، مع مراجعة بشرية حقيقية تمتلك صلاحية تعديل القرار أو إلغائه عند الحاجة.
تمكين الأفراد من طلب تصحيح البيانات غير الدقيقة التي استُخدمت في اتخاذ القرار، ومعالجة أثر الخطأ على النتائج السابقة كلما أمكن.
تصميم إجراءات وقائية واستجابة سريعة للحوادث تقلل الضرر، وتوضح قنوات الدعم والمسؤولية والتعويض أو المعالجة المناسبة.