مبادئ وأخلاقيات الذكاء الاصطناعي

مبادئ IFAI
للذكاء الاصطناعي المسؤول

إطار توجيهي متكامل يضع الإنسان والقيم الإنسانية في قلب تطوير واستخدام أنظمة الذكاء الاصطناعي، ويجمع بين العدالة، المساءلة، الشفافية، قابلية التفسير، الخصوصية، السلامة والحوكمة المسؤولة.

إطار مرن للتطوير والاستخدام المسؤول

الأسس التوجيهية

الأسس التوجيهية

قبل الحديث عن النماذج والخوارزميات، يبدأ الاستخدام المسؤول من مجموعة التزامات تحدد لمن تُبنى التقنية وكيف ينبغي أن تعمل.

العدالة الشاملة

يجب أن تُصمم أنظمة الذكاء الاصطناعي بحيث تخدم الأفراد والمجتمعات دون تمييز غير مبرر، مع مراعاة اختلاف الفئات والخلفيات والاحتياجات وضمان تكافؤ الوصول إلى المنافع والفرص التي توفرها التقنية.

أولوية الإنسان

تبقى كرامة الإنسان وحقوقه ورفاهيته المرجع الأعلى عند تصميم الأنظمة الذكية. ويجب أن تدعم التقنية القرار البشري، لا أن تلغي قدرة الأفراد على الفهم والاختيار والاعتراض عندما تتأثر مصالحهم.

السلامة والموثوقية

ينبغي اختبار الأنظمة ومراقبتها بصورة مستمرة لضمان أدائها ضمن الحدود المتوقعة، وتقليل احتمالات الضرر أو الاستخدام غير المقصود، مع وجود آليات واضحة للاستجابة للأخطاء والحوادث.

دورة حياة مسؤولة

الحوكمة تبدأ قبل بناء النموذج ولا تنتهي عند إطلاقه

أفضل الممارسات الأخلاقية تُدمج في كل مرحلة من مراحل تطوير وتشغيل نظام الذكاء الاصطناعي.

01

تحديد الغرض

تحديد الحاجة الفعلية للنظام، المستفيدين منه، والنتائج التي يُتوقع أن يحققها.

02

تقييم المخاطر

تحليل الأثر المحتمل على الحقوق والخصوصية والسلامة والفئات المتأثرة.

03

التصميم والاختبار

بناء الضوابط واختبار الأداء والانحياز والمتانة وقابلية التفسير.

04

الإطلاق المسؤول

الإفصاح المناسب للمستخدم وتحديد المسؤوليات وآليات الدعم والاعتراض.

05

المراقبة والتحسين

متابعة الأداء والحوادث والتغيرات وإعادة تقييم المخاطر بصورة مستمرة.

00

العدالة

تبدأ العدالة من البيانات المستخدمة في بناء النظام، وتمتد إلى الخوارزميات والقرارات والنتائج. ويجب اختبار الأنظمة للكشف عن الانحيازات غير المبررة وتقليل أثرها بصورة منتظمة.

تمثيل عادل للبيانات
مراجعة دورية
00

المساءلة

لا ينبغي أن تكون مسؤولية القرارات الآلية غامضة. يجب تحديد مسؤوليات فرق التصميم والتطوير والتشغيل، ووضع ضوابط لتقليل المخاطر وقنوات واضحة للاعتراض والتصعيد عند الحاجة.

تقليل المخاطر
تحديد المسؤوليات
00

قابلية الشرح

يجب أن يكون بالإمكان فهم الأسباب الأساسية وراء القرارات المهمة التي تتخذها الأنظمة، وأن تتوفر تفسيرات مفهومة للمستخدمين والمتأثرين بالقرار دون الاعتماد حصراً على المصطلحات التقنية.

تفسير العمليات
تفسير النتائج
00

الشفافية

ينبغي أن تكون دورة حياة النظام قابلة للتتبع، وأن يعرف المستخدم متى يتعامل مع قرار أو خدمة مدعومة بالذكاء الاصطناعي، مع توفير قدر مناسب من المعلومات دون الإضرار بالخصوصية أو الحقوق المشروعة.

مراجعة القرارات
إمكانية التتبع

إطار حي يتطور مع التقنية والمجتمع

لا يمكن التعامل مع أخلاقيات الذكاء الاصطناعي كوثيقة ثابتة. فالتقنيات والمخاطر وحالات الاستخدام تتغير، ولذلك يجب أن تتطور الإرشادات والسياسات معها.

1
التقييم الأخلاقي المستمر : إعادة تقييم الأنظمة والممارسات مع ظهور بيانات أو مخاطر أو استخدامات جديدة.
2
المشاركة العلمية والمجتمعية : الاستفادة من ملاحظات الباحثين والمطورين في تطوير التوجيهات.
3
البحث والتحديث :ربط التوجيهات الأخلاقية بالتقدم العلمي والممارسات الجديدة في مجال الذكاء الاصطناعي.
4
التعاون الدولي : تعزيز الحوار بين الجهات المختلفة لبناء قواعد وممارسات قابلة للتطبيق عبر القطاعات.

بناء ذكاء اصطناعي مسؤول هو مسؤولية مشتركة

نرحب بآراء الباحثين والخبراء والمؤسسات والمجتمع حول المبادئ والتحديات الناشئة والممارسات التي يمكن أن تعزز تطوير واستخدام الذكاء الاصطناعي بصورة أكثر أماناً وعدالة وشفافية.