مبادئ
أخلاقيات الذكاء الاصطناعي
2025م
محتويات
مقدمة
التعريفات
نطاق التطبيق
الأدوار والمسؤوليات
الملاحق
المقدمة
نظراً إلى النمو المتسارع الذي تشهده الممارسات والتقنيات المتعلقة بالذكاء الاصطناعي، فقد تنوعت استخدامات الذكاء الاصطناعي لتشمل عديداً من القطاعات، مثل: الصحة والتعليم والترفيه وغيرها، مما أدى إلى تسريع وتيرة عمليات صنع القرار وجعلها أكثر كفاءة ودقة بفضل ما يتيحه من قدرات للتنبؤ بالأنماط المستقبلية، بالإضافة إلى ذلك يمكن استخدام تقنيات الذكاء الاصطناعي لتحليل البيانات، بما في ذلك البيانات الضخمة من خلال إنشاء وتشغيل أنظمة ذات نماذج وخوارزميات أكثر تطوراً تساعد على تحسين جودة العمليات، وفي ضوء الاهتمام المتزايد بهذه التقنيات، قامت جهات عدة في القطاعين العام والخاص، بالإضافة إلى الجهات غير الربحية، بتطوير وتبني حلول رقمية قائمة على الذكاء الاصطناعي تستخدم أساليب مبتكرة لمساعدتها في مواجهة
تحدياتها الراهنة، وهو الأمر الذيَ عظّم دور الذكاء الاصطناعي في تعزيز القدرات التنافسية لهذه الجهات. 4
وإشارة إلى الترتيبات التنظيمية للهيئة السعودية للبيانات والذكاء الاصطناعي )سدايا ،)الصادرة بقرار مجلس الوزراء رقم ))292 وتاريخ 27/04/1441ه، القاضي في الفقرة )
1) من المادة ”الرابعة“ بأن للهيئة على وجه خاص تنظيم قطاعات البيانات والذكاء الاصطناعي من خلال وضع سياسات ومعايير وضوابط خاصة بها وكيفية التعامل معها، وتعميمها على الجهات ذوات العلاقة الحكومية وغير الحكومية، ومتابعة الالتزام بها؛ وفقاً للأحكام النظامية ذات الصلة، وانطلاقاً من التزام المملكة العربية السعودية بحقوق الإنسان وقيمها الثقافية، وتماشياً مع المعايير والتوصيات الدولية بشأن أخلاقيات الذكاء الاصطناعي، عليه فقد قامت
الهيئة بالاستفادة من الممارسات والمعايير العالمية عند وضع مبادئ أخلاقيات الذكاء الاصطناعي التي تهدف إلى:
دعم وتعزيز جهود المملكة في تحقيق رؤيتها واستراتيجياتها الوطنية المتعلقة بتبني تقنيات الذكاء الاصطناعي وتشجيع البحث والابتكار وتعزيز النمو الاقتصادي.
وضع المبادئ التوجيهية المتعلقة بأخلاقيات الذكاء الاصطناعي.
حوكمة نماذج الذكاء الاصطناعي للحد من الآثار السلبية لها )اقتصادياً واجتماعياً وغير ذلك ،)والمخاطر المحتملة التي قد تنتج عنها.
مساعدة الجهات في تبني المعايير والأخلاقيات عند بناء وتطوير الحلول القائمة على الذكاء الاصطناعي لضمان الاستخدام المسؤول لها.
حماية خصوصية أصحاب البيانات وحقوقهم فيما يتعلق بمعالجة بياناتهم الشخصية.
التعريفاتيُقصد بالعبارات الواردة أدناه المعاني الموضحة أمام كل منها، ما لم يقتضِ سياق النص خلاف ذلك: الهيئة
الهيئة السعودية للبيانات والذكاء الاصطناعي الأخلاقيات
مجموعة من القيم والمبادئ والأساليب لتوجيه السلوك الأخلاقي في تطوير تقنيات الذكاء الاصطناعي واستخدامها نظام أو نموذج الذكاء الاصطناعي
مجموعة من النماذج التنبؤية والخوارزميات المتقدمة التي يمكن استخدامها لتحليل البيانات والتنبؤ بالمستقبل أو تسهيل عملية صنع القرار للأحداث المستقبلية المتوقعة مطور نظام الذكاء الاصطناعي
أي شخص ذو صفة طبيعية أو اعتبارية يقوم بتطوير أنظمة الذكاء الاصطناعي مقيم نظام الذكاء الاصطناعي
أي شخص ذو صفة طبيعية أو اعتبارية يقوم بتدقيق أنظمة الذكاء الاصطناعي لتحقيق أهداف معينة البيانات
مجموعة من الحقائق في صورتها الأولية أو في صورة غير منظّمة مثل الأرقام، أو الحروف، أو الصور، أو الفيديو، أو التسجيلات الصوتية أو الرموز التعبيرية
الجهات المطبقة أي جهة عامة أو خاصة أو فرد يتعين عليه الالتزام بهذه الأخلاقيات
الذكاء الاصطناعي مجموعة من التقنيات التي تمكن آلة أو نظاماً من التعلم، والفهم، والتصرف والاستشعار
دورة نظام الذكاء الاصطناعي العملية الدورية التي يتوقع من مطوري الذكاء الاصطناعي اتباعها لتصميم وبناء وإنتاج نظام قوي وآمن يقدم قيمة عملية ورؤى
من خلال الالتزام بطريقة موحدة ومنظمة لإدارة تنفيذ وتسليم نموذج الذكاء الاصطناعي مسؤول نظام الذكاء الاصطناعي
أي شخص ذو صفة طبيعية أو اعتبارية يدير أو يطبق أنظمة الذكاء الاصطناعي أو يستخدمها لتحقيق أهداف معينة المدير التنفيذي للبيانات
مدير مكتب إدارة البيانات في الجهة الحكومية، أو المسؤول عن تطوير وإدارة البيانات وتنفيذ الحوكمة والإشراف على تنفيذ ممارسات إدارة البيانات في الجهة غير الحكومية، ويكون مسؤولًا عن وضع المعايير الأخلاقية ومعايير الالتزام التي يجب أن تتبعها
الجهة وتحافظ عليها عند بناء أو تطوير أنظمة ذكاء اصطناعي واستخدامها عينه البيانات
جزء من البيانات المستخدمة في بناء النماذج التنبؤية وخوارزميات الذكاء الاصطناعي وتدريبها واختبارها للوصول إلى نتائج محددة المستخدم النهائي
أي شخص ذو صفة طبيعية أو اعتبارية يستهلك أو يستخدم السلع أو الخدمات التي تنتجها أنظمة الذكاء الاصطناعي أصحاب البيانات الشخصية
الفرد الذي تتعلق به البيانات الشخصية
البيانات الشخصية كل بيان -مهما كان مصدره أو شكله- من شأنه أن يؤدي إلى معرفة الفرد على وجه التحديد، أو يجعل التعرف عليه ممكناً بصفة
مباشرة أو غير مباشرة، ومن ذلك: الاسم، ورقم الهوية الشخصية، والعناوين، وأرقام التواصل، وأرقام الُّرخص والسجلات والممتلكات الشخصية، وأرقام الحسابات البنكية والبطاقات الائتمانية، وصور الفرد الثابتة أو المتحركة، وغير ذلك من البيانات
ذات الطابع الشخصي البيانات الحساسة
كل بيان شخصي يتضمن الإشارة إلى أصل الفرد العرقي، أو أصله الإثني، أو معتقده الديني، أو الفكري، أو السياسي. وكذلك البيانات الأمنية والجنائية، أو بيانات السمات الحيوية التي تحدد الهوية، أو البيانات الوراثية، أو البيانات الصحية، والبيانات التي تدل
على أن الفرد مجهول الأبوين أو أحدهما الأطراف الخارجية
أي شخصية طبيعية أو اعتبارية، عامة أو خاصة بخلاف المشاركين الرئيسيين لدى المستخدم النهائي لنظام الذكاء الاصطناعي، ومسؤول نظام الذكاء الاصطناعي، ومطور نظام الذكاء الاصطناعي ومقيم نظام الذكاء الاصطناعي الموثوقية
تشير الموثوقية إلى اتساق المقياس المستخدم، أي ما إذا كان يمكن الوصول إلى النتائج ذاتها في ظل وجود ظروف مماثلة صحة القياس
تعني ما إذا كانت النتائج بالفعل تقيس ما يفترض أن تقيسه
نطاق التطبيق
تطبق المبادئ على جميع الجهات العامة والخاصة وغير الربحية والأفراد الذين يقومون بتطوير أو تبني الحلول المعتمدة على تقنيات الذكاء الاصطناعي
مخاطر أنظمة الذكاء الاصطناعي
تصنف فئات ومستويات المخاطر المرتبطة بتطوير و/أو استخدام تقنيات الذكاء الاصطناعي إلى كل من الآتي:
مخاطر بسيطة أو منعدمة: لا يوجد أي قيود على أنظمة الذكاء الاصطناعي التي تشكل مخاطر بسيطة أو لا تنطوي على أي مخاطر مثل مرشحات البريد العشوائي غير المرغوب فيه، ولكن يوصى بأن تكون هذه الأنظمة متوافقة مع الأخلاقيات.
مخاطر محدودة: تخضع أنظمة الذكاء الاصطناعي التي تشكل مخاطر محدودة مثل البرامج التقنية المتعلقة بالوظيفة والتطوير والأداء إلى تطبيق مبادئ الأخلاقيات المذكورة في هذه الوثيقة.
مخاطر عالية: يتعين على أنظمة الذكاء الاصطناعي التي تشكل “مخاطر عالية” على الحقوق الأساسية للإنسان الخضوع لإجراء تقييمات ما قبل المطابقة وبعدها، وإضافة إلى الالتزام بالأخلاقيات يجب مراعاة المتطلبات النظامية ذات العلاقة.
مخاطر غير مقبولة: لاُ يسمح بأنظمة الذكاء الاصطناعي التي تشكل “خطراً غير مقبول” على سلامة الناس وسبل عيشهم وحقوقهم كتلك المتعلقة بالتصنيف الاجتماعي أو استغلال الأطفال أو تشويه السلوك الذي يحتمل أن تحدث نتيجة عنه أضرار
جسدية أو نفسية وإضافة إلى الالتزام بالأخلاقيات يجب مراعاة المتطلبات النظامية ذات العلاقة. هذا وينبغي أن تكون إدارة المخاطر مرتبطة ارتباطاً مباشراً بمبادرات الذكاء الاصطناعي، حيث تكون الرقابة متزامنة مع عمليات التطوير الداخلي لتقنيات الذكاء الاصطناعي، وتؤثر إدارة مخاطر أنظمة الذكاء الاصطناعي على مجموعة واسعة من أنواع المخاطر بما في ذلك البيانات والخوارزمية والالتزام والمخاطر التشغيلية والقانونية وتلك المتعلقة بالسمعة والمخاطر التنظيمية، ويتم بناء المكونات الفرعية لإدارة المخاطر، مثل: قابلية النموذج للتفسير، والكشف عن التحيز، ومراقبة الأداء، حيث تكون المراقبة ثابتة
ومتسقة مع أنشطة تطوير الذكاء الاصطناعي.
دورة حياة نظام الذكاء الاصطناعي
دورة حياة نظام الذكاء الاصطناعي هي المنهجية التي يتم اتباعها عند تنفيذ مشاريع الحلول التقنية المعتمدة على تقنيات الذكاء الاصطناعي، والتي من خلالها يتم تحديد الخطوات التي يجب على الجهة اتباعها عند تنفيذ وإدارة نماذج أو أنظمة الذكاء الاصطناعي
للاستفادة من هذه التقنيات وتحقيق القيمة منها، بشكل يضمن المواءمة مع أخلاقيات الذكاء الاصطناعي. 10
تنقسم دورة حياة نظام الذكاء الاصطناعي إلى أربع مراحل رئيسية، وتتضمن كل مرحلة من المراحل عدداً من الأنشطة الرئيسية، وذلك على النحو التالي:
المرحلة الثانية: تهيئة البيانات
جمع البياناتاستكشاف وتقييم البيانات-تنظيف البيانات والتحقق من صحتها
تجويد البيانات-تحويل البيانات إلى صيغة تناسب مدخلات
نموذج الذكاء الاصطناعي
المرحلة الأولى: التخطيط والتصميم
تحديد المشكلةوضع الحلول المقترحة-اختيار تقنية الذكاء الاصطناعي بما يتناسب مع
الحلول المقترحة -دراسة المخاطر المرتبطة بالحلول المقترحة وجدوى
البدائل المحتملة -تطوير مؤشرات الأداء المناسبة
المرحلة الرابعة: التطبيق والمتابعة
تطبيق النموذج على نظام الذكاء الاصطناعي-تعريف الإصدارات
مراقبة أداء النموذج بشكل دوري-تقييم مدى الحاجة إلى تغيير التصميم وفقاً
لنتائج المراجعات الدورية
المرحلة الثالثة: البناء وقياس الأداء
تدريب واختبار النموذج-ضبط المتغيرات أو مدخلات النموذج
التحقق من أداء النموذج-تقييم المخاطر
مبادئ أخلاقيات الذكاء الاصطناعي المبدأ الأول - النزاهة والإنصاف
على مطور نظام الذكاء الاصطناعي عند تصميم أو جمع أو تطوير أو نشر أو استخدام أنظمة الذكاء الاصطناعي، اتخاذ الإجراءات اللازمة للتأكد من عدم وجود التحيز أو التمييز أو التنميط أو الحد منها التي يتعرض لها الأفراد أو الجماعات أو الفئات بسبب البيانات
أو الخوارزميات ويمكن أن تؤدي إلى تمييز سلبي لفئة محددة.
عند تصميم واختيار وتطوير أنظمة الذكاء الاصطناعي، من الضروري اتخاذ ما يلزم لضمان تطوير معايير غير متحيزة، وعادلة، ومنصفة، وموضوعية، وشاملة، ومتنوعة، وممثلة لجميع شرائح المجتمع أو الشرائح المستهدفة، ويجب ألا تقتصر وظيفة نظام الذكاء الاصطناعي على مجموعات محددة بناء على أساس الجنس أو العرق أو الدين أو العمر أو غيره. إضافة إلى ذلك، يجب عند استخدام البيانات الشخصية أن يكون الغرض من استخدامها مبرراً ومحدداً بشكل دقيق من قبل مطور نظام الذكاء الاصطناعي، مع التأكد من أن ذلك لا يخالف نظام حماية البيانات الشخصية ولوائحه التنفيذية، وأن يقوم مطور نظام الذكاء الاصطناعي بإخفاء
هوية أصحاب البيانات الشخصية أو ترميزها ما أمكن ذلك.
لضمان بناء أنظمة ذكاء اصطناعي قائمة على الإنصاف والشمولية؛ يتم تدريب أنظمة الذكاء الاصطناعي على البيانات التي يتم تنقيحها من التحيز، كما يتم بناء وتطوير الخوارزميات بطريقة تجعل تكوينها خالياً من التحيز والمغالطات.
1- في هذه المرحلة يتم تحديد الغرض والأهداف من نظام الذكاء الاصطناعي وكيفية تحقيقها، والخروج بتصميم يتسم بالنزاهة والإنصاف ويأخذ الاحتياطات المناسبة لمنع التحيز والتمييز والتنميط الذي قد يؤدي إلى إحداث أي أضرار
2- يبدأ التصميم المراعي للنزاهة والإنصاف من بداية دورة حياة نظام الذكاء الاصطناعي من خلال جهود تكاملية بين الأعضاء الفنيين وغير الفنيين وذلك لتحديد الفوائد والأضرار المحتملة والأفراد المحتمل تضررهم والفئات غير الممثلة في النظام وتقييم
مدى تأثرهم بالنتائج وما إذا كان التأثير مبرراً في ظل الهدف العام من نظام الذكاء الاصطناعي
3- يعد تقييم نزاهة نظام الذكاء الاصطناعي خطوة بالغة الأهمية، ولضمان نزاهة النظام أو النموذج يتم اختيار المقاييس بناًء على ما يلي: نوع الخوارزمية )مبنية على قاعدة، أو تصنيف، إلخ ،)تأثير القرار والضرر أو الفائدة التي ستعود على العينات المتوقعة بشكل
صحيح أو غير صحيح
4- كما يتم في هذه المرحلة تحديد وتعريف البيانات المتعلقة بالأشخاص أو الفئات التي تتأثر من النظام بصورة منهجية، ووضع الحد الذي يكون عنده التقييم عادلًا أو غير عادل، وتحديد مقاييس تقييم النزاهة التي سيتم تطبيقها على البيانات والنظام خلال
الخطوات المستقبلية
1- يتم اتباع أفضل الممارسات في الحصول على البيانات والتعامل معها وتصنيفها وإدارتها لضمان توافق النتائج مع الأهداف والغايات المحددة لنظام الذكاء الاصطناعي، وتتحقق جودة البيانات من خلال ضمان حداثتها وسلامة مصدرها، كما يتم التأكد من عدم وجود استبعاد منظّم للفئات غير الممثلة، ويجب أن تكون كمية ونوعية مجموعات البيانات كافية ودقيقة لخدمة الغرض من النظام، حيث يؤثر حجم عينة البيانات التي تم جمعها أو الحصول عليها تأثيراً كبيراً في دقة وعدالة مخرجات النموذج تحت التطوير.
2- يجب ألا تدرج البيانات الحساسة المحددة في مرحلة التخطيط والتصميم في خصائص النموذج، وذلك لكي لا يزداد التحيز ضدها؛ لذا يجب تحليل خصائص البيانات الحساسة وعدم إدراجها في بيانات المدخلات، ويستثنى من ذلك بعض الحالات التي قد لا يكون ذلك ممكناً بسبب دقة أو هدف نظام الذكاء الاصطناعي، وفي هذه الحالة يجب تقديم مبررات لاستخدام البيانات الحساسة
وتحديد بديل عنها.
البناء وقياس الاداء
1- في هذه المرحلة تتم مراعاة النزاهة في التنفيذ باعتبارها عاملًا أساسياً عند بناء نظام الذكاء الاصطناعي واختباره وتنفيذه، ويتطلب بناء النموذج واختيار الخصائص أن يكون المهندسون والمصممون على دراية بأن الخيارات المتخذة بشأن تجميع أو فصل
أو استبعاد الخصائص قد يكون له عواقب سلبية على الفئات الضعيفة أو غير الممثلة في البيانات.
2- يجب عند اختيار النموذج النظر في مقاييس النزاهة والإنصاف، حيث تكون مقاييس النزاهة والإنصاف في النموذج ضمن الحد المحدد للخصائص الحساسة، كما يجب تحديد منهجية التقييم الخاص بالنزاهة والإنصاف ومقاييس الأداء بوضوح خلال هذه
المرحلة، وأن يتم حصر الأسباب والمبررات إذا لم يجتاز النموذج التقييم.
3- من الضروري أن يتم في هذه المرحلة التأكد من صلاحية المنهجية المتبعة في اختيار خصائص النموذج، كما يجب التحقق من
الخصائص المختارة مع الأطراف أصحاب العلاقة.
4- يجب وضع آليات لمنع أو الحد من النتائج السلبية أو غير المرغوب فيها عند استخدام الذكاء الاصطناعي في أتمتة أنظمة دعم
القرار التي قد تؤدي إلى ضرر أو تمييز في هذه المرحلة.
1- يتم وضع آليات وبروتوكولات واضحة عند التطبيق الفعلي لنظام الذكاء الاصطناعي وذلك لقياس نزاهة النتائج وأدائها وكيفية تأثيرها في مختلف الأفراد والجماعات وعند تحليل نتائج النموذج التنبؤي، كما يتم تقييم المجموعات الممثلة في عينة البيانات والتأكد من أنها تتأثر بشكل متساوٍ أو مماثل، أو توضيح ما إذا كان نظام الذكاء الاصطناعي قد يضر بفئة محددة وذلك لضمان
تحقيق العدالة في النتائج.
2- تتم مراقبة مقاييس النزاهة والإنصاف المحددة مسبقاً، وإذا كان هناك أي انحراف عن الحد المسموح به فيجب التحقق ما إذا
كانت هناك حاجة إلى تعديل النموذج.
3- يتم قياس الضرر العام، والمنفعة المتحققة من النظام، واتخاذ الإجراءات اللازمة وفقاً لذلك.
المبدأ الثاني - الخصوصية والأمن
يتم تطوير أنظمة الذكاء الاصطناعي لتكون محمية بطريقة آمنة وتراعي المتطلبات النظامية ذات العلاقة، ومن ذلك المتطلبات النظامية المتعلقة بحماية خصوصية أصحاب البيانات الشخصية، ومعايير الأمن السيبراني ذات العلاقة؛ بهدف منع الوصول غير
المشروع إلى البيانات والنظام مما قد يؤدي إلى الإضرار بالسمعة أو الأضرار النفسية أو المالية أو المهنية
ويتم تصميم أنظمة الذكاء الاصطناعي باستخدام آليات وضوابط توفر إمكانية إدارة ومراقبة النتائج والتقدم الذي يتم طوال دورتها لضمان امتثالها بقواعد وضوابط الخصوصية والأمن ذات العلاقة
1- يتم تطوير وتصميم نظام الذكاء الاصطناعي والخوارزمية المرتبطة به بطريقة يمكن من خلالها حماية خصوصية الأفراد، وعدم إساءة استخدام البيانات الشخصية، وضمان عدم استناد معايير اتخاذ القرارات في التقنية الآلية إلى خصائص أو معلومات تحدد
الهوية الشخصية، ويقتصر استخدام البيانات الشخصية على الحد الأدنى اللازم لتشغيل النظام بشكل سليم.
2- يتم تصميم أنظمة الذكاء الاصطناعي التي تؤدي إلى تحديد سمات أفراد أو مجموعات محددة فقط في حالة الموافقة على ذلك
من قبل المدير التنفيذي للبيانات أو وفقاً لمدونة قواعد السلوك المهني التي تطورها الجهة التنظيمية لقطاع معين.
3- تتم مواءمة مخطط الأمن والحماية لنظام الذكاء الاصطناعي والبيانات التي تتم معالجتها والخوارزمية التي يتم استخدامها مع أفضل الممارسات لتكون هذه الأنظمة قادرة على التصدي للهجمات السيبرانية ومحاولات الوصول غير المشروع إلى البيانات أو
النموذج أو أوزان النموذج.
4- يتم اتباع الأطر والمتطلبات النظامية للخصوصية والأمن وتهيئتها بما يتناسب مع النظام أو الجهة المعنية.
5- يتم التخطيط لتصنيف البيانات وتحديد خصائصها من أجل تحديد مستويات الحماية اللازمة وآلية استخدام البيانات الشخصية،
كما يتم التخطيط للآليات الأنسب لإخفاء هوية أصحاب البيانات الشخصية أو ترميزها.
6- يتم إجراء تقويم الأثر قبل معالجة البيانات الشخصية أو البيانات الحساسة وفقاً لما ينص عليه نظام حماية البيانات الشخصية
ولوائحه.
1- عند جمع أو شراء أو إدارة أو تنظيم البيانات يجب الالتزام بالأطر والمتطلبات النظامية المتعلقة بخصوصية أصحاب البيانات الشخصية.
2- يتم حصر الوصول إلى المعلومات على الأشخاص المصرح لهم بذلك، ووضع ضوابط محددة لإدارة تفويض صلاحيات الوصول إلى المعلومات والبيانات.
3- يجب أن يتمتع مطور نظام الذكاء الاصطناعي بالنزاهة والمعرفة، وذلك لضمان اتباع الأطر والمعايير النظامية للخصوصية والأمن، كما يجب التأكد من توفير أنظمة قواعد بيانات آمنة.
4- يتم تصنيف جميع البيانات المعالجة لضمان حصولها على المستوى المناسب من الحماية وفقاً لحساسيتها أو تصنيفها، ويجب أن يكون مطور نظام الذكاء الاصطناعي والمسؤول عنه على دراية بتصنيف أو حساسية البيانات التي يتم التعامل معها والمتطلبات المرتبطة بها للحفاظ على أمنها وسريتها وخصوصية أصحابها، وُتصنف جميع البيانات حسب متطلبات الأعمال وأهميتها وحساسيتها لمنع الإفصاح غير المصرح به عنها أو تعديلها بشكل غير صحيح، وُتصنف البيانات بطريقة لا تؤدي إلى استنتاج المعلومات الشخصية
5- يتم اتخاذ إجراءات النسخ الاحتياطي للبيانات وتشفيرها وأرشفتها في هذه المرحلة لضمان استمرارية الأعمال والحد من الكوارث
وتخفيف المخاطر.
1- تتم حماية الأبعاد التصميمية المختلفة لنموذج الذكاء الاصطناعي من المخاطر المحتملة، ويعمل مطور نظام الذكاء الاصطناعي على حماية هيكل ووحدات النظام من التلف أو التعديل أو الدخول غير المصرح به لأي من مكوناته.
2- يعمل مطور نظام الذكاء الاصطناعي على أن يكون النظام آمناً حيث يظل فعالًا وجاهزاً للاستخدام من قبل المستخدمين المصرح لهم ومحافظاً على أمن المعلومات في كافة الأحوال، بالإضافة إلى ذلك يجب وضع ضوابط حماية مناسبة لضمان تقّيد أنظمة اتخاذ القرار بالذكاء الاصطناعي بمتطلبات خصوصية الأفراد وأمن البيانات ذات الصلة، وينبغي اختبار نظام الذكاء الاصطناعي للتأكد
من أن البيانات المتاحة لا تفصح عن البيانات الشخصية أو الحساسة بشكل غير نظامي أو تنتهك قواعد إخفاء الهوية أو الترميز.
1- بعد تشغيل نظام الذكاء الاصطناعي، يجب أن تكون هناك متابعة مستمرة لضمان الحفاظ على الخصوصية في النظام وضمان سلامته وأمنه، وتتم إعادة النظر في تقييم أثر الخصوصية وتقييم إدارة المخاطر باستمرار لضمان التقييم المنتظم للاعتبارات
النظامية والاجتماعية والأخلاقية.
2- يكون مسؤول نظام الذكاء الاصطناعي مسؤولًا عن تصميم وتنفيذ أنظمة الذكاء الاصطناعي بما يضمن حماية البيانات الشخصية
طوال دورة نظام الذكاء الاصطناعي، ويتم تحديث عناصر نظام الذكاء الاصطناعي بناًء على تقارير المتابعة المستمرة.
المبدأ الثالث - الإنسانية
يسلط مبدأ الإنسانية الضوء على ضرورة بناء أنظمة الذكاء الاصطناعي باستخدام منهجية عادلة وأخلاقية تستند إلى حقوق الإنسان والقيم الثقافية الأساسية وذلك لإحداث أثر إيجابي على الأطراف المعنية والمجتمعات المحلية والمساهمة في تحقيق الأهداف والغايات طويلة وقصيرة الأجل من أجل مصلحة البشرية وازدهارها، ومن الضروري أن يتم تصميم أنظمة الذكاء الاصطناعي، حيث لا تخدع، أو تتلاعب، أو تضع سلوكاً لا يقصد به تمكين المهارات البشرية، أو تعزيزها، أو زيادتها، بل ينبغي لها أن تتبنى نهجاً تصميمياً
أكثر تركيزاً على إتاحة الاختيار واتخاذ القرار لمصلحة الإنسان.
1- من الضروري تصميم وبناء نموذج قائم على حقوق الإنسان الأساسية والقيم والمبادئ الثقافية وتطبيقه على قرارات وعمليات ووظائف نظام الذكاء الاصطناعي، ويتعين ذلك على مصممي نموذج الذكاء الاصطناعي.
2- تحديد الكيفية التي سيتوافق بها نظام الذكاء الاصطناعي مع حقوق الإنسان الأساسية والقيم الثقافية والاجتماعية في المملكة العربية السعودية، إضافة إلى تحديد التقنيات اللازمة واختبارها، مع تحديد الآلية التي سيسعى من خلالها نظام الذكاء الاصطناعي
ونتائجه إلى تعزيز المهارات والقدرات البشرية.
1- لضمان تبني نماذج الذكاء الاصطناعي لهيكل وتصميم يركز على مبدأ الإنسانية، يجب الالتزام بممارسات إدارة البيانات بشكل أخلاقي وكذلك المعايير والضوابط الخاصة بإدارة البيانات في المملكة.
2- يتم الحصول على البيانات وتصنيفها ومعالجتها وإتاحتها بشكل صحيح لضمان احترام حقوق الإنسان والقيم الثقافية والاجتماعية في المملكة العربية السعودية.
1- يجب على المصممين والمهندسين إعطاء الأولوية لبناء أنظمة وخوارزميات الذكاء الاصطناعي التي تتمحور حول الإنسان وتسمح وتسهل عملية صنع القرار وتراعي التوافق مع حقوق الإنسان والقيم الثقافية للمملكة، حيث لا تعمل القرارات المؤتمتة الناتجة عن
أنظمة الذكاء الاصطناعي بطريقة مستقلة دون مراعاة حقوق الإنسان والقيم الاجتماعية والثقافية.
2- يجب على المصممين والمهندسين تطوير أنظمة الذكاء الاصطناعي باستخدام المعايير الأخلاقية وتدريب الخوارزميات لتحقيق
النتائج التي تنهض بالإنسانية.
1- يتم إجراء تقييمات دورية لنظام الذكاء الاصطناعي لضمان عدم تعارض نتائجه مع حقوق الإنسان والقيم الاجتماعية والثقافية، وللتأكد من دقة مؤشرات الأداء الرئيسية، ولرصد تأثيره على الأفراد أو الجماعات وذلك لضمان التحسين المستمر للتقنية.
2- على مصممي نماذج الذكاء الاصطناعي أن يضعوا آليات لتقييم أنظمة الذكاء الاصطناعي من حيث القيم الثقافية وحقوق الإنسان الأساسية للحد من أي نتائج سلبية وضارة ناتجة عن استخدام النظام، وفي حال رصد أي نتائج سلبية وضارة يجب على مسؤول نظام الذكاء الاصطناعي تحديد المجالات التي تحتاج إلى معالجة وتطبيق التدابير التصحيحية لتحسين أداء نظام الذكاء
الاصطناعي ونتائجه ومتابعة ذلك بشكل دوري ومستمر.
المبدأ الرابع - المنافع الاجتماعية والبيئية
يسعى مبدأ المنافع الاجتماعية والبيئية إلى تعزيز الأثر الإيجابي والمفيد للأولويات الاجتماعية والبيئية التي يجب أن تفيد الأفراد والمجتمع ككل والتي تركز على الأهداف والغايات المستدامة، لا ينبغي لأنظمة الذكاء الاصطناعي أن تسبب أو تسرع الضرر أو تؤثر سلباً على البشر، بل يجب أن تسهم في تمكين واستكمال التقدم التقني والاجتماعي والبيئي مع السعي
إلى معالجة التحديات المرتبطة بها.
1- تؤثر أنظمة الذكاء الاصطناعي تأثيراً كبيراً في المجتمعات والمنظومات الموجودة لديها، وبالتالي يجب أن يكون لدى مطوري ومسؤولي أنظمة الذكاء الاصطناعي وعي كافٍ بأن هذه التقنيات قد تكون لها آثار ضاّرة أو تحولية في المجتمع والبيئة، ويجب
التعامل مع تصميم أنظمة الذكاء الاصطناعي بطريقة أخلاقية لمنع الضرر على البشر والبيئة.
2- عند تخطيط وتصميم أنظمة الذكاء الاصطناعي، يجب الأخذ بعين الاعتبار المسائل الاجتماعية والبيئية ذات العلاقة والعمل على
معالجتها بطريقة مسؤولة.
1- يتم اتباع الإجراءات والسياسات المنظمة لإدارة البيانات عند تصنيف وهيكلة البيانات التي ستغذي نظام الذكاء الاصطناعي.
2- ينبغي أن تكون البيانات المتعلقة بالمواضيع الاجتماعية والبيئية متاحة للهياكل الأساسية للبيانات ويجب أن تبين بوضوح
المنفعة الاجتماعية للبيانات المعروضة.
1- يجب أن يكون الهدف النهائي أو الآثار الاجتماعية أو البيئية للنماذج والخوارزميات قادرة على إظهار ارتباطها بالنتائج المتوقعة والفوائد الانتقالية والمؤثرة.
2- كما يمكن تحديد الأسلوب الذي ستسعى من خلاله أنظمة الذكاء الاصطناعي إلى معالجة المخاوف المتعلقة بالقضايا الاجتماعية والبيئية.
1- بعد تشغيل نظام الذكاء الاصطناعي، يجب على مسؤول نظام الذكاء الاصطناعي أن يضمن إجراء تقييم مستمر للأثر الاجتماعي والثقافي والاقتصادي والبيئي لتقنيات الذكاء الاصطناعي، مع الإدراك الكامل لآثار نظام الذكاء الاصطناعي على الاستدامة كهدف
يجب متابعته وتطويره باستمرار عبر مجموعة من الأهداف ذات الأولوية التي تم وضعها في مرحلة التخطيط والتصميم.
2- الحرص على تعزيز وتشجيع قدرة حلول الذكاء الاصطناعي في معالجة المجالات المتعلقة بأهداف التنمية المستدامة.
المبدأ الخامس - الموثوقية والسلامة
يسعى مبدأ الموثوقية والسلامة إلى ضمان التزام نظام الذكاء الاصطناعي بالمواصفات المحددة وأن نظام الذكاء الاصطناعي يعمل بشكل كامل وفق الآلية التي كان يقصدها ويتوقعها مصمموه، وتمثل الموثوقية مقياساً للمصداقية والاعتمادية التي يتمتع بها
النظام من الناحية التشغيلية مع وظائفه المحددة والنتائج التي يسعى إلى تحقيقها. من ناحية أخرى تمثل السلامة مقياساً للكيفية التي لا يشكل بها نظام الذكاء الاصطناعي خطراً على المجتمع والأفراد، ومن ذلك على سبيل المثال يمكن لأنظمة الذكاء الاصطناعي مثل المركبات ذاتية القيادة أن تشكل خطراً على حياة الناس في حال عدم التعرف عليهم ككائنات حية أو في حالة عدم تدريب هذه المركبات على بعض السيناريوهات أو حالات تعطل النظام. وعليه يجب أن يكون النظام موثوقاً وآمناً من خلال عدم تعريض المجتمع للخطر ويجب أن تكون لديه آليات مدمجة لمنع وقوع الضرر، لذا يرتبط إطار الحد من المخاطر ارتباطاً وثيقاً بهذا المبدأ، وينبغي على مسؤول نظام الذكاء الاصطناعي العمل على تقليل المخاطر المحتملة والأضرار
غير المقصودة إلى أدنى حد ممكن.
1- يتم في هذه المرحلة العمل على تصميم وتطوير نظام ذكاء اصطناعي يمكنه تحمل عدم الاستقرار والتقلبات التي قد يتعرض لها.
2- يعد وضع نظام ذكاء اصطناعي قوي وموثوق يعمل مع مجموعات مختلفة من المدخلات والمواقف أمراً ضرورياً لمنع الضرر غير
المقصود والحد من المخاطر التي قد تعطل النظام عند مواجهة أحداث جديدة غير معروفة وغير متوقعة.
3- من الضروري وضع مجموعة من المعايير والبروتوكولات التي تقيم موثوقية نظام الذكاء الاصطناعي لضمان سلامة خوارزمية النظام ومخرجات البيانات والحفاظ على النفقات الفنية المستدامة ونتائج النظام للحفاظ على ثقة المستخدمين في نظام الذكاء
الاصطناعي.
4- تعد معايير التوثيق ضرورية لتتبع تطور النظام وتوقع المخاطر المحتملة ومعالجة الثغرات، ويجب أن تخضع جميع نقاط القرار
المهمة في تصميم النظام لموافقة أصحاب العلاقة للحد من المخاطر ووضع المسؤولية على متخذي تلك الموافقات.
5- تتم مراعاة مستويات المخاطر الخاصة بنظام الذكاء الاصطناعي، واتخاذ الإجراءات والضوابط اللازمة وفقاً لمستوى المخاطر
المذكور سابقاً.
1- يتم اتخاذ الخطوات والإجراءات المناسبة لقياس عينة البيانات وجودتها ودقتها وملاءمتها وموثوقيتها عند التعامل مع مجموعات البيانات لنموذج الذكاء الاصطناعي، ويعد ذلك ضرورياً لضمان اتساق البيانات ودقة تفسيرها من قبل نظام الذكاء الاصطناعي،
وتجنب حدوث قياسات مضللة، وضمان ارتباط نتائج نظام الذكاء الاصطناعي بغرض النموذج.
2- يجب أن يتم وضع خطوة للتحقق من كيفية عمل النظام في ظل الأحداث الطارئة والسيناريوهات غير المتوقعة.
1- لتطوير نظام ذكاء اصطناعي سليم وظيفياً وآمن وموثوق في الوقت نفسه، يجب أن يكون الهيكل الفني لنظام الذكاء الاصطناعي مصحوباً بمنهجية شاملة لاختبار جودة الأنظمة والنماذج التنبؤية القائمة على البيانات وفقاً لسياسات وبروتوكولات
موحدة لدى مطور النظام.
2- لضمان الاعتمادية الفنية لنظام الذكاء الاصطناعي، يجب اختباره والتحقق منه وإعادة تقييمه بشكل دقيق، بالإضافة إلى دمج آليات الإشراف والضوابط المناسبة لذلك ضمن عملية تطويره، وتلزم الموافقة على اختبار تكامل النظام من قبل أصحاب العلاقة
المعنيين للحد من المخاطر وتحديد المسؤولية.
3- يجب أن يتوفر إشراف بشري على أنظمة الذكاء الاصطناعي التي تتضمن أعمالها اتخاذ قرارات لها تأثير لا يمكن تداركه أو تنطوي على قرارات تتعلق بالحفاظ على الحياة، إضافة إلى ذلك، لا ينبغي استخدام أنظمة الذكاء الاصطناعي لأغراض التقييم الاجتماعي
أو المراقبة واسعة النطاق.
1- تتم مراقبة مصداقية واعتمادية نظام الذكاء الاصطناعي بطريقة دورية ومستمرة لقياس وتقييم أي مخاطر تتعلق بالجوانب الفنية لنظام الذكاء الاصطناعي )من منظور داخلي ،)بالإضافة إلى قياس حجم المخاطر التي يشكلها النظام
وقدراته )من منظور خارجي.)
2- كما يجب أن تتم مراقبة النموذج بطريقة دورية ومستمرة للتحقق مما إذا كانت عملياته ووظائفه متوافقة مع الهيكل والأطر المصممة، كما يجب أن يكون نظام الذكاء الاصطناعي سليماً وقوياً ومتطوراً من الناحية الفنية لمنع الاستخدام التخريبي لاستغلال بياناته ونتائجه لإلحاق الضرر بجهات أو أفراد أو مجموعات، ومن الضروري العمل بشكل مستمر على التنفيذ والتطوير لضمان
موثوقية النظام.
المبدأ السادس - الشفافية والقابلية للتفسير
يؤسس مبدأ الشفافية والقابلية للتفسير لبناء الثقة في أنظمة وتقنيات الذكاء الاصطناعي، لذا يجب بناء أنظمة الذكاء الاصطناعي بدرجة عالية من الوضوح والقابلية للتفسير، مع وجود ميزات لتتبع مراحل اتخاذ القرارات المؤتمتة، ولا سيما تلك التي قد تؤدي إلى آثار ضارة على الأفراد، وهذا يعني أن البيانات والخوارزميات والقدرات والعمليات والغرض من نظام الذكاء الاصطناعي جميعها تحتاج إلى أن تكون شفافة وقابلة للتفسير للمتأثرين بها بشكل مباشر وغير مباشر، وتعتمد الدرجة التي يكون فيها النظام قابلًا للتتبع والتدقيق والشفافية والقابلية للتفسير على سياق نظام الذكاء الاصطناعي والغرض منه والنتائج التي قد تنتج، ويجب أن تكون أنظمة الذكاء الاصطناعي ومطوروها قادرين على تبرير أسس تصميمها وممارساتها وعملياتها وخوارزمياتها وقراراتها وسلوكياتها
المسموح بها أخلاقياً وغير الضارة للعامة.
1- عند تصميم نظام ذكاء اصطناعي شفاف وموثوق من المهم التحقق من أن أصحاب العلاقة المتوقع تأثرهم بالنظام على دراية تامة بكيفية خروج النظام بالنتائج، كما يجب منحهم إمكانية الوصول إلى الأساس المنطقي للقرارات التي تتخذها تقنية الذكاء
الاصطناعي لشرحها بطريقة مفهومة وواضحة، ويجب أن تكون القرارات قابلة للتتبع بشكل واضح.
2- ينبغي على مطور نظام الذكاء الاصطناعي تحديد مستوى الشفافية لمختلف أصحاب العلاقة، ويلزم تصميم نظام الذكاء الاصطناعي، حيث يتضمن قسماً للمعلومات يتيح إلقاء نظرة عامة على قرارات نموذج الذكاء الاصطناعي كجزء من تطبيق الشفافية الشاملة للتقنية، ويجب الالتزام بمشاركة المعلومات مع المستخدمين النهائيين وأصحاب العلاقة في نظام الذكاء الاصطناعي، وذلك بناًء على طبيعة نظام الذكاء الاصطناعي والسوق المستهدف، ويجب أن يحدد النموذج آلية عمل لتسجيل ومعالجة المشاكل
والشكاوى التي تنشأ وكيفية حلها بطريقة شفافة ونظامية.
1- يتم توثيق مجموعات البيانات والعمليات التي توضح قرارات نظام الذكاء الاصطناعي وفقاً لأفضل المعايير للسماح بإمكانية التتبع وزيادة مستوى الشفافية.
2- يجب تقييم مجموعات البيانات من حيث دقتها وملاءمتها وصحتها ومصدرها، نظراً إلى كون ذلك يحدث تأثيراً مباشراً على تدريب وبناء هذه الأنظمة، بما يضمن أن تكون هذه الأنظمة ممتثلة للمتطلبات التنظيمية في المملكة.
1- تتم مراعاة الشفافية في الذكاء الاصطناعي من منظورين، الأول هو العمليات المسبقة )ممارسات التصميم والبناء التي تؤدي إلى نتيجة مدعومة خوارزمياً( والثاني من حيث النتيجة )محتوى وتبرير النتيجة ،)ويتم تطوير الخوارزميات بطريقة شفافة لضمان وضوح المدخلات وشرحها للمستخدمين النهائيين لنظام الذكاء الاصطناعي ليتمكنوا من تقديم الأدلة والمعلومات حول البيانات
المستخدمة في معالجة القرارات التي تمت معالجتها.
2- تضمن الخوارزميات التي تتسم بالشفافية والقابلية للتفسير أن أصحاب العلاقة المتأثرين بأنظمة الذكاء الاصطناعي سواء الأفراد أو المجموعات على اطلاع تام عندما تتم معالجة النتيجة من قبل نظام الذكاء الاصطناعي، وذلك من خلال إتاحة الفرصة لطلب معلومات توضيحية من مسؤول أو مطور نظام الذكاء الاصطناعي، ويتيح ذلك تحديد قرار الذكاء الاصطناعي وتحليله، الأمر الذي
يسهل إمكانية مراجعته بالإضافة إلى إمكانية تفسيره.
3- إذا تم بناء نظام الذكاء الاصطناعي من قبل طرف خارجي، فيجب على الجهات المسؤولة عن نظام الذكاء الاصطناعي التأكد من
الاهتمام بتطبيق أخلاقيات الذكاء الاصطناعي وإمكانية الوصول إلى جميع الوثائق وتتبعها قبل الشراء أو الاعتماد.
1- عند تطبيق نظام الذكاء الاصطناعي، يجب توثيق مقاييس الأداء المتعلقة بمخرجات نظام الذكاء الاصطناعي والتحقق من دقتها وتوافقها مع الأولويات والأهداف، فضلًا عن قياس أثرها على الأفراد والفئات المستهدفة.
2- ينبغي تسجيل توثيق معلومات عن أي أعطال في النظام أو خرق أو تسرب للبيانات أو غير ذلك، وإبلاغ الجهات المعنية وأصحاب العلاقة والجهات المختصة بها وفق ما تقرره الأنظمة ذات العلاقة، مع الحفاظ على شفافية أداء نظام الذكاء الاصطناعي، ويلزم إجراء اختبار دوري لواجهة وتجربة المستخدم لتجنب مخاطر التحيز أو صعوبة التعامل مع نظام الذكاء الاصطناعي أو أي مخاطر أخرى.
المبدأ السابع - المساءلة والمسؤوليةيُحِّمل مبدأ المساءلة والمسؤولية المصممين والمطورين ومسؤولي ومقيمي أنظمة الذكاء الاصطناعي المسؤولية الأخلاقية عن القرارات والإجراءات التي قد تؤدي إلى مخاطر محتملة وآثار سلبية على الأفراد والمجتمعات، ويجب تطبيق الإشراف البشري والحوكمة والإدارة المناسبة عبر دورة حياة نظام الذكاء الاصطناعي بأكملها لضمان وجود آليات مناسبة لتجنب الأضرار وإساءة استخدام هذه التقنية، وينبغي ألا تؤدي أنظمة الذكاء الاصطناعي إلى خداع الناس أو الإضرار بحرية اختيارهم دون مبرر، وأن يكون
المصممون والمطورون والأشخاص الذين ينفذون نظام الذكاء الاصطناعي مذكورين ويمكن لأصحاب المصلحة التواصل معهم. على الأطراف المسؤولين اتخاذ الإجراءات الوقائية اللازمة ووضع استراتيجية تقييم المخاطر والتخفيف منها للحد من الضرر الناجم عن نظام الذكاء الاصطناعي، ويجب على الأطراف المسؤولين عن نظام الذكاء الاصطناعي ضمان الحفاظ على عدالة النظام واستدامة هذه العدالة من خلال آليات الرقابة، وعلى جميع الأطراف المشاركة في دورة حياة نظام الذكاء الاصطناعي مراعاة هذه
المبادئ عند اتخاذهم للقرارات.
1- تعد هذه الخطوة بالغة الأهمية لتصميم أو شراء نظام ذكاء اصطناعي بطريقة مسؤولة وخاضعة للمساءلة، وينبغي إسناد المسؤولية الأخلاقية عن نتائج نظام الذكاء الاصطناعي إلى أصحاب العلاقة المسؤولين عن الإجراءات والأعمال الرئيسية في دورة حياة نظام الذكاء الاصطناعي، ومن الضروري وضع هيكل حوكمة ناضج يحدد مجالات التفويض والمسؤولية لدى الجهات المعنية الداخلية والخارجية بشكل واضح ومحدد، ويجب أن يراعي النهج المتبع في تصميم نظام الذكاء الاصطناعي حقوق الإنسان ومصالح
الأفراد، بالإضافة إلى الأنظمة والقيم الاجتماعية والثقافية للمملكة.
2- على الجهات وضع أدوات إضافية مثل تقييم الأثر، وأطر التخفيف من المخاطر، وآليات التدقيق والتقييم الشامل، والتصحيح،
وخطط الحد من الكوارث.
3- يتم بناء وتصميم نظام ذكاء اصطناعي تتم فيه مراقبة القرارات المتعلقة بعمليات ووظائف التقنية وتنفيذها، وتكون خاضعة للتدخل من قبل المستخدمين المصرح لهم، وتحدد الحوكمة والإشراف البشري الرقابة اللازمة ومستويات الاستقلالية من خلال
وضع آليات محددة لذلك.
1- جودة البيانات من الجوانب المهمة في مبدأ المساءلة والمسؤولية لكونها تؤثر في نتائج نموذج الذكاء الاصطناعي والقرارات ذات الصلة، لذلك من المهم إجراء اختبارات جودة البيانات وفرز البيانات وضمان سلامتها للحصول على نتائج دقيقة للوصول إلى
السلوك المقصود في النماذج الخاضعة للإشراف والنماذج غير الخاضعة للإشراف.
2- يجب الموافقة على مجموعات البيانات واعتمادها قبل البدء في تطوير نموذج الذكاء الاصطناعي، بالإضافة إلى ذلك يجب تنقيح البيانات من التحيزات، وعدم إدراج السمات الحيوية في بيانات النموذج، وفي حال الحاجة إلى إدراج سمات حساسة، يجب توضيح
الأساس المنطقي أو أهداف من قرار الإدراج بوضوح.
3- من المهم توثيق عملية إعداد البيانات والتحقق من جودتها وصحتها من قبل المخولين بذلك، إذ يعد توثيق العملية ضرورياً للتدقيق والحد من المخاطر، ويجب الحصول على البيانات وتصنيفها ومعالجتها وإتاحتها بسهولة لتسهيل التدخل والسيطرة البشرية
في مراحل لاحقة عند الحاجة.
1- يتكون تطوير نموذج نظام الذكاء الاصطناعي والخوارزمية من اختيار الخصائص وتهيئة مدخلات ضبط النموذج واختياره، ولتحقيق ذلك يجب أن يكون أصحاب العلاقة الفنيين الذين يقومون ببناء النماذج والتحقق منها مسؤولين عن هذه القرارات.
2- إن تحديد المسؤوليات فيما يتعلق بالملكية والاعتمادات من شأنه أن يحدد آلية المساءلة التي تساعد في توجيه تطوير نظام الذكاء الاصطناعي من حيث الأسباب والتداخل والسماح بتدخل الاجتهادات البشرية.
3- يجب دعم القرارات بمؤشرات كمية )مقاييس الأداء على مجموعات بيانات التدريب/ الاختبار، واتساق الأداء على المجموعات الحساسة المختلفة، ومقارنة الأداء لكل مجموعة مدخلات الضبط، وما إلى ذلك( ومؤشرات نوعية )القرارات اللازمة للتخفيف من
المخاطر غير المقصودة الناتجة عن التنبؤات غير الدقيقة وتصحيحها.)
4- على الجهات المعنية والجهات المسؤولة عن تقنية الذكاء الاصطناعي مراجعة النموذج واعتماده بعد الاختبارات الناجحة وبعد
جولات التحقق من قبول المستخدم قبل تطبيق نماذج الذكاء الاصطناعي.
1- يجب أن يتم تحديد المسؤولية والالتزامات المرتبطة بها في خطوة التطبيق والمتابعة بوضوح، ويجب مراقبة النتائج والقرارات المحددة في خطوة البناء والتحقق من صحتها بشكل مستمر، وينبغي أن تؤدي إلى إعداد تقارير أداء دورية، ويتم تحديد التنويه
والتنبيه المناسب مسبقاً لهذه الخطوة بناء على البيانات ومقاييس الأداء.
2- يمكن تحديد التنويه/ التنبيه كجزء من إجراءات تخفيف المخاطر أو التعافي من الكوارث وقد تحتاج إلى إشراف بشري
الأدوار والمسؤوليات
يحدد إطار أخلاقيات الذكاء الاصطناعي الأدوار والمسؤوليات التالية على المستوى الوطني ومستوى الجهات
على المستوى الوطني الهيئة السعودية للبيانات والذكاء الاصطناعي
تعمل الهيئة على مراجعة وتحديث مبادئ أخلاقيات الذكاء الاصطناعي ومتابعة الالتزام بها، كما تقوم الهيئة بإعداد الأدلة والمعايير والتوجيهات الوطنية التي تضمن إدارة ونشر أخلاقيات الذكاء الاصطناعي بفاعلية على مستوى المملكة وتحقيق الهدف المنشود،
وللهيئة في سبيل تنفيذ اختصاصاتها، القيام بالمهام التالية:
إعداد ومراجعة وتحديث أخلاقيات الذكاء الاصطناعي: العمل على تحديث الأخلاقيات -بشكل دوري أو عندما تدعو الحاجة إلى ذلك- لمعالجة أي تغييرات أو تطورات مستقبلية.
وضع خطة تبني أخلاقيات الذكاء الاصطناعي: إعداد الخطط الداعمة للتوعية بأخلاقيات الذكاء الاصطناعي وتقديم التوجيه المستمر للجهات المشمولة ضمن نطاق التطبيق لتسهيل تبني الأخلاقيات.
تقديم المشورة بشأن أخلاقيات الذكاء الاصطناعي: دعم الجهات المشمولة ضمن نطاق التطبيق للالتزام بهذه المبادئ والإجابة عن أي استفسارات أو استشارات تتعلق بأخلاقيات الذكاء الاصطناعي.
قياس الالتزام بالأخلاقيات: قياس التزام الجهات المطبقة بشكل منتظم وذلك من خلال التسجيل الاختياري للجهات المطبقة. التنسيق ومتابعة التطبيق: للهيئة التنسيق مع الجهات الحكومية ذوات العلاقة لتفعيل مبادئ أخلاقيات الذكاء الاصطناعي
في القطاعات التي تشرف عليها تلك الجهات.
على مستوى الجهات المطبقة
تتحمل جميع الجهات المشمولة بنطاق التطبيق المسؤولية الأساسية عن ضمان نشر وثائق أخلاقيات الذكاء الاصطناعي الخاصة بها وفقاً لمبادئ أخلاقيات الذكاء الاصطناعي هذه وبالتالي يجب على الجهات تعيين أشخاص يتولون مسؤولية تنفيذ الأنشطة المتعلقة
بأخلاقيات الذكاء الاصطناعي على النحو المنصوص عليه أدناه:
1- رئيس الجهة / مسؤول إدارة البيانات: مسؤول عن ممارسات أخلاقيات الذكاء الاصطناعي داخل الجهة، وتشمل المسؤوليات
ما يلي: الموافقة على خطة أخلاقيات الذكاء الاصطناعي والإشراف عليها
توزيع الأدوار المتعلقة بأخلاقيات الذكاء الاصطناعي اعتماد التقرير السنوي الخاص بأخلاقيات الذكاء الاصطناعي حل المشكلات التي يثيرها مسؤول الالتزام أو تفويضها أو تصعيدها إلى الهيئة إذا لزم الأمر التنسيق مع الهيئة والعمل كحلقة وصل بين الجهة والهيئة
2- مسؤول الالتزام: هو القائد الاستراتيجي لممارسات أخلاقيات الذكاء الاصطناعي ويكون مسؤول الالتزام تحت إشراف مسؤول إدارة البيانات ويتبعه بشكل مباشر بالجهات العامة، وتشمل المسؤوليات ما يلي:
تطوير استراتيجية أخلاقيات الذكاء الاصطناعي ومراجعة خطة الأخلاقيات وتقديم التحسينات المحتملة الإشراف على أخلاقيات الذكاء الاصطناعي ومراقبة وتحديد أولويات الأنشطة المتعلقة بالأخلاقيات وضمان صونها الالتزام بأخلاقيات الذكاء الاصطناعي وضمان تطبيق سياسات حوكمة البيانات والتزام الأطراف الخارجية بمبادئ حماية البيانات
3- مسؤول الذكاء الاصطناعي: هو القائد التشغيلي المسؤول عن الذكاء الاصطناعي في الجهة ويتعاون بشكل وثيق مع فريق إدارة البيانات، وتشمل المسؤوليات ما يلي:
التعاون مع الموظفين الآخرين العاملين في إدارة وحوكمة البيانات وحماية البيانات الشخصية وضع ومراجعة خطة أخلاقيات الذكاء الاصطناعي، مع تحديد الأهداف ومؤشرات الأداء بالتنسيق مع الجهات القيادية
تحديد أولويات وإجراءات أخلاقيات الذكاء الاصطناعي، وتحديثها، وصيانتها ومراجعتها التوعية وتثقيف موظفي الجهة حول معايير وقيم أخلاقيات الذكاء الاصطناعي، والمشاركة في حملات التوعوية الوطنية
بالتنسيق مع مسؤول الالتزام
4- مقيم نظام الذكاء الاصطناعي: مسؤول عن تدقيق أنظمة الذكاء الاصطناعي لتحقيق أهداف معينة، وتشمل المسؤوليات ما يلي:
مراجعة قنوات التواصل وأوجه التفاعل مع الأطراف المعنية للإفصاح عنها وكذلك قنوات تقديم الملاحظات الفعالة إجراء مراجعات دورية لتوثيق عمل إجراءات أخلاقيات الذكاء الاصطناعي
المراجعة المستمرة لمؤشرات الأداء الرئيسية لأخلاقيات الذكاء الاصطناعي إصدار تقارير المراجعة والتدقيق بشأن تقييم أخلاقيات الذكاء الاصطناعي في الهيئة التي تشمل عملية تطوير الذكاء الاصطناعي
وتنفيذة، وعمليات شراء منتجات الذكاء الاصطناعي الخاصة بالجهات الخارجية
التسجيل الاختياري
يهدف التسجيل الاختياري ومزاياه إلى تحفيز الجهات المستهدفة بتبّني هذه الأخلاقيات عند بناء وتطوير الحلول القائمة على الذكاء الاصطناعي لضمان الاستخدام المسؤول لها.
الالتزام
للهيئة متابعة وقياس مستوى التزام الجهات المسجلة بالأخلاقيات ودعمها في تقييم الالتزام بتطبيق أخلاقيات الذكاء الاصطناعي الخاصة بها وتقديم التقارير الاختيارية يتم قياس مستوى الالتزام وفق الآتي:
عرض تقدم المنتج أو الجهة في الالتزام بالقائمة المرجعية لأخلاقيات الذكاء الاصطناعي المذكورة في مرفقات هذا المستند: نتائج التقييم الداخلي أو الخارجي لأخلاقيات الذكاء الاصطناعي
أهداف المنتج أو الجهة ومؤشرات قياس أداء أخلاقيات الذكاء الاصطناعي مستوى الالتزام بأخلاقيات الذكاء الاصطناعي وتحقيق متطلباتها والوسوم التي حصل عليها المنتج أو الجهة ويمكن للهيئة مساعدة الجهات في مراجعة التقارير ورفع التوصيات المتعلقة بالالتزام بأخلاقيات الذكاء الاصطناعي.
الوسوم التحفيزية
لتحفيز الجهات المطبقة للتسجيل والعمل بمبادئ أخلاقيات الذكاء الاصطناعي، للهيئة تقديم وسوم تحفيزية في أخلاقيات الذكاء الاصطناعي وتعكس هذه الوسوم مستوى نضج الممارسات المعمول بها على مستوى المنتجات والخدمات ومدى تبنيها لأخلاقيات
الذكاء الاصطناعي وستصدر الهيئة دليلًا يوضح فئات الوسوم التحفيزية وآلية منحها.
الملاحق
الملحق أ: أدوات أخلاقيات الذكاء الاصطناعي
تقرير عدالة الذكاء الاصطناعي: يسمح تقرير العدالة والإنصاف للجهة المسؤولة عن تقنية الذكاء الاصطناعي بتحديد معايير العدالة المستخدمة في نظام الذكاء الاصطناعي بشكل واضح وكذلك توضيح الأساس المنطقي والمبرر وراء ذلك بلغة مباشرة وسهلة الفهم وغير تقنية، ولتنفيذ نظام ذكاء اصطناعي يتسم بالنزاهة والإنصاف على نحو مستدام، فإن اختيار أهداف النزاهة المواتية يعد أمراً أساسياً لتحديد أسلوب نموذج الذكاء الاصطناعي من حيث معاييره الأخلاقية ومتطلباته التنظيمية، ويتم ذلك من خلال مشاركة الأسباب والقيم الأساسية للإنصاف الواردة في النموذج بالإضافة إلى عملية صنع القرار في نموذج الذكاء الاصطناعي للتواصل مع الجمهور الأوسع نطاقاً والوصول إليه، ويكون هذا التقرير متاحاً ويمكن الوصول إليه من قبل كل من
الجمهور والأفراد والأوساط المتأثرة على حد سواء.
تقييم الأثر الأخلاقي: سّرعت أنظمة الذكاء الاصطناعي الابتكار في سبل إجراء الأعمال وتنفيذها من قبل الممارسين، وبالتالي أصبح من الضروري تطوير تقييمات الأثر الأخلاقي لنظام الذكاء الاصطناعي لتحديد المجالات التي تحتاج إلى تعديل وإعادة المعايرة لتصميم نموذج الذكاء الاصطناعي في تقنية مقبولة أخلاقياً لتعظيم تأثيرها الإيجابي في تعزيز القدرات والمهارات البشرية، ويكمن الهدف من تقييمات الأثر في تقييم وتحليل مستوى التأثير الأخلاقي لتقنية الذكاء الاصطناعي على كل من الأفراد أو المجتمعات في السلوكيات المباشرة وغير المباشرة على حد سواء، مما يساهم بدوره في تمكين الجهة المسؤولة لنظام الذكاء الاصطناعي من القدرة على معالجة المشكلات المحددة وتعزيز المجالات التي تستلزم إدخال تحسينات وتعديلات، والقدرة على تقييم المخاطر الأخلاقية التي يتعرض لها نظام الذكاء الاصطناعي، وتحليل أثر الضرر التمييزي، والتمثيل الدقيق للأثر الأخلاقي للنظام من خلال تحليل متنوع للمتأثرين بالنظام، فضلًا عن العمل لتحديد ما إذا كان النموذج يجب أن ينتقل إلى الإنتاج أو النشر والتنفيذ الفعلي، ويتمثل أحد أهداف تقييم الأثر الأخلاقي في المساعدة على بناء ثقة الجمهور في نظام الذكاء
الاصطناعي وإظهار الاهتمام والاجتهاد تجاه الجمهور العام.
معايير الخصوصية والأمن: تساعد معايير الخصوصية والأمن الشركات على تحسين استراتيجيتها لأمن المعلومات من خلال توفير التوجيهات وأفضل الممارسات بناًء على مجال الشركة ونوعية البيانات التي تحتفظ بها، يتضمن الجدول التالي بعض
الأمثلة لمعايير الأمن والخصوصية.
مبادئ أخلاقيات الذكاء الاصطناعي 34
موثوقية بنية الذكاء الاصطناعي: ينبغي أن تنعكس المتطلبات الواردة في قسم مبادئ وأخلاقيات الذكاء الاصطناعي في تصميم بنية نظام الذكاء الاصطناعي، وينبغي أن تحدد بنية نظام الذكاء الاصطناعي القواعد والقيود عبر مراحل عمل نظام الذكاء الاصطناعي، إذُ تعد المبادئ والضوابط عامة وينبغي التعامل معها في حالات الاستخدام أو أنظمة الذكاء الاصطناعي المحددة من خلال نهج منطقي وواضح وسهل الشرح والفهم. نحتاج إلى الخطوات الثلاث التالية لمواءمة البنية مع أخلاقيات
الذكاء الاصطناعي: الإحساس: ينبغي تطوير نظام يتعرف على جميع العناصر البيئية اللازمة لضمان الالتزام بالمتطلبات
الخطة: ينبغي أن يراعي النظام الخطط التي تلتزم بالمتطلبات فقط التصرف: ينبغي أن تقتصر إجراءات النظام على السلوكيات التي تحقق المتطلبات يتم إعطاء الأولوية للأهداف التقنية المتمثلة في الدقة والموثوقية والسلامة والمتانة لضمان عمل نظام الذكاء الاصطناعي على نحو آمن، وينبغي على مطوري نظام الذكاء الاصطناعي بناء نظام يعمل بدقة وموثوقية -وفقاً لأغراض التصميم المخصصة- حتى
في حال مواجهة أي تغيرات أو مخالفات أو اضطرابات غير متوقعة.
تقييم الخوارزميات: الهدف من تقييم الخوارزمية هو ضمان اطلاع الأفراد أو المجتمعات على استخدام الخوارزميات والأوزان المختارة بها وطريقة إدارة استخدامها، وتختلف درجة جاهزية الجهات في مجال الذكاء الاصطناعي عن غيرها، وُيظهر هذا التقييم مجالات التحسين بالنسبة للجهات المعنية لتحسين الأوصاف المتعلقة بكيفية إبلاغ الخوارزميات أو التأثير على صنع القرار، خاصة في الحالات التي يكون فيها اتخاذ القرارات تلقائياً أو عندما تدعم الخوارزميات القرارات التي لها تأثير كبير على الأفراد أو
المجموعات، ويوضح هذا التقييم أهمية ووزن الإشراف البشري على أنظمة الذكاء الاصطناعي المستخدمة.
تقييم العدالة: هو مجموعة من الطرق التشخيصية التي تساعدك على مقارنة أداء النماذج والعلامات العادلة لمجموعات محددة. إذ إنه يتحقق مما إذا كانت نتيجة النموذج مبالغاً فيها أو يستهان بها بشكل منتظم بالنسبة لمجموعة أو أكثر مقارنة بالمجموعات الأخرى، وبالإضافة إلى ذلك فإنه يقِّيم مدى تنوع البيانات الممثلة لكل مجموعة، ويتضمن الجدول التالي أمثلة
:على أدوات تقييم العدالة
الرابط
اسم الأداة
https://github.com/tensorflow/model-card-toolkit
Google model card toolkit
https://github.com/Trusted-AI/AIF360
Ai fairness 360
https://fairlearn.org/
Microsoft fairlearn
https://pair-code.github.io/what-if-tool/
Google what-if tool
http://aequitas.dssg.io/
Aequitas bias and fairness audit toolkit
https://github.com/mas-veritas2/veritastool
Veritas fairness assessment tool
https://www.tensorflow.org/tfx/guide/fairness_indicators
Tensorflow fairness indicators
https://github.com/Trusted-AI/AIX360
Ai explainability 360
تقرير تفسير طريقة عمل الذكاء الاصطناعي: كما هو موضح في إطار قسم الشفافية والقابلية للتفسير، ينبغي توضيح أسباب تصرف النظام على النحو الذي يقوم به وسبل اتخاذ القرارات، وعلى الرغم من أن بعض أساليب التدريب ذات أداء متفوق إلا أنه قد يظن البعض أنها تعمل بآلية غامضة كما لو كانت صندوقاً أسودَ مما يشكل بدوره تحدياً في كيفية تفسير النتائج، ويمكن أن تؤدي الانحرافات البسيطة في البيانات إلى حدوث انحرافات وتغييرات جذرية على المخرجات؛ لذلك يجب أن يوضح التقرير طريقة عمل الذكاء الاصطناعي ويفسر سلوك النظام مما يرفع موثوقية النظام ويزيد استخدام هذه التقنية، كما
يساعد التقرير على تحسين فهم الآلية الأساسية لنظام الذكاء الاصطناعي بشكل أفضل إلى جانب تفسير المخرجات.
وينبغي على الأطراف المعنية بأنظمة الذكاء الاصطناعي مراعاة المفاضلة بين أساليب الأداء والقابلية للتفسير والتحقق، وفي بعض الحالات تزيد طرق التفسير من التعقيد أو تتطلب التضحية بنسبة من الأداء لتحقيق فهم وموثوقية أفضل، وينبغي إجراء
تحليل للتكاليف والمزايا لتبرير مستوى القابلية للتفسير استناداً إلى هذا التحليل.
تدقيق الخوارزميات: يمكن اكتشاف سلوكيات خوارزمية غير متوقعة من خلال عمليات تدقيق الخوارزميات، وبشكل عام يتم إجراء عمليات تدقيق الخوارزميات على نحو مخصص، كما أنه من الضروري معايرة عملية التدقيق الخوارزمية مع دعم خوارزميات الذكاء الاصطناعي. وينبغي أن تكون العملية منهجية ومستمرة. إن تنظيم وتدقيق أنظمة الذكاء الاصطناعي فيما يتعلق بالالتزام الأخلاقي أكثر تعقيداً من تنظيم ومراجعة عمليات صنع القرار أو العمليات البشرية، وينبغي تصميم أنظمة الذكاء الاصطناعي مع مراعاة مبادئ وضوابط أخلاقيات الذكاء الاصطناعي، كما ينبغي أن تتبع آليات التدقيق ذات المبادئ والضوابط
بما يتماشى مع هذه المبادئ.
التقييم الذاتي للسلامة: يجب مراعاة اعتبارات السلامة المتعلقة بالدقة والموثوقية والأمن والمتانة في كل خطوة من خطوات مراحل عمل نظام الذكاء الاصطناعي، وينبغي تسجيل التقييمات الذاتية لسلامة نظام الذكاء الاصطناعي وتوثيقها باستمرار بطريقة تسمح باستعراضها وإعادة تقييمها دورياً، وينبغي على الأطراف المعنية إجراء التقييمات الذاتية لأداء نظام الذكاء الاصطناعي في كل مرحلة من مراحل سير العمل، كما ينبغي عليهم تقييم مدى توافق ممارسات التصميم والتنفيذ مع
أهداف السلامة المتمثلة في الدقة والموثوقية والأمن والمتانة.
طرق حماية البيانات: تساعد على حماية البيانات بعد تصنيفها، وخاصة البيانات الحساسة، ويتم تقديم طرق حماية البيانات التالية على سبيل المثال:
إلغاء تحديد البيانات: هو التخلص من البيانات المحددة للهوية الشخصية من أي مستند أو وسائط أخرى، بما في ذلك المعلومات الصحية المحمية للأفراد
إخفاء هوية البيانات وعدم الكشف عنها: هو إزالة العناصر التي تمّكن من تحديد الهوية الشخصية من مجموعات البيانات للحفاظ على عدم الكشف عن هوية وسرية الأفراد الذين تصفهم البيانات، وغالباً ما تكون الطريقة المفضلة لجعل مجموعات
البيانات الطبية المنظمة آمنة لتبادل المعلومات إخفاء البيانات: هو التخلص من المعلومات أو إخفائها، واستبدالها ببيانات بديلة واقعية أو حتى معلومات وهمية زائفة، والهدف من ذلك إنشاء نسخة لا يمكن فك شفرتها أو هندستها على نحو عكسي، وهناك مجموعة من الطرق لتغيير البيانات،
بما في ذلك التشفير أو خلط الأحرف أو استبدال الكلمات أو الحروف إخفاء البيانات بهوية مستعارة: هي طريقة لإخفاء البيانات التي تضمن عدم إمكانية إسناد البيانات الشخصية إلى شخص معين، دون استخدام معلومات إضافية خاضعة للتدابير الأمنية، وهي جزء لا يتجزأ من اللائحة العامة لحماية البيانات في النظام الأوروبي العام لحماية البيانات ) )GDPR التي تحتوي على عديد من الحيثيات والتي تحدد كيفية استخدام البيانات المستعارة
والتوقيت المناسب لذلك
تشفير البيانات: هو عبارة عن آلية لإخفاء البيانات وحجبها إذُ تستخدم هذه الآلية لحمايتها من الجرائم السيبرانية أو حتى من الحوادث العرضية غير المتوقعة، وقد تكون البيانات عبارة عن محتويات قاعدة بيانات أو رسالة بريد إلكتروني أو رسالة فورية أو
ملف محفوظ على الحاسوب ترميز البيانات: هي عملية استبدال البيانات الشخصية برمز عشوائي، وغالباً ما يتم الاحتفاظ بالرابط بين المعلومات الأصلية والرمز المميز )مثل معالجة العمليات المالية في المواقع ،)ويمكن أن تكون الرموز ) )Tokens عبارة عن أرقام عشوائية تماماً أو
يتم إنشاؤها بوظائف أحادية أو متعددة الاتجاهات ))hashes
منع فقدان البيانات: يستخدم منع فقدان البيانات للكشف ومنع انتهاكات البيانات. ويتضمن ذلك مراقبة نشاط الشبكة وتحديد وحجب السلوك المشبوه وتنفيذ التشفير وضوابط الوصول
حوكمة البيانات: تتضمن حوكمة البيانات جميع جوانب إدارة البيانات طوال دورة حياتها، بما في ذلك الأمن والاستخدامية والتوفر والخصوصية، ويتضمن ذلك تحديد سياسات وعمليات معالجة البيانات
تقليل البيانات: هي عملية جمع البيانات الشخصية المطلوبة فقط دون المعلومات الإضافية لتخفيف المخاطر المرتبطة بانتهاكات البيانات وسوء استخدام المعلومات الشخصية
الملحق ب: ربط أدوات أخلاقيات الذكاء الاصطناعي بمراحل عمل نظام الذكاء الاصطناعي
الملحق ج: القائمة المرجعية لأخلاقيات الذكاء الاصطناعي
المرحلة الأولى لدورة عمل نظام الذكاء الاصطناعي: التخطيط والتصميم.
المبادئ
النزاهة والإنصاف 41
نعم نعم لا لا نعم لا لا لا لا نعم
لا لا
السؤال
المرحلة
هل تم تصميم مستوى إشرافي مناسب لنظام الذكاء الاصطناعي وحالة الاستخدام؟
التخطيط والتصميم 1
هل يمنع تصميم نظام الذكاء الاصطناعي لديكم الثقة المفرطة في نظام الذكاء الاصطناعي أو الاعتماد المفرط عليه باستخدام آلية التدخل البشري اللازمة؟
هل تم تحديد عمليات الإشراف البشري باستخدام مؤشرات الأداء الرئيسية المناسبة وتحديد المسؤولية للأطراف ذات الصلة؟
هل تم وضع استراتيجية التشغيل والحوكمة المواتية لإيقاف النظام أو التدخل في آلية عمله عندما لا يعمل على النحو المطلوب؟
هل تمت مراعاة متطلبات حماية المسؤولية والجهة صاحبة البيانات وأخذها بعين الاعتبار؟
هل تم وضع الحدود القصوى لمؤشرات الأداء الرئيسية، وهل تم وضع إجراءات حوكمة أو إجراءات مستقلة لتنفيذ خطط بديلة أو احتياطية؟
هل تم توفير التدريب والتعليم اللازم للمساعدة في تطوير ممارسات المساءلة؟
هل تم التأكد من توافق هيكل حوكمة أخلاقيات الذكاء الاصطناعي مع آلية الحوكمة المقترحة في المبادئ الوطنية لأخلاقيات الذكاء الاصطناعي؟
هل تم التأكد من أن هيكل حوكمة أخلاقيات الذكاء الاصطناعي يتضمن آليات تدقيق داخلية أو خارجية؟
هل تم وضع استراتيجية أو مجموعة من الإجراءات لتجنب وجود أو تعزيز التحيز غير العادل في نظام الذكاء الاصطناعي، بما يشمل كلاً من بيانات المدخلات وكذلك تصميم
الخوارزمية؟
هل تم تحديد سمات البيانات الشخصية الحساسة المتعلقة بالأفراد أو المجموعات المحرومة بشكل منهجي أو تاريخي؟ وفي حال كانت الأمور على هذا النحو، فيجب تحديد
الحد المسموح به الذي يجعل التقييم عادلاً أو غير عادل
هل تم تحديد مؤشرات الأداء الرئيسية لتقييم النزاهة؟
التخطيط والتصميم 2
التخطيط والتصميم 3
التخطيط والتصميم 4
التخطيط والتصميم 6
التخطيط والتصميم 7
التخطيط والتصميم 8
التخطيط والتصميم 9
التخطيط والتصميم 10
التخطيط والتصميم 12
النزاهة وااللإنمباصدائف
المساءلة النزاهة والمسؤولية والإنصاف
المساءلة النزاهة والمسؤولية والإنصاف المساءلة النزاهة والمسؤولية والإنصاف المساءلة والمالسقيؤمولية الإنسانية المساءلة والمسؤولية القيم اللإمنسسااءنليةة والمسؤولية
الالخمصسواءلصةية والالموامبسلأاؤمدونلئية
المساءلة وااللخمصسوؤولصية
والأمن المساءلة والمسؤولية الخصوصية الونازالأهمةن والإنصاف
الموثوقية والسلامة
الموثوقية النزاهة
والسلامة والإنصاف
الالمنوزاثوهقةية واواللإنسصلاامفة
المزايا
لا
لا
نعم ملزمة لأي طرف ثالث؟
نعم لا
نعم لا لا لا لا نعم نعم نعم لا
ملنزعملاةم لأي طرف ثالث؟
لا نعم لا نعم نعم
لا لا
نعم لا
نعلام
هل تم التأكد من توافق هيكل حوكمة أخلاقيات الذكاء الاصطناعي مع آلية الحوكمة المقترحة في المبادئ الوطنية لأخلاقيات الذكاء الاصطناعي؟
التخطيط والتصميم 8
هل تم التأكد من أن هيكل حوكمة أخلاقيات الذكاء الاصطناعي يتضمن آليات تدقيق داخلية
التخطيط
أو خارجية؟
مبادوئالأتخلاصقمييامت9الذكاء الاصطناعي
هل تم وضع استراتيجية أو مجموعة من الإجراءات لتجنب وجود أو تعزيز التحيز غير العادل في نظام الذكاء الاصطناعي، بما يشمل كلاً من بيانات المدخلات وكذلك تصميم
ال اخلوارسزؤمايةل؟
التخطيط والاتلمصرمحيلمة 10
هل تهلم تتمحتديصدميمسمماستتوالىبيإانشاراتف ايل مشناخسصيبةلنالظحامساالذسكاةء اللامتصعلطقناةع بيالأوفحالراةدا ألاوساتلخمداجممو؟عات المحرومة بشكل منهجي أو تاريخي؟ وفي حال كانت الأمور على هذا النحو، فيجب تحديد
الحد المسموح به الذي يجعل التقييم عادلاً أو غير عادل هل يمنع تصميم نظام الذكاء الاصطناعي لديكم الثقة المفرطة في نظام الذكاء
الاصطناعيهألو تاملاعتتحمدايددالممؤفرشرطا عتلياهلأبدااءساتلرخئديامسيآلةيلةت اقليتيدمخ اللنازلابهةشر؟ي اللازمة؟
هل تم تحديد عمليات الإشراف البشري باستخدام مؤشرات الأداء الرئيسية المناسبة وتحديد هل تم النظر في وضع آلية تشمل مشاركة مختلف الأطراف المعنية في تطوير واستخدام
المسؤولية للأطراف ذات الصلة؟ نظام الذكاء الاصطناعي؟
هل تم وضع استراتيجية التشغيل والحوكمة المواتية لإيقاف النظام أو التدخل في آلية هل تم إجراء تحليل للأثر حول كيفية تأثير نظام الذكاء الاصطناعي على حقوق الإنسان
عمله عندما لا يعمل على النحو المطلوب؟ الأساسية والقيم الثقافية؟ هل تم التنويه عن احتمالية وجود أي آثار سلبية على حقوق
هل تمت مراعااةلإنمتساطنل ابالأتساحسماييةة اواللمقيسمؤ اوللثيقةافوايلةجوهالةحلصوالحبأةواآللبيياانات اتلتوعأاخفذيها؟ بعين الاعتبار؟
هل تم اتخاذ تدابير لضمان ألا يؤدي نظام الذكاء الاصطناعي إلى خداع الناس أو الإضرار هل تم وضع الحدود القصوى ل بمحؤريشةراختتياارلأهداءم ادلروئينسميبرةر،؟وهل تم وضع إجراءات حوكمة أو
إجراءات مستقلة لتنفيذ خطط بديلة أو احتياطية؟ هل تمت مواءمة نظام الذكاء الاصطناعي لديكم مع المعايير أو السياسات ذات الصلة أو البروتهولكتوملاتوتفي(رواقلاتندروينبخوالصتوعليصيم اةل ألازصمحلالمبساالبعيدانةافتي ت EE طوEيرمثمملارمساعيتارالاملآيسازءولةو؟معيار)
السؤال المعتمدة على نطاق واسع لإدارة وحوكمة البيانات اليومية؟ هل تم التأكد من توافق هيكل حوكمة أخلاقيات الذكاء الاصطناعي مع آلية الحوكمة هل تم اتباع البروتوكولات والعمليات والإجراءات المعمول بها لإدارة وضمان الحوكمة المقترحة في المبادئ الوطنية لأخلاقيات الذكاء الاصطناعي؟ المناسبة للبيانات؟ هل تم التأكد من اتباع معايير إدارة البيانات الوطنية وحماية البيانات هل تم التأكد من أن هيكل حوكمة أخلاقيالاشتخالصذيكاةء؟الاصطناعي يتضمن آليات تدقيق داخلية
أو خارجية؟ هل تم التأكد من أن التحكم في الوصول إلى البيانات يلبي متطلبات الأمن والخصوصية هل تم وضعوالاسلتزراتمي؟جيةه ألوتممجتمصوعميةممآلينةاتلإجسرجايءالتلألغتراجنضبالوتجدقويد أقوواتلعتزيصزحايلتحح؟يز غير العادل في نظام الذكاء الاصطناعي، بما يشمل كلاً من بيانات المدخلات وكذلك تصميم هل تم وضع استراتيجية إدارة المخاطالرخلنوارظزاممي اةل؟ذكاء الاصطناعي لديكم؟ هل تم إدراج مستويات المخاطر ومؤشرات الأداء الرئيسية وتقييم المخاطر وإجراءات التخفيف من هل تم تحديد سمات البيانات الشخصية الحساسة المتعلقة بالأفراد أو المجموعات
حدتها؟ المحرومة بشكل منهجي أو تاريخي؟ وفي حال كانت الأمور على هذا النحو، فيجب تحديد
الحد المسموح به الذي يجعل التقييم عادلاً أو غير عادل هل تم تقييم مدى احتمالية أن يتسبب نظام الذكاء الاصطناعي في إلحاق الضرر أو الأذى بكل من المستخدمين أو الجهات الخارجية على حد سواء؟ هل تم تقييم الأضرار المحتملة
هواللتجمم تهحورديالدمتمأثؤرشورالاتسايلأماداءدرالجرئةيالسخيةط لوترقةيايلممتالونزقاعهةة؟؟
ههل تل تمالمنتظقيريفميمودضى اع آحلتيماةليتةشأمنليقموشامر نكةظاممختاللذفكااءلأالاطراصطفناالعمعينيعةنفغييترطقويصردوابتسحتقيخداقم نتائج خاطئة أو توقعات نغيظرا دمقاليذقكةاءأ اولافصشطلناأعو تيغ؟ذية التحيزات المجتمعية؟
ههل تلتم إمجالرناءظترحليفليلاللأتثأثريرحالوملحتكيمفيلةأوتأثيمخرانطظراالم اسللاذكماءةاعلالصىطالنابيعئية أعولالىكاحئنقاوتقالاحلإينةسأاون
التخطيط التخطيط والتصميم 1 والتصميم 11
التخطيط وااللتتخصطميمط 2 والتصميم 12
التخطيط التخطيط والتصميم 3 والتصميم 13
التخطيط وااللتتخصطمييطم 4 والتصميم 14
التخطيط والاتلتصخمطييمط15 والتصميم 6
االلتتخخططييطط واولااتللتمصصرميمحيلمةم176
التخطيط وااللتتخصمطيمط 8 والتصميم 17
التخطيط والتصميم 9
التخطيط والاتلتخصمطييمط18 والتصميم 10
التخطيط والتصميم 19
التخطيط والاتلتخصمطييمط20 والتصميم 12
42االلتتخخططييطط
ووااللتتصصممييمم 2113
التخطيط
والأمن
نعم الخصوصية مبادئ أخلاقيات الذواكالأء املانصطناعي
الموثوقية اواللمبسادلامئة
ملزملاة لأي طرف ثالث؟
المساءلة
نعم
الموثوقية
والمسؤولية
نعم
والسلامة
المساءلة
نعم
نعم والموسثؤووقلييةة
والسلامة
لا والمالسمزؤايوالية المساءلة
نعم الاجتماعية
لا المساءلة
نعم وااللمشسفاؤفويليةة
والقابلية للتفسير المساءلة
نعم والمسؤولية
نعم الشفافية
لا والقاالبلميةسالءللتةفسير
والمسؤولية
االلمشسفااءفليةة
نعم
والواقالبمليسةؤللوتليفةسير
لا
نعلام واولاملإنسؤصاوليفة الالمنزسااءهلةة
نعلام والمواسلأؤمولنية الالخمصساوءلصةية
القيالمن ازالإهنةسانية
نعم
نعم
والإنصاف
لا والإنصاف النزاهة
النزاهة
والإنصاف
لا
النزاهة 43
والإنصاف
لا
الشخصية؟
هل تم التأكد من أن التحكم في الوصول إلى البيانات يلبي متطلبات الأمن والخصوصية والالتزام؟ هل تم تصميم آلية تسجيل لأغراض التدقيق والتصحيح؟
هل تم وضع استراتيجية إدارة المخاطر لنظام الذكاء الاصطناعي لديكم؟ هل تم إدراج مستويات المخاطر ومؤشرات الأداء الرئيسية وتقييم المخاطر وإجراءات التخفيف من
الحدستؤهاا؟ل
التخطيط والتصميم 18
التخطيط والاتلمصرمحيلمة 19
هلهتلمتتمقيتيمصمميدمىماسحتومالىيإة أشرنا يفتيسمبنابسنظبالنم اظلاذمكاالءذاكالاء اصلاطناصعطنياعفييوإلحاحلاةقا الالسضترخردأاوما؟لأذى بكل من المستخدمين أو الجهات الخارجية على حد سواء؟ هل تم تقييم الأضرار المحتملة
والجمهور المتأثر ولا سيما درجة الخطورة المتوقعة؟ هل يمنع تصميم نظام الذكاء الاصطناعي لديكم الثقة المفرطة في نظام الذكاء هل تماتلاقييصطمنامعدي أىوااحتلاعماتليمادة األنم يفرقطومعلنيهظباامساتلخذداكامء آاليلاةصالتطنداخعليالبعشنر غييالرلاقزمصةد؟ بتحقيق
نتائج خاطئة أو توقعات غير دقيقة أو فشل أو تغذية التحيزات المجتمعية؟ هل تم تحديد عمليات الإشراف البشري باستخدام مؤشرات الأداء الرئيسية المناسبة وتحديد هل تم النظر في التأثير الالممحتسمؤولليأةو لملأخاطراطرفالذاستلا املةصلعلة؟ى البيئة أو الكائنات الحية أو
المجتمع وكذلك أصحاب البيانات؟ هل تم وضع استراتيجية التشغيل والحوكمة المواتية لإيقاف النظام أو التدخل في آلية هل تم تقييم كم يتماشعملىهنمعنودذماج علاميعلماللن عظلاىم المنحعور اؤليمةطاللوجهبة؟ورسالتها وكذلك مدونة
قواعد السلوك؟ هل تمت مراعاة متطلبات حماية المسؤولية والجهة صاحبة البيانات وأخذها بعين الاعتبار؟ هل تم تقييم تصميم نظام ذكاء اصطناعي قابل للتفسير حيث تكون البيانات والخوارزميات والمخرجات والقرارات شفافة وقابلة للتفسير لجميع الأطراف المعنية وذات هل تم وضع الحدود القصوى لمؤشرات الأداء الرئيسية، وهل تم وضع إجراءات حوكمة أو
الصلة؟ إجراءات مستقلة لتنفيذ خطط بديلة أو احتياطية؟
هل تم تصميم تجربة المستخدم مع مراعاة علم النفس البشري لتجنب خطر الارتباك أو هل تم توفير التدريب والتعليم اللازم للمساعدة في تطوير ممارسات المساءلة؟ التحيز التأكيدي أو التعب المعرفي؟
هل تم التأكد من توافق هيكل حوكمة أخلاقيات الذكاء الاصطناعي مع آلية الحوكمة هل كان هناك افتراض بأن هناك مفاضلة تجارية؟
المقترحة في المبادئ الوطنية لأخلاقيات الذكاء الاصطناعي؟
هل تم التأكد من أن هيكل حوكمة أخلاقيات الذكاء الاصطناعي يتضمن آليات تدقيق داخلية هل تم وضع آلية لقياس أو تقييم أثر الخصوصية؟ أو خارجية؟
ههللتتمموتضمعرااجسعتةراتمينجهيجةيأةو إدمارجةم اولبعياةنامتنبانالإًءجعرالءاى اتللقتيجنم ابلإنوسجانويدةأوو توعفزقياًزلاللتواحئيزح اغليتنر اظليعمايدةل في نظام الذكاء الاصطناعي، بمللابيياناشتم فليك اًللاممملكنةب؟يانات المدخلات وكذلك تصميم
الخوارزمية؟
التخطيط التخطيط والتصميم 1 والتصميم 20
التخطيط والالتتخصمطييمط 2 والتصميم 21
التخطيط والالتتخصمطييمط 3 والتصميم 22
التخطيط والالتتخصمطييمط 4 والتصميم 23
التخطيط والاتلتخصمطييمط24 والتصميم 6
االلتتخخططييطط ووااللتتصصممييمم 275
االلتتخخططييطط ووااللتتصصممييمم 286
االلتتخخططييطط ووااللتتصصممييمم 297
التخطيط والاتلتخصمطييمط28 والتصميم 10
هل تم تحديد سمات البيانات الشخصية الحساسة المتعلقة بالأفراد أو المجموعات المحرومة بشكل منهجي أو تاريخي؟ وفي حال كانت الأمور على هذا النحو، فيجب تحديد
الحد المسموح به الذي يجعل التقييم عادلاً أو غير عادل
هل تم تحديد مؤشرات الأداء الرئيسية لتقييم النزاهة؟
هل تم النظر في وضع آلية تشمل مشاركة مختلف الأطراف المعنية في تطوير واستخدام نظام الذكاء الاصطناعي؟
هل تم إجراء تحليل للأثر حول كيفية تأثير نظام الذكاء الاصطناعي على حقوق الإنسان
التخطيط والتصميم 12
التخطيط والتصميم 13
المرحلة الثانية لدورة عمل نظام الذكاء الاصطناعي: تهيئة البيانات.
المبادئ
نعم
لا
السؤال
هل توجد آلية ثابتة تحدد المشكلات المتعلقة بخصوصية أصحاب البيانات أو حمايتها في عملية جمع البيانات ومعالجتها؟
هل تمت مراجعة البيانات من حيث النطاق والتصنيف؟
هل تمت مراجعة البيانات للتحقق من مدى وضوح البيانات الشخصية ضمن مجموعة
لا
البيانات؟ هل توجد آلية ثابتة تسمح لنموذج الذكاء الاصطناعي بالتدريب دون استخدام
البيانات الشخصية أو الحساسة أو حتى من خلال إتاحة أقل قدر ممكن منها؟
المرحلة
تهيئة البيانات 1
تهيئة البيانات 2
تهيئة البيانات 3
نعم الخصوصية والأمن
نعم الخصوصية والأمن
لا والأمن الخصوصية
النزاهة
لا
والإنصاف
لا والمسؤولية المساءلة
النزاهة
نعم
والإنصاف
نعم
نعم
نعم
والبيئية
هل توجد آلية محددة للتحكم في استخدام البيانات الشخصية (مثل الموافقة الصحيحة وإمكانية الإلغاء عند الاقتضاء)؟
هل هناك عمليات لضمان أمن أنظمة الذكاء الاصطناعي والحفاظ على أمن المعلومات وسريتها وخصوصيتها، وكذلك سلامة المعلومات المعالجة حتى في ظل ظروف معادية
أو عدائية؟
هل تم تقييم جودة ومصدر البيانات التي تم الحصول عليها من خلال عمليات محددة؟
هل كان هناك تقييم حول مدى إمكانية إجراء التحليل بعد التدريب واختبار البيانات؟
هل تمت دراسة أو مراجعة التنوع وشمول مجموعة البيانات الحالية؟
هل هناك آلية محددة لقياس ما إذا تم تقييم سلامة وجودة ودقة جمع البيانات ومصادرها وتحديثها؟
هل تم تطوير عملية تحليل مزايا الخصائص الحساسة؟
هل قام الفريق بتقييم تصنيف البيانات ومعالجتها والوصول إليها لضمان الحصول عليها بشكل صحيح؟
هل تم التحقق من صحة نماذج البيانات والذكاء الاصطناعي لتشمل احترام حقوق الإنسان والقيم والتفضيلات الثقافية في المملكة العربية السعودية؟
هل تم تصنيف البيانات استناداً إلى توصيات الهيئة؟ وفي حال استخدام معايير أخرى .غير الواردة، يرجى ذكرها
تهيئة البيانات 4
تهيئة البيانات 5
تهيئة البيانات 6
تهيئة البيانات 7
تهيئة البيانات 8
تهيئة البيانات 9
تهيئة البيانات 10
تهيئة البيانات 11
تهيئة البيانات 12 44
تهيئة البيانات 13
النزاهة
لا
والإنصاف
المساءلة مبلاادئ أخلاقيات الذكاء الاصطناعي
والمسؤولية
القيالممابالإدنئسانية
ال اقليخم اصولإنصسيانةية والأمن
المالزايخا اصلاوجتصيماةعية ووااللأبيمئينة الموثوقية
الوخالصسولاصميةة والأمن
نعم ملزمة لأي
نعم طرف ثالث؟
نعم نعلام
نعم لا
الخصوصية الوامبلأامدنئ
الخصوصية الوماوثلأومقينة
والسلامة
الموثوقية
الوالشسفالافميةة والقابلية للتفسير
ال املنوزثاوهقيةة واواللإنسلاصامةف
اللمموثسواءقلية والوالمسسلاؤمولةية
ملزنمعةملأي طرف ثالث؟
نعم
نعم
لا
نعم
لا
نعلام
نعلام
الشفا افلينةزا وهالةقابلية
نعم
لا
والللإتنفصسايرف
الالشقفيامفياةلإنوالسقاانبلييةة
نعلام
للتفسير
نعلام
للتفسير 45
نعم
لا
والبيئية
هل تمت دراسة أو مراجعة التنوع وشمول مجموعة البيانات الحالية؟
هل هناك آلية محددة لقياس ما إذا تم تقييم سلامة وجودة ودقة جمع البيانات ومصادرها وتحديثها؟
تهيئة البيانات 8
تهيئة البيانات 9
هل تم تطوير عملية تحليل مزايا الخصائص الحساسة؟
تهيئة البيانات 10
هل قام الفريق بتقييم تصنيف البيانات ومعالجتها والوصول إليها لضمان الحصول عليها السؤال
بشكل صحيح؟
تهيئة البيانات المرحلة 11
هللتتوجمدالآتليحةقثابقتمةتنحدصد احلةم نشمكالاذجتااللبيماتنعالقتةوبالخذصكاوء اصيلاةصأطصناحعايب اللتبياشناملت أاوحتحراماميتحهاقفويق الإنسان والقيم والتعفمليضيةلاجمتعالاثلبقياانفايةتفويم اعلالمجمتلهكاة؟ العربية السعودية؟
هل تم تصنيف الهبيالنتامتتاسمرتاناجدعاًةإلالبىياتناوتصيمانتحايلهيثئالةن؟طاوقفويالتحاصلنياسفت؟خدام معايير أخرى .غير الواردة، يرجى ذكرها
تهيئة البيانات 112
تهيئة البيانات 123
ههلل تهمناتكمإراججراعءاة اتلبيماننااستب لةلتلحقيقاقسمجنودمةدوىدقوةضوومحلااءلبميانةاوتم اولثوشقيخةصيعةينةض املبينانماجتموععنةد البيانات؟ هل ت اولجتعدا آمليلةمثاعبتمةجتموسعامحت لالنبميانواذتج لالنمذوكاذءجا الالذصكاءطنااعلايص بطالناتعدريي؟ب دون استخدام
البيانات الشخصية أو الحساسة أو حتى من خلال إتاحة أقل قدر ممكن منها؟
تهيئة البيانات تهيئة ا4لب1يانات
المرحلة الثالثة لدورة عمل نظام الذكاء الاصطناعي: البناء وقياس الأداء.
هل توجد آلية محددة للتحكم في استخدام البيانات الشخصية (مثل الموافقة الصحيحة
وإمكانية الإلغاء عند الاقتضاء)؟ السؤال
4 المرحلة
هل هناك عمليات لضمان أمن أنظمة الذكاء الاصطناعي والحفاظ على أمن المعلومات هولستريتمهااختوبخارصوسلصويتكهاال،نوظكاذلم مكقارسنلاةمباةل املوماعقلوفماوالتبايلئامعاتلجغيةر احلتمتىوفقعيةظ؟لهلظرهونافكمخعاطديةة بديلة محددة في حال تعرض نموذج األوذعكادءائايلاة؟صطناعي لهجمات عدائية أو غيرها من
المواقف غير المتوقعة؟ هل تم اختبار الخطط البديلة وتأكيدها؟
هل تم تقييم جودة ومصدر البيانات التي تم الحصول عليها من خلال عمليات محددة؟ هل هناك عمليات محددة تحدد التدابير اللازمة لوصف الإجراءات التي يتعين أخذها في
حال فشل نظام الذكاء الاصطناعي في سياقات مختلفة؟ هل تم اختبار العمليات؟ هل كان هناك تقييم حول مدى إمكانية إجراء التحليل بعد التدريب واختبار البيانات؟
هل هناك عمليات محددة تحدد التدابير اللازمة لوصف فشل نظام الذكاء الاصطناعي هل تمت دراسة أو مراجعة التنوع وشمول مجموعة البيانات الحالية؟ في سياقات مختلفة؟ هل تم اختبار العمليات؟
تهيئة البيانات البناء و5قياس
الأداء 1
تهيئة البيانات 6
البناء وقياس الأداء 2
تهيئة البيانات 7
تالهبينئاةء اولبقييااناست الأدا8ء 3
هل هناك آلية محددة لقياس ما إذا تم تقييم سلامة وجودة ودقة جمع البيانات هل هناك آلية تواصل ثابتة لضمان موثوقية النظام من قبل المستخدمين النهائيين؟ ومصادرها وتحديثها؟
تالهبينئاةء اولبقييااناست الأدا9ء 4
هل هناك تعريفاتهولا تضمحتةطوويمرفعهموليمةةتلحلشيرلحمزاسياب البخاتصخائاذ ن ص اظلاحم اسلاذسكةاء؟ الاصطناعي قراراً محدداً؟
هل قام الفريق بتقييم تصنيف البيانات ومعالجتها والوصول إليها لضمان الحصول عليها هل تم بناء النموذجببشطركيلقةصبحسييحط؟ة وقابلة للتفسير؟
هل تم التحقق من صحة نماذج البيانات والذكاء الاصطناعي لتشمل احترام حقوق هل تم اختبار قابلية تفسير نموذج الذكاء الاصطناعي بنجاح بعد تدريب النموذج؟ الإنسان والقيم والتفضيلات الثقافية في المملكة العربية السعودية؟
ههلل تتمم إتجصرنايء بفحالبثيانيتاعلت اقسباتناسداًتإخلداىمت اولأدصيوااتت االلتهيقئنيةة؟ الومفتايححةاللت احسستيخندافمهممعاياليبرياأنخارتى .غيروااللنومارودذةج، يورأدجائىهذ؟كرها
تهيئة البيانات البناء وقياس
10 الأداء 5
تهيئة البيانات البناء وقياس
11 الأداء 6
تالهبينئاةء اولبقييااناست الأد2ا1ء 7
تالهبينئاةء الوبقييااناست الأد3ا1ء 8
نعم الموثوقية والسلامة
الموثوقية والسلامة
الموثوقية المبادئ والسلامة
نعم ملزمة لأي
نعم طرف ثالث؟
الللمتوفثوسقييرة
لا نعم
والسلامة
الموثوقية
نعم
والسلامة
لا
للتفسير
الموثوقية
نعلام
والسلامة
نعم الموثوقية
النزاهواةل وسالالإنمةصاف
لا
لا المزايا الاجتماعية لا الشفاوفايلبةيئويالةقابلية
للتفسير نعلام والللمتفسؤسويلرية الشفاالفميةساوءاللةقابلية
لا
نعم
لا
نعم
لا المزايا الاجتماعية والبيئية نعم المساءلة
والمسؤولية
نعم
المواقف غير المتوقعة؟ هل تم اختبار الخطط البديلة وتأكيدها؟
البناء وقياس هل هناك عمليات محددة تحدد التدابير اللازمة لوصف الإجراءات التي يتعين أخذها في
حال فشل نظام الذكاء الاصطناعي في سياقات مختلفة؟ هل تم اختبار العمليات؟
الأداء 2
هل هناك عمليات محددة تحدد التدابير اللازمة لوصف فشل نظام الذكاء الاصطناعي في سياقات مختلفة؟ هل تم اختبار العمليات؟
البناء وقياس الأداء 3
هل هناك آلية تواصل ثابتة لضمان مواثلوقسيؤةااللنظام من قبل المستخدمين النهائيين؟
ههلل تهنمااخكتبتاعرريسفلاوتكواالنضظحاةموممقافرهنوةمبالةملواشقرحفسوابلبيبئااتختاغذينر اظلاممت اولقذعكاةء؟الاهصلطهناناعكي خقرطارةًا بديلة محددة في حال تعرض نموذج المذحكادءداًا؟لاصطناعي لهجمات عدائية أو غيرها من
المواقف غير المتوقعة؟ هل تم اختبار الخطط البديلة وتأكيدها؟ هل تم بناء النموذج بطريقة بسيطة وقابلة للتفسير؟
هل هناك عمليات محددة تحدد التدابير اللازمة لوصف الإجراءات التي يتعين أخذها في حاهلل تفمشالختنباظراقماابلليذةكاتءفالاسيرص نطمناوعذيج افلذيكاءسايالاقاصتطنماخعتليفبنةج؟احه بلعتدمتادرخيتبارب االلنعمملويذاجت؟؟
ههلل تهنما إكجعرامءليباحتثميحتعدلدةقت بحادسدتالختدداابميار الألدلاوازمتةاللتوقنصيةفالفمتاشحلةنلتظحامساليذنكافءهالام اصلبطيانانعاتي في سياقات موخاتللنفمةو؟ذجهولأ تدائمها؟ختبار العمليات؟
هل هناك عمليات قائمة وتحليل كمي لاختبار ومراقبة التحيزات المحتملة والإنصاف هل هناك آلية تواصل ثابتة لضمان موثوقية النظام من قبل المستخدمين النهائيين؟
العام للنظام أثناء مراحل تطوير النظام؟ هل هناك آليات مطبقة لحماية أي أفراد أو مجموعات قد تتأثر بشكل غير متناسب بالآثار السلبية؟
هل هناك تعريفات واضحة ومفهومة لشرح سبب اتخاذ نظام الذكاء الاصطناعي قراراً هل هناك أي آليات محددة لتقييم ما إذامكحادنداًن؟ظام الذكاء الاصطناعي يشجع البشر على تطوير الارتباط والتعاطف مع النظام؟ هل هناك آليات تضمن محاكاة التفاعل الاجتماعي
لأنهلظ تمةم ابلنذاءكااءلناملاوذصجطنباعطرييقوةعبدمسيقطدرةتهواقاعبللةى
ل) لالتفشعسيورر)؟؟
هل وافقت الأطراف المعنية على الاختبارات الناجحة وجولات التحقق من قبول هل تم اختبار قابلية تفسير نموذج الذكاء الاصطناعي بنجاح بعد تدريب النموذج؟ المستخدمين قبل إعداد نماذج الذكاء الاصطناعي؟
هل تم إجراء بحث يتعلق باستخدام الأدوات التقنية المتاحة لتحسين فهم البيانات هل تم استخدام أي بيانات أو سما وتالنحمسواذسجةوأفدائيهال؟نموذج؟ وفي حال كان الأمر كذلك،
فهل هناك مبرر لاستخدام سمات البيانات الشخصية الحساسة أو خصائصها؟ هل هناك عمليات قائمة وتحليل كمي لاختبار ومراقبة التحيزات المحتملة والإنصاف الهعلامهنللانكظامنمهأثجنيااءتمرواخحوارلزتميطاويترلاللنذكاظءااملا؟صهطنلاعهنياتكسآلميحا وتت مسهطبلقمةولاءحمماةيعةمأليياأفتراصدنأوع
القرار ممعجحمقووعاق اتلإقندستاتأنثروابلقشيكملالغثيقرافميتنةاللسمبملباكةلآثاالرعارلبيسةلبايلةس؟عودية؟
هل هناك أي آليات محددة لتقييم ما إذا كان نظام الذكاء الاصطناعي يشجع البشر على تطوير الارتباط والتعاطف مع النظام؟ هل هناك آليات تضمن محاكاة التفاعل الاجتماعي
لأنظمة الذكاء الاصطناعي وعدم قدرتها على (الشعور)؟
البناء وقياس المرحلة الأداء 4
البناء وقياس البناء وقياس
الأداء 5 الأداء 1 البناء وقياس الأداء 6 البناء وقياس البنااءلأدواءقيا2س الأداء 7
االلببننااءء ووققييااس س االألأددااءء 83
االلببننااءء ووققييااس س االألأددااءء 49
البناء وقياس الأداء 5
البناء وقياس البانالأءداوءقي0ا1س
الأداء 6 االلببننااءء ووققييااس س
االألأداداءء171 البناء وقياس البنااءلأدواءقيا8س
الأداء 12 البناء وقياس البنااءلأداوءقيا9س
الأداء 13
البناء وقياس الأداء 10
هل وافقت الأطراف المعنية على الاختبارات الناجحة وجولات التحقق من قبول المستخدمين قبل إعداد نماذج الذكاء الاصطناعي؟
البناء وقياس 46الأداء 11
البناء وقياس هل تم استخدام أي بيانات أو سمات حساسة في النموذج؟ وفي حال كان الأمر كذلك،
المبادئ
نعم
نعم الخصوصية
والأمن
المساءلة
والمسؤولية
لا
لا الموثوقية
والسلامة
لا الخصوصية
والأمن
نعم الشفافية والقابلية
للتفسير
النزاهة
نعم
والإنصاف
النزاهة
لا
والإنصاف
النزاهة
لا
والإنصاف
النزاهة 47
لا
والإنصاف
نعم والبيئية المزايا الاجتماعية
المرحلة الرابعة لدورة عمل نظام الذكاء الاصطناعي: التطبيق والمتابعة
السؤال
في حال وجود روبوتات الدردشة أو أنظمة التواصل الأخرى، هل يدرك المستخدمون النهائيون أنهم يتفاعلون مع طرف آلي غير بشري؟
هل أجرى الفريق تقييماً لنقاط ضعف نظام الذكاء الاصطناعي لمواجهة الهجمات السيبرانية المحتملة أو الكشف عن البيانات الحساسة أو خرق السرية؟
هل هناك آليات لقياس ما إذا كان النظام ينتج كمية غير مقبولة من التوقعات غير الدقيقة؟
هل توجد استراتيجية محددة لمتابعة وقياس ما إذا كان نظام الذكاء الاصطناعي يحقق الأهداف والأغراض والتطبيقات على نحو المطلوب؟
هل يتمتع الأشخاص المخولين بالوصول إلى البيانات بالكفاءات اللازمة لفهم تفاصيل متطلبات حماية البيانات؟
هل هناك آليات مطبقة لتقييم مستوى تأثير نظام الذكاء الاصطناعي على عمليات صنع القرار للمستخدمين النهائيين؟
هل هناك عملية محددة وواضحة وقابلة للتفسير لإبلاغ المستخدمين النهائيين بالأسباب والمعايير والمزايا الكامنة وراء نتائج ومخرجات نظام الذكاء الاصطناعي؟ هل هناك خطوات واضحة للتواصل بشأن كيفية إثارة القضايا التي يمكن طرحها وما
الجهات التي يمكن طرحها عليها؟
هل هناك عملية محددة لجمع ملاحظات المستخدمين النهائيين ودراستها واعتمادها على النظام؟
هل هناك عمليات قائمة وتحليل كمي لمتابعة التحيزات والإنصاف العام للنظام أثناء مراحل التنفيذ؟
في حال وجود تباين، هل تم وضع آلية لقياس أو تقييم الأثر المحتمل لمثل هذا التباين على الحقوق الأساسية؟
هل هناك آليات محددة لضمان العدالة والإنصاف في أنظمة الذكاء الاصطناعي الخاصة بك؟
هل يمكن للمستخدمين النهائيين للتقنيات المساعدة الوصول إلى المعلومات المتعلقة بنظام الذكاء الاصطناعي؟
هل هناك آليات محددة لقياس الأثر الاجتماعي والبيئي لتنفيذ واستخدام نظام الذكاء الاصطناعي؟
المرحلة
التطبيق والمتابعة 1
التطبيق والمتابعة 2
التطبيق والمتابعة 3
التطبيق والمتابعة 4
التطبيق والمتابعة 5
التطبيق والمتابعة 6
التطبيق والمتابعة 7
التطبيق والمتابعة 8
التطبيق والمتابعة 9
التطبيق والمتابعة 10
التطبيق والمتابعة 11
التطبيق والمتابعة 12
التطبيق والمتابعة 13
نعم الشفافية والقابلية
للتفسير
الالمنزبااهدةئ والإنصاف
المساءلة النزاهة والمسؤولية والإنصاف
الخصوصية النزاهة والأمن
والإنصاف المزاايلامالاساجءتلمةاعية
والومالبسيئؤيوةلية المساءلة
وااللمموثسوؤقويليةة والسلامة المساءلة اولالخمصسوؤوصلييةة والأمن المساءلة الشوفاالفميةسؤواولليقاةبلية للتفسير المساءلة والمسؤولية
الشفاافليمةسوااءللقةابلية والللتمفسسؤيورلية
نعم
ملزمة لأي لا
طرف ثالث؟ نعلام
نعلام
نعم لا نعم لا نعم لا لا لا نعم
نعلام
نعم الخصوصية الشفافوياةلأومالنقابلية نعم
للتفسير
نعم
النزاهة
نعم
والإنصاف
النزاهة
لا
والإنصاف
النزاهة
لا
والإنصاف
النزاهة
لا
والإنصاف
هناك خطوات واضحة للتواصل بشأن كيفية إثارة القضايا التي يمكن طرحها وما الجهات التي يمكن طرحها عليها؟
التطبيق والمتابعة 7
مبادئ أ اخللتاقطيبايتق الذكاء الاصطهنالعيهناك عملية محددة لجمع ملاحظات المستخدمين النهائيين ودراستها واعتمادها
على النظام؟
والمتابعة 8
هل هناك عمليات قائمة وتحليل كمي لمتابعة التحيزات والإنصاف العام للنظام أثناء مراحل التنفيذ؟
في حال وجود تباين، هل تم وضع آلية لقياس أو تقييم الأثر المحتمل لمثل هذا التباين السؤال
على الحقوق الأساسية؟
فهلي حهناالكوآلجياودترومبحوتدادةتلالضدرمدانشالةعأدوالأنةظواملإةن الصتاوافصفليا ألأنخظرمىة،الهذكالءيادلارصك اطلنامعسيتالخخداموصنة النهائيون أنهم يتفاعلو بنكم؟ع طرف آلي غير بشري؟
ههل يلمأكجرن لىلالمفسريتخقد تميقيني املنًاهلانئيقيانطللتضقعنيافتنالظمامساالعدذةكااءل اولاصصولطنإالعىياللممعولاوجمهاةتالالهمجتمعالقتة السيبرانية المحتملة أوبنالظكامش الفذكاعءنااللابياصناطناتعاليح؟ساسة أو خرق السرية؟
ههللهنهنااككآلآيليااتتملحقيدادةسلقميااإذاس اكالأنثارلانلاظجاتممايعنتيجوكالمبييئةيغيلترنفميقبذولواةسمتخنداالتمونقظعاامتالغذيكراء الاالدصقطيناقعة؟ي؟
هل توجد اسهتلراتهيناجيةك آلمياحدتدةملحمدتدابةعلةضوماقينا تسطبيماقإذحاقكاونقنالإظنامساالنذاكالأءساالاسيصةط؟ناعي يحقق الأهداف والأغراض والتطبيقات على نحو المطلوب؟
هل هناك عمليات محددة للجهات الخارجية أو العاملين للإبلاغ عن نقاط الضعف أو هل يتمتع الأ اشلخماخاط صرالأمو اخلوتلحييزنا باتل اولمصحتومللإةلفى ايلبنياظناامتالباذلكاكءفااءلااصت اطلنالازعمية؟ لفهم تفاصيل
متطلبات حماية البيانات؟ هل هناك آليات محددة لإثبات مدى التزامك بالمبادئ المنصوص عليها في هذا هل هناك آليات مطبقة لتقييم مستالومىستأتثنيدر؟نظام الذكاء الاصطناعي على عمليات
صنع القرار للمستخدمين النهائيين؟ هل هناك آليات محددة تسمح بالتعويض في حالة حدوث أي ضرر أو تأثير سلبي؟ هل هناك عملية محددة وواضحة وقابلة للتفسير لإبلاغ المستخدمين النهائيين بالأسباب والمعايير والمزايا الكامنة وراء نتائج ومخرجات نظام الذكاء الاصطناعي؟ هل هل هناك آليات محددة توفر معلومات للمستخدمين النهائيين أو الجهات الخارجية هناك خطوات واضحة للتواصل بشأن كيفية إثارة القضايا التي يمكن طرحها وما
بخصوص فرص التعويض المتاحة؟ الجهات التي يمكن طرحها عليها؟ هل هناك تقنيات مراقبة مستمرة لضمان الحفاظ على الخصوصية والأمن في نظام هل هناك عملية محددة لجمع ماللاذحكاظءاالات اصلمطناسعتيخد؟مين النهائيين ودراستها واعتمادها
على النظام؟ هل هناك تقييمات دورية لأنظمة الذكاء الاصطناعي المستخدمة لضمان تطبيق حقوق هل هناك عمليات قاائلإمنةساوتنحاللأيسلا كسيمةيواللمقتيابمعالةثاقلاتفحييةزاللتممولاكلإةن؟صاف العام للنظام أثناء
مراحل التنفيذ؟
في حال وجود تباين، هل تم وضع آلية لقياس أو تقييم الأثر المحتمل لمثل هذا التباين على الحقوق الأساسية؟
هل هناك آليات محددة لضمان العدالة والإنصاف في أنظمة الذكاء الاصطناعي الخاصة بك؟
هل يمكن للمستخدمين النهائيين للتقنيات المساعدة الوصول إلى المعلومات المتعلقة بنظام الذكاء الاصطناعي؟
هل هناك آليات محددة لقياس الأثر الاجتماعي والبيئي لتنفيذ واستخدام نظام الذكاء
التطبيق والمتابعة 9
التطبيق المرحلة
والمتابعة 10
التطبيق واواللممتاتاببععةة111
التطبيق واواللممتاتاببععةة122
االلتتططببييقق واواللممتاتاببععةة133 التطبيق والمتابعة
التطبيق 14
والمتابعة 4 التطبيق والمتابعة
الت 5طب1يق والمتابعة 5 التطبيق والمتابعة
الت 6طب1يق والمتابعة 6 التطبيق والمتابعة
التطبايلتقطوبايلمقتابعة والمت8اب1عة 7
التطبيق والمتابعة الت 9طب1يق
والمتابعة 8 التطبيق والمتابعة
الت 0طب2يق والمتابعة 9
التطبيق والمتابعة 10
التطبيق والمتابعة 11
48التطبيق
والمتابعة 12
التطبيق
مايو 2025 نوع الوثيقة | وثائق تنظيمية
رقم الإصدار | 1