دورة تدقيق أنظمة الذكاء الاصطناعي المتقدمة للمدققين الداخليين وفق إطار IIA ومعياري ISO/IEC 42001 وNIST AI RMF

دورة تدقيق أنظمة الذكاء الاصطناعي المتقدمة للمدققين الداخليين دورة مدتها أسبوعين، تتعلم فيها تدقيق النماذج والأنظمة الذكية التي تستخدمها مؤسستك، لا استخدام الذكاء الاصطناعي أداة للتدقيق، معتمدا على إطار تدقيق الذكاء الاصطناعي الصادر عن IIA ومعياري ISO/IEC 42001 وNIST AI RMF. وهي موجهة إلى المدققين الداخليين ومديري مهام التدقيق. وتعود منها ببرنامج عمل تدقيق نظام الذكاء الاصطناعي. وتقدم هذه الدورة من ميركوري للتدريب.

نبذة عن الدورة

تعتمد المؤسسات على نماذج تقرر الائتمان والتوظيف والتسعير وفرز المطالبات، بينما تفتقر خطط التدقيق إلى معايير واضحة لاختبارها. لمتابعة الدورة يجب أن تكون ممن ينفذون مهام تدقيق داخلي أو يشرفون عليها. وتتدرب على تخطيط مهمة تدقيق لنظام ذكاء اصطناعي حقيقي واختبار ضوابطه وكتابة ملاحظاته.

لمن هذه الدورة

• المسؤولون عن تخطيط مهام التدقيق الداخلي وتنفيذها في مجالات التقنية والعمليات
• المسؤولون عن إعداد خطة التدقيق السنوية المبنية على المخاطر وتحديد أولوياتها
• المسؤولون عن إدارة مخاطر التقنية والنماذج في خط الدفاع الثاني
• المسؤولون عن حوكمة البيانات وسياسات الاستخدام المسؤول للذكاء الاصطناعي
• المسؤولون عن تقديم التأكيد لمجلس الإدارة ولجنة المراجعة حول الأنظمة الرقمية

لا تناسب هذه الدورة من يبحثون عن توظيف أدوات التحليل الذكية في تنفيذ اختبارات التدقيق المعتادة، فالأنسب لهم دورة في تحليلات البيانات للمدققين، ولا من يحتاجون إلى مدخل تقني في بناء النماذج وبرمجتها، فالأنسب لهم دورة تأسيسية في تعلم الآلة.

الكفاءات المستهدفة

• حصر أنظمة الذكاء الاصطناعي: تبني سجلا بالنماذج المستخدمة في المؤسسة وتصنفها حسب أثرها ومخاطرها
• تقييم حوكمة الذكاء الاصطناعي: تقيس نضج السياسات والأدوار ومسؤوليات الخطوط الثلاثة حول الأنظمة الذكية
• اختبار ضوابط النماذج: تختبر ضوابط البيانات والتطوير والتحقق والمراقبة في دورة حياة النموذج
• تقييم العدالة والشفافية: تفحص مؤشرات التحيز وقابلية التفسير وتوثق أثرها على المتأثرين بالقرار
• تخطيط تدقيق الذكاء الاصطناعي: تدرج الأنظمة الذكية في الخطة السنوية حسب المخاطر وتحدد نطاق كل مهمة
• إيصال نتائج التدقيق: تكتب ملاحظات وتوصيات تفهمها لجنة المراجعة والإدارة التقنية معا

ما ستتمكن من إنجازه

بنهاية الدورة ستتمكن من:

• انطلاقا من قائمة الأنظمة الرقمية في مؤسستك، إعداد سجل لأنظمة الذكاء الاصطناعي مصنف حسب مستوى المخاطر
• باستخدام إطار تدقيق الذكاء الاصطناعي الصادر عن IIA، تحديد نطاق مهمة تدقيق ومعاييرها ومخاطرها الرئيسية
• بالنظر إلى متطلبات ISO/IEC 42001، مقارنة نظام إدارة الذكاء الاصطناعي القائم بالمتطلبات وتحديد الفجوات
• باستخدام إطار NIST AI RMF، تقييم ممارسات إدارة مخاطر نموذج محدد وتوثيق نقاط الضعف
• انطلاقا من بيانات تدريب نموذج واختباراته، فحص جودة البيانات ومؤشرات التحيز وتوثيق النتائج في أوراق العمل
• بالنظر إلى نتائج الاختبارات، كتابة تقرير تدقيق بملاحظات مصنفة حسب الخطورة وخطة معالجة متفق عليها

محتوى الدورة

اليوم 1: الذكاء الاصطناعي بوصفه موضوعا للتدقيق

• الفرق بين تدقيق أنظمة الذكاء الاصطناعي واستخدامه أداة في التدقيق
• أنواع الأنظمة الذكية في المؤسسات ومواضع اتخاذها للقرار
• مخاطر الذكاء الاصطناعي التشغيلية والقانونية ومخاطر السمعة
• دور التدقيق الداخلي وفق نموذج الخطوط الثلاثة الصادر عن IIA
• المعايير العالمية للتدقيق الداخلي وانطباقها على مهام التقنية

اليوم 2: إطار تدقيق الذكاء الاصطناعي الصادر عن IIA

• مكونات الإطار ومجالات المخاطر والضوابط فيه
• قائمة التحقق العملية للمدقق في بدء التقييم
• أدلة GTAG لتدقيق التقنية وربطها بمهام الذكاء الاصطناعي
• تكييف الإطار مع حجم المؤسسة ونضجها
• ربط الإطار بخطة التدقيق السنوية المبنية على المخاطر

اليوم 3: نظام إدارة الذكاء الاصطناعي وفق ISO/IEC 42001

• بنية المعيار ومتطلبات السياق وأصحاب المصلحة
• متطلبات القيادة والسياسة الموثقة والأدوار
• تقييم مخاطر الذكاء الاصطناعي ومعالجتها في المعيار
• التكامل مع نظامي ISO 27001 وISO 9001
• إعداد قائمة تدقيق داخلي لنظام إدارة الذكاء الاصطناعي

اليوم 4: إدارة المخاطر وفق NIST AI RMF

• وظائف الإطار وربطها بدورة حياة النظام الذكي
• خصائص الأنظمة الجديرة بالثقة بوصفها معايير للتقييم
• تقييم ممارسات إدارة المخاطر لدى فرق البيانات والتطوير
• المقارنة بين الأطر الثلاثة واختيار معايير المهمة
• بناء مصفوفة معايير التدقيق من المصادر الثلاثة

اليوم 5: حصر الأنظمة وتخطيط المهمة

• بناء سجل أنظمة الذكاء الاصطناعي ومصادر المعلومات عنه
• تصنيف الأنظمة حسب الأثر ومستوى المخاطر
• تحديد نطاق المهمة وأهدافها ومعاييرها
• مقابلات أصحاب النظام وفرق البيانات والأعمال
• إعداد مذكرة التخطيط وتقدير الموارد والمهارات اللازمة

اليوم 6: حوكمة الذكاء الاصطناعي ونضجها

• تقييم سياسة الاستخدام المسؤول للذكاء الاصطناعي ولجان الإشراف
• مصفوفة الأدوار والمسؤوليات حول النماذج
• نموذج نضج الحوكمة والاختبار والأخلاقيات والتوثيق
• حوكمة الأنظمة المشتراة من موردين خارجيين
• اختبار ضوابط الموافقة على النماذج قبل التشغيل

اليوم 7: البيانات والتحيز والشفافية

• اختبار جودة بيانات التدريب ومصادرها وصلاحيات الوصول إليها
• فحص مؤشرات التحيز في مخرجات النموذج على الفئات المختلفة
• قابلية تفسير القرارات الآلية وحق المتأثر في الاعتراض
• ضوابط حماية البيانات الشخصية في دورة حياة النموذج
• توثيق نتائج الفحص في أوراق عمل قابلة للمراجعة

اليوم 8: ضوابط دورة حياة النموذج

• ضوابط التطوير والتحقق المستقل قبل الإطلاق
• إدارة إصدارات النماذج وتغييراتها
• مراقبة الأداء وانحراف النموذج بعد التشغيل
• الأمن السيبراني للأنظمة الذكية والتلاعب بالمدخلات
• خطط الاستمرارية والتدخل البشري عند فشل النموذج

اليوم 9: التقرير والمتابعة

• صياغة الملاحظة من المعيار والواقع والسبب والأثر والتوصية
• تصنيف الملاحظات حسب الخطورة ورفعها للجنة المراجعة
• الاتفاق على خطط المعالجة مع الإدارة التقنية
• متابعة تنفيذ التوصيات وإعادة الاختبار
• إدراج أنظمة الذكاء الاصطناعي في الخطة السنوية القادمة

اليوم 10: تطبيق عملي لتدقيق نظام ذكاء اصطناعي

• تمرين حصر الأنظمة وتصنيفها لمؤسسة افتراضية
• تمرين اختبار ضوابط نموذج تقييم ائتماني
• تمرين فحص التحيز وكتابة ورقة العمل
• عرض الملاحظات أمام لجنة مراجعة ومناقشتها
• استكمال برنامج عمل تدقيق نظام الذكاء الاصطناعي

دراسات الحالة والتمارين

فيما يلي أنشطة مقترحة خلال الدورة.

• دراسة حالة: مصرف يعتمد نموذجا آليا لتقييم طلبات التمويل، فتختبر ضوابط البيانات والتحيز وتحدد الملاحظات الجوهرية.
• دراسة حالة: مستشفى يستخدم نظاما ذكيا لفرز الحالات في الطوارئ، فتقيم الحوكمة والتدخل البشري وتوصي بضوابط إضافية.
• تمرين: شركة اتصالات تشتري نظاما لخدمة العملاء من مورد خارجي، فتعد أسئلة العناية الواجبة للمورد.
• تمرين: جهة خدمية تطلق مساعدا محادثيا للمراجعين، فتحدد نطاق مهمة التدقيق ومعاييرها.

ما ستعود به إلى عملك

تعود ببرنامج عمل تدقيق نظام الذكاء الاصطناعي، مبني على الأطر الثلاثة ومهيأ للتطبيق على أول نظام في مؤسستك. وتستخدمه خلال شهرك الأول للعودة إلى العمل لبناء سجل الأنظمة الذكية، واقتراح مهمة تدقيق لأعلاها مخاطرة على رئيس التدقيق، وتحديث خطة التدقيق السنوية.

• سجل أنظمة الذكاء الاصطناعي وتصنيف مخاطرها
• مصفوفة معايير التدقيق من IIA وISO/IEC 42001 وNIST AI RMF
• أوراق عمل اختبار الحوكمة والبيانات والتحيز وضوابط النموذج
• نموذج تقرير الملاحظات وخطة المتابعة

إجابات سريعة عن الأسئلة الشائعة

ما الذي أحتاج إلى معرفته قبل دورة تدقيق أنظمة الذكاء الاصطناعي؟

يجب أن تكون ممن ينفذون مهام تدقيق داخلي أو يشرفون عليها، وأن تعرف منهجية التدقيق المبني على المخاطر وكتابة الملاحظات. ولا يلزم تخصص في البرمجة أو علم البيانات، إذ تشرح المفاهيم التقنية بالقدر الذي يحتاجه المدقق.

بم تختلف دورة تدقيق أنظمة الذكاء الاصطناعي عن دورات توظيف الأدوات الذكية في أعمال التدقيق؟

تعلمك دورات توظيف الأدوات الذكية تسريع اختبارات التدقيق المعتادة. أما هذه الدورة فتجعل نظام الذكاء الاصطناعي نفسه موضوع المهمة، فتخطط تدقيقه وتختبر حوكمته وبياناته وضوابطه وفق إطار IIA ومعياري ISO/IEC 42001 وNIST AI RMF.

ما المعايير التي يدقق عليها المدقق الداخلي نظام الذكاء الاصطناعي؟

يجمع المدقق معاييره عادة من إطار تدقيق الذكاء الاصطناعي الصادر عن IIA لتحديد المخاطر والضوابط، ومن ISO/IEC 42001 لمتطلبات نظام الإدارة، ومن NIST AI RMF لممارسات إدارة المخاطر، ثم يختار منها ما يناسب نطاق المهمة.

ماذا أعود به من دورة تدقيق أنظمة الذكاء الاصطناعي؟

تعود ببرنامج عمل تدقيق نظام الذكاء الاصطناعي، ويضم سجل الأنظمة وتصنيف مخاطرها ومصفوفة معايير التدقيق وأوراق عمل الاختبار ونموذج تقرير الملاحظات وخطة المتابعة.

لمديرك

بعد الدورة سيتمكن الموظف من حصر أنظمة الذكاء الاصطناعي في المؤسسة وتصنيف مخاطرها، وتخطيط مهمة تدقيق لنظام منها، واختبار حوكمته وبياناته وضوابطه، وكتابة ملاحظات واضحة للجنة المراجعة. ويعود ببرنامج عمل تدقيق نظام الذكاء الاصطناعي، ويستخدمه أولا في بناء سجل الأنظمة الذكية واقتراح أول مهمة تدقيق ضمن الخطة السنوية المبنية على المخاطر.