الحوكمة وإدارة المخاطر والامتثال للمؤسسات الجاهزة للتدقيق في المملكة العربية السعوديةاحجز عرضًا تجريبيًا
الأطر · آيزو 42001المملكة العربية السعودية

سدايا تصف الحوكمة الجيّدة للذكاء الاصطناعي. وهذا يُثبت أنك بلغتها.

لدى المملكة مبادئ لأخلاقيات الذكاء الاصطناعي وأدلة للذكاء الاصطناعي التوليدي وإطار للتبنّي — كلها ذات حجّية، وكلها غير ملزِمة، ولا شيء منها قابل للاعتماد. وآيزو 42001 هو المعيار الدولي الذي يحوّل تلك التوقّعات إلى ما يستطيع مدقّق فحصه.

الأطر · آيزو 42001جوفرلي

تعكس هذه الصفحة فهمنا العملي لتطبيق آيزو 42001 وموضعه إلى جانب الإرشادات السعودية للذكاء الاصطناعي، وليست مرجعاً رسمياً. والمرجعان المعتمدان هما المعيار كما تنشره المنظمة الدولية للمعايير، والوثائق الصادرة عن سدايا — وكلاهما قابل للتغيير. فتحقّق ممّا ينطبق على جهتك مقابلهما ومع مستشاريك.

§ 01جوفرلي
الأطر · آيزو 42001

ما آيزو 42001؟

من واقع برامج الالتزام التي نبنيها ونُشغّلها في المملكة: آيزو/IEC 42001 هو المعيار الدولي لنظام إدارة الذكاء الاصطناعي. صدر في ديسمبر 2023 وكان الأول من نوعه، ويحدّد كيف تحكم المنشأة أنظمة الذكاء الاصطناعي التي تُطوّرها أو تُوفّرها أو تستخدمها، عبر دورة حياتها كاملة.

وهو معيار نظام إدارة لا معيار تقني. فهو لا يخبرك كيف تبني نموذجاً، ولا ما الدقة التي تبلغها، ولا أي بنية تختار. بل يسأل: من المسؤول، وأي مخاطر حدّدتها، وماذا فعلت حيالها، وهل تستطيع إثبات ذلك.

وإن كنت طبّقت آيزو 27001، فالشكل مألوف — بنية البنود ذاتها، وبيان قابلية التطبيق ذاته، وإيقاع التدقيق ذاته. والجديد هو الموضوع: السلوك الاحتمالي لأنظمة الذكاء الاصطناعي، وحوكمة بيانات التدريب، وصعوبة تفسير القرارات الآلية، وأثر تلك القرارات على من تقع عليهم.

أول معيار لنظام إدارة الذكاء الاصطناعي
2023
ضابطاً في الملحق (أ) بتسعة مجالات
38
بنية البنود ذاتها في آيزو 27001
4–10
من جهة معتمدة
قابل للاعتماد
§ 02جوفرلي
الأطر · آيزو 42001

أين يقع هذا في المملكة

وضع حوكمة الذكاء الاصطناعي في المملكة غير اعتيادي، وفهمه هو ما يجعل قرار آيزو 42001 واضحاً.

وهذه الفجوة هي الحجّة العملية لآيزو 42001. فهو يُفعّل إلى حدّ بعيد ما تطلبه مبادئ سدايا — تصنيف المخاطر وتقييم الأثر والإشراف البشري والشفافية والمساءلة والتوثيق — وينتج شهادة من جهة معتمدة. كما صمّمت سدايا مبادئها بمراعاة التشغيل البيني الدولي، مستندةً إلى النهج القائم على المخاطر في نظام الاتحاد الأوروبي للذكاء الاصطناعي وإرشادات منظمة التعاون الاقتصادي — ما يعني أن الاثنين لا يتجاذبان في اتجاهين.

ما تملكه المملكة
إرشادات ذات حجّية

أصدرت سدايا مجموعة كبيرة من مواد حوكمة الذكاء الاصطناعي، والجهات القطاعية تُدرجه في ولاياتها القائمة.

  • مبادئ أخلاقيات الذكاء الاصطناعي، صدرت 2023، بنهج متدرّج بالمخاطر يغطّي العدالة والمساءلة والشفافية والسلامة
  • أدلة الذكاء الاصطناعي التوليدي للجهات الحكومية، صدرت يناير 2024
  • أدلة الذكاء الاصطناعي التوليدي للعموم
  • إطار تبنّي الذكاء الاصطناعي مبني على مستويات النضج
  • معالجة قطاعية عبر البنك المركزي للمالية، وهيئة الغذاء والدواء للصحة، وهيئة الحكومة الرقمية للقطاع العام
ما لا تملكه بعد
نظام مُلزِم أو شهادة

وثائق سدايا غير ملزِمة بذاتها — وتصبح واجبة النفاذ حيث ترتبط بنظام آخر، ونظام حماية البيانات أوضح الحالات. ونظام مخصّص للذكاء الاصطناعي قيد الإعداد ولم يدخل حيّز النفاذ.

  • لا يوجد نظام مخصّص للذكاء الاصطناعي نافذ حالياً
  • لا توجد شهادة وطنية للذكاء الاصطناعي تُحمَل أو تُعرَض
  • لا توجد وسيلة لإثبات استيفاء التوقّعات المنشورة أمام مشترٍ أو مجلس إدارة
  • النفاذ الفعلي اليوم يمرّ عبر نظام حماية البيانات حيث يمسّ الذكاء الاصطناعي بيانات شخصية
§ 03جوفرلي
الأطر · آيزو 42001

ما يحتويه المعيار

البنود من 4 إلى 10 تحمل متطلبات نظام الإدارة. والملحق (أ) يحمل الضوابط الخاصة بالذكاء الاصطناعي — 38 ضابطاً في تسعة مجالات.

أ.2
سياسة الذكاء الاصطناعي

سياسة موثّقة لتطوير أنظمة الذكاء الاصطناعي أو استخدامها، متوائمة مع أهداف المنشأة ومُراجَعة مع تغيّرها.

أ.3
التنظيم الداخلي

الأدوار والمسؤوليات وخطوط الرفع لحوكمة الذكاء الاصطناعي، بما في ذلك من يقرّر ومن يُصعّد.

أ.4
موارد أنظمة الذكاء الاصطناعي

البيانات والأدوات وموارد الحوسبة والكفاءات البشرية التي تعتمد عليها الأنظمة داخل النطاق، موثّقة لا مفترَضة.

أ.5
تقييم أثر نظام الذكاء الاصطناعي

تقييم العواقب على الأفراد والفئات المتأثرين بالنظام. وهو الضابط الذي لا نظير له في آيزو 27001، وأصعبها عادةً على فريق تقوده الخلفية الأمنية.

أ.6
دورة حياة النظام

الحوكمة عبر التصميم والتطوير والتحقق والنشر والتشغيل والإيقاف — لا عند الإطلاق فقط.

أ.7
بيانات أنظمة الذكاء الاصطناعي

مصدر بيانات التدريب والتشغيل وجودتها وإعدادها وحوكمتها، وهي منشأ معظم مخاطر الذكاء الاصطناعي فعلياً.

أ.8
المعلومات للأطراف المعنية

ما تُخبر به المستخدمين والعملاء والأفراد المتأثرين عن النظام وحدوده وكيفية الاعتراض على مخرَج.

أ.9
استخدام أنظمة الذكاء الاصطناعي

الاستخدام المسؤول داخل المنشأة، بما في ذلك حيث يستخدم الموظفون أنظمة لم تبنِها المنشأة.

أ.10
العلاقات مع الأطراف الخارجية

المورّدون ومزوّدو النماذج والعملاء — من المسؤول عن ماذا حين لا يكون النظام ملكك بالكامل.

وكما في آيزو 27001، تُسجّل قابلية التطبيق والاستثناءات في بيان قابلية التطبيق مع المبرّرات. وعملياً تُطبّق معظم المنشآت غالبية الضوابط، لأنها مكتوبة على مستوى الحوكمة لا بصورة تفصيلية آمرة، ولأن مخاطر الذكاء الاصطناعي واسعة بما يجعل الاستثناءات قليلة الصمود أمام الفحص.

ويُقدّم الملحق (ب) إرشادات التطبيق لكل ضابط، والملحق (ج) الأهداف التنظيمية ومصادر المخاطر، والملحق (د) تطبيق النظام عبر المجالات والقطاعات المختلفة. وتتطوّر العائلة الأوسع إلى جانبه، ومنها آيزو/IEC 42005 لتقييم أثر أنظمة الذكاء الاصطناعي، و42006 لمتطلبات جهات اعتماد أنظمة إدارة الذكاء الاصطناعي.

§ 04جوفرلي
الأطر · آيزو 42001

من ينتهي إلى الحاجة إليه

ولاحظ أن استخدام الذكاء الاصطناعي يدخل في النطاق لا بناؤه فقط — وهو ما يشمل منشآت لا تعدّ نفسها شركات ذكاء اصطناعي.

الحكومة
تُشغّل ذكاءً اصطناعياً في الخدمات العامة

أدلة سدايا للذكاء الاصطناعي التوليدي موجّهة إلى الجهات الحكومية، وهيئة الحكومة الرقمية تُدرجه في سياسة الحكومة الرقمية. ونظام إدارة معتمَد هو كيف تُثبت الجهة أن التوقّعات استُوفيت لا أنها اطُّلع عليها.

القطاع المالي
البنك المركزي يُشرف على استخدامك

النماذج المستخدمة في قرارات الائتمان أو كشف الاحتيال أو خدمة العملاء تقع داخل علاقة إشرافية قائمة. وأدلة حوكمتها تُطلَب ضمن تلك العلاقة لا بمعزل عنها.

الصحة
ذكاؤك الاصطناعي يمسّ المرضى

حيث تنطبق ولاية هيئة الغذاء والدواء، لا يكون متطلّب تقييم الأثر في أ.5 إجراءً شكلياً — بل هو جوهر ما تريد الجهة رؤيته.

المورّدون
عملاؤك يسألون

وصلت أسئلة حوكمة الذكاء الاصطناعي إلى الاستبيانات الأمنية أسرع من أي موضوع في الذاكرة القريبة، ومعظم المورّدين بلا إجابة منظّمة. والشهادة إجابة قصيرة عن قسم طويل.

البيع في أوروبا
نظام الاتحاد الأوروبي ينطبق عليك

نظام إدارة معتمَد دليل على حوكمة منظّمة ويُستخدم على نطاق واسع لدعم الجاهزية — وإن كان الاعتماد وحده لا يُثبت المطابقة للنظام الأوروبي، ولا ينبغي تقديمه كذلك.

المستخدمون
تستخدم ذكاءً اصطناعياً لم تبنِه

يغطّي الضابط أ.9 الاستخدام المسؤول داخل المنشأة. واستخدام الموظفين أدوات ذكاء اصطناعي خارجية على بيانات الشركة مسألة حوكمة سواء أطّرها أحد بذلك أم لا.

§ 05جوفرلي
الأطر · آيزو 42001

تشغيل آيزو 42001 داخل Govrly

يشترك نظام إدارة الذكاء الاصطناعي مع برامجك القائمة أكثر ممّا توحي به حداثة الموضوع — وحيث لا يشترك، تستحق الفجوة رؤية واضحة.

إعادة الاستخدام
طبقة نظام الإدارة موجودة أصلاً

النطاق والقيادة والكفاءة والتدقيق الداخلي والمراجعة الإدارية تنتقل من آيزو 27001 أو آيزو 27701 من السجلات ذاتها. فإن كنت تحمل أياً منهما، فالبنود من 4 إلى 10 مبنية إلى حدّ بعيد.

السجل
سجل أنظمة الذكاء الاصطناعي

أي أنظمة تُطوّرها أو تُوفّرها أو تستخدمها، بغرضها وبياناتها ومالكها وتصنيف مخاطرها. ومعظم المنشآت تكتشف في هذه الخطوة أن لديها ذكاءً اصطناعياً في الإنتاج أكثر ممّا ظنّت.

تقييم الأثر
أ.5 كسجل قابل للتكرار

تقييمات الأثر محفوظة كسجلات بمُلّاك وتواريخ ونتائج — مبنية بالطريقة ذاتها التي يُبنى بها تقييم أثر الخصوصية، ويُطلقها غالباً التغيير ذاته.

حوكمة البيانات
مشتركة مع برنامج الخصوصية

حيث تحتوي بيانات التدريب على بيانات شخصية، تكون سجلات المعالجة والأسس النظامية وقرارات الحفظ التي تسند أ.7 هي السجلات ذاتها التي تحمل التزاماتك في نظام حماية البيانات.

الأطراف الخارجية
مزوّدو النماذج في سجل مورّديك

يسأل أ.10 عمّن يتحمّل المسؤولية حين يكون النموذج لغيرك. وتلك العلاقات تقع إلى جانب بقية مورّديك لا في قائمة منفصلة لا يصونها أحد.

بيان قابلية التطبيق
حيّ لا تاريخي

الضوابط الثمانية والثلاثون بقابلية تطبيقها ومبرّراتها وحالتها وأدلتها — محدَّثة مع تغيّر منظومة الذكاء الاصطناعي لديك، وهو تغيّر متكرّر لدى معظم المنشآت.

§ 06جوفرلي
الأطر · آيزو 42001

آيزو 42001 إلى جانب 27001 و27701

ثلاثة أنظمة إدارة ببنية واحدة. والتداخل أكبر ممّا يوحي به اختلاف الموضوع.

ولأن الثلاثة تتبع البنية المتناسقة، فالمنشأة التي تحمل أحدها بنت طبقة نظام الإدارة للاثنين الآخرين. والعمل المتبقّي هو الملحق والمتطلبات الخاصة بالموضوع — ولهذا يكلّف تتابعها على مكتبة ضوابط واحدة أقلّ بكثير من تشغيل ثلاثة برامج.

آيزو 42001آيزو 27001آيزو 27701
الموضوعأنظمة الذكاء الاصطناعي وأثرهاأمن المعلوماتحوكمة البيانات الشخصية
تاريخ الإصدارديسمبر 2023إصدار 2022إصدار 2025
بنية البنود4 إلى 104 إلى 104 إلى 10
الملحق (أ)38 ضابطاً في تسعة مجالات93 ضابطاً في أربعة محاورضوابط مُدمَجة للتحكم والمعالجة
المتطلّب المميّزتقييم أثر نظام الذكاء الاصطناعيمعالجة المخاطر مقابل الملحق (أ)تحديد صفة التحكم أو المعالجة
الشرط المسبقلا شيءلا شيءلا شيء، منذ 2025
§ 07جوفرلي
الأطر · آيزو 42001

مسار عملي إلى نظام إدارة الذكاء الاصطناعي

الخطوتان الأوليان هما حيث تنجح البرامج أو تتعثّر، وليست أيٌّ منهما تقنية.

  1. 01
    /08
    اعثر على الذكاء الاصطناعي الذي تملكه أصلاً

    نماذج في الإنتاج، وخصائص ذكاء اصطناعي داخل برمجيات مشتراة، وأدوات تبنّتها فرقك دون مرور بالمشتريات. وهذا السجل أطول من المتوقّع دائماً، ولا يمكنك تحديد النطاق دونه.

  2. 02
    /08
    حدّد صفتك في كل نظام

    مُطوّر أم مُوفّر أم مستخدم. فالمعيار يعامل الصفات معاملة مختلفة، والمنشأة عادةً عدّة صفات في آن — تبني نموذجاً وتُضمّن آخر وتستخدم ثالثاً عبر منتج مورّد.

  3. 03
    /08
    صنّف بالمخاطر والأثر

    لا يستحق كل نظام الحوكمة ذاتها. والنهج المتدرّج بالمخاطر يُركّز الجهد حيث تقع العواقب على الأفراد، وهو أيضاً كيف بُنيت مبادئ سدايا.

  4. 04
    /08
    وسّع نظام الإدارة الذي لديك

    إن كنت تحمل آيزو 27001 أو آيزو 27701، فالبنود من 4 إلى 10 موجودة إلى حدّ بعيد. والنطاق والقيادة والكفاءة والتدقيق الداخلي والمراجعة الإدارية تمتدّ بدل أن تبدأ من جديد.

  5. 05
    /08
    ابنِ عملية تقييم الأثر

    وهذا هو العمل الجديد فعلاً. فهو يسأل ماذا يفعل النظام بالأشخاص الخاضعين لمخرجاته، وهو سؤال مختلف عمّا يفعله ببياناتك — ولم يُضطرّ معظم فرق الأمن إلى الإجابة عنه قط.

  6. 06
    /08
    احكم البيانات لا النموذج فقط

    مصدر بيانات التدريب وجودتها وإعدادها بموجب أ.7. وحيث تحتوي على بيانات شخصية، فهذا مشترك مع عملك في نظام حماية البيانات لا منفصل عنه.

  7. 07
    /08
    أكمل بيان قابلية التطبيق

    الضوابط الثمانية والثلاثون كلها، مع مبرّر لكل استثناء. وتوقّع مساءلة الاستثناءات أكثر منها في شهادة أمنية، لأن مخاطر الذكاء الاصطناعي تعبر الوظائف.

  8. 08
    /08
    شغّله ثم تعاقد مع جهة منح شهادة

    تأكّد أنها معتمدة لآيزو 42001 تحديداً. ولأن المعيار حديث نسبياً، فالمجموعة المتاحة أصغر منها لآيزو 27001 ويستحق التحقق مبكراً.

جوفرلي
كيف يبدو هذا داخل Govrly

سجل أنظمة الذكاء الاصطناعي وتقييمات الأثر وبيان قابلية التطبيق تقع على مكتبة الضوابط ذاتها التي تحمل برامجك في الضوابط الأساسية وآيزو 27001 — بينما تستمدّ حوكمة البيانات خلف أ.7 من سجلات المعالجة التي تحمل التزاماتك في نظام حماية البيانات، بدل سجل ثانٍ يُصان بالتوازي.

شاهد عرضاً توضيحياً ←

§ 08جوفرلي
الأطر · آيزو 42001

أسئلة شائعة حول آيزو 42001

المعيار الدولي لنظام إدارة الذكاء الاصطناعي. صدر في ديسمبر 2023 وكان الأول من نوعه، ويحدّد كيف تحكم المنشأة أنظمة الذكاء الاصطناعي التي تُطوّرها أو تُوفّرها أو تستخدمها عبر دورة حياتها كاملة. وهو قابل للاعتماد من جهة منح شهادات معتمدة.

لا. أصدرت سدايا مبادئ أخلاقيات الذكاء الاصطناعي وأدلة الذكاء الاصطناعي التوليدي وإطار التبنّي، لكنها غير ملزِمة بذاتها — وتصبح واجبة النفاذ حيث ترتبط بنظام آخر، وأوضحها نظام حماية البيانات حيث يمسّ الذكاء الاصطناعي بيانات شخصية. ونظام مخصّص للذكاء الاصطناعي قيد الإعداد ولم يدخل حيّز النفاذ. وآيزو 42001 اختياري، وهو حالياً الوسيلة العملية لإثبات استيفاء التوقّعات المنشورة.

هو يُثبت حوكمة منظّمة للذكاء الاصطناعي، ولا يُغني عن شيء. فوثائق سدايا تبقى على ما هي عليه، ونظام حماية البيانات ينطبق بصرف النظر حيث توجد بيانات شخصية، والنظام القادم للذكاء الاصطناعي سينطبق بشروطه. وما تفعله الشهادة هو إثبات أن الحوكمة قائمة وأنها فُحصت باستقلال، أمام جهة تنظيمية أو مشترٍ أو مجلس إدارة.

يحتوي الملحق (أ) على 38 ضابطاً في تسعة مجالات، من أ.2 إلى أ.10 — سياسة الذكاء الاصطناعي، والتنظيم الداخلي، والموارد، وتقييم الأثر، ودورة الحياة، والبيانات، والمعلومات للأطراف المعنية، واستخدام الأنظمة، والعلاقات مع الأطراف الخارجية. وتُسجّل قابلية التطبيق في بيان قابلية التطبيق مع مبرّرات الاستثناءات، كما في آيزو 27001.

لا — يمكن تطبيق آيزو 42001 واعتماده باستقلال. ومع ذلك، إن كنت تحمل آيزو 27001 أو آيزو 27701 فالعمل أقصر بكثير، لأن الثلاثة تتبع بنية البنود المتناسقة ذاتها. فطبقة نظام الإدارة تنتقل؛ والملحق الخاص بالذكاء الاصطناعي وعملية تقييم الأثر هما العمل الجديد.

نعم. فالمعيار يخاطب المنشآت التي تُطوّر أنظمة الذكاء الاصطناعي أو تُوفّرها أو تستخدمها، والضابط أ.9 يغطّي الاستخدام المسؤول داخل المنشأة تحديداً. واستخدام الموظفين أدوات ذكاء اصطناعي خارجية على بيانات الشركة مسألة حوكمة سواء أطّرها أحد بذلك أم لا، وهي كثيراً ما تكون أكبر تعرّض غير مُدار.

هو المتطلّب في أ.5 بتقييم عواقب النظام على الأفراد والفئات المتأثرين بمخرجاته. وهو المتطلّب الذي لا نظير له في آيزو 27001، وأصعبها عادةً على فريق تقوده الخلفية الأمنية، لأنه يسأل ماذا يفعل النظام بالأشخاص لا ماذا يفعل بالبيانات.

نظام إدارة معتمَد يُستخدم على نطاق واسع كدليل على حوكمة منظّمة ويدعم الجاهزية لالتزامات النظام الأوروبي. لكن الاعتماد وحده لا يُثبت المطابقة للنظام، وتقديمه على هذا النحو ادّعاء لن يصمد أمام الفحص. والجدير بالذكر أن سدايا صمّمت مبادئها بمراعاة التشغيل البيني الدولي مستندةً إلى النهج القائم على المخاطر في النظام الأوروبي، فالاثنان لا يتجاذبان في اتجاهين متعاكسين.

يعتمد على حجم منظومة الذكاء الاصطناعي لديك ونضج نظام إدارتك القائم أكثر بكثير مما يعتمد على المعيار. والمنشآت المعتمدة سلفاً لآيزو 27001 أو آيزو 27701 تتقدّم أسرع، لأن متطلبات البنود مشتركة. وعمل السجل وتقييم الأثر هو ما يحدّد الجدول عادةً.

نعم. فالضوابط والأدلة والسجلات كائنات مشتركة، بحيث تنتقل متطلبات نظام الإدارة من برنامجك في آيزو 27001 أو آيزو 27701، وتستمدّ حوكمة البيانات خلف أ.7 من سجلات المعالجة التي تسند التزاماتك في نظام حماية البيانات، مع احتفاظ كل إطار بنطاقه وآلية تقييمه وتقاريره.

§ الأطر · آيزو 42001الهيئة · البنك المركزي · هيئة الاتصالات · النظام

ابدأ بالعثور على الذكاء الاصطناعي الذي تُشغّله أصلاً

لدى معظم المنشآت ذكاء اصطناعي في الإنتاج أكثر ممّا يُظهره سجلّها. اطّلع على شكل سجل أنظمة الذكاء الاصطناعي مقابل مكتبة ضوابطك القائمة.

سجل المخاطر في جوفرلي: خرائط حرارية للخطر الكامن والمتبقي حسب الاحتمالية والأثر№ 04أبيض وأسود
المخاطر · كامن ← متبقٍّاللوحة IV