سدايا تصف الحوكمة الجيّدة للذكاء الاصطناعي. وهذا يُثبت أنك بلغتها.
لدى المملكة مبادئ لأخلاقيات الذكاء الاصطناعي وأدلة للذكاء الاصطناعي التوليدي وإطار للتبنّي — كلها ذات حجّية، وكلها غير ملزِمة، ولا شيء منها قابل للاعتماد. وآيزو 42001 هو المعيار الدولي الذي يحوّل تلك التوقّعات إلى ما يستطيع مدقّق فحصه.
تعكس هذه الصفحة فهمنا العملي لتطبيق آيزو 42001 وموضعه إلى جانب الإرشادات السعودية للذكاء الاصطناعي، وليست مرجعاً رسمياً. والمرجعان المعتمدان هما المعيار كما تنشره المنظمة الدولية للمعايير، والوثائق الصادرة عن سدايا — وكلاهما قابل للتغيير. فتحقّق ممّا ينطبق على جهتك مقابلهما ومع مستشاريك.
ما آيزو 42001؟
من واقع برامج الالتزام التي نبنيها ونُشغّلها في المملكة: آيزو/IEC 42001 هو المعيار الدولي لنظام إدارة الذكاء الاصطناعي. صدر في ديسمبر 2023 وكان الأول من نوعه، ويحدّد كيف تحكم المنشأة أنظمة الذكاء الاصطناعي التي تُطوّرها أو تُوفّرها أو تستخدمها، عبر دورة حياتها كاملة.
وهو معيار نظام إدارة لا معيار تقني. فهو لا يخبرك كيف تبني نموذجاً، ولا ما الدقة التي تبلغها، ولا أي بنية تختار. بل يسأل: من المسؤول، وأي مخاطر حدّدتها، وماذا فعلت حيالها، وهل تستطيع إثبات ذلك.
وإن كنت طبّقت آيزو 27001، فالشكل مألوف — بنية البنود ذاتها، وبيان قابلية التطبيق ذاته، وإيقاع التدقيق ذاته. والجديد هو الموضوع: السلوك الاحتمالي لأنظمة الذكاء الاصطناعي، وحوكمة بيانات التدريب، وصعوبة تفسير القرارات الآلية، وأثر تلك القرارات على من تقع عليهم.
أين يقع هذا في المملكة
وضع حوكمة الذكاء الاصطناعي في المملكة غير اعتيادي، وفهمه هو ما يجعل قرار آيزو 42001 واضحاً.
وهذه الفجوة هي الحجّة العملية لآيزو 42001. فهو يُفعّل إلى حدّ بعيد ما تطلبه مبادئ سدايا — تصنيف المخاطر وتقييم الأثر والإشراف البشري والشفافية والمساءلة والتوثيق — وينتج شهادة من جهة معتمدة. كما صمّمت سدايا مبادئها بمراعاة التشغيل البيني الدولي، مستندةً إلى النهج القائم على المخاطر في نظام الاتحاد الأوروبي للذكاء الاصطناعي وإرشادات منظمة التعاون الاقتصادي — ما يعني أن الاثنين لا يتجاذبان في اتجاهين.
أصدرت سدايا مجموعة كبيرة من مواد حوكمة الذكاء الاصطناعي، والجهات القطاعية تُدرجه في ولاياتها القائمة.
- مبادئ أخلاقيات الذكاء الاصطناعي، صدرت 2023، بنهج متدرّج بالمخاطر يغطّي العدالة والمساءلة والشفافية والسلامة
- أدلة الذكاء الاصطناعي التوليدي للجهات الحكومية، صدرت يناير 2024
- أدلة الذكاء الاصطناعي التوليدي للعموم
- إطار تبنّي الذكاء الاصطناعي مبني على مستويات النضج
- معالجة قطاعية عبر البنك المركزي للمالية، وهيئة الغذاء والدواء للصحة، وهيئة الحكومة الرقمية للقطاع العام
وثائق سدايا غير ملزِمة بذاتها — وتصبح واجبة النفاذ حيث ترتبط بنظام آخر، ونظام حماية البيانات أوضح الحالات. ونظام مخصّص للذكاء الاصطناعي قيد الإعداد ولم يدخل حيّز النفاذ.
- لا يوجد نظام مخصّص للذكاء الاصطناعي نافذ حالياً
- لا توجد شهادة وطنية للذكاء الاصطناعي تُحمَل أو تُعرَض
- لا توجد وسيلة لإثبات استيفاء التوقّعات المنشورة أمام مشترٍ أو مجلس إدارة
- النفاذ الفعلي اليوم يمرّ عبر نظام حماية البيانات حيث يمسّ الذكاء الاصطناعي بيانات شخصية
ما يحتويه المعيار
البنود من 4 إلى 10 تحمل متطلبات نظام الإدارة. والملحق (أ) يحمل الضوابط الخاصة بالذكاء الاصطناعي — 38 ضابطاً في تسعة مجالات.
سياسة موثّقة لتطوير أنظمة الذكاء الاصطناعي أو استخدامها، متوائمة مع أهداف المنشأة ومُراجَعة مع تغيّرها.
الأدوار والمسؤوليات وخطوط الرفع لحوكمة الذكاء الاصطناعي، بما في ذلك من يقرّر ومن يُصعّد.
البيانات والأدوات وموارد الحوسبة والكفاءات البشرية التي تعتمد عليها الأنظمة داخل النطاق، موثّقة لا مفترَضة.
تقييم العواقب على الأفراد والفئات المتأثرين بالنظام. وهو الضابط الذي لا نظير له في آيزو 27001، وأصعبها عادةً على فريق تقوده الخلفية الأمنية.
الحوكمة عبر التصميم والتطوير والتحقق والنشر والتشغيل والإيقاف — لا عند الإطلاق فقط.
مصدر بيانات التدريب والتشغيل وجودتها وإعدادها وحوكمتها، وهي منشأ معظم مخاطر الذكاء الاصطناعي فعلياً.
ما تُخبر به المستخدمين والعملاء والأفراد المتأثرين عن النظام وحدوده وكيفية الاعتراض على مخرَج.
الاستخدام المسؤول داخل المنشأة، بما في ذلك حيث يستخدم الموظفون أنظمة لم تبنِها المنشأة.
المورّدون ومزوّدو النماذج والعملاء — من المسؤول عن ماذا حين لا يكون النظام ملكك بالكامل.
وكما في آيزو 27001، تُسجّل قابلية التطبيق والاستثناءات في بيان قابلية التطبيق مع المبرّرات. وعملياً تُطبّق معظم المنشآت غالبية الضوابط، لأنها مكتوبة على مستوى الحوكمة لا بصورة تفصيلية آمرة، ولأن مخاطر الذكاء الاصطناعي واسعة بما يجعل الاستثناءات قليلة الصمود أمام الفحص.
ويُقدّم الملحق (ب) إرشادات التطبيق لكل ضابط، والملحق (ج) الأهداف التنظيمية ومصادر المخاطر، والملحق (د) تطبيق النظام عبر المجالات والقطاعات المختلفة. وتتطوّر العائلة الأوسع إلى جانبه، ومنها آيزو/IEC 42005 لتقييم أثر أنظمة الذكاء الاصطناعي، و42006 لمتطلبات جهات اعتماد أنظمة إدارة الذكاء الاصطناعي.
من ينتهي إلى الحاجة إليه
ولاحظ أن استخدام الذكاء الاصطناعي يدخل في النطاق لا بناؤه فقط — وهو ما يشمل منشآت لا تعدّ نفسها شركات ذكاء اصطناعي.
أدلة سدايا للذكاء الاصطناعي التوليدي موجّهة إلى الجهات الحكومية، وهيئة الحكومة الرقمية تُدرجه في سياسة الحكومة الرقمية. ونظام إدارة معتمَد هو كيف تُثبت الجهة أن التوقّعات استُوفيت لا أنها اطُّلع عليها.
النماذج المستخدمة في قرارات الائتمان أو كشف الاحتيال أو خدمة العملاء تقع داخل علاقة إشرافية قائمة. وأدلة حوكمتها تُطلَب ضمن تلك العلاقة لا بمعزل عنها.
حيث تنطبق ولاية هيئة الغذاء والدواء، لا يكون متطلّب تقييم الأثر في أ.5 إجراءً شكلياً — بل هو جوهر ما تريد الجهة رؤيته.
وصلت أسئلة حوكمة الذكاء الاصطناعي إلى الاستبيانات الأمنية أسرع من أي موضوع في الذاكرة القريبة، ومعظم المورّدين بلا إجابة منظّمة. والشهادة إجابة قصيرة عن قسم طويل.
نظام إدارة معتمَد دليل على حوكمة منظّمة ويُستخدم على نطاق واسع لدعم الجاهزية — وإن كان الاعتماد وحده لا يُثبت المطابقة للنظام الأوروبي، ولا ينبغي تقديمه كذلك.
يغطّي الضابط أ.9 الاستخدام المسؤول داخل المنشأة. واستخدام الموظفين أدوات ذكاء اصطناعي خارجية على بيانات الشركة مسألة حوكمة سواء أطّرها أحد بذلك أم لا.
تشغيل آيزو 42001 داخل Govrly
يشترك نظام إدارة الذكاء الاصطناعي مع برامجك القائمة أكثر ممّا توحي به حداثة الموضوع — وحيث لا يشترك، تستحق الفجوة رؤية واضحة.
النطاق والقيادة والكفاءة والتدقيق الداخلي والمراجعة الإدارية تنتقل من آيزو 27001 أو آيزو 27701 من السجلات ذاتها. فإن كنت تحمل أياً منهما، فالبنود من 4 إلى 10 مبنية إلى حدّ بعيد.
أي أنظمة تُطوّرها أو تُوفّرها أو تستخدمها، بغرضها وبياناتها ومالكها وتصنيف مخاطرها. ومعظم المنشآت تكتشف في هذه الخطوة أن لديها ذكاءً اصطناعياً في الإنتاج أكثر ممّا ظنّت.
تقييمات الأثر محفوظة كسجلات بمُلّاك وتواريخ ونتائج — مبنية بالطريقة ذاتها التي يُبنى بها تقييم أثر الخصوصية، ويُطلقها غالباً التغيير ذاته.
حيث تحتوي بيانات التدريب على بيانات شخصية، تكون سجلات المعالجة والأسس النظامية وقرارات الحفظ التي تسند أ.7 هي السجلات ذاتها التي تحمل التزاماتك في نظام حماية البيانات.
يسأل أ.10 عمّن يتحمّل المسؤولية حين يكون النموذج لغيرك. وتلك العلاقات تقع إلى جانب بقية مورّديك لا في قائمة منفصلة لا يصونها أحد.
الضوابط الثمانية والثلاثون بقابلية تطبيقها ومبرّراتها وحالتها وأدلتها — محدَّثة مع تغيّر منظومة الذكاء الاصطناعي لديك، وهو تغيّر متكرّر لدى معظم المنشآت.
آيزو 42001 إلى جانب 27001 و27701
ثلاثة أنظمة إدارة ببنية واحدة. والتداخل أكبر ممّا يوحي به اختلاف الموضوع.
ولأن الثلاثة تتبع البنية المتناسقة، فالمنشأة التي تحمل أحدها بنت طبقة نظام الإدارة للاثنين الآخرين. والعمل المتبقّي هو الملحق والمتطلبات الخاصة بالموضوع — ولهذا يكلّف تتابعها على مكتبة ضوابط واحدة أقلّ بكثير من تشغيل ثلاثة برامج.
| آيزو 42001 | آيزو 27001 | آيزو 27701 | |
|---|---|---|---|
| الموضوع | أنظمة الذكاء الاصطناعي وأثرها | أمن المعلومات | حوكمة البيانات الشخصية |
| تاريخ الإصدار | ديسمبر 2023 | إصدار 2022 | إصدار 2025 |
| بنية البنود | 4 إلى 10 | 4 إلى 10 | 4 إلى 10 |
| الملحق (أ) | 38 ضابطاً في تسعة مجالات | 93 ضابطاً في أربعة محاور | ضوابط مُدمَجة للتحكم والمعالجة |
| المتطلّب المميّز | تقييم أثر نظام الذكاء الاصطناعي | معالجة المخاطر مقابل الملحق (أ) | تحديد صفة التحكم أو المعالجة |
| الشرط المسبق | لا شيء | لا شيء | لا شيء، منذ 2025 |
مسار عملي إلى نظام إدارة الذكاء الاصطناعي
الخطوتان الأوليان هما حيث تنجح البرامج أو تتعثّر، وليست أيٌّ منهما تقنية.
- 01/08اعثر على الذكاء الاصطناعي الذي تملكه أصلاً
نماذج في الإنتاج، وخصائص ذكاء اصطناعي داخل برمجيات مشتراة، وأدوات تبنّتها فرقك دون مرور بالمشتريات. وهذا السجل أطول من المتوقّع دائماً، ولا يمكنك تحديد النطاق دونه.
- 02/08حدّد صفتك في كل نظام
مُطوّر أم مُوفّر أم مستخدم. فالمعيار يعامل الصفات معاملة مختلفة، والمنشأة عادةً عدّة صفات في آن — تبني نموذجاً وتُضمّن آخر وتستخدم ثالثاً عبر منتج مورّد.
- 03/08صنّف بالمخاطر والأثر
لا يستحق كل نظام الحوكمة ذاتها. والنهج المتدرّج بالمخاطر يُركّز الجهد حيث تقع العواقب على الأفراد، وهو أيضاً كيف بُنيت مبادئ سدايا.
- 04/08وسّع نظام الإدارة الذي لديك
إن كنت تحمل آيزو 27001 أو آيزو 27701، فالبنود من 4 إلى 10 موجودة إلى حدّ بعيد. والنطاق والقيادة والكفاءة والتدقيق الداخلي والمراجعة الإدارية تمتدّ بدل أن تبدأ من جديد.
- 05/08ابنِ عملية تقييم الأثر
وهذا هو العمل الجديد فعلاً. فهو يسأل ماذا يفعل النظام بالأشخاص الخاضعين لمخرجاته، وهو سؤال مختلف عمّا يفعله ببياناتك — ولم يُضطرّ معظم فرق الأمن إلى الإجابة عنه قط.
- 06/08احكم البيانات لا النموذج فقط
مصدر بيانات التدريب وجودتها وإعدادها بموجب أ.7. وحيث تحتوي على بيانات شخصية، فهذا مشترك مع عملك في نظام حماية البيانات لا منفصل عنه.
- 07/08أكمل بيان قابلية التطبيق
الضوابط الثمانية والثلاثون كلها، مع مبرّر لكل استثناء. وتوقّع مساءلة الاستثناءات أكثر منها في شهادة أمنية، لأن مخاطر الذكاء الاصطناعي تعبر الوظائف.
- 08/08شغّله ثم تعاقد مع جهة منح شهادة
تأكّد أنها معتمدة لآيزو 42001 تحديداً. ولأن المعيار حديث نسبياً، فالمجموعة المتاحة أصغر منها لآيزو 27001 ويستحق التحقق مبكراً.
سجل أنظمة الذكاء الاصطناعي وتقييمات الأثر وبيان قابلية التطبيق تقع على مكتبة الضوابط ذاتها التي تحمل برامجك في الضوابط الأساسية وآيزو 27001 — بينما تستمدّ حوكمة البيانات خلف أ.7 من سجلات المعالجة التي تحمل التزاماتك في نظام حماية البيانات، بدل سجل ثانٍ يُصان بالتوازي.
أسئلة شائعة حول آيزو 42001
المعيار الدولي لنظام إدارة الذكاء الاصطناعي. صدر في ديسمبر 2023 وكان الأول من نوعه، ويحدّد كيف تحكم المنشأة أنظمة الذكاء الاصطناعي التي تُطوّرها أو تُوفّرها أو تستخدمها عبر دورة حياتها كاملة. وهو قابل للاعتماد من جهة منح شهادات معتمدة.
لا. أصدرت سدايا مبادئ أخلاقيات الذكاء الاصطناعي وأدلة الذكاء الاصطناعي التوليدي وإطار التبنّي، لكنها غير ملزِمة بذاتها — وتصبح واجبة النفاذ حيث ترتبط بنظام آخر، وأوضحها نظام حماية البيانات حيث يمسّ الذكاء الاصطناعي بيانات شخصية. ونظام مخصّص للذكاء الاصطناعي قيد الإعداد ولم يدخل حيّز النفاذ. وآيزو 42001 اختياري، وهو حالياً الوسيلة العملية لإثبات استيفاء التوقّعات المنشورة.
هو يُثبت حوكمة منظّمة للذكاء الاصطناعي، ولا يُغني عن شيء. فوثائق سدايا تبقى على ما هي عليه، ونظام حماية البيانات ينطبق بصرف النظر حيث توجد بيانات شخصية، والنظام القادم للذكاء الاصطناعي سينطبق بشروطه. وما تفعله الشهادة هو إثبات أن الحوكمة قائمة وأنها فُحصت باستقلال، أمام جهة تنظيمية أو مشترٍ أو مجلس إدارة.
يحتوي الملحق (أ) على 38 ضابطاً في تسعة مجالات، من أ.2 إلى أ.10 — سياسة الذكاء الاصطناعي، والتنظيم الداخلي، والموارد، وتقييم الأثر، ودورة الحياة، والبيانات، والمعلومات للأطراف المعنية، واستخدام الأنظمة، والعلاقات مع الأطراف الخارجية. وتُسجّل قابلية التطبيق في بيان قابلية التطبيق مع مبرّرات الاستثناءات، كما في آيزو 27001.
لا — يمكن تطبيق آيزو 42001 واعتماده باستقلال. ومع ذلك، إن كنت تحمل آيزو 27001 أو آيزو 27701 فالعمل أقصر بكثير، لأن الثلاثة تتبع بنية البنود المتناسقة ذاتها. فطبقة نظام الإدارة تنتقل؛ والملحق الخاص بالذكاء الاصطناعي وعملية تقييم الأثر هما العمل الجديد.
نعم. فالمعيار يخاطب المنشآت التي تُطوّر أنظمة الذكاء الاصطناعي أو تُوفّرها أو تستخدمها، والضابط أ.9 يغطّي الاستخدام المسؤول داخل المنشأة تحديداً. واستخدام الموظفين أدوات ذكاء اصطناعي خارجية على بيانات الشركة مسألة حوكمة سواء أطّرها أحد بذلك أم لا، وهي كثيراً ما تكون أكبر تعرّض غير مُدار.
هو المتطلّب في أ.5 بتقييم عواقب النظام على الأفراد والفئات المتأثرين بمخرجاته. وهو المتطلّب الذي لا نظير له في آيزو 27001، وأصعبها عادةً على فريق تقوده الخلفية الأمنية، لأنه يسأل ماذا يفعل النظام بالأشخاص لا ماذا يفعل بالبيانات.
نظام إدارة معتمَد يُستخدم على نطاق واسع كدليل على حوكمة منظّمة ويدعم الجاهزية لالتزامات النظام الأوروبي. لكن الاعتماد وحده لا يُثبت المطابقة للنظام، وتقديمه على هذا النحو ادّعاء لن يصمد أمام الفحص. والجدير بالذكر أن سدايا صمّمت مبادئها بمراعاة التشغيل البيني الدولي مستندةً إلى النهج القائم على المخاطر في النظام الأوروبي، فالاثنان لا يتجاذبان في اتجاهين متعاكسين.
يعتمد على حجم منظومة الذكاء الاصطناعي لديك ونضج نظام إدارتك القائم أكثر بكثير مما يعتمد على المعيار. والمنشآت المعتمدة سلفاً لآيزو 27001 أو آيزو 27701 تتقدّم أسرع، لأن متطلبات البنود مشتركة. وعمل السجل وتقييم الأثر هو ما يحدّد الجدول عادةً.
نعم. فالضوابط والأدلة والسجلات كائنات مشتركة، بحيث تنتقل متطلبات نظام الإدارة من برنامجك في آيزو 27001 أو آيزو 27701، وتستمدّ حوكمة البيانات خلف أ.7 من سجلات المعالجة التي تسند التزاماتك في نظام حماية البيانات، مع احتفاظ كل إطار بنطاقه وآلية تقييمه وتقاريره.
ابدأ بالعثور على الذكاء الاصطناعي الذي تُشغّله أصلاً
لدى معظم المنشآت ذكاء اصطناعي في الإنتاج أكثر ممّا يُظهره سجلّها. اطّلع على شكل سجل أنظمة الذكاء الاصطناعي مقابل مكتبة ضوابطك القائمة.
