هنا، الذكاء الاصطناعي مسألة حوكمة قبل أن يكون خاصية
كل منصة حوكمة صارت تقول إنها مدعومة بالذكاء الاصطناعي. وإن كنت جهة حكومية أو بنكاً أو أي جهة تحفظ بيانات مواطنين، فذلك الادّعاء يُثير أسئلة قبل أن يُثير اهتماماً — أين تذهب البيانات، وهل تغادر المملكة، وهل تستطيع تفسير قرار ساعد فيه الذكاء الاصطناعي أمام مُقيّم.
ثمانية أسئلة تُطرح على أي مورّد حوكمة عن الذكاء الاصطناعي
من واقع برامج الالتزام التي نبنيها ونُشغّلها في المملكة: محادثة الذكاء الاصطناعي في تقييم المورّدين تسوء حين يسأل المشتري ماذا تفعل الخاصية، وتحسُن حين يسأل ماذا يحدث لبياناته. وهذه هي الأسئلة التي كنّا لنطرحها — والتي نتوقّع أن تطرحها علينا.
أي نطاق يعالج الطلب. فإن كانت الإجابة غامضة، أو لم يسأل المورّد نفسه، فتلك هي الإجابة. وللجهة الحكومية، هذا يحدّد هل الخاصية قابلة للاستخدام أصلاً.
وإن غادرت، فبأي آلية نقل. وهذا سؤال في نظام حماية البيانات له إجابة محدّدة لا طمأنة عامة — وجهتك التنظيمية ستعامله كذلك.
بياناتنا أو بيانات أي أحد. اطلبه في العقد لا على صفحة ويب، فالسياسة تتغيّر والبند التعاقدي لا يتغيّر دونك.
معظم المورّدين يصفون محرّك تذكيرات بأنه ذكاء اصطناعي. ومعرفة أيّهما أيّ تخبرك أين تقع المخاطر وأين تقع الموثوقية، وهما عادةً مكانان مختلفان.
فإن استطاع اقتراح من الذكاء الاصطناعي أن يصير حالة التزام دون اعتماد شخص، فالمنصة تُقدّم إقرارات نيابةً عنك ستضطر إلى الدفاع عنها.
حين يسأل المُقيّم كيف قُيّم ضابط أو أُنتجت وثيقة، تكون «النظام اقترحها» إجابة مقبولة فقط إن وُجد سجل بمن راجع واعتمد.
لكل خاصية أو كلياً. فبعض المنشآت لا تستطيع استخدام خصائص الذكاء الاصطناعي لتصنيفات بيانات معيّنة، والمنصة التي لا تعمل بدونها غير قابلة للاستخدام لديها.
السؤال الذي لا يطرحه أحد تقريباً. فاستخدام خاصية ذكاء اصطناعي يجعلك مستخدِماً له، بالتزامات حوكمة خاصة بك — انظر أدناه.
وإن عجز مورّد عن الإجابة عن هذه في مكالمة أولى، فالمسألة ليست أنه يُخفي شيئاً. بل غالباً أن أحداً لم يسأله، وذلك يخبرك كيف بُنيت الخاصية وكيف ستمضي المراجعة الأمنية.
الأتمتة والذكاء الاصطناعي ليسا الشيء ذاته
يُسوَّقان كقدرة واحدة. ويتصرّفان بطريقتين مختلفتين تماماً، والخلط بينهما يُبالغ في الذكاء الاصطناعي ويُخفي أين تكمن القيمة فعلاً.
- انتهاء صلاحية الأدلة يظهر قبل انقضائها
- دورات المراجعة تتكرّر بجدولها
- الطلبات تُوجَّه إلى المالك المحدّد بالاسم
- التذكيرات تتصاعد عند التأخّر
- الحالة تتغيّر عند تحقّق شرط
- الملاحظات تُعاد فتحها إن أخفق التحقّق
- صياغة سياسة من سياقك
- اقتراح مطابقات بين الأطر
- تلخيص رد تقييم طويل
- الإشارة إلى حيث تبدو التغطية ضعيفة
- الإجابة عن استبيان من سجلات قائمة
- شرح ما يطلبه متطلّب
العمود الأيمن غير برّاق ويحمل معظم برنامج الالتزام. فهو متوقّع وقابل للتدقيق ويُخفق بطرق ظاهرة. أما الأيسر فنافع فعلاً في العمل القريب من الحكم ويُخفق بصورة معقولة الظاهر، ولهذا يحتاج كل ما فيه شخصاً بين المخرَج والسجل.
وطريقة نافعة لتحديد أيّهما: إن كان للمهمة جواب صحيح واحد فهي أتمتة. وإن تطلّبت حكماً تقبله من زميل مبتدئ كفؤ — رهن المراجعة — فهي مرشّحة للذكاء الاصطناعي. وما يتطلّب حكماً لا تفوّضه فليس أياً منهما.
ما لا ينبغي أن يفعله الذكاء الاصطناعي في برنامج التزام
الحدّ أهمّ من القدرة، لأن تجاوزه يُنتج سجلات واثقة لا يستطيع أحد الدفاع عنها.
| المهمة | مناسب؟ | لماذا |
|---|---|---|
| صياغة سياسة | نعم، مع مراجعة | المسوّدة نقطة بداية. ويبقى المراجع هو المؤلّف بكل معنى يهمّ. |
| اقتراح مطابقات الأطر | نعم، مع مراجعة | المطابقة عمل أنماط بفحص من عارف. والمطابقة الخاطئة ظاهرة لمن يعرف الإطار. |
| تلخيص الأدلة | نعم، إلى جانب الأصل | التلخيص تيسير. ويبقى المستند هو الدليل، والمُقيّم يقرأ المستند. |
| تقرير حالة الالتزام | لا | الحالة إقرار تقدّمه لجهة تنظيمية. ويحتاج شخصاً مُساءلاً عنه. |
| اعتماد الأدلة | لا | الاعتماد حكم على الكفاية. وإن لم يعتمده أحد، فلا تستطيع قول إنه رُوجع. |
| تقييم المخاطر | اقتراح فقط | قبول المخاطرة يحمل مساءلة شخصية. والاقتراح نافع؛ أما تقدير غير مُراجَع فغير قابل للدفاع. |
| الرد على جهة تنظيمية | مسوّدة فقط | الرفع بيان رسمي من منشأتك. ولا يخرج شيء دون قراءة. |
والنمط عبر صفوف «لا» ثابت: لا ينبغي أن يُنتج الذكاء الاصطناعي شيئاً تُساءل عنه شخصياً دون أن تكون قد قرأته. وهذا ليس قيداً على التقنية — بل هو معنى المساءلة، والمنصة التي تُضبّب ذلك تصنع مشكلة ترثها أنت.
استخدامك له يجعلك مستخدِماً للذكاء الاصطناعي
السؤال الذي لا يكاد أحد يطرحه على مورّد، والذي يقع أشدّ وقعاً حين يُثيره مُقيّم أولاً.
بموجب آيزو/IEC 42001، يغطّي الضابط أ.9 الاستخدام المسؤول لأنظمة الذكاء الاصطناعي داخل المنشأة — بما فيها ما لم تبنِه أنت. وخاصية ذكاء اصطناعي في منصة التزامك، تعالج بيانات منشأتك، تقع في صميم ذلك. وإن تضمّنت البيانات المعالَجة بيانات شخصية، فنظام حماية البيانات ينطبق على تلك المعالجة كأي معالجة أخرى.
وهذه ليست حجّة ضد استخدام الذكاء الاصطناعي. بل حجّة لمعرفة أنك تستخدمه، وتسجيل ذلك. فالمنشأة التي تبنّت خصائص ذكاء اصطناعي عبر اثنتي عشرة أداة بلا سجل لديها فجوة حوكمة بصرف النظر عن جودة أي أداة منفردة.
سجّله كنظام ذكاء اصطناعي
خاصية الذكاء الاصطناعي في منصة تستخدمها تنتمي إلى سجل أنظمتك، بغرضها وبياناتها ومالكها — المعاملة ذاتها كأي ذكاء اصطناعي تبنّيته.
أي بيانات تلمسها
التصنيفات التي تعالجها الخاصية تحدّد هل يجوز استخدامها أصلاً. وهذا سؤال حوكمة أصول قبل أن يكون سؤال ذكاء اصطناعي.
التزام مورّدين أيضاً
حيث توجد بيانات شخصية، تكون خدمة الذكاء الاصطناعي معالجاً بالتزامات المعالج — مسجَّلاً في سجل مورّديك مع بقية سلسلة المعالجين.
مُثبَت لا مُقرَّ به
أي مراجعة تقع بين مخرَج الذكاء الاصطناعي والسجل ينبغي أن تترك أثراً، لأن «راجعه شخص» لا يكون مقنعاً إلا بسجل بأي شخص ومتى.
كيف نتعامل معه داخل Govrly
مذكورٌ كمبادئ لا كقائمة خصائص، لأن التفاصيل تنتمي إلى إجابة مكتوبة لمراجعتك الأمنية لا إلى صفحة تسويقية.
شخص بين المخرَج والسجل
مخرَج الذكاء الاصطناعي مسوّدة أو اقتراح. ويصير سجل التزام حين يقبله من يملك صلاحية ذلك — لا قبله، ولا بصمت.
الأتمتة لا تُباع كذكاء اصطناعي
انتهاء صلاحية الأدلة ودورات المراجعة والتوجيه والتصعيد حتمية وتتصرّف بصورة متوقّعة. ونصفها بما هي، لأن المشتري الذي يُقيّم مخاطر الذكاء الاصطناعي يحتاج معرفة أيّهما أيّ.
المنصة تعمل بدونه
المنشآت التي لا تستطيع استخدام خصائص الذكاء الاصطناعي لبيانات معيّنة — أو إطلاقاً — ينبغي أن تظل قادرة على تشغيل برنامجها. فالمنصة التي تعتمد وظيفتها الجوهرية عليه غير قابلة للاستخدام لدى حصة معتبرة من هذه السوق.
المشاركة ظاهرة
حيث ساهم الذكاء الاصطناعي في سجل، ينبغي أن يكون ذلك ظاهراً — فحين يسأل المُقيّم كيف أُنتج شيء، تكون الإجابة متاحة لا مُعاد بناؤها.
التعامل مع البيانات كتابةً
موقع المعالجة والتعامل مع البيانات واستخدامها في التدريب أسئلة نُجيب عنها تحديداً ونضعها في العقد. وإن أجاب مورّد عنها على صفحة ويب فقط، فتلك إشارة.
لا التزام بلا أشخاص
لا منصة تجعل منشأة ملتزمة، وإضافة الذكاء الاصطناعي لا تغيّر ذلك. فالعمل يبقى قرارات وملكية وأدلة — والذكاء الاصطناعي يختصر الصياغة لا المساءلة.
تبنّي الذكاء الاصطناعي في برنامج التزام
التسلسل الذي يُبقيك قادراً على الإجابة عنه بعدها.
- قرّر أي بيانات يجوز أن تلمس خاصية ذكاء اصطناعيبحسب التصنيف، قبل تفعيل أي شيء. وهذا قرار حوكمة أصول ويقيّد كل ما بعده.
- احصل على إجابات التعامل مع البيانات كتابةًموقع المعالجة وآلية النقل والاستخدام في التدريب. في العقد لا على صفحة ويب، ومن كل مورّد بما فينا.
- ابدأ حيث يكون الخطأ رخيصاًالصياغة والتلخيص واقتراحات المطابقة. لا قرارات الحالة ولا تقديرات المخاطر ولا الرفوعات التنظيمية.
- أبقِ شخصاً بين المخرَج والسجلواحرص أن تترك تلك المراجعة أثراً. فمساهمة ذكاء اصطناعي غير قابلة للمراجعة ملاحظة تدقيق تنتظر الكتابة.
- أضِفه إلى سجل أنظمة الذكاء الاصطناعي لديكالغرض والبيانات والمالك والتصنيف. فأنت مستخدِم الآن، والضابط أ.9 ينطبق ذكره أحد أم لم يذكره.
- سجّله كمعالج حيث توجد بيانات شخصيةفي سجل مورّديك مع بقية سلسلة المعالجين. وهذا سؤال نظام حماية البيانات لا سؤال ذكاء اصطناعي.
- أخبر مُقيّميك قبل أن يكتشفوافالاستخدام المُفصَح عنه والمحكوم غير ذي أثر. والمُكتشَف ملاحظة، والفرق كله في الترتيب.
- راجع ما يفعله لك فعلاًبعض الخصائص توفّر وقتاً حقيقياً وبعضها يخلق عمل مراجعة يتجاوز ما وفّره. والنوع الثاني يُوقَف لا يُحتمَل.
الأتمتة الحتمية تحمل الروتين — انتهاء صلاحية الأدلة ودورات المراجعة والتوجيه والتصعيد — بينما يُساعد الذكاء الاصطناعي في الصياغة والمطابقة مع شخص بين كل مخرَج وكل سجل. اطرح علينا الأسئلة الثمانية أعلاه ونُجيب عنها كتابةً.
شاهد عرضاً توضيحياً ←أسئلة شائعة حول الذكاء الاصطناعي والأتمتة
هل تغادر بياناتنا المملكة؟
اسألنا مباشرةً ونُجيب تحديداً ونضعها في العقد. ونحن لا نُجيب عن هذا على صفحة تسويقية عن قصد، لأن الإجابة تتوقّف على نشرك ولأن صفحة الويب ليست مكان التزام بموقع البيانات. وكنّا لنُعامل أي مورّد بالمعاملة ذاتها.
هل تُستخدم بياناتنا لتدريب النماذج؟
هذا سؤال تعاقدي، وينبغي أن تعامله كذلك مع كل مورّد. فالسياسة المنشورة تتغيّر دونك؛ والبند التعاقدي لا يتغيّر. اطلبه كتابةً قبل تفعيل أي شيء.
ما الفرق بين الأتمتة والذكاء الاصطناعي هنا؟
الأتمتة حتمية — انتهاء صلاحية الأدلة والمراجعات المتكرّرة والتوجيه والتصعيد. تتصرّف بصورة متوقّعة وتُخفق بصورة ظاهرة. أما الذكاء الاصطناعي فيُساعد في العمل القريب من الحكم كالصياغة والمطابقة، ويُخفق بصورة معقولة الظاهر، ولهذا يحتاج كل ما يُنتجه شخصاً قبل أن يصير سجلاً. ومعظم المورّدين يُسوّقون الاثنين كذكاء اصطناعي؛ ومعرفة أيّهما أيّ تخبرك أين تقع المخاطر.
هل يستطيع الذكاء الاصطناعي تقرير التزام ضابط؟
لا ينبغي، ولا نرى أن أي منصة ينبغي أن تسمح بذلك. فحالة الالتزام إقرار تُقدّمه منشأتك لجهة تنظيمية، ويحتاج شخصاً مُساءلاً عن تقديمه. والذكاء الاصطناعي يستطيع الاقتراح؛ أما القبول ففعل بشري باسم مرفق.
هل نستطيع استخدام المنصة دون خصائص الذكاء الاصطناعي؟
نعم، وهذا مهم. فبعض المنشآت لا تستطيع استخدامها لتصنيفات بيانات معيّنة، وبعضها لا تستطيع إطلاقاً. والمنصة التي تعتمد وظيفتها الجوهرية على الذكاء الاصطناعي غير قابلة للاستخدام لدى حصة معتبرة من هذه السوق، ولهذا يجب أن يعمل البرنامج بدونه.
هل يُنشئ استخدام الذكاء الاصطناعي التزامات علينا؟
نعم، وهذا السؤال الذي لا يكاد أحد يطرحه. فبموجب آيزو 42001، يغطّي الضابط أ.9 الاستخدام المسؤول لأنظمة الذكاء الاصطناعي بما فيها ما لم تبنِه. وخاصية تعالج بيانات منشأتك تنتمي إلى سجل أنظمتك بغرض ومالك وتصنيف — وحيث توجد بيانات شخصية، تكون الخدمة معالجاً بموجب النظام.
كيف نُفسّر عملاً ساعد فيه الذكاء الاصطناعي أمام مُقيّم؟
بإظهار من راجعه ومتى. فـ«النظام اقترحه» إجابة مقبولة فقط مقترنةً بسجل للشخص الذي قبله. ولهذا يجب أن تترك المراجعة أثراً — فمساهمة غير قابلة للمراجعة ملاحظة تنتظر الكتابة.
من أين نبدأ بالذكاء الاصطناعي في الالتزام؟
حيث يكون الخطأ رخيصاً — الصياغة والتلخيص واقتراحات المطابقة. لا قرارات الحالة ولا تقديرات المخاطر ولا الرفوعات التنظيمية. وقرّر بحسب تصنيف البيانات ما يجوز أن يلمس خاصية ذكاء اصطناعي قبل تفعيل أي شيء، فذلك القرار يقيّد كل ما بعده.
هل سيُقلّل الذكاء الاصطناعي عبء الالتزام لدينا؟
بعضه، وليس الجزء الذي يأمله معظم الناس. فالصياغة تصير أسرع. أما القرارات والملكية والأدلة فلا، لأنها الأجزاء التي تتطلّب مساءلة. وكنّا لنحذر من أي مورّد يَعِد بأكثر من ذلك، بما في ذلك في مسألة عدد الموظفين.
ماذا لو خلقت خاصية ذكاء اصطناعي عملاً أكثر ممّا توفّر؟
أوقِفها. فبعض الخصائص تُولّد عمل مراجعة يتجاوز الوقت الذي وفّرته، واحتمالها هو كيف ينتهي البرنامج أبطأ بتسويق أفضل. ويستحق هذا مراجعة متعمَّدة بدل افتراض أن الخاصية تنفع لأنها موجودة.
اطرح علينا الأسئلة الثمانية
سنُجيب عنها تحديداً وكتابةً، ونقترح أن تُلزم كل مورّد بالمعيار ذاته.