برامج حوكمة الذكاء الاصطناعي تساعد المؤسسات على إدارة السياسات والضوابط والتوثيق وتصنيف المخاطر وسير عمل المراجعة وأدلة التدقيق اللازمة لأنظمة الذكاء الاصطناعي. منصة النزاهة الذكية تدعم جرد أنظمة الذكاء الاصطناعي، وتصنيف المخاطر، وحوكمة النماذج، وسير عمل التدقيق، ومراجعة التوثيق، والامتثال التنظيمي للذكاء الاصطناعي.

تساعد منصة الامتثال للذكاء الاصطناعي الفرق على تنظيم أنظمة الذكاء الاصطناعي، وتصنيف المخاطر، وتوثيق الضوابط، وتعيين مهام المراجعة، وإعداد الأدلة للمراجعة الداخلية أو التنظيمية. يربط SIP وثائق الذكاء الاصطناعي من أدوات مثل Confluence و SharePoint مع سير عمل الحوكمة وإعداد التقارير الجاهزة للمراجعة.

تساعد برامج تدقيق الذكاء الاصطناعي المؤسسات على جمع وتنظيم ومراجعة الأدلة المتعلقة بأنظمة الذكاء الاصطناعي. تدعم SIP سير عمل التدقيق من خلال ربط وثائق المصدر ومعلومات النموذج واستبيانات المخاطر وخطوات المراجعة البشرية وسجلات الامتثال في منصة واحدة.

يساعد برنامج جرد الذكاء الاصطناعي المؤسسات على إنشاء قائمة بأنظمة الذكاء الاصطناعي المستخدمة عبر الأعمال والحفاظ عليها. يدعم SIP سير عمل جرد الذكاء الاصطناعي من خلال ربط الوثائق الموجودة، وتحديد تفاصيل النظام، ومساعدة الفرق على تتبع الغرض والملكية ومستوى المخاطر وحالة المراجعة.

يجب أن تحمل أنظمة الذكاء الاصطناعي عالية المخاطر علامة المطابقة الأوروبية (CE) للإشارة إلى امتثالها لهذا التنظيم حتى تتمكن من التحرك بحرية داخل السوق الداخلية. بالنسبة لأنظمة الذكاء الاصطناعي عالية المخاطر المضمنة في منتج، يجب وضع علامة CE مادية، ويمكن استكمالها بعلامة CE رقمية. بالنسبة لأنظمة الذكاء الاصطناعي عالية المخاطر المقدمة رقميًا فقط، يجب استخدام علامة CE رقمية. يجب ألا تنشئ الدول الأعضاء عقبات غير مبررة لوضع أنظمة الذكاء الاصطناعي عالية المخاطر التي تمتثل للمتطلبات المنصوص عليها في هذا التنظيم وتحمل علامة CE في السوق أو استخدامها. قبل البدء، يجب عليك تحديد ما إذا كان الذكاء الاصطناعي الخاص بك “عالي المخاطر”. فئات الملحق الثالث: تشمل الذكاء الاصطناعي للتوظيف (فحص السيرة الذاتية)، وتقييم الائتمان، والتعليم (الدرجات)، أو البنية التحتية الحيوية. منتجات الملحق الأول: إذا كان الذكاء الاصطناعي الخاص بك مكونًا للسلامة لمنتج يتطلب بالفعل علامة CE (مثل الأجهزة الطبية أو الآلات)، فهو تلقائيًا عالي المخاطر.

لاجتياز التقييم، يجب أن تثبت حوكمة الذكاء الاصطناعي الخاصة بك الامتثال في هذه المجالات:

1. نظام إدارة المخاطر (المادة 9): عملية مستمرة لتحديد المخاطر والتخفيف من حدتها.

2. حوكمة البيانات (المادة 10): إثبات أن بيانات التدريب/الاختبار الخاصة بك “ذات صلة وممثلة وخالية من الأخطاء”.”

3. الوثائق الفنية (المادة 11 والملحق الرابع): ملف ضخم (غالبًا ما يزيد عن 200 صفحة) يشرح بالتفصيل البنية والخوارزميات واستهلاك الطاقة.

4. الرقابة البشرية (المادة 14): تصميم واجهة المستخدم بحيث يمكن للإنسان “إيقاف” أو تجاوز الذكاء الاصطناعي في أي وقت.

تعتمد كيفية الحصول على العلامة على حالة الاستخدام المحددة للذكاء الاصطناعي الخاص بك: الرقابة الداخلية (التقييم الذاتي): بالنسبة لمعظم أنظمة الملحق الثالث (مثل الموارد البشرية أو أدوات الائتمان)، يمكنك إجراء التقييم بنفسك - شريطة أن تتبع “المعايير المنسقة” (مثل ISO 42001).

تقييم الطرف الثالث (جهة معتمدة): إلزامي لتحديد الهوية البيومترية أو إذا كنت لا تتبع المعايير المنسقة. يجب عليك الاستعانة بـ “هيئة معتمدة من الاتحاد الأوروبي” للتدقيق في تقنيتك.

إعداد “إعلان المطابقة الخاص بالاتحاد الأوروبي”بمجرد إثبات الامتثال، تقوم بالتوقيع على مستند قانوني رسمي (إعلان المطابقة) ينص على أن نظامك يفي بجميع قوانين قانون الذكاء الاصطناعي وقوانين الاتحاد الأوروبي الأخرى ذات الصلة (مثل قانون المرونة الإلكترونية). أنت تتحمل المسؤولية القانونية الكاملة بهذا التوقيع.

وضع علامة CE (المادة 48) المنتجات الرقمية: بالنسبة للبرمجيات كخدمة SaaS، يجب أن تكون علامة CE مرئية في الواجهة الرقمية (على سبيل المثال، على شاشة تسجيل الدخول أو قسم “حول”).

المنتجات المادية: إذا كانت مدمجة في الأجهزة، فيجب أن تكون على المنتج أو العبوة.

رقم الهوية: إذا كانت الجهة المبلغة معنية، يجب أن يظهر رقم هويتها المكون من 4 أرقام بجوار شعار CE.

التسجيل في قاعدة بيانات الاتحاد الأوروبي قبل بدء تشغيل الذكاء الاصطناعي “مباشرةً”، يجب عليك تسجيل مقدم الخدمة والنظام في قاعدة بيانات الاتحاد الأوروبي الرسمية لأنظمة الذكاء الاصطناعي عالية المخاطر.

1. 2 أغسطس 2026: هذا هو “الموعد النهائي الصعب”. بعد هذا التاريخ، يجب أن يكون أي نظام ذكاء اصطناعي جديد عالي الخطورة مطروح في السوق حاصل على علامة CE.

2. اختناق “الجهة المبلغة”: إذا كنت بحاجة إلى تدقيق من طرف ثالث، فابدأ الآن. فاعتبارًا من أوائل عام 2026، تجاوزت فترات الانتظار 12 شهرًا بسبب نقص المدققين المعتمدين.

من الناحية القانونية، تُعد حوكمة الذكاء الاصطناعي بموجب قانون الذكاء الاصطناعي نظامًا إلزاميًا من الضوابط الداخلية والمساءلة المصممة لضمان أن يكون الذكاء الاصطناعي آمنًا وشفافًا ومتوافقًا طوال دورة حياته بأكملها. وهو يحول الرقابة على الذكاء الاصطناعي من المبادئ التوجيهية الأخلاقية الطوعية إلى إطار عمل “سلامة المنتج” الملزم، مما يتطلب من المؤسسات الحفاظ على إدارة صارمة للمخاطر ومعايير جودة البيانات والإشراف البشري. وبالنسبة للأنظمة “عالية المخاطر”، فإن هذه الحوكمة هي الشرط القانوني المسبق للحصول على علامة CE، والتي تتضمن مسارات تدقيق دائمة ووثائق فنية لإثبات المواءمة التنظيمية. وفي نهاية المطاف، فهي بمثابة “نظام التشغيل” التشغيلي الذي يربط بين مسؤولية الشركات والشفافية التقنية لمنع الضرر الخوارزمي والعقوبات المالية الهائلة.

يُعد قانون الاتحاد الأوروبي للذكاء الاصطناعي واللائحة العامة لحماية البيانات (GDPR) إطارين متوازيين: ففي حين تحمي اللائحة العامة لحماية البيانات خصوصية البيانات الشخصية، يعمل قانون الذكاء الاصطناعي كقانون لسلامة المنتجات فيما يتعلق بالأنظمة نفسها. ويتداخل هذان الإطاران بشكل كبير في المجالات عالية المخاطر مثل اتخاذ القرارات الآلية، حيث يتعين على الشركات في كثير من الأحيان إجراء كل من “تقييم أثر حماية البيانات” (DPIA) و“تقييم أثر الحقوق الأساسية” (FRIA). والأهم من ذلك، أن قانون الذكاء الاصطناعي يتضمن "استثناءً" محددًا يسمح بمعالجة البيانات الحساسة للكشف عن التحيز الخوارزمي وتصحيحه، وهو ما يُحظر بموجب اللائحة العامة لحماية البيانات (GDPR). الامتثال ليس "إما هذا أو ذاك" — لتجنب الغرامات التي قد تصل إلى 71% من حجم الأعمال في عام 2026، يجب على المؤسسات التأكد من أن حوكمة الذكاء الاصطناعي لديها تفي بمجموعتي اللوائح في آن واحد.

وبموجب قانون الذكاء الاصطناعي، يجب تصميم روبوتات الدردشة الآلية لإبلاغ المستخدمين على الفور بأنهم يتفاعلون مع ذكاء اصطناعي، مما يضمن الشفافية منذ التفاعل الأول. إذا أنشأ النظام نصاً أو صوراً أو صوتاً اصطناعياً، فيجب وضع علامة على هذا المحتوى بتنسيق يمكن قراءته آلياً ليظل قابلاً للاكتشاف على أنه من إنتاج الذكاء الاصطناعي. بالإضافة إلى ذلك، إذا كان روبوت الدردشة الآلي الخاص بك يستخدم التعرف على المشاعر لضبط استجاباته بناءً على مزاج المستخدم، فيجب الكشف عن هذه الإمكانية المحددة بوضوح. يمكن أن يؤدي عدم الوفاء بمعايير الشفافية هذه بحلول الموعد النهائي في أغسطس 2026 إلى فرض غرامات كبيرة تصل إلى 15 مليون يورو أو 31 تيرابايت من حجم المبيعات العالمية.

ينشئ قانون الاتحاد الأوروبي للذكاء الاصطناعي هيكلاً متدرجًا للغرامات، حيث يمكن أن تصل أشد الانتهاكات التي تنطوي على ممارسات الذكاء الاصطناعي المحظورة إلى 35 مليون يورو أو 71 تيرابايت من حجم المبيعات السنوية العالمية. في حالة عدم الامتثال لالتزامات “عالية المخاطر” أو قواعد الشفافية، تواجه الشركات عقوبات تصل إلى 15 مليون يورو أو 31 تيرابايت من حجم المبيعات، في حين أن تقديم معلومات مضللة للجهات التنظيمية يمكن أن يكلف ما يصل إلى 7.5 مليون يورو. ولحماية الابتكار، يطبق القانون مبدأ “أيهما أقل” على الشركات الصغيرة والمتوسطة والشركات الناشئة، مما يضمن أن تكون الغرامات متناسبة مع حجم الأعمال.

تسأل الشركات خارج الاتحاد الأوروبي عما إذا كانت تتأثر ببساطة لأن إنتاجها يستخدمه شخص ما داخل الاتحاد الأوروبي (الإجابة دائمًا ما تكون نعم).

قائمة جرد أنظمة الذكاء الاصطناعي هي سجل منظم لأنظمة الذكاء الاصطناعي والنماذج وحالات الاستخدام والمالكين والتوثيق ومستويات المخاطر وحالة الامتثال. تساعد المؤسسات على فهم أين يتم استخدام الذكاء الاصطناعي والأنظمة التي قد تتطلب مزيدًا من المراجعة أو الضوابط أو التوثيق.

تصنيف مخاطر الذكاء الاصطناعي هو عملية تصنيف أنظمة الذكاء الاصطناعي حسب مستوى المخاطر بناءً على غرضها، حالة الاستخدام، التأثير، والمتطلبات التنظيمية. يدعم SIP سير عمل تصنيف مخاطر الذكاء الاصطناعي للأنظمة المحظورة، وعالية المخاطر، ومحدودة المخاطر، وذات المخاطر الدنيا.

يدعم برنامج الامتثال للذكاء الاصطناعي تدفقات عمل قانون الذكاء الاصطناعي للاتحاد الأوروبي من خلال مساعدة الفرق في تصنيف أنظمة الذكاء الاصطناعي، وتوثيق ضوابط المخاطر، وإدارة أدلة الإشراف البشري، وإعداد الوثائق الفنية، وتنظيم سجلات التدقيق، ومراجعة متطلبات أنظمة الذكاء الاصطناعي عالية المخاطر.

تساعد أدوات حوكمة الذكاء الاصطناعي في حوكمة النماذج من خلال مساعدة الفرق في توثيق الغرض من النموذج، ومصادر البيانات، والضوابط التقنية، وتقييمات المخاطر، والملكية، والموافقات، واحتياجات المراقبة، وقرارات المراجعة. يربط SIP هذه السجلات بسير العمل الأوسع للامتثال.

إدارة مخاطر النماذج لأنظمة الذكاء الاصطناعي تعني تحديد وتقييم ومراقبة المخاطر التي قد تنشأ من تصميم نماذج الذكاء الاصطناعي، جودة البيانات، النشر، التحيز، الأداء، أو سوء الاستخدام. يدعم SIP إدارة مخاطر النماذج من خلال استبيانات المخاطر، مراجعة الوثائق، وسير عمل المهام.