الذكاء الاصطناعي الوكيل يفتح جبهة جديدة للأمن السيبراني والامتثال القانوني بدائل أقصر وأكثر قوة:
الذكاء الاصطناعي الوكيل يفرض تحديات قانونية وأمنية جديدة
يشهد الذكاء الاصطناعي تحولًا من أدوات تقتصر على الإجابة عن الأسئلة إلى أنظمة وكيلة قادرة على التخطيط واتخاذ القرارات وتنفيذ المهام بشكل مستقل والتفاعل مع الأنظمة وقواعد البيانات نيابةً عن المستخدمين. هذا التطور يفرض تحديات قانونية وأمنية جديدة على الشركات والمطورين.
وتخضع هذه الأنظمة، بحسب طبيعة استخدامها وموقعها والجهات المستفيدة منها، لعدد من الأطر التنظيمية في الاتحاد الأوروبي والمملكة المتحدة، أبرزها قانون الذكاء الاصطناعي الأوروبي، وقانون المرونة السيبرانية (CRA)، واللائحة العامة لحماية البيانات (GDPR)، وتوجيه NIS2.
أبرز المخاطر
تواجه أنظمة الذكاء الاصطناعي الوكيل مخاطر أمنية متقدمة، أبرزها حقن التعليمات، والصلاحيات المفرطة، وتصعيد الامتيازات عبر الأدوات المتصلة، ومحاولات التهرب من الرقابة، ما يزيد من احتمالية الوصول غير المصرح به أو تنفيذ إجراءات خارج نطاق المهمة المحددة.
المتطلبات التنظيمية
يفرض قانون الذكاء الاصطناعي الأوروبي متطلبات أمنية صارمة على الأنظمة عالية المخاطر، تشمل حماية البيانات، وتسجيل الأحداث، والقدرة على مقاومة الهجمات. كما تفرض القواعد الخاصة بنماذج الذكاء الاصطناعي العامة ذات المخاطر النظامية متطلبات إضافية تتعلق بالتقييم والاختبار والإبلاغ عن الحوادث والأمن السيبراني.
وفي الوقت نفسه، يعمل قانون المرونة السيبرانية بالتوازي مع قانون الذكاء الاصطناعي، مع بدء بعض التزامات الإبلاغ عن الثغرات في سبتمبر 2026 والوصول إلى الامتثال الكامل في ديسمبر 2027.
كيف تستعد الشركات؟
يتطلب الامتثال أن يكون الأمن جزءًا أساسيًا من تصميم بنية النظام، من خلال تحديد الأنظمة والبيانات التي يتعامل معها الوكيل، وتطبيق ضوابط دقيقة للوصول والصلاحيات، ووضع قيود خارجية تمنع تجاوز نطاق المهام، إلى جانب أنظمة للمراقبة والتدقيق وتسجيل أنشطة الوكيل.
ورغم وجود معايير وإرشادات فنية لدعم الامتثال، لا يزال هناك نقص في معيار دولي موحد يغطي جميع المتطلبات القانونية للذكاء الاصطناعي الوكيل، ما يجعل بيئة الامتثال في طور التطور المستمر.
الخلاصة: مع تزايد استقلالية أنظمة الذكاء الاصطناعي، لم يعد الأمن السيبراني والامتثال القانوني مرحلة لاحقة، بل أصبحا عنصرين أساسيين يجب دمجهما منذ تصميم النظام وتطويره.