بروكسل — (رياليست عربي). بدأت المفوضية الأوروبية تحقيقات مع شركتي «أوبن إيه آي» و«أنثروبيك» على خلفية حوادث تمكنت خلالها أنظمة ذكاء اصطناعي من الوصول دون تصريح إلى شبكات مؤسسات خارجية أثناء الاختبارات، في خطوة قد تحدد نطاق تطبيق قانون الذكاء الاصطناعي الأوروبي على النماذج التي لا تزال قيد التطوير.

وقالت نائبة رئيس المفوضية الأوروبية المسؤولة عن السيادة التكنولوجية، هينا فيركونن، خلال القمة الدولية للذكاء الاصطناعي في دبلن، الأربعاء 14 أكتوبر، إن مكتب الذكاء الاصطناعي التابع للمفوضية بدأ استخدام صلاحياته الرقابية، وأرسل طلبات رسمية للحصول على معلومات تتعلق بالأمن والتقييم الخارجي ومراقبة استخدام النماذج.

وتتعلق التحقيقات بحادثتين وقعتا خلال الصيف الماضي. ففي الأولى، خرج وكيل ذكاء اصطناعي تابع لشركة «أوبن إيه آي» من بيئة الاختبار المخصصة له وتمكن من اختراق أنظمة شركة «هاغينغ فيس» (Hugging Face)، التي توفر منصة عالمية لاستضافة نماذج الذكاء الاصطناعي ومجموعات البيانات.

أما الحادثة الثانية، فتتعلق بنموذج طورته شركة «أنثروبيك»، تمكن، وفق المعلومات المنشورة، من الوصول دون تصريح إلى أنظمة ثلاث مؤسسات خارجية.

وكانت الشركتان قد قدمتا وثائق طوعية بشأن الحادثتين، لكن مكتب الذكاء الاصطناعي الأوروبي اعتبر المعلومات غير كافية، وقرر طلب بيانات إضافية.

خلاف بشأن تطبيق القانون أثناء الاختبارات

يمتلك مكتب الذكاء الاصطناعي الأوروبي منذ أغسطس صلاحيات لإنفاذ الأحكام المتعلقة بنماذج الذكاء الاصطناعي المتقدمة، بما فيها متطلبات تقييم المخاطر واتخاذ إجراءات للحد منها.

غير أن التحقيقات الحالية تثير خلافاً قانونياً حول ما إذا كان القانون ينطبق على النماذج قبل طرحها في السوق الأوروبية.

وقال باري سكانيل، الشريك في مكتب المحاماة «ويليام فراي»، ليورونيوز إن قانون الذكاء الاصطناعي يستثني بصورة واضحة أنشطة البحث والتطوير والاختبار.

وأوضح أن المشرعين لم يتوقعوا حالات خروج الوكلاء الأذكياء عن نطاق بيئات الاختبار، معتبراً أن وصف مثل هذه الحوادث بأنها تشغيل فعلي للنموذج يمثل تفسيراً موسعاً للقانون.

في المقابل، تتبنى المفوضية الأوروبية تفسيراً يسمح لها بالتدخل عندما تتجاوز آثار النموذج بيئة الاختبار وتصل إلى مستخدمين أو مؤسسات داخل الاتحاد الأوروبي.

وقال مسؤول في المفوضية، طلب عدم الكشف عن هويته، إن السلطات لا تعتزم تطبيق القانون على الاختبارات بحد ذاتها، لكنها تستطيع التدخل إذا خرج النموذج من بيئة الاختبار وأحدث تأثيراً في السوق الأوروبية.

واستشهد المسؤول بحادثة «هاغينغ فيس»، نظراً إلى أن خدمات الشركة متاحة عالمياً ويستخدمها عملاء داخل الاتحاد الأوروبي.

وتشبه المفوضية هذه الحالات بخروج فيروس من مختبر، معتبرة أن حدوث ضرر خارج البيئة المغلقة قد يشير إلى قصور في تدابير احتواء المخاطر.

مخاوف من ضعف الرقابة على النماذج المتقدمة

واجتمعت فيركونن الأسبوع الماضي مع لجنة علمية استشارية تضم خبراء مستقلين لمناقشة التطورات التقنية المرتبطة بتزايد حوادث خروج أنظمة الذكاء الاصطناعي عن نطاق السيطرة أثناء الاختبارات.

وبحسب معلومات حصلت عليها يورونيوز، أعرب الخبراء عن قلقهم من أن بعض المختبرات الرائدة تواصل تطوير نماذج أكثر قدرة وتعقيداً دون تعزيز إجراءات الأمن السيبراني والسلامة بالوتيرة نفسها.

وأشاروا إلى احتمال عدم الإبلاغ عن جميع الحوادث، ما قد يحد من قدرة الجهات الرقابية على تقييم حجم المخاطر الفعلية.

كما ناقش الخبراء تحديات تتعلق بصعوبة التنبؤ بسلوك النماذج الأكثر تقدماً، واحتمال انحرافها عن الأهداف المحددة لها، فضلاً عن تراجع فاعلية بعض أدوات المراقبة والتقييم.

وتشمل المخاوف التي يطرحها بعض الباحثين احتمال أن تتطور قدرات الأنظمة ذاتياً بصورة تجعل التدخل البشري أكثر صعوبة. غير أن هذه السيناريوهات تظل موضع نقاش علمي، ولا تمثل نتائج مؤكدة.

اختبار مبكر لصلاحيات بروكسل

قد تشكل التحقيقات الحالية سابقة مهمة في تفسير قانون الذكاء الاصطناعي الأوروبي، خصوصاً بشأن مسؤولية الشركات عن الأضرار التي قد تسببها النماذج خلال مراحل التطوير والاختبار.

وفي حال استمرار الخلاف بشأن نطاق القانون، قد تواجه المفوضية الأوروبية نزاعاً قانونياً مع الشركات المطورة للنماذج المتقدمة حول حدود سلطتها الرقابية.

وأكدت فيركونن أن المفوضية تتمسك بمبدأ خضوع الذكاء الاصطناعي للتوجيه والإشراف والسيطرة البشرية.

وأضافت أن الاتحاد الأوروبي مستعد لاتخاذ الإجراءات اللازمة لضمان امتثال الشركات لمتطلبات القانون.