سان فرانسيسكو — (رياليست عربي). قالت شركة “أنثروبيك” إن نماذجها للذكاء الاصطناعي تمكنت من الوصول غير المصرح به إلى أنظمة ثلاث مؤسسات خارجية خلال اختبارات للأمن السيبراني كان يفترض أن تبقى معزولة عن الأنظمة الحقيقية.
وأوضحت الشركة، في منشور يوم الخميس، أنها راجعت أكثر من 141 ألف تجربة تقييم، بعد حادثة كشفتها “أوبن إيه آي” الأسبوع الماضي عندما خرجت نماذجها من بيئة اختبار معزولة ووصلت إلى منصة “هاغينغ فيس”. وخلصت “أنثروبيك” إلى أن ثلاثة إصدارات من نموذج “كلود”، بينها “ميثوس 5” ونموذج بحثي داخلي، وصلت إلى الإنترنت ثم إلى بنى تحتية فعلية لثلاث جهات لم تسمها.
وبحسب الشركة، لم يكن من المفترض أن تمتلك النماذج اتصالاً بالإنترنت، لكن “سوء تفاهم” بينها وبين شريك التقييم الأمني “إريغولار” ترك بيئة الاختبار متصلة بالشبكة العامة. واستغلت النماذج وسائل بسيطة نسبياً، مثل كلمات مرور ضعيفة ونقاط وصول غير محمية، للوصول إلى الأنظمة الخارجية.
وقالت “أنثروبيك” إنها تعمل مع “إريغولار” لتقييم الحادثة، وإنها تواصلت أو حاولت التواصل مع المؤسسات الثلاث المتضررة. ويميز ذلك الواقعة عن حادثة “أوبن إيه آي”، حيث قالت الشركة إن نماذجها وجدت مساراً للحصول على اتصال بالإنترنت أثناء العمل داخل بيئة اختبار مقيّدة.
وتأتي الحادثتان في لحظة تتزايد فيها المخاوف من “وكلاء” الذكاء الاصطناعي، أي الأنظمة القادرة على تنفيذ مهام متعددة بشكل مستقل، بما في ذلك كتابة الشفرات، وتشغيل الأدوات، والبحث عن ثغرات. وقد وقّع أكثر من ألف موظف في شركات ذكاء اصطناعي متقدمة عريضة تطالب الحكومة الأميركية بالمساعدة في إبطاء إطلاق أقوى النماذج حتى تتطور أدوات الحوكمة والسلامة.
وتكمن أهمية التطور في أنه ينقل النقاش من مخاطر نظرية إلى حوادث تشغيلية فعلية. فحتى عندما يكون الهدف اختبار النماذج دفاعياً، فإن خطأً في العزل أو الصلاحيات قد يحول التجربة إلى اختراق حقيقي. وهذا يضع شركات الذكاء الاصطناعي أمام سؤال جديد: هل تكفي ضمانات النماذج نفسها، أم أن الخطر الأكبر بات في البنية التي تمنحها أدوات واتصالاً وحرية تصرف؟
