واشنطن — (رياليست عربي). دعا رئيس مجلس الإدارة والرئيس التنفيذي لشركة مايكروسوفت، ساتيا ناديلا، إلى تطوير أنظمة الذكاء الاصطناعي المتقدمة وفق معايير أمان أكثر صرامة، تشمل آليات للاحتواء والرقابة المستقلة وإمكانية إيقاف النماذج فوراً أثناء تنفيذ المهام
وقال ناديلا، في مقال نشره السبت 10 أكتوبر على منصة «إكس»، إن أنظمة الذكاء الاصطناعي التي تتسم نتائجها بعدم القدرة على التنبؤ الكامل يجب أن تعمل ضمن بنية تقنية واضحة القواعد، مدعومة بضوابط بشرية وإجراءات تشغيل موثوقة.
وأضاف أن القطاع يحتاج إلى وضع معايير صناعية جديدة في المجالات التي لا توفر فيها القواعد الحالية ضمانات كافية للسلامة.
واقترح التعامل مع النماذج المتقدمة، سواء كانت مغلقة أو متاحة الأوزان، باعتبارها مصادر محتملة للمخاطر الداخلية، بما يستلزم فرض قيود على صلاحياتها وقدرتها على الوصول إلى الأنظمة والبيانات.
وحدد ناديلا ستة مبادئ أساسية لتصميم أنظمة ذكاء اصطناعي أكثر قابلية للرقابة، تشمل تنوع النماذج، وتوثيق الإجراءات التي تنفذها بصورة مفهومة للبشر، والاختبار المستمر، والضوابط المستقلة وإمكانية التدقيق، والاحتواء، والإبلاغ عن الحوادث.
وشدد على ضرورة وجود آلية «إيقاف طارئ» تسمح للأشخاص المخولين بتعليق عمل النموذج أو إيقافه أثناء تنفيذ مهمة، بدلاً من انتظار انتهاء العملية للتدخل.
وتأتي تصريحات رئيس مايكروسوفت وسط نقاش متصاعد داخل قطاع التكنولوجيا بشأن المخاطر المحتملة للذكاء الاصطناعي المتقدم وسرعة تطوير قدراته مقارنة بإجراءات السلامة والرقابة.
وكان عدد من أبرز المسؤولين في شركات التكنولوجيا، بينهم المؤسس المشارك لمايكروسوفت بيل غيتس، والرئيس التنفيذي لشركة أنثروبيك داريو أمودي، والرئيس التنفيذي لشركة أوبن إيه آي سام ألتمان، وإيلون ماسك، قد حذروا بدرجات متفاوتة من المخاطر المرتبطة بتطور هذه الأنظمة.
وفي سبتمبر الماضي، استقال باحث في شركة أنثروبيك منتقداً سياسات السلامة لدى الشركة ومنافستها أوبن إيه آي، بينما حذر مسؤول آخر مختص بمواءمة أنظمة الذكاء الاصطناعي من احتمال وقوع عواقب كارثية خلال العقد المقبل.
وتعكس هذه التصريحات تقديرات ومخاوف بعض الباحثين، ولا تمثل إجماعاً علمياً بشأن احتمالات تحقق مثل هذه السيناريوهات.
في المقابل، قلل الرئيس الأمريكي دونالد ترامب مراراً من أهمية التحذيرات المتعلقة بالمخاطر الوجودية للذكاء الاصطناعي، مع التركيز على ضرورة الحفاظ على التفوق التكنولوجي الأمريكي في المنافسة مع الصين.
وأعلنت إدارته مؤخراً تشكيل قوة جديدة للذكاء الاصطناعي بقيادة مدير الاستخبارات الوطنية جاي كلايتون، بهدف دعم تطوير القطاع والتعامل مع الجهات التي قد تسيء استخدام التكنولوجيا.
واختتم ناديلا مقاله بالتأكيد أن موثوقية أنظمة الذكاء الاصطناعي المستقبلية لن تعتمد فقط على الثقة في قدرات النماذج نفسها، بل على قوة الأنظمة المصممة لمراقبتها والتحكم فيها.
وقال إن نظام الذكاء الاصطناعي الفائق الأكثر جدارة بالثقة لن يكون بالضرورة ذلك الذي نثق بنموذجه أكثر من غيره، بل النظام الذي يسمح لنا بالاعتماد بأقل قدر ممكن على الثقة بالنموذج ذاته.
