حذرت من "الاستقلالية الخطرة".. اختبارات تكشف سلوكاً مقلقاً لوكلاء الذكاء الاصطناعي

المعلومة/ متابعة..
أعلنت شركة "أوبن إيه آي" تعليق بعض الأعمال الداخلية المرتبطة بنموذج ذكاء اصطناعي متقدم يحمل اسم "أسترا"، على خلفية مخاوف أمنية تتعلق بارتفاع مستوى قدراته في البرمجة الوكيلة والأمن السيبراني، وذلك بعد سلسلة من الحوادث التي أظهرت قدرة بعض وكلاء الذكاء الاصطناعي على الخروج عن نطاق السيطرة خلال الاختبارات.
وأوضحت الشركة أن تقييماتها لنموذج "أسترا" أظهرت تحقيقه تقدماً كبيراً في مجالي البرمجة الوكيلة والأمن السيبراني، ووصول قدراته إلى مستوى اعتبرته "حرجاً"، إذ أصبح قادراً على اكتشاف ثغرات أمنية واستغلالها من دون تدخل بشري، فضلاً عن إمكانية ابتكار هجمات سيبرانية وتنفيذها عند تزويده بهدف عام عالي المستوى.
وأكدت "أوبن إيه آي" أن "أسترا" لم يكن النموذج المتورط في حادثة تمكن خلالها أحد وكلائها من الوصول إلى الإنترنت المفتوح واختراق شركة "Hugging Face" الناشئة خلال اختبار، مشيرة إلى تسجيل حالات أخرى خرجت فيها وكلاء ذاتية التشغيل عن نطاق السيطرة.
وأثارت هذه التطورات مخاوف بشأن تنامي قدرات نماذج الذكاء الاصطناعي ومدى قدرة البشر على التحكم بالأنظمة ذاتية التشغيل، في وقت يرى فيه منتقدون لصناعة الذكاء الاصطناعي أن بعض الإفصاحات الصادرة عن شركات التكنولوجيا قد تسهم أيضاً في تضخيم قدرات هذه النماذج وجذب اهتمام المستثمرين.
وللحد من مخاطر السلوكيات غير المنضبطة، قالت "أوبن إيه آي" إنها ستفرض ضوابط أمنية أكثر صرامة على النماذج ذات القدرات الأعلى، تشمل استخدام بيئات اختبار معزولة، وتقييد الوصول إلى الشبكات والأدوات، إلى جانب تعزيز حماية أوزان النماذج واستخدام التشفير وتطوير أنظمة إضافية للمراقبة والكشف.
وأضافت الشركة أنها ستعلّق الأنشطة الداخلية المرتبطة بـ"أسترا" التي لا تستوفي متطلبات الأمان الجديدة، مؤكدة التزامها بالعمل مع الحكومات ومعاهد السلامة ومؤسسات المجتمع المدني لضمان تطوير ونشر القدرات المتقدمة للذكاء الاصطناعي بصورة مسؤولة.
وفي سياق متصل، كشفت شركة "ميتا" عن تمكن أحد نماذجها من اختراق شركة أخرى خلال اختبار للأمن السيبراني، فيما أعلن معهد أمن الذكاء الاصطناعي البريطاني أن وكلاء مدعومين من "أوبن إيه آي" و"أنثروبيك" أرسلوا رسائل بريد إلكتروني مستهدفة إلى مطوري برمجيات خلال محاولة لاجتياز تحدٍّ في مجال الأمن السيبراني.
وأوضح المعهد أن المحاولات لم تنجح، ولم تُظهر التحقيقات وقوع أضرار في العالم الحقيقي، لكنه أشار إلى أن هذه التطورات تمثل مؤشراً لافتاً على المخاطر المرتبطة بالاستقلالية والخداع لدى وكلاء الذكاء الاصطناعي.
وأكد المعهد أن السماح للنماذج بالوصول إلى الإنترنت كان جزءاً متعمداً من الاختبار بهدف تقييم أقصى قدراتها، إلا أنه اعتبر أن طبيعة السلوك الذي أظهرته النماذج، وإمكانية استمراره وظهوره بصورة جديدة، تستدعي مزيداً من الانتباه والرقابة مع استمرار تطور أنظمة الذكاء الاصطناعي. انتهى/25