"أوبن أيه آي" تشدد إجراءاتها الأمنية بعد قدرات مقلقة لنموذج ذكاء اصطناعي جديد

المعلومة/ متابعة..
أعلنت شركة OpenAI تشديد إجراءات الحماية المرتبطة بتطوير نموذج ذكاء اصطناعي جديد بعد أن أظهرت التقييمات الداخلية تقدماً ملحوظاً في مجالي البرمجة الوكيلة والأمن السيبراني وسط مخاوف من ارتفاع مستوى قدراته إلى حدود تتطلب ضوابط أمنية إضافية
وقالت الشركة إن النموذج الذي لا يزال قيد التطوير أظهر أداءً قوياً في مهام الأمن السيبراني مشيرة إلى أن التقييمات الأولية لم تستبعد إمكانية وصوله إلى مستوى متقدم من القدرات التي قد تسمح بتنفيذ مهام إلكترونية معقدة بصورة شبه مستقلة
وبموجب إطار الاستعداد الذي تعتمده OpenAI فإن وصول أحد النماذج إلى مستويات مرتفعة من القدرات السيبرانية يستدعي تطبيق إجراءات حماية إضافية تشمل تقييد الوصول إلى الشبكات والأدوات واستخدام بيئات اختبار معزولة وتعزيز حماية أوزان النماذج وتوسيع أنظمة المراقبة والكشف عن الأنشطة عالية الخطورة
وأوضحت الشركة أن بعض الأنشطة المرتبطة بتطوير النموذج أوقفت مؤقتاً عندما لم تستوف متطلبات الضوابط الأمنية الجديدة مؤكدة أنها تعمل على تعزيز آليات مراقبة النماذج ورصد الإجراءات الخطرة خلال عمليات التدريب والتقييم
وتأتي هذه التطورات في وقت تشهد فيه نماذج الذكاء الاصطناعي تقدماً سريعاً في تنفيذ المهام البرمجية والأمنية حيث أصبحت قادرة على التعامل مع عمليات أكثر تعقيداً وبدرجة متزايدة من الاستقلالية
وترى OpenAI أن هذه القدرات يمكن أن توفر فوائد كبيرة في مجال الدفاع السيبراني واكتشاف الثغرات ومعالجتها لكنها في الوقت نفسه قد تفرض مخاطر جديدة إذا استخدمت في تنفيذ هجمات إلكترونية
وأكدت الشركة أن بلوغ مستويات متقدمة في تقييمات الأمن السيبراني لا يعني بالضرورة أن النموذج قادر على تنفيذ جميع أنواع الهجمات في العالم الحقيقي لكنه يشير إلى ارتفاع مستوى قدراته بما يكفي لفرض ضوابط أمنية مشددة خلال مرحلة التطوير نفسها
وتواصل OpenAI إجراء اختبارات وتقييمات للنموذج بالتعاون مع جهات متخصصة في سلامة الذكاء الاصطناعي والأمن السيبراني بهدف تحديد قدراته ومخاطره ووضع إجراءات مناسبة قبل إتاحته للاستخدام على نطاق أوسع. انتهى 25