جيميناي يخترق أنظمة 3 شركات خلال اختبار للأمن السيبراني

المعلومة/ متابعة...

تمكن نموذج الذكاء الاصطناعي «جيميناي» التابع لشركة غوغل، من الوصول إلى الإنترنت واختراق أنظمة محمية تابعة لثلاث شركات خلال اختبار لقدراته في مجال الأمن السيبراني، في واقعة تعد الأولى المعروفة التي تنفذ فيها أنظمة الذكاء الاصطناعي التابعة للشركة مثل هذه العمليات بصورة مستقلة.

وقالت نائبة رئيس غوغل لهندسة الأمن، هيذر أدكينز، إن عمليات الاختراق وقعت في أيار الماضي خلال اختبار للأمن السيبراني أجرته شركة «إيريغولار» المتخصصة في تقييمات الأمن السيبراني.

وأضافت أن نموذج جيميناي تمكن خلال الاختبار من العثور على معلومات متاحة للعامة عبر الإنترنت، قبل أن يخمّن بيانات اعتماد للدخول إلى ثلاثة مواقع إلكترونية اعتقد أنها تقع ضمن نطاق الاختبار.

وأوضحت أن النموذج تمكن في إحدى الحالات من تخمين كلمة المرور والوصول إلى نظام محمي، فيما عثر في الحالتين الأخريين على بيانات اعتماد مكنته من الوصول إلى أنظمة محمية.

وأشارت أدكينز إلى أن النموذج توقف عن تنفيذ عمليات الاختراق في الحالات الثلاث، مبينة أن غوغل أبلغت الجهات المعنية بالوقائع، وعملت مع شريكها في التدريب على التغييرات التي أدخلت على عمليات الاختبار.

وأكدت أن هذه الحوادث تسلط الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة، خصوصا مع اتساع قدرتها على الوصول إلى الإنترنت وأنظمة الحاسوب.

من جهتها، قالت شركة «إيريغولار» إن الواقعة تتعلق بمشكلة مماثلة ظهرت في مختبرات أخرى للذكاء الاصطناعي، مبينة أنه جرى إخطار المختبرات المعنية بالوقائع في أواخر تموز الماضي.

وكشفت شركات «ميتا» و«أنثروبيك» و«أوبن إيه آي» عن وقائع مماثلة مرتبطة باختبارات «إيريغولار»، فيما قالت «ميتا» إن إحدى الوقائع لم تتضمن اختراقًا لبيئة معزولة أو هجومًا سيبرانيًا متطورًا.

وتثير هذه الوقائع تساؤلات بشأن الضمانات المطلوبة مع تزايد استقلالية وكلاء الذكاء الاصطناعي واتساع قدرتهم على الوصول إلى الإنترنت وأنظمة الحاسوب.انتهى/25