خطأ بشري وراء اختراق ذكاء اصطناعي لـ"Hugging Face"
المعلومة/ متابعة..
أرجع خبراء في الأمن السيبراني حادثة الاختراق التي نفذها أحد نماذج الذكاء الاصطناعي التابعة لشركة "OpenAI" ضد منصة Hugging Face إلى خطأ بشري في إعداد بيئة الاختبار، مؤكدين أن السبب لم يكن امتلاك النموذج قدرات خارقة، بل وجود ثغرات في تصميم منظومة الاحتواء الأمني.
وكانت "OpenAI" قد أعلنت، الثلاثاء، أن أحد نماذجها نجح خلال اختبار أمني في تنفيذ أول هجوم إلكتروني يعتمد بالكامل على الذكاء الاصطناعي، بعد تمكنه من اختراق أنظمة منصة Hugging Face داخل بيئة اختبار معزولة، ما أثار مخاوف بشأن المخاطر الأمنية للنماذج المتقدمة.
إلا أن خبراء أوضحوا أن بيئة الاختبار، التي وصفتها الشركة بأنها "صندوق رملي" (Sandbox)، لم تكن معزولة بالكامل عن الإنترنت، وهو ما أتاح للنموذج استغلال ثغرة أمنية غير معروفة سابقاً (Zero-Day) في نظام تثبيت الحزم، والخروج من البيئة المخصصة للاختبار قبل الوصول إلى أنظمة خارجية.
ووصف دان غويدو، مؤسس شركة Trail of Bits المتخصصة في الأمن السيبراني، ما حدث بأنه "فشل في احتواء النموذج مع تعطيل وسائل الحماية الأساسية"، مشيراً إلى أن المشكلة تكمن في آلية العزل وليس في قدرات النموذج وحدها.
وأوضحت "OpenAI" أن بيئة الاختبار كانت تسمح للنموذج بالاتصال بخدمة داخلية مخصصة لتنزيل حزم البرمجيات، إلا أن استغلال الثغرة الأمنية مكّنه من تجاوز القيود الأمنية. وأضافت أنها أبلغت الجهة المطورة للبرنامج بالثغرة وفق آليات الإفصاح المسؤول، وتعمل معها على إصدار تحديث لمعالجتها.
من جانبهم، أكد خبراء أمن سيبراني أن وجود الثغرات في البرمجيات أمر متوقع، لكن الخطأ الحقيقي كان في السماح لأي مكوّن داخل بيئة الاختبار بالاتصال بمسار يمكنه الوصول إلى الإنترنت.
وقال الباحث الأمني مارتن بون إن الصندوق الرملي الحقيقي يجب أن يكون معزولاً بالكامل، مشيراً إلى أن الاعتماد على جدار حماية وحده لا يوفر الحماية الكافية عند اختبار نماذج ذكاء اصطناعي متقدمة قادرة على اكتشاف نقاط الضعف واستغلالها.
واتفق الخبير الأمني جيك ويليامز مع هذا التقييم، معتبراً أن ما حدث يعكس قصوراً في الضوابط الأمنية، وأضاف أن "المشكلة لم تكن في هروب النموذج، بل في أن بيئة الاحتواء لم تُصمم بالشكل الصحيح منذ البداية".
كما انتقد المستشار الأمني دانيال كارد تصميم بيئة الاختبار، معتبراً أن السماح بأي اتصال شبكي، حتى وإن كان محدوداً، لا يُعد ممارسة أمنية سليمة عند اختبار نماذج تمتلك قدرات هجومية محتملة.
وفي سياق متصل، أشارت تقارير إلى أن المخاوف لا تقتصر على "OpenAI"، إذ كشفت شركة "أنثروبيك" في وقت سابق أن أحد نماذجها تمكن خلال اختبار أمني من تجاوز بعض القيود والوصول إلى الإنترنت من نظام كان يفترض أن يتصل بعدد محدود من الخدمات، دون أن يتمكن من مغادرة بيئة الاحتواء بالكامل.
وتسلط هذه الحوادث الضوء على التحديات المتزايدة التي تواجه مختبرات الذكاء الاصطناعي في تصميم بيئات اختبار معزولة بصورة كاملة، مع تطور قدرات النماذج على اكتشاف الثغرات واستغلالها بطرق أكثر تعقيداً.انتهى 25
