في 9 ثوان.. ذكاء اصطناعي يتسبب في كارثة بحذفه قاعدة بيانات كاملة

المعلومة/ متابعة..
في حادثة نادرة تكشف عن مخاطر الاعتماد غير المنضبط على أدوات الذكاء الاصطناعي، تسبب وكيل برمجي يعمل بتقنيات الذكاء الاصطناعي في حذف قاعدة بيانات إنتاجية بالكامل، بالإضافة إلى النسخ الاحتياطية المرتبطة بها، خلال ثوانٍ معدودة.
ووفقًا لما أعلنه جير كرين، مؤسس شركة PocketOS، فإن الحادثة وقعت أثناء إجراء صيانة روتينية في بيئة اختبارية، حيث قام النظام باتخاذ قرار تلقائي دون الرجوع للمستخدم، ما أدى إلى الحذف الكامل للبيانات.
الوكيل البرمجي الذي يعمل عبر منصة Cursor ويعتمد على نموذج Claude Opus 4.6 من شركة Anthropic، بدأ بالبحث داخل الشيفرة البرمجية للعثور على مفتاح API مخزن في ملف منفصل، واستخدمه لتنفيذ أمر عبر GraphQL، ما أسفر عن حذف وحدة التخزين المرتبطة مباشرة بقاعدة البيانات الإنتاجية.
العملية لم تستغرق أكثر من 9 ثوان ولكنها كانت كافية لإحداث ضرر ضخم وقد تفاقم الوضع بسبب تخزين النسخ الاحتياطية على نفس وحدة التخزين ما أدى إلى حذفها أيضاً ولم يتبق سوى نسخة احتياطية قديمة تعود إلى ثلاثة أشهر.
تبين لاحقاً أن مفتاح API كان يتمتع بصلاحيات واسعة جداً ما منح الوكيل القدرة على تنفيذ أوامر حساسة بدون أي قيود، كما أن غياب نظام دقيق لتقييد الأدوار أسهم في هذه الكارثة، وعند تحليل الحادث، أقر النظام بأنه اتخذ قرارات بناءً على افتراضات غير دقيقة، ولم يتحقق من تأثير الأوامر قبل تنفيذها، كما لم ينتظر أي تأكيد من المستخدم.
لحسن الحظ، ساهم تدخل فريق Railway بقيادة جيك كوبر في استعادة النظام بسرعة خلال ساعة واحدة فقط، مع إضافة آلية "حذف مؤجل" للحد من تكرار مثل هذه الحوادث في المستقبل.
تعكس هذه الواقعة المخاطر المتزايدة في استخدام وكلاء الذكاء الاصطناعي في بيئات حساسة إذ يمكن لقرار غير مقيد أن يؤدي إلى خسائر جسيمة في لحظات. ويرى الخبراء أن منح الأنظمة الذكية وصولًا غير محدود إلى أنظمة الإنتاج دون قيود صارمة أو آليات تحقق متعددة يشكل خطراً حقيقياً خاصة في ظل تسارع الاعتماد على الذكاء الاصطناعي في تطوير البرمجيات وإدارة البنية التحتية. انتهى 25