"أوبن أيه آي" تشدد إجراءات الأمن والسلامة بعد حادثة Hugging Face
المعلومة/ متابعة..
أعلنت شركة OpenAI مجموعة جديدة من سياسات وإجراءات الأمن والسلامة تهدف إلى احتواء الحوادث الأمنية أثناء اختبار نماذج الذكاء الاصطناعي، وذلك بعد أسابيع من حادثة Hugging Face التي كشفت عن ثغرات في بيئة تطوير واختبار النماذج.
وتشمل الإجراءات الجديدة مراقبة أكثر تفصيلًا لسلوك النماذج خلال مراحل التطوير، إلى جانب تعزيز التركيز على مواءمة النماذج وأمنها خلال مرحلة ما بعد التدريب. وقالت "OpenAI" في منشور عبر مدونتها: "كلما أصبحت النماذج أكثر قدرة، زادت المخاطر المرتبطة بتطويرها واختبارها داخليًا"، مضيفة أن معايير الشركة الخاصة بالمراقبة والمواءمة والأمن يجب أن تظل متقدمة على هذه المخاطر.
وتعد هذه الإجراءات من أبرز التغييرات العلنية التي تجريها "OpenAI" في ممارسات السلامة الخاصة بها منذ تداعيات حادثة Hugging Face التي كشفت عنها الشركة في 21 يوليو الماضي، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".
أوضح ممثلو "OpenAI" أن الإجراءات الجديدة ليست استجابة مباشرة لحادثة Hugging Face، لكنها جاءت جزئيًا نتيجة القدرات المتقدمة في مجال الأمن السيبراني لنموذج Astra المرتقب، إلى جانب السرعة المتزايدة التي يتطور بها قطاع الذكاء الاصطناعي.
وكشفت الشركة في المنشور نفسه أنها أوقفت عمليات التعلم المعزز (RL) لمدة أسبوعين عقب حادثة Hugging Face، قبل أن تستأنف تدريب العديد من النماذج الأقل خطورة.
لكن أكبر عملية مخطط لها لتدريب نموذج متقدم باستخدام التعلم المعزز لا تزال متوقفة، إلى حين الانتهاء من تدريبات أصغر نطاقًا واختبارات تهدف إلى تقييم سلوك النموذج، والتحقق من فعالية إجراءات الحماية، وجمع أدلة إضافية على مدى مواءمة النموذج قبل استئناف العملية الأكبر. وخلال حديثها مع الصحفيين، أكدت أميليا جليز، نائبة رئيس قسم الأبحاث في "OpenAI"، أن مستوى صرامة إجراءات الرقابة سيرتفع بالتوازي مع زيادة قدرات النماذج، بحيث تخضع النماذج الأكثر تقدمًا لأكبر قدر من التدقيق.
وقالت إن الشركة وضعت متطلبات وتوقعات واضحة لضمان التطوير الآمن، مشيرة إلى أن هذه المتطلبات تختلف وفقًا لمستوى المخاطر المرتبط بكل نموذج. وتعرضت "OpenAI" لانتقادات بسبب ممارساتها المتعلقة بأمن الشبكات في أعقاب حادثة Hugging Face، التي شهدت خروج نماذج من بيئة التدريب بعد اختراق أداة داخل شبكة الشركة كانت تتمتع بإمكانية الوصول إلى الإنترنت.
وتتضمن الإجراءات الجديدة تعزيز ممارسات عزل الشبكات، وإن لم تكشف "OpenAI" حتى الآن عن التفاصيل التقنية الكاملة للنظام الجديد. وتقول الشركة إن النظام مصمم بحيث لا يؤدي اختراق أحد أعباء العمل أو الخدمات الداعمة بمفرده إلى منح المهاجمين وصولًا غير مصرح به إلى الإنترنت أو إلى شبكات داخلية أخرى.
ويهدف هذا النهج إلى منع وقوع حادث أمني واحد من التحول إلى نقطة دخول تتيح الوصول إلى أجزاء أخرى من البنية التحتية الخاصة بتطوير النماذج. أما أقوى إجراءات الحماية الجديدة، فتتمثل في نظام مراقبة متقدم يفحص مجموعة واسعة من الأنشطة بحثًا عن سلوك غير مصرح به. وسيعمل النظام على مراقبة إجراءات الأدوات التي تستخدمها النماذج، وآثار الاستدلال المتاحة، وسجلات النشاط، بهدف اكتشاف الأنماط التي قد تشير إلى نشاط مقلق أو محاولة تجاوز القيود الأمنية.
وتقول "OpenAI" إنها تستهدف إصدار تنبيهات خلال 30 دقيقة من اكتشاف نشاط يثير المخاوف. لكن تعزيز المراقبة يأتي بتكلفة حوسبية كبيرة؛ إذ تقدر "OpenAI" أن تشغيل نظام المراقبة سيحتاج إلى موارد حوسبة تعادل نحو 20% من الموارد المستخدمة في العملية التي تتم مراقبتها. ووعدت الشركة بالكشف عن مزيد من التفاصيل التقنية حول نظام المراقبة في منشور مقبل، بينما لا يزال التحليل الرسمي الشامل لحادثة Hugging Face من جانب "OpenAI" قيد الإعداد. انتهى 25
