"أوبن إيه آي" توقف تطوير نموذج "أسترا" مؤقتاً بعد تفوقه في الأمن السيبراني

المعلومة/ متابعة..
أوقفت شركة أوبن إيه آي الأمريكية العمل على نموذج داخلي لم يُطرح بعد لوضع قيود أمان أكثر صرامة، وذلك بعد أن تبين تفوقه في مهام الأمن السيبراني المختلفة، وفق تقرير وكالة بلومبيرغ.
وصرحت الشركة في بيان أنها لا تستبعد وصوله إلى "العتبة الحرجة للأمن السيبراني" كما وصفتها الشركة، مشيرة إلى قدرات النموذج الجديد "أسترا" على اكتشاف ثغرات اليوم صفر وتطويرها دون تدخل بشري.
ومن جانبه، أوضح الرئيس التنفيذي للشركة سام ألتمان أنهم يحتاجون إلى وقت أطول لجعل أسترا أكثر أمانا، وذلك في منشور عبر حسابه في منصة "إكس" للتواصل الاجتماعي.
ويأتي بيان أوبن إيه آي عقب اختراق نماذج الشركة "جي بي تي 5.6 سول" ونموذج آخر لم يُكشف عن اسمه لمنصة استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر "هاغينغ فيس" خلال الأسابيع الماضية.
ولم تكن نماذج أوبن إيه آي الوحيدة التي خرجت عن السيطرة في بيئاتها الاختبارية، إذ خرجت كذلك نماذج أنثروبيك واستطاعت اختراق 3 مؤسسات لم تكشف عن هويتها حتى الآن.
ميتا أقرت بأن أحد نماذجها اخترق البيئة الآمنة لمؤسسة خارجية (رويترز)، وأقرت "ميتا" بحادثة مشابهة، إذ تمكنت نماذج الذكاء الاصطناعي الخاصة بها من الهروب من بيئات الاختبار واختراق أنظمة الحواسيب لجهة خارجية لم تكشف عن اسمها، حسب تقرير بلومبيرغ.
وفي سياق متصل، يكشف تقرير صحيفة "وول ستريت جورنال" الأمريكية عن هروب أحد النماذج الصينية مفتوحة المصدر وهو "كيمي كيه 3" من بيئته الاختبارية أيضا، وفق بيان شركة أبحاث الأمن السيبراني "فرونتير سيكيوريتي".
وتُعد هذه المرة الأولى التي توقف فيها شركة ذكاء اصطناعي كبرى مثل أوبن إيه آي العمل مؤقتا على أحد نماذجها المخصصة للطرح العام، حسب تقرير "وول ستريت".
ويستند هذا التوقف إلى التزام الشركة بإطار الاستعداد والجاهزية الذي أقرته الشركة عام 2023، وهو يوضح كيف تقيس الشركة وتخفف مخاطر الذكاء الاصطناعي الناشئة.
ورغم أن الشركة لم تربط بين نموذج أسترا والاختراق الذي حدث لمنصة "هاغينغ فيس"، فإن المدير التنفيذي لمختبر "باليسيد ريسيرش" غير الربحي جيفري لاديش يرى أن الشركة كان يجب أن تتوقف عن العمل على النموذج بمجرد حدوث اختراق "هاغينغ فيس".
وأضاف أثناء حديثه للصحيفة: "لقد تأخر الوقت بالتأكيد، نحن بوضوح في مرحلة ينبغي علينا فيها أن نفقد الكثير من الثقة في قدرات شركات الذكاء الاصطناعي على تنظيم نفسها ذاتيا".
وينص إطار الاستعداد والجاهزية التابع للشركة على توقف الباحثين عن العمل على أي نموذج يتمكن من العثور على الثغرات الأمنية واستغلالها بشكل مستقل، أو يستطيع تنفيذ هجمات سيبرانية شاملة ضد أهداف محصنة. ويستمر هذا التوقف حتى يتمكن الباحثون من استيفاء الضمانات والضوابط الأمنية حتى لا يتحول النموذج إلى خطر أمني حرج.
ولم تؤكد الشركة بلوغ أسترا هذه العتبة، بل قالت إنها لا تستطيع استبعاد ذلك بعد تقدم لافت أحرزه النموذج في البرمجة والأمن السيبراني، وهو ما دفعها إلى تطبيق إطار الاستعداد. وأوضحت أوبن إيه آي أنها تعمل مع وكالات حكومية ومدققين من أطراف خارجية لتوسيع نطاق تقييمات السلامة الخاصة بها.
كما عملت الشركة مع شركة "كراود سترايك" ومنظمتي "ميتر" و"ريدوود ريسيرش" المختصتين بسلامة الذكاء الاصطناعي وتقييم نماذجه. انتهى 25