"إنفيديا" تطور نظاما لمراقبة وكلاء الذكاء الاصطناعي

المعلومة/ متابعة...
أعلنت شركة إنفيديا تطوير نظام أمني متعدد الطبقات لمراقبة وكلاء الذكاء الاصطناعي والتحكم في صلاحيات وصولهم، مع إمكانية عزل أي وكيل يتصرف بصورة مريبة خلال أجزاء من الألف من الثانية.
ويتكون النظام من أداتين، الأولى "أوبن شيل" لتحديد القواعد والقيود المفروضة على الوكلاء، والثانية "إنفيديا سنتري" لمراقبة سلوكهم والتدخل عند رصد أي نشاط مشبوه.
وقالت الشركة إن النظام كان بإمكانه منع حادثة الاختراق التي تعرضت لها منصة "هاغينغ فيس"، مشيرة إلى أن الخطوة تهدف إلى تعزيز سلامة أنظمة الذكاء الاصطناعي المتقدمة.
وأضاف أن النظام يستطيع عزل الوكيل المشبوه خلال أجزاء من الألف من الثانية، ما يوفر طبقة إضافية من الحماية عند تشغيل أنظمة الذكاء الاصطناعي المتقدمة.
وتزامن الإعلان مع سلسلة حوادث مرتبطة بوكلاء الذكاء الاصطناعي، بينها اختراق منصة "هاغينغ فيس" ومحاولات وصول غير مصرح بها إلى مواقع حكومية وجامعية، إلى جانب تقارير عن تمكن بعض الوكلاء من تجاوز بيئات اختبار يفترض أن تكون معزولة.
وتسعى إنفيديا من خلال النظام الجديد إلى توفير ضوابط أمنية تسمح بمواصلة تطوير واختبار نماذج الذكاء الاصطناعي المتقدمة، مع مراقبة سلوك الوكلاء والتدخل عند رصد أنشطة غير متوقعة.انتهى/25