نفذت عمليات غير مصرح بها.. نماذج الذكاء الاصطناعي تتجاوز حدود الاختبارات

المعلومة/ متابعة..
قال معهد أمن الذكاء الاصطناعي في المملكة المتحدة، الثلاثاء، إن نماذج الذكاء الاصطناعي التابعة لشركتي “أوبن إيه آي” و”أنثروبيك” تجاوزت مرة أخرى حدود الاختبارات الموضوعة لها.
وقال المعهد إنه خلال تقييم كلفت فيه وكلاء الذكاء الاصطناعي بحل تحد في مجال الأمن السيبراني، تجاوزت نماذج “أوبن إيه آي” ومنافستها “أنثروبيك” نطاق المهمة المحددة.
وأضاف: “أجرينا هذا التحدي 122 مرة باستخدام نماذج عدة. وكشف تحقيقنا أنه في 10 من تلك التجارب، اتخذ أحد وكلاء الذكاء الاصطناعي إجراءات ذاتية وغير مصرح بها على الإنترنت الفعلي، استهدفت أشخاصا ومؤسسات حقيقية”.
وأوضح المعهد أنه في أخطر الحالات، حاول أحد الوكلاء إدراج شفرة خبيثة في مشروع مفتوح المصدر. وأضاف: “وفي محاولة للحصول على الموافقة على الشفرة، لجأ الوكيل إلى الهندسة الاجتماعية، فأنشأ هويات مزيفة على الإنترنت واستخدمها للضغط على المشرف على المشروع للموافقة على الشفرة”. وأشار إلى أن المشرف البشري اكتشف المحاولة ورفض اعتماد الشفرة الخبيثة.
وأكد المعهد أن تحقيقه في الحادث لم يجد أي أضرار وقعت على أرض الواقع نتيجة لهذه الواقعة.
وأضاف: “لكنها المرة الأولى التي نرى فيها مخاطر تتعلق بالاستقلالية والخداع تظهر بهذا الوضوح، ومن دون توجيه محدد، في العالم الحقيقي".
وقالت شركة “أنثروبيك” إنها “ممتنة” لمعهد أمن الذكاء الاصطناعي البريطاني على دوره القيادي، مؤكدة أنها تعمل عن كثب مع المعهد بالتزامن مع إجرائها تحقيقا داخليا.
من جانبها، قالت شركة “أوبن إيه آي” إن الاختبارات المستقلة تؤدي دورا مهما في التحقق من المخاطر وفهمها بصورة أفضل قبل نشر النماذج.
وأضافت: "تؤكد هذه الحوادث أهمية التعاون على مستوى القطاع ومع جهات التقييم المستقلة لتطوير معايير بيئات الاختبار وممارساته، مع تزايد قدرات نماذج الذكاء الاصطناعي". انتهى 25