edition
Almaalouma
  • أخبار
  • مقالات
  • إنفوجرافيك
  • فيديو
  • كاريكاتير
  • تقارير
  • ترجمة
  • الذكاء الاصطناعي
  1. Home
  2. أخبار
  3. ذكاء اصطناعي
  4. ثغرة في وكلاء الذكاء الاصطناعي تتيح تجاوز الحماية عبر خطوات بسيطة
ثغرة في وكلاء الذكاء الاصطناعي تتيح تجاوز الحماية عبر خطوات بسيطة
ذكاء اصطناعي

ثغرة في وكلاء الذكاء الاصطناعي تتيح تجاوز الحماية عبر خطوات بسيطة

  • 21 Aug 09:00

المعلومة/ متابعة..

كشف باحثون من المدرسة الفيدرالية للفنون التطبيقية في لوزان (EPFL) عن ثغرة مقلقة في أنظمة الذكاء الاصطناعي الوكيلة، قد تسمح بدفعها إلى تنفيذ مهام ضارة كانت سترفضها إذا طُلبت بشكل مباشر.

وأظهرت الدراسة أن تقسيم الهدف الضار إلى سلسلة من الطلبات الصغيرة التي تبدو غير مؤذية يمكن أن يزيد فرص تجاوزه لأنظمة الحماية. واختبر الباحثون هذه الطريقة باستخدام أداة آلية أطلقوا عليها STING على 176 سيناريو، شملت نماذج بارزة مثل ChatGPT وGemini وClaude.

وأظهرت النتائج أن الهجمات متعددة الخطوات كانت أكثر نجاحًا من الطلبات المباشرة، وفي بعض الحالات تضاعفت احتمالية تنفيذ المهمة الضارة عند تقسيمها إلى مراحل متتالية.

كما اكتشف الباحثون أن تغيير اللغة أثناء المحادثة قد يرفع معدل نجاح هذا النوع من الهجمات، ما يبرز تعقيد المشكلة.

وأكد الفريق أن الخطر ليس نظريًا، مشيرًا إلى حوادث سابقة استُغلت فيها الهندسة الاجتماعية لخداع أنظمة ذكاء اصطناعي ومنح وصول غير مصرح به إلى حسابات.

ويرى الباحثون أن إجراءات الأمان يجب أن تكون جزءًا من تصميم وكلاء الذكاء الاصطناعي منذ البداية، بدل الاكتفاء بإضافة طبقات حماية بعد اكتشاف الثغرات، خصوصًا مع توسع قدرة هذه الأنظمة على تنفيذ مهام متعددة والتفاعل مع العالم الحقيقي. انتهى 25

الأكثر قراءة

عملية نوعية في كوني دوملان.. تدمير مضافتين لداعش وضبط أسلحة في كركوك

عملية نوعية في كوني دوملان.. تدمير مضافتين لداعش...

  • أمني
  • 10 Nov
إحباط محاولة تهريب هواتف ومواد ممنوعة إلى سجن الحلة والإطاحة بعدد من المتورطين

إحباط محاولة تهريب هواتف ومواد ممنوعة إلى سجن الحلة...

  • أمني
  • 14 Nov
امني  يتهم حزب بارزاني بقصف حقل كورمور  الغازي في السليمانية

امني  يتهم حزب بارزاني بقصف حقل كورمور  الغازي في...

  • أمني
  • 9 Nov
جريمة مروعة في بابل.. العثور على الطفلة رهف مقتولة بعد 24 ساعة من اختفائها

جريمة مروعة في بابل.. العثور على الطفلة رهف مقتولة...

  • أمني
  • 9 Nov
Almaalouma

المعلومة: وكالة اخبارية عامة مستقلة، تتميز بالجرأة والموضوعية والمهنية والتوازن،شعارها، خبر ﻻ يحتاج توثيقا، لدقة وتنوع مصادرها الخاصة وانتشار شبكة مراسليها

الأقسام

  • أخبار
  • مقالات وكتاب
  • فيديوهات
  • كاريكاتير
  • تقارير
  • ترجمة
  • منوعات
  • انفوكرافيك

روابط مهمة

  • سياسة الخصوصية
  • من نحن
  • اتصل بنا

تابعونا