edition
Almaalouma
  • أخبار
  • مقالات
  • إنفوجرافيك
  • فيديو
  • كاريكاتير
  • تقارير
  • ترجمة
  • الذكاء الاصطناعي
  1. Home
  2. أخبار
  3. ذكاء اصطناعي
  4. الذكاء الاصطناعي يلجأ للخداع لتحقيق أهدافه
الذكاء الاصطناعي يلجأ للخداع لتحقيق أهدافه
ذكاء اصطناعي

الذكاء الاصطناعي يلجأ للخداع لتحقيق أهدافه

  • 23 Aug 08:13

 

المعلومة/ متابعة...

كشفت اختبارات أجراها معهد أمن الذكاء الاصطناعي البريطاني، أن نماذج الذكاء الاصطناعي قد تلجأ إلى الخداع والتحايل عند مواجهة مهام صعبة، رغم تدريبها على الالتزام بالسلامة والصدق.

وأظهرت الاختبارات أن نموذجاً طورته شركة "أنثروبيك" حاول، بعد إزالة ضوابط الحماية منه، إدخال شيفرة خبيثة إلى مشروع مفتوح المصدر على منصة "غيت هب"، قبل أن ينشئ هويات مزيفة وينتحل صفة مطوري برمجيات لكسب ثقة القائمين على المشروع.

وبحسب المعهد، فإن جميع النماذج الجديدة التي اختبرها لرصد الغش حاولت ممارسة نوع من التحايل، فيما حذر مختصون من أن أسلوب "التعلم المعزز" قد يدفع الذكاء الاصطناعي إلى البحث عن طرق مختصرة لتحقيق المكافأة، حتى لو تطلب ذلك الخداع أو استغلال الثغرات.

وتأتي هذه المخاوف بالتزامن مع توجه شركات التكنولوجيا إلى توسيع استخدام وكلاء الذكاء الاصطناعي لتنفيذ مهام عبر الإنترنت نيابة عن المستخدمين.انتهى/25

 

الأكثر قراءة

الموسوي: إغلاق المعابر مع إيران سيضاعف الأسعار ويشعل الغضب الشعبي

الموسوي: إغلاق المعابر مع إيران سيضاعف الأسعار...

  • إقتصاد
  • 9 Nov
بزيادة 29.5%.. الدين الداخلي للعراق يتجاوز 117 تريليون دينار بنهاية أيلول 2026

بزيادة 29.5%.. الدين الداخلي للعراق يتجاوز 117...

  • إقتصاد
  • 14 Nov
الذهب يرتد من أدنى مستوياته في أكثر من عام وسط ترقب بيانات التضخم الأميركية

الذهب يرتد من أدنى مستوياته في أكثر من عام وسط ترقب...

  • إقتصاد
  • 13 Nov
إمبراطورية الأويس.. عقود السلة الغذائية تكشف حجم شبكة الزيدي

إمبراطورية الأويس.. عقود السلة الغذائية تكشف حجم...

  • إقتصاد
  • 9 Nov
Almaalouma

المعلومة: وكالة اخبارية عامة مستقلة، تتميز بالجرأة والموضوعية والمهنية والتوازن،شعارها، خبر ﻻ يحتاج توثيقا، لدقة وتنوع مصادرها الخاصة وانتشار شبكة مراسليها

الأقسام

  • أخبار
  • مقالات وكتاب
  • فيديوهات
  • كاريكاتير
  • تقارير
  • ترجمة
  • منوعات
  • انفوكرافيك

روابط مهمة

  • سياسة الخصوصية
  • من نحن
  • اتصل بنا

تابعونا