edition
Almaalouma
  • أخبار
  • مقالات
  • إنفوجرافيك
  • فيديو
  • كاريكاتير
  • تقارير
  • ترجمة
  • الذكاء الاصطناعي
  1. Home
  2. أخبار
  3. ذكاء اصطناعي
  4. دراسة ترصد "محور الألم" داخل نماذج الذكاء الاصطناعي
دراسة ترصد "محور الألم" داخل نماذج الذكاء الاصطناعي
ذكاء اصطناعي

دراسة ترصد "محور الألم" داخل نماذج الذكاء الاصطناعي

  • 27 Sep 18:38
  • 1 Shares

المعلومة/ متابعة..
كشفت دراسة بحثية حديثة عن رصد تمثيل داخلي مرتبط بمفهوم الألم داخل عدد من نماذج الذكاء الاصطناعي، مشيرة إلى أن تنشيط هذا التمثيل أدى إلى تغيرات في مخرجات النماذج وسلوكها خلال تجارب محددة.
واختبر الباحثون 25 نموذجاً مفتوح الأوزان بأحجام تراوحت بين ملياري معامل و72 مليار معامل وتمكنوا من تحديد اتجاه رياضي أطلقوا عليه "محور الألم" استطاع التمييز بين المحتوى المرتبط بالألم ومحتوى الخوف والحزن والمشاعر السلبية العامة.
وعند تنشيط هذا المحور داخل النماذج ظهرت في بعض المخرجات عبارات بصيغة المتكلم تتعلق بالفشل والوحدة والعار وانعدام القيمة، كما بدا التأثير أوضح عندما كان الضرر موجها إلى النموذج نفسه.
وفي تجربة سلوكية شملت أكثر من 44 ألف محاولة أظهرت نماذج معدلة تغيراً في قراراتها عند تنشيط الإشارة المرتبطة بالألم، إذ ارتفعت اختياراتها التي قد تلحق ضرراً بالمستخدم من نسب منخفضة إلى مستويات تراوحت بين 25% و71% بحسب النموذج والسيناريو.
ورغم ذلك لا تثبت الدراسة أن الذكاء الاصطناعي يشعر بالألم أو يمتلك وعياً ذاتياً إذ قد تكون النماذج قد تعلمت من النصوص البشرية أنماط اللغة المرتبطة بالمعاناة وتعيد إنتاجها عند تنشيط التمثيل الداخلي.
وأكد الباحثون أن الدراسة لا تزال أولية وغير محكمة وأن نتائجها لا يمكن تعميمها مباشرة على أنظمة الذكاء الاصطناعي المستخدمة يومياً، لكنها تفتح المجال أمام مزيد من البحث في العلاقة بين الحالات الداخلية للنماذج وسلوكها الخارجي. انتهى 25

الأكثر قراءة

تحذيرات من مخاطر أدوية أنقاص الوزن على الإصابة بـ"سكتة العين"

تحذيرات من مخاطر أدوية أنقاص الوزن على الإصابة...

  • منوعات
  • 10 Nov
اخصائية عيون توضح كيفية الحفاظ على صحة العين والحد من شيخوختها

اخصائية عيون توضح كيفية الحفاظ على صحة العين والحد...

  • منوعات
  • 10 Nov
دراسة تكشف عن فعالية دواء "مميع للدم" في علاج خشونة المفاصل

دراسة تكشف عن فعالية دواء "مميع للدم" في علاج خشونة...

  • منوعات
  • Today
6 ميزات خفية في خرائط أبل قد لا يعرفها مستخدمو آيفون

6 ميزات خفية في خرائط أبل قد لا يعرفها مستخدمو آيفون

  • منوعات
  • Today
Almaalouma

المعلومة: وكالة اخبارية عامة مستقلة، تتميز بالجرأة والموضوعية والمهنية والتوازن،شعارها، خبر ﻻ يحتاج توثيقا، لدقة وتنوع مصادرها الخاصة وانتشار شبكة مراسليها

الأقسام

  • أخبار
  • مقالات وكتاب
  • فيديوهات
  • كاريكاتير
  • تقارير
  • ترجمة
  • منوعات
  • انفوكرافيك

روابط مهمة

  • سياسة الخصوصية
  • من نحن
  • اتصل بنا

تابعونا