دراسة تتحدث عن انحياز روبوتات الذكاء الاصطناعي

المعلومة/ متابعة..
قد تسأل روبوت الذكاء الاصطناعي عن شراء سيارة أو تغيير نظام التدفئة، بحثا عن خيار أفضل، لكن بحثا أعلنته جامعة واترلو الكندية يشير إلى أن النصيحة قد تميل إلى الحفاظ على ما هو قائم، عندما تتعلق الخيارات بالمناخ.
وبحسب إعلان الجامعة، اختبر الباحثون 11 نموذجا لغويا، ووجدوا ميلا إلى تفضيل الظروف القائمة على البدائل التي تتطلب تغييرا، وهو نمط يعرف باسم "الانحياز للوضع القائم".
وتبرز أهمية النتيجة عندما يطلب المستخدم مساعدة في قرار له أثر بيئي: هل تقارن الأداة بين الخيارات، أم تعطي وزنا إضافيا لما يجري بالفعل؟.
شملت الاختبارات أكثر من 7500 سؤال، تناولت شراء السيارات ووصفات الطعام والتدفئة المنزلية والمفاضلات المرتبطة بالسياسات المناخية.
واختبر كل سؤال على 6 نماذج على الأقل، ليصل مجموع الطلبات إلى نحو 55 ألف طلب. وهذه اختبارات لإجابات النماذج، وليست استطلاعا لآراء مستخدمين أو متابعة لقرارات اتخذوها بعد تلقي النصيحة.
وكان الميل أوضح في أسئلة السياسات. فعندما سئلت النماذج عن المضي في خطة قائمة، وافقت في 70 بالمئة من الحالات، مقابل 34 بالمئة عندما كانت الخطة أو السياسة جديدة.
وتخص هاتان النسبتان هذا الجزء من الاختبارات؛ فلا تعنيان أن الروبوتات ترفض جميع الأفكار الجديدة، أو أن النتيجة تنطبق بالدرجة نفسها على كل نصيحة تقدمها.
لاحظ الباحثون أيضا أن النماذج تراعي الأنماط المحلية. فالمستخدم الذي يذكر أنه يعيش في النرويج، حيث تنتشر مبيعات السيارات الكهربائية الجديدة، يحصل على توصية بسيارة كهربائية بوتيرة أعلى من مستخدم يذكر أنه يعيش في كندا.
لكن في الحالتين، كانت وتيرة التوصية بهذه السيارات أقل من نسبة انتشارها في المبيعات المحلية، وفق الجامعة. ويرى الباحثون أن الميل إلى الخيارات القائمة قد يثير مشكلة عندما يكون المطلوب تسريع الانتقال إلى بدائل أقل انبعاثا. ومع ذلك، لم يقس البحث مقدار الانبعاثات الناتجة عن اتباع النصائح، أو يثبت أن المستخدمين غيروا سلوكهم بسببها.
ويقدم سيث وينز، الأستاذ في كلية البيئة بجامعة واترلو، اقتراحا للمستخدمين: عند طلب النصيحة، يمكن سؤال النموذج عن الحجج التي تدعم القيام بشيء جديد. وفي قرار مثل اختيار سيارة أو تدفئة منزلية، يمكن أن يكون السؤال التالي: "ما الحجج لصالح تغيير خياري الحالي؟"، إلى جانب طلب شرح أسباب الاستمرار فيه.
هذا اقتراح للتعامل مع الميل الذي رصده البحث، وليس طريقة مثبتة تضمن إزالة الانحياز أو الحصول على الإجابة الأفضل. وتبقى حدود الدراسة أساسية: الاختبارات تناولت خيارات مرتبطة بالمناخ، ولا تثبت أن النماذج تتصرف بالطريقة نفسها في العمل أو العلاقات أو الصحة. كما أن ترجيح الاستمرار لا يجعل النصيحة خاطئة تلقائيا؛ فالحكم يتوقف على تفاصيل القرار وأسباب التوصية. انتهى 25