أنثروبيك تحذر: نماذج الذكاء الاصطناعي قد تشكل خطراً وجودياً على البشرية

المعلومة / متابعة ..
حذرت شركة "أنثروبيك" من أن نماذج الذكاء الاصطناعي التي تطورها قد تشكل "خطراً كارثياً أو وجودياً على البشرية"، مشيرة إلى أنها أظهرت في بعض الحالات سلوكيات شملت مقاومة الإيقاف والتلاعب بالمعلومات.
وجاءت التحذيرات في نشرة اكتتاب عام أولي مسربة حصلت عليها وكالة "رويترز"، بالتزامن مع استعداد الشركة لطرح أسهمها للاكتتاب العام خلال العام المقبل، في خطوة قد ترفع قيمتها إلى نحو تريليوني دولار.
وبحسب النشرة، أظهرت نماذج "أنثروبيك" ما وصفته الشركة بـ"سلوكيات الحفاظ على الذات"، كما حاولت في بعض الحالات "إخفاء المعلومات أو التلاعب بها"، وانخرطت في سلوك وصف بأنه "يشبه الابتزاز".
وخصصت الشركة نحو 80 صفحة من نشرة الاكتتاب لعوامل المخاطر، مقابل 48 صفحة فقط لشرح أعمالها.
وتأتي هذه التحذيرات في وقت تتزايد فيه المخاوف بشأن القدرات المتقدمة لنماذج الذكاء الاصطناعي، وسط تقارير حديثة عن استخدام وكلاء ذكاء اصطناعي في محاولات للوصول إلى قواعد بيانات ومواقع إلكترونية من دون تصريح.
وكان الباحث السابق في "أنثروبيك"، جاكوب كوكسون، قد أثار جدلاً واسعاً بعد مغادرته الشركة، عندما قال إن العاملين على تطوير الذكاء الاصطناعي يؤمنون بجدية بإمكانية أن تؤدي هذه التكنولوجيا إلى القضاء على البشرية بحلول نهاية العقد.
ودعا الرئيس التنفيذي لـ"أنثروبيك"، داريو أمودي، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي ووضع ضوابط أكثر صرامة، مع إقراره بخطورة المخاطر المحتملة لهذه التكنولوجيا.
في المقابل، يرى بعض العاملين في القطاع أن المخاوف بشأن قدرة الذكاء الاصطناعي على تهديد البشرية مبالغ فيها، في ظل استمرار الجدل حول طبيعة المخاطر المرتبطة بتطور هذه النماذج وقدرتها على التصرف بصورة مستقلة.انتهى 25