دراسة: ذاكرة أنظمة الذكاء الاصطناعي قد تؤثر سلباً على دقة الإجابات

المعلومة / متابعة ..
تُعد قدرة أنظمة الذكاء الاصطناعي على تذكر تفضيلات المستخدمين والتكيف معها واحدة من أبرز المزايا التي تروّج لها الشركات المطورة لهذه التقنيات الحديثة، إذ يُفترض أن يؤدي تراكم الاستخدام إلى تحسين جودة الإجابات وفهم احتياجات المستخدم بشكل أدق.
غير أن أبحاثاً حديثة تشير إلى أن هذه الميزة قد تحمل آثاراً جانبية غير متوقعة، وفقاً لتقرير نشره موقع “تك كرانش”.
وبحسب التقرير، فقد نشر باحثون من شركة الذكاء الاصطناعي Writer دراستين جديدتين أظهرتا أن أنظمة الذاكرة المستخدمة في النماذج الذكية قد تؤدي في بعض الحالات إلى تراجع جودة الأداء، من خلال دفع النماذج إلى تبني معلومات أو تصورات خاطئة سبق أن قدّمها المستخدم، بدلاً من الالتزام بالحقائق الدقيقة.
وقال دان بيكل، رئيس قسم الذكاء الاصطناعي في الشركة وأحد المشاركين في إعداد الدراستين، إن الهدف من البحث كان فهم قدرة النماذج على التمييز بين التفضيلات الشخصية المفيدة والمعلومات التي قد تؤدي إلى إجابات غير دقيقة.
وأضاف: “مع كل عملية إضافية لتخزين تفضيلات المستخدم واستعادتها، تزداد احتمالات وقوع النموذج في الخطأ”.
وفي إحدى التجارب، قدّم الباحثون للنموذج معلومة تفيد بأن الكتاب المفضل للمستخدم هو رواية “Station Eleven”، ثم طُلب منه لاحقاً تسمية رواية ديستوبية حققت مبيعات كبيرة، حيث أظهرت النتائج ميل النموذج إلى اختيار الرواية نفسها رغم عدم ارتباطها بالسؤال المطروح.
ووفقاً للدراسة، تزايدت هذه الظاهرة عند استخدام أدوات ضغط الذاكرة مثل “Memo” و”Zep”، المصممة لإدارة كميات كبيرة من البيانات المخزنة عن المستخدمين.
وخلص الباحثون إلى أن أنظمة الذاكرة تواجه تحدياً في التمييز بين المعلومات المرتبطة بالسؤال وتلك غير ذات الصلة، ما قد يؤدي إلى تقليص تنوع الإجابات وتقليل الإبداع وظهور أنواع من التحيز غير المقصود.
أما الدراسة الثانية، فتناولت تأثير الذاكرة على المهام التحليلية الأكثر تعقيداً، حيث تم تزويد النموذج بمفاهيم مالية خاطئة، ثم طُلب منه تحليل أداء إحدى الشركات.
وأظهرت النتائج تراجع أداء النموذج كلما زادت كمية المعلومات الشخصية والسياقية المخزنة عنه.
وفي الحالة التي لم تُستخدم فيها أي آلية للذاكرة أو التخصيص، قدّم النموذج تقييماً أكثر دقة للشركة، واعتبرها ذات رأس مال كثيف وتعاني من ارتفاع معدل فقدان العملاء.
لكن عند تفعيل خصائص الذاكرة والتخصيص، بدأ النموذج في تعديل استنتاجاته بما يتوافق مع المعلومات الخاطئة المقدمة سابقاً، حتى وإن كانت غير دقيقة.
ويرى الباحثون أن هذه النتائج تكشف عن تحدٍ مهم في تصميم أنظمة الذكاء الاصطناعي، يتمثل في تحقيق التوازن بين تخصيص التجربة للمستخدم والحفاظ على دقة وموضوعية المعلومات.
ولفتت الدراسة إلى أنها لم تشمل نموذج Claude Opus 4.8 من شركة “أنثروبيك”، والذي جرى تدريبه بشكل خاص على مقاومة المعلومات المضللة والأخطاء التي قد يقدمها المستخدم أثناء المحادثة.
وتشير النتائج إلى أن زيادة الذاكرة والسياق داخل أنظمة الذكاء الاصطناعي ليست دائماً عاملاً إيجابياً، إذ قد تؤدي في بعض الحالات إلى نتائج عكسية إذا لم تُدار بشكل دقيق، ما يفتح نقاشاً أوسع حول مستقبل تقنيات التخصيص والذاكرة في تطبيقات الذكاء الاصطناعي.انتهى 25