محادثات "كلود" تكشف جدل مراقبة مستخدمي الذكاء الاصطناعي

المعلومة/ متابعة..
مع تزايد الضغوط على مختبرات الذكاء الاصطناعي للحد من الأضرار العديدة التي تتسبب منتجاتها فيها للمستهلكين في العالم الحقيقي، لم يعد هناك مجال كبير للشك في أنها تراقب محادثات المستخدمين.
تبرز حالة كارلي ميشيل هيلر، وهي امرأة ألقي القبض عليها في بونيتا سبرينغز بولاية فلوريدا، بعد أن زُعم أنها أخبرت روبوت الدردشة "كلود" التابع لشركة أنثروبيك عن خطتها لـ"إطلاق النار" على مكتب قريب للشرطة.
ووُجهت إلى هيلر تهمة توجيه تهديد مكتوب بالعنف، وهي جناية من الدرجة الثانية في فلوريدا، بعد أن رصد برنامج المراقبة الداخلي لدى "أنثروبيك" سجلات محادثاتها وأحالها إلى موظف لمراجعتها، بحسب ما نقله تقرير لموقع "فيوتشريزم" المتخصص في أخبار التكنولوجيا والعلوم.
وبعد أن اطلع أحد موظفي "أنثروبيك" على المحادثات، خلصت الشركة إلى أن خطط هيلر ترقى إلى مستوى تهديد موثوق به، وأبلغت في نهاية المطاف الشرطة المحلية.
وقال قائد شرطة مقاطعة لي، كارمين مارسيلو، للصحفيين المحليين في بيان، إن المرأة أقرت باستخدام "كلود" باعتباره "مذكرات شخصية"، فيما يبدو أنها لم تكن تعلم أن موظفي أنثروبيك يمكنهم الاطلاع على سجل محادثاتها.
وتكشف هذه الواقعة عن تعارض حقيقي بين خصوصية المستخدم ومسؤولية شركات الذكاء الاصطناعي في محاولة منع وقوع أحداث عنيفة.
وعلى سبيل المثال، في أعقاب حادث إطلاق النار الجماعي الذي وقع في فبراير في تامبلر ريدج بكندا، سرعان ما تبين أن منفذة الهجوم اعتمدت بشكل كبير على "شات جي بي تي" للتخطيط لعملية إطلاق النار.
ولم يكن موظفو أوبن إيه آي على علم بسجلات المحادثات تلك قبل وقوع الهجوم فحسب، بل كانت قد أُحيلت إلى المراجعة البشرية قبل أشهر من وقوعه، بل وحاول مسؤولو الشركة التنفيذيون أيضًا إخفاء دور منتجها في تشجيع الهجوم المميت، ثم قللوا من شأن هذا الدور لاحقًا.
ورغم أن سجل "أنثروبيك" في ما يتعلق بالأضرار الواقعية التي تسببها منتجاتها سيئ للغاية، يبدو أن الشركة تحاول على الأقل تجنب وقوع حادث مماثل، وإن كان وجود عدد لا نهائي تقريبًا من خيارات روبوتات الدردشة في السوق حاليًا يعني أنه قد يكون فات الأوان بالفعل لمنع المأساة التالية التي يساعد الذكاء الاصطناعي في وقوعها. انتهى 25