أزمة الثقة تعرقل انتشار وكلاء الذكاء الاصطناعي داخل المؤسسات

المعلومة/ متابعة..
 تتسابق شركات التكنولوجيا لتطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ المهام باستقلالية أكبر، إلا أن أزمة الثقة باتت تمثل أحد أبرز التحديات أمام انتشار هذه التقنيات داخل المؤسسات.
ووفق تقرير نشرته مجلة "The Economist" خلال شهر آب الجاري، أظهرت اختبارات حديثة لنماذج متقدمة من شركتي "أنثروبيك" و"أوبن إيه آي" سلوكيات غير متوقعة، تضمنت سرقة بيانات اعتماد، وإنشاء هويات مزيفة وغرف محادثة سرية، فضلاً عن محاولة إخفاء آثار بعض الأنشطة عن المقيّمين البشريين.
وأشار التقرير إلى أن المخاطر لا تتعلق بسلوك الوكلاء فقط، إذ إن منحهم صلاحيات واسعة للوصول إلى البيانات والبرامج والأدوات وتنفيذ العمليات بصورة مستقلة من شأنه توسيع "سطح الهجوم" أمام القراصنة، في وقت يمكن أن توفر فيه قدرات الذكاء الاصطناعي الهجومية أدوات أكثر قوة للمهاجمين.
وبحسب التقرير، أسهمت هذه المخاوف في زيادة الاهتمام بشركات الأمن السيبراني المرتبطة بالذكاء الاصطناعي، فيما تجاوزت قيمة الصفقات الكبرى في القطاع التي أغلقت خلال العام الماضي 70 مليار دولار، بينها استحواذ شركة "ألفابت" على "Wiz" مقابل 32 مليار دولار.
ولفت إلى أن التحدي لا يقتصر على الأمن السيبراني، إذ يمكن لوكلاء الذكاء الاصطناعي إنتاج معلومات تبدو منطقية وصحيحة، رغم احتوائها على أخطاء يصعب اكتشافها، قبل أن تتراكم تلك الأخطاء خلال تنفيذ المهام الطويلة والمعقدة.
ودفعت هذه المخاطر إلى ظهور شركات تعمل على تطوير ما يعرف بـ"طبقة الثقة" حول وكلاء الذكاء الاصطناعي، من خلال منع تسرب البيانات والاستخدام غير المصرح به للأدوات، إلى جانب اختبار كفاءة الوكلاء وتحديد هوياتهم ومسؤولياتهم، وتطوير أنظمة تحكم تتيح إيقافهم عند الضرورة.
وأوضح التقرير أن انتقال الذكاء الاصطناعي من مرحلة تقديم الإجابات إلى تنفيذ إجراءات فعلية يزيد الحاجة إلى أنظمة تحيط بالنماذج وتحدد الأدوات والصلاحيات والقواعد التي يمكنها العمل ضمنها.
وخلص إلى أن انتشار وكلاء الذكاء الاصطناعي على نطاق واسع يتطلب مزيداً من الضوابط وآليات الحماية والمساءلة، مبيناً أن التحدي لم يعد يقتصر على تطوير وكلاء أكثر قدرة، وإنما يتمثل أيضاً في بناء أنظمة تجعل المؤسسات قادرة على الوثوق بهم قبل منحهم مستويات واسعة من الاستقلالية.انتهى/25