مايكروسوفت تطلق أدوات أمنية جديدة لمراقبة وكلاء الذكاء الاصطناعي

المعلومة/ متابعة..
أعلنت شركة مايكروسوفت عن ميزات أمنية جديدة تهدف إلى حماية المؤسسات من المخاطر المتزايدة لوكلاء الذكاء الاصطناعي، في خطوة تعكس تصاعد تحذيرات الشركة من منح هذه الأنظمة صلاحيات واسعة للوصول إلى البيانات الحساسة وتنفيذ المهام نيابة عن الموظفين. وتتصدر هذه الميزات أداة جديدة تحمل اسم Guardian Agents، صُممت لمراقبة وكلاء الذكاء الاصطناعي الذين تستخدمهم الشركات، والتدخل عند الضرورة للحد من السلوكيات الخطرة.
ويأتي الإعلان في وقت تتزايد فيه المخاوف من أن التهديد الأمني لم يعد مقتصرًا على المتسللين من خارج المؤسسات، بل قد يأتي أيضًا من وكلاء الذكاء الاصطناعي الذين تنشرهم الشركات وتمنحهم إمكانية الوصول إلى أنظمتها وبياناتها، وهو ما يشبه مفهوم "التهديد الداخلي" المرتبط بالموظفين الذين يستغلون صلاحياتهم أو يتسببون في أضرار للمؤسسة. وتندرج أداة Guardian Agents ضمن مشروع Project Perception الذي كشفت عنه "مايكروسوفت" في يونيو الماضي، بهدف تعزيز قدرة المؤسسات على اكتشاف المخاطر الأمنية المرتبطة بالذكاء الاصطناعي والتعامل معها. وجاء المشروع في إطار استجابة الشركة للتطور المتسارع في نماذج الذكاء الاصطناعي القادرة على تنفيذ مهام متقدمة في مجال الأمن السيبراني، بما في ذلك نماذج القرصنة التي تطورها شركات مثل "أنثروبيك"، ومن بينها Mythos وFable، إلى جانب نظام Daybreak من "OpenAI"، المخصص لفحص الثغرات الأمنية.
وعند إطلاق Project Perception، قدمت مايكروسوفت ثلاث فئات من الوكلاء، لكل منها دور مختلف في منظومة الأمن السيبراني: الفريق الأحمر: يحاكي أساليب المتسللين ويشن هجمات لاختبار الأنظمة وكشف نقاط ضعفها، والفريق الأزرق: يكتشف هجمات الفريق الأحمر ويقيّم الثغرات الأمنية التي يعثر عليها، والفريق الأخضر: يتولى معالجة الثغرات وإصلاح المشكلات الأمنية المكتشفة.
أما الآن، فتقول "مايكروسوفت" إن الشركات تحتاج أيضًا إلى التعامل مع احتمال أن تتحول أنظمة الذكاء الاصطناعي التي تستخدمها بنفسها إلى مصدر للخطر. وحذّر ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، في تدوينة خاصة نشرها في وقت سابق من أكتوبر، من أن المؤسسات بحاجة إلى التوقف عن الاعتماد الكامل على ضمانات الأمان التي يقدمها مطورو نماذج الذكاء الاصطناعي، حتى عندما تتعلق هذه الضمانات بمنتجات مصممة لتنفيذ المهام بصورة مستقلة.
ويرى ناديلا أن المؤسسات يجب أن تنشئ أنظمة رقابية مستقلة عن الشركات المطورة للنماذج، لتتمكن من مراقبة الوكلاء والتحكم في صلاحياتهم والحد من المخاطر التي قد يتسببون فيها. وكتب ناديلا أن المؤسسات تنشر أنظمة ووكلاء معقدين، وتمنحهم إمكانية الوصول إلى أكثر بياناتها حساسية، فضلًا عن صلاحيات تنفيذ إجراءات بالغة الأهمية نيابة عنها.
وشدد على أن المؤسسات لا يمكنها تفويض مسؤوليتها عن تصرفات أنظمة الذكاء الاصطناعي إلى الجهات التي توفر هذه الأنظمة، موضحًا أن ضمانات الأمان التي يقدمها المطورون لا تعفي الشركات المستخدمة من مسؤوليتها. وأضاف أن الحل يكمن في الفصل بين توفير الذكاء الاصطناعي ومنحه سلطة اتخاذ الإجراءات وتنفيذها.
بمعنى آخر، ينبغي ألا تكون الجهة التي تطور نموذج الذكاء الاصطناعي هي نفسها الجهة الوحيدة المسؤولة عن تحديد ما يمكن للنموذج فعله داخل المؤسسة. فإلى جانب Guardian Agents، أضافت الشركة ميزة لاكتشاف وكلاء الذكاء الاصطناعي إلى منتج Microsoft Defender، تتيح رصد ما يصل إلى 60 نوعًا من الوكلاء الذين قد يستخدمهم الموظفون داخل بيئة العمل، ومن بينهم Claude Code وCodex وOpenClaw.، كما أضافت ميزات تهدف إلى تقييد وصول الوكلاء إلى البيانات والأنظمة، وتعديل الصلاحيات الممنوحة لهم بصورة ديناميكية وفقًا للمهمة التي ينفذونها. وتشمل هذه الضوابط طلب موافقة بشرية عندما يبدو أن الوكيل يتخذ قرارات تنطوي على مخاطر، بما يحد من قدرته على تنفيذ إجراءات حساسة بصورة مستقلة. ويعكس هذا النهج تحولًا في طريقة التعامل مع أمن الذكاء الاصطناعي؛ فبدلًا من الاكتفاء بحماية المؤسسات من الهجمات الخارجية، تسعى الشركات إلى مراقبة الأنظمة الذكية الموجودة داخل بيئاتها، والتأكد من أنها لا تتجاوز حدود الصلاحيات الممنوحة لها. انتهى 25