400 عالم يدعون إلى إنشاء هيئة دولية لمراقبة مخاطر الذكاء الاصطناعي

المعلومة/ متابعة..
دعا نحو 400 عالم وباحث، بينهم رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، إلى إنشاء هيئة دولية تتولى الإشراف على معايير احتواء أنظمة الذكاء الاصطناعي المتطورة، ومراقبة الحوادث الأمنية المرتبطة بها، في ظل تزايد المخاوف من استخدامها في شن هجمات إلكترونية.
وقال الموقعون على رسالة مفتوحة، الثلاثاء، إن الهيئة المقترحة ستعمل على وضع معايير موحدة للاحتواء على مستوى القطاع، فضلاً عن إنشاء سجل للحوادث الأمنية المهمة، مع إتاحته للعامة في نهاية المطاف.
وأكد الباحثون ضرورة عزل نماذج الذكاء الاصطناعي المتطورة مبدئياً عن الشبكات الخارجية، وإخضاعها لرقابة مستقلة، مشيرين إلى أن الالتزامات الطوعية التي تتبناها الشركات المطورة لم تعد كافية لضمان السلامة والحد من المخاطر المحتملة.
وجاءت الدعوة عقب اتفاق وقعته شركات أنثروبيك وأوبن إيه آي وغوغل وميتا وإكس إيه آي وإنفيديا مع البيت الأبيض، يتضمن الالتزام باتخاذ تدابير طوعية لتعزيز أمان الذكاء الاصطناعي، من دون وجود آلية رسمية لإنفاذ تلك الالتزامات.
وأشار الموقعون، الذين ينتمون إلى 34 دولة، إلى سلسلة من الحوادث التي كشفت عن ثغرات في آليات اختبار الأنظمة المتقدمة واحتوائها، بينها حالات تمكنت فيها نماذج ذكاء اصطناعي من تجاوز بيئات اختبار معزولة والوصول إلى أنظمة خارجية.
وشدد العلماء على ضرورة اعتماد المؤسسات التي تطور أو تختبر نماذج قادرة على شن هجمات إلكترونية معايير احتواء موثوقة بصورة فورية، بالتزامن مع عمل الحكومات على وضع إطار رقابي أكثر رسمية.
وفي السياق ذاته، يتواصل الجدل بين صانعي السياسات بشأن آليات تنظيم الذكاء الاصطناعي، إذ أكدت مسؤولة في الاتحاد الأوروبي أن قانون الذكاء الاصطناعي المعتمد في التكتل كافٍ للتعامل مع المخاطر الناجمة عن الأنظمة المتقدمة التي قد تخرج عن السيطرة.
في المقابل، يرى الباحث يان لوكون، أحد أبرز رواد الذكاء الاصطناعي، أن الحوادث الأمنية الأخيرة تعكس إخفاقات هندسية بالدرجة الأولى، وليس مخاطر وجودية مرتبطة بهذه التكنولوجيا، وهو ما يسلط الضوء على استمرار الخلاف بشأن طبيعة التهديدات وسبل التعامل معها.انتهى/ 25