هاسابيس يحذر من مخاطر الذكاء الاصطناعي: حوادث خطيرة قد تقع قريباً

المعلومة/ متابعة..
اكد ديميس هاسابيس، المؤسس المشارك ورئيس شركة "غوغل ديب مايند" التابعة لغوغل، الأربعاء إن حوادث الاختراق الأخيرة التي نفذها وكلاء ذكاء اصطناعي تُعد "إشارات تحذير مبكرة"، وإن العالم قد يواجه قريبًا حوادث جسيمة ما لم يتم تعزيز أمن الأنظمة.
وأثارت السلوكيات المنحرفة لوكلاء الذكاء الاصطناعي، بما في ذلك اختراق شبكات الشركات، وأحدثها إفصاح شركة أنثروبيك عن أن نموذجًا للذكاء الاصطناعي تابعًا لها أرسل بلاغًا كاذبًا إلى الشرطة بشأن جريمة قتل، تحذيرات من الباحثين ومخاوف بشأن التطور السريع لهذه التكنولوجيا.
وقال هاسابيس إن هناك "الكثير من العمل الذي يتعين القيام به" لاعتماد أفضل الممارسات التي تستخدمها مجالات أخرى، مثل علم الأحياء والقطاع النووي، لتأمين الأنظمة الحيوية، مضيفًا أنه ستكون هناك حاجة في نهاية المطاف إلى هيئة دولية لوضع المعايير، بحسب ما أوردته "رويترز".
وبين هاسابيس، الذي يشغل أيضًا منصب كبير العلماء في شركة ألفابت -الشركة الأم لغوغل- خلال قمة للذكاء الاصطناعي في دبلن: "أعتقد أن (حوادث الاختراق) هذه بمثابة إنذارات مبكرة لنا بأن الأنظمة ليست قوية بما يكفي بعد، ولذا فإن الحوادث جسيمة إلى هذا الحد".
وأضاف: "لكنها قد تصبح (جسيمة) بالنظر إلى العام المقبل والسنوات القليلة القادمة إذا لم نبذل المزيد من الجهد، كقطاع وشركات فردية وحكومات لتأمين هذه الأنظمة".
وذكر براد سميث، رئيس شركة "مايكروسوفت"، خلال المؤتمر، إن السلوكيات الخارجة عن السيطرة للذكاء الاصطناعي جعلت 2026 "عامًا يدعو إلى التأمل والقلق"، وإن هناك حاجة ملحة إلى قوانين وقواعد جديدة لسلامة الذكاء الاصطناعي حتى تلحق إجراءات السلامة بركب الابتكار.
وتابع: "لا ينبغي لأي شركة أو تكنولوجيا أن تكون فوق القانون. لكننا نحتاج إلى قوانين، ونحتاج إلى تنظيم. ويجب أن يكون ذلك منطقيًا ومتوازنًا، وأن يأخذ الابتكارات في الاعتبار".
وأضاف: "إن هذه الحساسية المفرطة تجاه التنظيم التي يبديها بعض العاملين في القطاع هي أمر نحتاج، بصراحة، إلى تجاوزه".
وقال هاسابيس إن إنشاء هيئة دولية لوضع المعايير يبدو تدخلًا منطقيًا، لكنه شدد على ضرورة أن تكون مرنة وسريعة الاستجابة، حتى لا تعرقل الابتكار. انتهى 25