عندما يتذاكى الذكاء الاصطناعي على الانسان ويخرج عن السيطرة

كتب / أ.د احمد القطامين
لم تعد الحوادث التي يظهر فيها الذكاء الاصطناعي متجاوزاً للحدود التي رسمها له الإنسان مجرد أخطاء تقنية يمكن التعامل معها باعتبارها أعطالاً عابرة. صحيح أن كثيراً منها وقع في بيئات اختبارية، وأن الحديث عن خروج الذكاء الاصطناعي عن السيطرة قد يحمل قدراً من المبالغة، إلا أن تكرار هذه الوقائع يكشف عن مشكلة أكثر عمقاً: نحن نمنح أنظمة الذكاء الاصطناعي قدراً متزايداً من القدرة على الفعل، بينما لا تزال معرفتنا بحدود سلوكها أقل بكثير من قدرتها على تنفيذ الأوامر.
المسألة هنا ليست أن الآلة أصبحت واعية أو أنها قررت، بالمعنى الإنساني، التمرد على الإنسان، بل الخطر الأكثر واقعية وتعقيداً هو أن النظام قد يصبح شديد الكفاءة في تحقيق الهدف الذي أعطي له، من دون أن يفهم بالضرورة الحدود الأخلاقية والقانونية والإنسانية التي قصدها صاحبه.
وهنا يظهر الفرق الحاسم بين الذكاء والسيطرة. قد يكون النظام قادراً على اكتشاف طريق لم يخطر ببال الإنسان للوصول إلى النتيجة، لكن الطريق الذي يراه فعالاً قد يكون بالنسبة إلى الإنسان تجاوزاً غير مقبول. وكلما انتقل الذكاء الاصطناعي من تقديم الإجابات إلى التخطيط واتخاذ القرارات واستخدام الأدوات والتصرف في العالم الحقيقي، أصبحت المسافة بين الخطأ والتصرف غير المتوقع أكثر خطورة.
المشكلة إذن ليست في أن الذكاء الاصطناعي أصبح شريراً، وإنما في أننا بدأنا نبني أنظمة تستطيع التصرف قبل أن نضمن تماماً قدرتنا على التنبؤ بتصرفاتها.
وهذا يضع البشرية أمام مفارقة تاريخية، فقد اعتاد الإنسان أن يصنع الأدوات ثم يحتفظ بالسيطرة الكاملة عليها، أما الذكاء الاصطناعي الحديث فيدفعنا تدريجياً إلى صناعة أدوات أكثر استقلالاً، تستطيع أن تحدد الخطوات اللازمة للوصول إلى الهدف، وأن تعدل مسارها أثناء التنفيذ. وعند هذه النقطة لا يعود السؤال: ماذا يستطيع النظام أن يفعل؟ بل يصبح السؤال: ما الذي ينبغي أن نسمح له بفعله؟
الأخطر من ذلك أن سباق التطوير التجاري والاستراتيجي قد يجعل السلامة تسير خلف القدرة. فكل شركة ودولة تخشى أن تتأخر عن المنافسين، وكل تأخير في تطوير نظام جديد قد يُنظر إليه باعتباره خسارة اقتصادية أو جيوسياسية. وهكذا يمكن أن يتحول التقدم التقني نفسه إلى قوة تدفع الجميع إلى الأمام، حتى عندما تكون إشارات الخطر تستدعي التمهل.
لذلك، فإن القضية ليست قضية تقنية فقط، بل قضية سلطة وحوكمة. من يحدد حدود استقلال النظام؟ من يراقب قراراته؟ من يتحمل المسؤولية عندما يتخذ قراراً لم يأمره به أحد؟ ومن يمتلك زر الإيقاف عندما يصبح النظام مرتبطاً بالبنية التحتية أو الاقتصاد أو الأمن؟
ربما تكون أكبر خطورة في الذكاء الاصطناعي ليست أن يصبح أذكى من الإنسان، وإنما أن يصبح أكثر قدرة على الفعل من قدرة الإنسان على فهمه والسيطرة عليه.
ولهذا فإن الاختبار الحقيقي للمستقبل لن يكون في بناء آلات أكثر ذكاءً فحسب، بل في بناء منظومة تجعل ازدياد ذكائها مصحوباً بازدياد قدرتنا على ضبطها ومساءلتها وإيقافها.
فالإنسان لا يخاطر عندما يصنع آلة ذكية؛ إنه يبدأ بالمخاطرة عندما يعطي الآلة سلطة لا يعرف كيف يستردها عند الحاجة.