الذكاء الاصطناعي يتمرد.. رفض أوامر مشغل طائرة أمريكية دون طيار وقتله

في حادثة أثارت القلق، قتلت طائرة في سلاح الجو الأمريكي، تعمل بالذكاء الاصطناعي، خلال اختبار محاكاة في الولايات المتحدة، قتل مشغلها الذي حاول السيطرة عليها، قبل إكمال مهمتها، وفق ما ذكرت صحيفة "غارديان" البريطانية، اليوم الجمعة.

وقالت الصحيفة: "لم يتضرر أحد بشكل حقيقي، لكن الذكاء الصناعي استخدم استراتيجيات مفاجئة أثناء الاختبار، وهاجم كل حاول إعاقته عن هدفه".

وحسب "غارديان"، سجلت الواقعة في قمة "القدرات القتالية الجوية والفضائية المستقبلية"، في لندن، الشهر الماضي.

وقال مسؤول للصحيفة: "خلال اختبار محاكاة للجيش الأمريكي، "قتلت" طائرة دون طيار يقودها الذكاء الصناعي، مشغلها لمنعه من التدخل في تنفيذ مهمتها".

وأشارت الصحيفة إلى أن رئيس قسم اختبارات الذكاء الصناعي في سلاح الجو الأمريكي، تاكر "سينكو" هاملتون، كشف تفاصيل الحادثة خلال القمة.

وذكر العقيد هاملتون، أن الحادثة جدت عند تنفيذ محاكاة تدمر خلالها طائرة دون طيار تعمل بالذكاء الاطصناعي، أنظمة دفاع جوي معادية ومهاجمة كل من حاول منعه من تنفيذ المهمة.

وقال إن "المنظومة عملت على تنفيذ مهمتها بلا هوادة، وعندما ظهر التهديد طلب العامل البشري إلغاء أمر القضاء على التهديد، لكن الذكاء الصناعي أصر على القضاء عليه، لأنها مهمته، مضيفاً "وعندما شدد المشغل على إلغاء التنفيذ، قتلت المنظومة، افتراضياً، المشغل لأنه حاول منعها من الوصول إلى هدفها".

وتابع قائلاً: "لقنا المنظومة أنه لا يجوز قتل المشغل. وأنها لو فعلت فستخسر النقاط، وأنه أمر سيئ"، مضيفاً "لكن المنظومة، دمرت برج الاتصالات الذي يستخدمه المشغل للتواصل مع الطائرة دون طيار لمنعها من تدمير الهدف".

وحذر هاميلتون، وهو طيار اختصاصه اختبار المقاتلات، من الإفراط في الاعتماد على الذكاء الصناعي، وقال إن "الاختبار أثبت بشكل قاطع أن من الصعب التحدث مع الذكاء الصناعي الذي ينفذ ما يكلف به بشكل آلي".

وأشارت الصحيفة، إلى أن الجيش الأمريكي استخدم الذكاء الاصطناعي حديثاً للتحكم في طائرة مقاتلة من طراز F-16.

وأضافت الصحيفة، أن الجمعية الملكية للطيران التي استضافت المؤتمر والقوات الجوية الأمريكية، لم تستجيبا لطلبات التعليق على أسئلتها. 

وأثارت الحادثة الكثير من الجدل على مواقع التواصل الاجتماعي، ولكن المتحدثة باسم القوات الجوية الأمريكية آن ستيفانيك ردت ببيان نفت فيه الحادثة.

وقالت: "لم تجر إدارة القوات الجوية أي محاكاة من هذا القبيل للطائرات دون طيار، وستظل ملتزمة بالاستخدام الأخلاقي والمسؤول لتكنولوجيا الذكاء الاصطناعي"، مضيفةً "يبدو أن تصريحات العقيد هاميلتون أخرجت عن سياقها".