المخاطر العسكرية للذكاء الاصطناعي أكثر من مخاوف؟

ماذا سيحصل في حال قرر الذكاء الاصطناعي شن هجوم في المستقبل القريب، فهل سيكون الانقراض البشري أحد الأضرار الجانبية؟ الاجابة في تحليل بموقع fpif.org، يركز على سيناريو حرب كارثية من شأنها أن تنهي البشرية إن لم تباشر القوى العظمى باستباق الحلول. ووفقاً للمقال، “لا شك في أن من المرعب تخيل عالم تحل فيه الآلات التي يحكمها الذكاء الاصطناعي مكان البشر بصورة منهجية في معظم الوظائف التجارية والصناعية والمهنية. ولكن في النهاية، حذرنا علماء الكمبيوتر البارزون بالفعل من أن الأنظمة التي يحكمها الذكاء الاصطناعي معرضة لأخطاء فادحة ولا يمكن تفسيرها، ما يؤدي إلى نتائج كارثية محتملة. ولكن هناك سيناريو أكثر خطورة بعد: احتمال طمس الحياة البشرية بفعل الاقتتال بين هذه الكيانات غير البشرية.

ولطالما شكلت الفكرة القائلة بأن أجهزة الكمبيوتر فائقة الذكاء قد تتحرك ضد البشر، عنصراً أساسياً في الثقافة الشعبية. وعلى الرغم من أن مفهوم أجهزة الكمبيوتر العملاقة التي قد تقتل البشر في يوم من الأيام يقتصر على عالم الخيال العلمي، بات الآن احتمالاً واضحاً في العالم الواقعي وفي المستقبل القريب. فبالاضافة إلى تطوير مجموعة متنوعة من الأجهزة القتالية “المستقلة” أو الروبوتية، تسارع القوى العسكرية الكبرى الى إنشاء أنظمة آلية لصنع القرار في ساحة المعركة، أو ما يمكن تسميته “جنرالات الروبوتات”. في الحروب في المستقبل غير البعيد، يمكن نشر هذه الأنظمة التي تعمل بالذكاء الاصطناعي لإيصال أوامر قتالية الى الجنود الأميركيين وتحديد أين ومتى وكيف يقتلون قوات العدو أو يطلقون النار على خصومهم. في بعض السيناريوهات، قد ينتهي الأمر بصنّاع القرار الآليين الى فرض السيطرة على الأسلحة الذرية الأميركية، ما قد يسمح بإشعال حرب نووية تؤدي إلى زوال البشرية.

وعلى الرغم من أن تثبيت نظام القيادة والتحكم الذي قد يعمل بالذكاء الاصطناعي احتمال بعيد المنال، تعمل وزارة الدفاع الأميركية جاهدة لتطوير الأجهزة والبرامج المطلوبة بطريقة منهجية وسريعة بصورة متزايدة. وفي ميزانيتها لعام 2023 على سبيل المثال، طلبت القوات الجوية 231 مليون دولار لتطوير نظام إدارة ساحة المعركة المتقدم، وهي شبكة معقدة من أجهزة الاستشعار وأجهزة الكمبيوتر التي تدعم الذكاء الاصطناعي والمصممة لجمع البيانات وتفسيرها حول عمليات العدو وتوفير الطيارين والقوات البرية مع قائمة الخيارات المثلى للهجوم. وبفضل التقدم التكنولوجي، سيستطيع النظام إرسال تعليمات “إطلاق النار” مباشرة إلى “الرماة”، متجاوزاً التحكم البشري إلى حد كبير.

ويهدف نظام ABMS التابع لسلاح الجو الى تشكيل نواة مجموعة أكبر من أجهزة الاستشعار وأجهزة الكمبيوتر التي ستربط جميع القوات القتالية الأميركية في نظام القيادة والتحكم المشترك لجميع المجالات (JADC2) والذي يعتزم تمكين القادة من اتخاذ قرارات أفضل من خلال جمع البيانات من العديد من أجهزة الاستشعار ومعالجة البيانات باستخدام خوارزميات الذكاء الاصطناعي لتحديد الأهداف ثم التوصية بالسلاح الأمثل.

الذكاء الاصطناعي والخطر النووي

وحيث أن JADC2 سيصمم في البداية لتنسيق العمليات القتالية بين القوات الأميركية “التقليدية” أو غير النووية، يتوقع في نهاية المطاف استكمال ربط أنظمة التحكم بشكل قد يمنح أجهزة الكمبيوتر سيطرة كبيرة على استخدام الترسانة النووية الأميركية. ولا يتطلب الأمر قدراً كبيراً من الخيال لتصور تطور الأزمة إلى نوع من الصدام العسكري الأميركي – الصيني في بحر الصين الجنوبي أو بالقرب من تايوان واندلاع قتال أكثر حدة. تخيلوا أن تأمر منظومة JADC2 بقصف مكثف لقواعد العدو وأنظمة القيادة في الصين نفسها، بشكل يؤدي إلى هجمات متبادلة ضد المنشآت الأميركية وإشعال فتيل حرب نووية شاملة.

ولطالما أثار احتمال أن تؤدي سيناريوهات الكابوس من هذا النوع إلى اندلاع حرب نووية بصورة عرضية أو غير مقصودة قلق المحللين في مجتمع الحد من التسلح لفترة طويلة. لكن الأتمتة المتزايدة لأنظمة القيادة العسكرية C2 ولّدت القلق ليس بينهم وحسب، ولكن أيضاً بين كبار مسؤولي الأمن القومي. ويقر مسؤولو البنتاغون بأن وقتاً طويلاً سيمضي قبل أن يقود جنرالات الروبوتات أعداداً كبيرة من القوات الأميركية (والأسلحة المستقلة) في المعركة، لكنهم أطلقوا بالفعل العديد من المشاريع التي تهدف إلى اختبار هذه الروابط وإتقانها. وينبغي أن يشكل مثل هذا الاحتمال سبباً كافياً للقلق بسبب مخاطر الأخطاء وسوء التقدير من الخوارزميات في قلب هذه الأنظمة، وقدرتها على ارتكاب أخطاء لا يمكن تفسيرها بصورة ملحوظة.

في الوقت الحالي، ليس هناك فعلياً أي تدابير لمنع وقوع كارثة في المستقبل على خلفية سوء التقدير هذا، ولا أفق لأي محادثات بين القوى الكبرى لاستنباط التدابير الوقائية. ومع ذلك، لا شك في أن مثل هذه الاجراءات مطلوبة بصورة عاجلة للسيطرة على الأزمات ومنع التصعيد الآلي للنزاع. وإلا ستبدو بعض النسخ الكارثية للحرب العالمية الثالثة ممكنة للغاية. ونظراً الى عدم النضج الخطير لمثل هذه التكنولوجيا وإحجام بكين وموسكو وواشنطن عن فرض أي قيود على تسليح الذكاء الاصطناعي، فقد يحل اليوم الذي قد تختار فيه الآلات القضاء علينا في وقت أقرب بكثير مما نتخيل، وقد لا يعدو انقراض البشرية حينها أكثر من أحد الأضرار الجانبية لمثل هذه الحرب المستقبلية”.