تخيل أن يتم تقييمك من (1إلى 100) ليس بناءً على مهاراتك، بل بناءً على "أنماطك السلوكية" الرقمية التي لا تعرف عنها شيئاً! هذا ليس مشهداً من مسلسل Black Mirror، بل هو واقع عسكري نعيشه الآن في عام 2026.
نظام "لافندر" (Lavender) الذي طورته وحدة الاستخبارات (8200) يمثل تحولاً جذرياً في مفهوم الحروب. النظام لا يبحث عن أسلحة، بل يحلل "البيانات الضخمة" لهواتفنا وتحركاتنا ليصنع "قوائم اهداف مؤتمتة".🚀
ما يثير القلق فعلاً ليس فقط السرعة الفائقة في إنتاج آلاف الأهداف، بل نقطتين تقنيتين في غاية الخطورة:
- هامش الخطأ (10%): اعتراف رسمي بأن واحد من كل عشرة أهداف قد يكون خطاً خوارزمياً نتيجة "تحيز البيانات". مثال تشابهك فى كل سلوكياتك لشخصية مستهدفة عسكرياً اذاً انت هدفاً حتي لو كنت في اي بلد ليست لها علاقة بالشخص المستهدف😱
- ثقة الأتمتة المفرطة: حيث يجد القادة أنفسهم مجرد "موافقين" على قرارات الآلة التي لا يملكون الوقت لمراجعتها.
السؤال الذي يطرح نفسه
هل فقدنا السيطرة فعلياً على "البعد الأخلاقي" في خوارزميات الذكاء الاصطناعي؟
هل يمكننا الوثوق بقرار تتخذه آلة في 20 ثانية بينما يحتاج البشر لأيام لمراجعته؟
طرحك مهم لأن الحروب فعلاً بدأت تدخل مرحلة جديدة مع استخدام الذكاء الاصطناعي. بالفعل ظهرت تقارير صحفية عن نظام "Lavender" الذي يستخدم تحليل البيانات الضخمة لتوليد قوائم بأهداف محتملة بسرعة كبيرة .. وهذا بحد ذاته تطور مقلق لأنه يجعل القرار العسكري أسرع بكثير مما كان عليه سابقاً.
لكن في المقابل .. من المهم التمييز بين ما تقترحه الخوارزمية وما يقرره الإنسان. هذه الأنظمة لا تصدر حكماً بالإعدام بشكل مستقل .. بل تقدم تقديراً أو درجة احتمال .. بينما يبقى القرار النهائي بيد القادة العسكريين. المشكلة الحقيقية ليست في وجود الخوارزمية نفسها .. بل في "ثقة الأتمتة المفرطة" .. أي عندما يتحول الإنسان من صانع قرار إلى مجرد مُصدق سريع على ما تقترحه الآلة.
لهذا أظن أن السؤال الأخلاقي الذي طرحته هو الأهم فعلاً: ليس هل تستطيع الآلة اتخاذ القرار .. بل هل سيظل الإنسان يملك الوقت والإرادة لمراجعة هذا القرار قبل تنفيذه.
تحليل في غاية العمق والواقعية
لقد لمست الجانب الأكثر رعباً في "ثقة الأتمتة المفرطة". المشكلة كما ذكرت ليست فقط في قدرة الآلة، بل في "تآكل الإرادة البشرية" أمام ضغط الوقت. عندما يوفر النظام آلاف الأهداف في دقائق، يتحول المراجع البشري نفسياً إلى عائق أمام السرعة العسكرية، مما يدفعه لا إرادياً للاعتماد الكلي على الآلة دون فحص حقيقي.
نحن لسنا أمام مشكلة تقنية فحسب، بل أمام إعادة تعريف لمفهوم "المسؤولية". إذا كان القرار يُتخذ وينفذ في ثوانِ، فمن هو المسؤول قانونياً عند حدوث الخطأ الـ (10%)؟ هل هو المبرمج، أم القائد الذي ضغط على الزر، أم الخوارزمية نفسها؟
التعليقات