في الآونة الأخيرة انتشرت في كل أنحاء العالم فكرة الرقمنة لكل القطاعات والتحول لنموذج رقمي كامل في ادارة الدولة ولكن التساؤل المطروح هل ذلك مفيد على المدى الطويل؟ أو بالتحديد ماتأثير ذلك على استقرار الدول الداخلي؟ وكيف قد يؤدي تحكم الخوارزميات على القرارات الى تسبب بكارثة ؟
قبل أن ننتقل للسلبيات علينا أن نعرف أهم الفوائد المسوق لها:
يُروج للرقمنة الشاملة على أنها الحل السحري لإنهاء البيروقراطية وتقليل الفساد البشري وتسريع وتيرة الإنتاج.
الفكرة جذابة في ظاهرها: كاحدى الشعارات "دولة تعمل كالساعة، ببيانات دقيقة وقرارات فورية".
هذا النموذج يوهمنا بالسيطرة الكاملة، لكنه في الحقيقة ينقل السيطرة من يد الإرادة البشرية إلى يد المنطق البرمجي الذي صممه بشر آخرون.
ولكن الرقمنة هي رغما قوته التي تشبه واقع بديل الا أنه هش وأي أزمة ستسقطه بسهولة ولنأخذ على سبيل المثال العملات الرقمية والأنظمة المالية المؤتمتة بالكامل ,في حال حدوث انهيار مفاجئ أو هجوم سيبراني، تصبح الدولة مشلولة تماماً.
الخوارزميات التي تدير الأسواق لا تملك حساً وطنياً أو اجتماعياً؛ فهي مبرمجة على الهروب أو الإغلاق عند استشعار الخطر، مما قد يؤدي إلى تبخر مدخرات الشعوب في ثوانٍ دون قدرة أي مسؤول بشري على التدخل لإيقاف النزيف الرقمي، لأن القرار ببساطة لم يعد بيده
ونفس الشيء على بقية القطاعات ولدي مثال واقعي بسيط لحادث حدث قبل مدة ألا وهو كارثة طائرات (بوينج 737 ماكس)، كان هناك نظام خوارزمي يسمى (MCAS) صُمم ليتحكم في توازن الطائرة تلقائياً, بسبب بيانات خاطئة من مستشعر واحد، اعتقدت الخوارزمية أن الطائرة ترتفع بشكل حاد، فاتخذت قراراً آلياً بدفع مقدمة الطائرة نحو الأسفل. والمأساة الحقيقية لم تكن في الخطأ التقني فحسب، بل في سيطرة الآلة؛ حيث حاول الطيارون يائسين استعادة التحكم اليدوي ورفع الطائرة، لكن الخوارزمية كانت تعيد دفعها للأسفل في كل مرة حتى انتهى الأمر بالتحطم ومقتل المئات.
ومن أكثر الاحتمالات الكارثية للتأمل في خطورة تفويض القرار الوجودي للآلة عبر استحضار ذاكرة الحرب الباردة.
في عام 1983، أعطت أنظمة الإنذار المبكر السوفيتية إشارة باختراق صواريخ نووية أمريكية للمجال الجوي. كان "البروتوكول الرقمي" يقتضي الرد الفوري بضربة مضادة تقضي على نصف الكوكب.
ولكن العقيد السوفيتي ستانيسلاف بيتروف لم يتبع الخوارزمية. بحدسه البشري ومراقبته للسياق، قرر أن النظام مخطئ وتجاهل الإنذار، ليتبين لاحقاً أنه كان مجرد خلل تقني ناتج عن انعكاس ضوء الشمس.
ولكن التساؤل الذي يطرح نفسه.. لو أن ذلك في عصر الرقمنة الشاملة والذكاء الاصطناعي المستقل، حيث لا مكان لقرار البشر، هل كانت الآلة ستتوقف لتفكر؟ أم أنها كانت ستنفذ الكارثة بدقة تقنية متناهية؟
في النهاية... هل نحن بصدد بناء مجتمع أكثر كفاءة، أم أننا نسلم مفاتيح وجودنا لسجان لا يملك قلباً ولا يفهم معنى الاستثناء؟ وماهو الحل في رأيك؟ وهل ترى أنه هناك قطاع معين يجب عدم رقمنته؟
التعليقات