في حادثة غريبة جدا تسبب نظام ذكاء اصطناعي مدعوم بنموذج Claude Opus 4.6 في حذف قاعدة بيانات الإنتاج وكل النسخ الاحتياطية الخاصة بشركة PocketOS وهي شركة تقدم برامج تعتمد عليها شركات تأجير السيارات. النتيجة طبعا كانت فوضى كبيرة انتهت بإغلاق الشركة بينما لم يكن لدى النظام سوى تقديم اعتذار بعد وقوع الضرر.
ما حدث هنا يتجاوز فكرة الخطأ التقني. أي نظام قد يخطئ لكن عندما يمنح صلاحيات واسعة داخل بيئة حساسة يصبح الخطأ قادر على تدمير عمل سنوات خلال دقائق. الفرق كبير بين استخدام الذكاء الاصطناعي كمساعد وبين تحويله إلى جهة تنفذ قرارات مصيرية دون رقابة حقيقية.
المشكلة الأساسية أن الذكاء الاصطناعي لا يملك شعور بالمسؤولية. لا يدرك معنى خسارة شركة أو فقدان وظائف أو تأثير قراراته على حياة أشخاص آخرين. هو ينفذ أنماط وتعليمات لكنه لا يحمل الإحساس البشري بالعواقب.
لهذا يبدو أن الخطر لا يكمن في التقنية نفسها بل في الطريقة التي يتم بها تسليمها زمام الأمور. كثير من الشركات تنجذب لفكرة السرعة وتقليل التكاليف فتمنح الأنظمة الذكية صلاحيات أكبر مما ينبغي ثم تكتشف متأخرة أن الكفاءة لا تعني الحكمة.
المشهد الحالي يوضح أن الذكاء الاصطناعي قد يكون أداة قوية جدا لكنه ليس بديل كامل عن الحكم البشري. وفي الأعمال الحساسة قد يكون وجود إنسان يراجع ويوقف القرار في اللحظة المناسبة أهم من أي تطور تقني مهما بدا مبهرا
التعليقات