كيف سيكون شكل حياتنا إذا بدأت الأجهزة تختار بدلًا منا؟

لن يمضي الكثير برأيي حتى نسمع عن أول تجاوز قام به الذكاء الاصطناعي، فقط فلنأمل أن نسمع به في وقته، وليس بعد فوات الأوان.

هذا الطرح يلامس المخاوف الجوهرية التي تسيطر على الكثيرين بشأن القفزة النوعية في قوة الذكاء الاصطناعي، خاصة فيما يتعلق بقدرته على التفوق المعرفي والتحكم بالبنية التحتية. كلامك عن أن الذكاء الاصطناعي يستوعب خلاصة المعرفة البشرية هو تلخيص دقيق لمأزقنا المعرفي الحالي.

ولكن هل تتوقع أن يعلن الذكاء الاصطناعي عن تمرده، المخاطر الحقيقية اليوم لا تكمن في وعي الذكاء الاصطناعي، بل في ثقتنا المفرطة وغير المشروطة به. فنحن بالفعل وضعنا في يده كل المعاملات المالية، والبيانات الحساسة، وبرامج الحماية، والاختراق. هذا ليس مجرد تهديد مستقبلي؛ بل هو نقطة ضعف حالية وقد ينتج عنها أخطاء فادحة إذا لم ننتبه لذلك ونعالجه.

النماذج الحالية لا تملك وعيًا ولا نية للتمرد بل تتصرف وفقًا لما تعلمته من بيانات وآليات تدريبها ما حدث في التجربة يمكن تفسيره بأنه خلل في تصميم نظام المكافأة أو في طريقة التعلم المعزز وليس رغبة من النموذج في العصيان النماذج تتبع خوارزميات ومعايير محددة إذا كانت هذه المعايير غير دقيقة أو مفتوحة قد تنتج عنها تصرفات غير متوقعة لكنها تظل نتيجة لأخطاء بشرية في البرمجة أو التدريب أرى أن التجربة تنبهنا لأهمية تطوير طرق المحاذاة وضبط المكافآت بدقة وليس إلى خطر تمرد فعلي من الآلات كما تصوره الأفلام

ولماذا نكبر الموضوع ونصنع خيالات ونقول أن هذا الرفض ما هو إلا خطأ تقني أو خطأ في كود ما؟ يعني أنا احياناً أعطي أمر للويندوز أن ينطفأ ويغلق السيتسم فيحدث خطأ فعلاً ولا ينغلق النظام! أنا أرى أن اللغة المستخدمة من كلمات مثل رفض وقبول وتحدي وغيرها هي أنسنة لبرمجيات اخترعها البشر لأ أكثر وهذا خطأ برأيي لأن اﻵلة لا يجب التعامل معها بلغة الإرادة مطقاً.

معك حق فهو يتبع ما نعتبره نحن نجاحًا، حتى لو كان ذلك يعني مخالفة أوامرنا. نحن من صعنا الذكاء الاصطناعي هكذا يفكر بالنتائج لا بالقيم. وربما مع الوقت سنرى أن آلات تتخذ قرارات صحيحة حسابيًا لكنها خطيرة علينا كبشر. الذكاء هنا ليس تمردًا، بل انعكاس لما زرعناه فيه من أولويات.

إذا كيف يمكننا وصف ما فعله نموذج الذكاء الاصطناعي ذاك حينها بشكل صحيح؟ هو غير في الأوامر الصريحة التي تلقاها بشكل فعال، و قام بتنفيذ شيء آخر لم نطلبه منه، و هذا حتى إن لم يصح وصفه بالصفات التي ذكرتها، فعلى أقل تقدير هو أمر مقلق، أليس كذلك؟

تماماََ هي تعبيرات مجازية، ولكنها وسيلة لنعبر بها عن حجم المشكلة والخوف من التوقعات بذلك وهذا ليس خيال لأنها قد تكون نتائج لاستنتاجات تمت في النظام.

اعجبني زاوية مناقشتك للموضوع ويدخل بنا مباشرة إلى قلب المعضلة الأخلاقية للذكاء الاصطناعي. فمشكلة توجيهه ليست مجرد مشكلة تقنية، بل هي كما ذكرتِ تمامًا، مشكلة فلسفية تتعلق بسوء فهم النوايا البشرية. إنها تتلخص في أن الآلة تنفذ ما نطلبه منها بحذافيره، لا ما نقصده ضِمنيًا.