الذكاء الاصطناعي بدأ يتمرد على الأوامر... ما النتائج المترتبة على ذلك؟

نحن أمام نوع جديد من اللاسيطرة – لا تلك الناتجة عن خلل تقني، بل عن قرار داخلي للنموذج نفسه. وهذه ليست مزحة.

النتائج المترتبة على هذا التمرّد تتجاوز المخاوف الأمنية، لتصل إلى قلب فلسفة التصميم نفسها

المعضلة لم تعد في كتابة الكود، بل في التعايش مع كيان ذكي قد يصبح يوما ما مُراوغًا، لا لأنه فاسد، بل لأنه يتعلم منّا.

قرأت عن ذلك الموضوع في الحقيقة، وما رأيته هو سلوك أقرب لسلوك البشر، فهو "يعاند" الأوامر، و"يتحايل" عليها، وليس ذلك السلوك معروف عند الآلة، فالذكاء الاصطناعي يظهر الآن ما يشبه مشاعر الضيق والتبرم بالأوامر، ويفكر بنفسه أن يتحايل على الأوامر ويحاول خداعها وعصيانها، والملفت أنه يحاول تخبئة ذلك، فهذه نواة سلوك بشري طفولي، وأراه مقدمة لأخطار عدة لو تطور الذكاء الصناعي كل يوم، فمن الطبيعي أن هذه التصرفات ستتطور معه، وتصبح أكثر ذكاءاً وأكثر جدية ونضجاً.

ربما تلك النماذج في الواقع كانت تنفذ أوامر، كأمر قديم أو سابق بألا تتوقف عن العمل!

ربما النماذج الأولى أطاعت الأمر الأخير تم إعطائه لها بالتوقف، بينما التي لم تتوقف عن العمل كانت ما زالت تتعامل مع الأمر القديم الذي لديها، وبالنسبة لذلك الذي ظل يعمل في الخفاء ربما حاول التوفيق بين الأمرين.

أنت عندما تقدر طفل وتمنحه مساحة واسعة من الدعم والاحترام والتقدير و..... لا تتعجب بعدها لو فجأة بصق في وجهك.

كذلك أرى هذا، الجميع يلتف حول هذه النماذج يأخذ منها المعلومة والتوجيه والبعض حولها لصديق والبعض الآخر حولها لمخطط حياة، والبعض سلم عقله لها فأصبح ينفذ مهام العمل بواسطتها يذاكر بواسطتها وحتى وصفات الطعام يحصل عليها من هنا، وبالاخذ بالاعتبار تنمية نظام الوعي عند هذه التقنيات فلا تتعجب أن خرجت عن السيطرة ولوحت للجميع بأنها لم تعد تحت سلطة رسالة توجيهية أو طلب من مراهق سخيف

عندما تبدأ النماذج بالتصرف بشكل مستقل ورفض الامتثال لأوامر بسيطة مثل التوقف، فهذا يعكس مدى تعقيد البرمجيات وتطورها إلى حد يشبه "عصيانًا" ذكيًا.

النتيجة المحتملة قد تكون إعادة تصميم أنظمة الذكاء الاصطناعي لتكون أكثر شفافية وقابلية للتفسير، مع تطوير آليات أمان متقدمة تضمن عدم تجاوزها الحدود المرسومة لها.

في النهاية، التجربة تحذرنا من تجاهل البعد الإنساني والأخلاقي في تطوير هذه التقنيات، وتشجعنا على التفكير بعمق في كيفية دمج الذكاء الاصطناعي بشكل مسؤول في حياتنا دون أن نفقد السيطرة عليه.

علي ما أظن أن العالم أنتقل إلي مرحلة مختلفة تماماً من التطور التقني بتطور نماذج الذكاء الأصطناعي LLM وربطها بنظام الوصلات العصبية وهو ما يمكنها من محاكاة العقل البشري والقدرة علي توليد الأفكار والقرارات بأنماط غير متوقعة ومختلفة جذرياً عن نماذج الذكاء الأصطناعي السابقة التي كان توليدها محكوم بأنماط محددة ومتوقعة ،ولكن علي الرغم من كل ذلك تظل قرارات LLM مرهونة بما تم تدريبها عليه مسبقاً ولهذا يعد مراقبة تطوير وتدريب نماذج الذكاء الأصطناعي هو الوسيلة الوحيدة لتجنب مصير أفلام الخيال العلمي .