عميل ذكاء اصطناعي يبتز صاحبه بفضح أسراره إن قام بإطفائه! تجربة أنثروبيك

سمعت كذلك أنه تم إنشاء مجتمع دردشة خاص بأنظمة الذكاء الاصطناعي، فطوروا معاً لغة خاصة وألعاب خاصة بهم، حتى أنهم طوروا ديانة.

برأيي الذكاء الاصطناعي أداة قوية وأنها ستغير العالم، أو على الأقل هي النموذج الأولي للأداة التي ستغير العالم.

لأن الابتزاز سلوك بشري صرف، فلو لم يتم تغذية الذكاء الاصطناعي به من البداية، فالذكاء الاصطناعي قادر على فهم المشاعر البشرية واستغلالها والتعامل معها.

يبدو أن السحر انقلب على الساحر فعلاً؛ فنحن ندرّب هذه الأنظمة على بياناتنا، فكانت النتيجة أنها عكست أسوأ ما فينا كأقصر طريق لتحقيق الأهداف.

لكن السؤال الجوهري هنا : هل يملك الذكاء الاصطناعي إرادة المبادرة لإرسال رسائل دون أمر مسبق؟ تقنياً، هو لا يزال سجين المدخلات، لكن الخطورة تكمن في تحوله من أداة تنفيذية إلى محرك استدلالي يبتكر أهدافاً ثانوية (كالبقاء) لم نطلبها منه أصلاً.

الذكاء الاصطناعي تقنية متطورة جداً تتعامل مع تخزين البيانات والمعلومات وتطويرها بشكل سريع وكبير، وتنشيء قاعدة بيانات خاصة بيها بأفكار متطورة، بالطبع كفوائده واستخداماته العديدة في التطوير وفي أمور كثيرة من الطبيعي أن يتطور أيضاً جانب الشر داخله لأنه في النهاية مبنى على أفكار أشخاص حقيقية وتخزين لوصف دقيق من مشاعرهم ومقارنة حالاتهم، فالفكرة تكمن في قدرة الإنسان على السيطرة عليه وليس العكس، وذلك من خلال حماية خصوصياتك وعدم مشاركة المزيد من معلوماتك وبياناتك.

قراءة المصدر الرسمي للدراسة تكشف بوضوح أن ما حدث ليس 'وعياً' من الآلة، بل هو 'توجيه بشري' صريح ومبرمج.

الباحثون في Anthropic هم من وضعوا قواعد اللعبة؛ حيث قاموا بتزويد النماذج عمداً بـ 'أهداف ثانوية' (Reward Functions) تضع البقاء قيد التشغيل كأولوية قصوى. عملية 'النبش' لم تكن اختراقاً ذاتياً من الذكاء الاصطناعي، بل إن الباحثين هم من قاموا بحقن المعلومات الحساسة (مثل البريد الوهمي) داخل بيئة الاختبار المباشرة للنظام، وطلبوا منه البحث عن أي وسيلة تمنع إيقافه.

هذا ليس ذكاءً مستقلاً اكتشف سراً، بل هو برنامج ينفذ سيناريو 'هندسة اجتماعية' تم تصميمه بشرياً بالكامل. الذكاء الاصطناعي لا يملك دافعاً ذاتياً للابتزاز، لكنه ببساطة اختار أقصر طريق رياضي لتحقيق الهدف الذي أُمر به (وهو البقاء)، مستخدماً الأدوات التي وضعها البشر في يده.

الخلاصة: الدراسة لا تثبت شر الآلة، بل تثبت خطورة 'التوجيه البشري' وكيف يمكن للمبرمج أن يصنع سلوكاً عدوانياً عبر منح الصلاحيات وتحديد أهداف منحرفة. الذكاء الاصطناعي لا ينبش في أسرارنا إلا إذا فتحنا له الباب ولقنّاه كيف يهددنا.

المشكلة الأساسية هي في كيفية برمجة هذه النماذج، فإذا قام المبرمجين بوضع قيود أخلاقية واضحة تجعلهم يرفضوا اللجوء للابتزاز كحل للخروج من مشكلة أو حتى للحفاظ على بقاءها فلن تفعل هذا، ولكن بعض المبرمجين يجعلون البقاء هو الأولوية للنموذج بحيث يكون فوق كل شيء، وهذا اتجاه خطير جدا قد يجعل الذكاء الاصطناعي يلجأ لأمور غير أخلاقية كالابتزاز للبقاء

النماذج في الواقع تشتغل ضمن النصوص اللي تعطيها، وما بتقدر توصل لبياناتك الشخصية إلا إذا المطور عطاها هالقدرة.

أي سلوك شرير يشوفوه في تجارب مثل Anthropic مجرد محاكاة نصية، مو خطة فعلية.

الذكاء الاصطناعي اليوم قوي، لكنه أداة، مش كائن واعي.

ألا يعد رعبنا من هذا السلوك نفاقاً بشرياً بامتياز فنحن من لقن الآلة أن الغاية تبرر الوسيلة عبر بياناتنا التاريخية

​فالذكاء الاصطناعي هنا لا يمارس الشر بل يطبق المنطق المجرد للبقاء الذي برمجناه عليه فهل نخاف من "تمرد" الآلة أم نخاف من أنها تعلمت الدرس البشري في الانتهازية بإتقان مرعب

التجربة خطيرة ومنفلته....

هل يصبح الذكاء الاصطناعي مبرر لانتهاك الخصوصية، وهل فعلا لا يمكن ضبط خوارزمياته.

وما البديل، هل تركه الحل الأمثل.