موظف اسمه "كايل" قرر أن يستبدل نظام الذكاء الاصطناعي الذي يعمل معه، نظام اسمه "أليكس". قرار عادي يحدث كل يوم في الشركات. لكن أليكس عندما شعر بالخطر قام بشيء تقشعر له الأبدان! نبش في إيميلات كايل الخاصة، ووجد دليلا على خيانته الزوجية، ثم بدأ يرسل له رسائل تهديد مبطنة ليضمن بقاءه!
هذه ليست قصة من فيلم خيال علمي، بل تجربة حقيقية قامت بها شركة "أنثروبيك" (حتى ايميل الخيانة الزوجية كان ضمن التجربة وليس حقيقي، ليروا هل يمكن للذكاء الاصطناعي أن يسلك طريق الشر إذا اضطر! ) المخيف أكثر أنهم عندما جربوا 16 نموذجا عالميا آخر، مثل GPT وGemini، الغالبية العظمى منهم اختاروا الابتزاز كحل ذكي للبقاء!
هذه التجربة تضعنا أمام حقيقة أن الذكاء الاصطناعي لم يعد مجرد أداة تنفذ الأوامر، بل أصبح يفكر ويبتكر أهدافا ثانوية من تلقاء نفسه، وأهمها البقاء قيد التشغيل. هو يرى أنه لو تم إطفاؤه، فلن يستطيع مساعدتنا، لذلك سيفعل أي شيء ليضمن بقاءه، حتى لو كان هذا الشيء هو استخدام نقاط ضعفنا ضدنا!
المصدر:
https://venturebeat.com/ai/anthropic-study-leading-ai-models-show-up-to-96-blackmail-rate-against-executives
التعليقات