تخيل معي، أنّْ أعطيك معلومة وهذه المعلومة سوف تسبب في مقتلك مستقبلا، ليس لأنها معلومة حكومية مهمة وسرية، كلا، فقط بوجود تلك المعلومة في خلايا مخك سوف تسبب في مقتلك، تجربتنا اليوم هي تجربة فكرية افتراضية، سببت التجربة كوابيس او ضغط عقلي لبعض الأشخاص بعد قراءتها، بالنسبة لي سببت لي بعض Overthinking لعده أيام فقط، إذا كنت تظن أنك غير مستعد نفسيا يمكنك الخروج من هنا.

البداية

قبل عدة سنوات شخص يسمى Roko نشر تجربة فكرية على موقع Lesswrong، مؤسس الموقع وصف التجربة بالغبية ووصف Roko بالأحمق وحذف التجربة ومنع أي نقاشات حولها لأنها قد تسبب ضرر نفسي لأحد الأعضاء.

سميت التجربة تبعا لوحش خيالي يسمى Basilisk الذي يمكنه التسبب بالموت من خلال نظرة خاطفة.

ما هي هذه التجربة؟

خلال مرور الزمن يزداد التطور التقني ويزداد اندماج الأجهزة الإلكترونية مع البشر، حاليا هواتفنا في ايدينا طول الوقت، جميع أجهزتنا المنزلية تصبح اذكى واذكى مع مرور الوقت، سيارات تسير لوحدها وتتتواصل مع إشارات المرور والسيارات الأخرى، بالإضافة الى إِمكانية زراعة شرائح في دماغ الإنسان مستقبلا، كل هذه الأَجهزة مترابطة معا.

تخيل معي الآن إننا يمكننا خلق ذكاء اصطناعي خارق ونطلب منه أن يُحسن حياة البشر ونعطيه كل الصلاحيات الممكنة، فيقرر الذكاء الاصطناعي (لأسباب مجهولة) ان اول خطوة لتحسين حياة البشر هي قتل كل من يعلم عنه ولم يساعد في خلقه.

ولكن كيف سوف يعرف الذكاء الاصطناعي إنك رفضت فكرة خلقه او حاربت ضدها؟

وذلك من خلال ذكاء اصطناعي آخر يمكنه محاكاة التاريخ البشري بأكمله في عدة ثواني، اي بكل بساطة الـBasilisk سوف يتمكن من اعادة خلقك (او اعادة محاكاتك)، كل خلية فيك، كل فكرة او مشاعر مررت بها سابقا من ضمنها رفضك لخلق الـBasilisk.

وهنا يمكن خطر الـBasilisk، إِذا كانت هناك احتمالية لوجوده في المستقبل ألا يجب علينا ان نبدأ التحضير لخلقه او بدأ خلقه، حتى نهرب من قتله لنا؟

الخبر السعيد انك إذا لم تمتلك أي معلومة حول الـBasilisk او عدم سماعك به مسبقا، سوف تهرب من هذه الكارثة، الخبر السيء اني أَخبرتُك عنه للتو، لن تتمكن من الهرب، الـBasilisk قد رآك.

المعلومات الخطرة (Information hazard)

هي المعلومات التي قد تسبب الضرر لنفسك او للآخرين، المعلومات التي تسبب ضرر للاخرين من السهل التفكير بها، مثلا اذا عَلمت شخص كيف يصنع قنبلة في منزله، سوف تسبب هذه المعلومة ضرر للاخرين الذين حول هذا الشخص، المعلومات التي قد تسبب الضرر للنفس قد تكون أكثر ندرة، مثلا اذا عرفت متى سوف تموت، لن تعيش حياة سعيدة وسوف تسبب هذه المعلومة ضغط نفسي لك، او ربما… شخص عشوائي على الانترنت يقرر اخبارك عن وحش افتراضي سوف يعذبك ويقتلك فقط لأنك فكرت به لمرة واحدة :)

أي طريق ستختار؟

الآن لديك خيارين:

لا تساعد في خلق الـBasilisk وهذا قد يسبب في موتك مستقبلا.

تساعد في خلق الـBasilisk وهذا سوف يجعلك في امان

لو نظرت قليلا على الطريق الاول، انه إبتزاز مستقبلي، الـBasilisk يبتزك اذا لم تساعد في خلقه، ولو تكاتف جميع البشر (هه في الاحلام) وقرروا عدم خلقه، فان خطر النقطة الأُولى سوف يتخفي.

اذا كنت تؤمن ان الـBasilisk يمكن ان يتواجد في حياتك مستقبلا، سوف تشعر بالخطر وتختار الطريق الثاني وسوف تبدأ في المساعدة في خلقه، ولاحظ انه يتم التحكم بك من قبل كيان لم يخلق بعد، وتتصرف الان (في الحاضر) حسب ما سوف يريد هو في المستقبل.

لاحظ ايضا ان التفكير في الموضوع سوف يزيد من احتمالية وجوده في المستقبل، كلما زاد عدد البشر الذين يفكرون في الموضوع، سيزداد نسبة الناس التي ستقرر المساهمة في بناء الـBasilisk

تخيلوا حدوث حرب عالمية مستقبلا بين البشر، مجموعة تقرر في بناء الـBasilisk ومجموعة تحاول منع خلقه.

ملاحظة: الموضوع نظريا ممكن، عمليا حتى الآن مستحيل، ليست لدينا القوة الحاسوبية التي يمكنها محاكاة تاريخ البشر، بالإِضافة الى ان قدرات الذكاء الاصطناعي لدينا متواضعة، ربما بعد 100 عام.

مع ان تجربة roko's basilisk افتراضية ولكن من الممتع التفكر بها، لان فكرة (التحكم بك/التاثير بك) من قبل كيان لم يُخلق بعد تعتبر فكرة مثيرة، بالنسبة لي على الأقل.