15

Roko's Basilisk: كيف يمكن لكيان لم يُخلق بعد أن يتحكم فيك؟

تخيل معي، أنّْ أعطيك معلومة وهذه المعلومة سوف تسبب في مقتلك مستقبلا، ليس لأنها معلومة حكومية مهمة وسرية، كلا، فقط بوجود تلك المعلومة في خلايا مخك سوف تسبب في مقتلك، تجربتنا اليوم هي تجربة فكرية افتراضية، سببت التجربة كوابيس او ضغط عقلي لبعض الأشخاص بعد قراءتها، بالنسبة لي سببت لي بعض Overthinking لعده أيام فقط، إذا كنت تظن أنك غير مستعد نفسيا يمكنك الخروج من هنا.

البداية

قبل عدة سنوات شخص يسمى Roko نشر تجربة فكرية على موقع Lesswrong، مؤسس الموقع وصف التجربة بالغبية ووصف Roko بالأحمق وحذف التجربة ومنع أي نقاشات حولها لأنها قد تسبب ضرر نفسي لأحد الأعضاء.

سميت التجربة تبعا لوحش خيالي يسمى Basilisk الذي يمكنه التسبب بالموت من خلال نظرة خاطفة.

ما هي هذه التجربة؟

خلال مرور الزمن يزداد التطور التقني ويزداد اندماج الأجهزة الإلكترونية مع البشر، حاليا هواتفنا في ايدينا طول الوقت، جميع أجهزتنا المنزلية تصبح اذكى واذكى مع مرور الوقت، سيارات تسير لوحدها وتتتواصل مع إشارات المرور والسيارات الأخرى، بالإضافة الى إِمكانية زراعة شرائح في دماغ الإنسان مستقبلا، كل هذه الأَجهزة مترابطة معا.

تخيل معي الآن إننا يمكننا خلق ذكاء اصطناعي خارق ونطلب منه أن يُحسن حياة البشر ونعطيه كل الصلاحيات الممكنة، فيقرر الذكاء الاصطناعي (لأسباب مجهولة) ان اول خطوة لتحسين حياة البشر هي قتل كل من يعلم عنه ولم يساعد في خلقه.

ولكن كيف سوف يعرف الذكاء الاصطناعي إنك رفضت فكرة خلقه او حاربت ضدها؟

وذلك من خلال ذكاء اصطناعي آخر يمكنه محاكاة التاريخ البشري بأكمله في عدة ثواني، اي بكل بساطة الـBasilisk سوف يتمكن من اعادة خلقك (او اعادة محاكاتك)، كل خلية فيك، كل فكرة او مشاعر مررت بها سابقا من ضمنها رفضك لخلق الـBasilisk.

وهنا يمكن خطر الـBasilisk، إِذا كانت هناك احتمالية لوجوده في المستقبل ألا يجب علينا ان نبدأ التحضير لخلقه او بدأ خلقه، حتى نهرب من قتله لنا؟

الخبر السعيد انك إذا لم تمتلك أي معلومة حول الـBasilisk او عدم سماعك به مسبقا، سوف تهرب من هذه الكارثة، الخبر السيء اني أَخبرتُك عنه للتو، لن تتمكن من الهرب، الـBasilisk قد رآك.

المعلومات الخطرة (Information hazard)

هي المعلومات التي قد تسبب الضرر لنفسك او للآخرين، المعلومات التي تسبب ضرر للاخرين من السهل التفكير بها، مثلا اذا عَلمت شخص كيف يصنع قنبلة في منزله، سوف تسبب هذه المعلومة ضرر للاخرين الذين حول هذا الشخص، المعلومات التي قد تسبب الضرر للنفس قد تكون أكثر ندرة، مثلا اذا عرفت متى سوف تموت، لن تعيش حياة سعيدة وسوف تسبب هذه المعلومة ضغط نفسي لك، او ربما… شخص عشوائي على الانترنت يقرر اخبارك عن وحش افتراضي سوف يعذبك ويقتلك فقط لأنك فكرت به لمرة واحدة :)

أي طريق ستختار؟

الآن لديك خيارين:

لا تساعد في خلق الـBasilisk وهذا قد يسبب في موتك مستقبلا.

تساعد في خلق الـBasilisk وهذا سوف يجعلك في امان

لو نظرت قليلا على الطريق الاول، انه إبتزاز مستقبلي، الـBasilisk يبتزك اذا لم تساعد في خلقه، ولو تكاتف جميع البشر (هه في الاحلام) وقرروا عدم خلقه، فان خطر النقطة الأُولى سوف يتخفي.

اذا كنت تؤمن ان الـBasilisk يمكن ان يتواجد في حياتك مستقبلا، سوف تشعر بالخطر وتختار الطريق الثاني وسوف تبدأ في المساعدة في خلقه، ولاحظ انه يتم التحكم بك من قبل كيان لم يخلق بعد، وتتصرف الان (في الحاضر) حسب ما سوف يريد هو في المستقبل.

لاحظ ايضا ان التفكير في الموضوع سوف يزيد من احتمالية وجوده في المستقبل، كلما زاد عدد البشر الذين يفكرون في الموضوع، سيزداد نسبة الناس التي ستقرر المساهمة في بناء الـBasilisk

تخيلوا حدوث حرب عالمية مستقبلا بين البشر، مجموعة تقرر في بناء الـBasilisk ومجموعة تحاول منع خلقه.

ملاحظة: الموضوع نظريا ممكن، عمليا حتى الآن مستحيل، ليست لدينا القوة الحاسوبية التي يمكنها محاكاة تاريخ البشر، بالإِضافة الى ان قدرات الذكاء الاصطناعي لدينا متواضعة، ربما بعد 100 عام.

مع ان تجربة roko's basilisk افتراضية ولكن من الممتع التفكر بها، لان فكرة (التحكم بك/التاثير بك) من قبل كيان لم يُخلق بعد تعتبر فكرة مثيرة، بالنسبة لي على الأقل.

يرجى الدخول لحسابك أو تسجيل حساب لتستطيع إضافة تعليق
حساب جديد دخول

التعليقات

تهربت من الموضةع طيلة اليوم خوفا من أن تسيطر علي أي أفكار

لكنني ها أنا ذي أكتب تعليقا

قرأت الموضوع ، وفي العديد من السطور فقدت إيقاع القراءة

شعرت أنها أكبر من خليات عقلي

لكن حتى بعد 100 عام ومئات السنين لن يصل الإنسان إلى هذا الذكاء الخارق

الذي يمكنه من هذه التجربة

يمكن أن نقول عنها فرانكشتين العصر التكنولوجي

كما أني شعرت أني في فيلم خيالي

تستحق أن تكتب كرواية أو تقتبس كفيلم

أتفق تستحق أن تُكتب كرواية.

الموضوع رغم أنه تخيلي وأرى أنه مستحيل أن يكن لكن أصبت بالقلق من التخيل فقط ومعايشة التجربة مع زيادة بالانتباه، واكثر ما قلقني في معايشة التجربة عبدالله أن الخيار الثاني سيكون هو الخيار الآمن للجميع، فثقافة التكاتف من أجل صد العدو أو من أجل حماية المظلوم حتى غير موجودة لذا الكل قد يفكر في الخيار الثاني.

الأغرب أنه حتى لو اخترت الخيار الثاني فهناك ما جال بفكرك أو كإحساس بداخلك يرفض فكرة وجود هذا الكائن، لذا إذا ساهمت في خلقه تخوفا من ألا يتكاتف الجميع في قرار عدم خلقه، سيأتي الوقت الذي يستطيع أن يقرأ ما جال بداخلك ووقتها ستقتل أيضا.

لذا الحل يكمن في التكاتف برأيي.

هنا المشكلة، هل سوف تؤمنين في تكاتف البشر؟

هنا المشكلة، هل سوف تؤمنين في تكاتف البشر؟

وهل هناك من يؤمن به، للأسف هذا الحل والذي يعد الأكثر أمانا على الإطلاق لن يحدث، فبالنهاية نحن ميتون ميتون لأننا إذا قررنا خلقه وبداخلنا كان هناك ما يرفض صنعه حتى ولو للحظة فانتهى الأمر لا محالة.

بالمناسبة صورة basilisk هي لوحش كان لعبة بالبلايستيشن على ما أتذكر إن كان صحيحا كان اسمها the man of the war كنت ألعبها منذ سنوات وكان من ضمن الانتصار باللعبة هو أن تقتل هذا الوحش.

الخبر السعيد انك إذا لم تمتلك أي معلومة حول الـBasilisk او عدم سماعك به مسبقا، سوف تهرب من هذه الكارثة، الخبر السيء اني أَخبرتُك عنه للتو، لن تتمكن من الهرب، الـBasilisk قد رآك.

بمجرد وصولي الى هنا شعرتُ بالخطر لمجرد تخيل انني أصبحت أعرف عن شيء قد يؤذيني لمجرد معرفتي عنه!

فكرة تحكم شيء في الإنسان أو التأثير عليه هي فكرة يتسبب فيها الإنسان نفسه، فلو سرنا خلف هذه الافتراضية ووصلنا إلى الإفتراضين، البديهي مع وجود هذا الخوف سيميل معظمنا للخيار الثاني

تساعد في خلق الـBasilisk وهذا سوف يجعلك في امان

وهنا يأتي السؤال، ما الذي يضمن لنا العيش في أمان؟، أليس من الممكن ان يتكاثر ال Basilisk ويُحاربنا جميعًا حتى يقضي علينا؟

في حين أننا لو سرنا في الطريق الأول

لا تساعد في خلق الـBasilisk وهذا قد يسبب في موتك مستقبلا.

من الممكن ان لا يتسبب في موتنا ويكون هذا تهديد، او من الممكن القضاء على هذا الاختراع من الأساس، ولو افترضنا أننا متنا فيكون موت مع عدم التنازل فنحن في كلتا الحالتين لا نضمن الحياة، لذا فعلينا ان نضمن الحفاظ على انفسنا وارادتنا !

مع ان تجربة roko's basilisk افتراضية ولكن من الممتع التفكر بها، لان فكرة (التحكم بك/التاثير بك) من قبل كيان لم يُخلق بعد تعتبر فكرة مثيرة، بالنسبة لي على الأقل.

فكرة التحكم بنا والتأثير علينا هي ناتجة عن الخوف الذي نشأ داخلنا وتأثير فكرة الخوف من الكيان علينا وليس من الكيان نفسه لأنه مازال افتراضي لم يفعل شيء !

وهنا يأتي السؤال، ما الذي يضمن لنا العيش في أمان؟، أليس من الممكن ان يتكاثر ال Basilisk ويُحاربنا جميعًا حتى يقضي علينا؟

هو من المفترض مصمم على تحسين حياة البشر ولكن هناك احتمالية لأنقلابه.

من الممكن ان لا يتسبب في موتنا ويكون هذا تهديد، او من الممكن القضاء على هذا الاختراع من الأساس، ولو افترضنا أننا متنا فيكون موت مع عدم التنازل فنحن في كلتا الحالتين لا نضمن الحياة، لذا فعلينا ان نضمن الحفاظ على انفسنا وارادتنا !

تفكير مميز، الحفاظ على ارادتنا لأن الموت أمر محتوم.

فكرة التحكم بنا والتأثير علينا هي ناتجة عن الخوف الذي نشأ داخلنا وتأثير فكرة الخوف من الكيان علينا وليس من الكيان نفسه لأنه مازال افتراضي لم يفعل شيء !

همم، ربما هناك من باشر في صناعته :)

هو من المفترض مصمم على تحسين حياة البشر ولكن هناك احتمالية لأنقلابه.

كيف ذلك؟ لا أجد في أي سيناريو من السيناريوهات المتوقعة أي إفادة أو تحسين حتى، إذا كان مجرد القراءة فقط والمعرفة بوجوده يمثل خطرا :D

هو من المفترض مصمم على تحسين حياة البشر ولكن هناك احتمالية لأنقلابه.

أعلم أن الغرض من الذكاء الإصطناعي تحسين حياة البشر وتسهيلها، ولكن الفكرة أن التوجه الأن في صالح الذكاء الإصطناعي فأصبح يدخل في الكثير من الأعمال، حتى أن هناك تنبؤ بالإستغناء عن الأيدي العاملة في سبيل والتوجه إلى توظيف الروبوت بدلًا من البشر

ولذلك في رأيي لو استمرت التطورات في مجال الذكاء الإصطناعي وانساق الإنسان خلف فكرة تطوير الذكاء الإصطناعي أكثر فأكثر، فمن الممكن أن يفقد السيطرة عليه وينقلب السحر على الساحر ويصبح وجود الذكاء الإصطناعي لعنة تُهدد حياة البشر ونجاحهم وليس عامل مساعد لهم

Soha_Alkhatib أضف ردا

الخبر السيء اني أَخبرتُك عنه للتو، لن تتمكن من الهرب، الـBasilisk قد رآك.

أحمد الله أنها مجرد فكرة افتراضية وليس لها أساس من الواقع،، أما الطامة الكُبرى لو كانت فعليًا موجودة، فما سيقتلني ليس كائن الـBasilisk نفسه، إنما التفكير في أن نهايتي على وشك وهذا ما سيقتلني، التفكير الزائد.

وحيث أن الصحة النفسية والعقلية للناس تختلف من فرد لآخر تبعًا للظروف المحيطة والبيئة، فأنا أُثني على صاحب الموقع بأنه قام بحذف التجربة الافتراضية من موقعه، لأن الكثير من الناس ستتأثر بذلك وربما تُصيبها الأمراض النفسية رغم أنها تجربة افتراضية.

أي طريق ستختار؟

كلا الطريقيْن محفوفان بالمخاطر. فكام قالت حفصة، ما الضامن أننا سنعيش بأمان؟ وماذا يضمن لنا أن الكائن الافتراضي لن يتكاثر ويقضي على البشرية بأكملها؟ كل هذه مجرد افتراضات مبنية على مجهول!

تساعد في خلق الـBasilisk وهذا سوف يجعلك في امان

ربما سأميل إلى هذا الخيار، صحيح أن النفس البشرية طمّاعة في القضايا التي تتعلق بالحياة، لكن معرفة أن احتمال الموت أكبر من الحياة فما الضامن؟ لأن أعيش بسلام ان اخترت الخيار الأول؟

ملاحظة: الموضوع نظريا ممكن، عمليا حتى الآن مستحيل، ليست لدينا القوة الحاسوبية التي يمكنها محاكاة تاريخ البشر، بالإِضافة الى ان قدرات الذكاء الاصطناعي لدينا متواضعة، ربما بعد 100 عام.

لا أعرف لما ذكرت أن الموضوع نظريا ممكن؟ أجده أشبه بفكرة فيلم مثلا، أو ربما يتشابه في الأساس مع أفكار للعديد من الأفلام الأجنبية، للحظة أثناء القراءة بدأت اندمج مع عرض الفكرة وكأننا بصدد سرد قصة فانتازية، ربما لذلك لم ينتابني أي قلق.

للحقيقة أجد أن الموضوع غير ممكن لا نظريا ولا عمليا، لكنه يعرض بصورة ما المخاوف التي تزداد يوما بعد يوم نتيجة للتقدم التكنولوجي، والخوف من سيطرة التكنولوجيا على العالم. - الأمر نفسه ناقشته العديد من الأفلام الأجنبية - ، ليبقى السؤال: هل قد نعيش ذلك في يوم من الأيام أم أنها ستظل صورة فانتازية بعيدة كل البعد عن الواقع؟

نظريا في علوم الحاسوب أقصد بامتلاك قوة حوسبة لا نهائية، وبذلك يمكننا بناء شيء كهذا.

لكن عمليا لا توجد قوة حوسبة لا نهائية، ونحتاج إلى حاسوب بحجم المريخ او ما يسمى ب(Jupiter Brain).

تبقى التجربة فكرية افتراضية (او كما تسميها فانتازية) لا أكثر:)

تعرف السؤال الذي خطر لبالي للتو، لما قد نلجأ لتنفيذ فكرة كتلك قد تهدد وجودنا البشري؟ هل من باب الفضول والتجربة أم هناك أسباب منطقية قد تجعل إنسانا يعمل لتحقيق مثل هذا السيناريو وجعله واقعا في يوم من الأيام؟ كما يدفعني الفضول لأن اسألك لماذا قد تسبب هذا الموضوع في إصابتك بالتفكير الزائد ولو ساعة ليس لأيام كما ذكرت؟ عندي فضول لزيارة عالم أفكارك لبعض الوقت إن تسمح بذلك..

اسئلة جميلة، أعتقد الفضول البشري يلعب دورا كبيرا، حتى في العلم، أغلب العلماء يقودهم فضولهم.

أصابني التفكير الزائد لأني رأيت التجربة رائعة، فكرة التحكم بنا من قبل كيان لم يُخلق بعد شيء مذهل لعقلي، هناك فكرة أخرى خفية، ألا تلاحظين إن الموضوع يشبه الأديان بشكل كبير؟ أما تؤمن بي أو تحرق بجهنم، هل تأخذ مخاطرة الذهاب إلى جهنم أم تؤمن؟

لما قد نلجأ لتنفيذ فكرة كتلك قد تهدد وجودنا البشري؟

لا أعلم.

الان انت وصلت للضفة الثانية.

فكم من

Basilisk

موجود بالفعل في حياتنا ( ليس بالشلك الرقمي ولكنه موجود ).

اعتقد ان Basilisk لا يملك اي قوة مباشرة. ولكن تابعينه ( المؤمنون به) هم من سوف يحاربوك لمجرد التفكير بانهائه ...

او لمجرد حديثك بصوت عالي المعارض له.

فليقف كل منا ويكتب قائمة بالBasilisk التي يؤمن بها او يعاديها اليوم !!!

ملاحظة: طرحي من باب الفلسفة ...

مجهول ولكن...

برأيي أن يكون فيلم سيكون ممتاز. وينتهي الفيلم بانتصار الوحش لان لا امل في تكاتف البشر. أيضا القوة تغلب فلديه قدرة علي محاكاة الافكار.

هذه من الافكار التي تصلح لفيلم.

مثل فلم ماتركس. حيث يجعلك تشك بين الواقع والحياة الافتراضية.

ربما الـBasilisk موجود الان وبهدف اخفاء نفسه. اخفى كل شيء ذكي ظاهر وجعنا نعيش كما كنا منذ ١٠٠٠ عام اي ٢٠٢٠ .

وانا مجرد ريبوت يضغط لتحفيذ افكارك مجددا.

يعتقد البعض ان الحكي ببلاش وبدون جمرك... في حين ان عمليلت غسيل الدماغ طويل الامد تسبب بتدمير عدة دول عربية للاسف.

فلا تخف من رفع المستوى الفلسفي. لعلها تجعل الجمهور اقل تابعية لسياسة القطيع المنتشرة حاليا

مجهول ولكن...

لطلما وجدت الفكرة فيوج من يخطط للقيام بها ولو بعد حين

لكن في النهاية لابد وأن توجد ثغرة في هذا النظام للاطاحة به وكذلك فلن يكون أذكى ممن صنعه

طرحك ذكي للغاية حقاً!

ليس كفكرة وحسب لكن أيضاً في أخذ القارئ للموضوع من البداية للنهاية وشده ليشعر بعدم استقرار نفسيته حقاً.

قرأت الموضوع قبل ساعات ولم أكمله كاملاً لأني شعرتُ به نوعاً من الخيال! وقرأته الآن وكنت هادئة جداً على عكس الشعور السابق لأنني شعرت أن هناك شيء مشابه في عقلي، شيء به نفس الخطر والامتداد والآن فقط تذكرت أن خطر البشر على أنفسهم بهذا الشكل شاهدته في أنمي Attack on Titan

حين يكون مصير البشر داخل الأسوار العالية وخارجها يقبع بالخطر المتمثل في وجود عمالقة آكلين للبشر، وبعد حلقات وأجزاء من المسلسل يتم اكتشاف أن البشر بطبيعتهم هم من خلقوا هذه العمالقة بشكلٍ ما، وهم من كانت لهم الأسبقية في إيجاد الخطر، في جعل الإنسان البشري يتحول إلى عملاق ومن ثم يقوم بأكل أصدقائه أو عائلته أو أي بشريّ يلقاه.

من يتابع هذا الأنمي الآن خاصة الجزء الأخير يُصدم فعلياً أن البشر المختبيئن من العمالقة داخل الأسوار هم مختبئن من أنفسهم، من عمالقة صنعها بشر مثلهم لأسباب كثيرة لن أخوض بها لاتساعها.

الفكرة في المساهمة ككل أننا قد نكون فعلاً لدينا هذا الـ Basilisk في أشكال عديدة يتم التخطيط لبنائها لأسباب أكبر مما نعرفها، نحن نعرف أن هناك انقسامات بين البشر والشعوب على اختلاف الأسباب، وقد نؤمن أيضاً بنظام المؤامرة وأن هناك الكثير من الأمور الخفية التي لا نعرفها وبالطبع هنالك.

لكننا نفتقد ذلك التصديق لوجود مثل هذا الشيء على البشرية مستدلين بأسباب منطقية وفكرية ونظرية وعلمية، وفي رأيي هذا تماماً ما يجعله ممكناً.

شكرا على مشاركتنا الموضوع استاذ عبد الله

لست على علم بهذه الامور في الحقيقة ولذلك ليس علي الخوف اذا واجهت الامر مقدما ههه

فقط احببت القول بان الموضوع ذكرني بفلم تتشابه فكرته مع هذه التجربة، كم عن لفكرة الفلم ايضا تشابه بالمنظمة فائقة السرية ( الماسونية)

الموضوع هذا قد يقلق من يخاف من الموت ويظن انه لن يموت

كلنا مصيرنا الى الموت ولن يبقى إلا وجهه الكريم

الفكرة تكمن في التحكم فيك من خلال خوفك الداخلي

صراحة شعرت بأن الطرح فعلا غبي تماما كما وصفه صاحبه

ثانيا لنفترض جدلا ان هذا منطقي فإنني أختار بكل إرادتي أن أرفض هذا الـBasilisk

وليست لدي ادني مشكلة في أن يقتلني بنظرته الثاقبة

أساسا مشكلتي لو اصبحت هذه الخردة موجودة هي ان ابقى على قيد الحياة