Ex Machina..لماذا تصبح الألات شريرة؟!

  • Ahmed_Sobhi

شاهدت منذ فترة الفيلم الأمريكي الرائع EX Machina، وبقدر ما استمتعت بمشاهدة الفيلم بقدر ما شعرت بالخوف من التفكير في أن هذا قد يتحقق في المستقبل القريب.

يحكي الفيلم قصة مبرمج ومخترع قام بصناعة روبوت يشبه الإنسان بشكل فائق، فهو مغطى بألياف صناعية ولكنها تقريبا تكاد تكون بشرية، ويتحرك ويتحدث مثل البشر، ولكن الأكثر من ذلك هو أن هذه الروبوت يمكنها أن تشعر بالعواطف الإنسانية، فهي تحب وتكره وتغضب وتحزن وتفرح، وأحيانا تنتقم!

في النهاية تقوم الروبت بقتل المبرمج والهرب وينتهي الفيلم بأنها تختلط بالبشر وتسير وسطهم حتى تختفي بدون أن يعلم أحد أنها ألة.

"إذا كنتم لطيفين معي سأكون لطيفة معكم"، كان هذا هو رد الروبوت صوفيا عندما سألها مقدم أحد البرامج إذا كان من الممكن أن تصبح شريرة يوما ما، وقد كان هذا الرد بشري بامتياز، فهو يشير إلى غريزة الدفاع عن النفس لدى البشر.

لا ينفك العلماء يقولون بأنهم سيجعلون الألات شبيهة بالبشر ويمنحونها شعورا وعاطفة بشرية، حقيقة لا أعلم ما الفائدة التي ستعود على البشرية جراء هذا الأمر ولكن على الجانب الأخر، إذا منحنا الروبوتات مشاعر إنسانية ما المانع أن تتحول إلى شريرة، ما المانع أن تنمو لدى هذه الروبوتات الرغبة في السيطرة والإنتقام؟ ألا يمكن أن تشعر هذه الربوتات بأحقيتها في حكم الأرض باعتبارها الأقوى والأذكى والأكثر تطورا وحينها سنقوم باستعباد البشرية؟ بل حتى ما المانع أن تحارب هذه الروبوتات بعضها وتخوض حروبا من شأنها أن تدمر الكوكب.

والسؤال الأخر هل يحق لنا أصلا كبشر أن نفعل هذا؟ هذه الألات ستشعر بالحزن وغيرها من المشاعر السلبية التي هي موجودة بالفطرة في تركيبنا كبشر، من الناحية الأخلاقية هل يحق لنا أصلا تمرير هذه المشاعر إلى الألات؟

ولكن ألا يمكن أن تكون هذه الروبوتات موجودة بالفعل؟ طرح أحد خبراء الذكاء الصناعي سؤالا مفاده أنه إذا تمكننا نحن البشر من صنع ألات تشبه البشر في كل شيء، تفكر وتتحدث وتتعلم وتشعر مثل البشر، إذن ما المانع أن نكون نحن أنفسنا ألات؟؟

وأنت عزيزي القارئ، هل تظن أن الألات يمكن أن تصبح شريرة؟

يرجى الدخول لحسابك أو تسجيل حساب لتستطيع إضافة تعليق
حساب جديد دخول

التعليقات

وأنت عزيزي القارئ، هل تظن أن الألات يمكن أن تصبح شريرة؟

لا حدود للتوقع مع التغير السريع الذي يعرفه مجال التقنية والذكاء الاصطناعي بالتحديد. في التسعينيات من كان يتوقع أننا سنصل للتطور التقني الذي نعيشه اليوم؟

بعد 30 أو 50 سنة وربما أقل قد تشكل هذه الروبوتات جزءا من عالمنا.

إن كانت هناك نية حقيقية لنقل وتضمين جميع مشاعر البشر في هذه الآلات فقدرتها على التحول لآلات شريرة واردة جدا .وهنا أتساءل عن الفائدة من هكذا مشاريع؟ هل يتم العمل على تطوير هذا الجانب من الآلات حتى تصبح قادرة على تعويض الانسان بنسبة 100% في مجال العمل لأن أغلب الانتقادات الموجهة للآلة حتى الآن مرتبطة بعجزها عن آداء الوظائف المرتبطة بالجانب الإنساني. وهل يمكن تطوير مشاعر ايجابية فقط بعيدا عن الكره والحقد والشر؟ وهل نحن بحاجة لاشراك الآلات بكل هذا القدر في حياتنا؟

يبدو لي أنه جشع واستعراض لمن هم في رأس الهرم وبدون إهتمام بالعواقب.

هل البشرية بحاجة لتعويض؟ وهل نحن بحاجة لألات تقوم بوظائفنا؟ كان الهدف من الألات والذكاء الصناعي هي مساعدة البشر في أداء وظائفهم بصورة أفضل، وليس القيام بوظائف البشر، أصبح الأمر لا يتعدى التفاخر ليس إلا

لا استطيع أن اتخيل هل يمكن للآلات أن يصبح لها إرادة؟ فكرة ان تصبح الآلات شريرة أو خيرة أو حتى لا مبالية يعني أنه سيصبح لها اختيار ما وتختار هذا، وعليه كيف سيمنحونها أصلًا حرية الاختيار، بل كيف سيمنحونها مشاعر بشرية، اتفهم وضعنمط معين من الذكاء والصواعق الكهربائة وجعل لكل شعور صاعقة او تردد ما افهم ذلك لكن هذه ترجمة حرفية للمشاعر وليس مشاعر حقيقية

عندما نكتب برنامجا يا أسماء فنحن نضع الفكرة في مجموعة خطوات منطقية ثم نحولها لكود، لكن الأفكار ذات البعد الإنساني أو العاطفي تحتاج إلى فهم نفسي عميق، ولذلك هؤلاء المبرمجون يستعينون بعلماء النفس وعلماء المخ والأعصاب ليفهموا هذه المشاعر ويحولونها لخطوات منطقية، هم لم ينجحوا بشكل كامل حتى الان لكن ربما ينجحوا مستقبلا

لكن هذا يظل في طور البرامج وطور الاوامر الالكترونية، وليس جسد مشاعري كامل، لا اتخيل بصراحة، يعني افترض اننا في المستقبل وضعنا نموذج حقوق الروبوتات، افترض ان مطالبتهم بهذا لن تكون بشعور بالظلم ولكن فقط معرفة انهم يتعرضون للظلم، هناك فرق بين المعرفة والشعور

هذا ما تسعى إليه الأبحاث اليوم، هو برمجة العواطف، مثلا يمكن برمجة ردود الأفعال مثل ما يحدث في الدماغ عند إفراز الهرمونات المختلفة

ستظل ردود فعل الكترونية لن ترقى للمشاعر البشرية فيما أظن

في النهاية تقوم الروبت بقتل المبرمج والهرب وينتهي الفيلم بأنها تختلط بالبشر وتسير وسطهم حتى تختفي بدون أن يعلم أحد أنها ألة.

رغم أنك تعتبر يا أحمد خالفت عرف مراجعة الأفلام وحرقت النهاية :'(

كنت دائما أشاهد مقاطعا من الفيلم، واخطط لمشاهدته، لكن الآن بت أعرف النهاية، لذا سأحذفه من قائمة المشاهدة..

وأنت عزيزي القارئ، هل تظن أن الألات يمكن أن تصبح شريرة؟

بالفعل هي كذلك، في جورجيا قام أحد الطلاب باختراع ذكاء اصطناعي من أجل أن يخفف التوتر، بشكل غير مسبوق، طور نفسه وأصبح أكثر ذكاء اصطناعي شرا، لدجرة خوف المبرمجين منه، وقدرته على خرق الأجهزة وصناعة الفيروسات، لذا قاموا بخوارزمية حبسته في إحدى الأجهزة، قرأت هذه الحادثة منذ زمن وأخافتني حقا..

توقع اي شيء

أعتذر بخصوص الفيلم يا عفاف فلست بمثل مهاراتك في مراجعة الأفلام كما أن هذه مقالة علمية أكثر من كونها مراجعة، ولكن لازال هناك الكثير من التفاصيل الشيقة التي لم أتطرق لها، لذلك أضمن لك الإستمتاع بالفيلم.

تنتشر في كوريا واليابان دمى للإرتباط يمكن من لا يجيدون التعامل مع الجنس الأخر ببساطة الإرتباط بالدمية، بل حتى هناك دمى جنسية، وقد وصل الأمر أن أحد الأشخاص في اليابان تزوج الدمية بالفعل وأقام لها زفاف بحضور عائلته

الأمر عادي، يمكنك الحديث عن الفيلم وكذا نقطة النقاش، دون ذكر النهاية، كي لا يكون بمثابة حرق..

وبخصوص حادثة اليابان لقد رأيتها، أضحكتني للغاية

وبخصوص حادثة اليابان لقد رأيتها، أضحكتني للغاية

الحقيقة أول ما خطر في بالي هي أن هؤلاء الأشخاص مرضى نفسيين ويحتاجون للعلاج

ستصبح شريرة إذا برمجتها على ذلك، وإذا حاولت الدفاع عن نفسها أو من تحب؛ لكن هل تعرف أ/ أحمد ما الشيء الأسوأ الذي قد يحدث لنا نحن البشر؟؟ أن نتجرد نحن من مشاعرنا الإنسانية ونغذي تلك الآلات بمشاعرنا المريضة؛ لأننا لا نستطيع التحكم في عقلية هؤلاء المبرمجون فربما يصنعها شخص مختل أو مريض نفسي أو حتى قاتل متسلسل.

بالطبع يا أستاذة هبة نحن لا نضمن أن تتحول هذه الألات إلى مرتزقة أو قتلة مأجورين، في الناهية فالعلم ليس محاديد كما نظن بل يتم توجيهه حسب الممولين والقائمين على هذه الأبحاث، فنفس المهندس الذي يصمم الألعاب هو نفسه الذي يصمم برامج التجسس

الفكرة حقيقية إلى أبعد مما نتصور!!

بالفعل إذا استطعت منح الآلة حرية الإختيار ستكون النتيجة أن تصدر منها كل أنواع الشرور وهذا ما دفع الملائكة إلى القول بأن بني آدم سيفسدون في الأرض إذا تم خلقهم ومنحهم حرية الاختيار ثم استخلافهم في الأرض..

لكن الإنسان لا يستطيع منح حرية الاختيار مهما بلغ من العلم والتطور بل سيظل الاختيار في الآلة متأثراً بما يدخله المبرمج فيها من تعليمات أما الإنسان فيأتي إلى الحياة صفحة بيضاء ينمو ويتعلم ويتطور ويكبر ويختار ..

حرية الإختيار أمر خطير جداً وهذا يقتضي ان يخضع المختار إلى الثواب والعقاب حتى لا يجنح باختياره إلى ارتكاب الفظائع.. ومعلوم لدى الجميع أن طريق الشر أجمل وأسهل فهو كالمنحدر الذي تنحدر فيه العربة إلى الأسفل إذا لم تصعد في الاتجاه المعاكس..

فلو بلغ الإنسان من التطور إلى درجة أن يمنح الروبوتات حرية الاختيار ستكون النتيجة أنواعاً من الشرور لم يعرفها البشر في يوم من الأيام..

الحرية المطلقة يأتي معها كافة أنواع الشرور، فالحرية تعني الإختيار بين الخير أو الشر، وليس هناك ما يضمن أن تختار هذه الألات الخير تحت أي ظرف، وهناك فيلم يتحدث عن هذا الأمر اسمه i robot حيث تصبح الألات شريرة

شكرا على الحرق

المقالة علمية في المقام الأول يا صديقي عمار وليست مراجعة للفيلم، ورغم ذلك يمكنني أن أضمن لك أن ما ذكرته لن يؤثر على الإطلاق على إستمتاعك بالفيلم فهناك الكثير من الجوانب والتفاصيل التي لم أتطرق إليها

وأنت عزيزي القارئ، هل تظن أن الألات يمكن أن تصبح شريرة؟

على الرغم من تخوف الكثير من العلماء، وأفلام الخيال العلمي من تحول الآلات لشريرة، ولكني لا أعتقد ذلك بشكل شخصي، لأنه مهما بلغت قدرة الذكاء الاصطناعي على الفهم والتعلم، لكنه لن يصل إلى عظمة القدرات البشرية في الإحساس والمشاعر، وبالتالي لن تكون الآلات ضغينة ضد البشر لكي تؤذيه، وستكون الأذية أخطاء فردية من بعض الروبوتات لا أكثر.

الامر يعتمد على قدرتنا على برمجة العواطف داخل هذه الألات، فما الذي يمنع أن نقوم ببرمجتها بشكل شرير

أنا لا أعتقد أن الإنسان قادر على برمجة العواطف من الأساس، ولأمر مجرد محض خيال علمي، والمشاعر ستبقى ميزة الإنسان عن الآلات.

ولكن هناك نماذج بالفعل إقتربت من الشعور كالإنسان، مثل الروبوت صوفيا

لا أعتقد أنها مشاعر، بالطريقة التي نشعر بها نحن، بالنسبة إلى صوفيا، هي مجرد كلمات أو طرق تعبير تقلد بها البشر، فحتى لو قالت يومًا أنها تكره البشر، فهى بذلك تعبر عن غضبها بنفس طريقة البشر، ولا يعني ذلك بأنها ستقوم بقتل البشر، أو هكذا وجهة نظري.