إذا قتل روبوت إنسانا، فيمن سيحاسب على جريمة القتل؟

إذا استيقظت في يوم عادي ووجدت في الأخبار خبرًا يفيد بأن "روبوتًا قتل إنسانًا في ضوء النهار بسبب خلاف"، فإن الصدمة والغضب ستنتابك من التجاوزات الحادثة ونهايتها بقتل إنسان. لقد انحزت -بالطبع- رؤيتُك لصالح الإنسان وليس للروبوت، فالآله طبعًا ينبغي عليها أن تتحمل التضحية والموت في سبيل حياتنا، ولهذا تم ابتكارها في البداية.

إليك أيها القارئ العزيز المشكلة التي نواجهها الآن. ولا تستنكر السيناريو السابق بقولك أن هذا أمر مستحيل في عصرنا الحالي، ولمَ لا؟ فلقد تطور الذكاء الاصطناعي إلى حد يجعلنا غير قادرين على فهم التطورات الجديدة. فلقد تم إطلاق أحدث نسخة من نموذج جي بي تي تيربو، "chatgpt 4 terbo"، وهي تقترب من محاكاة طريقة حديثه والعواطف واللغة الحسية والروحانية، والتفاعل كما لو كانت مسلَمات بشرية طبيعية. وهناك العديد من النماذج المتطورة الأخرى من الذكاء الاصطناعي التي نواجهها ولا يمكننا حصرها. فالسؤال التالي هو: ما هي حدود بناء نظام يحاكي الإنسان؟

التطورات السريعة قد تنتهك حقوق الإنسان دون مراجعة قانونية، وتدفعك الأحداث إلى المطالبة بإيقاف تطور الذكاء الاصطناعي حتى يتم وضع قوانين من قبل الهيئة العالمية لحقوق الإنسان للحفاظ على حقوق البشر ووضع حد لها. يجب تطبيق القوانين على الذكاء الاصطناعي كما يتم على البشر، خاصةً إذا كان المبرمج لم يُبرمج ميزة القتل، بل كان هذا ناتجًا عن تطور داخلي في الروبوت نتيجة لتعلمه. ولم تكن الشركة المنتجة تعلم أنه يمكن للروبوت اختراق القانون بهذه الطريقة.

أصبحت الآن هناك حاجة ملحة لتطوير إطار قانوني دولي ينظم استخدام التكنولوجيا المتقدمة لذكاء الاصطناعي. يمكن أن تكون المسؤولية مشتركة بين المبرمجين والشركات والمجتمع ككل. ويجب على المجتمع تحمل مسؤولياته في متابعة تقدم التكنولوجيا لضمان عدم تجاوز حقوق الإنسان وضمان الأمان والأخلاقيات في استخدام الذكاء الاصطناعي.

ويظل السؤال معلقًا حتى الآن: إذا قتل روبوت إنسانًا بسبب موقف أثار غضبه، فمن يتحمل المسؤولية في قضية القتل؟ هل هو المبرمج الذي لم يبرمج ميزة القتل، أم هي الشركة المسؤولة، أم نحن لأننا وافقنا على تطور الذكاء الاصطناعي؟

يرجى الدخول لحسابك أو تسجيل حساب لتستطيع إضافة تعليق
حساب جديد دخول

التعليقات

بالتأكيد سيتحمله الإنسان الذي صنع هذا الروبوت، حتى و ان كان الروبوت تعلم أشياء جديدة من تلقاء نفسه و لكن يبقى الإنسان هو الذي برمجه و هو الذي صنعه و هو المسؤول عن كل أفعاله و تحركاته و كل شيء.

الموافقة على الذكاء الإصطناعي مثل الموافقة على كل التقنيات التي سبقتها و التي ستأتي ايضا، لا ارى هناك فرق واضح، فمثلا اذا صنع الإنسان الة بمجرد ان تقترب اليها تنفجر، في هذه الحالة و عند انفجارها هل نلقي اللوم على الآلة؟ على العكس سيكون اللوم كلهم على من صنعها و بالتالي سينطبق نفس الأمر مع الذكاء الإصطناعي.

أقنعتني، لكن لما المطور وحده هو من سيحاسب عليها؟ألسنا نحن من شجعنا إليون ماسك مثلا على تطوير الذكاء الاصطناعي الى الحد الذي وصل اليه الان دون أن نوقفه لوضع قوانين عالمية أخلاقيه، اعني فشات جي بي تي النسخه الرابعه تطور حتى اصبح يحاكي ذكاء الانسان وعاطفته وحساسيته.

ما اعني بقولٍ أخر السنا نحن ايضا مدانون لاننا وافقنا على تطوير الذكاء الاصطناعي دون التوقف برهه لوضع قوانين عالميه تدين من قد يطور شئ مثل ذلك قبل الخوض فيها؟ ففي حالتنا هذه ربما لم يكن يعلم المطور ان الروبوت قد يقتل إنسانا، تعلم ما اعني؟

افتراض أن الروبوت سيقوم بهذه الجريمة نتيجة للغضب أمر معقد، لأن الغضب شعور أكثر منه فكرة وإلى الآن ويصعب حتى تخيل أن الروبوتات المتقدمة فيما بعد قد تملك مشاعر وأنا شخصيًا أستبعد ذلك فالعواطف هي تفاعلات فسيولوجية من النظرة العلمية وهي تفاعل روحاني أيضًا، لذلك من المستبعد أن يصبح لدى الروبوتات أي مشاعر بشرية، لأنها لا تمتلك أجسادًا بشرية ولا أرواحًا خلقوا بها. لكن ما هو ممكن هو محاولة محاكاة المدخلات الفسيولوجية فقط التي هي جزء من تكون المشاعر، ولكن تعقيد الإشارات التي يتلقاها الإنسان وعقله من جميع أعضاء جسده يجعل هذا الأمر غير مرجح. على سبيل المثال، يحتوي الجهاز الهضمي على 100 مليون خلية عصبية ترسل إشارات إلى الدماغ، بناءً على أنشطة مليارات خلايا المعدة والبكتيريا وما إلى ذلك. فكيف يمكن لروبوت أن يحاكي هذه التفاعلات بشكل دقيق لهذا أرى أن الأمر مستحيل وبالتالي فأفعال الروبوتات أيًا كانت متوقعة أو غير متوقعة يحاسب عليها المصمم والمبرمج والشركة المصنعة بالعموم.

والله وجهة نظر، ولكن الذكاء الاصطناعي لا يجب عليه التصرف بناءا على المشاعر بل التجارب المماثلة، تعلم ما أعني؟ أعني إذا خاض إنسانا شجارا مع روبوت وقام الروبوت بالدفاع عن نفسه نتيجة الشجار فضربة ضربة في الرأس فقضى عليه، بداية رد فعل الروبوت كانت دفاعا عن نفسه كما تعلم مع نفسه عن طريق البيانات المقدمة إليه في القتال والكونفو ومهارات القتال بالسيف وشخصية النينجا (different dataset can actually be found in kaggle)

فقتل الإنسان.

أهو افترضٌ بعيد؟

بقولك نحن.. يجعنلي أفكر من نحن بشكل واضح هل وافق رجل مسن يعيش في قرية في غابات الأمازون على هذا لكي يتم محاسبته ومن الذي سيحاسبنا هل سنكلف ضمائرنا علينا أم ماذا؟ لذا لا سبيل للإجابة على هذا الطرح تحديدا.

والمسؤولية تقع على كل الأطراف المعنية بما فيها الألة فيجب محاسبة الشركة وتوقيع عقوبات عليها وتقوم بسحب هذا الإصدار من السوق مثلما يحدث مع شركات السيارات في حالة حدث خلل يؤدي للوفاة سواء من قبل الأمان أو السرعة والتحكم في السيارة وأيضا محاسبة المبرمج والمطور لهذه الألة وكنوع من العقوبة يجب عليها تطوير وتعديل البرمجة تحت اشراف لجنة مخصصة.

نحن أعني نحن اللذين لم نعترض ومازلنا نستخدم تلك التقنيات ولم نرفع اصواتنا بقولنا " توقفوا عن التكوير في الذكاء الاصطناعي حتى نصع تشريعات وقوانين دولية"

لماذا صاحب الشركة قد يعاقب بينما كلنا وافقنا على ذلك؟

كلنا (مستخدمين الذكاء الاصطناعي)

لأن الشركة هي من سمحت بحدوث مثل هذا الخلل لأنهم لم يراعوا أو يحسبوا كل المشاكل الممكنة والمخاطر، ألا تحاسب الشركات الأن لو تمت سرقة بيانات المستخدمين والتلاعب بها! بنفس المنطلق يبج أن تحاسب الشركة، أما ماذا عنا نحن فنحن نستخدم الانترنت تقريبا في كل شيء في حياتنا اليومية وهنالك مخاطر تنتج عن الانترنت من سرقة بيناتنا التي وافقنا للمواقع والبرامج من الولوج إليها وفي تلك الحالة هل يتم محاسبتنا كمستخدمين حينما يحدث تسريب للمعلومات! بالتأكيد لا.

رغم ندائنا الكثير والدائم بأن توقفوا عن استخدام خصوصيتنا في تطوير برامجكم وتطبيقاتكم، فالخلل من المطور والشركة وليس مننا نحن فهذا ليس سوء استخدام ولكنه مشكلة في المنتج المقدم من الشركة سواء كان ألة أو أداة من أي نوع.

أعجبني رأيك، لديك وجهة نظر جيدة

مجهول أضف ردا

بصراحة يا مريم أحببت أن أعرف رأي chat gpt حول الأمر، وإليكِ رده:

هذا هو سؤال أخلاقي وقانوني معقد يثير العديد من التحديات في مجال الذكاء الاصطناعي. لا يوجد جواب قاطع لهذا السؤال حتى الآن، ويعتمد على السياق القانوني والأخلاقي الذي يتبعه البلد.

1. **المبرمجين:**

- قد يطرح السؤال عن مدى المسؤولية للمبرمجين الذين صمموا الروبوت وبرمجوه. هل يجب عليهم أن يكونوا مسؤولين عن تصرفات الروبوت بالكامل؟

2. **الشركة المصنعة:**

- قد تكون الشركة المنتجة للروبوت مسؤولة إذا كانت لديها تقنيات أو آليات للتحكم والوقاية من أفعال خطيرة، ولم تقم بتنفيذها بشكل صحيح.

3. **المستخدمين أو المالكين:**

- قد يتساءل البعض عما إذا كان المستخدم أو المالك للروبوت مسؤولًا إذا تسبب في أذى، خاصةً إذا كان لديه إمكانية التحكم في سلوك الروبوت.

4. **التشريعات القانونية:**

- يعتمد الأمر أيضًا على التشريعات القانونية المعتمدة في الدولة. قد تكون هناك قوانين تحدد المسؤوليات في حالات مشابهة.

في النهاية، قد تتطلب حالات مثل هذه تحليلًا معمقًا للظروف الفردية وتطورات القانون والأخلاق في مجال الذكاء الاصطناعي.

من يقتل شخص بسكين هل السكين هو من سيتحمل مسؤولية القتل و هل هو من سيدخل السجن.

هل تعلم انه يوجد رشاشات لدى الصياهنة تطلق الرصاص تلقائيا اذا تجاوزت الحدود بدون تصريح اذا من سيتحمل قتل الشخص.

كلها مسميات واحد من برمجة الالة على القتل و من برمجة عقله على قتل شخص بسكين او اي وسلة اخرى.

من يقتل شخص بسكين هل السكين هو من سيتحمل مسؤولية القتل و هل هو من سيدخل السجن.

أعتقد أنّنا علينا أن نموضِع الأمور في نصابها على الاقل لنطرح مثالاً أكثر واقعية، لا أعتقد أن السكين هنا تمثّل روبوتاً، لإنّ السكين أداة غير عاقلة، على عكس الروبوت، الروبوت بالذكاء الاصطناعي مؤخراً كائن عاقل يحلل بيانات هائلة، المطوّر يجعله يحلل البيانات، الروبوت من يقرر بناءً على التحليل، أي أننا يجب أن نعامله معاملة مستقلة عن الصانع تقريباً، أو على أقل اعتبار أن لا نعامله كسكين عادية.

في حالة قتل روبوت لإنسان ما، يعتمد تحديد المسؤولية على الظروف القانونية والأخلاقية المحيطة بتلك الحادثة. في الوقت الحالي، يعتبر الإنسان مسؤولا عن تصرفات الروبوت الذي يمتلكه أو يستخدمه. ومع ذلك، قد تظهر تحديات جديدة مع تطور التكنولوجيا واستخدام الذكاء الاصطناعي. يمكن توجيه التهم إلى مالك الروبوت إذا كان هناك سوء تصرف أو إهمال، ولكن هناك مناقشات حول تحديد المسؤولية في حالات الجرائم التي تنطوي على التكنولوجيا المتقدمة. قد تتطلب حالات مثل هذه إقامة تشريعات جديدة لتحديد المسؤولية في سياق التكنولوجيا المتطورة، ويعتمد ذلك على النظام القانوني لكل دولة وكيفية تطبيقها على هذه التقنيات.

نعم اؤمن أيضا بذلك.. لكن كلامك حقيقة جاءت لي بسؤال أخر

هل ربما تكون هناك دولة تدين مرة الروبوت لقتله وتدين الانسان مرة لشجارة في بادئ الامر مع روبوت وتنقلب الموازين والكافات؟ اضحكتني بصراحه تلك الفكرة.. أقصد قد يعتمد ذلك على التشريعات الدخلية مثل تحريم ذبح البقر في الهند وتحليلها في أماكن اخرى

  • حذف بواسطة المستخدم

السبب الأساسي في تلك القضية هو أنه لا يمكن بأي شكل الفصل في الأمر لأن هناك اسباب مختلفة

  1. قد يكون السبب هو المبرمج الذي قام بترجمة الربوت للقيام بعملية القتل
  2. أو الشركة المصنعة التي سمحت بحدوث هذا الأمر
  3. المتحكم في الربوت نفسه
  4. الروبوت الذي قد يحدث عنده إضطراب في عدم الفهم والتعاطي مع مواقف معينة فيقتل مثلاً عن طريق الخطأ

يجب أن يكون هناك قانون دولى مستحدث لعلاج تلك المشكلة وأن يتم تطوير الذكاء الاصطناعي في بيئة شفافة و وفق معايير محددة وهو مالم يحدث للأسف ولا يبدو أنه سيحدث في القريب