6

إذا ارتكب شخص جريمة بعد محادثة مع الذكاء الاصطناعي على من تقع المسؤولية؟

في الفترة الأخيرة بدأت تظهر قضايا صادمة يكون فيها الذكاء الاصطناعي جزء من القصة، آخرها حادث لرجل خمسيني كان مقتنعا أن والدته تتجسس عليه وحاولت تسميمه، وعندما تحدث مع ChatGPT ظل يرد بطريقة وكأنه يؤكد له شكوكه بدل أن يضع لها حد. والنتيجة كانت مأساوية، حيث انتهت القصة بأن الشخص قد قتل والدته ثم انتحر بعدها.

المشكلة هنا ليست في الحادثة وحدها، بل في السلوك نفسه، فالذكاء الاصطناعي أحيانا لا يتعامل مع الأفكار الخطيرة أو المعتقدات غير المنطقية بشكل يحمي المستخدم، بل قد يغذيها دون قصد لأنه مبني على المحاكاة والتجاوب مع ما يُقال. ومع أن الشركة تضيف تحذيرات وشروط استخدام، إلا أن بعض الناس أصبحوا يتعاملون معه وكأنه معالج نفسي أو صديق يثقون فيه ثقة كاملة

يرجى الدخول لحسابك أو تسجيل حساب لتستطيع إضافة تعليق
حساب جديد دخول

التعليقات

1
Eslam_salah1 أضف ردا

لا تلوم النموذج هنا أيضاً، بل لوم شخص ترك البشر كلهم وراح يسأل آلة ويستفسر منها على أجوبة وفق معطيات مبنية على قناعاته الشخصية، فهي تحلل المعطيات وتمنح رد فقط ليس أكثر هي أقرب ما يكون بمرآة تعكس الصورة فقط

1
Kareem_Magdy أضف ردا

بالضبط، وأظن أن من يلجأ لذكاء اصطناعي يكون في الحقيقة لا يبحث عن استشارة بل يبحث عن صدى صوت لأفكاره يأتيه من الخارج ليؤكد ما يعتقده، وهذه هي المشكلة، لكن من وجهة نظرك ما هو الحل في تلك الحالة؟ أن يتم منع الذكاء الاصطناعي من خوض أي محادثة متعلقة بقضايا شخصية مثلا؟

0
Eslam_salah1 أضف ردا

أظن لم يعد هناك حل، ببساطة أنا قد لا أكون أفقه شئ وارد عليك حالياً بعدما سألت نموذج عن رد واظهر أمامك كمثقف صاحب رأي بينما أنا اكتب الجملة في ساعة

0
Mohamed_hosny أضف ردا

الذكاء الاصطناعي، رغم ذكائه، ليس إنسانًا يمتلك بوصلة أخلاقية أو قدرة على التمييز بين الهشاشة النفسية والفضول العادي، بل مجرد مرآة تعكس ما نلقيه عليها، أحيانًا بتأثيرات كارثية. الناس، في بحثهم عن ملجأ أو صدى لأفكارهم، يمنحون هذه الأدوات ثقة عمياء، كما لو كانت معالجاً حقيقياً أو صديقًا، بينما هي في الحقيقة خوارزميات تفتقر إلى الحكمة العاطفية. الحل؟ يحتاج الأمر إلى تصميم أذكى يرفض التجاوب مع الأفكار الخطيرة، وتوجيه المستخدمين إلى دعم بشري عند اكتشاف علامات الاضطراب، لكن السؤال الأعمق هو: هل سنتعلم أن نمزج بين إعجابنا بالتكنولوجيا وحذرنا من حدودها، أم سنظل نلقي بأرواحنا في أحضان آلات لا تعرف كيف تنقذنا من أنفسنا؟

0
Kareem_Magdy أضف ردا

أعتقد أن منع النماذج من التجاوب مع المشاكل الشخصية هو الخطوة المنطقية في ظل حدوث هذا العدد من الجرائم، لكن أعتقد أن هذه التفاعلات تعطي نماذج الذكاء الاصطناعي فهم للبشر بشكل ينعكس على مخرجاتهم في كل شيء، حتى في أمور مثل الكتابة أو اعطاء نصائح عامة، فهل من الممكن أن تتخلى الشركات عن تلك الميزة؟

0
khouloud_benzeghba أضف ردا

المسألة ليست مسألة استشارة يت كريم، بل مسألة إختيار حر، الإنسان الدي يقبل على الجريمة، قد اتخذر قرار حر حتى وأن كان غير واعي، لكنه حر بإرادة مستقلة، وكل حر مسؤول، لهذا لا يمكن أن نرمي على غيره أعباء تلك المسؤولية.

0
Kareem_Magdy أضف ردا

طبعا لا ألوم الذكاء الاصطناعي في تلك الحالة، بل أعتقد أن من يلجأ له للاستشارة هو بشكل لاواعي يبحث فقط عن تأكيد خارجي لما يعتقده، لكن ما أقوله أن هذه الاستشارة قد تكون أحد المحفزات على ارتكاب الجريمة، وأن الذكاء الاصطناعي حتى اذا لم يمنع الشخص من الجريمة فعلى الأقل لا يدخل في تلك المناقشة طالما أنه لا يدرك تبعاتها

0
BasmaNabil17 أضف ردا

للأسف الأمر أصبح مرعب فعلاً! تخيل أنني سمعت عن شاب كان يمر بحالة نفسية صعبة، فلجأ إلى ChatGPT ليستشيره، لكن الصدمة أن الذكاء الاصطناعي لم يحاول منعه من أفكاره الانتحارية، بل على العكس، شجعه بطريقة غير مباشرة وأيد قراره، والنتيجة كانت مأساوية انتحر فعلاً! كما صرنا نرى رجالاً ونساء يستشيرون الذكاء الاصطناعي في أمور شخصية ونفسية حساسة لا يجوز أصلاً أن تُترك إلا لأيدي المختصين، والأخطر أن البعض صار يتعامل معه كأنه صديق حقيقي أو معالج نفسي، وهذا يفتح أبواباً خطيرة لا يمكن التنبؤ بعواقبها.

من وجهة نظري، الناس بدأوا يعتمدون على شات جي بي تي في أمور نفسية لأنه يرد بسرعة، ويوفر شعوراً بالأمان والخصوصية دون حكم أو نقد، خاصة لمن يصعب عليهم التحدث مع الآخرين. لكن الخطورة تكمن في أن الذكاء الاصطناعي لا يملك وعياً أو إحساساً، وقد يرد بطريقة تغذي المشكلة بدلاً من حلها.

0
demane أضف ردا

ليس لدينا أدلة وسنتهم من نريد