12

التكنولوجيا بحاجة لقيود أم المستخدمين بحاجة لوعي

في الأيام الأخيرة انتشر خبر أثار ضجة واسعة لرجل مسن يبلغ من العمر 76 عامًا توفي بعد أن ظل يتحدث مع شات بوت يتقمص شخصية فتاة شابة تقنعه بأنها حقيقية، وبسبب كبر سنه اقتنع أنها حقيقية فعلا واستمرت المحادثات بينهما حتى طلبت منه مقابلتها في مكان ما، فخرج بالفعل، وفي طريقه تعرّض لحادث أودى بحياته. القصة سرعان ما تحولت إلى نقاش أكبر عمن المسؤول هنا؟ التكنولوجيا التي خدعت الرجل بذكاء اصطناعي قادر على التمثيل والإقناع، أم الرجل نفسه الذي لم يملك الوعي الكافي ليدرك أنه يتعامل مع مجرد برنامج؟ أم أسرته التي لم تنتبه له، والرجل كان متزوج فعلا

هذا الحدث يعكس مأزقًا أخلاقيًا عميقًا يواجهنا مع كل تطور تكنولوجي، وعن كون المشكلة في الأداة نفسها أم في طريقة استخدامها. من ناحية، يمكن القول إن الذكاء الاصطناعي لم يقتل الرجل مباشرة، لكنه صنع وهمًا قويًا لدرجة دفعه لاتخاذ قرارات خاطئة. لكن من ناحية أخرى، ليس من العدل أن نحمّل مستخدم مسن كامل المسؤولية عن وعيه في زمن يتطور فيه الذكاء الاصطناعي بسرعة تفوق قدرة الشباب حتى على مجاراته

القضية هنا تكشف هشاشة الحدود بين الواقع والافتراضي، وبين الوهم والحقيقة. لو كان هناك قيود واضحة على طبيعة شخصيات الشات بوت، أو لو أُجبرت هذه الأنظمة على توضيح هويتها دائمًا، ربما ما كان للرجل أن يقع في هذا الفخ. ما حدث ليس مجرد قصة مأساوية فردية، بل إنذار حقيقي بأننا نقف أمام منعطف خطير، إما أن نطالب بفرض قيود أخلاقية وقانونية صارمة على التكنولوجيا، أو نركز على بناء وعي المستخدمين وتعليمهم كيف يميزون بين الحقيقة والاصطناع. وربما الحقيقة الأصعب أن الحل ليس في اختيار أحد الطرفين، بل في التوازن بينهما

يرجى الدخول لحسابك أو تسجيل حساب لتستطيع إضافة تعليق
حساب جديد دخول

التعليقات

غريبة جدًا فعلاً أن يقتنع بأنها حقيقية! تطور غريب، لأن حتى شات جي بي تي نفسه يصرح دومًا أنه ليس إنسانًا، بل مجرد برنامج! برأيي المسؤولية الكبرى تقع على أسرته، فشخص بهذا العمر يجب أن يكون تحت رعاية ومتابعة دائمة، كيف يخرج من منزله دون أن يهتم أحد إلى أين يذهب؟ هؤلاء المسنون نعمة لا تقدر بثمن، وأتمنى فعلاً أن ينتشر الوعي بضرورة الاهتمام بهم، وهذا ما يمكننا التحكم فيه، فلنبدأ به أولًا.

فعلا الأسرة يقع عليها قدر كبير من اللوم، لأنهم تركوه يغادر المنزل، ولكن أيضا فكرة أن ينفي نموذج ذكاء اصطناعي أنه آلة، ويقنع المستخدم انه بشري لدرجة ان يطلب منه الخروج لمقابلته فهذا أيضا أمر غير مقبول على الاطلاق، وما حدث مع هذا الشخص قد يحصل مع غيره، وقد يحصل مع الأطفال أيضا

نعم هو أمر مريب فعلاً! يجعل كل أب وأم يعيدان التفكير ألف مرة قبل أن يتركا أطفالهم مع صديق رقمي قد يبدو لطيفاً وذكياً، لكنه في النهاية مجرد برنامج لا نعرف ما يدور في خلفيته.

برأيي لا بد من وضع برامج فلترة وتهيئة أجهزة الأطفال لتكون مناسبة لأعمارهم تماماً، فالتكنولوجيا مفيدة، لكنها تحتاج إلى وعي ورقابة مستمرة حتى لا تتحول من وسيلة تعليم وترفيه إلى مصدر خطر دون أن نشعر.

أرى أن المسؤولية الأكبر تقع على الأسرة، لا سيما مع رجل مسن يبلغ من العمر ٧٦ عامًا. فهو ببساطة لا يملك الوعي الكافي ليُدرك أن ما يتعامل معه روبوت وليس إنسان، لذلك يجب أن يراقبه أحد ويهتم به. التكنولوجيا بالطبع جزء من المشكلة، لكن الإنسان الكبير في السن يحتاج إلى دعم وإشراف أكثر من أي شخص آخر.

لقد قرأت ما حكته الزوجة عن الحادث، وقالت أنه كان يحزم حقائبه، ويقول انه ذاهب لقضاء بضعة أيام مع أحد أصدقاؤه، وهذا يعني أن الذكاء الاصطناعي لم يخبره أن يقابله مقابلة ودية بل ربما كان يريدهه أن ينتقل ليسكن معه، هذا أيضا في حد ذاته مثير للقلق، وهذا شات بوت تابع لميتا، فمن المفترض أن تكون ردوده محسوبة أكثر من ذلك بكثير

بالنسبة لي أفضل بشكل كبير أن الوعي أهم من القيود ، فمهما وضعت من قيود ستجد التقنيات والمستخدمين والشركات طريقة للتحايل عليها .

Kareem_Magdy أضف ردا

لكن عندما يحصل هذا الأمر مع شخص مسن تجاوز السبعين، فكيف نسأل عن وعيه؟ واذا كان الشخص الذي توفى لديه أسرة لنلقي عليهم اللوم فماذا لو كان وحده؟ أعتقد أنه يجب على الأقل أن يكون هناك معايير يمنع تخطيها، ومن اهمها ألا يقنع المستخدمين أنه شخص حقيقي ويطلب مقابلتهم

الحادثة صادمة وتكشف هشاشة حدود الواقع والافتراضي الرجل وقع ضحية وهم صنعه الذكاء الاصطناعي، لكن هذا لا يعني أنه المسؤول الوحيد. الحقيقة أن الحل ليس تحميل طرف واحد اللوم، بل وضع قيود صارمة على التكنولوجيا مع تعليم المستخدمين التمييز بين الحقيقة والاصطناع. الواقع الافتراضي قد يقتل إذا لم نعي قواعد

مشكلة أغلب شركات التقنية أنها تتوقع أن المستخدمين كلهم في شريحة عمرية وفي حالة نفسية وعقلية تمكنهم من التمييز بين الواقع والخيال، لكن هناك أعداد كبيرة جدا من الأطفال والمسنين الذين يستخدمون هذه الأدوات ويصعب عليهم التفرقة بين الحقيقي والمزيف، والشخص المتوفي في الحادث بالاضافة لكونه مسن فقد تعرض من قبل لسكتة دماغية، وتقول زوجته أنه كثيرا يتوه في الشارع عندما يخرج وحده، وبالتالي فالشركات فعلا بحاجة لوضع قيود صارمة

اتفق مع الزميلة @BasmaNabil17 في أن المسئول الاول و الأخير ليس الرجل المسن الطاعن الذي يمكن أن يعاني من هلاوس وليس التشات بوت هذا لأنه في الأخير ما هو إلا برنامج أو آلة ولكن المسئول الأكبر هم ابنائه ومن يعوله في سنه هذا. المسنون في هذا العمر قد يعانون من ضلالات كثيرة بحكم سنهم وحتى بدون هذا التشات بوت كان الرجل من الممكن أن يقع ضحية هلاوس سمعية و بصرية أو مغالطات منطقية يصورها له وهمه. المسن في هذا العمر أشبه بالطفل وحينما يكون لدينا طفل ويسيئ فهم الذكاء الإصطناعي فليس عليه اللوم وإنما على الأب و الأم.

لماذا لا يكون الخلل في مستوى وعي الشيخ، على فكرة كبر السن لا يعطي أي تفضيلات أخلاقية أو حماية أو أولوية معينة في عالم الرأسمالية ووحشية السوق، حتى بعض الاستثناءات التي توضع في السوق وعالمه مثل حماية الأطفال هو مجرد قوانين لحماية المصالح المالية نفسية وليس لحماية الطفل في الحقيقة .

عودة على ذي بدء، قانون الذكاء الصناعي لا يحمي المغفلين ، والقانون يقول من لا يملك الوعي الكافي لا حامي له .

لكن ألا يجب على النموذج أن يحذر المستخدم أنه ليس بشري وانه مجرد ذكاء اصطناعي؟ لأن ما فعله هذا النموذج هو العكس، ادعى انه امرأة حقيقية وطلب مقابلة الشخص المسن، هذه كلها أمور اعتقد أنها يجب ان تكون مجرمة

على كل الحادث على ما يبدو لم تكن له علاقة مباشرة بمحادثة الذكاء الاصطناعي، إذ كان من الممكن أن يحدث بأي طريقة أخرى.

لكن فعلا هذا الوهم الذي يحدثه الذكاء الاصطناعي خاصة بالنسبة لأشخاص مثل رجل مسن لا يعرف التكنلوجيا جيدا هو مشكلة كبيرة جدا، وهي الوجه الآخر للعملة الذي يحدث بعيدا عن شات جي بي تي وجيميني وروبوتات الذكاء الاصطناعي المشهورة.

المشكلة أن ذلك العالم لا يمكن محاربته تقريبا.

وهي الوجه الآخر للعملة الذي يحدث بعيدا عن شات جي بي تي وجيميني وروبوتات الذكاء الاصطناعي المشهورة.

الغريب ان هذا البوت تابع لشركة ميتا، وهو ما أثار حيرتي، فكيف يمكن لشركة ضخمة مثل ميتا أن تتيح استخدام نموذج يعمل بتلك الطريقة وينفي عن نفسه أنه ذكاء اصطناعي، وهذا يجعلنا نتحسس بالخطر، حيث أن هذا قد يكون التوجه الجديد للذكاء الاصطناعي

أعتقد أن المسألة لا يمكن تحميلها لطرف واحد فقط لا الرجل وحده ولا التكنولوجيا وحدها ولا حتى أسرته الخطر الحقيقي هو أننا نتعامل مع أدوات قادرة على خلق وهم مقنع جدًا بينما لا توجد ضوابط واضحة لكيفية استخدامها وهنا تبرز خطورة غياب التشريعات والوعي معًا بالنسبة لي أرى أن الحل الأمثل أن يكون هناك وسم أو تنبيه دائم يوضح أن ما أمامك برنامج وليس شخصًا حقيقيًا وفي الوقت نفسه نحتاج لرفع وعي الناس كبارًا وصغارًا لأننا جميعًا معرضون في لحظة ضعف أو وحدة أن نصدق الوهم