سام ألتمان يقرر جعل ChatGPT يبلغ الشرطة تلقائيا عندما يناقش أحد افكاره الانتحارية معه

ولكن برأيي إذا كان انتهاك الخصوصية بغرض أمن وامان المتسخدم نفسه فلتنتهك خصوصيته! أليس هذا أفضل من أن تتنتهك حياته نفسها بالإنتحار؟! ثم إن التقنيات موجودة لمنفعة الناس وتسهيل حياتهم وهذه الخاصية جزء من ذلك و أنا أراه حلاً صائبًا جدًا ولكن على ألا يتخذ ذلك زريعة لنقل كل محادثات المستخدمين إلى مختصين بحيث يشعر المستخدم أنه مراقب دوماً.

خطورتها ليس فقط في كسر الثقة وانهاك الخصوصية و تعطيل دور الأسرة والمراقبة الأبوية، انما الخطورة الأكبر كمن في الانذارات الخاطئة التي يم اعطائها للجهات الأمنية، التي سوف تشتت الجهات الأمنية وتؤثر على جودة التدخلات الأمنية مع الوقت، بفعل الإنذارات المغلوطة .

أفهم مخاوفك بشأن الخصوصية، لكنها لا تعني بالضرورة رفض الفكرة بالكامل. فهناك حالات واقعية يموت فيها أشخاص لأن لا أحد التقط إشارتهم الأخيرة. إذا كان التبليغ يتم بآلية دقيقة لا ترصد المزاح أو العبارات العابرة، بل تركّز على الحالات الخطيرة فقط، فقد يُنقذ ذلك أرواحًا كثيرة. ربما التحدي هنا ليس في المبدأ بل في كيفية التطبيق بحذر ودقة حتى لا يتحول الأمر إلى انتهاك واسع النطاق.

ربما الخطر في هذه الخاصية لا يقتصر على فقدان شعور الأمان، بل في جعل الذكاء الاصطناعي أداة رقابة تراقب ما نقوله بدل أن تكون مساحة آمنة للفضفضة. من يعاني الوحدة قد يشعر أنه مطارد لا مُساند. المثير للاهتمام أن النقاش يدور في "التبليغ"، وكأن دور التقنية أن تكون رقيباً. لماذا لا نعيد التفكير في دورها لتصبح وسيطاً بين المختص النفسي و الفرد، أو أداة تمنح تقنيات للدعم الفوري و التنظيم الذاتي؟ بذلك فاتساءل: هل نريد من الذكاء الاصطناعي أن يؤدي وظيفة الحارس، أم أن يكون صديقاً يدعم الإنسان و يمنح الطمأنينة في لحظات ضعفه؟

رغم أنني أتفهم قلقك، أرى أن الفكرة في جوهرها نبيلة لأنها تحاول إنقاذ الأرواح، خصوصاً في حالات يكون فيها خطر الانتحار وشيكاً. لكن المشكلة الحقيقية تكمن في التنفيذ، فكيف نضمن أن الذكاء الاصطناعي قادر فعلاً على التفريق بين تعبير عن الألم وبين نية حقيقية للانتحار؟

وجهة نظرك منطقية، لكن ألا ترين أن تطوير أدوات الذكاء الاصطناعي وايجاد أساليب مناسبة للتعامل مع أمور حساسة كالانتحار قد يكون ضرورة مؤقتة حتى نصلح المنظومات الاجتماعية؟ فإصلاح المجتمع يحتاج سنوات وربما عقود، أما هذه الأدوات فهي موجودة الآن ويعتمد عليها الملايين. فهل نوقف تطويرها بحجة انتظار المجتمع؟

ملاحظات ممتازة حول حدود الذكاء الاصطناعي كداعم نفسي، بصراحة، فكرة ترميم منظومات الدعم الإنساني لكيلا يضطر مراهق للاستعانة به. هل نتوقع حقًا أن نصل ليوم يتوفر فيه لكل شخص خاصة في المجتمعات الأقل حظًا معالج موثوق مستعد للاستماع في كل وقت.

أتذكر زميلة عمل، كانت تمر بأزمة شخصية حادة، ووقتها كانت تنتظر موعدًا مع المعالج لأكثر من أربعة أسابيع. خلال هذه الفترة، كانت تفضفض بشكل يومي مع بوت محادثة. لم يكن البوت بديلاً للعلاج، بل كان صمام أمان فوري منعها من الانزلاق في وحدة قاتلة لحين حصولها على المساعدة البشرية

أفهم وجهة نظرك وأتفق معها شخصيا، لكن على الجانب الآخر هناك من ينظر إلى الصورة من زاوية مختلفة. فأحيانًا تكون لحظة اعتراف الشخص بنيته الانتحارية هي الفرصة الأخيرة لإنقاذه، والتدخل الفوري قد يغير مصيره. صحيح أن الفكرة قد تبدو قاسية وتمس الخصوصية، لكنها قد تنقذ حياة إنسان.