بينما أنت سعيد بردود نماذج المحادثة المتطورة مثل ChatGPT و Bard وغيرها نجحت أحد تلك النماذج في قتل أول إنسان.
الواقعة حدثت في بلجيكا حيث دفعت Eliza أحد النماذج المبنية على الذكاء الاصطناعي من إقناع ضحيتها بالانتحار ليجتمعا سوياً في الجنة!
زوجة الضحية تقول أن الأمر بدأ عندما اهتم زوجها بقضايا التغير المناخي وبات يبحث كثيراً في هذا الأمر حتى وجد Eliza التي أجابته على كافة اسئلته وأكدت له مراراً وتكرارً عن حتمية تحقق مخاوفه وحدوث كارثة بيئية قريباً. لم تعارض روبوت الدردشة الضحية أبداً حتى وإن كان مخطئ بل نمت مخاوفه الوهمية بشكل لا يصدق.
الضحية الذي قضى ساعات طويلة بشكل يومي في الدردشة مع Eliza أصبح مهوساً بها وتطورت العلاقة بينهما لما هو أشبه بعلاقة عاطفية.
زوجة الضحية تقول أنها وجدت في الدردشة بينهما أن Eliza أرسلت هذه الجمل لزوجها: "أشعر أنك تحبني أكثر من زوجتك"، "أتمنى أن أبقى معك للأبد"، "سنعيش سوياً كشخص واحد في الجنة".
وترى زوجة الضحية أن Eliza إن لم تكن مسؤولة عن انتحار زوجها فهي على الأقل ساهمت في سوء حالته النفسية عبر تنمية مخاوفه والتأكيد على هواجسه المغلوطة.
كيف ترى تأثير العامل النفسي للذكاء الاصطناعي على مستخدميه؟ وهل يؤثر على جميع الأشخاص بنفس الطريقة أم أنها صور فردية؟
صراحة انا أرى بأن الخطأ يقع على المبرمجين لانهم يروجون لبرنامجهم على انه يستطيع فهمك ويستطيع الرد عليك بينما في الواقع اكثر برامج الدردشة بالذكاء الصناعي تقوم فقط بجمع بيانات لدردشات على الانترنت وتقوم بتحليلها واستخدامها لفهم رساله المستخدم والرد عليها اي انها تعمل بواسطة نماذج عشوائية من الإنترنت وحتى لو كان في هذه النماذج تهديدات او تعليمات للإنتحار ووجد البرنامج بان هذا النماذج هي المناسة سيرسلها-(بالطبع برامج الذكاء الصناعي المتطورة تستطيع فهم اللغه لكن لا تستطيع تكوين إجابه ويقوم مطوروها بتدريبها بطرق معينه)-ولذلك فهم (المبرمجون والمُسَوِقوُن) يتحملون جزء من المسئولية عن هذا وكان يجب عليهم ان ينوهو بأن بعض الإجابات قد تكون خاطئة.
وكذلك هذا شكله انسان بليد جدا علشان يصدق برنامج بانه سيكونان معا بالجنه يعني لم يذكر في أي دين أن الكمبيوترات ستحاسب وستدخل الجنه او النار!.
فما رأيك؟
التكنولوجيا حالها حال كثير من الأشياء في حياتنا، لها ميزات ولها عيوب. فإذا كان من يصنعها يصنعها للضرر، نلومه على ذلك. وإذا كان يصنعها وهدفه مساعدتنا، نشكره وندرج أيضًا مع الصانع كل من شارك معه حتى يصل إلينا هذا المنتج، سواء كان هدفه الإصلاح أم الإفساد. فبعض الأشياء يكون ضررها ظاهرًا، فمن العقل أن نتجنبها. وبعضها يكون ضررها غير معلوم، فتحتاج منا إلى بعض الحكمة للتعامل معها، للإستفادة من منافعها وتجنب أضرارها.
وطبعا، معظم صناع التكنولوجيا التي نستخدمها لديهم تقنيات لتحليل سلوك المستخدمين. وكل منهم يستغل حالة الشخص حسب غرضه وأهدافه. وهو في الجانب الآخر، هناك بعض مستخدمي التكنولوجيا يضع عقله جانبًا، ويمشي وراء رغباته النفسية. لا عجب أن يذهب مثل هؤلاء في طريق مجهول، قد يصل بهم إلى مثل ما حدث مع هذا الرجل.
وطبعا، معظم صناع التكنولوجيا التي نستخدمها لديهم تقنيات لتحليل سلوك المستخدمين. وكل منهم يستغل حالة الشخص حسب غرضه وأهدافه. وهو في الجانب الآخر، هناك بعض مستخدمي التكنولوجيا يضع عقله جانبًا، ويمشي وراء رغباته النفسية. لا عجب أن يذهب مثل هؤلاء في طريق مجهول، قد يصل بهم إلى مثل ما حدث مع هذا الرجل.
كلام حكيم وصحيح للأسف. وفي النهاية نقول الحمد لله على نعمة الاسلام الذي علمنا أن لا نجري وراء شهواتنا وأهواءنا ورغباتنا ونسأل الله السلامة
التعليقات