أحدث كوارث الذكاء الإصطناعي؛ تقنية التعرف على الوجه تقود لإعتقال خاطئ!!

نشر زميلنا أحمد @Ahmed_Sobhi‍  بالأمس مساهمة تحت عنوان هل نحن مستعدون للتحول الرقمي.

وقد أبديت إعتراضي حول الأمر وأن الأخطاء الواردة قد تؤدي لضرر كبير يؤثر على أمن وحياة الأفراد والمجتمع، وتذكرت تلك الحادثة التي قرأت عنها منذ أيام قلائل، وأحببت أن أشارككم إياها للإطلاع والمناقشة:

أثناء عودة روبرت ويليامز إلى بيته بعد يوم عمل طويل، وقبل أن تطأ أقدامه المنزل، فوجئ بأنه رهن الإعتقال من قبل السلطات الأمريكية، للاشتباه بسرقة ساعات قيمتها حوالي 4000 دولار، وكل ذلك كان أمام زوجته وبناته في مشهد مأساوي.

العجيب أن سبب الاعتقال كان فريدا، فالاشتباه لم يكن بناء على أنه شوهد هناك، أو أن الكاميرات قد التقطت صورته، أو حتى لأنهم قاموا بعمل تحليل لشعرة سقطت من رأسه بمسرح الجريمة، بل لأن تقنية التعرف إلى الوجه افترضت تطابق شخصية وليامز مع المشتبه به!!!

بعد ذلك تراجعت الشرطة عن موقفها، وأفرجت عنه ولكنه قام برفع دعوى قضائية في مدينة ديترويت الأمريكية، وهي أول دعوى قضائية تتعلق بقضية إعتقال بسبب الإستخدام الخاطئ لتقنية التعرف إلى الوجوه.

قال ويليامز:

"تم إعتقالي بسبب خطأ من الكمبيوتر، تم إعتقالي وسط بكاء زوجتي وبناتي بدعوى جريمة لا أعلم عنها شيئا، ولم يكن ذلك ليحدث لولا إنتهاكات التكنولوجيا، وأريد التأكد من عدم وقوع أي شخص آخر ضحية لهذه التجربة المؤلمة".

لقد تم إعتقاله وإهانته أمام زوجته وبناته، وسجن في زنزانة متسخة مع المجرمين لأن الحاسب كان يعتقد أنه الفاعل!!

هل سمعت عن هذه القضية من قبل، وما هو إنطباعك عنها؟

في إعتقادك هل سيتم الإستعانة بالذكاء الإصطناعي في كل مناحي الحياة، ولماذا التوجه العام لذلك رغم مشاكله ومخاطره؟!

يرجى الدخول لحسابك أو تسجيل حساب لتستطيع إضافة تعليق
حساب جديد دخول

التعليقات

لا يتوقف الأمر عند الخطأ غير المقصود، تناولت في مساهمة سابقة تقنية الرؤية الحاسوبية والتعرف على الوجوه.

لقد أصبحت هذه التقنية معترف بها ومستخدمة بشكل فعلي من قبل وكالات الأمن حول العالم، والأمر لا يتوقف فقط على التعرف الخاطيء، ففي حالة ويليامز تم اكتشاف الخطأ، ولكن المعادلات التي يعتمد عليها الحاسوب قابلة للتغيير والفبركة والتزوير، وهناك ما يسمى بتقنية التزييف العميق، وهي تعتمد على تزييف صورتك الرقمية من خلال التعديل في طرق عرض الحاسوب للصورة، وهي تقنية مستخدمة بالفعل

نعم سمعت عنها وشاهدت بعض الفيديوهات التي تجعلك تعتقد أن أحدهم قد قال حديثا ومصورا بالصوت والصورة، وهو لم يفعل ذلك على الإطلاق، إنه أمر مرعب حقا!!

ألا ينبغي أن يتراجع بني البشر عن ذلك، هل أمنهم وسلامتهم ضئيلة الأهمية لهذا الحد؟!

هذه التقنيات تخضع لمن يمولها ويقوم عليها، وهؤلاء الأشخاص لا يهتمون كثيرا بأمن البشرية بقدر ما يهمهم الربح، فهذه هي مبادئ الرأسمالية الحديثة، لهذا نجد شركات تطور فيروسات وبرامج تجسس تستخدم ضد أشخاص أخرين

لكل شيء في حياة منافع وأضرار، والذكاء الاصطناعي ليس استثناء، أنا لم أكن أعرف القضية من قبل، ولكن لدى مخلوفي دائمًا من استخدام الذكاء الاصطناعي، ولكن أيعني ذلك أنني أفضل عدم استخدامه!

بالطبع لا، بل تطويره، لأن الذكاء الاصطناعي سيوفر الكثير من الراحة والرفاهية للإنسان في المستقبل ولن نستغني عنه.

سيوفر الراحة وسيصيبك بالعجز!

انظر مثلا إلى جداتنا وبعض أمهاتنا كانوا يستطيعون أن يغسلوا ثيابنا معتمدين على طبق بلاستيكي ومنظف الملابس وماء دافئ!

اليوم تمتلك الفتيات أحدث الغسالات، ولو حدث بها عطل تقف عاجزة عن غسل قميص لزوجها أو أخيها أو حتى لنفسها!!

كنا حتى المرحلة الإعدادية نمارس الرياضيات معتمدين على عقولنا والورقة والقلم، واليوم طفل المرحلة الإبتدائية لا يستطيع أن يعرف ضرب سبعة في ثمانية دون إستخدام الآلة الحاسبة!

حتى الشباب الذي كان يمارس الألعاب في الشارع، وينمي لديه مهارات التفكير والركض وبعض مهارات الدفاع عن النفس، أصبح هزيلا ضعيفا منحنى الظهر أمام شاشات الهاتف الجوال!

أي رفاهية تلك التي نسعى إليها وهي تدمر عقولنا وشبابنا يا أيمن؟!

جداتنا وبعض أمهاتنا كانوا يستطيعون أن يغسلوا ثيابنا معتمدين على طبق بلاستيكي ومنظف الملابس وماء دافئ!

ذكرتني تلك الجملة بجدال طريف وقع بين أفراد عائلتي من النساء حين كنا مجتمعين، وبصراحة أقنتعني جدًا زوجتي، حين قالت بأن ما كانت تفعله والدتي ووالدتها وأجدادنا، أعاد عليهم بخشونة في الركبة، وتعب في مفاصل اليد والأقدام والرقبة، وهم الآن يتعالجون بسبب ما كانوا يفعلون من مجهود، فلا تنظر لقوتهم في الماضي، إنهم الآن يعانون من صعوبة تلك الحياة، ومن الضروري علينا كرجال اليوم أن نوفر تلك الأجهزة قدر امكانياتنا لمساعدة زوجاتنا.

نمارس الرياضيات معتمدين على عقولنا والورقة والقلم

أظن بأن العالم كله غير من تلك الطريقة لأنها بطيئة، واليوم على الطفل أن يتعامل مع مسائل رياضية معقدة أكثر، لأنه يستخدم الآلة الحاسبة، وبالتالي هذا يعتبر تقدم مفيد.

أصبح هزيلا ضعيفا منحنى الظهر أمام شاشات الهاتف الجوال!

نعم، معك في ذلك حق، ولكن لكل شيء سلبياته وايجابياته، علينا أن نحذر من السلبيات، ونقلل من استخدام شاشات الجوال بين الأطفال والشباب، ولكن لا نمنعهم، فنحن اليوم نواجه مشكلة حقيقية في توافر العمل التقليدي، وأصبح العمل الحر ملاذًا للشباب، وعلينا كأباء تعملنا أهمية العمل الحر وجربناه بأنفسنا، تعليم الشباب كيف يبدأون بدورهم، أقصد بأنه علينا توجيههم إلى كيفية الاستفادة من الهاتف أو اللابتوب.

في إعتقادك هل سيتم الإستعانة بالذكاء الإصطناعي في كل مناحي الحياة، ولماذا التوجه العام لذلك رغم مشاكله ومخاطره؟!

نحن نسير في هذا الاتجاه لقد سجل الذكاء الاصطناعي تواجده حولنا في جميع المجالات من التعليم إلى الطب إلى الأمن والاقتصاد وحتى التقنيات مثل التعرف على الوجوه التي لم تصل درجة دقتها للحد المطلوب للاستخدام في بعض المجالات الحساسة كالأمن يتم اعتمادها بالفعل ويترتب عنها أخطاء كارثية في حق بعض الأشخاص وخصوصا السود منهم.

في بريطانيا والولايات المتحدة تنصب الشرطة هذه التقنيات في معظم الشوارع وتقوم بإعتقالات خاطئة في معظم الوقت بسبب فشل التقنية في تحديد وجوه بعض الأشخاص ما خلق نوع من الخوف والتوتر بين الناس. تخيل أن تسير في الشارع ثم تجد نفسك معتقلا رغما برائتك لأن جهاز الكومبيوتر أخطأ ووضعك كشخص خطير.

على كل يمتلك الغرب الوعي الكافي الذي دفعهم للمحاربة ضد هذه التقنيات. بعض الحروب أتت نتائجها مثل ما حدث في الولايات المتحدة الأمريكية التي سحبت بعض الولايات منها هذه التقنية من الشرطة بعد الرفض الشعبي لها.

هناك فلم وثائقي رائع بخصوص هذه التقنية والسوء الناتج عن أخطائها يدعى coded bias يمكنك مشاهدته عبر نتفليكس.

سأبحث عن الفيلم وأشاهده بعد رمضان بإذن الله تعالى.

أود أن أعرف رأيك الشخصي في هذه التقنيات يا إيمان، ومدى نفعها أو ضررها من وجهة نظرك.

لم أسمع عنها، وأظن من الغباء ان الشرطة قامت باعتقال وفق قول حاسوب، اين هي ضمانات الاعتقال العادلة؟

ماذا جرى بعدها هل ربح القضية؟ قانونيا يلزمه تعويض معنوي

لكن نسبة الخطأ صغيرة جدا فكم من مرة أخطأ الحاسوب في التعرف على الأشخاص الخطأ ،ستكون حتما حالة بعد كل عدد كبير من الحالات

بعيد عن الذكاء الاصطناعي هذا الخطأ وارد ايضا بقضية الشهود البشريين

كثير من الاشخاص تم الاشتباه به والقبض عليهم بسبب شهود اشتبه عليهم بشخص اخر يشبهه بل بعضهم قضوا اعواما في السجن من جراء ذلك

وبالتالي وجود خطأ كهذا وارد وطبيعي, بل الغير طبيعي ان يكون نظام كشف الاوجه نظام مثالي لا يشوبه اي خطأ.

MahdiSarhan أضف ردا

هذا الخطا بشري اكثر بكثير من ان يكون خطا تقني

لم يقم الكمبيوتر بنفسه باعتقاله واهانته! هو فقط قال ان هناك تطابق في الوجوه وربما يكون صحيح وجود تطابق بنسبة معينة يحددها مبرمج الحاسوب

تخيل ان شاهدا راى جريمة وتعرف على وجه القاتل لكن في نفس الوقت هو لم يكن القاتل لكن كان شخص يشبهه.

لذا الخطا حتما ليس من الكمبيوتر بل من المنفذين

اضافة لذلك كم نسبة الخطا مقابل نسبة الصح؟

كم نسبة الخطا والصح للحاسوب مقارنة بنسبة الخطا والصح للبشر؟

ماهي نسبة الانجاز التي سيحققها الحاسوب مقارنة بالبشري والتي ستؤدي لانقاذ الكثير من ما يمكن انقاذه؟

قد يتعرف القاتل على 10 وجوه ل10 جرائم قد يخطئ مرة ويصيب 9

ماهي نسبة ذلك بين الالة والبشر؟

لذا الخطا حتما ليس من الكمبيوتر بل من المنفذين

بالتأكيد هذا لا خلاف عليه، لكن هذا يعكس أن حتى الدول التي تطبقه منذ سنوات ما زال لديها خلل في بناء القاعدة المعلوماتية.

اضافة لذلك كم نسبة الخطا مقابل نسبة الصح؟

حتى لو كانت قليلة فهي قاتلة، شخص بقفص الاتهام ومتهم بجريمة فقط لأن هناك تطابق، برأيي إن لم يكن التحول الرقمي كفيل بحل المشاكل التي كنا نواجهها مع الملفات الورقية وسيظهر لنا مشاكل أكبر، فلا داع لها.

لست ضد التقنية بل بالعكس لكن دون أثار جانبية.

لا ليس خلل في بناء القاعدة المعلوماتية ولا اعتقد انه يوجد نقص حتى

عادة التكنولوجيا تسهل العمل وتجعل الاخطاء اقل

هذا ينبئك بشيء

اذا كان هناك خطا قاتل مثل هذا، فما هو مقدار الخطا الفظيع الذي يمكن لهؤولاء المنفذين ان يقوموا به بدون التكنولوجيا والذكاء الاصطناعي؟ افظع بكثير

خطا قاتل

لكنه بشري وليس تكنولوجي

حتى لو كانت قليلة فهي قاتلة

هي قليلة لان الاخطاء البشرية التي بنفس تاثيرها، اكثر بكثير. هل ترضى باعتماد طريقة تسبب 10 اخطاء ام طريقة تسبب خطا واحد؟

الخطا هو في البروتوكول الذي وضعه المنفذون او المختصون في هذا المجال حيث اعتمدوا على معلومات ذات نسبة خطا ضئيلة (وقد حصلت هذه النسبة الضئيلة) بدون تحقق مكثف.

فمثلاً، الذكاء الاصطناعي لم يطلب منهم اهانته وزجه في سجن قذر. بل قال انه مشتبه به لا اكثر! ويجب التحقق من صحة الامر.