الصندوق الأسود: هل تقمعنا الخوارزميات؟عن فيلم “Coded Bias”

كنت قرأت منذ فترة عن هذا الأمر، وتخيلت أنها مع التطور الآن وبدء الدول العربية باستخدام تقنية الوجه بأن هذه المشكلة تكون قد حلت، ولكن بعد مشاركة @Mohamed_Fayad‍ لهذه المساهمة تأكدت أن الأمور مازالت.

ما فكرت فيه هل الأخطاء الناجمة حقا هي بسبب الأجهزة أم بالنهاية هي خطأ من المسئولين وعدم قدرة على حل المشكلات، فنحن البشر من نضع المعلومات ونمد الآلة بها، فمثلا لو الخوازميات من البداية لم يتم وضعها لتمييز اللون الأبيض من الأسود لما قد تحدث هذه المشكلة.

من المؤسف حقا أن نكون في سنة 2021 الآن ولازلنا في نفس الوقت نتكلم حول العنصرية والتمييز العرقي!!

بعد كل ما وصل إليه البشر من اختراعات ووعي سياسي وصحي.. والتعايش الحاصل الآن في عديد الدول بين مختلف الأجناس.. لكن لا يزال الجانب الثقافي متأخرا جدا وبعيدا كل البعد عن مفهوم تقبل الآخر بالمفهوم الإيجابي أي تقبل أنّ الناس ليسوا جميعهم متشابهين.. فالإختلاف واضح بيننا وسيبقى وهو أحد صفاتنا، ومن يُحاول إزالة هذه الإختلافات سواءا باختلاق الحروب أو الأوبئة لإبادة شعوب ما دون أخرى أو اختلاق مشاكل إجتماعية عنصرية كما يحدث في الولايات المتحدة.. فإنما يُحاول عبثا..

وقد سبق وتحاورت مع أحد العنصريين الكارهين لذوي البشرة السوداء وأخبرني وِجهة نظره التي تتلخص في جزئية أنّهم مجرمون ورجال عصابات ولا يعملون بعرق جبينهم وإنما يتسكعون طيلة اليوم.. وأنهم يستحقون الطرد من الولايات المتحدة! هذا الشخص الذي تحاورت معه عاش في الوايات المتحدة أكثر 30 سنة وخالط الكثير من الأجناس وأخبرني أنّ اللاتينيين الجنوبيين والأفارقة معظمهم بلا فائدة للإقتصاد الأمريكي! ولا المجتمع الأمريكي عموما!!

لكني رددت عليه أنّ المشكلة ربما يكون منشأها حكوميا رسميا، فلا يُعقل أنّ السلطات الأمريكية تتعمد إنشاء أحياء كبيرة للسود ومنعزلة عن مركز المدينة في الضواحي البعيدة.. كما أنها لا تُفر لهم تعليما جيدا وراقيا وتتعمد إنشاء مدارس خاصة بهم وتُشجع على الفصل العنصري ولو بشكل رسمي.. فمن المؤكد أن يكونوا مجرمين ورجال عصابات في النهاية لأنهم لم يجدوا الدعم الكافي والإهتمام

لذا مشكل تحيز الخوارزميات هو في الأساس متعمد ومُختلق وليس عفوي برأيي..

من أفضل الأفلام الوثائقية التي تتحدث عن مشكلة التحيز في الذكاء الإصطناعي.

هذه التحيزات التي تقوم بها الآلة هي نتيجة لممارسات التحيز العرقي والنوعي التي مارسها الإنسان لقرون طويلة من الزمن، الألة ببساطة تتعلم من البيانات الموجودة والمتراكمة عن ممارساتنا القبلية، وبياناتنا للأسف مليئة بالعنصرية ضد السود والتمييز ضد النساء وأشكال أخرى كثيرة من التمييز العنصري لم يرد ذكرها في هذا الوثائقي فقط.

لهذا يفترض على الشركات الكبيرة المطورة لهذه التقنيات أن تكون أكثر حذرا في اختيار البيانات التي تدرب عليها آلاتها، وإن كانت هذه الشركات التي تقع تحت سلطة رجال بيض لا تهتم فيجب على القوانين والمسؤولين أن يتدخلوا مثلما قام به الكونغرس وبعض الولايات الأمريكية ضد تقنية التعرف على الوجوه المستخدمة من قبل الشرطة الأمريكية.