عنصرية الذكاء الاصطناعي

" الخوارزمية كانت متحيزة ضد الأمريكيين من أصول إفريقية " ، على أى بيانات قامت الخوارزمية ؟ أى بيانات تم ضخها لتدريب الذكاء الإصطناعى، على بيانات واقعية و إذا كان فى الواقع من الأصل التحيز حدث من مصدر البيانات نفسه بالتاكيد أنه ستظهر الخوارزمية ذلك التحيز .

مثال إذا كانت من ضمن البيانات التى يتم تحليلها هو عدد مرات الإيقاف من قبل رجال شرطة او عدد مرات الأبلاغ ، و جميعناً نعلم عن درجة العنصرية إتجاة أصحاب الأصول الأفريقية و بالتالى نجد عدد كبير من الذين تم إيقافهم من الشرطة وبدون داعى من أصحاب الأصول الأفريقية و نجد عدد بلاغات كبير من قبل البيض عنهم بدون أى داعى أو أحقيه ؟

ما أريد أن اوضحه أن الخزارزمية أظهرت لنا مدى العنصرية التى تم الوصول لها إتجاه أصحاب الأصول الأفريقية فى ذلك المجتمع، فإذا كان مصدر البيانات متحيز ! ماذا نتوقع من الذكاء الإصطناعى أن يفعل ؟

 لازالت شخصية وثقافة المبرمجين لنماذج الذكاء الاصطناعي تفرض سيطرتها بشكل أو بآخر على قرارات نماذج الذكاء الاصطناعي.

لا أعتقد أن الأمر له علاقة بشخصية وثقافة المبرمجين بل الأمر أنه البيانات التي يتغذى عليها الذكاء الاصطناعي هي البيانات المتاحة في الواقع وهي أن هنالك العديد من البيانات حول الأمريكيين من أصول أفريقية سجلهم الإجرامي مرتفع لأنه يتم التركيز عليه بسبب العنصرية الموجودة بالفعل ويتم التغاضي وتقليل البيانات عن الفئات الأخرى.

هل تتوقع أنه من الممكن أن نصل للشفافية التامة في برمجة الذكاء الاصطناعي

نعم أتوقع أن يكون هناك تقدم ملحوظ في تقنيات الذكاء الاصطناعي بالمستقبل القريب، خاصة مع وجود ضغوط قانونية على الشركات لوضع قواعد تضمن الشفافية، كما أن فكرة الشفافية نفسها ليست مجرد تطوير أو هدف عادي، وإنما أراها ضرورة أخلاقية لمنع العنصرية والتنمر، فلا يجب أن تتأثر تلك التقنيات التي من المفترض أن تكون مساعدة لنا بأي آراء بشرية على الإطلاق، لذلك ينبغي أن تتبع أسلوب حيادي بحيث تكون الشفافية جزء لا يتجزأ من نتائجها.

حتى لا نظلم النموذج أنصحك بقرأة الأبحاث عن معدلات الجريمة والعودة بعد تلقي العقاب، وأقرأ أيضاً عن تحول السلوك وخصوصاً عند فئة المدمنين، ستجد أن أصحاب البشرة السوداء سجلوا أرقام مرتفعة في أي معدل سلبي، وذلك هو السبب في تحيز مثل هذه الأدوات

أرى أن الأمر يحتاج بالفعل لكثير من العمل، والأهم هو الإرادة، فرغم ان الجميع يدعو للالتزام بالضوابط الأخلاقية في برمجة واستخدام أدوات الذكاء الاصطناعي إلا أن هذا يعتمد بصورة كبيرة على إرادة المجتمع نفسه نحو تطبيق ذلك، فالمبرمجين والمستخدمين هم في النهاية بشر لديهم ميول وتوجهات، قد ينحاز بعضهم لرأي أو فئة أو نوع أو عرق، في النهاية الذكاء الاصطناعي متحيز لأن المجتمع نفسه متحيز، لذا فالموضوعية والحيادية هي دعوات تحتاج للكثير من العمل لتطبيقها لأن هذا يتطلب إصلاح توجهات المجتمع نفسه.