قرأت هذه المقولة في مقالة على هبسبوت hubspot: "الذكاء الاصطناعي متحيز لأن المجتمع متحيز"، ولفتت انتباهي حيث تعبر الكاتبة عن تجربتها مع الذكاء الاصطناعي، وبما أن الذكاء الاصطناعي يتم تغذيته بآراء وأفكار ومعطيات من المجتمع فالبتالي فإن المخرجات تعبر عن المجتمع وآراءه، فإذا كان هناك تحيزًا ضد عرق معين أو دين أو أفكار معين فهذا سيظهر خلال إجاباته ولو بصورة غير مباشرة.
في رأيك إلى أي مدى تلك المقولة صحيحة؟ ولماذا؟
أعتقد أنها صحيحة للغاية ولكن هذا كان في النسخ القديمة، وأتذكر إنني قد استعنت بموقع chat gpt لجمع معلومات عن بحث للعنصرية، وتفاجئت بكم الوقاحة والإهانة التي كانت تنص عليها المعلومات، ولكن هذا لا يحدث معي حتى الآن بالنسخ المتطورة.
المشكلة ليست في chat gpt وحده، بل في التقنية نفسها، والضوابط الإنسانية والأخلاقية التي تخضع لها.
ذكرت الكاتبة في نفس المقالة التي اقتبستُ منها المقولة أنها قررت الاستعانة بإحدى أدوات توليد الصور بالذكاء الاصطناعي لتوليد صور عن المدراء التنفيذيين ورواد الأعمال، فكانت الصور كلها لمجموعة من ذوي البشرة البيضاء ولم تجد صورة واحدة لذوي البشرة السمراء أو غيرهم، وقالت إن هذا نتيجة الصورة النمطية بالمجتمع والذي يعطي الأحقية لذوي البشرة البيضاء من الرجال بتولي المناصب القيادية حصرًا.
في النهاية، الذكاء الاصطناعي هو اختراع بشري يعتمد على البيانات والتوجيهات البشرية التي أدخلها مصمموه، ويمكنهم توجيه الذكاء الاصطناعي نحو آراء ومعتقدات محددة بسهولة لذا من الممكن أن يكون متحيزاً
لكن من المفترض لتقنية تم ابتكارها لخدمة الإنسان على الأقل أن تتمتع بالموضوعية لا أن يتم برمجتها علي اتباع تحيزات لفئات معينة، لك أن تتخيلي ما يمكن ان يتعلمه الاطفال إذا نشأوا على الاستعانة بتلك التقنية في الحصول على إجابات وتحصيل المعرفة، فبينما يتغنى الغرب بالمساواة وحقوق الإنسان يحقنون أفكارًا سلبية خلال تقنياتهم وادواتهم.
لكن يا عزيزتي، هل تعتقدين أنه تم ابتكار أي شيء يخدم الإنسان بشكل موضوعي؟ فمثلاً كيف يمكننا التعامل مع وسائل التواصل الاجتماعي التي تقيد حريتنا في التعبير عن آرائنا ومعتقداتنا؟ فالسؤال الذي يطرح نفسه هو كيف يمكننا مكافحة هذا التحيز والحد من تأثيره السلبي؟
لدي تجربتي الخاصة اليوم، يال سعادتي!، فقد وجدت موقعًا رائجًا للتو، تقوم فيه آليات الذكاء الاصطناعي بتحليل محتوى حسابك الشخصي في تطبيق x وتعطي نبذة عنك بناءً على النتائج ثم توجد خانة تحوي انتقادًا لاذعًا، وهو بحق أحد أكثر التعليقات قسوة ووقاحة واجهتها في حياتي، لدرجة قد تجعلك تشكك في أن من كتب هذا النص ليس الذكاء الاصطناعي بل شخص يكرهك شخصيًا!
وتوجد بعض العبارات المتحيزة والعنصرية، إلى أي درجة يمكن أن تصل وقاحة الذكاء الإصطناعي هذا!
وتوجد بعض العبارات المتحيزة والعنصرية، إلى أي درجة يمكن أن تصل وقاحة الذكاء الإصطناعي هذا!
لدي فضول حول معرفة نوع التحيز والعنصرية التي بني عليها الذكاء الاصطناعي تلك التعليقات، هل كانت حول الدين أو النوع أو العرق أو حتى المحتوى الذي تقدمينه عبر حسابك؟
إلى جانب سخريته من محتوى حسابي إلا أن تحيزه ضد الدين كان مزعجاً بالنسبة لي، هناك بعض الأشخاص شاركوا تجارب أسوء مع البرنامج، فقد بنى جملاً مسيئة لأبعد درجة للدين وللذات الإلهية بشكل غريب، أفكر أحيانًا فيما لو كان بإمكانه إنشاء جمل بنفس الإهانة للأديان الأخرى!
جمل كهذه لا تصدر إلا من مسلم سابق ملحد حالي.
هي صحيحة لحد كبير، ولكن هناك حلول يمكن تبنيها. السبب في ذلك أن الذكاء الاصطناعي لا يمكنه تجاوز البيانات التي يتدرب عليها. إذا كانت تلك البيانات مشبعة بتحيزات المجتمع، فإن النظام لن يكون محايدًا بشكل كامل. وإزالة التحيزات من البيانات أمر معقد ويتطلب مراجعة دقيقة وتصحيح البيانات، وهو ليس دائمًا ممكنًا أو متاحًا. وهناك العديد من الأمثلة الواقعية التي أظهرت تحيزات في أنظمة الذكاء الاصطناعي، مثل التحيزات في أنظمة التعرف على الوجه أو التوظيف أو اتخاذ القرارات القضائية. وهنا، تظهر ضرورة التدخل البشري.
مثل التحيزات في أنظمة التعرف على الوجه أو التوظيف أو اتخاذ القرارات القضائية. وهنا، تظهر ضرورة التدخل البشري.
المشكلة هنا هي: هل القائمين على تلك التقنيات راغبين في تقنين وتحييد تلك التحيزات، أم أنها تناسب أهدافهم؟
راغبين بذلك بالطبع؛ لأنهم لن يستطيعوا تحقيق المكاسب المادية من وراء تقنية لا تعمل، ونسبة خطأها كبيرة.
التعليقات