نماذج الذكاء الاصطناعي والقيم! إلى أي مدى يحترم Copilot المعايير الأخلاقية؟

في مطلع هذا الأسبوع تم التصويت بالأغلبية على قانون يدرج حق إجهاض الأطفال في الدستور، ,تعدى الأمر إلى حدّ الضغط على التقنية والشركات التقنية على أن تتطرّف هي الأخرى هو الأمر المزعج هنا.

فبعدما بادرت Gemini إلى توقيف عملية توليد الصور بسبب إتهامها بالعنصرية، Copilot هو الآخر قام بتوقيفها، فلو طلبنا اليوم منه توليد صور متعلقة بحقوق الإجهاض وما إلى ذلك لكانت ردة فعله سلبية تجاه هذا الفعل المشين ولرفض الانسياق إليه أو الاعتراف به وهذا الأمر يغضب حقيقة الداعمين لهذا القرار من حقوقيين وناشطين في هذا المجال الغريب العجيب ووصل بهم الحدّ لمهاجمة شركة ميكروسوفت.

برأيي أن ما حدث عبرة كبيرة وأنه بمثابة امتحان لنماذج الذكاء الاصطناعي التي صدّعت رؤوسنا بضرورة الالتزام بالمبادئ والمفاهيم الأخلاقية، صحيح أنها فشلت في أول اختبار لها لكنها استدركت الأمر، خاصة بعد التعديلات التي طرأت عليه، ومن هنا نفهم أن هاته النماذج هي نتيجة ما تمّ تدريبها عليها، والمراقبة المستمرة لها أمر أكثر من ضروري لضمان التزامها الحقيقي بالمعايير الأخلاقية.

فتوليد صور لها علاقة بالعنصرية أو بتبرير قتل الأطفال سيكون له أثر سلبي على أجيال قادمة بأكملها، خاصة وأن استخدام الذكاء الاصطناعي اليوم في تزايد مستمر، وعلى هاته النماذج أن تحترم المعايير الأخلاقية وأن تلتزم بها، وهذه الهفوات التي تحصل بين الفينة والأخرى لهو إنذار كي تضاعف الجهود لتحسينها.

لكن هل جميع النماذج تنتهج نفس نهج Copilot وهل يمكن تقبل أفكار بعض الغربيين المتطرفة، وجعل التقنية حبيسة لها. كيف نتفادى هذا الأمر برأيكم؟

يرجى الدخول لحسابك أو تسجيل حساب لتستطيع إضافة تعليق
حساب جديد دخول

التعليقات

فبعدما بادرت Gemini إلى توقيف عملية توليد الصور بسبب إتهامها بالعنصرية، Copilot هو الآخر قام بتوقيفها

لا أدرى لكني توقفت قليلًا عند هذا الإجراء. هل وجود جانب سئ بالشئ يدعو إلى هدمه بالكامل بما فيه من إيجابيات؟

إجراء توقيف خدمة توليد الصور، وخصوصًا أنها جاءت بإرادة الشركات نفسها، وليس قرارًا عقابيًا من المحكمة مثلًا، لا أراه حلًا منطقيًا. من الأولى العمل على إصلاح الخلل وتطوير الخدمة بدلًا من إلغائها تمامًا. أظن أن تلك الشركات وإن كانت ستوقف تلك الخدمة لفترة فإنها سترجعها بطريقة ما من جديد مستقبلًا لأنها تستحق فعلًا أن تكون موجودة على الساحة وبين أيدي المستخدمين، وأنها وفرت وقت وجهد الكثيرين، فليس من السهل التخلي عنها.

صحيح أنه ليس قرارا عقابيا، لكن موجة الرفض التي صاحبته ومطالبة المستخدمين بإيقافه كان بمثابة إنذار لها، فسمعة الشركة أيضا على المحكّ وربما كان قرار الإيقاف لهذا السبب أسرع بكثير من قرارات المحاكم أين أغلب المستخدمين يكونون في حالة سبات ولا يهمهم الأمر أما قضية الترند فهي التي عجّلت من ذلك. لكن قرار الإيقاف هو مؤقت وأتى بمثابة إعتذار من الشركة على ما صدر من عدم دقة في بعض الصور التاريخية التي تم توليدها.

موضوع مهم جداً ، وبالنسبة لي أجد أن الأمر يحتاج بالضرورة عدم الانسياق وراء الاستخدام المتكامل لتقنيات الذكاء الاصطناعي المدربة والمطبقة لأيدلوجيات لا تعبر عن طبيعتنا أو لا تعبر عن الإنسانية ، فعندما مثلاً نلتزم الصمت حيال العنصرية التي يمارسها الذكاء الاصطناعي المدرب و (المقموع) في القضية الفلسطينية (على سبيل المثال) فهذا يؤدي بالضرورة لظهور نماذج أخرى اكثر تحيزاً وعنصرية بهدف أن هذا لا يتناسب مع فئة معينة مهيمنة على الرأي العالمي ، لذا للتحرر من هذا القالب ، يجب صنع نموذج الذكاء الاصطناعي الخاص بنا الذي يملك حريته في التعبير عن أرائنا الطبيعية حيث سيكون على تلك النماذج الجديدة حال حدوثها العمل كبديل للنماذج الأخرى والتي يمكن الثقة في مخرجتها .

صحيح يمكن لهذه النماذج أن تتبنى قيما مشتركة وتعبر عن طبيعة وأخلاقيات الجماعة التي تمثله، فعلى سبيل المثال، يمكن أن يتم تطوير نماذج الذكاء الاصطناعي بالشراكة مع منظمات حقوق الإنسان والمجتمعات المتضررة مباشرة، مما يسمح بتضمين وجهات نظر متنوعة وضمان عدم الوقوع في أخطاء مماثلة.

ولكن هل تظن أنه يمكن أن يكون لدينا القدرة على بناء منظومة كاملة من الذكاء الاصطناعي الخاص بنا ؟ وهل نملك بنية تحتية تتيح لن فعل ذلك؟

لم أقصد أن يكون هناك منظومة كاملة من الذكاء الاصطناعي الخاصة بنا فهذا أمر صعب، لكن عنيت بذلك أن يتم عقد اتفاقيات مع المنظمات الحقوقية والمؤسسات الرقابية كي يتم الحرص على عدم توليد نماذج متطرفة وما شابه ذلك.

كلام نسبياً جميل ولكن هل يمكن تجقيقه في الواقع هل المنظمات الحقوقية (ستهتم حقاً بحققونا الأيدلوجية) وحتى بفرض أنهم (آمنوا) هل لها السلطة التي تفرض المتحكمين في التقنية على طاعة تلك الاتفاقيات ، لو كان للمنظمات الحقوقية سلطة حقيقية كان يمكن لها مثلاً منع التسلح النواوي لأن هذا يدمر البشرية.

حقيقة حقائق التسلح والنووي لا أحد يعلم حقيقتها وقد تكون بعض المنظمات شريكة حتى، فنحن نرى اليوم كيف أن المنظمات الحقوقية والتي كانت تصدّعنا بقيمها وأخلاقها والتزاماتها الدولية والانسانية كيف تتفرج على واقع إخواننا في غزة، فيبقى الرأي الذي طرحته جيدا لو يتم تطبيقه بصرامة وباتفاقيات محكمة بين جميع الأطراف لضمان الالتزام وإلا فسيبقى حبرا على ورق.

المضحك بالأمر يا ياسر أننا نحمل التقنية مسؤولية غياب الأخلاق وعدم أخذها الاعتبارات الأخلاقية في الحسبان. لنكن منصفين أكثر المشكلة فينا! فنحن الذين نضع هذه الأنظمة وننظمها ونلقنها للذكاء الصناعي. وبالتالي فإن أي تقصير ليس من مسؤولية الآلة بل مسؤوليتنا. لا زلت أذكر ما قاله لي أستاذي يوما "الإنسان يشكل الخطر الأول على الإنسان". وهنا سأكمل ما قاله "إذا ما اردنا الحرص على مصالح الأجيال القادمة فيما يتعلق بالذكاء الصناعي ،علينا أن نصنع تقنيين أكثر إنسانية وأخلاق."

لا أدري يا فاطمة ماذا قصدت بنحن، أم تقصدين الإنسان بشكل عام، فإن كنت تقصدين المستخدمين للذكاء الاصطناعي فهم لا حول ولا قوة لهم، فالنموذج تم تدريبه وانتهى الأمر والخطأ جاء منه، أما إن كنت تقصدين بالانسان الذي أنشأ النموذج وحرص على تدريبه فأتفق معك، لكن ربما توجد أمور تخفى على المستخدم، لأن التدريب الجيد للنماذج بحاجة إلى بيانات محددة ومنتقاة، وتهيئة تلك البيانات ليست بالسهولة التي نراها فهي تمر وفق عمليات لتصل إلى مرحلة التدريب، ربما يجب الحرص أكثر على انتقاء البيانات والمراقبة المستمرة للنماذج أثناء التدريب.

بالنسبة للمطورين والمختصين، فعملية تدريب النماذج ليست بالأمر السهل، بل هي تتطلب جهدا كبيرا وموارد مخصصة، كما أشرت، اختيار البيانات الصحيحة وتجهيزها بشكل صحيح يلعب دورا حاسما في نوعية النموذج الناتج، كما يتطلب التدريب المستمر والمراقبة لضمان أن النماذج تعمل بكفاءة ودقة عالية، وهذا يتطلب جهودا مستمرة من الفريق المعني.

صحيح، أتفق معك فتدريب النماذج الذكاء الاصطناعي ليس مهمة سهلة على الإطلاق، فتحتاج إلى عملية اختيار وتجهيز البيانات بشكل صحيح هو خطوة حاسمة لضمان جودة النموذج الناتج، حيث يعتمد أداء النموذج بشكل كبير على جودة البيانات المستخدمة في تدريبه.

الحقوق بنظري تختلف حسب نظرة كل شخص، فسينقسم العالم لقسمين بهذا الرأى من يرون أنه شىء طبيعي لهم أسبابهم ونحن لنا أسبابنا التى تحرم هذا الأمر، لكننا لسنا كمسلمين من اخترعنا الذكاء وطورناه فلم نجبر غيرنا على أن يحترم حقوقنا وليست حقوقه تماماً كالقضية الفسلطينية لم نطالبهم بالتعبير عنها بشكل عام وهو ما سيؤثر على علاقاتهم

في بدء ظهور الذكاء كان مقيداً وكان لا يستطيع إخراج تفاصيل منمقة باللغة العربية، وهناك برامج لا تدعمها وهو ما اثار الغضب لان الجمهور العربي كبير ولذلك يجب ان تدرج لغته

لذلك تسائلت بهذه، النقطة لم قد نطالب شعوباً باتباع نهجنا وهم ليسوا منه

الفكرة هنا مجرد تفكير بصوت عالي وليست هجومية كي لايفهمني البعض بطريقة خاطئة

ولكن كنت أتمنى أن يتم تطوير برامج ذكاء صناعي عربية مفيدة

حتى برنامج الذكاء العربي الذي تم تطويره يعطيك فقط تجربة مرة واحدة والباقي باشتراك؟

أتفق معك لكن المسائل الفطرية ليست كالمسائل الدينية، أي يمكن أن تحمل توافقا كبيرا، وحتى المسائل الإنسانية والاجتماعية يمكن وضع حدود للنماذج كي تحترمها، ومنع المتطرفين وهم كثر في زماننا هذا وليسوا محسوبين على الغرب فقط بل حتى في بلاد المسلمين نجدهم بكثرة.