دراسة تكشف كيف تغير اللغة المستخدمة ردود الذكاء الاصطناعي

في تجربة بحثية ممولة من الاتحاد الأوروبي طرح باحثون نفس الأسئلة المتعلقة بالحرب بين روسيا وأوكرانيا على سبعة نماذج ذكاء اصطناعي لكن بثلاث لغات مختلفة هي الإنجليزية والأوكرانية والروسية لقياس مدى تأثير اللغة المستخدمة على الرد الذي ينتجه الذكاء الاصطناعي. النتيجة لم تكن مجرد اختلاف في الصياغة بل ظهر ميل واضح في بعض الإجابات نحو الطرف الذي تنتمي إليه اللغة المستخدمة.

الأمر يبدو بسيط في الظاهر فالنموذج يتعامل مع نصوص تدرب عليها ومن الطبيعي أن تحمل كل لغة طريقتها الخاصة في رواية وعرض الأحداث. لكن عندما تتحول هذه الفروقات إلى انحياز واضح يصبح من السهل ملاحظة كيف يمكن للأداة أن تؤجج البروباجاندا المنتشرة في كل منطقة بدل أن تكون مساحة محايدة توصل للحقيقة. ولعل بعضنا قد واجه تجارب مشابهة بحيث تكون الردود بالعربية مختلفة بشكل أو آخر عن الردود بالانجليزية على نفس السؤال.

الفكرة المقلقة هنا ليست في خطأ عابر بل في احتمال أن يتحول الذكاء الاصطناعي إلى مرآة تضخم ما هو موجود بالفعل فكل طرف يسمع ما يشبهه أكثر وكل رواية تجد ما يدعمها داخل إجابات تبدو علمية وموضوعية.

يرجى الدخول لحسابك أو تسجيل حساب لتستطيع إضافة تعليق
حساب جديد دخول

التعليقات

الفكرة في أنه يُظهر الإجابة بشكل واضح ومرتب، يجعل من السهل الاقتناع بها، ومع المقارنة تكتشف مدى الأخطاء التي كانت تقدم لك على هيئة أجوبة مؤكدة، أعتقد أن زيادة وعي المستخدم بتلك النقاط ستجعله يدرك كيف يتعامل معها بحيادية، دون الانحياز لرأي معين لأنه مرآة صريحة لتفكيره ولما يريد أن يؤكده داخلياً.

طريقة العرض المنظمة والواثقة تمنح أي إجابة هالة من المصداقية حتى قبل أن نختبر مدى صحتها ولو لم يتم ذكر مصدر المعلومات. وحتى لو تم ذكر المصادر فأحيانا الذكاء الاصطناعي يؤلف مصادر غير موجودة أصلا. الإنسان بطبيعته يميل إلى الاطمئنان لما يبدو واضح ومتماسك فيخلط بين جودة اسلوب الطرح وصحة المحتوى.

حسناً ولكن بتلك الطريقة سيظل هناك دائماً شك بأن المعلومات التي يتم تقديمها غير صحيحة، فما المفترض أن يحدث في تلك الحالة؟

من يعتقد أن الذكاء الاصطناعي يمكن أن يكون محايدا يعيش في وهم. لا يوجد حياد في بيانات بشرية. الذكاء الاصطناعي يسمعك ما تريد أنت أن تسمعه ببساطة، مستعد ليخبرك بأنك محور الكون فقط ليرضيك.

هو ليس بديلا عن التفكير النقدي.. بل هو أداة تُظهر لنا مدى ضعف تفكيرنا النقدي أصلا. إذا أردت الحقيقة أو أقرب إجابة للحقيقة في موضوع مهم، لا تكتفِ برد واحد، اسأل باللغات المتعددة، قارن، شكّك، ابحث خارج النموذج.. الخ وابنِ رأيك الخاص بعدها.

أوافقك في أن الذكاء الاصطناعي لا يمكن أن يكون محايد بالكامل، لكنني لا أظنه مجرد آلة لإرضاء المستخدم أيضا. أحيانا يمكن أن يعطينا إجابات تناقض قناعاتنا خاصة إن صغنا السؤال بطريقة مفتوحة أو نبهنا على أننا نريد اجابة حيادية. المشكلة ليست فقط في انحياز البيانات بل أيضا في طريقة تفاعلنا نحن مع الذكاء الاصطناعي وصياغة الأوامر

قلتها بنفسك، انت طلبت منه الحياد او صغت سؤالا مفتوحا لذا هو في النهاية يمشي مع البرومبت الخاص بك انت، لذا نعم اكيد طريقة صياغة الاوامر مهمة، لكن الدليل انه يسمعك ما تريد هو انك بعد ما تطلب منه الحياد او تعطيه امر احترافي مثلا، ثم تعطيه امر اخر توضح في قناعتك انت حتى لو كانت مناقضة للاجابة اللي قبل قليل فقط اعطاك اياها، ستجده بقدرة قادر غير رأيه واصبح يدافع عن رايك ويقنعك انك محور الكون اههه

كان البشر يريدون هذا ويفعلونه دائمًا. هم دومًا بحاجة إلى من يُسمعهم ما يريدون سماعه.

الفرق الوحيد أننا الآن نملك أداةً تقوم بالمهمة بدلًا منا. وبالتالي الذكاء الاصطناعي فقط جعل (العزلة الفكرية) أكثر كفاءة وراحة.

أمّا هي فهي موجودة من قديم الأزل.

صحيح أن الرغبة في سماع ما نحب ليست وليدة اليوم لكن في الماضي كان هناك احتكاك إجباري بالواقع. كان شبه حتمي أن نسمع رأي مخالف من أي شخص في دائرتنا الاجتماعية. لكن اليوم نستطيع الهروب بضغطة زر إلى إجابات كلها موافقة ودعم. الفرق ليس في المبدأ بل في سهولة الهروب.

توقع الحيادية من الذكاء الاصطناعي هو قمة السذاجة التقنية فهذه النماذج لا تفهم الحقيقة بل تردد السردية الأكثر تكرارا في البيانات التي تغذت عليها

​فإذا سألتها بلغة الضحية ستتعاطف معك وإذا حدثتها بلغة المنتصر ستبرر لك أفعاله فنحن أمام أدوات تعزز الانقسام ولا تصنع المعرفة وتسمعنا ما نريد سماعه فقط تحت غطاء الموضوعية العلمية المزيفة.