3

كيف يستطيع الذكاء الاصطناعي أن يقنعك بمعلومات مزيفة

مع انبهار الجميع حاليا بقدرة الذكاء الاصطناعي وخصوصاً ChatGPT على مجاراة البشر في محادثات حقيقية، أصبحنا أكثر عرضة من أي وقت مضى إلى تصديق هلوسات الذكاء الاصطناعي أو بمعنى آخر النتائج المغلوطة التي قد يزودنا بها الذكاء الاصطناعي في حال تغذيته بمعلومات خاطئة عن الموضوع.

هذا قد يكون أمر هذه المسألة تكتسب أهمية أكبر عندما ننظر إلى المجالات الحساسة مثل الطب، القانون، والسياسة. إذا كان الذكاء الاصطناعي يستطيع أن يقنع المستخدمين بمعلومات خاطئة في هذه المجالات، فقد يؤدي ذلك إلى عواقب وخيمة. مثلًا سمعت منذ بضعة أيام أن أحد المسؤولين الكبار في أحد الدول سأل ChatGPT عن الإنجازات التي تحققت في المجال الطبي لكن تبين بعد ذلك أن جميع النتائج كانت مضللة وغير حقيقية بالمرة.

ما رأيك، كيف يمكن أن يؤثر استخدامنا للذكاء الاصطناعي دون مراجعة نتائجه علينا


1
raghd_agaafar أضف ردا

تذكرت مرة حين سأل أحد جي بي تي عن ملكة فرعونية لا وجود لها فاخترع قصة تاريخية عنها أشبه بالحقيقية. تكاد تصدقها،

ولكن لا ننكر أنه في تطور ملحوظ من ناحية دقة المعلومات المقدمة، ولكنه لا زال يهلوس فعلًا. على كل حال هو أخلى المسؤولية من طرفه وصرّح باحتمالية حدوث ذلك، والمسؤولية تقع علينا نحن الآن في التأكد والمراجعة أو على الأقل طلب المصدر منه، والجيد بالأمر أنه يقتنع سريعًا بصراحة لا يجادل معك.

2
Laithith أضف ردا

صحيح، في أحد الأيام سألته عن قصة "صخرة اذكريني" والموتور القريب منها، وهي قصة معروفة حدثت في دمشق. لكنه اختلق لي قصة خيالية وقام بتسميت بطلها "موتور" ، بينما كنت أقصد بالموتور الدراجة النارية

0
Kareem_Magdy أضف ردا

من الجدير بالذكر أيضا ان ChatGPT يفتقر للكثير من التطوير فيما يتعلق بالتاريخ والثقافة العربية والإسلامية واللغة العربية أيضا. فرغم ما وصل له من تطور متسارع وملحوظ في إنتاج إجابات متقنة ويصعب التمييز بينها وبين المنتج البشري باللغة الإنجليزية، إلا انه ما زال ينتج إجابات اللغة العربية بأسلوب ركيك خالي من أي مظهر من مظاهر الفصاحة أو مراعاة قواعد النحو بأي شكل. ناهيك عن جهله بالكثير من الأحداث التاريخية في الوطن العربي سواء في التاريخ الحديث كما تفضلت أو حتى بالتاريخ القديم

1
Kareem_Magdy أضف ردا
والجيد بالأمر أنه يقتنع سريعًا بصراحة لا يجادل معك

لكن هذه الثغرة رأينها تستخدم دائما على نحو سلبي. فقد رأيت بعض الأشخاص يحاولون إقناعه مثلا أن 2 + 2 = 5 وقد كان هذا الأمر مشهورا لعلك اطلعتي عليه. فظل المستخدم يكرر على ChatGPT الأمر بأشكال مختلفة وظل يرفض الأمر مرارا وتكرارا إلى أن بدأ يقتنع مع الوقت إلى أن اقتنع بالأمر واعتذر عن خطأه. كان هذا منذ بضعة أشهر فلا أعرف إذا كانت الخوارزمية تحسنت وأصبحت أقل عرضة لهذه الأمور إلا أنها ثغرة أخرى تضاف إلى الهلوسات وتؤكد أيضا على ضرورة المراجعة وطلب المصدر فعلا كما ذكرتي