ماذا لو أصبح الذكاء الاصطناعي يتجاوز اختبارات 'أنت روبوت؟' بسهولة؟
أحيانًا عندما ندخل على أحد المواقع، يظهر اختبار "أنت روبوت؟" لمنع الذكاء الاصطناعي من الدخول. لكن ما أثار دهشتي هو أنه وفق تجارب حديثة، تمكن وكلاء مبنيون على ChatGPT من تجاوز بعض من اختبارات الـCAPTCHA بسهولة.
فقد استطاعوا الضغط على زر التخطي، والتعرف على نصوص مشوشة، وأيضًا حل ألغاز نصية، لكنهم لم يتجاوزوا الاختبارات تمامًا، إذ واجهوا صعوبة مع الصور المركبة المعقدة.
هذا يعني أنهم تمكنوا من تخطي خط الحماية الأول لهذه المواقع، وهو ما يضعنا أمام حقيقة جديدة: نوع الحماية المستخدم أصبح هشًا ويحتاج إلى التغيير. نحن الآن بحاجة ماسة إلى تقنيات تحقق جديدة تعتمد على السلوك البشري أو البيانات البيومترية، وليس مجرد التمييز بين نصوص وصور.
فكيف نعيد تصميم آليات جديدة لتلبية هذا الهدف؟
الضرر الحقيقي لا يكمن في أن الروبوتات ستتمكن من الدخول للمواقع، بل في أن البيانات التي تُجمع من خلال هذا التجاوز ستصبح أكثر تعقيدًا وإقناعًا لاستخدامها في أغراض ضارة. فبدلاً من رؤية ضرر مباشر مثل إغراق موقع واحد بالرسائل، سنرى ضررًا غير مباشر مثل هجمات احتيالية نتيجة ان يجمع بيانات ويحللها بسرعة فائقة لإنشاء رسائل احتيالية أو شخصية فائقة الإقناع يصعب على البشر تمييزها. وقد يحدث كذلك تلاعب بالرأي العام أو الأسواق: من خلال إنشاء حسابات وهمية ذات مصداقية عالية جدًا تتفاعل بسلاسة مع المحتوى، مما يؤدي إلى تضخيم أو تهميش وجهات نظر معينة بشكل مصطنع وفعال للغاية.
التعليقات